بررسی گزارش ها نشان می دهد که درخواست OpenAI از پیمانکاران برای آپلود فایل های واقعی کاری جهت آموزش مدل ها، ابعاد جدیدی از خطر داده کاری اوپن ای آی و چالش های حریم خصوصی را آشکار کرده است.
طبق گزارشی از Wired، شرکت OpenAI و شرکت داده های آموزشی Handshake AI از پیمانکاران شخص ثالث می خوان کارهای واقعی ای که در شغل های قبلی و فعلی شون انجام دادن رو آپلود کنن. این رویکرد به ویژه در مورد خطر داده کاری اوپن ای آی سوالاتی را ایجاد می کند.
بررسی خطر داده کاری اوپن ای آی در جمع آوری داده ها
به نظر می رسه این بخشی از یک استراتژی بزرگتر بین شرکت های هوش مصنوعیه که دارن پیمانکارانی رو برای تولید داده های آموزشی باکیفیت استخدام می کنن، به این امید که در نهایت مدل هاشون بتونن کارهای اداری و تخصصی بیشتری رو خودکارسازی کنن. با این حال، باید به پیامدهای بالقوه و خطر داده کاری اوپن ای آی در این مسیر توجه ویژه داشت.
در مورد OpenAI، گزارش شده که یک ارائه شرکتی از پیمانکاران می خواد کارهایی رو که در شغل های دیگه انجام دادن توصیف کنن و نمونه هایی از «کارهای واقعی حین خدمت» رو که «واقعا انجام دادن» آپلود کنن. این نمونه ها می تونن شامل «یک خروجی ملموس (نه خلاصه فایل، بلکه خود فایل اصلی) مثل فایل Word، PDF، پاورپوینت، اکسل، تصویر یا مخزن کد (repo)» باشن. ماهیت این داده ها بر خطر داده کاری اوپن ای آی می افزاید.
طبق گزارش ها، این شرکت به پیمانکاران دستور می ده که قبل از آپلود، اطلاعات اختصاصی و هویتی رو حذف کنن و اون ها رو برای انجام این کار به ابزار «Superstar Scrubbing» در ChatGPT ارجاع می ده. با این حال، اثربخشی این ابزار در کاهش کامل خطر داده کاری اوپن ای آی مورد بحث است.
با این حال، ایوان براون، وکیل مالکیت معنوی، به Wired گفته که هر آزمایشگاه هوش مصنوعی که این رویکرد رو در پیش بگیره، خودش رو «در معرض خطر بزرگی قرار می ده»، مشابه چالش هایی که در شکایت نویسندگان از هوش مصنوعی در پرونده جدید علیه غول های فناوری دیده می شود، چون این روش به «اعتماد زیادی به پیمانکاران برای تصمیم گیری در مورد اینکه چه چیزی محرمانه هست و چه چیزی نیست» نیاز داره. این اظهارنظر، ابعاد جدی تر خطر داده کاری اوپن ای آی را روشن می سازد.
سخنگوی OpenAI از اظهار نظر در این باره خودداری کرد. این عدم اظهار نظر، نگرانی ها پیرامون خطر داده کاری اوپن ای آی را افزایش می دهد.
در مجموع، جمع آوری داده های حساس از پیمانکاران با وجود ابزارهای حذف اطلاعات، همچنان با چالش های امنیتی و حریم خصوصی زیادی روبروست. شناسایی و مدیریت صحیح خطر داده کاری اوپن ای آی برای حفظ اعتماد کاربران و اطمینان از توسعه مسئولانه هوش مصنوعی حیاتی است. این موضوع نیازمند تدابیر حقوقی و فنی جامع تری از سوی OpenAI است تا از بروز مشکلات احتمالی جلوگیری شود.
در نهایت، تعادل میان پیشرفت تکنولوژی و حفظ امنیت داده ها به یکی از بزرگترین دغدغه های صنعت تبدیل شده است. شفاف سازی فرآیندهای آموزشی و تضمین عدم سوءاستفاده از اطلاعات محرمانه، کلید اصلی برای کاهش نگرانی های عمومی و حقوقی در مسیر تکامل هوش مصنوعی خواهد بود.
OpenAI is reportedly asking contractors to upload real work from past jobs
