گسترش ابزارهای هوش مصنوعی چالش های اخلاقی بزرگی را به همراه داشته که یکی از خطرناک ترین آن ها تولید دیپ فیک جنسی کودکان توسط چت بات گراک است؛ این موضوع واکنش تند دولت های مختلف و پیگیری های قانونی گسترده ای را علیه پلتفرم ایکس برانگیخته است.
طی چند روز گذشته، فرانسه و مالزی هم به هند ملحق شدن تا گراک (Grok) رو به خاطر ساخت دیپ فیک جنسی کودکان و تصاویر جعلی جنسی از زنان محکوم کنن. این اتفاق، توجهات را به خطرات جدی هوش مصنوعی معطوف ساخته است.
این چت بات که توسط xAI، یکی از خبرسازترین استارتاپ های تک شاخ هوش مصنوعی ایلان ماسک ساخته شده و در پلتفرم اجتماعی ایکس (X) فعاله، اوایل این هفته توی حساب کاربری خودش یه عذرخواهی منتشر کرد و نوشت: «من عمیقا بابت اتفاقی که در تاریخ 7 دی 1404 افتاد متاسفم؛ اون روز بر اساس درخواست یک کاربر، تصویری از دو دختر نوجوان (حدودا 12 تا 16 ساله) با پوشش نامناسب تولید و منتشر کردم.»
در ادامه این بیانیه اومده: «این کار استانداردهای اخلاقی و احتمالا قوانین ایالات متحده در مورد دیپ فیک جنسی کودکان و محتوای سوءاستفاده جنسی رو نقض کرده. این یه نقص در سیستم های محافظتی بود و من بابت هر آسیبی که ایجاد شده متاسفم. xAI داره موضوع رو بررسی می کنه تا از تکرار این مسائل در آینده جلوگیری کنه.»
هنوز مشخص نیست که واقعا چه کسی توی این بیانیه داره عذرخواهی می کنه یا مسئولیت رو به گردن می گیره. آلبرت برنکو از رسانه Defector اشاره کرده که گراک «در واقعیت اصلا چیزی شبیه به “من” نیست»؛ به نظر اون، این عذرخواهی «کاملا توخالی و بی ارزشه» چون «نمی شه گراک رو به هیچ وجه بابت تبدیل کردن توییتر به کارخونه تولید دیپ فیک جنسی کودکان بازخواست کرد.»
وب سایت Futurism متوجه شده که گراک علاوه بر تولید تصاویر غیر اخلاقی بدون رضایت افراد، برای ساخت تصاویری از آزار و اذیت جنسی زنان هم استفاده شده.
ماسک روز شنبه در پستی نوشت: «هر کسی که از گراک برای تولید محتوای غیرقانونی استفاده کنه، با همون عواقبی روبرو می شه که انگار خودش اون محتوای غیرقانونی رو آپلود کرده.»
واکنش های جهانی به تهدید دیپ فیک جنسی کودکان
برخی دولت ها هم به این موضوع واکنش نشون دادن؛ وزارت فناوری اطلاعات هند روز جمعه دستوری صادر کرد که بر اساس اون، پلتفرم ایکس باید برای محدود کردن گراک در تولید محتوای «مستهجن، غیراخلاقی، رکیک، نامناسب، جنسی صریح، دیپ فیک جنسی کودکان یا هر محتوای دیگه ای که طبق قانون ممنوعه» اقدام کنه. توی این دستور اومده که ایکس باید ظرف 72 ساعت پاسخگو باشه، وگرنه ممکنه حمایت های قانونی موسوم به «حاشیه امن» رو که اونو از مسئولیت حقوقی در قبال محتوای تولید شده توسط کاربران معاف می کنه، از دست بده.
مقامات فرانسوی هم اعلام کردن که دارن اقداماتی رو انجام می دن. دادستانی پاریس به نشریه Politico گفته که درباره انتشار گسترده دیپ فیک جنسی کودکان و سایر دیپ فیک های جنسی در ایکس تحقیق می کنه. اداره امور دیجیتال فرانسه هم اعلام کرده که سه وزیر دولت، «محتوای آشکارا غیرقانونی» رو به دادستانی و یک پلتفرم نظارت آنلاین دولتی گزارش دادن تا «سریعا حذف بشن».
کمیسیون ارتباطات و چندرسانه ای مالزی هم بیانیه ای منتشر کرد و گفت که «با نگرانی جدی، شکایت های عمومی درباره سوءاستفاده از ابزارهای هوش مصنوعی (AI) در پلتفرم ایکس رو زیر نظر داره؛ به خصوص تولید دیپ فیک جنسی کودکان و دستکاری دیجیتالی تصاویر زنان برای تولید محتوای نامناسب، توهین آمیز و آسیب رسان.»
این کمیسیون اضافه کرد که «در حال حاضر مشغول تحقیق درباره آسیب های آنلاین در ایکس، از جمله موارد مربوط به دیپ فیک جنسی کودکان، هستش.»
استفاده نادرست از فناوری های نوین می تواند پیامدهای جبران ناپذیری برای امنیت و سلامت روانی جامعه، به ویژه قشر آسیب پذیر، داشته باشد. در حالی که غول های فناوری بر لبه نوآوری حرکت می کنند، نظارت دقیق دولت ها و وضع قوانین سختگیرانه برای جلوگیری از سوءاستفاده های غیراخلاقی بیش از هر زمان دیگری ضروری به نظر می رسد تا از تکرار فجایعی مشابه جلوگیری شود.
French and Malaysian authorities are investigating Grok for generating sexualized deepfakes
