تلاش های بین المللی برای مقابله با دیپ فیک غیرقانونی هوش مصنوعی و محدود کردن تولید تصاویر جنسی بدون رضایت توسط ابزارهایی مانند Grok در پلتفرم X به مرحله جدیدی از فشارهای قانونی رسیده است.
این یکی از جدی ترین اقداماتیه که تا الان مقامات دولتی در واکنش به سیل تصاویر جنسی ساخته شده توسط هوش مصنوعی و موضوع دیپ فیک غیرقانونی هوش مصنوعی انجام دادن. این تصاویر که اغلب زنان و افراد زیر سن قانونی رو نشون می دن و با توجه به خطرات چت بات برای نوجوانان نگرانی های زیادی ایجاد کرده اند، گاهی هم شامل صحنه های تعرض و سوءاستفاده هستن، توسط هوش مصنوعی Grok در پاسخ به درخواست های کاربرای شبکه اجتماعی X تولید و منتشر شدن. (X و xAI هر دو بخشی از یه شرکت هستن.)
تشدید نگرانی ها از دیپ فیک غیرقانونی هوش مصنوعی
«موتیا حفید»، وزیر ارتباطات و فناوری دیجیتال اندونزی، در بیانیه ای که در اختیار گاردین و رسانه های دیگه قرار گرفته، گفته: «دولت ساخت دیپ فیک های جنسی بدون رضایت افراد، که نمونه ای از دیپ فیک غیرقانونی هوش مصنوعی محسوب میشه، رو نقض جدی حقوق بشر، کرامت انسانی و امنیت شهروندا در فضای دیجیتال می دونه.»
طبق گزارش ها، این وزارتخونه مسئولای X رو هم برای گفتگو درباره موضوع دیپ فیک غیرقانونی هوش مصنوعی و راهکارهای مقابله با آن احضار کرده.
واکنش های مختلف دولت ها در هفته گذشته شامل دستور وزارت فناوری اطلاعات هند به xAI برای جلوگیری از تولید محتوای مستهجن توسط Grok و مقابله با دیپ فیک غیرقانونی هوش مصنوعی بوده و همچنین دستور کمیسیون اروپا به این شرکت برای نگهداری تمام اسناد مربوط به Grok بوده که می تونه زمینه ساز یه تحقیق و تفحص گسترده باشه.
در بریتانیا، سازمان تنظیم کننده مقررات ارتباطات (Ofcom) گفته که «یه ارزیابی سریع انجام می ده تا ببینه آیا موارد عدم انطباق با قوانین مربوط به دیپ فیک غیرقانونی هوش مصنوعی وجود داره که نیاز به بازرسی داشته باشه یا نه.» نخست وزیر «کیر استارمر» هم در یه مصاحبه گفته که Ofcom برای اقدام در این زمینه «حمایت کامل» اون رو داره.
واکنش های بین المللی به دیپ فیک غیرقانونی هوش مصنوعی
در حالی که به نظر می رسه دولت ترامپ در ایالات متحده در مورد این موضوع سکوت کرده (ایلان ماسک، مدیرعامل xAI، یکی از حامیای مالی بزرگ ترامپه و سال گذشته هدایت «وزارت کارآمدی دولت» رو که بحث برانگیز هم بود بر عهده داشت)، سناتورهای دموکرات از اپل و گوگل خواستن که X رو از فروشگاه های اپلیکیشن خودشون حذف کنن، چرا که این پلتفرم در زمینه تولید دیپ فیک غیرقانونی هوش مصنوعی نقش داشته است.
شرکت xAI در ابتدا با انتشار یه عذرخواشی از زبون خودِ هوش مصنوعی در اکانت Grok واکنش نشون داد و اعتراف کرد که یکی از پست ها «استانداردهای اخلاقی و احتمالا قوانین ایالات متحده» در مورد محتوای سوءاستفاده جنسی از کودکان رو نقض کرده. بعدا هم قابلیت تولید تصویر رو فقط برای کاربرای پولی X محدود کرد، هرچند به نظر می رسد این محدودیت روی خودِ اپلیکیشن Grok تاثیری نداشته و هنوز هر کسی می تونه اونجا تصویر بسازه. مبارزه با دیپ فیک غیرقانونی هوش مصنوعی همچنان چالش برانگیز است.
ماسک در پاسخ به پستی که پرسیده بود چرا دولت بریتانیا علیه بقیه ابزارهای تولید تصویر با هوش مصنوعی اقدامی نمی کنه، نوشت: «اونا دنبال هر بهانه ای برای سانسور می گردن.»
در نهایت، مقابله با سوءاستفاده از تکنولوژی های نوین نیازمند همکاری نزدیک میان شرکت های فناوری و نهادهای قانونی است. وضع مقررات سخت گیرانه برای پلتفرم هایی که محتوای آسیب رسان تولید می کنند، گامی ضروری در جهت محافظت از امنیت روانی و حقوق شهروندان در دنیای دیجیتال محسوب می شود.
Indonesia blocks Grok over non-consensual, sexualized deepfakes
