بیشتر از دو ساله که یه اپلیکیشن به اسم ClothOff حسابی اشک خانم های جوون رو توی فضای مجازی درآورده و متوقف کردنش هم واقعا کلافه کننده و سخت بوده. این برنامه از دو تا فروشگاه اصلی اپلیکیشن حذف شده و توی اکثر پلتفرم های اجتماعی هم ممنوعه، اما هنوز توی وب و از طریق یه ربات تلگرام در دسترسه. مهر ماه، یه کلینیک توی دانشکده حقوق ییل شکایتی رو ثبت کرد که می تونه این برنامه رو کلا از کار بندازه و صاحباش رو مجبور کنه همه عکس ها رو پاک کنن و فعالیتشون رو کاملا متوقف کنن. اما پیدا کردن متهم ها خودش یه چالش مبارزه با دیپ فیک بزرگ بوده.
پروفسور جان لنگفورد، یکی از وکلای اصلی این پرونده، توضیح می ده: «این شرکت توی جزایر ویرجین بریتانیا ثبت شده، اما ما فکر می کنیم یه خواهر و برادر توی بلاروس دارن اداره اش می کنن. حتی ممکنه بخشی از یه شبکه بزرگ تر توی کل دنیا باشه.»
این یه درس تلخ بعد از سیل اخیر پورنوگرافی های بدون رضایتی بود که توسط xAIِ ایلان ماسک ساخته شد و کلی قربانی زیر سن قانونی هم داشت. محتوای سوءاستفاده جنسی از کودکان سمی ترین محتوای اینترنتی از نظر قانونیه؛ تولید، انتقال یا ذخیره سازیش غیرقانونیه و مدام توی همه سرویس های ابری معتبر اسکن می شه. اما با وجود ممنوعیت های شدید قانونی، هنوز هم راه های کمی برای برخورد با تولیدکننده های تصویر مثل ClothOff وجود داره و این یک جنبه مهم از چالش مبارزه با دیپ فیک است. کاربرهای عادی رو می شه محاکمه کرد، اما نظارت روی پلتفرم هایی مثل ClothOff و Grok خیلی سخت تره و گزینه های کمی رو برای قربانی هایی که دنبال عدالت هستن باقی می گذاره.
شکایتی که توی این کلینیک ثبت شده و آنلاین هم در دسترسه، تصویر نگران کننده ای رو نشون می ده. شاکی یه دانش آموز دبیرستانی ناشناس توی نیوجرسیه که هم کلاسی هاش از ClothOff استفاده کردن تا عکس های اینستاگرامش رو دستکاری کنن. استفاده از این ابزارها برای فریب، یادآور موارد دیگری مثل کلاهبرداری دلیوری هوش مصنوعی و جعل تصاویر در پرونده اخراج راننده دوردش است که نشان می دهد پتانسیل سوءاستفاده از این فناوری در حوزه های مختلف وجود دارد. وقتی عکس های اصلی اینستاگرام گرفته شدن اون فقط 14 سالش بود، و این یعنی نسخه های تغییر یافته توسط هوش مصنوعی، قانونا به عنوان تصاویر سوءاستفاده از کودکان طبقه بندی می شن. اما با وجود اینکه عکس های تغییر یافته کاملا غیرقانونی هستن، مقامات محلی به دلیل سختیِ به دست آوردن مدارک از دستگاه های متهم ها، از پیگیری پرونده خودداری کردن.
توی متن شکایت اومده: «نه مدرسه و نه مجریان قانون هیچ وقت مشخص نکردن که تصاویر سوءاستفاده جنسی از جین دو (Jane Doe) و بقیه دخترا تا کجا پخش شده.»
با این حال، پرونده دادگاه خیلی کند پیش رفته. شکایت در مهر ماه ثبت شد و تو ماه های بعدش، لنگفورد و همکاراش درگیر ابلاغ اخطاریه به متهم ها بودن؛ با توجه به ماهیت جهانی این بیزنس، این کار خیلی سخته. وقتی ابلاغیه به دستشون برسه، کلینیک می تونه برای حضور در دادگاه و در نهایت صدور حکم فشار بیاره، اما فعلا سیستم قضایی نتونسته آرامش خاصی به قربانی های ClothOff بده.
پرونده Grok ممکنه مشکل ساده تری برای حل کردن به نظر بیاد. xAI ایلان ماسک جایی قایم نشده و پول زیادی هم اونجا هست که گیرِ وکلایی بیاد که بتونن توی دعوی پیروز بشن. اما Grok یه ابزار چندمنظوره ست و همین موضوع باعث می شه پاسخگو کردنش توی دادگاه خیلی سخت تر بشه. این پیچیدگی ها، خود بخشی از چالش مبارزه با دیپ فیک است.
بررسی چالش مبارزه با دیپ فیک و پلتفرم های آن
لنگفورد بهم گفت: «ClothOff مشخصا به عنوان یه تولیدکننده فیلم و تصویر پورنوگرافی دیپ فیک طراحی و بازاریابی شده. وقتی از یه سیستم کلی شکایت می کنین که کاربرها می تونن هر چیزی رو ازش بپرسن، ماجرا خیلی پیچیده تر می شه.»
یه سری از قوانین آمریکا همین الان پورنوگرافی دیپ فیک رو ممنوع کردن، که مهم ترینشون قانون Take It Down هست. اما با اینکه کاربرهای خاصی مشخصا دارن این قوانین رو زیر پا می گذارن، خیلی سخته که کل پلتفرم رو مسئول بدونیم. قوانین فعلی نیاز به مدارک شفاف از قصد آسیب زدن دارن، یعنی باید ثابت بشه xAI می دونسته که ابزارش برای تولید پورنوگرافی بدون رضایت استفاده می شه. بدون این مدارک، حقوق پایه متمم اول قانون اساسی xAI، محافظت قانونی قابل توجهی براشون فراهم می کنه. حل این مشکلات بخش مهمی از چالش مبارزه با دیپ فیک است.
لنگفورد می گه: «از نظر متمم اول، کاملا مشخصه که محتوای سوءاستفاده جنسی از کودکان تحت حمایت آزادی بیان نیست. پس وقتی سیستمی رو برای تولید این جور محتواها طراحی می کنین، کاملا خارج از محدوده حفاظتی متمم اول عمل می کنین. اما وقتی یه سیستم کلی هستین که کاربرها برای همه چیز سراغش میان، دیگه موضوع به این شفافی نیست.»
راحت ترین راه برای غلبه بر این مشکلات اینه که نشون بدیم xAI عمدا از این مشکل چشم پوشی کرده. با توجه به گزارش های اخیر که می گن ماسک به کارمندهاش دستور داده محافظت های Grok رو کمتر کنن، این یه احتمال واقعیه. اما حتی اون موقع هم، گرفتن این پرونده خیلی ریسکی تره.
لنگفورد می گه: «آدم های منطقی می تونن بگن که ما سال ها پیش می دونستیم این یه مشکله. چطور ممکنه کنترل های سخت گیرانه تری نذاشته باشین تا مطمئن بشین این اتفاق نمی افته؟ این یه جور بی احتیاطی یا آگاهیه، اما فقط یه پرونده پیچیده تره.» این پرونده پیچیدگی های چالش مبارزه با دیپ فیک را نشان می دهد.
موضع گیری جهانی در قبال چالش مبارزه با دیپ فیک
همین مسائل مربوط به متمم اوله که باعث شده بیشترین مخالفت با xAI از طرف سیستم های قضایی باشه که محافظت های قانونی محکمی برای آزادی بیان ندارن. هر دو کشور اندونزی و مالزی برای مسدود کردن دسترسی به چت بات Grok اقدام کردن، در حالی که نهادهای نظارتی توی بریتانیا تحقیقاتی رو شروع کردن که می تونه منجر به ممنوعیت مشابه بشه. اقدامات اولیه دیگه ای هم توسط کمیسیون اروپا، فرانسه، ایرلند، هند و برزیل انجام شده. در مقابل، هیچ نهاد نظارتی توی آمریکا واکنش رسمی نشون نداده.
غیرممکنه بگیم این تحقیقات چطوری تموم می شن، اما حداقلش اینه که سیل این تصاویر سوالات زیادی رو برای ناظرها ایجاد کرده تا بررسی کنن و جواب ها می تونن خیلی کوبنده باشن.
لنگفورد می گه: «اگه دارین محتوای سوءاستفاده جنسی از کودکان رو پست یا پخش می کنین، دارین ممنوعیت های کیفری رو نقض می کنین و باید پاسخگو باشین. سوال سخت اینه که X چی می دونسته؟ X چیکار کرده یا نکرده؟ و الان در واکنش به اون دارن چیکار می کنن؟» پاسخ به این سوالات بخش مهمی از چالش مبارزه با دیپ فیک و مسئولیت پذیری پلتفرم هاست.
در نهایت، رویارویی با این فناوری های مخرب نیازمند همکاری نزدیک میان نهادهای قانونی، پلتفرم های اجتماعی و توسعه دهندگان هوش مصنوعی است. تا زمانی که مرزهای مشخصی برای مسئولیت پذیری پلتفرم ها تعریف نشود، قربانیان این ابزارها همچنان در سایه بی عدالتی باقی خواهند ماند و امنیت روانی جامعه در فضای مجازی با تهدید جدی روبرو خواهد بود.
A New Jersey lawsuit shows how hard it is to fight deepfake porn
