دولت های اندونزی و مالزی در پی انتشار گسترده تصاویر نامناسب تولید شده توسط هوش مصنوعی، اقدام به ممنوعیت گروک کرده اند که این موضوع چالش های جدیدی را در زمینه رگولاتوری ابزارهای مولد و مقابله با محتوای غیراخلاقی ایجاد کرده است.
مقامات اندونزی و مالزی اعلام کردن که دسترسی به چت بات Grok متعلق به xAI رو به طور موقت مسدود می کنن. این اقدام، که به نوعی ممنوعیت گروک محسوب می شود، واکنشی است به سیل تصاویر جنسی تولید شده توسط هوش مصنوعی و مسدودسازی گراک در اندونزی به دلیل دیپ فیک غیرقانونی هوش مصنوعی انجام شده است.
تصمیمات اولیه؛ ممنوعیت گروک در اندونزی و مالزی
این ها تهاجمی ترین اقداماتی هستن که تا الان از سمت مقامات دولتی در واکنش به سیل تصاویر جنسی تولید شده توسط هوش مصنوعی انجام شده؛ تصاویری که اغلب زنان واقعی و افراد زیر سن قانونی رو نشون می دن و گاهی هم با خشونت همراه هستن. این تصاویر توسط Grok و در پاسخ به درخواست های کاربرای شبکه اجتماعی X منتشر شدن. همین مسئله، دلیل اصلی برای ممنوعیت گروک در برخی کشورها بوده است. (X و xAI هر دو بخشی از یه شرکت هستن.)
«موتیا حفید»، وزیر ارتباطات و دیجیتال اندونزی، در بیانیه ای که روز شنبه با گاردین و بقیه نشریات به اشتراک گذاشته شد، گفت: «دولت ساخت دیپ فیک های جنسی بدون رضایت افراد رو به عنوان نقض جدی حقوق بشر، کرامت انسانی و امنیت شهروندان در فضای دیجیتال می بینه.»
گزارش شده که این وزارت خانه مقامات X رو هم برای گفتگو درباره این موضوع احضار کرده.
نیویورک تایمز اعلام کرد که دولت مالزی هم روز یکشنبه ممنوعیت مشابهی رو اعلام کرده. این اقدام به تقویت موج جهانی ممنوعیت گروک کمک می کند.
گسترش ممنوعیت گروک به سایر کشورها و واکنش های بین المللی
واکنش های مختلف دولت ها در هفته گذشته به دنبال موضوع تولید محتوای نامناسب توسط Grok، شامل دستور وزارت فناوری اطلاعات هند به xAI برای اقدام جهت جلوگیری از آن و همچنین دستور کمیسیون اروپا به این شرکت برای نگهداری تمام اسناد مربوط به Grok بوده است. این اقدامات نشان دهنده بررسی های جدی تر برای اعمال احتمالی ممنوعیت گروک در مناطق بیشتر است.
در بریتانیا، سازمان تنظیم کننده مقررات ارتباطات (آفکام) گفته که «یه ارزیابی سریع انجام می ده تا مشخص بشه آیا موارد احتمالی رعایت نکردن قوانین وجود داره که نیاز به بازرسی داشته باشه یا نه.» این موضوع در بریتانیا نیز به بحث ممنوعیت گروک دامن زده است. نخست وزیر «کیر استارمر» هم در مصاحبه ای گفت که آفکام برای اقدام در این زمینه «حمایت کامل» او رو داره.
در حالی که در ایالات متحده، به نظر می رسه دولت ترامپ در مورد این موضوع سکوت کرده (ایلان ماسک، مدیرعامل xAI، یکی از حامیان مالی بزرگ ترامپه و سال گذشته بخش جنجالی بهره وری دولت رو مدیریت می کرد)، سناتورهای دموکرات از اپل و گوگل خواستن که X رو از فروشگاه های اپلیکیشن خودشون حذف کنن.
xAI در ابتدا با انتشار یه عذرخواهی ظاهرا اول شخص در حساب کاربری Grok واکنش نشون داد و تایید کرد که یه پست «استانداردهای اخلاقی و احتمالا قوانین ایالات متحده» رو در رابطه با محتوای سوءاستفاده جنسی از کودکان نقض کرده. با این حال، فشارهای بین المللی برای ممنوعیت گروک همچنان ادامه داشت. این شرکت بعدا قابلیت تولید تصویر با هوش مصنوعی رو فقط به مشترکین پولی X محدود کرد، هرچند به نظر نمی رسید این محدودیت روی خود اپلیکیشن Grok تاثیری داشته باشه، چون هنوز به هر کسی اجازه می داد تصویر تولید کنه.
ماسک در پاسخ به پستی که پرسیده بود چرا دولت بریتانیا علیه بقیه ابزارهای تولید تصویر هوش مصنوعی اقدامی نمی کنه، نوشت: «اونا دنبال هر بهانه ای برای سانسور هستن.»
در مجموع، فشارهای فزاینده جهانی، از جمله در بریتانیا و اروپا، نشان می دهد که موضوع ممنوعیت گروک به یک بحث داغ و چالش برانگیز در حوزه تنظیم گری هوش مصنوعی تبدیل شده است.
این مطلب برای انعکاس خبر ممنوعیت Grok در مالزی به روزرسانی شده.
تنش های ایجاد شده پیرامون تولید محتوای نامناسب توسط هوش مصنوعی، دولت ها را در موقعیت دشواری برای برقراری تعادل میان آزادی بیان و امنیت دیجیتال شهروندان قرار داده است. با افزایش فشارهای بین المللی و اقدامات سخت گیرانه در آسیا و اروپا، آینده فعالیت ابزارهای هوش مصنوعی مانند گروک به توانایی آن ها در کنترل دقیق تر محتوا و رعایت چارچوب های قانونی کشورهای مختلف بستگی خواهد داشت.
Indonesia and Malaysia block Grok over non-consensual, sexualized deepfakes
