محدودیت های جدید ایلان ماسک برای چت بات xAI به دلیل جنجال تولید تصویر گروک و فشارهای بین المللی جهت جلوگیری از سوءاستفاده های غیراخلاقی از هوش مصنوعی در پلتفرم X اعمال شده است.
شرکت هوش مصنوعی ایلان ماسک، قابلیت جنجالی تولید تصویر با هوش مصنوعی «گروک» (Grok) رو فقط برای مشترکین پولی در پلتفرم X محدود کرده. این تصمیم بعد از اون گرفته شد که این ابزار به خاطر اجازه دادن به کاربرها برای تولید تصاویر جنسی و برهنه از زنان و کودکان، با انتقادهای شدیدی از سراسر جهان روبرو شد. این اتفاقات منجر به آغاز جنجال تولید تصویر گروک شد.
جنجال تولید تصویر گروک و محدودیت های جدید
گروک روز جمعه در پاسخ به کاربرها اعلام کرد که فقط مشترکین پولی در X می تونن در این پلتفرم تصویر بسازن و ویرایش کنن. نکته جالب اینجاست که این محدودیت ها شامل اپلیکیشن گروک نمیشه؛ این اپلیکیشن در زمان انتشار این خبر، به هر کسی اجازه می داد بدون نیاز به پرداخت حق اشتراک، تصویر تولید کنه. این دوگانگی نیز به جنجال تولید تصویر گروک افزود.
قابلیت تولید تصویر هوش مصنوعی در ابزار گروک که در ابتدا با محدودیت های روزانه برای همه در دسترس بود، به کاربرها اجازه می داد عکس هر کسی رو آپلود کنن و از هوش مصنوعی بخوان اون رو ویرایش کنه یا یک نسخه جنسی و برهنه ازش بسازه. این موضوع به شدت به جنجال تولید تصویر گروک دامن زد، زیرا نتیجه این کار، سرازیر شدن سیل عظیمی از تصاویر جنسی بدون رضایت از کودکان، بازیگران، مدل ها و چهره های مشهور بود که خشم چندین کشور رو برانگیخت.
پلتفرم X و ماسک هر دو به طور علنی استفاده از این ابزار برای تولید چنین تصاویری رو محکوم کردن و نوشتن که این شرکت به سیاست های خودش علیه انتشار محتوای غیرقانونی در این رسانه اجتماعی پایبند می مونه. ماسک هفته گذشته در توییتی نوشت: «هر کسی که از گروک برای تولید محتوای غیرقانونی استفاده کنه، با همون عواقبی روبرو میشه که انگار خودش محتوای غیرقانونی آپلود کرده.» این موضع گیری در پی اوج گیری جنجال تولید تصویر گروک صورت گرفت.
واکنش های بین المللی به جنجال تولید تصویر گروک
بریتانیا، اتحادیه اروپا و هند همگی به طور علنی X و گروک رو به خاطر اجازه دادن به چنین استفاده هایی از قابلیت هاش محکوم کردن. اتحادیه اروپا روز پنج شنبه از xAI خواست که تمام مستندات مربوط به این چت بات رو نگه داره تا ابعاد جنجال تولید تصویر گروک روشن شود. وزارت ارتباطات هند هم هفته گذشته به X دستور داد تا تغییرات فوری برای جلوگیری از سوءاستفاده از قابلیت های تولید تصویر ایجاد کنه، وگرنه ممکنه حمایت های قانونی «ساحل امن» (safe harbor) رو در این کشور از دست بده. نهاد نظارتی ارتباطات بریتانیا هم اعلام کرده که در مورد این موضوع با xAI در تماس بوده و بر روند جنجال تولید تصویر گروک نظارت دارد.
در نهایت، برخورد با چالش های اخلاقی و حقوقی در دنیای هوش مصنوعی نشان دهنده لزوم وضع قوانین سخت گیرانه تر برای حفظ حریم خصوصی و امنیت کاربران است تا از تکرار چنین حوادثی در آینده جلوگیری شود.
X restricts Grok’s image generation to paying subscribers only after drawing the world’s ire
