دولت هند به پلتفرم X دستور داده است تا فرآیندهای اصلاح محتوای مستهجن گروک را به سرعت آغاز کند؛ این اقدام در پی گزارش هایی مبنی بر تولید تصاویر نامناسب و غیراخلاقی توسط این هوش مصنوعی انجام شده است.
هند به پلتفرم X متعلق به ایلان ماسک دستور داده تا تغییرات فنی و فرآیندی فوری در چت بات هوش مصنوعی اش یعنی «گروک» (Grok) ایجاد کنه. این دستور بعد از اون صادر شد که کاربرا و قانون گذارها متوجه تولید محتوای «مستهجن» توسط این ابزار شدن، از جمله عکس های تغییر یافته زنان که با هوش مصنوعی ساخته شده بود. این اقدام، ضرورت فوری اصلاح محتوای مستهجن گروک را برجسته می کند.
اهمیت اصلاح محتوای مستهجن گروک در هند
روز جمعه، وزارت فناوری اطلاعات هند دستوری صادر کرد و از پلتفرم X خواست تا اقدامات اصلاحی روی گروک انجام بده؛ از جمله محدود کردن تولید محتوایی که شامل «برهنگی، مسائل جنسی، محتوای جنسی صریح یا موارد غیرقانونی دیگه» می شه. این وزارت خانه همچنین به این شبکه اجتماعی 72 ساعت وقت داده تا گزارشی از اقدامات انجام شده ارائه بده و جزئیات گام هایی که برای جلوگیری از میزبانی یا انتشار محتوای «مستهجن، پورنوگرافیک، مبتذل، غیراخلاقی، دارای محتوای جنسی صریح، مربوط به سوءاستفاده از کودکان یا موارد ممنوع شده طبق قانون» برداشته رو توضیح بده. این موضوع ضرورت اصلاح محتوای مستهجن گروک را دوچندان می کند.
این دستور که توسط «تک کرانچ» بررسی شده، هشدار داده که عدم رعایت این موارد می تونه محافظت های «بندر امن» (Safe Harbor) رو برای X به خطر بندازه؛ یعنی همون مصونیت قانونی که طبق قانون هند، پلتفرم ها رو از مسئولیت در قبال محتوای تولید شده توسط کاربرا معاف می کنه.
این اقدام هند به دنبال نگرانی های کاربرا انجام شد. اون ها نمونه هایی رو به اشتراک گذاشتن که نشون می داد چطور می شه با دستور دادن به «گروک»، عکس های افراد مخصوصا زنان رو طوری تغییر داد که انگار بیکینی پوشیدن. همین موضوع باعث شکایت رسمی «پریانکا چاتورودی»، نماینده پارلمان هند شد. جدا از این، گزارش های اخیر به مواردی اشاره کردن که در اون این چت بات هوش مصنوعی، تصاویر جنسی از افراد زیر سن قانونی تولید کرده بود؛ موضوعی که بار دیگر خطرات چت بات برای نوجوانان را یادآوری می کند و X اوایل روز جمعه تایید کرد به خاطر نقص در سیستم های حفاظتی بوده است. اون تصاویر بعدا حذف شدن. این وقایع بر اهمیت فوری اصلاح محتوای مستهجن گروک تاکید دارد.
با این حال، تک کرانچ متوجه شده که تصاویری که با گروک ساخته شده بودن و زنان رو با تغییرات هوش مصنوعی در حال پوشیدن بیکینی نشون می دادن، در زمان انتشار این خبر هنوز در X در دسترس بودن.
این دستور جدید چند روز بعد از اون صادر شد که وزارت فناوری اطلاعات هند در روز دوشنبه یک توصیه نامه کلی تر (که اون هم توسط تک کرانچ بررسی شده بود) به پلتفرم های اجتماعی فرستاد. در اون نامه یادآوری شده بود که رعایت قوانین محلی درباره محتوای مستهجن و جنسی صریح، پیش نیاز حفظ مصونیت قانونی در قبال محتوای تولید شده توسط کاربره. این توصیه نامه از شرکت ها خواسته بود تا سیستم های حفاظتی داخلی شون رو تقویت کنن و هشدار داده بود که کوتاهی در این زمینه ممکنه باعث پیگرد قانونی تحت قوانین کیفری و فناوری اطلاعات هند بشه. این تحولات نشان می دهد که اصلاح محتوای مستهجن گروک یک موضوع حیاتی است.
چالش ها و پیامدهای اصلاح محتوای مستهجن گروک
در این دستور هشدار داده شده: «تاکید می شه که عدم رعایت الزامات بالا جدی گرفته خواهد شد و ممکنه بدون اطلاع قبلی، منجر به عواقب قانونی سخت گیرانه ای علیه پلتفرم شما، مدیران مسئول و کاربرانی بشه که در پلتفرم قانون شکنی می کنن.»
دولت هند اعلام کرد که عدم رعایت این موارد می تونه منجر به اقدام علیه X تحت قوانین فناوری اطلاعات و مجازات های کیفری هند بشه.
هند که یکی از بزرگترین بازارهای دیجیتال دنیاست، حالا به یه مورد آزمایشی مهم تبدیل شده تا مشخص بشه دولت ها تا کجا حاضرن پلتفرم ها رو در قبال محتوای تولید شده توسط هوش مصنوعی مسئول بدونن. هرگونه سخت گیری در اجرای قوانین در این کشور می تونه تاثیرات زنجیره ای روی شرکت های فناوری جهانی که در کشورهای مختلف فعالیت می کنن، داشته باشه. از این رو، اقدامات مربوط به اصلاح محتوای مستهجن گروک می تواند الگویی برای سایر کشورها باشد.
این دستور در حالی صادر می شه که پلتفرم X ایلان ماسک همچنان داره با بخش هایی از قوانین تنظیم محتوای هند در دادگاه مبارزه می کنه و معتقده که قدرت دولت فدرال برای حذف محتوا ممکنه بیش از حد باشه؛ هرچند که این پلتفرم تا الان اکثر دستورات مسدودسازی رو اجرا کرده. در عین حال، کاربرا از «گروک» بیشتر و بیشتر برای راستی آزمانی لحظه ای و نظر دادن درباره اخبار استفاده می کنن، که باعث شده خروجی های اون نسبت به ابزارهای هوش مصنوعی مستقل، بیشتر دیده بشه و از نظر سیاسی حساس تر باشه. موفقیت در اصلاح محتوای مستهجن گروک برای اعتبار آن بسیار مهم است.
شرکت های X و xAI بلافاصله به درخواست ها برای اظهارنظر درباره دستور دولت هند پاسخ ندادن.
در مجموع، فشار قانونی هند بر پلتفرم X نشان دهنده لزوم نظارت دقیق تر بر محتوای تولید شده توسط هوش مصنوعی است. با افزایش حساسیت های اجتماعی و قانونی، پلتفرم های بزرگ ناچارند برای حفظ جایگاه خود در بازارهای جهانی، راهکارهای موثرتری برای کنترل و فیلتر کردن خروجی های نامناسب ابزارهای خود پیدا کنند.
