دولت هند قوانین جدیدی را برای نظارت بر هوش مصنوعی و حذف دیپ فیک در شبکه های اجتماعی وضع کرده است که پلتفرم ها را ملزم به پاسخگویی سریع تر و برچسب گذاری محتوای دستکاری شده می کند.
هند به پلتفرم های شبکه های اجتماعی دستور داده که نظارت بر دیپ فیک ها و سایر جعل هویت های ساخته شده با هوش مصنوعی رو بیشتر کنن. این اقدام، با هدف تسهیل و تسریع حذف دیپ فیک در شبکه های اجتماعی، همچنین زمان پاسخگویی به دستورات حذف محتوا رو خیلی کوتاه تر کرده. این حرکتیه که می تونه نحوه مدیریت محتوای شرکت های فناوری جهانی رو در یکی از بزرگ ترین و سریع ترین بازارهای در حال رشد خدمات اینترنتی دنیا تغییر بده.
این تغییرات که روز سه شنبه (PDF) به عنوان اصلاحیه ای برای قوانین فناوری اطلاعات سال 1400 (2021) هند منتشر شد، با هدف بهبود فرآیند حذف دیپ فیک در شبکه های اجتماعی، دیپ فیک ها رو تحت یه چارچوب نظارتی رسمی قرار می ده. این قانون برچسب گذاری و قابلیت پیگیری محتواهای صوتی و تصویری ساخته شده رو اجباری می کنه. همچنین زمان بندی رعایت قوانین برای پلتفرم ها رو خیلی کم کرده؛ مثلا یه مهلت 3 ساعته برای دستورات رسمی حذف و یه فرصت 2 ساعته برای بعضی شکایت های فوری کاربران تعیین شده.
اهمیت هند به عنوان یه بازار دیجیتال، تاثیر این قوانین جدید رو چند برابر می کنه. با بیش از یک میلیارد کاربر اینترنت و جمعیتی که اکثرا جوان هستن، این کشور جنوب آسیا یه بازار حیاتی برای پلتفرم هایی مثل متا و یوتیوب محسوب می شه. به خاطر همین، احتمالا اقداماتی که برای رعایت قوانین در هند انجام می شه، روی محصولات و روش های مدیریت محتوا در سطح جهانی هم اثر می ذاره.
تدابیر جدید برای حذف دیپ فیک در شبکه های اجتماعی
طبق قوانین اصلاح شده، پلتفرم های شبکه های اجتماعی که به کاربران اجازه آپلود یا اشتراک گذاری محتوای صوتی و تصویری می دن، باید از کاربر بخوان که بگه آیا محتوا به صورت مصنوعی تولید شده یا نه. این رویکرد جدید در راستای اقدامات موثر برای حذف دیپ فیک در شبکه های اجتماعی است. اونا باید ابزارهایی برای تایید این ادعاها داشته باشن و مطمئن بشن که دیپ فیک ها به وضوح برچسب گذاری شدن و داده های منبع قابل ردیابی دارن.
برخی از دسته های محتوای ساخته شده از جمله جعل هویت فریبنده، تصاویر خصوصی بدون رضایت فرد، و محتوای مرتبط با جرایم جدی طبق این قوانین کلا ممنوع هستن. عدم رعایت این موارد، مخصوصا در مواردی که توسط مقامات یا کاربران گزارش می شه، می تونه شرکت ها رو با مسئولیت های حقوقی سنگین تری مواجه کنه چون ممکنه حمایت های قانونی موسوم به «پناهگاه امن» (safe-harbor) رو در قانون هند از دست بدن.
این قوانین برای اجرای تعهدات مربوط به حذف دیپ فیک در شبکه های اجتماعی، تکیه زیادی بر سیستم های خودکار دارن. از پلتفرم ها انتظار می ره که ابزارهای فنی رو برای تایید اظهارات کاربران، شناسایی و برچسب گذاری دیپ فیک ها و همچنین جلوگیری از ساخت یا اشتراک گذاری محتوای ممنوعه از همان ابتدا، به کار بگیرن.
روهیت کومار، شریک موسس شرکت مشاوره سیاست گذاری The Quantum Hub مستقر در دهلی نو، گفت: «اصلاحیه قوانین فناوری اطلاعات نشان دهنده یه رویکرد دقیق تر برای تنظیم مقررات دیپ فیک های ساخته شده با هوش مصنوعی و تسهیل حذف دیپ فیک در شبکه های اجتماعی هست.» اون اضافه کرد: «زمان بندی های به شدت فشرده برای رسیدگی به شکایات مثل مهلت های 2 تا 3 ساعته برای حذف محتوا بار رعایت قوانین رو به طور قابل توجهی بالا می بره و نیاز به بررسی دقیق داره، مخصوصا با توجه به اینکه عدم رعایت این قوانین با از دست دادن حمایت های “پناهگاه امن” در ارتباطه.»
آپراژیتا رانا، یکی از شرکای شرکت حقوقی AZB & Partners، گفت که این قوانین حالا به جای کل اطلاعات آنلاین، روی محتوای صوتی و تصویری ساخته شده با هوش مصنوعی تمرکز دارن، در حالی که برای استفاده های معمول، آرایشی یا کاربردی از هوش مصنوعی استثنا قائل شدن. با این حال، اون هشدار داد که الزام واسطه ها به حذف محتوا ظرف 3 ساعت پس از اطلاع از آن، با اصول پذیرفته شده آزادی بیان فاصله داره.
رانا گفت: «با این حال، قانون همچنان از واسطه ها می خواد که به محض اطلاع یا آگاهی واقعی، محتوا رو اون هم ظرف 3 ساعت حذف کنن.» اون همچنین اضافه کرد که الزامات برچسب گذاری برای همه فرمت ها اجرا می شه تا جلوی انتشار محتوای سوءاستفاده جنسی از کودکان و محتوای فریبنده گرفته بشه.
چالش ها و نگرانی ها در مسیر حذف دیپ فیک در شبکه های اجتماعی
گروه حمایت از حقوق دیجیتال Internet Freedom Foundation مستقر در دهلی نو، اعلام کرد که این قوانین با فشرده سازی شدید زمان بندی های حذف محتوا، خطر افزایش سانسور رو به همراه دارن؛ چون فرصت کمی برای بررسی انسانی باقی می ذارن و پلتفرم ها رو به سمت حذف خودکار بیش ازحد سوق می دن. این مسئله می تواند فرایند حذف دیپ فیک در شبکه های اجتماعی را تحت تاثیر قرار دهد. این گروه در بیانیه ای در شبکه اجتماعی X، نسبت به گسترش دسته های محتوای ممنوعه و مقرراتی که به پلتفرم ها اجازه می ده هویت کاربران رو بدون نظارت قضایی به شاکیان خصوصی فاش کنن، ابراز نگرانی کرد.
این گروه گفت: «این زمان بندی های غیرممکن و کوتاه، هرگونه بررسی انسانی معنادار رو از بین می بره و می تواند در روند حذف دیپ فیک در شبکه های اجتماعی چالش هایی ایجاد کند.» اونا هشدار دادن که این تغییرات می تونه حمایت های مربوط به آزادی بیان و روال های قانونی رو تضعیف کنه.
دو منبع صنعتی به TechCrunch گفتن که این اصلاحات بعد از یه فرآیند مشورتی محدود انجام شده و فقط بخش کوچکی از پیشنهادات در قوانین نهایی لحاظ شده. در حالی که به نظر می رسه دولت هند پیشنهادهایی رو برای محدود کردن دامنه اطلاعات پوشش داده شده با تمرکز بر محتوای صوتی و تصویری تولید شده توسط هوش مصنوعی به جای کل محتوای آنلاین پذیرفته، بقیه توصیه ها اجرا نشدن. این منابع گفتن که حجم تغییرات بین پیش نویس و قوانین نهایی به اندازه ای بوده که نیاز به یه دور دیگه مشورت داشت تا به شرکت ها راهنمایی دقیق تری درباره انتظارات رعایت قوانین داده بشه.
اختیارات دولت برای حذف محتوا همین الان هم تو هند یه موضوع بحث برانگیز بوده. پلتفرم های شبکه های اجتماعی و گروه های جامعه مدنی مدت هاست که از گستردگی و مبهم بودن دستورات حذف محتوا انتقاد می کنن. پیش از این نیز هند دستور اصلاح محتوای مستهجن گروک را صادر کرده بود که نشان دهنده حساسیت بالای این کشور به محتوای پلتفرم هاست. حتی شبکه X متعلق به ایلان ماسک، به خاطر دستورات مسدودسازی یا حذف پست ها، دولت دهلی نو رو در دادگاه به چالش کشیده و استدلال کرده که این دستورات فراتر از اختیارات هستن و تضمین های کافی ندارن.
متا، گوگل، اسنپ، X و وزارت فناوری اطلاعات هند به درخواست ها برای اظهارنظر پاسخ ندادن.
این تغییرات جدید تنها چند ماه بعد از اون انجام می شه که دولت هند در مهر 1404 (اکتبر 2025)، در پاسخ به چالش حقوقی X درباره دامنه و شفافیت قدرت حذف محتوا، تعداد مقاماتی رو که مجاز به دستور حذف محتوا از اینترنت بودن، کاهش داد.
قوانین اصلاح شده از 2 اسفند اجرا می شن و زمان کمی برای هماهنگ سازی سیستم ها به پلتفرم ها می دن. شروع اجرای این قوانین هم زمان شده با میزبانی هند از کنفرانس AI Impact Summit در دهلی نو از 28 بهمن تا 2 اسفند، که انتظار می ره مدیران ارشد فناوری و سیاست گذاران جهانی رو به این کشور بکشونه.
این اقدامات نشان دهنده تلاش جدی برای ایجاد امنیت بیشتر در فضای مجازی و مقابله با سوءاستفاده های ناشی از فناوری های نوین است. اگرچه پلتفرم ها با چالش های عملیاتی زیادی روبرو خواهند بود، اما هدف نهایی این است که با شفافیت بیشتر و نظارت دقیق، محیطی امن تر برای کاربران در برابر جعل هویت های دیجیتال فراهم شود.
India orders social media platforms to take down deepfakes faster
