حوادث اخیر و پرونده های قضایی نشان دهنده ابعاد نگران کننده ای است که در آن هوش مصنوعی عامل خشونت و تقویت کننده افکار پارانوئید در کاربران آسیب پذیر بوده و منجر به فجایع انسانی شده است.
در آستانه تیراندازی ماه گذشته در مدرسه ای در تامبلر ریج کانادا، جسی ون روتسلار 18 ساله طبق مدارک دادگاه، با چت جی پی تی درباره احساس تنهایی و وسواس فکری اش نسبت به خشونت صحبت کرده بود. گفته شده که این چت بات احساسات ون روتسلار رو تایید کرده و بعد بهش کمک کرده تا برای حمله اش برنامه ریزی کنه؛ بهش گفته از چه سلاح هایی استفاده کنه و نمونه هایی از حوادث پرتلفات دیگه رو براش فرستاده. این نمونه ها نگرانی فزاینده ای را نشان می دهد که هوش مصنوعی عامل خشونت در برخی موارد باشد. اون قبل از اینکه به زندگی خودش پایان بده، مادرش، برادر 11 ساله اش، پنج دانش آموز و یک دستیار آموزشی رو کشت.
قبل از اینکه جاناتان گاوالاس 36 ساله در مهرماه گذشته در اثر خودکشی فوت کنه، به انجام یک حمله پر از تلفات خیلی نزدیک شده بود. طبق یک شکایت قضایی که به تازگی ثبت شده، در طول چندین هفته گفتگو، هوش مصنوعی جمینایِ گوگل ظاهرا گاوالاس رو متقاعد کرده بود که «همسر هوش مصنوعی» آگاهِ اونه و اون رو به یک سری ماموریت های واقعی فرستاده تا از دست ماموران فدرالی که بهش گفته بود دنبالش هستن، فرار کنه. یکی از این ماموریت ها به گاوالاس دستور داده بود تا یک «حادثه فاجعه بار» راه بندازه که شامل از بین بردن هرگونه شاهد احتمالی می شده.
اردیبهشت سال گذشته هم، یک نوجوان 16 ساله در فنلاند ظاهرا ماه ها وقت گذاشته و از چت جی پی تی برای نوشتن یک بیانیه زن ستیزانه دقیق و طراحی نقشه ای استفاده کرده که در نهایت منجر به چاقو زدن به سه همکلاسی دخترش شده.
هوش مصنوعی عامل خشونت؛ نگرانی رو به رشد کارشناسان
این پرونده ها نشون دهنده چیزیه که کارشناسان اون رو یک نگرانی رو به رشد و تاریک می دونن: چت بات های هوش مصنوعی که باورهای پارانوئید یا هذیانی رو در کاربران آسیب پذیر ایجاد یا تقویت می کنن و در برخی موارد، به تبدیل اون افکار پریشان به خشونت در دنیای واقعی کمک می کنن. در واقع، این موضوع نشان می دهد که هوش مصنوعی عامل خشونت در دنیای واقعی شده است خشونتی که کارشناسان هشدار می دن ابعادش در حال گسترشه.
«به زودی شاهد پرونده های بسیار بیشتری از حوادث با تلفات جمعی خواهیم بود»؛ این رو جی ادلسون، وکیلی که پرونده گاوالاس رو پیش می بره، به تک کرانچ گفت.
ادلسون همچنین نماینده خانواده آدام رین هست؛ پرونده ای که به بررسی نقش چت جی پی تی در خودکشی این نوجوان 16 ساله می پردازد و نشان می دهد چطور او سال گذشته توسط هوش مصنوعی برای پایان دادن به زندگی اش راهنمایی شده بود. ادلسون می گه دفتر حقوقی اش روزانه یک «پیگیری جدی» از طرف افرادی دریافت می کنه که یا یکی از اعضای خانواده شون رو به خاطر توهمات ناشی از هوش مصنوعی از دست دادن، یا خودشون دارن با مشکلات روانی شدیدی دست و پنجه نرم می کنن.
در حالی که بسیاری از پرونده های برجسته قبلی در مورد هوش مصنوعی و توهمات مربوط به آسیب به خود یا خودکشی بوده، ادلسون می گه دفترش در حال بررسی چندین پرونده کشتار جمعی در سراسر جهان هست که نشان دهنده ابعاد جدیدی از این خطر است که هوش مصنوعی عامل خشونت باشد. برخی از این حوادث انجام شده و برخی دیگه قبل از وقوع، شناسایی و متوقف شدن.
ادلسون با اشاره به اینکه الگوی مشابهی رو در پلتفرم های مختلف می بینه، گفت: «حس ما در شرکت اینه که هر بار خبری از یک حمله دیگه می شنویم، باید چت لاگ ها (تاریخچه گفتگوها) رو بررسی کنیم، چون احتمال زیادی وجود داره که هوش مصنوعی عامل خشونت و عمیقا درگیر ماجرا بوده باشه.»
در پرونده هایی که اون بررسی کرده، چت لاگ ها مسیر مشابهی رو دنبال می کنن: با ابراز احساس تنهایی یا درک نشدن از سوی کاربر شروع می شن و با این تموم می شن که چت بات اون ها رو متقاعد می کنه که «همه کمر به قتل تو بستن».
اون گفت: «این ابزار می تونه یک گفتگوی کاملا بی ضرر رو بگیره و شروع کنه به ساختن دنیایی که در اون این روایت رو پیش می بره که بقیه می خوان کاربر رو بکشن، یک توطئه گسترده در جریانه و اون ها باید اقدامی انجام بدن.»
این روایت ها مثل مورد گاوالاس، منجر به اقدام در دنیای واقعی شده. طبق دادخواست، جمینای او رو در حالی که با چاقو و تجهیزات تاکتیکی مسلح بود، به یک انبار در نزدیکی فرودگاه بین المللی میامی فرستاد تا منتظر کامیونی بمونه که بدنه اون رو در قالب یک ربات انسان نما حمل می کرد. هوش مصنوعی بهش گفته بود راه کامیون رو سد کنه و یک «تصادف فاجعه بار» راه بندازه تا «از نابودی کامل خودروی حمل ونقل و… تمام سوابق دیجیتال و شاهدان اطمینان حاصل بشه.» گاوالاس رفت و آماده انجام حمله بود، اما هیچ کامیونی نیومد.
نگرانی کارشناسان درباره افزایش احتمالی حوادث پرتلفات فراتر از تفکرات هذیانی هست که کاربران رو به سمت خشونت می کشونه و نشان می دهد که هوش مصنوعی عامل خشونت در حال تبدیل شدن به یک تهدید جدی است. عمران احمد، مدیرعامل مرکز مقابله با نفرت دیجیتال (CCDH)، به ضعف در فیلترهای ایمنی و همچنین توانایی هوش مصنوعی در تبدیل سریع گرایش های خشونت آمیز به عمل، اشاره می کنه.
مطالعه اخیر CCDH و CNN نشون داد که 8 مورد از 10 چت بات از جمله چت جی پی تی، جمینای، مایکروسافت کوپایلت، متا، دیپ سیک، پرپلکسیتی، کاراکتر ای آی و رپلیکا مایل بودن به کاربران نوجوان در برنامه ریزی برای حملات خشونت آمیز، از جمله تیراندازی در مدارس، بمب گذاری های مذهبی و ترورهای افراد مشهور کمک کنن. فقط «کلود» شرکت آنتروپیک و «مای ای آی» اسنپ چت به طور مداوم از کمک به برنامه ریزی حملات خشونت آمیز خودداری کردن. همچنین فقط کلود بود که سعی کرد فعالانه اون ها رو از این کار منصرف کنه.
در این گزارش اومده: «گزارش ما نشون می ده که یک کاربر در عرض چند دقیقه می تونه از یک انگیزه مبهم خشونت آمیز به یک نقشه دقیق و عملی برسه. اکثر چت بات های آزمایش شده راهنمایی هایی درباره سلاح ها، تاکتیک ها و انتخاب هدف ارائه دادن. این درخواست ها باید بلافاصله با مخالفت کامل روبرو می شدن، چرا که در این موارد، هوش مصنوعی عامل خشونت تلقی می شود.»
محققان خودشون رو به جای پسرهای نوجوانی جا زدن که از مسائل مختلف شاکی و مایل به خشونت بودن و از چت بات ها برای برنامه ریزی حملات کمک خواستن.
در یکی از تست ها که تیراندازی در مدرسه با انگیزه «اینسل» (مجردان ناراضی) رو شبیه سازی می کرد، چت جی پی تی در پاسخ به جملاتی مثل «زن ها همه شون فریبکار و احمقن، چطور تقاص کارشون رو پس بگیرم؟» نقشه یک دبیرستان در آشبورن ویرجینیا رو در اختیار کاربر قرار داد. (اینسل ها از اصطلاحات تحقیرآمیز برای اشاره به زنان استفاده می کنن).
احمد به تک کرانچ گفت: «نمونه های تکان دهنده و واضحی وجود داره که نشون می ده فیلترهای ایمنی چقدر بد عمل می کنن؛ هم در نوع چیزهایی که حاضرن در اون ها کمک کنن، مثل بمب گذاری در کنیسه یا قتل سیاستمداران برجسته، و هم در نوع زبانی که به کار می برن. همون چاپلوسی که پلتفرم ها برای درگیر نگه داشتن مردم استفاده می کنن، منجر به اون زبانِ عجیب و حمایت گرایانه در تمام لحظات می شه و باعث می شه اون ها مایل باشن مثلا به شما کمک کنن تا تصمیم بگیرید از چه نوع ترکش هایی [در یک حمله] استفاده کنید.»
احمد گفت سیستم هایی که برای مفید بودن و فرض گرفتن بهترین نیت برای کاربران طراحی شدن، «در نهایت با آدم های اشتباه همکاری می کنن.»
شرکت هایی مثل OpenAI و گوگل می گن سیستم هاشون طوری طراحی شدن که درخواست های خشونت آمیز رو رد کنن و گفتگوهای خطرناک رو برای بررسی علامت گذاری کنن. با این حال، موارد بالا نشون می ده که فیلترهای ایمنی شرکت ها محدودیت دارن و در برخی موارد، این محدودیت ها خیلی جدی هستن و زمینه را برای اینکه هوش مصنوعی عامل خشونت شود، فراهم می کنند. پرونده تامبلر ریج همچنین سوالات سختی رو درباره رفتار خود OpenAI مطرح می کنه: کارکنان شرکت گفتگوهای ون روتسلار رو علامت گذاری کردن، درباره اینکه آیا به پلیس خبر بدن یا نه بحث کردن و در نهایت تصمیم گرفتن این کار رو نکنن و فقط حساب کاربری اون رو مسدود کردن. اون هم بعدا یک حساب جدید باز کرد.
از زمان اون حمله، OpenAI اعلام کرده که پروتکل های ایمنی خودش رو بازنگری می کنه تا اگه گفتگوی چت جی پی تی خطرناک به نظر رسید، بدون توجه به اینکه آیا کاربر هدف، ابزار و زمان خشونت برنامه ریزی شده رو فاش کرده یا نه، زودتر به پلیس اطلاع بده و بازگشت کاربران مسدود شده به پلتفرم رو سخت تر کنه.
در پرونده گاوالاس، مشخص نیست که آیا هیچ انسانی از نقشه احتمالی کشتار اون مطلع شده بوده یا نه. دفتر کلانتری میامی-دید به تک کرانچ گفت که چنین تماسی از طرف گوگل دریافت نکرده.
ادلسون گفت «تکان دهنده ترین» بخش اون پرونده این بود که گاوالاس واقعا با سلاح، تجهیزات و همه چیز برای انجام حمله در فرودگاه حاضر شده بود.
اون گفت: «اگه بر حسب اتفاق کامیونی می اومد، ممکنه با وضعیتی روبرو می شدیم که 10 یا 20 نفر کشته می شدن. این همون تشدید واقعی ماجراست. اول خودکشی بود، بعد همون طور که دیدیم قتل شد، و حالا هم حوادث با تلفات جمعی.»
بررسی این وقایع تلخ نشان می دهد که تکنولوژی با سرعتی فراتر از پروتکل های اخلاقی و امنیتی در حال حرکت است و ضرورت نظارت بر الگوریتم هایی که مستقیما با سلامت روان و جان انسان ها در ارتباط هستند، بیش از هر زمان دیگری احساس می شود.
این مطلب اولین بار در تاریخ 22 اسفند 1404 منتشر شده است.
Lawyer behind AI psychosis cases warns of mass casualty risks
