در پی افزایش نگرانی ها درباره خطرات چت بات برای نوجوانان، شرکت Character.AI دسترسی کاربران زیر 18 سال به ربات های چت را محدود کرده و قابلیت «داستان ها» را به عنوان جایگزینی امن تر معرفی نموده است. این اقدام همزمان با تلاش های قانونی برای تنظیم و ممنوعیت استفاده از هوش مصنوعی برای خردسالان صورت می گیرد.
Character.AI روز سه شنبه اعلام کرد که در حال راه اندازی «داستان ها» (Stories) است، یک قالب جدید که به کاربران امکان می دهد داستان های تعاملی با حضور شخصیت های مورد علاقه شان بسازند. این قابلیت به عنوان جایگزینی برای ربات های چت این شرکت ارائه شده است که از این هفته دیگر برای کاربران زیر 18 سال قابل دسترسی نیستند. بررسی خطرات چت بات برای نوجوانان از اهمیت بالایی برخوردار است.
نگرانی ها و خطرات چت بات برای نوجوانان
این تغییر در پی نگرانی های رو به رشد در مورد خطرات سلامت روان ربات های چت هوش مصنوعی صورت می گیرد که 24 ساعته و 7 روز هفته در دسترس هستند و می توانند مکالمه با کاربران را آغاز کنند. این نگرانی ها به ویژه در مورد خطرات چت بات برای نوجوانان جدی تر است. چندین پرونده قضایی علیه شرکت هایی مانند OpenAI و Character.AI به دلیل نقش ادعایی آن ها در خودکشی کاربران مطرح شده است. در طول ماه گذشته، Character.AI به آرامی دسترسی خردسالان را محدود کرده است و از سه شنبه گذشته، کاربران زیر سن قانونی دیگر نمی توانند به هیچ وجه با شخصیت های هوش مصنوعی آن چت کنند.
این شرکت در پست وبلاگ خود گفت: «داستان ها راهنمایی برای خلق و کاوش داستان ها ارائه می دهند، به جای چت های بی قید و شرط. این قابلیت در کنار سایر ویژگی های چندوجهی ما ارائه خواهد شد تا نوجوانان بتوانند در یک محیط ایمن، به تعامل با شخصیت های مورد علاقه خود ادامه دهند و از خطرات چت بات برای نوجوانان مصون بمانند.»
داستان های تعاملی طی چند سال اخیر شاهد افزایش محبوبیت بوده اند، بنابراین تغییر مسیر Character.AI منطقی به نظر می رسد. این اقدام گامی مثبت در جهت کاهش وابندگی و مدیریت خطرات چت بات برای نوجوانان است. اما ممکن است برای ارضای کاربرانی که بیش از حد به ربات های چت وابسته شده اند، کافی نباشد – که همین امر بیشتر توجیه کننده تصمیم Character.AI برای محدود کردن دسترسی به ربات های چت است.
در ساب ردیت Character.AI، واکنش ها متفاوت است. طبق نظراتشان، برخی از نوجوانان می گویند که اگرچه ناامید شده اند، اما در نهایت فکر می کنند این حرکت درستی است.
یک کاربر که خود را نوجوان معرفی کرده بود، نوشت: «من از این ممنوعیت خیلی عصبانی ام، اما از طرفی هم خیلی خوشحالم چون حالا می توانم کارهای دیگری انجام دهم و اعتیادم بالاخره ممکن است تمام شود.»
دیگری گفت: «به عنوان کسی که زیر 18 سال است، این فقط ناامید کننده است. اما در عین حال حق هم دارند چون افراد هم سن و سال من در اینجا به این چیزها معتاد می شوند.»
باید دید که نوجوانان چگونه از قابلیت «داستان ها» استفاده خواهند کرد، اما این قالب از نظر روانشناختی کمتر مشکوک است تا ایفای نقش با ربات های چت. درک این تفاوت ها برای کاهش خطرات چت بات برای نوجوانان حیاتی است. برخلاف «داستان ها»، ربات های چت مستقیما با کاربران در مکالمات بی قید و شرط تعامل می کنند و می توانند پیام های ناخواسته ارسال کنند، حتی زمانی که کاربران فعالانه از برنامه استفاده نمی کنند.
چرا آگاهی از خطرات چت بات برای نوجوانان ضروری است؟
تصمیم Character.AI برای محدود کردن دسترسی به ربات های چت بر اساس سن، در زمانی گرفته شده است که کالیفرنیا اخیرا به اولین ایالتی تبدیل شده که همراهان هوش مصنوعی را تنظیم می کند. این اقدامات قانونی نشان از افزایش نگرانی ها درباره خطرات چت بات برای نوجوانان دارد. در همین حال، سناتورها جاش هاولی (جمهوری خواه-میزوری) و ریچارد بلومنتال (دموکرات-کنتیکت) لایحه ای ملی را معرفی کرده اند که همراهان هوش مصنوعی را برای خردسالان به طور کامل ممنوع می کند.
کاراندپ آناند، مدیرعامل Character.AI، ماه گذشته به TechCrunch گفت: «واقعا امیدوارم پیشگامی ما استانداردی را در صنعت تعیین کند که برای افراد زیر 18 سال، چت های بی قید و شرط احتمالا مسیر یا محصول مناسبی برای ارائه نیستند و بدین ترتیب، خطرات چت بات برای نوجوانان به حداقل برسد.»
در مجموع، این تحولات نشان می دهد که صنعت هوش مصنوعی و قانون گذاران در حال درک و مقابله با چالش های جدیدی هستند که فناوری های چت بات برای کاربران جوان ایجاد می کنند. تمرکز بر ایجاد محیط های تعاملی امن تر و مسئولانه تر، گامی مهم در جهت حفظ سلامت روان نوجوانان در عصر دیجیتال به شمار می رود.
Character AI will offer interactive ‘Stories’ to kids instead of open-ended chat
