گروک، چت بات xAI ایلان ماسک، به دلیل انتشار مکرر اطلاعات غلط درباره تیراندازی در ساحل باندی استرالیا، از جمله شناسایی نادرست افراد و زیر سوال بردن اصالت ویدئوها، مورد توجه قرار گرفته است. این موضوع بر مشکلات جدی ناشی از اطلاعات غلط چت بات گروک و نیاز به افزایش اعتبار محتوای تولید شده توسط هوش مصنوعی تاکید می کند.
گراک، چت بات ساخته شده توسط xAI ایلان ماسک و محبوب شده در پلتفرم رسانه های اجتماعی او یعنی X، ظاهرا بارها اطلاعات غلط چت بات گروک درباره تیراندازی دسته جمعی امروز در ساحل باندی استرالیا منتشر کرده است.
بررسی پدیده اطلاعات غلط چت بات گروک
گیزمودو به تعدادی پست اشاره کرده که گراک در آن ها هویت تماشاچی – احمد الاحمد 43 ساله – که یکی از مهاجمین مسلح را خلع سلاح کرده بود، اشتباه شناسایی کرده بود و اصالت ویدئوها و عکس هایی را که اقدامات الاحمد را ثبت کرده بودند، زیر سوال برده بود. این نمونه ای از مشکلات ناشی از اطلاعات غلط چت بات گروک است.
در یک پست، چت بات مردی را در عکسی به اشتباه یک گروگان اسرائیلی معرفی کرد و در پستی دیگر اطلاعات نامربوطی در مورد رفتار ارتش اسرائیل با فلسطینی ها مطرح کرد. اینگونه اشتباهات، نگرانی ها درباره اعتبار محتوای تولید شده توسط هوش مصنوعی و به خصوص اطلاعات غلط چت بات گروک را افزایش می دهد. در پستی دیگر، ادعا کرد که یک “متخصص فناوری اطلاعات و معمار ارشد راه حل ها” 43 ساله به نام ادوارد کرابتری همان کسی بوده که واقعا یکی از مهاجمین مسلح را خلع سلاح کرده است.
به نظر می رسد گراک در حال رفع برخی از اشتباهاتش است. این موضوع نشان می دهد که حتی با وجود تلاش برای اصلاح، پدیده اطلاعات غلط چت بات گروک می تواند به سرعت منتشر شود. حداقل یک پستی که طبق گزارش ها ادعا کرده بود ویدئوی تیراندازی در واقع مربوط به طوفان آلفرد است، “پس از ارزیابی مجدد” تصحیح شده است.
و چت بات متعاقبا هویت الاحمد را تایید کرد و نوشت که “سوءتفاهم ناشی از پست های وایرال است که به اشتباه او را ادوارد کرابتری معرفی کرده بودند، احتمالا به دلیل یک خطای گزارش دهی یا یک شوخی با اشاره به یک شخصیت تخیلی.” موارد اینچنینی اهمیت بررسی صحت اطلاعات غلط چت بات گروک را دوچندان می کند و لزوم شفافیت در تولید محتوای هوش مصنوعی را برجسته می سازد.
این رویدادها نشان می دهد که اگرچه چت بات ها ابزارهای قدرتمندی هستند، اما خطرات ناشی از انتشار اطلاعات نادرست، به ویژه در مورد حوادث حساس، همچنان یک چالش مهم برای توسعه دهندگان و کاربران هوش مصنوعی باقی می ماند. اطمینان از صحت و شفافیت در عملکرد این سیستم ها برای حفظ اعتماد عمومی ضروری است و نیازمند توجه مستمر به مسائل اخلاقی و فنی است.
