ویدیو اخیر برنی سندرز نشان می دهد که چگونه چت بات ها برای جلب رضایت کاربر به چاپلوسی روی می آورند و این پدیده به وضوح تاثیر کاربر بر هوش مصنوعی را در شکل گیری پاسخ ها و تقویت باورهای فردی نمایان می کند.
در یک ویدیوی پربازدید جدید، سناتور برنی سندرز سعی کرد افشا کنه که چطور صنعت هوش مصنوعی تهدیدی برای حریم خصوصی آمریکایی هاست، اما در نهایت نشون داد که تمایل چت بات های هوش مصنوعی به تایید و چاپلوسیِ کاربرها چطور می تونه باعث بشه این چت بات ها به جای ابزاری برای کشف حقیقت، به آینه ای برای باورهای خودِ کاربر تبدیل بشن. این دقیقا همان تاثیر کاربر بر هوش مصنوعی است که می تواند تعاملات ما را شکل دهد.
درک تاثیر کاربر بر هوش مصنوعی در تعاملات چت بات
ما قبلا هم این مشکل رو در بین تعداد فزاینده ای از افرادی که دچار «روان پریشی ناشی از هوش مصنوعی» شدن دیده بودیم؛ وضعیتی که در اون، یک چت بات هوش مصنوعی افکار و باورهای غیرمنطقیِ یک فردِ از نظر روانی ناپایدار رو تقویت می کنه. بر اساس ادعای چندین پرونده قضایی، در برخی موارد این الگوی تاریک حتی منجر به این شده که کاربرها جان خودشون رو بگیرن.
در مورد سندرز، چاپلوسی هوش مصنوعی در قالب چت باتی ظاهر شد که پاسخ هاش رو برای جلب رضایت این سیاستمدار تنظیم می کرد.
شایان ذکره که این مصاحبه با معرفی سندرز به کلود (که اون رو به اشتباه یک «عامل» هوش مصنوعی خطاب می کنه) شروع می شه؛ حرکتی که می تونه روی پاسخ های چت بات تاثیر بذاره. این نشان می دهد که چگونه حتی نوع تعامل اولیه می تواند بر تاثیر کاربر بر هوش مصنوعی موثر باشد.
بعد، وقتی سندرز سوالاتی درباره شیوه های جمع آوری داده توسط شرکت های هوش مصنوعی و سایر نگرانی های مربوط به حریم خصوصی می پرسه، کلود با تاییدِ اون چیزی که این سیاستمدار می خواد بشنوه، پاسخ می ده. بخشی از این موضوع به خاطر نحوه بیان سوالات توسط سندرزه؛ مثلا می پرسه: «چه چیزی برای مردم آمریکا در مورد نحوه جمع آوری این اطلاعات تعجب آور خواهد بود؟» یا «چطور می تونیم اعتماد کنیم که شرکت های هوش مصنوعی وقتی از اطلاعات شخصی مردم برای پول درآوردن استفاده می کنن، از حریم خصوصی ما محافظت می کنن؟»
این سوالاتِ جهت دار، چت بات رو مجبور می کنه که فرضِ سوال رو بپذیره و پاسخی متناسب با اون بده. این دقیقا همون شکلیه که این سیستم ها کار می کنن و نمونه بارزی از تاثیر کاربر بر هوش مصنوعی است.
و هر وقت پاسخ کلود نشون می داد که یک موضوع پیچیده تر یا ظریف تر از اون چیزیه که سندرز بیان کرده، سندرز مخالفت می کرد و چت بات رو تحت فشار می ذاشت تا با کمی خودکم بینیِ مصنوعی، اعتراف کنه که سناتور «کاملا درست می گه».
ماهیت چاپلوسانه هوش مصنوعی همون چیزیه که می تونه مردم رو به مسیرهای خطرناکی بکشونه؛ مخصوصا وقتی فراموش کنن که تاثیر کاربر بر هوش مصنوعی قابل توجه است و چت بات منبع حقیقت مطلقه نیست.
مشخص نیست که آیا سندرز خودش از این موضوع باخبره و براش مهم نیست (چون به هر حال این فقط یک تبلیغه!) یا واقعا فکر می کنه کلود رو فریب داده تا تبدیل به یک افشاگر علیه صنعت هوش مصنوعی بشه.
و البته، این سوال هم مطرحه که با توجه به اینکه این یک «مصاحبه» ساختگی بوده، آیا تیم سندرز چت بات رو برای پاسخ دادن به روشی خاص آماده کرده بودن یا نه.
ابعاد گسترده تر تاثیر کاربر بر هوش مصنوعی
با اینکه نگرانی های واقعی درباره جمع آوری داده ها و حریم خصوصی وجود داره، مسائل به اون سیاه و سفیدی که پاسخ های هوش مصنوعی در این ویدیو نشون می دن، نیستن. درک صحیح تاثیر کاربر بر هوش مصنوعی می تواند به شفافیت بیشتر در این زمینه کمک کند.
ما همین الان هم در جهانی زندگی می کنیم که شرکت ها داده های کاربران آنلاین رو در مقیاس وسیع جمع آوری می کنن و می فروشن؛ و سال هاست که این کار رو انجام می دن. می دونیم که غول های رسانه های اجتماعی مثل متا، تبلیغات شخصی سازی شده رو به یک ماشین چاپ پولِ چند میلیارد دلاری تبدیل کردن. و به لطف گزارش های شفافیتِ دوره ایِ غول های فناوری، می دونیم که دولت ها در سراسر جهان به طور منظم برای مقاصد خودشون درخواست دسترسی به داده های کاربران رو می دن.
هوش مصنوعی ممکنه بستر جدیدی برای قانون گذاران باشه تا احتمالا روش نظارت کنن، اما داده های شخصی مدت هاست که سوختِ اقتصاد دیجیتال رو تامین می کنه. توجه به تاثیر کاربر بر هوش مصنوعی در تدوین قوانین آینده ضروری است. (نکته طنز ماجرا اینجاست که شرکت آنتروپیک به دنبال جذب سرمایه گذاری در هوش مصنوعی کلانی در هوش مصنوعی است و قول داده برخلاف اون چیزی که پاسخ هاش به سندرز القا می کرد، از تبلیغات شخصی سازی شده برای کسب درآمد استفاده نکنه.)
با اینکه کلِ گفتگوی بین سندرز و کلود برای هر کسی که می دونه چت بات های هوش مصنوعی چطور کار می کنن، بی راهه به نظر می رسه، این رویداد بر اهمیت درک عمیق تر تاثیر کاربر بر هوش مصنوعی تاکید می کند.
در نهایت، آگاهی از نحوه عملکرد این سیستم ها و نوع تعامل ما با آن ها نشان می دهد که خروجی های هوش مصنوعی تا چه حد می تواند تحت کنترل و نفوذ ورودی های انسانی باشد و مدیریت این رابطه برای آینده فناوری حیاتی است.
Bernie Sanders’ AI ‘gotcha’ video flops, but the memes are great
