اپلیکیشن UpScrolled با چالش های جدی در زمینه نظارت بر محتوا و گسترش پدیده نفرت پراکنی در شبکه های اجتماعی روبرو شده که باعث نگرانی کاربران و نهادهای نظارتی شده است.
اپلیکیشن UpScrolled، یه شبکه اجتماعی که بعد از تغییر مالکیت تیک تاک توی آمریکا حسابی گل کرد، حالا با یه مشکل جدی در زمینه نظارت بر محتوا روبرو شده. بعد از اینکه تعداد کاربرهای این برنامه در دی ماه 1403 به بیش از 2.5 میلیون نفر رسید، حالا گزارش شده که این اپلیکیشن در برابر ساخت نام های کاربری و هشتگ های حاوی توهین های نژادی هیچ واکنشی نشون نمی ده و نتونسته محتوای مخرب رو درست مدیریت کنه. این وضعیت نمونه بارزی از چالش نفرت پراکنی در شبکه های اجتماعی است.
بعد از گزارش هایی که کاربرهای UpScrolled فرستادن، وب سایت تک کرانچ (TechCrunch) تایید کرد که انواع توهین های نژادی و نفرت پراکنی در شبکه های اجتماعی توی نام های کاربری این برنامه وجود داره. مثلا بعضی از این اسم های کاربری شامل خودِ کلمات توهین آمیز هستن، یا اون ها رو با کلمات دیگه ترکیب کردن و یا حتی چندین توهین رو در یک اسم به کار بردن؛ بعضی از نام های کاربری دیگه هم حاوی پیام های نفرت پراکن هستن، مثل «درود بر هیتلر».
وقتی این موارد رو به ایمیل عمومی UpScrolled گزارش دادیم، پاسخی دریافت کردیم که می گفت این شرکت «به طور فعال در حال بررسی و حذف محتوای نامناسبه» و داره تلاش می کنه تیم نظارتی خودش رو بزرگ تر کنه. توی این ایمیل به ما توصیه شده بود تا زمانی که این مشکل حل بشه، با این کاربرهای بدخواه تعاملی نداشته باشیم.
اما چند روز بعد از گزارش این فعالیت ها، اکانت هایی که اسم های توهین آمیز داشتن و اسکرین شاتشون برای UpScrolled فرستاده شده بود، همچنان توی این برنامه فعال بودن.
علاوه بر این، تک کرانچ متوجه شد که این توهین ها و اشکال دیگر نفرت پراکنی در شبکه های اجتماعی توی بخش های دیگه اپلیکیشن مثل هشتگ ها و متن های کنار عکس و ویدیو هم دیده می شه. طبق بررسی های تک کرانچ، محتواهای مخرب دیگه ای هم وجود داشت، از جمله پست های متنی نژادپرستانه و عکس و ویدیوهایی که از هیتلر تمجید می کردن.
مشکل نفرت پراکنی در شبکه های اجتماعی UpScrolled
فقط تک کرانچ نبود که این مشکل رو شناسایی کرد؛ سازمان ADL هم این ماه یه پست منتشر کرد و گفت UpScrolled داره به پاتوقی برای محتواهای ضدیهودی و افراطی و گروه های تروریستی خارجی مثل حماس و بقیه تبدیل می شه. این نشان می دهد که پدیده نفرت پراکنی در شبکه های اجتماعی ابعاد گسترده ای دارد.
این اپلیکیشن که سال 1403 تاسیس شده، توی سایتش ادعا می کنه که به هر صدایی «قدرت برابر» می ده. طبق داده های موسسه Appfigures، از خردادماه 1404 تا الان، این برنامه بیش از 4 میلیون بار در سیستم عامل های iOS و اندروید دانلود شده که این رقم حتی از آمار خودِ استارتاپ در ماه گذشته هم بالاتره. رشد سریع کاربران، مدیریت و جلوگیری از نفرت پراکنی در شبکه های اجتماعی را برای این برنامه پیچیده تر کرده است.
با اینکه توی بخش سوالات متداول (FAQ) توضیح داده شده که این برنامه «نظرات رو سانسور نمی کنه»، اما این رو هم گفته که سیاستش محدود کردن محتواهاییه که شامل «فعالیت های غیرقانونی، نفرت پراکنی در شبکه های اجتماعی، قلدری، آزار و اذیت، برهنگی صریح، مطالب دارای کپی رایت بدون مجوز یا هر چیزی که هدفش آسیب رسوندن باشه» می شه.
این قوانین شبیه اکثر شبکه های اجتماعی امروزیه. اما کاملا مشخصه که این شرکت برای اجرای قوانینش داره حسابی به مشکل می خوره. این چالش در اجرای قوانین، معضل نفرت پراکنی در شبکه های اجتماعی را تشدید می کند.
این چالشیه که اکثر شبکه های اجتماعی باش روبرو می شن، مخصوصا اون هایی که توی مدت کوتاهی با هجوم زیاد کاربرهای جدید مواجه می شن. مثلا اپلیکیشن بلواسکای جایگزین X هم که با هدف جذب کاربران بیشتر قابلیت های جدیدی معرفی کرده، در تیرماه 1402 با مشکل نام های کاربری توهین آمیز روبرو شد که باعث شد خیلی از کاربرها تهدید به ترک برنامه کنن.
راهکارهای مقابله با نفرت پراکنی در شبکه های اجتماعی
بعد از اولین جواب UpScrolled، تک کرانچ روز سه شنبه پاسخی هم از بخش رسانه ای شرکت دریافت کرد که ما رو به ویدیوی جدید موسس این اپلیکیشن، عصام حجازی (Issam Hijazi)، ارجاع داد؛ اون توی این ویدیو به مشکلات نظارت بر محتوا پرداخته بود.
توی این ویدیو، اون تایید کرد که کاربرها محتواهای مخربی رو آپلود کردن که برخلاف شرایط استفاده از خدمات UpScrolled و باورهای این شرکته.
حجازی گفت: «ما به همه این آزادی رو می دیم که نظراتشون رو در یک محیط دیجیتال سالم و محترمانه بیان کنن.» اون برای ایجاد این فضا اضافه کرد که شرکت «به سرعت در حال گسترش تیم نظارت بر محتواست و داریم زیرساخت های تکنولوژیمون رو ارتقا می دیم تا بتونیم محتوای مخرب رو با دقت و سرعت بیشتری شناسایی و حذف کنیم.»
مدیریت پلتفرم های اجتماعی در حال رشد همواره با دشواری های نظارتی همراه است. UpScrolled برای حفظ بقای خود در بازار رقابتی باید بتواند میان آزادی بیان و جلوگیری از ترویج خشونت توازن برقرار کند، در غیر این صورت با ریزش شدید کاربران و فشارهای قانونی روبرو خواهد شد.
UpScrolled’s social network is struggling to moderate hate speech after fast growth
