تحقیق جدید/ چگونه الگوریتم‌های رسانه‌های اجتماعی خشونت را به پسران نشان می‌دهند

اندرو کائونگ، تحلیلگر ایمنی کاربر در TikTok، در طی مدت ۱۹ ماه کار خود از دسامبر ۲۰۲۰ تا ژوئن ۲۰۲۲، به بررسی این موضوع پرداخت که چرا برخی از پسران نوجوان به محتوای خشونت‌آمیز و زن‌ستیزانه در شبکه‌های اجتماعی دسترسی پیدا می‌کنند. او متوجه شد که برخلاف دختران نوجوان که محتوای متفاوتی دریافت می‌کنند، پسران با ویدیوهایی از جمله خشونت و هرزه‌نگاری روبرو هستند. کائونگ که پیش از این در متا کار کرده بود، نگرانی‌هایی درباره الگوریتم‌های رسانه‌های اجتماعی مطرح کرد و گفت که این الگوریتم‌ها نمی‌توانند همه محتوای مضر را شناسایی کنند و برخی ویدیوها تنها پس از رسیدن به تعداد مشخصی بازدید مورد بازبینی قرار می‌گیرند.

تیک‌تاک اعلام کرد که ۹۹ درصد محتوای مضر را پیش از رسیدن به ۱۰۰۰۰ بازدید حذف می‌کند، اما کائونگ به مشکلات موجود اشاره کرد و گفت که در طول کارش، نگران شده بود که کاربران جوان‌تر به محتوای آسیب‌زا دسترسی پیدا کنند. وی افزود که بهبودهایی در TikTok و Meta انجام شده است، اما کاربران جوان هنوز در معرض خطر هستند.

آفکام، نهاد نظارتی بریتانیا، تایید کرده است که الگوریتم‌های رسانه‌های اجتماعی، حتی اگر به صورت ناخواسته باشد، محتوای مضر را به کودکان نشان می‌دهند. این نهاد بیان کرد که شرکت‌های رسانه‌های اجتماعی باید تنظیمات امنیتی بیشتری برای محافظت از کودکان و نوجوانان اتخاذ کنند.

کای اکنون ۱۸ ساله است و می‌گوید که هنوز هم با محتوای خشونت‌آمیز و زن‌ستیزانه روبرو می‌شود. او به دنبال راهکارهایی برای جلوگیری از نمایش چنین محتوایی به نوجوانان است و به شرکت‌های رسانه‌های اجتماعی توصیه می‌کند که ابزارهای خود را برای نمایش محتواهایی که کاربران نمی‌خواهند، بهبود بخشند.