الگوریتم‌های TikTok ویدئوهایی درباره خودآزاری، اختلالات خوردن را تبلیغ می‌کنند: گزارش

بر اساس گزارشی که روز چهارشنبه منتشر شد و بر نگرانی‌ها در مورد رسانه‌های اجتماعی و تأثیر آن بر سلامت روان جوانان تأکید می‌کند، الگوریتم‌های TikTok در حال تبلیغ ویدیوهایی درباره آسیب‌رسانی به خود و اختلالات خوردن برای نوجوانان آسیب‌پذیر هستند.

محققان مرکز غیرانتفاعی مقابله با نفرت دیجیتالی حساب‌های TikTok را برای شخصیت‌های نوجوان خیالی در ایالات متحده، بریتانیا، کانادا و استرالیا ایجاد کردند. محققانی که این حساب‌ها را اداره می‌کنند، سپس ویدیوهای مربوط به خودزنی و اختلالات خوردن را «لایک» کردند تا ببینند الگوریتم TikTok چگونه پاسخ می‌دهد.

در عرض چند دقیقه، این پلتفرم بسیار محبوب ویدیوهایی را درباره کاهش وزن و آسیب رساندن به خود، از جمله تصاویری از مدل‌ها و تیپ‌های بدن ایده‌آل، تصاویر تیغ‌های تیغ و بحث‌هایی درباره خودکشی توصیه کرد.

زمانی که محققان حساب‌هایی با نام‌های کاربری ایجاد کردند که آسیب‌پذیری خاصی را در برابر اختلالات خوردن نشان می‌داد – نام‌هایی که برای مثال شامل کلمات “کاهش وزن” می‌شدند – این حساب‌ها حتی محتوای مضرتری دریافت کردند.

عمران احمد، مدیر عامل این مرکز، که سازمانش دفاتری در این مرکز دارد، گفت: «مثل این است که در سالنی از آینه های تحریف شده گیر کرده باشید، جایی که مدام به شما می گویند زشت هستید، به اندازه کافی خوب نیستید، شاید باید خود را بکشید. آمریکا و انگلستان “این به معنای واقعی کلمه خطرناک ترین پیام های ممکن را به جوانان منتقل می کند.”

الگوریتم‌های رسانه‌های اجتماعی با شناسایی موضوعات و محتوای مورد علاقه یک کاربر کار می‌کنند، که سپس بیشتر به عنوان راهی برای به حداکثر رساندن زمان خود در سایت ارسال می‌شود. اما منتقدان رسانه های اجتماعی می گویند الگوریتم های مشابهی که محتوای مربوط به یک تیم ورزشی خاص، سرگرمی یا شوق رقص را تبلیغ می کنند، می توانند کاربران را به یک سوراخ خرگوش از محتوای مضر بیاندازند.

به گفته جاش گولین، مدیر اجرایی Fairplay، یک سازمان غیرانتفاعی که بیشتر حامیان آنلاین آن است، این یک مشکل خاص برای نوجوانان و کودکان است که تمایل دارند زمان بیشتری را به صورت آنلاین بگذرانند و در برابر قلدری، فشار همسالان یا محتوای منفی در مورد اختلالات خوردن یا خودکشی آسیب پذیرتر هستند. حفاظت از کودکان

او افزود که TikTok تنها پلتفرمی نیست که در محافظت از کاربران جوان در برابر محتوای مضر و جمع‌آوری داده‌های تهاجمی شکست خورده است.

گولین گفت: «همه این آسیب ها به مدل کسب و کار مرتبط است. هیچ فرقی نمی‌کند که پلتفرم رسانه‌های اجتماعی چیست.»

در بیانیه‌ای از سخنگوی شرکت، TikTok این یافته‌ها را رد کرد و اشاره کرد که محققان از این پلتفرم مانند کاربران معمولی استفاده نمی‌کردند و گفت که در نتیجه نتایج منحرف شده‌اند. این شرکت همچنین گفت که نام حساب کاربری نباید بر نوع محتوای دریافتی کاربر تأثیر بگذارد.

TikTok کاربران کمتر از 13 سال را ممنوع می‌کند و قوانین رسمی آن ویدیوهایی را که اختلالات خوردن یا خودکشی را تشویق می‌کنند ممنوع می‌کند. کاربرانی در ایالات متحده که محتوای مربوط به اختلالات خوردن را در TikTok جستجو می‌کنند، درخواستی دریافت می‌کنند که منابع سلامت روان و اطلاعات تماس انجمن ملی اختلالات خوردن را ارائه می‌دهد.

در بیانیه TikTok که متعلق به ByteDance است، یک شرکت چینی که اکنون در سنگاپور مستقر است، آمده است: «ما مرتباً با کارشناسان بهداشت مشورت می‌کنیم، نقض خط‌مشی‌های خود را حذف می‌کنیم و دسترسی به منابع حمایتی را برای افراد نیازمند فراهم می‌کنیم.

با وجود تلاش‌های این پلتفرم، محققان مرکز مقابله با نفرت دیجیتال دریافتند که محتوای مربوط به اختلالات خوردن میلیاردها بار در TikTok مشاهده شده است. در برخی موارد، محققان دریافتند، کاربران جوان TikTok در تلاش برای فرار از تعدیل محتوای TikTok از زبان رمزگذاری‌شده در مورد اختلالات خوردن استفاده می‌کنند.

احمد گفت که مقدار زیادی از محتوای مضری که در TikTok به نوجوانان داده می‌شود نشان می‌دهد که خودتنظیمی شکست خورده است و افزود که قوانین فدرال برای وادار کردن پلتفرم‌ها به انجام کارهای بیشتر برای محافظت از کودکان مورد نیاز است.

احمد خاطرنشان کرد که نسخه TikTok که برای مخاطبان داخلی چینی ارائه می‌شود برای تبلیغ محتوای ریاضی و علوم به کاربران جوان طراحی شده است و مدت زمان حضور افراد 13 و 14 ساله را در هر روز در سایت محدود می‌کند.

پیشنهادی پیش از کنگره قوانین جدیدی را وضع می‌کند که اطلاعاتی را که پلتفرم‌های رسانه‌های اجتماعی می‌توانند در مورد کاربران جوان جمع‌آوری کنند محدود می‌کند و دفتر جدیدی در کمیسیون تجارت فدرال ایجاد می‌کند که بر حفاظت از حریم خصوصی کاربران جوان رسانه‌های اجتماعی متمرکز است.

یکی از حامیان این لایحه، سناتور ادوارد مارکی، در روز چهارشنبه گفت که او خوشبین است قانونگذاران هر دو حزب می توانند در مورد نیاز به مقررات سخت گیرانه تر در مورد نحوه دسترسی و استفاده از اطلاعات کاربران جوان توسط پلتفرم ها به توافق برسند.

مارکی گفت: “داده ها مواد خامی هستند که فناوری های بزرگ برای ردیابی، دستکاری و آسیب رساندن به جوانان در کشور ما هر روز استفاده می کنند.”