پلتفرم محبوب تیکتاک (TikTok) با موج جدیدی از انتقادات و پرسشها درباره سابقه ایمنی خود و نحوه عملکرد الگوریتمش در شکلگیری حبابهای محتوایی خطرناک مواجه شده است. سناتورهای آمریکایی، مارشا بلاکبرن (Marsha Blackburn) و ریچارد بلومنتال (Richard Blumenthal)، نامه بسیار تندی را به مدیران ارشد این شرکت ارسال کرده و خواستار شفافسازی درباره نحوه تست و در برخی موارد، خودداری از ارائه ویژگیهای کلیدی ایمنی به کاربران شدهاند.
این نامه پس از آن ارسال شد که خبرگزاری بلومبرگ (Bloomberg) گزارشی درباره یک آزمایش جنجالی منتشر کرد که این شرکت در سال ۲۰۲۱ میلادی کلید زده بود. هدف اولیه این تغییر الگوریتمی، کمک به کاربران برای پرهیز از الگوهای تکراری یا همان حبابهای فیلتر در فید For You بود. تیکتاک مدعی شده بود که این بهروزرسانی برای جلوگیری از تماشای بیش از حد دستههای محتوایی خاص طراحی شده است؛ محتواهایی که شاید دیدن یک ویدیوی آن مشکلی نداشته باشد، اما تماشای انبوه و خوشهای آنها آسیبزا است.
با این حال، اسناد افشاشده نشان میدهند که تیکتاک این ویژگی ایمنی را از میلیونها کاربر پنهان کرد تا از آنها به عنوان گروه کنترل برای سنجش میزان تعامل کاربران استفاده کند. طبق گزارشها، یکی از نوجوانان آمریکایی به نام چیس ناسکا (Chase Nasca) که حساب کاربریاش در این گروه کنترل قرار داشت، پیش از خودکشی در معرض حجم عظیمی از محتواهای مرتبط با افسردگی و خودزنی قرار گرفته بود. اسناد داخلی تیکتاک تایید میکنند که الگوریتم این نوجوان را در یک حباب محتوای خطرناک گرفتار کرده بود.
سناتورها در نامه خود از تیکتاک خواستهاند جزئیات کامل این آزمایش و موارد مشابه را ارائه دهد. آنها همچنین پرسیدهاند که آیا این شرکت تاکنون از انتشار یک ویژگی ایمنی به دلیل تاثیر منفی احتمالی آن بر میزان تعامل (Engagement) یا درآمد تبلیغاتی خودداری کرده است یا خیر. به تیکتاک مهلت داده شده است تا اول سپتامبر به این پرسشها پاسخ دهد. این افشاگریها بار دیگر نشان میدهد که شرکتهای فناوری عمداً دسترسی به ابزارهای ایمنی را محدود میکنند.
این دو سناتور از چهرههای اصلی پیگیری حقوق نوجوانان در فضای مجازی و حامیان لایحه امنیت آنلاین کودکان (Kids Online Safety Act) هستند. آزمایش جنجالی تیکتاک دقیقاً در زمانی آغاز شد که مدیران این شرکت در حال شهادت در کنگره آمریکا درباره خطرات شبکههای اجتماعی برای کودکان بودند. سناتورها این اقدامات تیکتاک را «بسیار شرورانه» توصیف کرده و خواستار پاسخگویی جدی این غول فناوری شدند.