دادستانی نیویورک مدعی شد: قابلیت امنیتی TikTok برای نوجوونها کاملاً الکی بوده و هیچ کاری نمیکرده

ایالت نیویورک روز ۸ اکتبر شکایتی رو علیه شرکت TikTok ثبت کرد و مدعی شد این پلتفرم کاملاً آگاهانه یه نسخهی دارونما و الکی از قابلیت ایمنی رو در اختیار هزاران کاربر، از جمله نوجوانها و افراد زیر سن قانونی گذاشته، در حالی که بهشون اطمینان میداده این ابزار داره کار میکنه. این پرونده که به گزارش خبرگزاری Reuters استناد میکنه، تمرکزش روی ابزاری به اسم Algo Refresh هست؛ قابلیتی که هدفش این بوده کاربرا موقع برخورد با محتوای ناخواسته یا آسیبزننده بتونن پیشنهادهای محتوایی فید خودشون رو از اول ریست کنن.
بر اساس این اتهامات، کاربرایی که وارد این آزمایش شده بودن گزینهی Algo Refresh رو انتخاب کردن و خیال میکردن روشنش کردن، اما فید اونا هیچ تغییری نکرد. در نقطهی مقابل، یه گروه دیگه از کاربرا خارج از این آزمایش بودن که نسخهی کاملاً سالم و واقعی همین قابلیت رو دریافت کردن و دیدن که پیشنهادهای محتواییشون عوض شد. به عبارت دیگه، ادعا شده شرکت TikTok یه آزمایش کنترلشده راه انداخته و با سلامت روان و امنیت بخشی از کاربرا بازی کرده و بدون اینکه خودشون خبر داشته باشن، اونا رو بهعنوان گروه کنترلِ این آزمایش قرار داده.
بخشی از یه الگوی بزرگتر
پروندهی نیویورک فقط یکی از بیش از ۲۴ شکایت ایالتی هست که ادعا میکنن پلتفرم TikTok طوری طراحی شده تا بچهها رو به استفادهی اعتیادگونه بکشونه، ولی این دادخواست یه سازوکار دقیق و مستند رو به پرونده اضافه میکنه: یه آزمایش داخلی که طی اون، یه ابزار ایمنی از کسایی که فکر میکردن دارن ازش استفاده میکنن دریغ شده بود. خبرگزاری Bloomberg هم توی ماه ژوئن از یه پروندهی مرتبط گزارش داده بود؛ یه آزمایش جداگونه از شرکت TikTok که قابلیت ایمنی رو از ۱۵ میلیون کاربر آمریکایی محروم کرده بود، از جمله نوجوانی که متاسفانه بعداً دست به خودکشی زد. همون گزارش قبلی باعث شده بود سناتورها از مدیران TikTok بازخواست کنن و در مورد آزمایشهایی که حفاظهای ایمنی رو غیرفعال میکنه توضیح بخوان؛ حالا این شکایت جدید، دومین نمونهی ملموس و دقیقتر رو به دادستانها میده تا بر اساسش پروندهی قضاییشون رو بسازن.
واکنش شرکت TikTok
مسئولان شرکت TikTok به خبرگزاری Reuters گفتن: «ما مدام در حال ارتقا و بهبود پلتفرمون هستیم» و اعلام کردن که بهطور مرتب محصولها و قابلیتهای جدید رو تست میکنن تا بفهمن توی شرایط دنیای واقعی چه عملکردی دارن. البته این شرکت به درخواست رسانهی TechCrunch برای اظهارنظر دربارهی ادعاهای مشخص دادخواست نیویورک، جوابی نداد.
چرا این تفاوت از نظر حقوقی مهمه
اجرای تستهای A/B روی قابلیتهای محصول، یه روال کاملاً استاندارد تو کل صنعت فناوریه و به خودیِ خود نه غیرقانونیه و نه حتی عجیبوغریب. چیزی که طبق ادعاهای مطرحشده ماجرا رو به یه مسئولیت حقوقی تبدیل میکنه، اینه که به کاربرهای گروه کنترل — اونم کاملاً صریح و از طریق رابط کاربری خود محصول — گفته شده بود یه قابلیت امنیتیِ واقعی براشون فعال شده، در صورتی که اصلاً فعال نشده بود. این دقیقاً همون مرز بین یه آزمایش معمولی با چیزیه که دادخواست نیویورک ازش به عنوان فریبکاری یاد میکنه: بحث سر این نیست که تست کنی ببینی یه ابزار امنیتی کار میکنه یا نه؛ موضوع اینه که به کاربرهای آسیبپذیر بگی داری ازشون محافظت میکنی، در حالی که عمداً اون قابلیت رو ازشون دریغ کردی.
سرنوشت این پرونده احتمالاً به اسناد داخلیِ شرکت TikTok بستگی داره؛ مدارکی که نشون میدن خود شرکت چقدر از طراحی این آزمایش باخبر بوده و چه کسی تایید کرده که به کاربرها بگن این قابلیت فعاله. اگه دادستانی نیویورک بتونه نشون بده مدیران ارشد پای جا زدنِ یه ابزار ایمنیِ غیرفعال به عنوان یه ابزار کارآمد رو امضا کردن، قضیه از یه اختلافنظر سر طراحی فراتر میره و تبدیل میشه به نقض حقوق مصرفکننده. این اتفاق هم میتونه جریمههای مالی واقعی داشته باشه و هم — که برای دردسرهای حقوقیِ بزرگترِ پلتفرم TikTok مهمتره — یه سابقهی مستند درست میکنه که دادستانهای بقیهی ایالتها هم میتونن بهش استناد کنن.
در ابتدا توسط TechCrunch گزارش شده است. برای جزئیات بیشتر مقالهٔ اصلی را بخوانید.
مشاهدهٔ منبع اصلی