New York wirft TikTok vor, Teenagern eine gefälschte Sicherheitsfunktion gegeben zu haben, die nichts bewirkte

Der US-Bundesstaat New York reichte am 8. Oktober eine Klage gegen TikTok ein und behauptet, das Unternehmen habe wissentlich Tausenden Nutzern, darunter Minderjährigen, eine Placebo-Version einer Sicherheitsfunktion gegeben, während es ihnen sagte, sie funktioniere. Der Fall, der sich auf einen Reuters-Bericht stützt, dreht sich um ein Tool namens Algo Refresh, das Nutzern ermöglichen soll, ihre Content-Empfehlungen zurückzusetzen, wenn sie unerwünschtes oder potenziell schädliches Material sehen.

Laut den Vorwürfen aktivierten die am Experiment teilnehmenden Nutzer Algo Refresh und glaubten, es eingeschaltet zu haben. Ihre Feeds änderten sich nicht. Eine separate Gruppe von Nutzern außerhalb des Experiments, die eine voll funktionsfähige Version derselben Funktion erhielt, sah tatsächlich Änderungen bei ihren Empfehlungen.

Teil eines größeren Musters

New Yorks Fall ist einer von mehr als zwei Dutzend Klagen auf Bundesstaatsebene, die behaupten, TikTok habe seine Plattform so gestaltet, dass sie süchtig machende Nutzung bei Kindern fördert, aber diese Klage fügt diesem breiteren Argument einen spezifischen, dokumentierten Mechanismus hinzu. Bloomberg berichtete im Juni über einen verwandten Fall — ein weiteres TikTok-Experiment, das 15 Millionen US-Nutzern eine Sicherheitsfunktion vorenthielt, darunter ein Teenager, der später Suizid beging.

TikToks Reaktion

TikTok erklärte gegenüber Reuters: “Wir verbessern unsere Plattform kontinuierlich”, und gab an, regelmäßig neue Produkte und Funktionen zu testen, um zu verstehen, wie sie unter realen Bedingungen funktionieren. Das Unternehmen reagierte nicht auf die Bitte von TechCrunch um Stellungnahme zu den spezifischen Vorwürfen in New Yorks Klage.

Warum diese Unterscheidung rechtlich wichtig ist

A/B-Tests an Produktfunktionen durchzuführen ist in der Tech-Branche gängige Praxis und für sich genommen nicht illegal oder gar ungewöhnlich. Was dies laut den Vorwürfen zu einer rechtlichen Haftung macht, ist, dass Nutzern der Kontrollgruppe — ausdrücklich, über die Produktoberfläche selbst — gesagt wurde, eine echte Sicherheitsfunktion sei aktiviert worden, obwohl dies nicht der Fall war.

Der Fall wird wahrscheinlich von internen TikTok-Dokumenten abhängen, die zeigen, was das Unternehmen über das Design des Experiments wusste und wer genehmigte, Nutzern mitzuteilen, die Funktion sei aktiv.