New York accuse TikTok d'avoir donné aux adolescents une fausse fonctionnalité de sécurité qui ne faisait rien

L'État de New York a déposé une plainte contre TikTok le 8 octobre, alléguant que l'entreprise a sciemment fourni une version placebo d'une fonctionnalité de sécurité à des milliers d'utilisateurs, dont des mineurs, tout en leur disant qu'elle fonctionnait. L'affaire, qui cite un rapport de Reuters, porte sur un outil appelé Algo Refresh, conçu pour permettre aux utilisateurs de réinitialiser leurs recommandations de contenu lorsqu'ils voient du matériel indésirable ou potentiellement nuisible.

Selon les allégations, les utilisateurs inscrits à l'expérience ont activé Algo Refresh et croyaient l'avoir enclenché. Leurs fils d'actualité n'ont pas changé. Un groupe distinct d'utilisateurs hors de l'expérience, qui a reçu une version pleinement fonctionnelle de la même fonctionnalité, a bien vu ses recommandations évoluer.

Partie d'un schéma plus large

L'affaire de New York est l'une de plus de deux douzaines de plaintes d'État alléguant que TikTok a conçu sa plateforme pour encourager un usage addictif chez les enfants, mais cette plainte ajoute un mécanisme spécifique et documenté à cet argument plus large. Bloomberg a rapporté en juin une affaire connexe — une autre expérience TikTok qui a privé 15 millions d'utilisateurs américains d'une fonctionnalité de sécurité, dont un adolescent décédé plus tard par suicide.

La réponse de TikTok

TikTok a déclaré à Reuters : «Nous améliorons continuellement notre plateforme», ajoutant qu'elle teste régulièrement de nouveaux produits et fonctionnalités pour comprendre leur fonctionnement en conditions réelles. L'entreprise n'a pas répondu à la demande de commentaire de TechCrunch sur les allégations spécifiques de la plainte de New York.

Pourquoi cette distinction compte juridiquement

Mener des tests A/B sur des fonctionnalités de produit est une pratique standard dans l'industrie technologique, et n'est en soi ni illégale ni même inhabituelle. Ce qui transforme cela en responsabilité juridique, selon les allégations, c'est que les utilisateurs du groupe témoin ont été informés — explicitement, via l'interface même du produit — qu'une véritable fonctionnalité de sécurité avait été activée, alors qu'elle ne l'était pas.

L'affaire dépendra probablement de documents internes de TikTok montrant ce que l'entreprise savait de la conception de l'expérience et qui a approuvé le fait de dire aux utilisateurs que la fonctionnalité était active.