Nueva York acusa a TikTok de dar a los adolescentes una función de seguridad falsa que no hacía nada

El estado de Nueva York presentó una demanda contra TikTok el 8 de octubre alegando que la empresa dio a conciencia una versión placebo de una función de seguridad a miles de usuarios, incluidos menores, mientras les decía que funcionaba. El caso, que cita un informe de Reuters, se centra en una herramienta llamada Algo Refresh, diseñada para que los usuarios reinicien sus recomendaciones de contenido al ver material no deseado o potencialmente dañino.

Según las alegaciones, los usuarios inscritos en el experimento activaron Algo Refresh y creían haberlo encendido. Sus feeds no cambiaron. Un grupo separado de usuarios fuera del experimento, que recibió una versión totalmente funcional de la misma función, sí vio cambiar sus recomendaciones.

Parte de un patrón más amplio

El caso de Nueva York es una de más de dos docenas de demandas estatales que alegan que TikTok diseñó su plataforma para fomentar el uso adictivo entre niños, pero esta demanda añade un mecanismo específico y documentado a ese argumento más amplio. Bloomberg informó en junio sobre un caso relacionado: otro experimento de TikTok que retuvo una función de seguridad a 15 millones de usuarios estadounidenses, incluido un adolescente que luego murió por suicidio.

La respuesta de TikTok

TikTok dijo a Reuters: “Mejoramos continuamente nuestra plataforma”, y afirmó que prueba regularmente nuevos productos y funciones para entender cómo funcionan en condiciones reales. La empresa no respondió a la solicitud de comentarios de TechCrunch sobre las alegaciones específicas en la demanda de Nueva York.

Por qué importa legalmente esta distinción

Realizar pruebas A/B en funciones de producto es una práctica estándar en la industria tecnológica, y por sí sola no es ilegal ni siquiera inusual. Lo que convierte esto en una responsabilidad legal, según las alegaciones, es que a los usuarios del grupo de control se les dijo —explícitamente, a través de la propia interfaz del producto— que una función de seguridad real se había activado, cuando no era así.

El caso probablemente dependerá de la documentación interna de TikTok que muestre qué sabía la empresa sobre el diseño del experimento y quién aprobó decir a los usuarios que la función estaba activa.