Nova York acusa o TikTok de dar aos adolescentes um recurso de segurança falso que não fazia nada

O estado de Nova York processou o TikTok em 8 de outubro, alegando que a empresa deu conscientemente uma versão placebo de um recurso de segurança a milhares de usuários, incluindo menores, enquanto dizia a eles que estava funcionando. O caso, que cita uma reportagem da Reuters, centra-se em uma ferramenta chamada Algo Refresh, projetada para permitir que os usuários redefinam suas recomendações de conteúdo ao verem material indesejado ou potencialmente prejudicial.

Segundo as alegações, os usuários inscritos no experimento ativaram o Algo Refresh e acreditavam tê-lo ligado. Seus feeds não mudaram. Um grupo separado de usuários fora do experimento, que recebeu uma versão totalmente funcional do mesmo recurso, viu suas recomendações mudarem.

Parte de um padrão mais amplo

O caso de Nova York é um de mais de duas dezenas de processos estaduais alegando que o TikTok projetou sua plataforma para incentivar o uso que causa dependência entre crianças, mas este processo adiciona um mecanismo específico e documentado a esse argumento mais amplo. A Bloomberg noticiou em junho um caso relacionado — outro experimento do TikTok que negou um recurso de segurança a 15 milhões de usuários americanos, incluindo um adolescente que depois morreu por suicídio.

A resposta do TikTok

O TikTok disse à Reuters: “Melhoramos continuamente nossa plataforma”, e afirmou que testa regularmente novos produtos e recursos para entender como funcionam em condições reais. A empresa não respondeu ao pedido de comentário do TechCrunch sobre as alegações específicas no processo de Nova York.

Por que essa distinção importa legalmente

Realizar testes A/B em recursos de produto é prática padrão na indústria de tecnologia, e por si só não é ilegal nem mesmo incomum. O que transforma isso em responsabilidade legal, segundo as alegações, é que os usuários do grupo de controle foram informados — explicitamente, através da própria interface do produto — que um recurso de segurança real havia sido ativado, quando não havia.

O caso provavelmente dependerá de documentação interna do TikTok mostrando o que a empresa sabia sobre o design do experimento e quem aprovou dizer aos usuários que o recurso estava ativo.