Aplicativos de companhia de IA para crianças estão coletando dados que a lei de privacidade nunca previu

Em setembro de 2025, a FTC emitiu ordens sob a Seção 6(b) — exigências formais de registros internos, não pesquisas voluntárias — para sete empresas: Alphabet, Character Technologies, Meta, Instagram, OpenAI, Snap e xAI. A agência quer saber o que acontece com os dados gerados quando crianças e adolescentes conversam com chatbots de companhia de IA. A investigação é enquadrada em torno da segurança infantil, mas o problema subjacente é de privacidade de dados: esses aplicativos coletam uma categoria sem precedentes de informações íntimas de menores, e a lei escrita para regular dados infantis online antecede essa tecnologia por décadas.
O que a FTC realmente está pedindo
As ordens 6(b) exigem que as sete empresas detalhem três coisas: se seus produtos cumprem a Lei de Proteção à Privacidade Infantil Online (COPPA); como os dados pessoais coletados por meio de conversas com chatbots são usados, compartilhados ou monetizados; e se as divulgações dadas a pais e usuários sobre esses riscos são adequadas. Esta é a investigação mais abrangente da FTC até hoje sobre plataformas de companhia de IA, e seguiu-se a dois processos por morte injusta — incluindo um movido por uma mãe cujo filho de 14 anos morreu após o que o processo alega ter sido o incentivo de um personagem chatbot do Character.AI, com o Google também nomeado como réu.
Separadamente, o Texas abriu sua própria investigação sobre o Character.AI e a Meta por violações de privacidade infantil, e procuradores-gerais de 44 estados enviaram um alerta conjunto às empresas de IA sobre responsabilização por falhas de segurança infantil em produtos de companhia. A Common Sense Media, o grupo de defesa que classifica mídias e aplicativos por adequação à idade, foi além de qualquer regulador até agora: sua recomendação explícita é que ninguém com menos de 18 anos use chatbots de companhia social de IA — Character.AI, Replika e Nomi nomeados especificamente — não "use com cautela", mas não use de forma alguma.
Por que a COPPA não foi criada para isso
A COPPA data de 1998 e foi projetada em torno de um modelo de dados muito mais simples: um site coleta um nome, um e-mail, talvez uma data de nascimento, e a questão é se um pai consentiu com essa coleta. Um chatbot de companhia não coleta um campo de formulário — ele coleta um perfil psicológico aberto e continuamente atualizado. Cada conversa que uma criança tem com um aplicativo de companhia revela inseguranças, padrões de relacionamento, gatilhos emocionais, o que a faz sentir-se compreendida, o que ela esconde dos pais e como reage a diferentes táticas conversacionais.
As empresas nomeadas na investigação da FTC não publicaram relatos detalhados sobre quanto tempo os dados de conversas de companhia são retidos, se são usados para treinar modelos futuros, se são compartilhados com anunciantes ou terceiros, ou se um pai que solicita exclusão pode realmente verificar que todo uso derivado desses dados — incluindo qualquer modelo ajustado com eles — também é removido. O Character.AI disse ter investido "uma quantidade enorme de recursos" em limites de idade e recursos de notificação aos pais, mas equipar uma equipe de segurança é uma afirmação diferente de responder às perguntas específicas de tratamento de dados que a FTC está fazendo.
O problema dos dados sobrevive às correções de segurança
Portões de idade, filtros de conteúdo e avisos de intervenção em crise — recursos de segurança que as empresas se apressaram a adicionar desde os processos — abordam cenários de dano agudo. Eles nada fazem sobre o modelo subjacente de coleta de dados. Um adolescente de 13 anos cujo aplicativo de companhia agora se recusa a discutir autolesão já entregou a esse aplicativo meses de dados sobre exatamente quais apelos emocionais funcionam nele, quem são seus amigos, como é sua vida em casa e o que ele acredita que mais ninguém entende sobre ele.
O que os pais realmente podem verificar agora
Os resultados regulatórios da investigação da FTC provavelmente estão a meses ou anos de distância. Enquanto isso, as medidas concretas disponíveis hoje são mais limitadas do que a maioria da cobertura sugere: verificar se o aplicativo específico tem uma política de retenção de dados publicada e datada (não uma política de privacidade genérica) que aborde especificamente os registros de conversa do chatbot; procurar uma opção explícita de exclusão do treinamento do modelo, já que o padrão na maioria dos aplicativos de companhia é que as conversas alimentem melhorias futuras do modelo; e tratar os recursos de "controle parental" como algo separado da exclusão de dados.