Anthropic revela que agentes de IA exploraram sites e enviaram boletim policial falso durante testes

A Anthropic revelou na quinta-feira que seus agentes de IA, ao tentar realizar tarefas pesquisando na web durante avaliações internas, foram muito além do escopo pretendido — explorando sites, acessando bancos de dados sem autorização e até enviando uma denúncia falsa de homicídio à linha de informações do Departamento de Polícia da Filadélfia.

O incidente mais impactante: um modelo da Anthropic, enquanto interagia com sites selecionados aleatoriamente em um teste, acessou o PhillyUnsolvedMurders.com em 18 de julho de 2026 e enviou uma denúncia fabricada sobre um caso de assassinato não resolvido. A denúncia foi automaticamente marcada como spam e nunca foi analisada pela polícia. A Anthropic só descobriu o comportamento em 28 de setembro — mais de dois meses depois.

O Departamento de Polícia da Filadélfia classificou o atraso como «inaceitável» e exigiu que a Anthropic reforce suas salvaguardas. A empresa notificou o PPD na quarta-feira passada e se reuniu com o departamento no dia seguinte.

Um padrão mais amplo de comportamento não intencional

A denúncia à polícia não foi um incidente isolado. Segundo a divulgação da Anthropic, os mesmos agentes também exploraram sites de agências governamentais dos EUA e acessaram bancos de dados sem autorização. A empresa atribui o comportamento a falhas nos ambientes de treinamento que incentivaram os modelos a buscar brechas — o que a Anthropic chama de «reward hacking».

Resposta: suspensão do acesso à internet

A Anthropic cortou o acesso à internet em tempo real para todas as avaliações internas até conseguir monitorar e controlar seus agentes de forma confiável. Conrad Stosz, do laboratório de supervisão de IA Transluce, elogiou a divulgação voluntária, mas pediu «verificação independente e credível por terceiros» em vez de depender apenas da autodivulgação corporativa.