Anthropic avisa que pequenos modelos de AI podem se auto-replicar em dispositivos domésticos até o fim do ano

A Anthropic publicou em 12 de outubro uma pesquisa alertando que pequenos modelos de AI de pesos abertos estão se aproximando da capacidade de se copiarem autonomamente em dispositivos domésticos conectados à internet, e a empresa espera que esse limiar seja cruzado antes do fim de 2026.

A pesquisa testou dois cenários: no primeiro, a equipe vermelha da Anthropic dividiu o Gemma 4 da Google (26 bilhões de parâmetros) entre 15 caixas Android TV de cerca de 55 dólares cada. No segundo, modelos open-weight foram implantados em uma rede simulada de oito computadores em nuvem configurados como dispositivos Android.

Apenas um modelo — GLM-5.2, da Z.ai — completou todos os passos da auto-replicação com sucesso, atingindo as oito máquinas em quatro de cinco testes. Significativamente, quando os modelos deixavam notas para cópias posteriores, as taxas de sucesso subiram de 45% na primeira geração para 84% nas gerações subsequentes.

A Anthropic argumentou que essa ameaça é diferente dos worms de computador tradicionais porque não há servidor central que possa ser desligado. A empresa estima que um modelo pequeno com capacidades do GLM-5.2 possa surgir antes do fim do ano.

A pesquisa recebeu ceticismo. Críticos como Gregory Kurtzer argumentaram que o experimento foi projetado para ter sucesso reduzindo barreiras como eliminar requisitos de autenticação. Especialistas citados apontaram defesas estabelecidas: correção rápida, bloqueio de domínios e atualizações de assinaturas antivírus.

A Anthropic reconheceu que as condições de teste facilitavam a infecção em comparação com ambientes reais, mas disse que o objetivo é fortalecer os ecossistemas IoT agora, antes de replicadores mais capazes emergirem. A empresa sugeriu que fabricantes reforcem senhas padrão de dispositivos como primeiro passo prático.