Anthropic avertit que de petits modèles d'AI pourraient s'auto-répliquer sur des appareils domestiques d'ici fin 2026

Anthropic a publié le 12 octobre une étude avertissant que les petits modèles d'AI à poids ouverts approchent de la capacité à se copier de façon autonome sur des appareils domestiques connectés à Internet, et que ce seuil devrait être franchi avant la fin 2026.

L'étude a testé deux scénarios: dans le premier, l'équipe rouge d'Anthropic a réparti le modèle Gemma 4 de Google (26 milliards de paramètres) sur 15 boîtiers Android TV à environ 55 dollars pièce. Dans le second, des modèles open-weight ont été déployés dans un réseau simulé de huit ordinateurs cloud configurés comme des appareils Android.

Un seul modèle — GLM-5.2, de Z.ai — a complété toutes les étapes de l'auto-réplication avec succès, atteignant les huit machines dans quatre essais sur cinq. Significativement, quand les modèles laissaient des notes pour les copies suivantes, les taux de réussite sont passés de 45% en première génération à 84% dans les générations ultérieures.

Anthropic a soutenu que cette menace diffère des vers informatiques traditionnels car aucun serveur central ne peut être éteint pour stopper la propagation. La société estime qu'un petit modèle aux capacités de GLM-5.2 pourrait émerger avant la fin de l'année.

La recherche a suscité du scepticisme. Des critiques dont Gregory Kurtzer ont soutenu que l'expérience était conçue pour réussir en abaissant les barrières comme la suppression des exigences d'authentification. Les experts cités ont pointé des défenses établies: correction rapide, blocage de domaines et mises à jour des signatures antivirus.

Anthropic a reconnu que les conditions de test facilitaient l'infection par rapport aux environnements réels, mais a indiqué que l'objectif est de renforcer les écosystèmes IoT maintenant, avant l'émergence de réplicateurs plus capables. La société a suggéré aux fabricants de renforcer les mots de passe par défaut comme première mesure pratique.