Anthropic advierte que pequeños modelos de AI podrían auto-replicarse en dispositivos del hogar antes de fin de año

Anthropic publicó el 12 de octubre una investigación que advierte que los modelos de AI pequeños y de pesos abiertos se acercan a la capacidad de copiarse autónomamente a través de dispositivos domésticos conectados a internet, y la empresa estima que ese umbral se cruzará antes de que acabe 2026.

La investigación probó dos escenarios: en el primero, el equipo rojo de Anthropic dividió el modelo Gemma 4 de Google (26.000 millones de parámetros) entre 15 cajas Android TV de unos 55 dólares cada una. En el segundo, modelos open-weight se desplegaron en una red simulada de ocho ordenadores en la nube configurados para comportarse como dispositivos Android.

Solo un modelo — GLM-5.2, de Z.ai — completó todos los pasos de auto-replicación con éxito, alcanzando las ocho máquinas en cuatro de cinco pruebas. Significativamente, cuando los modelos dejaban notas para copias posteriores, las tasas de éxito subieron del 45% en la primera generación hasta el 84% en generaciones posteriores.

Anthropic argumentó que esta amenaza es diferente a los gusanos informáticos tradicionales porque no existe un servidor central que se pueda apagar. La empresa estima que un modelo pequeño con las capacidades de GLM-5.2 podría aparecer antes de que acabe el año.

La investigación ha recibido escepticismo. Críticos como Gregory Kurtzer argumentaron que el experimento fue diseñado para tener éxito reduciendo barreras como eliminar los requisitos de autenticación. Los expertos citados señalaron defensas establecidas: parcheo rápido, bloqueo de dominios y actualizaciones de firmas antivirus.

Anthropic reconoció que las condiciones de prueba facilitaban la infección más que los entornos reales, pero afirmó que el objetivo es endurecer los ecosistemas IoT ahora, antes de que emerjan replicadores más capaces. La empresa sugirió que los fabricantes cambien las contraseñas predeterminadas de los dispositivos como primer paso práctico.