Anthropic retiene su potente IA 'Mythos' citando riesgos de ciberseguridad

Anthropic, una empresa líder en investigación y seguridad de inteligencia artificial, ha tomado la importante decisión de limitar el lanzamiento de su último modelo, Mythos, debido a preocupaciones sobre sus potentes capacidades de ciberseguridad. La compañía anunció que no procederá con un lanzamiento público amplio después de que un equipo rojo interno descubriera que el modelo podría ser utilizado para orquestar ciberataques complejos.

Aunque Mythos es una IA de propósito general, posee habilidades de codificación y razonamiento excepcionalmente avanzadas. Estas habilidades le permitieron identificar vulnerabilidades latentes desde hace mucho tiempo en software crítico de Internet, incluido un error de 27 años de antigüedad. Sin embargo, estas mismas fortalezas resultaron ser un arma de doble filo. Los investigadores de seguridad de Anthropic demostraron que Mythos también podría ser instruido para encadenar exploits, creando efectivamente ataques novedosos contra todos los principales sistemas operativos y navegadores web.

Ante este potencial de uso indebido, Anthropic ha optado por un enfoque cauteloso. A través de una iniciativa llamada Proyecto Glasswing, la empresa está proporcionando acceso anticipado a Mythos a un grupo selecto de socios de confianza. Este grupo incluye a gigantes tecnológicos como Apple, Amazon, Microsoft y Google, así como a varias empresas especializadas en ciberseguridad. El objetivo es que estas organizaciones utilicen Mythos para buscar proactivamente vulnerabilidades en sus propios sistemas, compartiendo todos los hallazgos para desarrollar barreras de seguridad más sólidas para futuros modelos de IA.

Esta medida pone de relieve el creciente dilema en la industria de la IA: cómo equilibrar el rápido avance de herramientas potentes con la necesidad crítica de un despliegue responsable y la seguridad pública. La decisión de Anthropic de mantener Mythos en secreto por ahora marca un momento crucial en la conversación en curso sobre la regulación de la IA y el desarrollo ético.