Anthropic advierte que la IA podría estar acercándose a la capacidad de mejorarse a sí misma

Anthropic ha revelado en una presentación regulatoria actualizada que podría estar acercándose a un umbral crítico en el desarrollo de la IA: la automejora recursiva (RSI), el punto en el que un sistema de IA puede acelerar de forma significativa su propio entrenamiento, investigación y capacidades sin orientación humana directa. La empresa denomina esto como el hito de seguridad más importante que ha definido jamás, y afirma que el umbral podría alcanzarse antes de lo previsto.

La advertencia aparece en el prospecto S-1A revisado de Anthropic, presentado mientras la empresa se prepara para una cotización bursátil en noviembre de 2026. En el documento, Anthropic define el umbral RSI como el punto en el que un modelo de IA podría realizar el trabajo equivalente al de un equipo de investigación completo a un coste comparable, o al menos duplicar el ritmo actual del progreso en IA. Ningún modelo existente de Anthropic ha sido clasificado como cruzando esa línea, pero la empresa afirma que la distancia hacia ella se está reduciendo.

Según la Política de Escalado Responsable (RSP) de Anthropic, alcanzar o aproximarse a una capacidad de nivel RSI activa revisiones de seguridad obligatorias y puede requerir pausar el desarrollo hasta que existan salvaguardas adecuadas. La empresa afirma que está considerando actualizar la propia RSP para garantizar que el control humano se preserve a medida que crecen las capacidades.

La divulgación también esboza una propuesta de gobernanza: Anthropic dice que planea reunir a gobiernos, investigadores independientes y laboratorios de IA rivales para comprobar si podrían funcionar en la práctica mecanismos internacionales coordinados para ralentizar o pausar el desarrollo si fuera necesario.

El concepto de RSI se ha debatido en los círculos de seguridad de la IA durante años, pero esta es la primera vez que un laboratorio líder ha revelado públicamente, en un documento legalmente vinculante, que cree que la capacidad podría estar al alcance a corto plazo.