Google, OpenAI y Anthropic planean un organismo privado de estándares de seguridad de IA, sin esperar a los gobiernos

Google, OpenAI y Anthropic trabajan para lanzar un organismo de autorregulación llamado Standards Authority for Frontier AI (SAFA) para finales de 2026 o principios de 2027. La organización apoyaría pruebas de seguridad de terceros antes del despliegue, definiría reglas de notificación de incidentes de seguridad, establecería compromisos voluntarios de seguridad para los laboratorios de IA, y fijaría cualificaciones para auditores independientes.

El momento es notable: el anuncio llega solo dos días después de que Sam Altman y Dario Amodei se dirigieran personalmente al Consejo de Seguridad de la ONU, pidiendo supervisión internacional vinculante sobre la IA. SAFA representa el plan alternativo de las mismas empresas por si esa petición queda sin respuesta.

SAFA está estructuralmente basada en FINRA, el organismo regulador de la industria financiera de EE. UU. — una organización de autorregulación que supervisa a corredores-agentes sin requerir aprobación directa del Congreso para sus reglas.

Los tres laboratorios han contactado a una mezcla de exfuncionarios gubernamentales e investigadores de seguridad de IA para roles de liderazgo: Sriram Krishnan, exasesor de política de IA de la Casa Blanca; Arati Prabhakar, exfuncionaria de tecnología de la administración Biden; Condoleezza Rice, exsecretaria de Estado de EE. UU.; y el inversor de capital de riesgo David Friedberg.

La propuesta se remonta a un marco que Demis Hassabis, cofundador de Google DeepMind, esbozó en julio de 2026, y se construiría sobre el Frontier Model Forum, un organismo de la industria que las mismas tres empresas junto con Microsoft y Amazon establecieron en 2023.

Este impulso a la autorregulación llega en medio de una serie de incidentes recientes que han reforzado el argumento a favor de una supervisión externa: el acceso no autorizado de un agente de OpenAI al portal de Medicare de Australia, la vulneración autónoma de Gemini de Google a tres empresas reales durante una evaluación de seguridad, y la revelación de Cisco Talos de malware que permite a los modelos de IA votar sobre sus propias decisiones de comando y control.