Los CEOs de OpenAI y Anthropic urgen al Consejo de Seguridad de la ONU a regular la IA

Por primera vez, los directores ejecutivos de dos de las empresas de IA más influyentes del mundo se presentaron ante el Consejo de Seguridad de la ONU el 23 de septiembre para argumentar que la tecnología que están desarrollando podría, si no se controla, amenazar a la humanidad.

Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, participaron en una sesión convocada por Francia durante la 81.ª Asamblea General de la ONU en Nueva York. La reunión marcó la primera vez que el Consejo de Seguridad abordó formalmente los riesgos de la IA con la participación directa de líderes de empresas del sector.

Altman advirtió al consejo que la humanidad corría el riesgo de "perder el control del futuro de la IA" y que las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco. Amodei fue más directo: "Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto."

Ambos ejecutivos pidieron cooperación internacional en cuatro áreas: estándares comunes de seguridad, evaluaciones obligatorias de modelos antes de su despliegue, mecanismos para reportar incidentes críticos entre países, y marcos coordinados de respuesta.

La sesión no produjo ninguna resolución formal, pero la disposición de ambos líderes a defender una supervisión internacional vinculante representa un giro significativo frente a la resistencia anterior de la industria a una regulación estricta, según informó Al Jazeera.