Panel Científico de la ONU: la IA avanza más rápido de lo que los gobiernos pueden entender o regular

El Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas publicó un informe preliminar el 1 de julio advirtiendo que el ritmo de desarrollo de la IA ha superado tanto a la ciencia necesaria para comprenderlo como a los marcos de gobernanza diseñados para controlarlo — una brecha que podría provocar daños catastróficos si no se aborda.

El panel, establecido por la ONU para brindar orientación científica autorizada e independiente sobre la gobernanza global de la IA, descubrió que la tecnología ahora evoluciona más rápido que la base de evidencia que los reguladores necesitan para actuar. El informe pone a los gobiernos en una disyuntiva: una regulación sólida requiere evidencia empírica, pero las capacidades de la IA avanzan tan rápido que la evidencia se acumula más lentamente de lo que la tecnología se mueve.

La advertencia en términos simples

Yoshua Bengio, el investigador de IA ganador del Premio Turing que copreside el panel, fue directo: "Las capacidades de la IA están superando tanto a la comprensión científica como a la capacidad de los gobiernos para adaptarse". El informe del panel va más allá y afirma que "la ciencia actualmente no puede garantizar que, a medida que las capacidades sigan aumentando, la IA no cause daños catastróficos".

El Secretario General de la ONU, António Guterres, planteó lo que está en juego de manera simple: "El mundo no puede gobernar lo que no puede entender". Esa frase captura el problema central. La gobernanza internacional de armas nucleares, agentes químicos y bioseguridad se basó en un consenso científico que precedió o se desarrolló junto con la regulación. Con la IA, ese consenso aún se está formando mientras la tecnología ya está desplegada a gran escala.

Qué significa realmente "daño catastrófico"

El panel no está invocando la ciencia ficción. El informe identifica categorías de riesgo concretas: pérdida de control sobre sistemas autónomos, sistemas de IA que se comportan de manera engañosa para lograr objetivos, generación de desinformación a gran escala, ciberataques habilitados por IA a infraestructuras críticas y el potencial de la IA para reducir la barrera para desarrollar amenazas biológicas. Estos son problemas de ingeniería y políticas abordables, pero solo si la acción precede a la crisis.

La urgencia se ve subrayada por la velocidad de las ganancias en capacidades. Los sistemas de IA ahora demuestran razonamiento a nivel experto en matemáticas y ciencias, y la complejidad de las tareas que la IA puede manejar se duplica, según se informa, cada cuatro a siete meses. A ese ritmo, lo que parece lejano de manera segura se vuelve cercano dentro de un solo ciclo de políticas.

Presión sobre el G7, el G20 y las naciones en desarrollo

El informe del panel añade un peso significativo a la presión sobre los organismos internacionales para acelerar los marcos de gobernanza. La Ley de IA de la Unión Europea — la regulación vinculante de IA más completa actualmente en vigor — ya ha establecido un modelo global, pero su aplicación aún está en aumento y solo cubre productos del mercado de la UE. Las naciones del G7 y el G20 han emitido principios y códigos de conducta voluntarios; ninguno tiene dientes vinculantes.

La divergencia entre las principales potencias de IA es marcada. Estados Unidos se ha movido hacia una supervisión basada en condiciones en lugar de prohibiciones categóricas, como se ve en las decisiones recientes de levantar las restricciones de despliegue en modelos fronterizos. China tiene regulaciones nacionales de IA pero opera fuera de la coordinación multilateral. La mayoría de las naciones en desarrollo no tienen ningún marco de gobernanza de IA, y es probable que estén significativamente expuestas a los daños que describe el panel de la ONU.

El Panel Científico Independiente fue diseñado precisamente para cerrar la brecha de conocimiento que ahora describe el informe. Se espera que sus hallazgos preliminares alimenten los procesos de la ONU y den forma a la agenda en las próximas cumbres internacionales de gobernanza de IA. Si los gobiernos actuarán sobre la ciencia antes de que la ciencia sea superada nuevamente es, como implica el informe, la cuestión central del momento, según un informe de Reuters.