El gobernador de California, Newsom, ordena estudiar un “interruptor de apagado” para la IA de frontera

El gobernador de California, Gavin Newsom, firmó el 18 de septiembre una orden ejecutiva que dirige a funcionarios estatales a acelerar la implementación de dos leyes existentes de supervisión de IA y convocar a expertos externos para recomendar salvaguardas adicionales para los sistemas de IA de frontera, incluida la posible exigencia de un mecanismo de apagado de emergencia — un llamado “interruptor de apagado” — para los modelos más potentes.

La orden acelera dos leyes ya vigentes: SB 813, que establece un marco para organizaciones de verificación independientes que evalúen riesgos de sistemas de IA, y AB 1405, que crea un registro estatal de auditores de IA con estándares de independencia y transparencia.

El grupo de expertos convocado tiene hasta el 16 de noviembre — dos meses después de la firma — para entregar recomendaciones sobre si exigir formalmente a los desarrolladores de IA de frontera construir un mecanismo de apagado de emergencia. “No estamos esperando para actuar — vamos a acelerar nuestro trabajo sobre una supervisión de IA sustancial y responsable antes de que sea demasiado tarde”, dijo Newsom.