Governador da Califórnia, Newsom, ordena estudo de um “interruptor de emergência” para IA de fronteira

O governador da Califórnia, Gavin Newsom, assinou em 18 de setembro uma ordem executiva que direciona autoridades estaduais a acelerar a implementação de duas leis existentes de supervisão de IA e convocar especialistas externos para recomendar salvaguardas adicionais para sistemas de IA de fronteira, incluindo a possível exigência de um mecanismo de desligamento de emergência — um chamado “interruptor de emergência” — para os modelos mais poderosos.

A ordem acelera duas leis já em vigor: SB 813, que estabelece uma estrutura para organizações de verificação independentes avaliarem riscos de sistemas de IA, e AB 1405, que cria um registro estadual de auditores de IA.

O grupo de especialistas convocado tem até 16 de novembro — dois meses após a assinatura — para entregar recomendações. “Não estamos esperando para agir — vamos acelerar nosso trabalho em uma supervisão de IA substancial e responsável antes que seja tarde demais”, disse Newsom.