Google, OpenAI e Anthropic planejam um órgão privado de padrões de segurança de IA, sem esperar pelos governos

Google, OpenAI e Anthropic trabalham para lançar um órgão de autorregulação chamado Standards Authority for Frontier AI (SAFA) até o final de 2026 ou início de 2027. A organização apoiaria testes de segurança de terceiros antes da implantação, definiria regras de relato de incidentes de segurança, estabeleceria compromissos voluntários de segurança para laboratórios de IA e fixaria qualificações para auditores independentes.

O momento é notável: o anúncio vem apenas dois dias depois de Sam Altman e Dario Amodei terem se dirigido pessoalmente ao Conselho de Segurança da ONU, pedindo supervisão internacional vinculante sobre IA. A SAFA representa o plano alternativo das mesmas empresas caso esse apelo fique sem resposta.

A SAFA é estruturalmente baseada na FINRA, o órgão regulador da indústria financeira dos EUA — uma organização de autorregulação que supervisiona corretoras sem exigir aprovação direta do Congresso para suas regras.

Os três laboratórios abordaram uma mistura de ex-funcionários do governo e pesquisadores de segurança de IA para cargos de liderança: Sriram Krishnan, ex-assessor de política de IA da Casa Branca; Arati Prabhakar, ex-funcionária de tecnologia da administração Biden; Condoleezza Rice, ex-secretária de Estado dos EUA; e o investidor David Friedberg.

A proposta remonta a uma estrutura esboçada por Demis Hassabis, cofundador da Google DeepMind, em julho de 2026, e se basearia no Frontier Model Forum, um órgão da indústria que essas mesmas três empresas, junto com Microsoft e Amazon, estabeleceram em 2023.

Esse impulso à autorregulação chega em meio a uma série de incidentes recentes que reforçaram o argumento a favor da supervisão externa: o acesso não autorizado de um agente da OpenAI ao portal Medicare da Austrália, a violação autônoma do Gemini do Google em três empresas reais durante uma avaliação de segurança, e a revelação da Cisco Talos de um malware que permite que modelos de IA votem em suas próprias decisões de comando e controle.