CEOs da OpenAI e Anthropic pedem ao Conselho de Segurança da ONU governança global de IA

Pela primeira vez, os diretores executivos de duas das empresas de IA mais influentes do mundo se apresentaram perante o Conselho de Segurança da ONU em 23 de setembro para argumentar que a tecnologia que estão desenvolvendo poderia, sem supervisão adequada, ameaçar a humanidade.

Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, participaram de uma sessão convocada pela França durante a 81.ª Assembleia Geral da ONU em Nova York. A reunião marcou a primeira vez que o Conselho de Segurança abordou formalmente os riscos da IA com a participação direta de líderes das empresas do setor.

Altman alertou o conselho que a humanidade corria o risco de "perder o controle do futuro da IA" e que as decisões mais importantes não podem ser tomadas apenas em laboratórios de São Francisco. Amodei foi mais direto: "Se gerenciada de forma inadequada, acredito que a IA pode ser um risco para a humanidade como um todo."

Ambos os executivos pediram cooperação internacional em quatro áreas: padrões comuns de segurança, avaliações obrigatórias de modelos antes da implantação, mecanismos para reportar incidentes críticos entre países e estruturas de resposta coordenadas.

A sessão não produziu resolução formal, mas a disposição dos líderes de defender supervisão internacional vinculante representa uma mudança significativa em relação à resistência anterior da indústria a regulamentação mais rígida, segundo informou a Al Jazeera.