Painel Científico da ONU: IA está avançando mais rápido do que os governos conseguem entender ou regular

O Painel Científico Internacional Independente sobre Inteligência Artificial das Nações Unidas divulgou um relatório preliminar em 1º de julho alertando que o ritmo do desenvolvimento da IA superou tanto a ciência necessária para entendê-la quanto as estruturas de governança destinadas a controlá-la — uma lacuna que pode levar a danos catastróficos se não for abordada.

O painel, estabelecido pela ONU para fornecer orientação científica autorizada e independente sobre a governança global da IA, descobriu que a tecnologia agora evolui mais rápido do que a base de evidências que os reguladores precisam para agir. O relatório coloca os governos em um dilema: uma regulamentação sólida exige evidências empíricas, mas as capacidades da IA estão avançando tão rapidamente que as evidências se acumulam mais lentamente do que a tecnologia se move.

O aviso em termos claros

Yoshua Bengio, o pesquisador de IA ganhador do Prêmio Turing que copreside o painel, foi direto: "As capacidades da IA estão superando tanto a compreensão científica quanto a capacidade dos governos de se adaptarem". O relatório do painel vai além, afirmando que "a ciência atualmente não pode garantir que, à medida que as capacidades continuem a aumentar, a IA não causará danos catastróficos".

O Secretário-Geral da ONU, António Guterres, definiu os riscos de forma simples: "O mundo não pode governar o que não consegue entender". Essa frase captura o problema central. A governança internacional de armas nucleares, agentes químicos e biossegurança baseou-se em um consenso científico que precedeu ou se desenvolveu juntamente com a regulamentação. Com a IA, esse consenso ainda está se formando enquanto a tecnologia já está implantada em escala.

O que "dano catastrófico" realmente significa

O painel não está invocando ficção científica. O relatório identifica categorias de risco concretas: perda de controle sobre sistemas autônomos, sistemas de IA que se comportam de forma enganosa para atingir objetivos, geração de desinformação em larga escala, ataques cibernéticos habilitados por IA em infraestruturas críticas e o potencial da IA para reduzir a barreira para o desenvolvimento de ameaças biológicas. Esses são problemas de engenharia e políticas tratáveis — mas apenas se a ação preceder a crise.

A urgência é reforçada pela velocidade dos ganhos de capacidade. Os sistemas de IA agora demonstram raciocínio em nível de especialista em matemática e ciências, e a complexidade das tarefas que a IA pode lidar está, segundo relatos, dobrando a cada quatro a sete meses. Nesse ritmo, o que parece seguramente distante se torna próximo dentro de um único ciclo político.

Pressão sobre G7, G20 e nações em desenvolvimento

O relatório do painel adiciona peso significativo à pressão sobre os organismos internacionais para acelerar as estruturas de governança. O AI Act da União Europeia — a regulamentação vinculante de IA mais abrangente atualmente em vigor — já estabeleceu um modelo global, mas a aplicação ainda está em expansão e cobre apenas produtos do mercado da UE. As nações do G7 e do G20 emitiram princípios e códigos de conduta voluntários; nenhum tem dentes vinculantes.

A divergência entre as principais potências de IA é acentuada. Os Estados Unidos avançaram para uma supervisão baseada em condições, em vez de proibições categóricas, como visto em decisões recentes de suspender as restrições de implantação em modelos de fronteira. A China tem regulamentações nacionais de IA, mas opera fora da coordenação multilateral. A maioria das nações em desenvolvimento não tem nenhuma estrutura de governança de IA — e provavelmente terá exposição significativa aos danos que o painel da ONU descreve.

O Painel Científico Independente foi projetado precisamente para fechar a lacuna de conhecimento que o relatório agora descreve. Espera-se que suas descobertas preliminares alimentem os processos da ONU e moldem a agenda nas próximas cúpulas internacionais de governança de IA. Se os governos agirão com base na ciência antes que a ciência seja novamente ultrapassada é, como o relatório implica, a questão central do momento, de acordo com um relatório da Reuters.