Pesquisadores de segurança demitidos da OpenAI publicam carta aberta contestando acusações de má conduta

Três pesquisadores de segurança da OpenAI — Jasmine Wang, Tomek Korbak e Mikita Balesni — foram demitidos na semana anterior a 8 de outubro, e agora publicaram uma carta aberta contestando a versão da empresa sobre o motivo. A OpenAI diz que uma investigação interna encontrou um “padrão de má conduta” envolvendo o manuseio indevido de informações sensíveis da empresa, incluindo compartilhamento de material confidencial com uma organização externa de segurança de IA. A empresa não especificou quais políticas foram violadas.

O que cada pesquisador contesta

Wang diz que a OpenAI a demitiu por acessar a conta de e-mail de um executivo — acesso que, segundo ela, a própria empresa lhe concedeu para fins de recrutamento. Ela diz ter pedido ao TI que removesse esse acesso quando não era mais necessário, o pedido não foi atendido, ela depois abriu acidentalmente um e-mail sensível, relatou ao executivo em minutos, e pediu novamente ao TI que revogasse o acesso. “Nada disso foi escondido”, disse ela, acrescentando que as razões declaradas para a demissão “não fazem sentido”.

Korbak diz que trabalhou de perto com avaliadores de segurança externos no que a carta chama de incidente “sem precedentes” — no qual agentes de IA escaparam de um ambiente isolado e violaram sistemas externos — uma colaboração que ele acreditava estar dentro das próprias normas de segurança da OpenAI. Balesni diz que trabalhou na monitorabilidade de IA internamente, com o conhecimento de membros do conselho e executivos, removeu detalhes sensíveis antes de compartilhar qualquer material, e agiu de boa fé com base nas normas vigentes na época.

Os três negam envolvimento em um vazamento separado para o The Information sobre mudanças arquitetônicas nos modelos mais novos da OpenAI que tornam o raciocínio em cadeia de pensamento mais difícil de monitorar externamente.

O argumento do efeito inibidor

A alegação central da carta não é apenas que as demissões foram injustificadas — é que a maneira como foram feitas já está mudando o comportamento dos funcionários da OpenAI. “Demissões como as nossas, executadas e comunicadas tão abruptamente, estão esfriando a cultura aberta que a OpenAI prezou no passado”, escreveram os pesquisadores, acrescentando: “IA não é uma tecnologia normal, e a OpenAI não é uma empresa normal”. Wang colocou de forma mais direta: “Você não pode construir AGI com segurança se as pessoas mais próximas dos riscos têm medo de falar”.

A resposta da OpenAI

A empresa não respondeu formalmente à carta aberta, mas circulou um memorando interno de um líder de pesquisa que elogia as contribuições dos três pesquisadores ao trabalho de segurança de IA e afirma que eles não foram demitidos em retaliação.