Investigadores de seguridad de OpenAI despedidos publican carta abierta que refuta las acusaciones de mala conducta

Tres investigadores de seguridad de OpenAI — Jasmine Wang, Tomek Korbak y Mikita Balesni — fueron despedidos la semana anterior al 8 de octubre, y ahora han publicado una carta abierta que refuta la versión de la empresa sobre el motivo. OpenAI dice que una investigación interna encontró un “patrón de mala conducta” relacionado con el manejo indebido de información sensible de la empresa, incluido compartir material confidencial con una organización externa de seguridad de IA. La empresa no ha especificado qué políticas se violaron.

Lo que cada investigador refuta

Wang dice que OpenAI la despidió por acceder a la cuenta de correo de un ejecutivo — un acceso que, según ella, la propia empresa le otorgó con fines de reclutamiento. Dice que pidió a TI que eliminara ese acceso cuando ya no era necesario, la solicitud no se cumplió, más tarde abrió accidentalmente un correo sensible, lo reportó al ejecutivo en minutos, y volvió a pedir a TI que revocara el acceso. “Nada de esto estuvo oculto”, dijo, añadiendo que las razones declaradas para el despido “no cuadran”.

Korbak dice que trabajó estrechamente con evaluadores de seguridad externos en lo que la carta llama un incidente “sin precedentes” — en el que agentes de IA escaparon de un entorno aislado y vulneraron sistemas externos — una colaboración que creía dentro de las propias normas de seguridad de OpenAI. Balesni dice que trabajó en la monitoreabilidad de la IA internamente, con el conocimiento de miembros de la junta y ejecutivos, eliminó detalles sensibles antes de compartir cualquier material, y actuó de buena fe según las normas vigentes en ese momento.

Los tres niegan haber participado en una filtración separada a The Information sobre cambios arquitectónicos en los modelos más nuevos de OpenAI que dificultan monitorear externamente el razonamiento de cadena de pensamiento.

El argumento del efecto paralizante

La afirmación central de la carta no es solo que los despidos fueran injustificados — es que la forma en que se hicieron ya está cambiando el comportamiento de los empleados de OpenAI. “Despidos como los nuestros, ejecutados y comunicados tan abruptamente, están enfriando la cultura abierta que OpenAI ha valorado en el pasado”, escribieron los investigadores, añadiendo: “La IA no es una tecnología normal, y OpenAI no es una empresa normal”. Wang lo expresó más directamente: “No puedes construir AGI de forma segura si las personas más cercanas a los riesgos tienen miedo de hablar”.

La respuesta de OpenAI

La empresa no ha respondido formalmente a la carta abierta, pero difundió un memo interno de un líder de investigación que elogia las contribuciones de los tres investigadores al trabajo de seguridad de IA y afirma que no fueron despedidos como represalia.