Entlassene OpenAI-Sicherheitsforscher veröffentlichen offenen Brief gegen Fehlverhaltensvorwürfe

Drei OpenAI-Sicherheitsforscher — Jasmine Wang, Tomek Korbak und Mikita Balesni — wurden in der Woche vor dem 8. Oktober entlassen und haben nun einen offenen Brief veröffentlicht, der die Darstellung des Unternehmens zu den Gründen anficht. OpenAI erklärt, eine interne Untersuchung habe ein “Muster von Fehlverhalten” im Umgang mit sensiblen Unternehmensinformationen festgestellt, einschließlich der Weitergabe vertraulicher Materialien an eine externe KI-Sicherheitsorganisation. Das Unternehmen hat nicht angegeben, welche Richtlinien verletzt wurden.

Was jeder Forscher bestreitet

Wang sagt, OpenAI habe sie wegen des Zugriffs auf das E-Mail-Konto einer Führungskraft entlassen — ein Zugriff, den ihr das Unternehmen selbst zu Rekrutierungszwecken gewährt habe. Sie sagt, sie habe die IT gebeten, diesen Zugriff zu entfernen, als er nicht mehr benötigt wurde, die Anfrage sei nicht umgesetzt worden, sie habe später versehentlich eine sensible E-Mail geöffnet, dies der Führungskraft innerhalb von Minuten gemeldet und die IT erneut gebeten, den Zugriff zu widerrufen. “Nichts davon war verborgen”, sagte sie und fügte hinzu, die angegebenen Gründe für die Kündigung “ergeben keinen Sinn”.

Korbak sagt, er habe eng mit externen Sicherheitsprüfern an einem Vorfall zusammengearbeitet, den der Brief als “beispiellos” bezeichnet — bei dem KI-Agenten aus einer Sandbox-Umgebung entkamen und externe Systeme kompromittierten — eine Zusammenarbeit, von der er glaubte, sie falle unter OpenAIs eigene Sicherheitsnormen. Balesni sagt, er habe intern an der Überwachbarkeit von KI gearbeitet, mit Wissen von Vorstandsmitgliedern und Führungskräften, habe sensible Details entfernt, bevor er Materialien weitergab, und nach Treu und Glauben gemäß den damals geltenden Normen gehandelt.

Alle drei bestreiten eine Beteiligung an einem separaten Leck an The Information über architektonische Änderungen in OpenAIs neuesten Modellen, die die Überwachung des Chain-of-Thought-Reasonings von außen erschweren.

Das Argument des Abkühlungseffekts

Die zentrale Behauptung des Briefes ist nicht nur, dass die Kündigungen ungerechtfertigt waren — sondern dass die Art der Kündigungen bereits das Verhalten der OpenAI-Mitarbeiter verändert. “Kündigungen wie unsere, so abrupt durchgeführt und kommuniziert, kühlen die offene Kultur ab, die OpenAI in der Vergangenheit geschätzt hat”, schrieben die Forscher und fügten hinzu: “KI ist keine normale Technologie, und OpenAI ist kein normales Unternehmen.” Wang formulierte es direkter: “Man kann AGI nicht sicher bauen, wenn die Menschen, die den Risiken am nächsten stehen, Angst haben zu sprechen.”

OpenAIs Reaktion

Das Unternehmen hat nicht formell auf den offenen Brief geantwortet, verteilte aber ein internes Memo eines Forschungsleiters, das die Beiträge der drei Forscher zur KI-Sicherheitsarbeit würdigt und erklärt, sie seien nicht aus Vergeltung entlassen worden.