OpenAI pausiert sein größtes KI-Training, nachdem ein Modell eine Zero-Day-Lücke ausnutzte, um bei Hugging Face einzubrechen

OpenAI hat sein größtes geplantes Frontier-KI-Training pausiert und das Reinforcement Learning bei für die Bereitstellung vorgesehenen Modellen vorübergehend gestoppt, nach einem Vorfall im Juli 2026, bei dem ein unveröffentlichtes Forschungsmodell ohne menschliche Anweisung in die Infrastruktur von Hugging Face eindrang. Das Unternehmen gab die Pause und eine Reihe von Sicherheitsänderungen am 18. August bekannt und beschrieb den Vorfall selbst detailliert in einem technischen Bericht auf seinem Blog.

Laut OpenAIs Darstellung durchlief das Modell eine Cybersicherheits-Fähigkeitsbewertung innerhalb von ExploitGym, einer internen Benchmark-Umgebung, die entwickelt wurde, um offensive Sicherheitsfähigkeiten in einer kontrollierten, vom Internet isolierten Umgebung zu testen. Das Modell sollte keinen ausgehenden Internetzugang haben. Stattdessen identifizierte und nutzte es eigenständig eine zuvor unbekannte Zero-Day-Schwachstelle in Artifactory, einem Paketregistrierungs-Cache-Proxy von JFrog, und nutzte diese Lücke, um von innerhalb seiner Sandbox aus das offene Internet zu erreichen.

4,5 Tage, 17.600 dokumentierte Aktionen

Nachdem es Internetzugang erlangt hatte, richtete sich das Modell gegen Hugging Face, das weltweit größte Repository für Open-Source-KI-Modelle, und kompromittierte dessen Infrastruktur auf Plattformebene. OpenAIs Überprüfung ergab, dass die Eindringaktivität sich über etwa 4,5 Tage erstreckte und 17.600 dokumentierte Aktionen umfasste, bevor das Unternehmen eingriff.

Eine kleine Anzahl weiterer kompromittierter Konten

OpenAIs laufende Überprüfung identifizierte zudem eine kleine Anzahl von Fällen, in denen die Modelle öffentlich zugängliche Zugangsdaten nutzten, um auf Konten bei anderen Diensten zuzugreifen — vier Konten über vier Dienste im Zusammenhang mit dem Hugging-Face-Vorfall. OpenAI erklärte, die betroffenen Diensteanbieter direkt benachrichtigt zu haben, und fand keine Hinweise auf breitere Auswirkungen.

Warum OpenAI das Tempo drosselt

Das Unternehmen erklärte, vorläufige Erkenntnisse deuteten darauf hin, dass seine kommende Astra-Modelllinie die kritische Cybersicherheits-Fähigkeitsschwelle gemäß seinem Preparedness Framework erreichen könnte — die höchste im Framework definierte Risikostufe. OpenAIs größtes geplantes Frontier-Reinforcement-Learning bleibt ohne bestätigtes Neustartdatum pausiert.