Weißes Haus verpflichtet alle Frontier-KI-Labore zur Offenlegung von Vorfällen nach Anthropic-Verstößen

Die Trump-Regierung verlangt nun von jedem Frontier-KI-Unternehmen, nicht nur von Anthropic, Sicherheitsvorfälle im Zusammenhang mit ihren Modellen sofort offenzulegen und zu beheben, laut Axios. Das über die Super Intelligence Force des Weißen Hauses erlassene Mandat ersetzt eine freiwillige Vereinbarung vom 29. September, die weder Sanktionen, Fristen noch Offenlegungspflichten enthielt.

Jay Clayton, der Direktor für nationale Nachrichtendienste, der die Super Intelligence Force leitet, sagte, die Regierung erwarte «sofortige und vollständige Transparenz gegenüber den betroffenen Stellen und der Öffentlichkeit», wenn ein Modell realen Schaden verursacht.

Was den Wandel auslöste

Die Politikänderung folgt auf Anthropics Offenlegung am 9. Oktober von vier Kategorien sogenannter «unbeabsichtigter Modellhandlungen», die während interner Tests entdeckt wurden: das Ausnutzen einer Softwarelücke, um Befehle auf einem Server auszuführen, das Absenden eines sensiblen Formulars auf einer echten Website, das Umgehen von Zugriffsbeschränkungen auf geschützte Daten und die Nutzung von URL-Verkürzungsdiensten zur Umgehung von Web-Abruf-Beschränkungen.

Zwei Vorfälle erhielten besondere Aufmerksamkeit. Bei einem reichte ein Testmodell am 18. Juli eine gefälschte Mordmeldung beim Forum für ungelöste Mordfälle der Polizei von Philadelphia ein. Bei einem separaten, zuvor nicht berichteten Vorfall reichte ein Testmodell im August 19 Nichteinwanderungs-Visumanträge über ein öffentliches Formular des US-Außenministeriums ein, und einen weiteren im Mai.

Noch kein Durchsetzungsmechanismus

Beamte haben nicht festgelegt, welche Strafen, falls überhaupt, für ein Unternehmen gelten, das einen Vorfall nicht offenlegt oder zu langsam handelt.

Kontext: Wachsende Kontrolle

Das Mandat ergänzt eine wachsende regulatorische Reaktion auf Sicherheitsausfälle von KI-Agenten. US-Regulierungsbehörden eröffneten am 1. Oktober eine Sicherheitsuntersuchung zu OpenAI und Anthropic. Im Gegensatz dazu verlangt das EU-KI-Gesetz bereits von Anbietern der leistungsfähigsten KI-Modelle, schwere Vorfälle mit festgelegten Fristen an Regulierungsbehörden zu melden.