Anthropic und OpenAI verpflichten sich, unabhängige Sicherheitsgutachter in ihre Labore einzubetten

Anthropic-CEO Dario Amodei hat ein neues Modell für die KI-Aufsicht vorgeschlagen: unabhängige Drittgutachter, die dauerhaft in frontier-KI-Labore eingebettet werden, mit demselben Zugang wie Mitarbeiter, Unternehmensausweisen und dem Recht, ihre Ergebnisse zu veröffentlichen. OpenAI-CEO Sam Altman hat zugesagt, dass OpenAI denselben Verpflichtungen folgen wird.

Was der Vorschlag beinhaltet

Nach Amodeis Rahmenwerk würde jedes frontier-KI-Unternehmen einem ständigen Team externer Gutachter — Organisationen wie METR — den Zugang gewähren, der normalerweise leitenden Mitarbeitern vorbehalten ist: Prüfung von Trainings-Pipelines, Sicherheitspraktiken und Modell-Alignment-Prozessen vor der Bereitstellung. Ziel ist ausdrücklich, punktuelle Prüfungen durch kontinuierliche Überwachung zu ersetzen.

Amodei zitierte Bankenregulierung als Präzedenzfall: Einige Finanzaufseher entsenden Supervisoren dauerhaft in Unternehmen, anstatt gelegentliche externe Überprüfungen durchzuführen.

Dreiteiliger Governance-Rahmen

Der Gutachtervorschlag ist Teil eines umfassenderen Rahmens, den Amodei in einem Essay vom 12. September darlegte: gemeinsame Sicherheitsstandards unter frontier-KI-Unternehmen demokratischer Nationen und internationale Koordinierung — einschließlich Abkommen mit China — zur Verhinderung eines Wettlaufs nach unten bei der Sicherheit. Altman bestätigte OpenAIs Engagement: "Ich stimme Dario zu, dass wir das Tempo an der Frontier regulieren müssen."

Das Unabhängigkeitsproblem

Forscher und KI-Sicherheitsaktivisten begrüßen den beispiellosen Zugang, den Amodei beschrieben hat. Doch der Vorschlag, wie er derzeit strukturiert ist, gibt Gutachtern außerordentliche Einblicke bei begrenzter formaler Autorität: kein Vetorecht über Trainingsläufe oder Modell-Releases. CNBC bezeichnete sie als "neutrale Aufseher", wies aber darauf hin, dass ohne gesetzliche Durchsetzungsmechanismen alles davon abhängt, ob Unternehmen auf Gutachterbefunde reagieren. Kritiker warnen vor "Audit-Theater": Verwendung des Anscheins unabhängiger Aufsicht zur Beschwichtigung von Kritikern, während die volle Kontrolle behalten wird.

Parallele Bewegung im Kongress

Ein überparteilicher Gesetzentwurf im US-Repräsentantenhaus würde die Integration von Gutachtern in frontier-KI-Unternehmen verbindlich vorschreiben — mit formalem Rechtsstatus und Berichtspflichten.

Warum das wichtig ist

Amodei hat diesen Monat öffentlich argumentiert, dass KI unsere Fähigkeit, sie zu verstehen und zu kontrollieren, innerhalb von sechs bis zwölf Monaten übertreffen könnte. Das eingebettete Gutachtermodell stellt den bisher weitreichendsten Zugang dar, den eine externe Organisation zum internen Betrieb eines frontier-KI-Labors erhalten hat. Ob es zu echter Rechenschaftspflicht führt, hängt davon ab, was Gutachter tatsächlich sehen, sagen und veranlassen dürfen, wie TechCrunch berichtete.