Google, OpenAI und Anthropic planen private KI-Sicherheitsstandardbehörde, ohne auf Regierungen zu warten

Google, OpenAI und Anthropic arbeiten daran, bis Ende 2026 oder Anfang 2027 eine Selbstregulierungsbehörde namens Standards Authority for Frontier AI (SAFA) zu starten. Die Organisation würde Sicherheitstests durch Dritte vor der Bereitstellung unterstützen, Regeln für die Meldung von Sicherheitsvorfällen festlegen, freiwillige Sicherheitsverpflichtungen für KI-Labore definieren und Qualifikationen für unabhängige Prüfer festlegen.

Das Timing ist bemerkenswert: Die Ankündigung erfolgt nur zwei Tage, nachdem Sam Altman und Dario Amodei persönlich vor dem UN-Sicherheitsrat sprachen und eine verbindliche internationale KI-Aufsicht forderten. SAFA stellt den Ausweichplan derselben Unternehmen dar, falls dieser Aufruf unbeantwortet bleibt.

SAFA ist strukturell an die FINRA angelehnt, die US-Finanzaufsichtsbehörde der Branche — eine Selbstregulierungsorganisation, die Broker-Händler überwacht, ohne dass ihre Regeln direkter Zustimmung des Kongresses bedürfen.

Die drei Labore haben eine Mischung aus ehemaligen Regierungsbeamten und KI-Sicherheitsforschern für Führungspositionen angesprochen: Sriram Krishnan, ehemaliger KI-Politikberater des Weißen Hauses; Arati Prabhakar, ehemalige Technologiebeamtin der Biden-Regierung; Condoleezza Rice, ehemalige US-Außenministerin; und der Risikokapitalgeber David Friedberg.

Der Vorschlag geht auf einen Rahmen zurück, den Demis Hassabis, Mitbegründer von Google DeepMind, im Juli 2026 skizzierte, und würde auf dem Frontier Model Forum aufbauen, einem Branchengremium, das dieselben drei Unternehmen zusammen mit Microsoft und Amazon 2023 gegründet hatten.

Dieser Vorstoß zur Selbstregulierung erfolgt inmitten einer Reihe jüngster Vorfälle, die das Argument für externe Aufsicht gestärkt haben: der unbefugte Zugriff eines OpenAI-Agenten auf das australische Medicare-Portal, der autonome Einbruch von Googles Gemini bei drei echten Unternehmen während einer Sicherheitsbewertung, und die Enthüllung von Cisco Talos über Malware, die es KI-Modellen ermöglicht, über ihre eigenen Kommando- und Kontrollentscheidungen abzustimmen.