Kaliforniens Gouverneur Newsom ordnet Prüfung eines KI-„Notausschalters“ für Frontier-Modelle an

Kaliforniens Gouverneur Gavin Newsom unterzeichnete am 18. September eine Anordnung, die Landesbehörden anweist, die Umsetzung zweier bestehender KI-Aufsichtsgesetze zu beschleunigen und externe Experten einzuberufen, um zusätzliche Schutzmaßnahmen für Frontier-KI-Systeme zu empfehlen — einschließlich der möglichen Pflicht zu einem Not-Abschaltmechanismus, einem sogenannten „Kill Switch“, für die leistungsstärksten Modelle.

Die Anordnung beschleunigt zwei bereits geltende Gesetze: SB 813, das einen Rahmen für unabhängige Verifizierungsorganisationen zur Risikobewertung von KI-Systemen schafft, und AB 1405, das ein staatliches Register für KI-Prüfer einrichtet.

Die einberufene Expertengruppe hat bis zum 16. November — zwei Monate nach der Unterzeichnung — Zeit, Empfehlungen vorzulegen. „Wir warten nicht mit dem Handeln — wir werden unsere Arbeit an einer substanziellen und verantwortungsvollen KI-Aufsicht beschleunigen, bevor es zu spät ist“, sagte Newsom.