Kalifornien verbietet Arbeitgebern, Mitarbeiter allein durch eine KI-Entscheidung zu entlassen

Kaliforniens Gouverneur Gavin Newsom unterzeichnete am Dienstag ein Paket KI-bezogener Gesetzentwürfe, die zusammen den bisher detailliertesten bundesstaatlichen Versuch darstellen, zu regeln, wie künstliche Intelligenz Beschäftigung, Gesundheitswesen und Verbraucherschutz berührt. Das Kernstück ist SB 947, das Arbeitgebern verbietet, sich allein auf ein KI-System zu verlassen, um disziplinarische oder Kündigungsentscheidungen über einen Mitarbeiter zu treffen — ein Mensch muss an der Entscheidung selbst beteiligt sein, nicht nur eine KI-Empfehlung im Nachhinein abnicken.

Ein begleitender Gesetzentwurf, SB 951, verlangt von Arbeitgebern, formell offenzulegen, wenn Massenentlassungen oder Kündigungen aus KI-Systemen resultieren. Zwei weitere Maßnahmen, AB 1331 und AB 1883, schränken die Überwachung am Arbeitsplatz ein: Erstere verbietet Überwachungstools in Toiletten gänzlich, während letztere breitere Grenzen für KI-gestützte Mitarbeiterüberwachung setzt.

Die Gesetzgebung geht weit über den Arbeitsplatz hinaus. AB 1979 und SB 503 verlangen, dass Ärzte das abschließende fachliche Urteil behalten, wenn KI-gestützte klinische Entscheidungstools in der Patientenversorgung eingesetzt werden. AB 2713 und SB 1000 stärken Kaliforniens bestehendes KI-Transparenzgesetz, während SB 1111 speziell digitale Replikate und Deepfakes ins Visier nimmt. Im rechtlichen Bereich untersagt SB 574 Anwälten, Kernrechtsarbeit vollständig an KI-Systeme zu delegieren, und AB 1864 verlangt von Gensynthese-Unternehmen die Umsetzung biologischer Sicherheitsvorkehrungen.

Newsom verband die Gesetzesunterzeichnungen mit einer Durchführungsverordnung, die kalifornische Landesbehörden verpflichtet, die Technologie als “künstliche Intelligenz” zu bezeichnen, statt den Begriff “Superintelligenz” zu übernehmen, den Präsident Trump US-Diplomaten anzuweisen vorgegeben hatte.

“KI sollte Chancen erweitern — nicht auf Kosten von Arbeitern und Familien gehen”, sagte Newsom in einer Erklärung zu den Unterzeichnungen.