La Californie interdit aux employeurs de licencier des travailleurs par la seule décision d'une IA

Le gouverneur de Californie Gavin Newsom a signé mardi un ensemble de projets de loi liés à l'IA qui représentent collectivement la tentative la plus détaillée à l'échelle d'un État à ce jour pour réglementer la façon dont l'intelligence artificielle touche l'emploi, la santé et la protection des consommateurs. La pièce maîtresse est le SB 947, qui interdit aux employeurs de s'appuyer uniquement sur un système d'IA pour prendre des décisions disciplinaires ou de licenciement concernant un employé — un humain doit être impliqué dans la décision elle-même, pas seulement entériner une recommandation de l'IA après coup.

Un projet de loi complémentaire, le SB 951, exige des employeurs qu'ils divulguent formellement quand des licenciements massifs résultent de systèmes d'IA. Deux mesures supplémentaires, AB 1331 et AB 1883, restreignent la surveillance sur le lieu de travail : la première interdit purement et simplement les outils de surveillance dans les toilettes, tandis que la seconde fixe des limites plus larges à la surveillance des employés assistée par IA.

La législation s'étend bien au-delà du lieu de travail. AB 1979 et SB 503 exigent que les médecins conservent le jugement professionnel final lorsque des outils de décision clinique par IA sont utilisés dans les soins aux patients. AB 2713 et SB 1000 renforcent la loi californienne existante sur la transparence de l'IA, tandis que SB 1111 cible spécifiquement les répliques numériques et les deepfakes. Sur le plan juridique, SB 574 interdit aux avocats de déléguer entièrement le travail juridique essentiel à des systèmes d'IA, et AB 1864 exige des entreprises de synthèse génétique qu'elles mettent en œuvre des garanties de biosécurité.

Newsom a associé la signature des projets de loi à un décret exigeant que les agences d'État de Californie désignent la technologie sous le nom d'“intelligence artificielle” plutôt que d'adopter le terme “superintelligence” que le président Trump avait ordonné aux diplomates américains d'utiliser.

“L'IA doit élargir les opportunités — pas se faire aux dépens des travailleurs et des familles”, a déclaré Newsom dans un communiqué accompagnant les signatures.