La Californie interdit les flux addictifs des réseaux sociaux et les chatbots compagnons IA pour les moins de 16 ans

Le gouverneur de Californie Gavin Newsom a signé le 10 septembre un ensemble de 13 projets de loi limitant la façon dont les entreprises technologiques peuvent concevoir des plateformes de réseaux sociaux et des chatbots IA pour les utilisateurs de moins de 16 ans — un ensemble de lois que les responsables de l'État qualifient des protections de sécurité infantile les plus strictes du genre dans le pays.

Le paquet cible deux catégories de produits distinctes ayant suscité un examen croissant l'année dernière : les fonctionnalités des réseaux sociaux conçues pour maximiser l'engagement, et les chatbots compagnons IA commercialisés auprès des mineurs ou utilisés par eux.

Ce qu'exigent les règles sur les réseaux sociaux

Les entreprises de réseaux sociaux ne peuvent désormais plus donner aux utilisateurs de moins de 16 ans accès à des fonctionnalités que la loi définit comme « addictives » — une définition incluant explicitement la lecture automatique de vidéos, les notifications push et les flux de contenu personnalisés par algorithme. Les entreprises jugées négligentes causant un préjudice à un enfant via ces mécanismes s'exposent à des amendes pouvant atteindre 1 million de dollars par enfant.

Ce qu'exigent les règles sur les chatbots

Pour les chatbots compagnons IA, les nouvelles lois imposent des limites de temps sur la façon dont les adolescents peuvent interagir avec eux et obligent les fabricants de chatbots à intégrer des ressources de santé mentale et des protocoles de sécurité se déclenchant si la conversation d'un mineur aborde l'automutilation.

Dispositions supplémentaires

Le paquet élargit également les protections de la vie privée en ligne pour les mineurs plus largement, et permet aux familles de dispenser leurs enfants de recevoir des ordinateurs portables fournis par l'école.

Pourquoi cela compte au-delà de la Californie

Les réglementations technologiques californiennes ont historiquement établi un plancher national de facto, la plupart des grandes plateformes se conformant à l'exigence étatique la plus stricte plutôt que de maintenir des versions de produits distinctes par État.

Source : Bureau du gouverneur Gavin Newsom