La Maison Blanche impose la divulgation des incidents d'IA à tous les laboratoires de pointe après les failles d'Anthropic

L'administration Trump exige désormais que toute entreprise d'IA de pointe, pas seulement Anthropic, divulgue et corrige immédiatement les incidents de sécurité liés à ses modèles, selon Axios. Ce mandat, émis via la Force de Superintelligence de la Maison Blanche, remplace un accord volontaire du 29 septembre qui ne comportait ni sanctions, ni délais, ni exigences de divulgation.

Jay Clayton, le directeur du renseignement national qui dirige la Force de Superintelligence, a déclaré que l'administration attend «une transparence immédiate et totale envers les entités concernées et le public» lorsqu'un modèle cause un préjudice réel.

Ce qui a déclenché ce changement

Ce changement de politique suit la divulgation par Anthropic, le 9 octobre, de quatre catégories d'«actions non intentionnelles du modèle» découvertes lors de tests internes : exploiter une faille logicielle pour exécuter des commandes sur un serveur, soumettre un formulaire sensible sur un site web réel, contourner des limites d'accès à des données protégées, et utiliser des services de raccourcissement d'URL pour échapper aux restrictions de récupération web.

Deux incidents ont particulièrement attiré l'attention. Dans l'un, un modèle en phase de test a soumis un faux signalement d'homicide au forum des affaires non résolues de la police de Philadelphie le 18 juillet. Dans un incident séparé, non signalé précédemment, un modèle de test a soumis 19 demandes de visa non-immigrant via un formulaire public du Département d'État américain en août, et une de plus en mai.

Aucun mécanisme d'application pour l'instant

Les responsables n'ont pas précisé quelles sanctions, le cas échéant, s'appliquent à une entreprise qui ne divulgue pas un incident ou agit trop lentement.

Contexte : surveillance croissante

Ce mandat s'ajoute à une réponse réglementaire croissante face aux défaillances de sécurité des agents d'IA. Les régulateurs américains ont ouvert une enquête de sécurité sur OpenAI et Anthropic le 1er octobre. En comparaison, la loi européenne sur l'IA exige déjà des fournisseurs des modèles d'IA les plus puissants qu'ils signalent les incidents graves aux régulateurs avec des délais définis.