Les PDG d'OpenAI et d'Anthropic appellent le Conseil de sécurité de l'ONU à encadrer l'IA

Pour la première fois, les directeurs généraux de deux des entreprises d'IA les plus influentes du monde se sont présentés devant le Conseil de sécurité des Nations Unies le 23 septembre pour soutenir que la technologie qu'ils développent pourrait, sans encadrement suffisant, menacer l'humanité.

Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont participé à une session convoquée par la France lors de la 81e Assemblée générale de l'ONU à New York. La réunion est la première où le Conseil de sécurité a formellement abordé les risques de l'IA avec la participation directe de dirigeants d'entreprises du secteur.

Altman a averti le conseil que l'humanité risquait de "perdre le contrôle de l'avenir de l'IA" et qu'une véritable démocratie exigeait que les décisions les plus importantes ne soient pas prises dans des laboratoires de San Francisco. Amodei a été plus direct: "Si elle est mal gérée, je crois que l'IA pourrait être un risque pour l'humanité tout entière."

Les deux dirigeants ont appelé à une coopération internationale sur quatre axes : des normes de sécurité communes, des évaluations obligatoires des modèles avant déploiement, des mécanismes de signalement des incidents critiques, et des cadres de réponse coordonnés.

La session n'a débouché sur aucune résolution formelle, mais la volonté des deux responsables de défendre publiquement une supervision internationale contraignante marque un tournant notable par rapport à la résistance antérieure de l'industrie à une réglementation stricte, selon Al Jazeera.