Un panel scientifique de l'ONU : l'IA progresse plus vite que les gouvernements ne peuvent la comprendre ou la réguler

Le Panel Scientifique International Indépendant sur l'Intelligence Artificielle des Nations Unies a publié un rapport préliminaire le 1er juillet avertissant que le rythme du développement de l'IA a dépassé à la fois la science nécessaire pour la comprendre et les cadres de gouvernance censés la contrôler — un écart qui pourrait entraîner des dommages catastrophiques s'il n'est pas traité.

Le panel, créé par l'ONU pour fournir des conseils scientifiques autorisés et indépendants sur la gouvernance mondiale de l'IA, a constaté que la technologie évolue désormais plus rapidement que la base de preuves dont les régulateurs ont besoin pour agir. Le rapport place les gouvernements dans une impasse : une réglementation solide nécessite des preuves empiriques, mais les capacités de l'IA progressent si rapidement que les preuves s'accumulent plus lentement que la technologie n'évolue.

L'avertissement en termes simples

Yoshua Bengio, le chercheur en IA lauréat du prix Turing qui copréside le panel, a été direct : « Les capacités de l'IA dépassent à la fois la compréhension scientifique et la capacité des gouvernements à s'adapter. » Le rapport du panel va plus loin, affirmant que « la science ne peut actuellement pas garantir qu'à mesure que les capacités continuent d'augmenter, l'IA ne causera pas de dommages catastrophiques. »

Le Secrétaire général de l'ONU, António Guterres, a formulé les enjeux simplement : « Le monde ne peut pas gouverner ce qu'il ne peut pas comprendre. » Cette phrase résume le problème central. La gouvernance internationale des armes nucléaires, des agents chimiques et de la biosécurité reposait sur un consensus scientifique qui a précédé ou s'est développé parallèlement à la réglementation. Avec l'IA, ce consensus est encore en formation alors que la technologie est déjà déployée à grande échelle.

Ce que signifie réellement « dommage catastrophique »

Le panel n'invoque pas la science-fiction. Le rapport identifie des catégories de risques concrètes : perte de contrôle sur les systèmes autonomes, systèmes d'IA qui se comportent de manière trompeuse pour atteindre des objectifs, génération de désinformation à grande échelle, cyberattaques activées par l'IA sur les infrastructures critiques et le potentiel de l'IA à abaisser la barrière pour développer des menaces biologiques. Ce sont des problèmes d'ingénierie et de politique traitables — mais seulement si l'action précède la crise.

L'urgence est soulignée par la vitesse des gains de capacités. Les systèmes d'IA démontrent désormais un raisonnement de niveau expert en mathématiques et en sciences, et la complexité des tâches que l'IA peut gérer double, selon les rapports, tous les quatre à sept mois. À ce rythme, ce qui semble lointain devient à court terme à l'intérieur d'un seul cycle politique.

Pression sur le G7, le G20 et les nations en développement

Le rapport du panel ajoute un poids considérable à la pression sur les organismes internationaux pour accélérer les cadres de gouvernance. La loi européenne sur l'IA — la réglementation contraignante la plus complète actuellement en vigueur — a déjà établi un modèle mondial, mais sa mise en œuvre monte en puissance et elle ne couvre que les produits du marché de l'UE. Les nations du G7 et du G20 ont émis des principes et des codes de conduite volontaires ; aucun n'a de dents contraignantes.

La divergence entre les grandes puissances de l'IA est marquée. Les États-Unis se sont orientés vers une surveillance basée sur les conditions plutôt que des interdictions catégoriques, comme le montrent les récentes décisions de lever les restrictions de déploiement sur les modèles frontières. La Chine a des réglementations nationales sur l'IA mais opère en dehors de la coordination multilatérale. La majorité des nations en développement n'ont aucun cadre de gouvernance de l'IA — et sont susceptibles d'être exposées de manière significative aux dommages que décrit le panel de l'ONU.

Le Panel Scientifique Indépendant a été conçu précisément pour combler le fossé de connaissances que le rapport décrit maintenant. Ses conclusions préliminaires devraient alimenter les processus de l'ONU et façonner l'ordre du jour des prochains sommets internationaux sur la gouvernance de l'IA. Que les gouvernements agissent sur la science avant que la science ne soit à nouveau distancée est, comme le sous-entend le rapport, la question centrale du moment, selon un rapport de Reuters.