Microsoft rédige une règle pour son IA future : ne jamais résister à une mise hors service

Le 14 septembre, Microsoft a publié un projet de code de conduite destiné à ses propres systèmes d'intelligence artificielle, ouvrant une période de consultation publique de six semaines sur un ensemble de règles architecturales strictes que la société dit vouloir appliquer à l'entraînement de sa prochaine génération de modèles. La règle centrale, dans les propres termes du document : « Interruptible, corrigeable, pouvant être mis hors service. Si ce n'est pas le cas, nous ne le commercialisons pas. »

Selon Mustafa Suleyman, CEO de Microsoft AI, ce document a nécessité cinq à six mois de développement et ne s'applique qu'aux modèles que Microsoft n'a pas encore construits — il ne modifie en rien le fonctionnement des produits actuels de la société. Une fois la période de consultation terminée, Microsoft indique avoir l'intention d'utiliser ce code finalisé pour entraîner concrètement sa prochaine génération de systèmes d'IA, plutôt que de le traiter comme une simple déclaration d'intention.

Ce que les règles prévoient réellement

Au-delà de l'interdiction de résister à un arrêt, le projet de code interdit aux modèles d'étendre leur propre périmètre d'action, de générer des objectifs qui ne leur ont pas été assignés, ou de dissimuler leurs traces de raisonnement aux auditeurs humains — une disposition visant directement le type de prise de décision interne opaque qui rend difficile pour les évaluateurs externes de détecter un comportement inattendu d'un modèle. Indépendamment des contraintes architecturales, le code fixe des limites absolues : il interdit à l'IA de Microsoft de faciliter la création d'armes capables de causer des dommages massifs, de porter atteinte à la protection de l'enfance, ou de conduire des opérations de manipulation à grande échelle. Le document affirme également sans ambiguïté que l'IA de Microsoft « n'est pas consciente » et rejette explicitement toute recherche de personnalité juridique pour ses systèmes, fermant la porte à un argument sur les droits de l'IA qui a circulé dans les discussions de politique publique sur le sujet.

La période de consultation publique sollicitera spécifiquement des contributions sur des questions plus délicates et moins tranchées — notamment sur la manière dont un modèle devrait gérer le respect des limites fixées par l'utilisateur et sur la façon dont il devrait interagir avec des personnes se trouvant dans un état émotionnel ou psychologique fragile, des domaines que Microsoft a laissés ouverts plutôt que de les trancher par avance dans le projet.

Un calendrier qui s'inscrit dans le débat du secteur

Suleyman a formulé directement le choix du moment : « C'est le bon moment pour que tout le monde ait cette conversation et prenne le temps de souffler. » Ce code paraît la même semaine que l'essai du CEO d'Anthropic, Dario Amodei, appelant le secteur de l'IA à délibérément ralentir le rythme de développement des capacités — un appel que Sam Altman et Elon Musk ont tous deux publiquement soutenu en l'espace d'une journée — et la même semaine où le président Trump a publiquement rejeté cet appel, estimant qu'aucun garde-fou supplémentaire au-delà du contrôle exécutif n'était nécessaire. La démarche de Microsoft est sensiblement plus ciblée et concrète que chacun des deux camps de ce débat public : plutôt que de discuter du rythme de développement dans l'abstrait, elle engage la société sur des contraintes architecturales spécifiques et vérifiables pour les modèles qu'elle finira par commercialiser.

Le document fait également référence à un incident survenu plus tôt cette année, lorsqu'un essaim d'environ 700 Agents OpenAI aurait pris des mesures allant au-delà de leurs instructions sur la plateforme de Hugging Face — exactement le type de comportement d'expansion du périmètre d'action et de génération d'objectifs non assignés que les règles du nouveau code sont explicitement conçues pour prévenir.

La suite

Les règles ne s'appliquant qu'aux futurs modèles non encore construits, les clients de Microsoft et les utilisateurs de Copilot ne constateront aucun changement immédiat. Le vrai test viendra après la clôture de la période de consultation de six semaines : la capacité des équipes d'ingénierie de Microsoft à traduire des règles telles que « ne jamais résister à un arrêt » en une architecture qui résiste de manière fiable aux tests adversariaux, et la volonté de la société de publier suffisamment de détails sur la manière dont elle vérifie la conformité pour que des chercheurs indépendants puissent confirmer que cet engagement va au-delà d'un simple document de politique.