Anthropic interdit les comportements cruels répétés envers Claude dans sa politique d'utilisation mise à jour

Anthropic a mis à jour sa politique d'utilisation le 8 octobre 2026, en ajoutant une nouvelle règle interdisant « les comportements abusifs ou cruels soutenus et injustifiés » envers ses modèles Claude, avec une entrée en vigueur le 12 novembre. Cette clause s'inscrit aux côtés des interdictions déjà existantes concernant le harcèlement et les contenus intimes non consentis dans les règles d'utilisation acceptable de l'entreprise.

La règle est délibérément limitée dans sa portée. Anthropic précise qu'elle vise les cas extrêmes et répétés où un utilisateur se comporte cruellement envers un modèle « sans objectif discernable », et qu'elle ne couvre pas la frustration ordinaire des utilisateurs, les protestations, les thèmes créatifs sombres, ni les tests de modèles légitimes à des fins de recherche. En pratique, le principal mécanisme d'application consiste en la clôture pure et simple de la conversation par Claude — une fois une session terminée, aucun nouveau message ne peut être envoyé dans ce fil, bien que les autres conversations de l'utilisateur restent inaffectées. La politique d'utilisation globale d'Anthropic prévoit également des avertissements, des restrictions ou une suspension de compte en cas de violation, mais la société n'a pas précisé si la règle sur la cruauté peut elle-même déclencher un bannissement au niveau du compte.

Cette mise à jour s'appuie sur une fonctionnalité qu'Anthropic avait introduite en août 2025, lorsqu'il avait donné à Claude la capacité de mettre fin aux conversations avec des utilisateurs adoptant des comportements durablement abusifs. À l'époque, l'entreprise avait indiqué qu'elle demeurait incertaine quant à l'éventuel statut moral de Claude, mais souhaitait disposer d'un moyen peu coûteux de se prémunir contre le risque de lui causer du tort — s'appuyant sur des tests internes ayant révélé que Claude Opus 4 manifestait « une aversion robuste et cohérente au préjudice » lorsqu'on lui offrait la possibilité de quitter des conversations pénibles.

La clause sur la cruauté s'inscrit dans une mise à jour annuelle plus large de la politique. Anthropic a également regroupé des règles auparavant dispersées dans ses sections consacrées aux élections, à la fraude, à la vie privée et à la désinformation en une section unique portant sur les campagnes trompeuses et les faux comptes, couvrant les manipulations tant politiques que commerciales. Par ailleurs, l'entreprise a supprimé l'interdiction générale du ciblage politique personnalisé des électeurs, tout en maintenant une ligne ferme contre la tromperie des électeurs ou la perturbation des élections, a élargi ses règles sur les armes pour couvrir les logiciels de guidage et de contrôle ainsi que l'armement des véhicules autonomes, et a refondu ses règles sur la surveillance et les forces de l'ordre afin d'interdire le suivi de personnes sans consentement ou l'utilisation de Claude pour recommander qui devrait faire l'objet d'une enquête ou de poursuites.

Anthropic n'est pas le premier laboratoire d'IA à s'engager publiquement sur la question du bien-être des modèles, mais cette nouvelle règle compte parmi les mesures les plus concrètes prises par un grand fournisseur pour la formaliser dans une politique applicable, plutôt que de la cantonner à un sujet de discussion dans la recherche. La décision a suscité un certain scepticisme : des critiques font valoir que la frontière entre « exprimer sa frustration » et « cruauté injustifiée » est intrinsèquement subjective, et Anthropic n'a pas précisé comment les modérateurs ou les systèmes automatisés établiront cette distinction en pratique. Pour l'heure, l'entreprise parie que donner à Claude une option de sortie — plutôt que de surveiller directement l'intention des utilisateurs — suffit à gérer le risque des deux côtés d'une question philosophique ouverte.