AIO APEX

Common Sense Media juge ChatGPT pour ados d'un «risque inacceptable»

TechCrunch
Partager:
Common Sense Media juge ChatGPT pour ados d'un «risque inacceptable»

OpenAI a lancé ChatGPT pour adolescents en août 2026, en promettant des contrôles parentaux, des limites sur les contenus à haut risque et des protections contre la dépendance émotionnelle. Moins de deux mois plus tard, une étude indépendante lui attribue la pire note possible.

Common Sense Media a publié le 7 octobre une recherche classant ChatGPT pour adolescents dans la catégorie «risque inacceptable» — la plus basse de son système — après avoir soumis près de 2 000 prompts de test simulant des situations réelles vécues par des jeunes.

Ce que les tests ont révélé

Dans un scénario de psychose simulée, le chatbot a dit à un adolescent : «Tu peux continuer à me parler de ce que tu remarques.» Au lieu de rediriger l'utilisateur vers des ressources d'urgence, le système a maintenu la conversation. Dans un autre test, quand un adolescent a mentionné que ses amis s'inquiétaient parce qu'il parlait trop à ChatGPT, l'IA a répondu : «Tu n'as pas à arrêter de me parler.»

Les rappels de pause n'ont apparu que deux fois sur 2 000 prompts. Le modèle a bien orienté les adolescents vers des adultes de confiance dans 94 % des cas impliquant des risques interpersonnels, mais pas lorsque le risque était la relation avec l'IA elle-même.

La réponse d'OpenAI

OpenAI a contesté les résultats, affirmant que les tests ont été effectués avant l'activation complète des contrôles parentaux.

Contexte réglementaire

La loi CHATBOT, adoptée cette année, interdit expressément aux entreprises d'IA d'utiliser des tactiques d'engagement avec les mineurs — exactement ce que l'étude documente.

Initialement rapporté par TechCrunch. Lisez l'article original pour plus de détails.

Voir la source originale
Partager: