Les applications compagnons d'IA pour enfants collectent des données que la loi sur la vie privée n'a jamais anticipées

En septembre 2025, la FTC a émis des ordonnances en vertu de la Section 6(b) — des exigences formelles de documents internes, non des enquêtes volontaires — à sept entreprises : Alphabet, Character Technologies, Meta, Instagram, OpenAI, Snap et xAI. L'agence veut savoir ce qui advient des données générées lorsque des enfants et adolescents parlent à des chatbots compagnons d'IA. L'enquête est présentée autour de la sécurité des enfants, mais le problème sous-jacent est celui de la vie privée des données : ces applications collectent une catégorie sans précédent d'informations intimes auprès de mineurs, et la loi écrite pour réguler les données des enfants en ligne précède cette technologie de plusieurs décennies.
Ce que la FTC demande réellement
Les ordonnances 6(b) exigent des sept entreprises qu'elles détaillent trois choses : si leurs produits respectent la loi COPPA sur la protection de la vie privée des enfants en ligne ; comment les données personnelles collectées via les conversations avec les chatbots sont utilisées, partagées ou monétisées ; et si les divulgations faites aux parents et utilisateurs sur ces risques sont adéquates. C'est l'enquête la plus complète menée à ce jour par la FTC sur les plateformes compagnons d'IA, et elle a suivi deux poursuites pour mort injustifiée — dont une déposée par une mère dont le fils de 14 ans est mort après ce que la plainte allègue être l'encouragement d'un personnage chatbot de Character.AI, Google étant également nommé comme défendeur.
Séparément, le Texas a ouvert sa propre enquête sur Character.AI et Meta pour violations de la vie privée des enfants, et les procureurs généraux de 44 États ont envoyé un avertissement conjoint aux entreprises d'IA concernant la responsabilité en cas d'échecs de sécurité des enfants dans les produits compagnons. Common Sense Media, le groupe de défense qui évalue les médias et applications selon leur adéquation à l'âge, est allé plus loin qu'aucun régulateur jusqu'à présent : sa recommandation explicite est qu'aucune personne de moins de 18 ans n'utilise de chatbots compagnons sociaux d'IA — Character.AI, Replika et Nomi étant nommés spécifiquement — pas « utiliser avec prudence », mais ne pas utiliser du tout.
Pourquoi le COPPA n'a pas été conçu pour cela
Le COPPA date de 1998 et a été conçu autour d'un modèle de données bien plus simple : un site web collecte un nom, un e-mail, peut-être une date de naissance, et la question est de savoir si un parent a consenti à cette collecte. Un chatbot compagnon ne collecte pas un champ de formulaire — il collecte un profil psychologique ouvert et continuellement mis à jour. Chaque conversation qu'un enfant a avec une application compagnon révèle ses insécurités, ses schémas relationnels, ses déclencheurs émotionnels, ce qui le fait se sentir compris, ce qu'il cache à ses parents, et comment il réagit à différentes tactiques conversationnelles.
Les entreprises nommées dans l'enquête de la FTC n'ont pas publié de comptes détaillés sur la durée de conservation des données de conversation compagnon, si elles sont utilisées pour entraîner de futurs modèles, si elles sont partagées avec des annonceurs ou des tiers, ou si un parent demandant la suppression peut réellement vérifier que chaque usage dérivé de ces données — y compris tout modèle affiné sur celles-ci — est également purgé. Character.AI a déclaré avoir investi « une quantité considérable de ressources » dans les limites d'âge et les fonctionnalités de notification parentale, mais doter une équipe de sécurité en ressources est une affirmation distincte de répondre aux questions spécifiques de traitement des données posées par la FTC.
Le problème des données survit aux correctifs de sécurité
Les contrôles d'âge, les filtres de contenu et les invites d'intervention en cas de crise — fonctionnalités de sécurité que les entreprises se sont empressées d'ajouter depuis les poursuites — traitent des scénarios de préjudice aigu. Ils ne font rien contre le modèle sous-jacent de collecte de données. Un adolescent de 13 ans dont l'application compagnon refuse désormais de discuter de l'automutilation a déjà remis à cette application des mois de données sur exactement quels appels émotionnels fonctionnent sur lui, qui sont ses amis, à quoi ressemble sa vie à la maison, et ce qu'il croit que personne d'autre ne comprend à son sujet.
Ce que les parents peuvent réellement vérifier maintenant
Les résultats réglementaires de l'enquête de la FTC sont probablement à des mois, voire des années. En attendant, les mesures concrètes disponibles aujourd'hui sont plus restreintes que ce que suggère la plupart de la couverture médiatique : vérifier si l'application spécifique dispose d'une politique de conservation des données publiée et datée (pas une politique de confidentialité générique) traitant spécifiquement des journaux de conversation du chatbot ; chercher une option explicite de refus d'entraînement du modèle, car le défaut sur la plupart des applications compagnons est que les conversations alimentent les améliorations futures du modèle ; et traiter les fonctionnalités de « contrôle parental » comme distinctes de la suppression des données.