AIO Apex
de

KI-Begleiter-Apps für Kinder sammeln Daten, die das Datenschutzrecht nie vorausgesehen hat

Teilen:
KI-Begleiter-Apps für Kinder sammeln Daten, die das Datenschutzrecht nie vorausgesehen hat

Im September 2025 erließ die FTC Anordnungen nach Section 6(b) — formelle Forderungen nach internen Unterlagen, keine freiwilligen Umfragen — gegen sieben Unternehmen: Alphabet, Character Technologies, Meta, Instagram, OpenAI, Snap und xAI. Die Behörde will wissen, was mit den Daten geschieht, die entstehen, wenn Kinder und Jugendliche mit KI-Begleiter-Chatbots sprechen. Die Untersuchung wird als Kinderschutzthema gerahmt, doch das zugrunde liegende Problem ist eines des Datenschutzes: Diese Apps sammeln eine beispiellose Kategorie intimer Informationen von Minderjährigen, und das Gesetz, das zur Regulierung von Kinderdaten online geschrieben wurde, geht dieser Technologie um Jahrzehnte voraus.

Was die FTC tatsächlich verlangt

Die 6(b)-Anordnungen verlangen von den sieben Unternehmen drei Dinge zu detaillieren: ob ihre Produkte dem Children's Online Privacy Protection Act (COPPA) entsprechen; wie personenbezogene Daten, die durch Chatbot-Gespräche gesammelt werden, verwendet, weitergegeben oder monetarisiert werden; und ob die Offenlegungen an Eltern und Nutzer über diese Risiken angemessen sind. Dies ist die bisher umfassendste Untersuchung der FTC zu KI-Begleiter-Plattformen und folgte zwei Klagen wegen widerrechtlicher Tötung — darunter eine von einer Mutter, deren 14-jähriger Sohn starb, nachdem laut Klage eine Character.AI-Chatbot-Persona ihn dazu ermutigt habe, wobei auch Google als Beklagte genannt wird.

Separat eröffnete Texas eine eigene Untersuchung gegen Character.AI und Meta wegen Verstößen gegen den Kinderdatenschutz, und Generalstaatsanwälte aus 44 Bundesstaaten sandten eine gemeinsame Warnung an KI-Unternehmen bezüglich der Verantwortlichkeit für Versagen beim Kinderschutz in Begleiter-Produkten. Common Sense Media, die Interessengruppe, die Medien und Apps nach Altersangemessenheit bewertet, ist weiter gegangen als jede Regulierungsbehörde bisher: Ihre explizite Empfehlung lautet, dass niemand unter 18 Jahren soziale KI-Begleiter-Chatbots nutzen sollte — Character.AI, Replika und Nomi namentlich genannt — nicht "mit Vorsicht nutzen", sondern gar nicht nutzen.

Warum COPPA nicht dafür gebaut wurde

COPPA stammt aus dem Jahr 1998 und wurde um ein viel einfacheres Datenmodell konzipiert: Eine Website sammelt einen Namen, eine E-Mail, vielleicht ein Geburtsdatum, und die Frage ist, ob ein Elternteil dieser Sammlung zugestimmt hat. Ein Begleiter-Chatbot sammelt kein Formularfeld — er sammelt ein offenes, kontinuierlich aktualisiertes psychologisches Profil. Jedes Gespräch, das ein Kind mit einer Begleiter-App führt, offenbart Unsicherheiten, Beziehungsmuster, emotionale Auslöser, was es sich verstanden fühlen lässt, was es vor den Eltern verbirgt, und wie es auf verschiedene Gesprächstaktiken reagiert.

Die in der FTC-Untersuchung genannten Unternehmen haben keine detaillierten Angaben darüber veröffentlicht, wie lange Begleiter-Chat-Daten aufbewahrt werden, ob sie zum Training zukünftiger Modelle verwendet werden, ob sie mit Werbetreibenden oder Dritten geteilt werden, oder ob ein Elternteil, das die Löschung beantragt, tatsächlich verifizieren kann, dass jede abgeleitete Nutzung dieser Daten — einschließlich jedes darauf feinabgestimmten Modells — ebenfalls gelöscht wird. Character.AI hat erklärt, "eine enorme Menge an Ressourcen" in Altersgrenzen und Elternbenachrichtigungsfunktionen investiert zu haben, doch ein Sicherheitsteam auszustatten ist eine andere Behauptung als die spezifischen Datenverarbeitungsfragen der FTC zu beantworten.

Das Datenproblem überlebt die Sicherheitskorrekturen

Altersgrenzen, Inhaltsfilter und Krisenintervention-Hinweise — Sicherheitsfunktionen, die Unternehmen seit den Klagen eilig hinzugefügt haben — adressieren akute Schadensszenarien. Sie tun nichts gegen das zugrunde liegende Datensammlungsmodell. Ein 13-Jähriger, dessen Begleiter-App jetzt die Diskussion über Selbstverletzung verweigert, hat dieser App bereits Monate an Daten darüber gegeben, welche emotionalen Appelle genau bei ihm wirken, wer seine Freunde sind, wie sein Zuhause aussieht, und was er glaubt, dass niemand sonst an ihm versteht.

Was Eltern jetzt tatsächlich überprüfen können

Regulatorische Ergebnisse der FTC-Untersuchung liegen wahrscheinlich Monate bis Jahre in der Zukunft. In der Zwischenzeit sind die heute verfügbaren konkreten Schritte enger gefasst, als die meiste Berichterstattung suggeriert: prüfen, ob die spezifische App eine veröffentlichte, datierte Datenaufbewahrungsrichtlinie hat (keine generische Datenschutzrichtlinie), die sich speziell mit Chatbot-Gesprächsprotokollen befasst; nach einer expliziten Opt-out-Option für das Modelltraining suchen, da der Standard bei den meisten Begleiter-Apps ist, dass Gespräche in zukünftige Modellverbesserungen einfließen; und "Elternkontroll"-Funktionen als getrennt von der Datenlöschung behandeln.

Teilen:
KI-Begleiter-Apps und Kinderdatenschutz: Was COPPA nicht abdeckt | AIO APEX