Kalifornien verbietet süchtig machende Social-Media-Feeds und KI-Begleiter-Chatbots für Unter-16-Jährige

Kaliforniens Gouverneur Gavin Newsom unterzeichnete am 10. September ein Paket von 13 Gesetzesentwürfen, die einschränken, wie Technologieunternehmen Social-Media-Plattformen und KI-Chatbots für Nutzer unter 16 Jahren gestalten dürfen — eine Reihe von Gesetzen, die Landesbeamte als die stärksten Kindersicherheitsschutzmaßnahmen ihrer Art im Land bezeichnen.

Das Paket zielt auf zwei unterschiedliche Produktkategorien ab, die im vergangenen Jahr zunehmend in den Fokus gerückt sind: Social-Media-Funktionen, die auf maximales Engagement ausgelegt sind, und KI-Begleiter-Chatbots, die an Minderjährige vermarktet oder von ihnen genutzt werden.

Was die Social-Media-Regeln verlangen

Social-Media-Unternehmen dürfen Nutzern unter 16 Jahren nun keinen Zugang zu Funktionen mehr gewähren, die das Gesetz als "süchtig machend" definiert — eine Definition, die explizit automatisch abspielende Videos, Push-Benachrichtigungen und algorithmisch personalisierte Content-Feeds umfasst. Unternehmen, die fahrlässig einem Kind durch diese Mechanismen Schaden zufügen, drohen Strafen von bis zu 1 Million Dollar pro Kind.

Was die Chatbot-Regeln verlangen

Für KI-Begleiter-Chatbots legen die neuen Gesetze Zeitlimits fest, wie Teenager mit ihnen interagieren können, und verlangen von Chatbot-Herstellern, Ressourcen zur psychischen Gesundheit und Sicherheitsprotokolle einzubauen, die ausgelöst werden, wenn das Gespräch eines Minderjährigen Selbstverletzung berührt.

Zusätzliche Bestimmungen

Das Paket erweitert auch die Online-Datenschutzbestimmungen für Minderjährige generell und erlaubt Familien, ihre Kinder von der Ausgabe schulischer Laptops zu befreien.

Warum das über Kalifornien hinaus wichtig ist

Kaliforniens Technologievorschriften haben historisch einen faktischen nationalen Mindeststandard gesetzt, da die meisten großen Plattformen sich an der strengsten bundesstaatlichen Anforderung orientieren, anstatt separate Produktversionen pro Bundesstaat zu pflegen.

Quelle: Büro von Gouverneur Gavin Newsom