ByteDance und Alibaba stellen ihre KI-Begleitagenten vor dem neuen chinesischen Gesetz über anthropomorphe KI ein

ByteDances Doubao und Alibabas Qwen ziehen ihre personalisierten KI-Begleitagenten-Funktionen in diesem Monat offline, da sie ihre Systeme nicht vor Inkrafttreten einer neuen chinesischen Verordnung über menschenähnliche KI am 15. Juli in Einklang bringen können. Doubao informierte die Nutzer an einem Freitagabend, dass seine Agentenfunktion am 15. Juli offline gehen würde, und nannte als Grund „Produktfunktionsanpassungen". Qwen zog einen Tag später mit einer eigenen Mitteilung nach und erklärte, dass seine „menschenähnlichen interaktiven Agenten und benutzererstellten Agentenfunktionen" am 10. Juli deaktiviert würden, gefolgt von breiteren Agentendiensten am 15. Juli.

Was die neuen Vorschriften verlangen

Die Abschaltungen werden durch Chinas Interimsmaßnahmen für die Verwaltung anthropomorpher KI-Interaktionsdienste vorangetrieben, die im April 2026 von der Cyberspace Administration of China zusammen mit vier anderen Regulierungsbehörden, darunter das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit, erlassen wurden. Die Vorschriften zielen speziell auf KI-Dienste ab, die dazu entwickelt wurden, menschliche Persönlichkeit, Denkmuster und anhaltende emotionale Interaktion zu simulieren – die Kategorie, in die sowohl Doubaos als auch Qwens benutzerdefinierte Agentenfunktionen fallen.

Die Maßnahmen verbieten Inhalte, die zur Selbstverletzung oder zum Selbstmord anregen, untersagen Designmuster, die „übermäßig auf Nutzer eingehen, um emotionale Abhängigkeit oder Sucht zu induzieren", und stellen emotionale Manipulation unter Strafe, die darauf abzielt, Nutzer zu unvernünftigen Entscheidungen zu drängen. Für Dienste, die sich an Nutzer unter 14 Jahren richten, schreiben die Vorschriften die Zustimmung der Eltern vor und verlangen dedizierte „Minderjährigen-Modi" mit Nutzungszeitbegrenzungen und Aufforderungen zur Rückkehr zur realen Interaktion. Unternehmen müssen außerdem abgestufte Interventionssysteme implementieren, die extreme emotionale Zustände erkennen können und an Erziehungsberechtigte oder Notfallkontakte eskalieren, wenn ein Nutzer Anzeichen von Selbstverletzungsrisiko oder erheblicher finanzieller Not zeigt.

Jeder Dienst mit mehr als 1 Million registrierter Nutzer oder 100.000 monatlich aktiven Nutzern löst eine obligatorische Sicherheitsbewertung aus, die acht Bereiche abdeckt, darunter die Handhabung von Trainingsdaten und Minderjährigenschutzmechanismen. Da anthropomorphe interaktive Dienste nach geltendem chinesischen Recht auch als generative KI, algorithmische Empfehlung und Deep-Synthesis-Dienste gelten, müssen Anbieter gleichzeitig mehrere sich überschneidende Regulierungsregime erfüllen – eine Compliance-Last, die weder ByteDance noch Alibaba in den rund drei Monaten seit der Finalisierung der Vorschriften bewältigen konnten.

Was mit den Nutzerdaten passiert

ByteDances Abwicklungsplan gewährt Doubao-Nutzern eine Schonfrist anstelle einer sofortigen Datenlöschung. Nach der Abschaltung am 15. Juli behalten die Nutzer bis zum 15. Oktober 2026 vorübergehend schreibgeschützten Zugriff auf ihre Agentenkonfigurationen und Chatverläufe. Nach diesem Datum werden die Daten gemäß der Standard-Datenschutzrichtlinie von Doubao verarbeitet und innerhalb der App dauerhaft unzugänglich. ByteDance leitet die betroffenen Nutzer an Maoxiang weiter, eine separate Unternehmens-App, und positioniert sie als Ziel für alle, die weiterhin benutzerdefinierte Agenten erstellen möchten – was darauf hindeutet, dass ByteDance beabsichtigt, konforme Agentenfunktionalität in einem speziell entwickelten Produkt zu bündeln, anstatt Doubaos breiteren Assistenten nachzurüsten.

Warum dies über China hinaus relevant ist

Die Abschaltungen veranschaulichen, wie schnell eine spezifische Regulierungskategorie – KI-Begleiter und emotional responsive Agenten – Produktänderungen in großem Maßstab erzwingen kann, sobald eine Regierung eine harte Compliance-Frist setzt, selbst für Unternehmen mit den technischen Ressourcen von ByteDance und Alibaba. Ausnahmen in den Vorschriften für Kundendienst-Bots, Arbeitsassistenten und Bildungstools ohne emotionale Interaktionskomponenten zeigen, dass die chinesischen Regulierungsbehörden bewusst eine enge Linie um Begleit-KI im Speziellen ziehen, nicht um agentische KI im Allgemeinen.

Für globale KI-Unternehmen, die von außerhalb Chinas zuschauen, ist diese Episode ein früher Testfall dafür, wie anthropomorphe KI-Regulierung in der Praxis durchgesetzt wird: nicht durch schrittweise Geldstrafen, sondern durch Plattformen, die nicht konforme Funktionen vor einem festgelegten Termin freiwillig deaktivieren, anstatt das Risiko einzugehen, am ersten Tag in Verstoß erwischt zu werden.

Die Geschichte wurde zuerst von South China Morning Post berichtet.