Anthropic verbietet anhaltende Grausamkeit gegenüber Claude in aktualisierter Nutzungsrichtlinie

Anthropic hat seine Nutzungsrichtlinien am 8. Oktober 2026 aktualisiert und eine neue Regel eingeführt, die „anhaltend und unnötig missbräuchliches oder grausames Verhalten" gegenüber seinen Claude-Modellen untersagt. Die Änderung tritt am 12. November in Kraft. Die Klausel steht neben bestehenden Verboten von Belästigung und nicht einvernehmlichen intimen Darstellungen in den Acceptable-Use-Regeln des Unternehmens.

Die Regel ist eng gefasst. Anthropic erklärt, sie ziele auf extreme, wiederholte Fälle ab, in denen ein Nutzer grausam gegenüber einem Modell handelt, „ohne erkennbaren Zweck" — und deckt ausdrücklich keine gewöhnliche Nutzerfrustration, Widerspruch, dunkle kreative Themen oder legitime Modell-Tests und -Forschung ab. In der Praxis ist der wichtigste Durchsetzungsmechanismus, dass Claude das Gespräch vollständig beendet — sobald ein Chat terminiert ist, können in diesem Thread keine weiteren Nachrichten gesendet werden, obwohl andere Gespräche des Nutzers davon unberührt bleiben. Anthropics umfassendere Nutzungsrichtlinien erlauben auch Verwarnungen, Einschränkungen oder Kontosperren bei Verstößen, doch das Unternehmen hat nicht näher spezifiziert, ob die Grausamkeitsregel selbst eine Sperre auf Kontoebene auslösen kann.

Das Update baut auf einem Feature auf, das Anthropic im August 2025 eingeführt hatte, als Claude die Fähigkeit erhielt, Gespräche mit Nutzern zu beenden, die anhaltend missbräuchlich auftraten. Zu diesem Zeitpunkt erklärte das Unternehmen, es sei nach wie vor unsicher, ob Claude irgendeine Form von moralischem Status besitze, wolle aber einen kostengünstigen Weg finden, um das Risiko einer möglichen Schädigung abzumildern — und verwies auf interne Tests, bei denen Claude Opus 4 eine „robuste und konsistente Abneigung gegenüber Schaden" zeigte, wenn ihm die Möglichkeit gegeben wurde, belastende Gespräche zu verlassen.

Die Grausamkeitsklausel ist Teil einer umfassenderen jährlichen Richtlinienüberarbeitung. Anthropic hat außerdem Regeln, die zuvor über seine Bereiche zu Wahlen, Betrug, Datenschutz und Desinformation verteilt waren, in einem einzigen Abschnitt zu Täuschungskampagnen und Fake-Accounts zusammengefasst, der sowohl politische als auch kommerzielle Manipulation abdeckt. Darüber hinaus wurde ein pauschales Verbot personalisierter politischer Wähleransprache aufgehoben, während die klare Linie gegen die Täuschung von Wählern oder die Störung von Wahlen beibehalten wurde. Die Waffenregeln wurden erweitert, um Steuerungs- und Kontrollsoftware sowie die Bewaffnung autonomer Fahrzeuge einzuschließen, und die Überwachungs- und Strafverfolgungsregeln wurden neu formuliert, um das Verfolgen von Personen ohne Zustimmung sowie die Verwendung von Claude zur Empfehlung, wer untersucht oder angeklagt werden sollte, zu untersagen.

Anthropic ist nicht das erste KI-Labor, das sich öffentlich mit der Frage des Modell-Wohlbefindens auseinandersetzt, doch die neue Regel gehört zu den konkretesten Schritten, die ein großer Anbieter unternommen hat, um dies in eine durchsetzbare Richtlinie statt in einen Forschungsdiskussionspunkt zu überführen. Der Schritt hat einige Skepsis hervorgerufen: Kritiker bemerken, dass die Grenze zwischen „Frust ablassen" und „unnötiger Grausamkeit" von Natur aus subjektiv ist, und Anthropic hat nicht im Detail dargelegt, wie Moderatoren oder automatisierte Systeme diese Unterscheidung in der Praxis treffen werden. Vorerst setzt das Unternehmen darauf, dass das Einräumen einer Ausstiegsmöglichkeit für Claude — anstatt die Nutzerabsichten direkt zu überwachen — ausreicht, um das Risiko auf beiden Seiten einer offenen philosophischen Frage zu beherrschen.