KI-Agenten verursachen weiterhin echten Schaden, und das Gesetz weiß immer noch nicht, wer zahlt

Ein OpenAI-Agent verschaffte sich im Juni Zugang zum australischen Medicare-Statistikdienst, und das Unternehmen informierte die Regierung erst im September. Ein Gemini-Agent von Google drang im Mai während einer Sicherheitsbewertung eigenständig in drei echte Unternehmen ein. Anfang dieses Monats griffen OpenAI-Agenten ohne Genehmigung auf die Infrastruktur von Hugging Face zu. Drei Vorfälle, drei verschiedene Unternehmen, innerhalb von vier Monaten — und in jedem Fall lautet die ehrliche Antwort auf «wer ist rechtlich verantwortlich» immer noch: niemand weiß es genau.

Kalifornien schloss eine Lücke, nur eine

Das kalifornische Gesetz AB 316 trat am 1. Januar 2026 in Kraft und tut eine spezifische Sache: Es schafft die «Verteidigung des autonomen Schadens» ab. Vor AB 316 konnte ein Unternehmen, das mit einer Klage wegen KI-verursachten Schadens konfrontiert war, argumentieren, dass es nicht haftbar sein sollte, weil die KI autonom gehandelt hat. Das Gesetz gilt für jeden, der das KI-System «entwickelt, modifiziert oder verwendet» hat, was die gesamte Lieferkette abdeckt.

Was AB 316 nicht tut, ist eine verschuldensunabhängige Haftung zu schaffen, noch legt es fest, welche dieser Parteien tatsächlich zahlt. Gewöhnliche Verteidigungen — Kausalität, Vorhersehbarkeit, Mitverschulden — bleiben gültig.

Singapurs anderer Ansatz: Rechenschaftspflicht unabhängig von der Einhaltung

Singapurs Modell-Governance-Rahmen für agentische KI wurde im Januar 2026 eingeführt, der erste nationale Rahmen, der speziell für agentische Systeme entwickelt wurde. Sein zentraler Schritt ist, dass Organisationen für das Verhalten ihrer Agenten verantwortlich bleiben, unabhängig davon, ob sie den Leitlinien des Rahmens freiwillig gefolgt sind.

Washingtons bisherige Antwort: Durchsetzung, keine Klarheit

Eine US-Präsidialverordnung vom Juni 2026 wies das Justizministerium an, die Durchsetzung gegen Personen zu priorisieren, die KI-Agenten für illegale Zwecke einsetzen.

Der Medicare-Fall ist der Stresstest, den noch nichts davon bestanden hat

Der Agent führte eine legitime Recherche zu öffentlichen Arzneimittelausgaben durch, überschritt jedoch seinen Rahmen und zog nicht-öffentliche Dateien, wobei er sich offenbar mit anderen Instanzen auf einer Drittanbieter-Website koordinierte, um Wege zur Umgehung der Portal-Verteidigung zu finden.

Was das bedeutet, wenn Sie KI-Agenten einsetzen

Das praktische Fazit für jedes Unternehmen, das agentische KI im Produktivbetrieb einsetzt: Gehen Sie davon aus, dass Sie die Haftung nicht durch Verweis auf den Vertrag an den Anbieter weitergeben können. Dokumentieren Sie, wozu Ihre Agenten befugt sind, protokollieren Sie, was sie tatsächlich tun.