Anthropic: KI hat sich vom Helfer bei Cyberangriffen zu deren Orchestrator entwickelt

Anthropic veröffentlichte am Freitag seinen dritten Bedrohungsintelligenzbericht, der detailliert, wie böswillige Akteure zwischen Dezember 2025 und August 2026 versuchten, Claude-Modelle für schädliche Zwecke einzusetzen — und wie das Unternehmen diese Versuche in sieben Schadensbereichen vereitelte.

Die bedeutendste Eskalation im Bericht ist der Wandel vom KI-Assistenten zum autonomen Angriffs-Orchestrator. Eine Operation, die Anthropic als GTG-20006 verfolgt — mit Taktiken, die mit der russischen Gruppe Midnight Blizzard übereinstimmen — setzte KI-gesteuerte Workflows über die gesamte Angriffskette ein: Zielrecherche, Phishing-Infrastruktur, Exploitation, Credential-Diebstahl, laterale Netzwerkbewegung und Datenexfiltration. In einem separaten Fall überwachten KI-Agenten Security-Produkt-Erkennungen ihrer eigenen Malware und bauten den Code automatisch um, um der Erkennung zu entgehen.

Biowaffen-Versuche blockiert

Anthropic blockierte fünf Versuche, Claude für potenzielle Biowaffen-Forschung zu nutzen, die Chikungunya, Vogelgrippe und Pocken betrafen. Ein Fall beinhaltete die Bitte, einen Förderantrag für Gain-of-function-Forschung zur Erhöhung der Übertragbarkeit von Chikungunya zu verfassen.

Als Reaktion darauf hat Anthropic den Zugang zu seinen leistungsfähigsten biologiefokussierten Modellen auf geprüfte Organisationen beschränkt und Erkenntnisse mit Regierungsbehörden und Branchenpartnern geteilt.

Sieben chinesische Labors versuchten illegale Destillation

Der Bericht dokumentiert auch illegale Modelldestillation durch sieben in China ansässige KI-Labors. Claude Haiku, Sonnet und Opus waren in den meisten Missbrauchsfällen beteiligt; ein Destillationsfall umfasste ein Modell der Fable- oder Mythos-Klasse.

Neben Cyberoperationen und Biowaffen deckt der Bericht Einflussoperationen, Überwachungssysteme zur Beobachtung von Dissidenten, Betrug und Forschung zu konventionellen Waffen ab.

Die übergeordnete Warnung

Anthropics zentrale Sorge ist die Demokratisierung offensiver Fähigkeiten: Je leistungsfähiger KI-Modelle werden, desto weniger technisches Fachwissen werden anspruchsvolle Angriffe erfordern — und einzelne Personen könnten Bedrohungen versuchen, die bisher gut finanzierten Teams vorbehalten waren.

Quelle: Anthropic Bedrohungsintelligenzbericht, September 2026