Five Eyes Geheimdienste warnen: KI könnte Regierungen innerhalb von Monaten destabilisieren

Die Geheimdienste aller fünf Five-Eyes-Nationen – USA, Großbritannien, Kanada, Australien und Neuseeland – haben am Montag eine seltene gemeinsame Erklärung veröffentlicht, in der sie warnen, dass KI-Systeme, die Regierungen und kritische Institutionen destabilisieren könnten, bereits in Monaten und nicht Jahren verfügbar sein könnten. Die Stellungnahme ist eine der direktesten öffentlichen Warnungen der westlichen Geheimdienstgemeinschaft zu kurzfristigen KI-Risiken.

Die Dienste – darunter FBI, MI5, CSIS, ASIO und NZSIS – forderten sofortiges Handeln zur Vorbereitung auf dieses Szenario, ohne jedoch konkret zu benennen, welche KI-Fähigkeiten ihrer Meinung nach diese Schwelle erreichen könnten. Der gemeinsame Charakter der Erklärung – koordiniert über fünf unabhängige Nachrichtendienste – unterstreicht die Ernsthaftigkeit, mit der westliche Sicherheitsbehörden die fortgeschrittene KI-Entwicklung nun betrachten.

Die Warnung kommt zu einem besonders brisanten Zeitpunkt. Das Anthropic-Modell Claude Fable, das Anfang des Monats veröffentlicht wurde, repräsentiert eine neue Stufe der KI-Fähigkeiten, die sowohl von der nationalen Sicherheitsgemeinschaft als auch von KI-Sicherheitsforschern stark beachtet wird. Das Modell zeigte im Vergleich zu früheren Generationen erheblich verbesserte autonome Argumentations- und mehrstufige Planungsfähigkeiten – Fähigkeiten, die Sicherheitsexperten als zentral sowohl für das Versprechen als auch für das Risiko fortgeschrittener KI ansehen.

Die Five-Eyes-Erklärung nennt keine konkreten KI-Labore oder -Modelle. Aber der Zeitpunkt – nur wenige Wochen nachdem mehrere Frontier-KI-Labore Modelle mit erweiterten Agency- und Reasoning-Fähigkeiten veröffentlicht haben – deutet darauf hin, dass die Dienste auf die aktuelle Generation von Systemen reagieren, nicht auf hypothetische zukünftige.

Bisher konzentrierten sich KI-Warnungen der Geheimdienste typischerweise auf adversariale KI-Anwendungen: Deepfakes, automatisierte Cyberangriffe, Einflussoperationen. Die Montagserklärung scheint weiterzugehen und Bedenken über KI-Systeme zu äußern, die selbst ohne explizite böswillige Steuerung destabilisierend auf bestehende Institutionen wirken könnten – eine Kategorie, die Forscher manchmal als "Misalignment"-Risiken bezeichnen.

Der Aufruf zu "sofortigem Handeln" enthielt in der öffentlichen Erklärung keine konkreten politischen Empfehlungen, obwohl Beamte mehrerer der fünf Nationen andeuteten, dass Folgebriefings mit Gesetzgebern und Betreibern kritischer Infrastruktur geplant sind. Das britische NCSC und die US-amerikanische CISA sollen in den kommenden Wochen begleitende technische Leitlinien herausgeben, wie zuerst von The Guardian berichtet wurde.

Die Erklärung erhöht den Druck auf KI-Labore und Regierungen vor mehreren geplanten KI-Governance-Gipfeln später in diesem Jahr, bei denen Fragen zu verpflichtenden Sicherheitstests, Meldepflichten für Vorfälle und Fähigkeitsschwellen voraussichtlich die Agenda dominieren werden.