UN-Wissenschaftsgremium: KI schreitet schneller voran, als Regierungen sie verstehen oder regulieren können

Das Unabhängige Internationale Wissenschaftliche Gremium der Vereinten Nationen für Künstliche Intelligenz veröffentlichte am 1. Juli einen vorläufigen Bericht mit der Warnung, dass das Tempo der KI-Entwicklung sowohl die Wissenschaft, die zu ihrem Verständnis nötig ist, als auch die Governance-Rahmenwerke, die sie kontrollieren sollen, überholt hat – eine Lücke, die zu katastrophalen Schäden führen könnte, wenn sie nicht geschlossen wird.

Das Gremium, das von der UNO eingerichtet wurde, um autoritative, unabhängige wissenschaftliche Anleitung für die globale KI-Governance zu liefern, stellte fest, dass die Technologie nun schneller evolviert als die Evidenzbasis, die Regulierungsbehörden zum Handeln benötigen. Der Bericht bringt Regierungen in eine Zwickmühle: Solide Regulierung erfordert empirische Evidenz, aber KI-Fähigkeiten schreiten so rasant voran, dass Evidenz langsamer akkumuliert, als die Technologie sich bewegt.

Die Warnung in einfachen Worten

Yoshua Bengio, der mit dem Turing-Preis ausgezeichnete KI-Forscher, der das Gremium mitvorsitzt, war direkt: „KI-Fähigkeiten überholen sowohl das wissenschaftliche Verständnis als auch die Anpassungsfähigkeit von Regierungen.“ Der Bericht des Gremiums geht noch weiter und stellt fest, dass „die Wissenschaft derzeit nicht garantieren kann, dass KI mit zunehmenden Fähigkeiten keine katastrophalen Schäden verursacht.“

UN-Generalsekretär António Guterres formulierte die Risiken schlicht: „Die Welt kann nicht regieren, was sie nicht verstehen kann.“ Dieser Satz fasst das Kernproblem zusammen. Die internationale Governance von Atomwaffen, Chemikalien und Biosecurity stützte sich auf einen wissenschaftlichen Konsens, der der Regulierung vorausging oder sich parallel zu ihr entwickelte. Bei der KI bildet sich dieser Konsens noch, während die Technologie bereits im großen Maßstab eingesetzt wird.

Was „katastrophaler Schaden“ wirklich bedeutet

Das Gremium beschwört keine Science-Fiction. Der Bericht identifiziert konkrete Risikokategorien: Kontrollverlust über autonome Systeme, KI-Systeme, die täuschend handeln, um Ziele zu erreichen, großflächige Desinformationserzeugung, KI-gestützte Cyberangriffe auf kritische Infrastruktur und das Potenzial der KI, die Hürde für die Entwicklung biologischer Bedrohungen zu senken. Dies sind lösbare Ingenieurs- und Politikprobleme – aber nur, wenn Handeln der Krise vorausgeht.

Die Dringlichkeit wird durch die Geschwindigkeit der Fähigkeitssteigerungen unterstrichen. KI-Systeme zeigen nun Expertenlogik in Mathematik und Naturwissenschaften, und die Komplexität der Aufgaben, die KI bewältigen kann, verdoppelt sich Berichten zufolge alle vier bis sieben Monate. Bei diesem Tempo wird das, was sicher fern erscheint, innerhalb eines einzigen Politikzyklus zur nahen Zukunft.

Druck auf G7, G20 und Entwicklungsländer

Der Bericht des Gremiums gibt dem Druck auf internationale Körperschaften, Governance-Rahmenwerke zu beschleunigen, erhebliches Gewicht. Der EU AI Act – die derzeit umfassendste verbindliche KI-Regulierung – hat bereits eine globale Vorlage geschaffen, aber die Durchsetzung wird noch hochgefahren und deckt nur Produkte des EU-Marktes ab. Die G7- und G20-Staaten haben Grundsätze und freiwillige Verhaltenskodizes herausgegeben; keiner hat verbindliche Zähne.

Die Divergenz zwischen den großen KI-Mächten ist scharf. Die USA haben sich hin zu einer bedingungsbasierten Aufsicht statt kategorialer Verbote bewegt, wie man an jüngsten Entscheidungen sieht, Einsatzbeschränkungen für Frontier-Modelle aufzuheben. China hat nationale KI-Regulierungen, operiert aber außerhalb multilateraler Koordination. Die Mehrheit der Entwicklungsländer hat überhaupt keinen KI-Governance-Rahmen – und wird wahrscheinlich erheblich den Schäden ausgesetzt sein, die das UN-Gremium beschreibt.

Das Unabhängige Wissenschaftliche Gremium wurde genau dazu geschaffen, die Wissenslücke zu schließen, die der Bericht nun beschreibt. Es wird erwartet, dass seine vorläufigen Ergebnisse in UN-Prozesse einfließen und die Agenda auf den kommenden internationalen KI-Governance-Gipfeln prägen. Ob Regierungen auf die Wissenschaft handeln, bevor die Wissenschaft wieder überholt wird, ist, wie der Bericht impliziert, die zentrale Frage des Augenblicks, so ein Reuters-Bericht.