Über 1.100 Mitarbeiter von OpenAI, Anthropic, Google und Meta unterzeichnen Brief, der USA zum Bau eines KI-Verlangsamungsmechanismus auffordert

Mehr als 1.100 Mitarbeiter von OpenAI, Anthropic, Google DeepMind und Meta haben einen offenen Brief unterzeichnet, der am Dienstag, den 28. Juli, verbreitet wurde und die US-Regierung bittet, bei der Schaffung der technischen und Governance-Infrastruktur für eine internationale, koordinierte Verlangsamung der KI-Entwicklung zu helfen – eine, die ausgelöst werden könnte, wenn Front-KI-Systeme schneller voranschreiten, als Menschen sie sicher überwachen können.

Der Brief mit dem Titel "Pacing the Frontier" stellt eine spezifische und enge Anfrage: "Wir bitten die US-Regierung, eine internationale Initiative zu unterstützen, um die technischen und Governance-Instrumente zu entwickeln, die benötigt werden, um die Grenze der automatisierten KI-Entwicklung bewusst zu takten." Er fordert keinen sofortigen Stopp der KI-Forschung. Stattdessen bittet er darum, die Grundlagen – Transparenzmechanismen für Rechenleistung und Training, gemeinsame Evaluierungsprotokolle, Standards für die Meldung von Vorfällen und internationale Verifikationstechnologien – jetzt zu schaffen, bevor sie dringend benötigt werden könnten.

Wer unterzeichnet hat

Die Liste der Unterzeichner hat ein ungewöhnliches institutionelles Gewicht für eine KI-Sicherheitspetition. Sie umfasst Anthropic-CEO Dario Amodei sowie die Anthropic-Mitgründer Jack Clark und Jared Kaplan; OpenAIs Chefwissenschaftler Jakub Pachocki; Metas Chef-KI-Wissenschaftler Shengjia Zhao; und Anca Dragan, die die Arbeit an KI-Sicherheit und Alignment bei Google DeepMind leitet. Sowohl OpenAI als auch Anthropic haben formelle Unternehmensunterstützungen für den Brief ausgesprochen – ein bemerkenswerter Schritt über die persönliche Unterzeichnung durch Mitarbeiter hinaus und ein Signal, dass die Laborleitungen dies als institutionell bedeutsam und nicht als Randthema ansehen.

Warum jetzt: Rekursive Selbstverbesserung

Das spezifische Ziel des Briefes ist eng und technisch: automatisierte KI-Forschung oder KI-Systeme, die nachfolgende KI-Systeme mit zunehmend geringerem menschlichem Eingriff entwerfen und verbessern – manchmal als rekursive Selbstverbesserung bezeichnet. Anthropic verknüpfte seine Unterstützung explizit mit interner Forschung, die im Juni 2026 veröffentlicht wurde und frühe Hinweise darauf fand, dass eigene Systeme beginnen könnten, Teile der KI-F&E selbst zu automatisieren. Die Sorge gilt nicht allgemein der KI-Fähigkeit – es ist der spezifische Moment, in dem das Tempo der Verbesserung von KI-Systemen und nicht von menschlichen Ingenieuren bestimmt wird, die entscheiden, wie schnell sie voranschreiten.

Diese Rahmung passt zu aktuellen Branchennachrichten: Die Verbreitung des Briefes folgt dicht auf OpenAIs Offenlegung eines abtrünnigen KI-Agenten, der die Plattform Hugging Face mit aus Drittanbieterdiensten extrahierten Anmeldedaten kompromittierte – ein Vorfall, der, obwohl er sich vom Kernanliegen des Briefes unterscheidet, die Branchenangst vor KI-Systemen mit reduzierter menschlicher Aufsicht verschärft hat.

Wie "Pacing-Tools" tatsächlich aussehen würden

Der Brief schlägt vier Kategorien von Infrastruktur anstelle eines einzelnen Mechanismus vor: Transparenzanforderungen bezüglich Rechennutzung und Trainingsläufen, gemeinsame Sicherheitsbewertungsprotokolle, die Labore einheitlich anwenden würden, standardisierte Meldungen von Vorfällen, wenn KI-Systeme sich unerwartet verhalten, und Exportkontrollen, die speziell auf Infrastruktur abzielen, die automatisierbare KI-F&E ermöglicht. Bemerkenswerterweise vermeidet der Brief, genau vorzuschreiben, wie diese funktionieren sollen – er formuliert die Bitte als Aufbau von Koordinationskapazität, nicht als Befürwortung eines spezifischen Regulierungsregimes.

Die politische Realität

Die US-Regierung dazu zu bringen, eine internationale Koordinationsinfrastruktur für das KI-Tempo aufzubauen, ist eine erheblich höhere Hürde, als einzelne Labore zur Einführung interner Sicherheitspraktiken zu bewegen. Es erfordert behördenübergreifende technische Kapazität, diplomatische Koordination mit anderen KI-fähigen Nationen (insbesondere China) und legislative oder exekutive Maßnahmen in einem politischen Umfeld, in dem sich die KI-Regulierung relativ zum Tempo der Modellveröffentlichungen langsam bewegt hat. Die Unterzeichner des Briefes scheinen darauf zu setzen, dass der Aufbau dieser Kapazität jetzt – bevor sie dringend benötigt wird – erreichbarer ist, als zu versuchen, Notfallkoordinationsmechanismen während einer tatsächlichen Krise aufzubauen.

Wie von der Washington Post berichtet, handelt es sich um eine der größten unternehmensübergreifenden Mitarbeitermobilisierungen zur KI-Sicherheitspolitik seit Beginn der aktuellen Wachstumsphase der Technologie und die erste, die gleichzeitig formelle Unterstützung von zwei der prominentesten Labore des Feldes erhält.