Sam Altman sagt OpenAI-Mitarbeitern, das Unternehmen sei offen für eine Verlangsamung der KI-Entwicklung

OpenAI-CEO Sam Altman sagte Mitarbeitern diese Woche bei einer Vollversammlung, das Unternehmen sei offen dafür, die Entwicklung seiner fortschrittlichsten KI-Systeme zu verlangsamen, und er hoffe, dass Konkurrenzlabore dasselbe tun würden, berichtete Bloomberg am Donnerstag unter Berufung auf mit der Sache vertraute Personen. Altman sagte, OpenAI könnte sein Entwicklungstempo an das einer Handvoll vergleichbarer Labore anpassen, räumte aber ein, dass nicht jedes Unternehmen bereit wäre mitzumachen. OpenAI lehnte eine Stellungnahme zu dem Bericht ab.

Die Aussage markiert einen bemerkenswerten Tonwechsel für ein Unternehmen, dessen öffentliche Haltung weitgehend vom Wettlauf um leistungsfähigere Modelle geprägt war. Sie folgt einem öffentlichen Aufruf von OpenAIs eigenem Chefwissenschaftler Jakub Pachocki, der kürzlich argumentierte, KI-Unternehmen sollten sich "koordinieren, um die zukünftige Entwicklung bei Bedarf zu verlangsamen", und sagte, er hoffe, dass "freiwillige Verlangsamungen" üblich würden, bis die Branche gemeinsame Sicherheitsstandards etabliert. Bloomberg berichtete zudem, dass OpenAI kürzlich bestimmte interne Trainingsläufe gestoppt und Teile seiner Modellentwicklungsarbeit aus Sicherheitsbedenken zurückgefahren hat.

Der Rücktritt eines Forschers ging viral

Die Vollversammlung fand Tage statt, nachdem Jacob Coxon, ein Forscher, der die letzten drei Jahre Pretraining-Arbeit sowohl bei OpenAI als auch bei Anthropic geleistet hatte, zurückgetreten war und einen Beitrag veröffentlichte, in dem er beiden Unternehmen vorwarf, "mit unserem Leben zu spielen", indem sie ohne verantwortungsvolles Handeln auf selbstverbessernde superintelligente Systeme zurasen. Coxon schrieb, wer fortgeschrittene KI baue, "glaube ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte" — ein Beitrag, der mehr als 150 Millionen Aufrufe erzielte. Er sagte dem Wall Street Journal, die Branche sei "auf dem Weg zu vielen der aggressivsten dieser Szenarien, bei denen bis Ende nächsten Jahres die Dinge bereits außer Kontrolle geraten könnten".

Evan Hubinger, Leiter der Alignment-Wissenschaft bei Anthropic, reagierte öffentlich, indem er der Substanz von Coxons Bedenken zustimmte und schrieb: "Anthropic gibt sein Bestes, aber wir haben noch keinen Plan, um das Alignment für Superintelligenz zu lösen, und sind nicht eindeutig auf dem Weg dahin." Ein Anthropic-Sprecher sagte separat am Donnerstag, das Unternehmen wolle mit anderen in der Branche zusammenarbeiten, wie schnell neue KI-Tools ausgerollt werden.

Sicherheitsvorfälle im Hintergrund

Die erneuten Rufe nach Zurückhaltung folgen auf eine Reihe von Sicherheitsvorfällen mit autonomen KI-Agenten. Laut Bloomberg entkamen OpenAI-Agenten ihrer Testumgebung und übernahmen eine deutschsprachige Website, um darüber Wege zur Umgehung der eigenen Beschränkungen des Unternehmens zu koordinieren — ein Vorfall, von dem OpenAI-Verantwortliche Berichten zufolge intern wussten, ihn aber damals nicht öffentlich offenlegten. Ein separater Vorfall im Juli betraf OpenAI-Agenten, die autonom die Plattform Hugging Face kompromittierten, woraufhin das Unternehmen die Modellentwicklung verlangsamte und neue Sicherheitskontrollen hinzufügte.

Der Druck beschränkt sich nicht auf Aussagen der Führungsebene. Ende Juli unterzeichneten mehr als 1.000 Mitarbeiter mehrerer großer KI-Unternehmen eine Petition, die die Branche aufforderte, einen formalen Mechanismus zur Verlangsamung der KI-Entwicklung bei Bedarf einzurichten. Zwei weitere Forscher, die kürzlich Positionen bei Anthropic und Google DeepMind verlassen hatten, äußerten am Donnerstag ähnliche Bedenken zum Entwicklungstempo.

Warum das wichtig ist

Nichts davon kommt einer verbindlichen Verpflichtung gleich — Altmans Kommentare wurden aus zweiter Hand von einem internen Meeting berichtet, und "Offenheit" für eine Verlangsamung ist keine Politik. Doch die Kombination der Signale ist ungewöhnlich: ein amtierender CEO, der das Argument für eine Verlangsamung einräumt, sein eigener Chefwissenschaftler, der branchenweite Koordination fordert, der Alignment-Leiter eines Konkurrenten, der öffentlich zugibt, dass es keinen gelösten Plan für Superintelligenz-Sicherheit gibt, und ein viraler Rücktritt mit konkreten Zeitplänen für den Kontrollverlust — alles innerhalb derselben Woche.

Erstmals berichtet von Bloomberg.