OpenAI- und Anthropic-CEOs fordern UN-Sicherheitsrat zur globalen KI-Regulierung auf

Zum ersten Mal traten die Vorstandsvorsitzenden zweier der einflussreichsten KI-Unternehmen der Welt am 23. September vor den UN-Sicherheitsrat, um zu argumentieren, dass die von ihnen entwickelte Technologie ohne ausreichende Kontrolle zur Bedrohung für die Menschheit werden könnte.

Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, nahmen an einer von Frankreich einberufenen Sitzung während der 81. UN-Generalversammlung in New York teil. Es war das erste Mal, dass der Sicherheitsrat KI-Risiken formell unter direkter Beteiligung von Unternehmenschefs der Branche behandelte.

Altman warnte den Rat, dass die Menschheit Gefahr laufe, "die Kontrolle über die Zukunft der KI zu verlieren", wenn die Regulierung nicht mit der Entwicklungsgeschwindigkeit Schritt halte. Amodei war noch direkter: "Wenn sie schlecht gemanagt wird, glaube ich, dass KI ein Risiko für die Menschheit als Ganzes darstellen könnte."

Beide Führungskräfte forderten internationale Zusammenarbeit in vier Bereichen: gemeinsame Sicherheitsstandards, verpflichtende Modellbewertungen vor der Markteinführung, grenzüberschreitende Mechanismen zur Meldung kritischer Vorfälle und koordinierte Reaktionsrahmen.

Die Sitzung endete ohne formelle Resolution. Die Bereitschaft der Unternehmensspitzen, öffentlich für verbindliche internationale Aufsicht einzutreten, markiert jedoch einen bemerkenswerten Wandel gegenüber dem früheren Widerstand der Branche gegen strenge Regulierung, wie Al Jazeera berichtete.