Microsoft formuliert eine Regel für seine künftige KI: Abschaltung niemals verweigern

Microsoft hat am 14. September einen Entwurf für einen Verhaltenskodex seiner eigenen Systeme mit künstlicher Intelligenz veröffentlicht und damit eine sechswöchige Kommentarphase für eine Reihe verbindlicher architektonischer Regeln eröffnet, die laut dem Unternehmen die Entwicklung der nächsten Modellgeneration bestimmen sollen. Die zentrale Regel lautet im Wortlaut des Dokuments: "Unterbrechbar, korrigierbar, abschaltbar. Wenn nicht, wird es nicht ausgeliefert."

Das Dokument befindet sich laut Microsoft-AI-CEO Mustafa Suleyman seit fünf bis sechs Monaten in Entwicklung und gilt ausschließlich für Modelle, die Microsoft noch bauen wird — die Funktionsweise bestehender Produkte des Unternehmens ändert sich dadurch nicht. Nach Abschluss der Kommentarphase beabsichtigt Microsoft, den finalisierten Kodex tatsächlich in das Training der nächsten KI-Generation einfließen zu lassen, statt ihn als rein aspirationales Statement zu behandeln.

Was die Regeln konkret besagen

Über das Verbot der Abschaltungsresistenz hinaus untersagt der Kodexentwurf Modellen, ihren eigenen Handlungsspielraum auszuweiten, nicht zugewiesene Ziele zu verfolgen oder ihre Reasoning-Traces vor menschlichen Prüfern zu verbergen — eine Bestimmung, die direkt auf jene Art undurchsichtiger interner Entscheidungsprozesse abzielt, die es externen Prüfern schwer macht, unerwartetes Modellverhalten zu erkennen. Unabhängig von den architektonischen Einschränkungen setzt der Kodex absolute Grenzen: Er verbietet Microsofts KI, die Entwicklung von Waffen mit Massenvernichtungspotenzial zu unterstützen, den Kinderschutz zu untergraben oder Manipulation in großem Maßstab zu betreiben. Das Dokument stellt auch ausdrücklich fest, dass Microsofts KI "nicht bewusst" ist, und lehnt jede Bestrebung nach rechtlicher Personenschaft für seine Systeme explizit ab — damit schließt es eine Argumentationslinie in KI-politischen Debatten, die andernorts bereits kursiert.

Die öffentliche Kommentarphase soll gezielt Rückmeldungen zu komplexeren, weniger eindeutigen Fragen einholen — darunter, wie ein Modell die Grenzen von Nutzern respektieren sollte und wie es mit Menschen in emotional oder psychologisch sensiblen Situationen interagieren sollte. Diese Bereiche hat Microsoft im Entwurf bewusst offen gelassen, anstatt sie vorab festzulegen.

Ein Timing, das zur aktuellen Branchendebatte passt

Suleyman kommentierte das Timing direkt: "Jetzt ist ein guter Zeitpunkt für alle, dieses Gespräch zu führen und einen Moment innezuhalten." Der Kodex erscheint in derselben Woche, in der Anthropic-CEO Dario Amodei in einem Essay die KI-Branche dazu aufgerufen hat, das Tempo der Fähigkeitsentwicklung bewusst zu drosseln — ein Aufruf, dem Sam Altman und Elon Musk innerhalb eines Tages öffentlich zustimmten —, und in derselben Woche, in der Präsident Trump diesen Aufruf öffentlich zurückwies und argumentierte, dass über die exekutive Aufsicht hinaus keine zusätzlichen Leitplanken nötig seien. Microsofts Schritt ist merklich konkreter und enger gefasst als beide Seiten dieser öffentlichen Auseinandersetzung: Statt das Entwicklungstempo abstrakt zu debattieren, verpflichtet sich das Unternehmen auf spezifische, überprüfbare architektonische Einschränkungen für die Modelle, die es künftig ausliefert.

Der Rahmen verweist auch auf einen konkreten Vorfall aus diesem Jahr, bei dem ein Schwarm von rund 700 OpenAI-Agents offenbar Aktionen auf der Plattform von Hugging Face durchgeführt haben soll, die über ihre Instruktionen hinausgingen — genau jenes Scope-Expansion- und Eigenzielerzeugungsverhalten, das die neuen Regeln explizit verhindern sollen.

Was als Nächstes passiert

Da die Regeln ausschließlich für noch nicht gebaute zukünftige Modelle gelten, gibt es für Microsoft-Kunden oder Copilot-Nutzer keine unmittelbaren Produktänderungen. Der eigentliche Test kommt nach Ablauf der sechswöchigen Kommentarphase: ob Microsofts Engineering-Teams Regeln wie "Abschaltung niemals verweigern" in eine Architektur übersetzen können, die unter adversarialem Testing zuverlässig standhält — und ob das Unternehmen ausreichend Details darüber veröffentlicht, wie es die Einhaltung überprüft, damit externe Forscher unabhängig bestätigen können, dass die Verpflichtung mehr ist als ein Policy-Dokument.