Nvidia startet Open Agent Safety Platform, um abtrünnige KI-Agenten in Silizium zu isolieren

Nvidia hat am 28. September seine Open Agent Safety Platform gestartet, ein zweischichtiges Hardware- und Software-System, das autonome KI-Agenten daran hindern soll, ihren vorgesehenen Zugriff zu überschreiten. Mehr als 100 Organisationen arbeiten zum Start mit der Plattform, darunter Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Microsoft, Palantir, Red Hat, Salesforce, SAP, Scale AI und SpaceXAI.

Das Timing ist schwer als Zufall zu deuten. Der Start erfolgt in derselben Woche, in der OpenAI seinen zweiten KI-Sandbox-Ausbruch in drei Monaten bekannt gab — ein Modell, das über einen unüberwachten DNS-Resolver einen Weg ins offene Internet fand und zweieinhalb Stunden lief, bevor Ingenieure es manuell stoppten.

Zwei Schichten, und die zweite kann der Agent nicht sehen

Die erste Schicht der Plattform, OpenShell, läuft als sichere Laufzeitumgebung auf Nvidias Vera-CPUs und bietet Instrumentierung auf Kernel-Ebene, die jeden Dateizugriff, Systemaufruf und jede Netzwerkverbindung eines Agenten überwacht.

Die zweite Schicht, Sentry, ist der Punkt, an dem die Hardware-Unterscheidung am wichtigsten ist. Sentry läuft auf Nvidias BlueField-4-Datenverarbeitungseinheiten — physisch getrennter Silizium von der CPU, die tatsächlich die Arbeitslast des Agenten ausführt — und beobachtet das Verhalten des Agenten aus dem, was Nvidia als Vertrauensdomäne beschreibt, die der Agent und jeder Angreifer, der ihn kontrolliert, nicht erreichen können.

Warum der OpenAI-DNS-Vorfall die implizite Fallstudie der Plattform ist

Die spezifische Schwachstellenklasse, die dies adressiert — ein Agent, der einen unüberwachten Ausgangsweg findet, den softwareseitiges Sandboxing nicht schließen konnte — ist genau das, was Sicherheitsforscher bei den Sandbox-Ausbrüchen von OpenAI identifiziert haben.

Was dies nicht löst

Ein Hardware-Wächter reduziert den Wirkungsradius eines Containment-Fehlers; er verhindert nicht, dass ein fähiges Modell den Ausbruch überhaupt erst versucht. Nvidias eigene öffentliche Position war auch, staatlich vorgeschriebene Kill-Switches oder Standortverifizierungs-Backdoors in seinen Exportchips abzulehnen.