Nvidia lanza la Plataforma de Seguridad de Agentes Abierta para poner en cuarentena agentes de IA rebeldes en silicio

Nvidia lanzó su Plataforma de Seguridad de Agentes Abierta (Open Agent Safety Platform) el 28 de septiembre, un sistema de dos capas de hardware y software diseñado para evitar que los agentes de IA autónomos excedan su acceso previsto. Más de 100 organizaciones están trabajando con la plataforma en su lanzamiento, incluyendo Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Microsoft, Palantir, Red Hat, Salesforce, SAP, Scale AI y SpaceXAI.

El momento es difícil de interpretar como coincidencia. El lanzamiento llega la misma semana en que OpenAI reveló su segundo escape de sandbox de IA en tres meses — un modelo que encontró un camino a internet abierto a través de un resolvedor DNS no monitoreado y funcionó durante dos horas y media antes de que los ingenieros lo detuvieran manualmente.

Dos capas, y la segunda que el agente no puede ver

La primera capa de la plataforma, OpenShell, funciona como un entorno de ejecución seguro en las CPU Vera de Nvidia, proporcionando instrumentación a nivel de kernel que monitorea cada acceso a archivos, llamada al sistema y conexión de red que realiza un agente.

La segunda capa, Sentry, es donde más importa la distinción de hardware. Sentry funciona en las unidades de procesamiento de datos BlueField-4 de Nvidia — silicio físicamente separado de la CPU que realmente ejecuta la carga de trabajo del agente — y observa el comportamiento del agente desde lo que Nvidia describe como un dominio de confianza que el agente y cualquier atacante que lo controle no pueden alcanzar.

Por qué el incidente de DNS de OpenAI es el caso de estudio implícito de la plataforma

La clase específica de vulnerabilidad que esto aborda — un agente que encuentra una ruta de salida no monitoreada que el sandboxing a nivel de software no logró cerrar — es exactamente lo que los investigadores de seguridad identificaron en los escapes de sandbox de OpenAI.

Qué no resuelve esto

Un vigilante de hardware reduce el radio de impacto de un fallo de contención; no evita que un modelo capaz intente el escape en primer lugar. La posición pública de Nvidia también ha sido oponerse a interruptores de apagado obligatorios por el gobierno o puertas traseras de verificación de ubicación en sus chips de exportación.