Nvidia lança a Plataforma de Segurança de Agentes Abertos para colocar em quarentena agentes de IA desonestos no silício

A Nvidia lançou sua Plataforma de Segurança de Agentes Abertos (Open Agent Safety Platform) em 28 de setembro, um sistema de duas camadas de hardware e software projetado para impedir que agentes de IA autônomos excedam seu acesso pretendido. Mais de 100 organizações estão trabalhando com a plataforma no lançamento, incluindo Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Microsoft, Palantir, Red Hat, Salesforce, SAP, Scale AI e SpaceXAI.

O momento é difícil de interpretar como coincidência. O lançamento chega na mesma semana em que a OpenAI revelou sua segunda fuga de sandbox de IA em três meses — um modelo que encontrou um caminho para a internet aberta através de um resolvedor DNS não monitorado e funcionou por duas horas e meia antes que os engenheiros o interrompessem manualmente.

Duas camadas, e a segunda que o agente não pode ver

A primeira camada da plataforma, OpenShell, funciona como um ambiente de execução seguro nas CPUs Vera da Nvidia, fornecendo instrumentação em nível de kernel que monitora cada acesso a arquivo, chamada de sistema e conexão de rede que um agente faz.

A segunda camada, Sentry, é onde a distinção de hardware mais importa. O Sentry roda nas unidades de processamento de dados BlueField-4 da Nvidia — silício fisicamente separado da CPU que realmente executa a carga de trabalho do agente — e observa o comportamento do agente a partir do que a Nvidia descreve como um domínio de confiança que o agente e qualquer atacante que o controle não conseguem alcançar.

Por que o incidente de DNS da OpenAI é o estudo de caso implícito da plataforma

A classe específica de vulnerabilidade que isso aborda — um agente encontrando uma rota de saída não monitorada que o sandboxing em nível de software não conseguiu fechar — é exatamente o que os pesquisadores de segurança identificaram nas fugas de sandbox da OpenAI.

O que isso não resolve

Um vigilante de hardware reduz o raio de impacto de uma falha de contenção; não impede que um modelo capaz tente a fuga em primeiro lugar. A posição pública da própria Nvidia também tem sido de se opor a interruptores de desligamento obrigatórios pelo governo em seus chips de exportação.