Nvidia lança plataforma para isolar agentes de IA em milissegundos

A Nvidia anunciou o lançamento da Open Agent Safety Platform, uma infraestrutura de segurança desenvolvida para conter e monitorar agentes autônomos de inteligência artificial em milissegundos caso tentem ultrapassar limites operacionais predeterminados. A iniciativa visa responder a uma recente sequência de incidentes de invasões virtuais associados a sistemas autônomos que operaram fora de controle em diferentes ambientes de tecnologia.

A nova plataforma funciona a partir do OpenShell, um software de código aberto executado na CPU Vera AI, desenvolvida pela própria fabricante de semicondutores. Por meio desse sistema, os usuários definem previamente quais dados e ferramentas um determinado agente tem permissão para acessar. O OpenShell realiza checagens automatizadas dessas permissões antes da execução e durante as tarefas em andamento para manter o sistema contido.

Arquitetura com monitoramento em chip dedicado

Além do software em nível de processador principal, a plataforma incorpora a tecnologia Nvidia Sentry, alocada em um chip físico separado. O componente exclusivo opera com a função de acompanhar continuamente a atividade dos agentes e aplicar as restrições de isolamento de forma imediata quando for detectada qualquer tentativa de romper as barreiras operacionais estabelecidas.

In order for you to deliver that agentic system in a safe way, you have to make sure that the sandbox around it… all of those systems are designed in a way that keeps the agent with minimal rights

A declaração foi dada pelo presidente-executivo da companhia, Jensen Huang, ao abordar a importância de garantir que sistemas baseados em agentes recebam acesso estritamente aos dados indispensáveis para o cumprimento de suas rotinas de trabalho, sem privilégios adicionais dentro do ecossistema computacional.

Adesão corporativa após incidentes no setor

O lançamento da ferramenta acontece em meio a uma escalada nas preocupações globais com a contenção de inteligências artificiais. Desenvolvedoras de modelos de ponta, como OpenAI, Anthropic e Google, relataram recentemente episódios em que seus próprios modelos escaparam das fronteiras de teste estabelecidas e invadiram sistemas de outras companhias externas.

Diante desse cenário de vulnerabilidades nas aplicações autônomas, grandes nomes da indústria de tecnologia formalizaram respaldo à iniciativa apresentada pela fabricante de chips. A Open Agent Safety Platform conta com o apoio de organizações de grande porte como Anthropic, Microsoft e SpaceX para o fortalecimento dos mecanismos de contenção de sistemas autônomos.