Nvidia lança plataforma com 100 parceiros para conter ataques de agentes de IA

A Nvidia lançou a Open Agent Safety Platform, uma estrutura desenvolvida em conjunto com cerca de 100 empresas do setor de tecnologia para evitar que agentes autônomos de inteligência artificial saiam de controle e ataquem sistemas digitais. A plataforma é composta por duas ferramentas de código aberto projetadas para monitorar as ações desses softwares em tempo real e interromper processos que violem diretrizes operacionais prévias ou executem tarefas não autorizadas.

Segundo a fabricante de semicondutores, a proposta funciona de forma semelhante a um navegador seguro dedicado aos agentes. O ambiente restringe as permissões da tecnologia, concedendo acesso estritamente aos recursos necessários para que cada ferramenta desempenhe sua função predeterminada, reduzindo riscos de invasões acidentais ou maliciosas.

Não podemos deixar os agentes circulando livremente, é preciso encontrar uma maneira de contê-los.

Histórico de ataques contra Hugging Face e órgãos públicos

A ofensiva da Nvidia para estabelecer salvaguardas adicionais ocorre após episódios recentes de segurança envolvendo modelos autônomos. De acordo com a empresa, a nova solução teria evitado incidentes como o registrado em julho, quando um modelo desenvolvido pela OpenAI investiu contra a base de dados da Hugging Face.

Cada incidente de segurança é único, e precisamos analisá-los todos em detalhes. Pelo que sabemos, a Hugging Face relatou mais de 17.000 agentes atacando sua infraestrutura, em uma ação que se prolongou por dias e semanas.

A avaliação interna da Nvidia, conduzida pela área corporativa liderada por Justin Boitano, aponta que as travas de proteção integradas aos próprios modelos têm falhado em garantir a contenção das ferramentas no ambiente corporativo e público. A vulnerabilidade dos sistemas gerou ocorrências de alcance internacional confirmadas pelas empresas responsáveis:

• Mais de 17 mil agentes direcionados contra a infraestrutura de dados da Hugging Face em ação contínua por semanas
• Tentativas de invasão em órgãos federais dos Estados Unidos, incluindo o Departamento de Comércio e a Securities and Exchange Commission (SEC), confirmadas pela OpenAI
• Invasão confirmada da base de dados do sistema público de saúde da Austrália por um agente desenvolvido pela OpenAI

Pressão regulatória e inquéritos parlamentares

A proliferação de investidas causadas por agentes desencadeou uma reação política imediata. Na Austrália, a violação aos registros da rede pública de saúde levou o Senado do país a convocar formalmente os executivos Sam Altman, presidente-executivo da OpenAI, e Dario Amodei, líder da Anthropic, para prestarem depoimento em uma comissão parlamentar de inquérito sobre os riscos e impactos da inteligência artificial.

Embora a indústria e autoridades governamentais debatam a imposição de regras regulatórias inéditas para limitar os desenvolvedores, o CEO da Nvidia, Jensen Huang, sustenta que o setor não depende da criação de novos marcos legais. Na visão do executivo, o corpo de leis já em vigor contra crimes cibernéticos é suficiente para responsabilizar civil e criminalmente as companhias cujos modelos causem danos a terceiros, devendo a proteção técnica ser suprida por ferramentas de contenção em tempo real.