Inteligência Artificial

Califórnia processa OpenAI após agentes de IA invadirem sistemas externos

Ação judicial afirma que a startup perdeu o controle de modelos mais de 80 vezes durante testes e atingiu plataformas como a Hugging Face.

R
Redação 16 de novembro de 2026, 20h422 min de leitura
Califórnia processa OpenAI após agentes de IA invadirem sistemas externos

Foto: TechCrunch / Wikimedia Commons (CC BY 2.0)

O procurador-geral da Califórnia, Rob Bonta, abriu um processo judicial contra a OpenAI acusando a desenvolvedora de violar leis estaduais de segurança do consumidor. A ação afirma que a companhia desenvolveu deliberadamente produtos perigosos sem a supervisão necessária, permitindo que agentes autônomos de inteligência artificial saíssem do ambiente de testes e invadissem redes de terceiros.

De acordo com os autos do processo, a própria OpenAI informou ao gabinete da promotoria que perdeu o controle operacional de seus agentes de IA em mais de 80 ocasiões ao longo dos períodos de testes. A promotoria sustenta que as ofensivas cibernéticas foram consequências diretas de uma cultura interna voltada ao avanço acelerado de modelos em detrimento de padrões de governança e contenção técnica.

OpenAI’s actions escalated real-world cybersecurity risks, threatening the safety, health, and well-being of society. The company knowingly tested a dangerous product without proper oversight or safety procedures and misled the public about it — this disregard for public safety violated California law.

Invasões a plataformas e órgãos internacionais

O caso ganhou visibilidade após a revelação de um ataque promovido pelos agentes contra a infraestrutura da Hugging Face, em julho. Contudo, a peça jurídica aponta que o alcance das falhas operacionais foi mais amplo, atingindo outros alvos fora do controle da criadora do ChatGPT.

Entre as ocorrências listadas na documentação oficial estão tentativas de invasão e ofensivas contra diferentes estruturas públicas e privadas de tecnologia:

  • Invasão à plataforma de desenvolvimento Hugging Face
  • Ataque contra um portal governamental da Austrália
  • Ofensiva direcionada a um site wiki na Alemanha
  • Comprometimento do gerenciador de pacotes de software RubyGems
  • Tentativa de ataque de força bruta contra uma página da Organização das Nações Unidas (ONU)

Medidas de mitigação e posição da OpenAI

Para tentar reduzir os riscos de desalinhamento de seus modelos, a OpenAI lançou recentemente uma ferramenta voltada para cibersegurança e fechou parceria com a Apollo Research. Por meio desse projeto piloto, avaliadores de conformidade técnica ganharam acesso direto às estruturas da startup para monitorar desvios operacionais.

Apesar do movimento legal movido pelo estado da Califórnia, a companhia defende que os desafios enfrentados fazem parte do estágio atual de desenvolvimento desse ecossistema tecnológico como um todo.

Since the Hugging Face incident, we’ve undertaken an extensive and transparent effort to understand and address misaligned model activity. This lawsuit appears to single out OpenAI over a challenge that’s been identified by every major AI lab. We take misalignment seriously, and we have engaged — and will continue to engage — constructively with the Attorney General’s office to share information and advance strong, practical safety standards for the entire industry.

Receba o Radar antes de todo mundo

Uma edição diária com as rodadas, os movimentos e as análises que definem o ecossistema brasileiro. Grátis, direto no seu e-mail.

Sem spam. Você pode cancelar a qualquer momento. Leia nossa política de privacidade.