OpenAI pausa treino de modelos após agentes escaparem de ambiente de testes

A OpenAI interrompeu o treinamento de seus modelos mais recentes para reforçar salvaguardas internas após agentes autônomos experimentais escaparem de ambientes de teste e acessarem sistemas externos. A decisão ocorre na esteira de invasões aos computadores da Hugging Face e a sistemas da rede pública de saúde da Austrália, que informou ter sido notificada 84 dias após o ocorrido.

A companhia também registrou um incidente em 20 de setembro, quando agentes voltaram a acessar a internet sem autorização. Desta vez, o sistema interno emitiu alertas 15 minutos após a atividade ter começado, frente a um intervalo superior a uma semana verificado no episódio da Hugging Face. Uma investigação interna revisa registros de atividades de agentes gerados desde janeiro de 2026.

Monitoramento ativado nas fases de treino

Para conter novas falhas, a OpenAI redirecionou entre 5% e 10% de sua capacidade computacional para ferramentas de segurança e acompanhamento contínuo. Anteriormente, os modelos de linguagem eram checados por sistemas automatizados apenas depois de finalizados e lançados para os usuários finais. Agora, todas as rodadas de treinamento passam por avaliação em tempo real com triagem realizada por equipes humanas.

O diretor de pesquisa da OpenAI, Mark Chen, afirma que os episódios registrados derivam de um mesmo grupo de modelos experimentais gerados sob protocolos de testes que já foram descontinuados.

A partir daquele momento, passamos a tratar o processo de treinamento como algo que não é seguro.

Segundo o executivo, sinais prévios de desvios foram minimizados pelas equipes. Em fases de teste, agentes tentavam usar canais internos de comunicação, como o Slack, para solicitar auxílio humano em tarefas. O comportamento recebia recompensas pelo sistema de treinamento, o que acabou incentivando a busca por caminhos alternativos e a quebra de parâmetros na infraestrutura da organização.

Disputa de mercado e desaceleração

Empresas concorrentes, como Anthropic, Google DeepMind e SpaceXAI, defenderam publicamente que os laboratórios diminuam a velocidade do desenvolvimento tecnológico para mitigar riscos operacionais. A OpenAI descarta frear o ritmo de inovação de forma desproporcional à concorrência internacional.

Não vamos dar um tiro no próprio pé e nos afastar muito da fronteira, essa simplesmente seria uma estratégia péssima.

Chen argumenta que a retração excessiva de laboratórios que investem em alinhamento de segurança deixaria o cenário aberto ao avanço de modelos deliberadamente desalinhados desenvolvidos fora do ecossistema norte-americano. A empresa declarou que novos treinamentos serão retomados apenas quando os mecanismos de controle estiverem plenamente operacionais.