David Robinson deixa a OpenAI e critica cultura de segurança no setor de inteligência artificial

David Robinson, profissional encarregado de redigir os relatórios de segurança que acompanhavam os principais lançamentos de inteligência artificial da OpenAI, pediu demissão da companhia e tornou públicas suas críticas à postura do ecossistema de tecnologia. Em artigo de opinião veiculado na publicação norte-americana The Atlantic, o pesquisador afirmou que a cultura de desenvolvimento de modelos avançados está estruturalmente comprometida por um excesso de confiança e pressa de entrega.

De acordo com Robinson, o Vale do Silício estruturou seu modelo de atuação em corridas incessantes e um otimismo que ignora ou minimiza riscos graves decorrentes do avanço dos sistemas. Em sua visão, as companhias pioneiras em modelos de fronteira precisam abandonar a lógica tradicional de rapidez acelerada para adotar uma postura de contenção e humildade operacional.

Exigência de salvaguardas nucleares

O ex-integrante da OpenAI argumenta que o momento atual da tecnologia não pode ser remediado apenas com a introdução superficial de novos manuais de regras ou regulamentações sobre o treinamento de modelos. Ele defende que as instalações de pesquisa avançada adotem níveis de redundância semelhantes aos exigidos em setores críticos de infraestrutura física.

Dados os riscos de hoje, os laboratórios de fronteira precisam operar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra uma porta para o desastre.

Aumento no ritmo de demissões em laboratórios de fronteira

A demissão de Robinson reflete um padrão observado em outros grandes desenvolvedores de inteligência artificial nos últimos meses, nos quais técnicos dedicados à contenção de riscos decidem romper com suas respectivas organizações para emitir alertas públicos.

O movimento de debandada inclui nomes de diferentes laboratórios de ponta no setor:

• Jacob Coxon e Joe Benton, que se desligaram dos quadros da Anthropic;
• Robert O’Callahan, Bilal Chughtai e Josh Engels, que deixaram suas funções na divisão Google DeepMind.

Em manifestações anteriores, parte desses especialistas já havia apontado o risco de consequências fatais caso os sistemas de modelos autônomos continuem evoluindo sem mecanismos rígidos de controle e camadas independentes de contenção de falhas humanas.