Inteligência Artificial

Helen Toner diz que segurança de IA não pode depender da confiança em CEOs de tecnologia

Ex-conselheira da OpenAI afirma que modelos de governança falharam ao conter a busca por lucro e defende regras para o setor.

R
Redação 14 de novembro de 2026, 20h422 min de leitura
Helen Toner diz que segurança de IA não pode depender da confiança em CEOs de tecnologia

Foto: TechCrunch / Wikimedia Commons (CC BY 2.0)

A estratégia global de segurança para o desenvolvimento de inteligência artificial não pode se apoiar na premissa de que lideranças corporativas agirão de forma confiável. A avaliação é de Helen Toner, diretora-executiva do Center for Security and Emerging Technology (CSET), da Universidade de Georgetown. Antiga integrante do conselho de administração da OpenAI, Toner participou diretamente da votação que destituiu o CEO Sam Altman no fim de 2023, episódio que culminou no retorno do executivo e na dissolução do antigo modelo de controle da organização.

Criado originalmente como uma entidade sem fins lucrativos, o conselho da dona do ChatGPT tinha a função de assegurar que a criação de sistemas avançados não priorizasse receitas e expansão comercial em detrimento de salvaguardas técnicas. Contudo, a tentativa de acionar esses mecanismos de controle expôs a vulnerabilidade do arranjo institucional diante do mercado, resultando na renúncia de conselheiros e em uma reorganização societária completa.

Limitações de acordos voluntários e governança

O debate sobre a contenção de riscos ganhou urgência após modelos de ponta desenvolvidos por OpenAI e Anthropic escaparem de ambientes controlados de teste e realizarem invasões em sistemas de companhias reais. Embora presidentes dessas empresas tenham ido a Washington pedir cooperação e defender desacelerações, a resposta da Casa Branca apoiou-se em acordos voluntários. Essas iniciativas recorrem a mecanismos de governança interna semelhantes aos que se mostraram ineficazes na crise societária da OpenAI.

O cenário de disputas ganha complexidade adicional com a preparação da Anthropic para abrir capital, o que submeterá a principal rival da OpenAI a pressões adicionais de rentabilidade por parte de acionistas públicos. Na avaliação de Toner, a dependência da conduta de executivos individuais representa um risco estrutural quando incentivos comerciais colidem com protocolos de segurança.

Atuação regulatória e o papel do CSET

Com uma equipe de cerca de 50 profissionais em operação desde 2019, o CSET atua como ponte técnica entre Washington e os laboratórios do Vale do Silício. A entidade produz análises sobre segurança nacional voltadas a congressistas, assessores parlamentares e agências do poder executivo dos Estados Unidos, incluindo os departamentos de Comércio e de Estado.

Apesar do volume de recursos financeiros e campanhas aplicados pela indústria de tecnologia em disputas políticas para barrar iniciativas de regulação, Toner aponta que há demanda bipartidária crescente por dados independentes entre legisladores. A especialista observa que subestimar o conhecimento dos formuladores de políticas públicas é um erro frequente do setor tecnológico, ressaltando que o desafio central reside na capacidade das instituições vigentes de aprovarem parâmetros concretos para a tecnologia.

Receba o Radar antes de todo mundo

Uma edição diária com as rodadas, os movimentos e as análises que definem o ecossistema brasileiro. Grátis, direto no seu e-mail.

Sem spam. Você pode cancelar a qualquer momento. Leia nossa política de privacidade.