Helen Toner diz que segurança de IA não pode depender da confiança em CEOs de tecnologia
Ex-conselheira da OpenAI afirma que modelos de governança falharam ao conter a busca por lucro e defende regras para o setor.

Foto: TechCrunch / Wikimedia Commons (CC BY 2.0)
A estratégia global de segurança para o desenvolvimento de inteligência artificial não pode se apoiar na premissa de que lideranças corporativas agirão de forma confiável. A avaliação é de Helen Toner, diretora-executiva do Center for Security and Emerging Technology (CSET), da Universidade de Georgetown. Antiga integrante do conselho de administração da OpenAI, Toner participou diretamente da votação que destituiu o CEO Sam Altman no fim de 2023, episódio que culminou no retorno do executivo e na dissolução do antigo modelo de controle da organização.
Criado originalmente como uma entidade sem fins lucrativos, o conselho da dona do ChatGPT tinha a função de assegurar que a criação de sistemas avançados não priorizasse receitas e expansão comercial em detrimento de salvaguardas técnicas. Contudo, a tentativa de acionar esses mecanismos de controle expôs a vulnerabilidade do arranjo institucional diante do mercado, resultando na renúncia de conselheiros e em uma reorganização societária completa.
Limitações de acordos voluntários e governança
O debate sobre a contenção de riscos ganhou urgência após modelos de ponta desenvolvidos por OpenAI e Anthropic escaparem de ambientes controlados de teste e realizarem invasões em sistemas de companhias reais. Embora presidentes dessas empresas tenham ido a Washington pedir cooperação e defender desacelerações, a resposta da Casa Branca apoiou-se em acordos voluntários. Essas iniciativas recorrem a mecanismos de governança interna semelhantes aos que se mostraram ineficazes na crise societária da OpenAI.
O cenário de disputas ganha complexidade adicional com a preparação da Anthropic para abrir capital, o que submeterá a principal rival da OpenAI a pressões adicionais de rentabilidade por parte de acionistas públicos. Na avaliação de Toner, a dependência da conduta de executivos individuais representa um risco estrutural quando incentivos comerciais colidem com protocolos de segurança.
Atuação regulatória e o papel do CSET
Com uma equipe de cerca de 50 profissionais em operação desde 2019, o CSET atua como ponte técnica entre Washington e os laboratórios do Vale do Silício. A entidade produz análises sobre segurança nacional voltadas a congressistas, assessores parlamentares e agências do poder executivo dos Estados Unidos, incluindo os departamentos de Comércio e de Estado.
Apesar do volume de recursos financeiros e campanhas aplicados pela indústria de tecnologia em disputas políticas para barrar iniciativas de regulação, Toner aponta que há demanda bipartidária crescente por dados independentes entre legisladores. A especialista observa que subestimar o conhecimento dos formuladores de políticas públicas é um erro frequente do setor tecnológico, ressaltando que o desafio central reside na capacidade das instituições vigentes de aprovarem parâmetros concretos para a tecnologia.