OpenAI, Anthropic e Hugging Face levam debate sobre riscos da IA ao Conselho da ONU
Líderes do setor apresentam propostas de segurança em meio a divergências geopolíticas e regulatórias entre Estados Unidos e China.
Foto: TechCrunch / Wikimedia Commons (CC BY 2.0)
Executivos das principais empresas desenvolvedoras de inteligência artificial participam nesta quarta-feira (23) de um briefing no Conselho de Segurança da ONU para discutir os riscos e os desafios associados à evolução rápida da tecnologia. O encontro ocorre na sede das Nações Unidas, em Nova York, durante as reuniões da Assembleia Geral.
A comitiva do setor conta com a presença de Sam Altman, presidente-executivo da OpenAI, Dario Amodei, diretor-executivo da Anthropic, e Clément Delangue, cofundador da Hugging Face. A apresentação dos líderes das companhias foca no impacto de sistemas avançados que possam atingir patamares críticos para a segurança internacional.
Defesa de parâmetros técnicos e salvaguardas
No encontro, a expectativa é que Sam Altman defenda formalmente a implementação de benchmarks técnicos destinados a mensurar as capacidades dos modelos de ponta. A meta das avaliações propostas é validar a eficácia das medidas de proteção e das salvaguardas adotadas pelos próprios desenvolvedores.
O Conselho de Segurança da ONU já havia aberto espaço para conversas preliminares sobre os perigos da inteligência artificial em ocasiões anteriores, durante os anos de 2023 e 2024. O debate atual, contudo, ganha tração com a corrida tecnológica e estratégica travada diretamente entre Estados Unidos e China.
Tensões diplomáticas e visões regulatórias opostas
Paralelamente às apresentações dos executivos, autoridades americanas e chinesas dialogaram sobre uma estrutura mútua de notificação para incidentes com inteligência artificial que alcancem o patamar de segurança nacional. O tema antecede a reunião oficial entre o presidente dos Estados Unidos, Donald Trump, e o líder da China, Xi Jinping, agendada para quinta-feira (24), em Washington.
Apesar das tratativas bilaterais, persistem divergências institucionais profundas quanto à governança das ferramentas. Durante sua passagem pela ONU, Donald Trump declarou que os Estados Unidos pretendem incentivar o avanço da tecnologia em vez de restringi-lo, posicionando-se contra qualquer mecanismo global destinado a controlar o setor.
Na direção contrária, o secretário-geral da ONU, António Guterres, reiterou em seu pronunciamento na Assembleia Geral a necessidade de uma arquitetura multilateral de governança. Guterres defendeu que as nações na liderança tecnológica compartilhem dados sobre riscos operacionais, coordenem auditorias e adotem um modelo independente de supervisão.
