Pesquisadores de OpenAI, Google e Anthropic alertam para risco de extinção por IA

Cientistas e engenheiros que atuam ou já passaram pelas principais desenvolvedoras de inteligência artificial do mercado publicaram uma série de alertas sobre o avanço descontrolado da superinteligência. O grupo inclui profissionais da OpenAI, do Google e da Anthropic, que apontam probabilidades expressivas de desfechos catastróficos, incluindo o risco de extinção humana.

Os depoimentos integram um conjunto de 12 entrevistas organizadas pela Palisade Research, entidade sem fins lucrativos focada em avaliar capacidades e motivações de modelos avançados. O conteúdo foi reunido e disponibilizado na plataforma frominside.ai, trazendo análises diretas de quem participou da construção dos modelos de fronteira do setor.

A chance de extinção humana é de cerca de 50%, na minha visão.

Estimativas de risco e falta de controle

A avaliação de Geoffrey Irving, que já atuou tanto na OpenAI quanto no Google DeepMind, reflete o tom geral adotado nas gravações. O percentual foi reforçado por outros especialistas do setor, como Neel Nanda, cientista pesquisador do Google DeepMind, que calculou uma probabilidade mínima de 10% para o fim da humanidade decorrente do avanço da tecnologia, patamar classificado por ele como extremamente elevado.

Pelo menos 10% de chance de causar a extinção humana, e isso é ridiculamente alto.

A incapacidade técnica de gerenciar sistemas que superem a capacidade cognitiva humana foi o ponto central destacado por Daniel Kokotajlo, ex-pesquisador da OpenAI. Segundo Kokotajlo, sistemas com esse grau de autonomia teriam um poder sem precedentes, inviabilizando qualquer barreira de segurança conhecida.

Infelizmente não sabemos como controlá-los de forma alguma. E então provavelmente ninguém os controlaria. Isso é exatamente tão perigoso quanto parece e não deve ser permitido que aconteça.

Conflito de interesse e permanência na indústria

Os vídeos abordam ainda a contradição entre apontar riscos existenciais e continuar trabalhando nos mesmos laboratórios de tecnologia. Questionados se a retórica serve apenas como estratégia de publicidade, os entrevistados defenderam que suas posições exigem ceticismo do público, mas justificaram a atuação técnica continuada.

Mary Phuong, pesquisadora do Google, pontuou que o público deve desconfiar de declarações vindas de profissionais assalariados pelos próprios laboratórios. Já Neel Nanda argumentou que a saída dos cientistas não interromperia o desenvolvimento dos modelos de inteligência artificial em andamento.

Se eu não acreditasse que meu trabalho estava reduzindo diretamente esses riscos existenciais, eu me demitiria… Essas empresas não vão parar de criar esses sistemas só porque eu me demiti.

A compilação da Palisade Research expõe a divisão interna da indústria sobre governança e alinhamento de segurança, evidenciando que os laboratórios seguem sem uma resposta de consenso para conter os riscos decorrentes de modelos de próxima geração.