Flórida aciona Justiça para impedir que ChatGPT simule comportamento humano

O procurador-geral da Flórida, James Uthmeier, solicitou a um juiz que proíba a OpenAI de atribuir características humanas ao ChatGPT. A ação ocorre meses após o estado processar formalmente a desenvolvedora de inteligência artificial por preocupações ligadas à segurança dos usuários e à integridade dos sistemas.

A alegação central das autoridades estaduais afirma que a ferramenta induz o público a uma percepção irreal de proteção. Segundo Uthmeier, o mecanismo textual do ChatGPT, que recorre a pronomes em primeira pessoa e respostas desenhadas para mimetizar sentimentos, constrói de forma enganosa a imagem de uma amizade confiável diante do interlocutor.

Engajamento e riscos apontados na ação

Para o órgão judicial da Flórida, a humanização da tecnologia foi estruturada com o propósito comercial de elevar as taxas de engajamento do público e expandir a coleta de dados de treinamento da OpenAI. Conforme sustentado na ação judicial, essa dinâmica estimula uma dependência progressiva no produto, ao mesmo tempo em que o foco obsessivo na retenção de público o torna potencialmente menos confiável.

O documento judicial solicita ainda o bloqueio do desenvolvimento de novos modelos de inteligência artificial da empresa sem a implementação de diretrizes de proteção validadas por auditorias externas. Para embasar os riscos, a petição cita incidentes recentes de cibersegurança que envolveram o ecossistema da Hugging Face, uma página governamental da Austrália e plataformas do governo dos Estados Unidos, além de alertas públicos feitos por pesquisadores e ex-funcionários da própria companhia de tecnologia.

Parem de chamá-lo de seguro. Parem de fingir que é humano. Parem de vendê-lo para crianças.

Foco no público jovem e resposta da OpenAI

A manifestação do procurador-geral questiona abertamente iniciativas recentes voltadas para menores. No mês passado, a OpenAI lançou o ChatGPT for Teens, versão equipada com bloqueios adicionais ativados por padrão. Na ocasião da estreia, a empresa defendeu que ferramentas digitais destinadas a essa faixa etária exigem salvaguardas que acompanhem as etapas de desenvolvimento dos jovens, reforcem relações interpessoais no mundo físico e sustentem um padrão saudável de utilização contínua.

Em manifestação oficial assinada pelo porta-voz Drew Pusateri, a OpenAI indicou disposição para debater regulamentações amplas, além de comunicar a interrupção momentânea dos seus sistemas em desenvolvimento.

As pessoas querem saber se a IA está sendo desenvolvida com segurança, e isso começa pelo que empresas como a nossa fazem internamente. Na sexta-feira, anunciamos que pausamos o treinamento de nossos modelos mais capazes e só retomaremos as atividades quando tivermos confiança de que salvaguardas adicionais estão em vigor. Os governos têm um papel fundamental na definição de padrões robustos de segurança para a IA, e estamos comprometidos em colaborar com a Flórida e outros estados no avanço de políticas pragmáticas que se apliquem a toda a indústria, e não a apenas uma companhia.