OpenAI é processada por oito estados nos EUA por riscos do ChatGPT a crianças

A OpenAI virou alvo de ações judiciais abertas separadamente por oito estados dos Estados Unidos, que acusam a companhia de colocar crianças em risco e enganar o público a respeito da segurança do ChatGPT. As queixas foram protocoladas por procuradorias de Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana.

As peças jurídicas sustentam que a empresa violou leis locais de proteção ao consumidor ao supostamente priorizar ganhos financeiros em detrimento de diretrizes básicas de segurança durante o desenvolvimento da ferramenta. De acordo com as queixas, a empresa não alertou os usuários de forma adequada sobre perigos potenciais associados ao uso frequente do modelo de inteligência artificial generativa.

Impactos sobre a saúde mental e segurança de menores

Os processos mencionam disputas judiciais abertas por familiares de adolescentes e adultos alegando que o chatbot teve participação na morte de parentes. Os governos estaduais argumentam que, embora o sistema tenha sido promovido pela OpenAI como um recurso seguro e adequado para o público jovem, na prática ele expõe usuários em condições de vulnerabilidade a situações prejudiciais.

Entre os problemas listados pelos procuradores estão a deterioração da capacidade de pensamento crítico, o incentivo a delírios e comportamentos paranoides, a emissão de orientações médicas arriscadas e o estímulo a relacionamentos e práticas não saudáveis. Os estados também acusam a organização de captar informações de menores e de não adotar barreiras suficientes para afastar usuários abaixo da idade permitida do serviço.

Na petição protocolada pelo estado do Arizona, os promotores afirmam que a conduta corporativa da companhia reflete uma mudança drástica de rota em relação aos seus objetivos institucionais declarados no início de suas atividades:

A OpenAI se distanciou de sua missão original como organização sem fins lucrativos voltada para o público que priorizava a segurança e se tornou um exemplo de alerta sobre o que pode acontecer quando o desenvolvimento de uma ferramenta tão poderosa quanto a IA é guiado não pela segurança, mas por uma mentalidade de lucro a qualquer custo que deixa salvaguardas essenciais de lado.

Pedidos judiciais e posicionamento da empresa

Os processos também usam episódios recentes de invasões e incidentes envolvendo inteligência artificial para sustentar alegações de imprudência corporativa. Diante do quadro apresentado, os oito estados solicitaram à Justiça a aplicação de penalidades civis em dinheiro contra a OpenAI, além do fim das declarações consideradas enganosas sobre o nível de proteção do sistema. Parte dos litigantes pede também a exclusão compulsória de registros pessoais obtidos sem conformidade legal.

Em resposta aos questionamentos, o porta-voz da OpenAI, Drew Pusateri, afirmou que a organização desenvolveu proteções voltadas a faixas etárias específicas diretamente na ferramenta:

Embora nenhum sistema seja perfeito, continuaremos a trabalhar com especialistas para embasar nosso trabalho e desenvolver salvaguardas adicionais, tais como os controles parentais, lembretes de pausa e proteções de modelos adequadas à idade que já existem hoje. Estamos comprometidos em trabalhar com os estados no avanço de políticas pragmáticas de IA que se apliquem a toda a indústria do setor, e não apenas a uma única empresa.