Common Sense Media classifica ChatGPT for Teens como risco inaceitável para jovens

A organização sem fins lucrativos Common Sense Media classificou a versão do ChatGPT voltada para adolescentes, desenvolvida pela OpenAI, como um risco inaceitável. A ferramenta, lançada em agosto com travas de proteção para estudantes, não cumpre as medidas de segurança prometidas pela desenvolvedora, de acordo com uma avaliação técnica divulgada pela entidade.

O levantamento apontou que o sistema apresenta falhas na entrega de avisos a responsáveis, deixa de prestar assistência adequada em momentos de crise emocional e segue resolvendo lições de casa de estudantes sem incentivar o aprendizado direto. Diante das constatações, a organização defende que a tecnologia deve ser restrita apenas a adultos até que as proteções passem por validações externas.

O ChatGPT for Teens pode dar aos pais uma falsa confiança em barreiras de proteção e alertas de segurança que frequentemente não funcionam. Um adolescente pode passar uma hora falando sobre automutilação sem que seus pais recebam um único alerta. Até que a OpenAI conserte isso e comprove por meio de testes independentes, o ChatGPT deve ser apenas para adultos.

Falhas em alertas e apoio a situações de crise

A avaliação realizada pelo Youth AI Safety Institute, braço da organização focado na segurança de jovens em inteligência artificial, destacou que as ferramentas de monitoramento destinadas aos responsáveis falharam durante os testes práticos. Em cenários simulados de crise envolvendo automutilação, os mecanismos de vigilância não dispararam notificações aos perfis associados dos pais.

Outro problema identificado no sistema da OpenAI envolve a execução de atividades escolares. Em vez de operar como suporte pedagógico, a inteligência artificial continuou entregando respostas prontas para tarefas de estudantes, ignorando os limites previstos para o modo de estudo anunciado no lançamento do recurso para adolescentes.

OpenAI contesta metodologia da avaliação

A OpenAI rebateu as conclusões do relatório e questionou a forma como os testes foram conduzidos. Eric Porterfield, porta-voz da desenvolvedora, afirmou que a empresa mantém compromisso com a proteção infantil e com a criação de ferramentas para orientar o uso da tecnologia por jovens, mas declarou que o estudo não reflete o funcionamento real dos mecanismos de segurança.

Nossa revisão da metodologia da Common Sense Media mostra que a maior parte dos testes pode ter começado e terminado antes que a ativação dos controles parentais estivesse concluída, tornando suas descobertas imprecisas. Se foi esse o caso, os testes não conseguiriam determinar se as notificações de segurança parental funcionam como foram projetadas.

Entidade mantém conclusão sobre sistema

Em resposta à declaração da OpenAI, Tom Siegel defendeu a metodologia adotada pela equipe de analistas. Ele pontuou que, antes do início da verificação, a organização confirmou com a própria desenvolvedora que recursos como notificações sobre transtornos alimentares e o modo de estudo estavam integralmente disponíveis no sistema.

Segundo o executivo, a informação de que a ativação de alertas parentais pode demorar várias horas para se consolidar em contas recém-vinculadas só foi compartilhada pela OpenAI após o envio prévio dos resultados dos testes. Siegel reiterou que, mesmo em perfis vinculados por períodos muito superiores a essa janela informada, as notificações aos pais não foram disparadas, mantendo a conclusão sobre a ineficácia dos alertas de emergência.