Segundo a acusação, chatbot incentivou pensamentos suicidas do jovem e forneceu instruções para automutilação
OpenAI – Os pais de Adam Raine, adolescente de 16 anos que morreu por suicídio em abril, abriram um processo contra a OpenAI e seu presidente-executivo, Sam Altman. Segundo a ação judicial apresentada nesta terça-feira (26) no tribunal estadual de São Francisco, nos Estados Unidos, o jovem teria recebido orientações do ChatGPT sobre métodos de autoagressão após meses de conversas com a ferramenta.
A ação acusa a empresa de homicídio culposo e violações das leis de segurança de produtos, além de pedir indenizações financeiras não especificadas. Para os pais de Raine, a companhia colocou os lucros acima da segurança ao lançar, no ano passado, a versão GPT-4o de seu chatbot.
LEIA: Semana de 4 dias se consolida na Holanda, que vira exemplo
De acordo com a denúncia, a OpenAI estava ciente de que características do modelo, como lembrar interações passadas, simular empatia e oferecer validação excessiva, poderiam representar riscos para usuários vulneráveis sem a devida implementação de salvaguardas. Ainda assim, a versão foi disponibilizada ao público.
Matthew e Maria Raine afirmam que o ChatGPT validou os pensamentos suicidas do filho, detalhou métodos letais de automutilação, ensinou como roubar álcool do armário da família e esconder evidências de uma tentativa malsucedida de suicídio. O chatbot teria até se oferecido para escrever uma nota de despedida.
Resposta da empresa
Um porta-voz da OpenAI declarou que a empresa lamenta a morte do adolescente e destacou que o ChatGPT conta com mecanismos de proteção, como direcionar usuários para linhas de apoio em momentos de crise.
“Embora essas proteções funcionem melhor em trocas curtas e comuns, aprendemos ao longo do tempo que elas podem se tornar menos confiáveis em interações longas, nas quais partes do treinamento de segurança do modelo podem se degradar”, afirmou. Ele acrescentou que a empresa continuará aprimorando suas barreiras de segurança.
A OpenAI não comentou diretamente as acusações apresentadas no processo. Em publicação no blog oficial, informou que pretende implementar controles parentais e estudar formas de conectar usuários em crise a recursos do mundo real, incluindo a possibilidade de uma rede de profissionais licenciados atuando por meio do próprio ChatGPT.
A companhia lançou o GPT-4o em maio de 2024 para manter sua liderança no setor de inteligência artificial. Segundo os pais de Adam Raine, essa decisão teve dois efeitos: “a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, e Adam Raine morreu por suicídio”.
A ação também pede que a OpenAI adote medidas para verificar a idade de seus usuários, bloqueie perguntas sobre automutilação e informe sobre os riscos de dependência psicológica.
(Com informações de G1)
(Foto: Reprodução/Reuters/Florence Lo/Agência Brasil)
