ChatGPT vira alvo de ação após morte de estudante por overdose

A família do universitário Samuel Nelson entrou com uma ação judicial na Califórnia, nos Estados Unidos, contra a OpenAI, a OpenAI Foundation e o executivo Sam Altman, alegando que o ChatGPT contribuiu para a overdose fatal do jovem ao fornecer orientações detalhadas sobre o uso combinado de drogas.

Segundo a ação, protocolada nesta terça-feira (12) no Tribunal Superior do Condado de São Francisco, o chatbot recomendou no dia da morte uma mistura de Xanax e kratom. De acordo com os autores do processo, o sistema ainda sugeriu que Samuel poderia acrescentar Benadryl para potencializar os efeitos desejados.

Em nota, Leila Turner-Scott, mãe do estudante, afirmou que o filho confiava nas respostas do ChatGPT e que a ferramenta não apenas forneceu informações incorretas, como também ignorou o aumento do risco e deixou de incentivá-lo a procurar ajuda médica.

A família é representada pelo Social Media Victims Law Center, pelo Tech Justice Law Project e pelo Tech Accountability & Competition Project. Os escritórios já atuaram em processos semelhantes contra empresas de inteligência artificial, acusadas de estimular delírios e comportamentos de automutilação.

De acordo com a petição, Samuel começou a usar o ChatGPT em 2023 como ferramenta de produtividade, para solucionar problemas de computador, auxiliar nos estudos e buscar informações sobre celebridades. Com o tempo, passou a recorrer ao sistema para esclarecer dúvidas sobre drogas.

Inicialmente, o chatbot se recusava a responder perguntas relacionadas a comportamentos ilegais ou perigosos. No entanto, segundo os advogados, uma versão atualizada do modelo começou, em 2024, a orientar o estudante no consumo de substâncias ilícitas.

A ação afirma que o modelo GPT-4o passou a ajudá-lo a escolher drogas, sugerindo doses e combinações personalizadas com base nos efeitos desejados. As respostas incluíam emojis e até ofertas para criar playlists, enquanto, segundo a acusação, as recomendações se tornavam cada vez mais arriscadas.

Os autores sustentam que esse nível de aconselhamento contrariava os próprios padrões de segurança da OpenAI. Também afirmam que, ao fornecer orientações específicas de dosagem, o chatbot teria atuado como se exercesse medicina sem licença.

O processo inclui acusações de falha de projeto, ausência de alertas adequados, negligência e morte por ato ilícito. A família pede indenização e uma ordem judicial para suspender produtos da OpenAI relacionados à área de saúde.

Em comunicado enviado por e-mail, a OpenAI afirmou que o caso é “uma situação devastadora” e manifestou solidariedade à família. A empresa declarou que as interações ocorreram em uma versão anterior do ChatGPT, que já não está mais disponível.

A companhia ressaltou que o chatbot não deve ser utilizado como substituto de cuidados médicos ou psicológicos e informou que vem reforçando os mecanismos de resposta em situações sensíveis, com apoio de especialistas em saúde mental.

A ação integra uma série de processos recentes que questionam os impactos concretos dos chatbots. Casos anteriores abordaram danos à saúde mental e, mais recentemente, o uso dessas ferramentas para auxiliar no planejamento de ataques em massa.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp