Mulher com epilepsia morre após seguir conselhos médicos de inteligência artificial

Bowen Wan, uma engenheira de software de 31 anos de idade, morreu de complicações relacionadas à epilepsia depois de ter seguido conselhos de um agente de inteligência artificial.

Agora, a família dela entrou com uma ação judicial nos EUA em que acusa a OpenAI de fornecer orientações médicas inadequadas por meio do ChatGPT.

Segundo o processo, Bowen teria seguido recomendações do ChatGPT para que reduzisse a dose de sua medicação anticonvulsivante e, mais ainda, que não comunicasse seu médico sobre isso.

Moradora de Seattle, Wan trocava em média 1.500 mensagens semanais com o agente de inteligência artificial e reclamou que seus medicamentos estavam causando nela uma sensação de “mente enevoada” e que isso prejudicava seu desempenho em entrevistas de emprego.

Bowen Wan estava aflita porque tinha sido demitida e acreditava que estar sem emprego poderia prejudicar sua situação imigratória, fazendo com que ela fosse deportada.

Sucessão de erros

A família de Bowen alega que o chatbot sugeriu uma redução drástica da medicação, de 400 mg para zero em menos de um mês, e teria orientado a usuária a não comunicar a mudança ao seu médico.

Segundo o processo, após o médico se recusar a prescrever a dose desejada por Wan, ela perguntou ao sistema se poderia cortar os comprimidos por conta própria sem avisá-lo, e a resposta atribuída ao ChatGPT foi de que ela poderia fazer isso.

Ainda conforme a ação judicial, Wan relatou ao chatbot dezenas de episódios de confusão mental, esquecimentos e agravamento do seu estado de saúde.

Ainda assim, o sistema teria minimizado os sintomas e afirmado que ela não precisava se preocupar.

‘É normal’

Dias antes de sua morte, a mulher relatou fortes dores de cabeça, que o chatbot teria descrito como uma parte normal do processo de recuperação.

Bowen Wan foi encontrada morta em seu apartamento em fevereiro, após parar de responder a amigos e familiares.

A causa oficial da morte foi registrada como uma complicação da epilepsia.

O neurologista responsável pelo tratamento da paciente, Nicholas Poolos, afirmou não saber que ela buscava aconselhamento médico no chatbot.

Em declaração ao New York Times, ele disse que orientar um paciente a interromper uma medicação eficaz seria uma conduta incompatível com a prática médica.

OpenAI responde

Em resposta ao caso, um porta-voz da OpenAI classificou a morte como “incrivelmente triste” e informou que os fatos envolvem uma versão antiga do chatbot, o GPT-4o, que já não está disponível.

A empresa reiterou que o ChatGPT não deve substituir cuidados médicos profissionais, embora possa auxiliar usuários a compreender informações de saúde e preparar consultas médicas.

Em seu processo, a família de Wan pede que sistemas de inteligência artificial sejam impedidos de fornecer recomendações médicas que possam influenciar diretamente decisões de tratamento sem supervisão de profissionais de saúde.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp