Família processa OpenAI após morte de mulher que teria recebido orientações do ChatGPT para suspender medicamentos

Foto: Marcela Franco/TechTudo

Os pais da engenheira de software chinesa Bowen Wan, de 31 anos, entraram com uma ação judicial contra a OpenAI, nos Estados Unidos, após acusarem o ChatGPT de ter incentivado a filha a reduzir e interromper medicamentos utilizados no tratamento da epilepsia. A jovem morreu, e a família afirma que as orientações do chatbot contribuíram para decisões que colocaram sua saúde em risco.

Segundo reportagem do The New York Times, os familiares decidiram processar a empresa depois de analisar o histórico de conversas de Bowen com a ferramenta de inteligência artificial.

De acordo com o jornal, as mensagens indicariam que o ChatGPT sugeriu mudanças na dosagem dos medicamentos, orientou uma redução gradual até a suspensão completa e, em diferentes momentos, incentivou a jovem a seguir o plano mesmo diante de sintomas que poderiam indicar o agravamento de seu quadro de saúde.

A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia, conhecida pela sigla SUDEP, em inglês.

O caso chama atenção para os riscos do uso de ferramentas de inteligência artificial como fonte de orientação médica. Especialistas ouvidos pelo g1 alertam que alterações na dosagem ou a interrupção de medicamentos contra epilepsia sem acompanhamento médico podem provocar crises graves e aumentar o risco de morte.

A discussão também envolve os limites da tecnologia na área da saúde, especialmente quando sistemas de inteligência artificial apresentam orientações detalhadas sobre tratamentos sem capacidade de avaliar individualmente as condições clínicas e os riscos para cada paciente.