Você confiaria no ChatGPT para seu diagnóstico médico? Neste caso, é melhor buscar uma segunda opinião

Na Grécia Antiga, as pessoas consultavam o Oráculo de Delfos para saber seu futuro, especialmente sobre saúde.

Com o tempo, Hipócrates se destacou como precursor da medicina moderna, e a área médica evoluiu rapidamente.

No mundo atual, o Dr. Google se tornou popular como uma alternativa ao médico, porém frequentemente gera autodiagnósticos errôneos, com um em cada quatro espanhóis percebendo a desinformação na saúde.

Agora, com o surgimento do Dr. ChatGPT, uma IA que promete avanços médicos, surgem questões sobre suas limitações. Um caso alarmante envolveu um paciente que adiou cuidados médicos pós-AVC devido a um diagnóstico errado do ChatGPT.

Segundo Shunsuke Koga, professor da Universidade da Pensilvânia, a IA pode ajudar os profissionais de saúde, mas não deve substituir médicos, pois há risco de desinformação e atrasos no diagnóstico.

A IA, como o ChatGPT, é projetada para parecer inteligente, mas não tem raciocínio como os humanos. O uso exagerado de suas respostas pode levar a erros críticos e perpetuação de vieses presentes em seus dados de treinamento.

A responsabilidade pelos erros de diagnóstico da IA é uma questão crítica: quem responde por um erro? A solução ideal é combinar a IA com a supervisão de um médico.

A falta de capacidade crítica é um grande desafio. Embora a IA possa realizar muitas tarefas, ainda requer supervisão humana cuidadosa para evitar erros. É vital desenvolver essa análise crítica, especialmente na área da saúde.

Concluindo, apesar da conveniência do ChatGPT, a consulta médica ainda é essencial para a tomada de decisões sobre saúde.

Juan Parras Moral é professor de Engenharia de Telecomunicações na Universidade Politécnica de Madri (UPM). Este artigo foi republicado de The Conversation sob licença Creative Commons.