Estudo revela que IAs falham em 50% das consultas de saúde

Com a popularização das inteligências artificiais (IAs) generativas, cada vez mais pessoas recorrem aos chatbots para consultas e aconselhamentos médicos. O estudo publicado nesta quarta (15/4) pela revista científica BMJ Open aponta que cerca de 50% das respostas sobre saúde fornecidas por ferramentas como ChatGPT, Gemini, Meta AI, Grok e Deepseek não são confiáveis e podem ser prejudiciais e até problemáticas.

Um dos pontos mais críticos destacados pelo relatório é o excesso de confiança das máquinas. Mesmo ao fornecerem dados imprecisos, os chatbots raramente admitem dúvida. Das 250 perguntas feitas pelos pesquisadores, houve apenas duas recusas de resposta — ambas feitas pela Meta AI.

Do total de respostas analisadas, quase 20% foram classificadas como altamente problemáticas e 50% como problemáticas. O estudo observou que as ferramentas demonstram maior precisão em perguntas “fechadas” sobre temas consolidados, como câncer e vacinas. Por outro lado, o desempenho é considerado imprudente em temas que envolvem nutrição, performance atlética e células-tronco.

Treinamento baseado em fóruns e redes sociais

De acordo com os pesquisadores dos EUA, Canadá e Reino Unido, o perigo mora na base de dados. As IAs são treinadas com textos públicos da internet, o que inclui desde redes sociais até fóruns como o Reddit.

O resultado é o chamado “falso equilíbrio”: a ferramenta coloca uma opinião sem fundamento científico no mesmo patamar de uma descoberta médica sólida, apenas porque ambos os textos circulam na rede. Além disso, nenhum chatbot foi capaz de produzir uma lista de referências bibliográficas totalmente completa ou precisa.

Quais são os riscos de consultar só pela IA?

Os principais perigos de consultar pela IA, de acordo com a pesquisa, são os diagnósticos sem fundamento, as orientações baseadas em dados genéricos, e as citações fabricadas, onde os robôs inventam fontes e livros que não existem. A linguagem inacessível também é um risco quando exige um nível de compreensão equivalente ao de um universitário veterano.

As IAs generativas não são licenciadas para fornecer aconselhamento médico e não possuem o discernimento clínico para diagnósticos. Elas podem servir como ponto de partida para pesquisas acadêmicas ou curiosidades, mas especialistas reforçam: a tecnologia não substitui a consulta com profissionais de saúde, especialmente em casos que exigem análise individualizada.

Corrida das Big Techs na Saúde

Apesar dos avisos de especialistas, o mercado segue em rápida expansão. Semanalmente, mais de 200 milhões de pessoas fazem perguntas sobre saúde e bem-estar ao ChatGPT, segundo a OpenAI. Em janeiro, a empresa anunciou o “ChatGPT Health”, voltado para usuários e profissionais. No mesmo mês, o Claude, da Anthropic, também lançou ferramentas focadas no setor.

(Metrópoles)