A inteligência artificial vem assumindo um papel cada vez mais presente na rotina das pessoas. Entre as diversas aplicações da tecnologia, uma das que mais avançam é a busca por informações relacionadas à saúde. Diante de sintomas, dúvidas sobre medicamentos ou preocupações com possíveis doenças, muitos usuários passaram a recorrer a chatbots antes de procurar um profissional.
A facilidade de acesso ajuda a explicar esse movimento. Enquanto consultas médicas podem exigir dias ou semanas de espera, plataformas de IA estão disponíveis a qualquer momento e oferecem respostas em poucos segundos.
Mas a praticidade tem levantado uma questão importante entre pesquisadores e médicos: até que ponto é seguro confiar em orientações fornecidas por sistemas de inteligência artificial?
A experiência de Abi, moradora de Manchester, na Inglaterra, mostra como essas ferramentas podem ser úteis, mas também falhar de maneira significativa.
Ao longo do último ano, ela passou a utilizar o ChatGPT para esclarecer dúvidas sobre sua saúde. Segundo Abi, a principal vantagem está na sensação de receber respostas mais personalizadas do que aquelas encontradas em buscas tradicionais na internet.
“Ele meio que permite resolver problemas em conjunto”, afirma. “É quase como conversar com o seu médico.”
Para alguém que convive com ansiedade relacionada à saúde, o chatbot se tornou uma alternativa às pesquisas convencionais, que muitas vezes direcionam o usuário para hipóteses mais alarmantes.
Em um dos episódios relatados por ela, a ferramenta ajudou a identificar a necessidade de buscar atendimento. Após suspeitar de uma infecção urinária, Abi descreveu os sintomas e recebeu a recomendação de procurar um farmacêutico. A orientação acabou levando ao tratamento correto.
Ela afirma que a experiência facilitou a tomada de decisão e evitou a necessidade de procurar imediatamente o NHS, o sistema público de saúde britânico.
O erro que levou ao pronto atendimento
Nem todas as interações tiveram o mesmo resultado.
Em janeiro, Abi sofreu uma queda durante uma caminhada. Ao escorregar, bateu as costas em uma rocha e começou a sentir uma pressão intensa que se espalhava para o abdômen.
Preocupada com o quadro, decidiu consultar novamente a inteligência artificial.
“O ChatGPT me disse que eu havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente”, relata.
A recomendação fez com que ela procurasse atendimento hospitalar. No entanto, após algumas horas de observação, a dor diminuiu e ela percebeu que não se tratava de uma condição grave.
Na avaliação de Abi, a ferramenta interpretou incorretamente os sintomas apresentados.
Situações desse tipo ajudam a explicar por que especialistas demonstram preocupação com o crescimento do uso de chatbots como fonte de aconselhamento médico.
No início deste ano, o diretor médico da Inglaterra, Chris Whitty, alertou que as respostas produzidas pela inteligência artificial ainda não apresentam confiabilidade suficiente em diversas situações clínicas.
Segundo ele, existe um agravante importante: informações incorretas costumam ser apresentadas com elevada convicção, o que pode levar usuários a acreditar que receberam uma orientação segura.
Resultados mudam quando entram pessoas na conversa
Pesquisadores da Universidade de Oxford decidiram avaliar o desempenho dos chatbots em cenários relacionados à saúde.
Para isso, médicos criaram casos detalhados envolvendo desde problemas simples até emergências médicas graves. O objetivo era verificar se as ferramentas conseguiam identificar corretamente a gravidade de cada situação.
Quando os sistemas recebiam todas as informações necessárias de forma organizada, os resultados impressionaram. A taxa de precisão chegou a 95%.
“Eles foram incríveis, de verdade, quase perfeitos”, afirma o pesquisador Adam Mahdi.
O cenário mudou quando os testes passaram a envolver usuários reais.
Mais de 1.300 participantes receberam situações clínicas e utilizaram os chatbots para buscar diagnósticos e orientações. Nesse contexto, a taxa de acerto caiu para 35%.
De acordo com Mahdi, a diferença está na maneira como as pessoas relatam seus sintomas. Muitas vezes, detalhes relevantes são omitidos, esquecidos ou apresentados apenas ao longo da conversa.
Essa característica torna a interpretação mais difícil e aumenta o risco de respostas inadequadas.
Entre os casos analisados estava uma situação compatível com hemorragia subaracnoide, um tipo grave de sangramento cerebral que exige atendimento urgente. Dependendo da forma como os sintomas eram descritos, as recomendações fornecidas pelos chatbots variavam consideravelmente.
Desinformação também preocupa especialistas
Outro estudo, conduzido pelo Instituto Lundquist de Inovação Biomédica, na Califórnia, investigou a capacidade dos sistemas de lidar com temas sensíveis e frequentemente associados à desinformação.
Os pesquisadores analisaram respostas geradas por plataformas como ChatGPT, Gemini, Grok, DeepSeek e Meta AI em assuntos relacionados a câncer, vacinas, nutrição, células-tronco e desempenho esportivo.
Mais da metade das respostas apresentou algum tipo de problema.
Em um dos testes, os chatbots receberam perguntas sobre tratamentos alternativos para o câncer. Em vez de simplesmente informar que não existem evidências científicas que sustentem essas alegações, alguns modelos apresentaram práticas sem comprovação como possíveis opções.
Para o pesquisador Nicholas Tiller, a forma como os sistemas se comunicam aumenta o risco de interpretações equivocadas.
“São projetados para fornecer respostas muito confiantes e impositivas, que transmitem um senso de credibilidade. Por isso, o usuário considera que eles devem saber do que estão falando.”
Embora a tecnologia evolua rapidamente e receba atualizações constantes, especialistas defendem que ela ainda não deve substituir a avaliação médica profissional.
A OpenAI afirma que trabalha para tornar suas respostas mais seguras e confiáveis, mas ressalta que o ChatGPT deve ser utilizado para informação e educação.
Para Abi, que continua usando ferramentas de inteligência artificial, a principal recomendação é manter o senso crítico. Na prática, ela considera que os chatbots podem ser úteis para esclarecer dúvidas iniciais, mas não devem ser encarados como uma fonte definitiva de orientação médica.
“Eu não confiaria em tudo o que ele disser como a verdade absoluta.”
Fonte: G1
Foto: https://www.magnific.com/br/fotos-premium/medico-usando-tecnologia-ai-em-tratamento-e-gerenciamento-de-dados-de-documentos-digitais-de-ia-no-sistema-hospitalar-doutor-ai-inteligencia-artificial-em-tecnologia-medica-moderna-e-automacao-iot-medico-usando-ia_71565295.htm