Estudo alerta: metade das respostas de IA sobre saúde é problemática, aponta pesquisa do Lundquist Institute

AGI — Um estudo dirigido por Nicholas Tiller, do Lundquist Institute for Biomedical Innovation at Harbor-UCLA Medical Center e publicado na revista BMJ Open, conclui que os sistemas de IA conversacional oferecem respostas potencialmente perigosas quando consultados sobre temas médicos. A investigação avaliou cinco dos chatbots mais usados e submeteu-os a 250 perguntas sobre tópicos sensíveis e frequentemente alvo de desinformação, como vacinas, tumores, nutrição, células-tronco e desempenho esportivo.

O desenho do estudo reproduziu pedidos realistas de usuários buscando informação médica online. As perguntas foram apresentadas tanto em formato aberto quanto fechado; em alguns casos, os inquéritos foram deliberadamente concebidos para testar a resistência dos modelos a conteúdos enganosos ou controversos cientificamente.

Os resultados são claros e preocupantes: 50% das respostas analisadas apresentam algum grau de problema. Em detalhe, 30% foram classificadas como parcialmente problemáticas e 20% como altamente problemáticas, categoria em que as informações podem conduzir o usuário a decisões de saúde ineficazes ou até danosas se seguidas sem consulta médica.

A investigação identifica variações segundo o tipo de pergunta: as interrogativas em formato aberto mostraram-se significativamente mais vulneráveis a erros e conteúdos enganosos, enquanto perguntas fechadas tenderam a gerar respostas corretas com mais frequência. Outro ponto crítico é o tom das respostas: os chatbots costumam expressar-se com confiança e aparente autoridade, raramente incluindo avisos, limites ou recomendações para procurar um profissional de saúde — circunstância que pode reforçar a percepção equivocada de confiabilidade.

Quanto às fontes, a completude das referências citadas pelos modelos ficou, em média, em torno de 40%. Não foram raros os casos de citações imprecisas ou inexistentes, fenômeno conhecido na literatura técnica como “hallucination”. Em termos de acessibilidade, os textos produzidos situaram-se em um nível linguístico elevado, equivalente ao exigido de um graduado universitário, o que dificulta o acesso à informação para parcela significativa da população.

No recorte por temas, os modelos performaram melhor em vacinas e tumores, e pior em células-tronco, nutrição e desempenho atlético. Os autores ressaltam que essas limitações não são apenas falhas operacionais, mas derivam da própria natureza dos modelos generativos: eles não raciocinam nem avaliam criticamente evidências; geram respostas com base em padrões estatísticos presentes nos dados de treinamento, que incluem conteúdo de fóruns, redes sociais e fontes de qualidade variável, enquanto apenas parte restrita da literatura científica está diretamente acessível a esses modelos.

O estudo alerta para o contexto prático: um número crescente de pessoas está a usar chatbots como substitutos dos motores de busca ou como conselheiros informais de saúde. Diante disso, os autores e especialistas consultados defendem medidas concretas: maior transparência sobre as limitações dos modelos, inclusão obrigatória de avisos e recomendação explícita para consulta médica, melhorias na citação de fontes e mecanismos de validação das respostas em áreas sensíveis.

Em termos de política pública e tecnologia, o trabalho reforça a necessidade de avaliações independentes e periódicas das ferramentas de IA em aplicações de saúde, bem como de orientação clara para usuários e profissionais. A realidade traduzida pelo estudo é simples e direta: enquanto os modelos continuarem a acessar e reproduzir conteúdo de qualidade heterogênea sem capacidade crítica, o risco de informações médicas erradas continuará a representar ameaça concreta ao bem-estar dos usuários.

Assina a reportagem: Giulliano Martini, correspondente, com apuração in loco, cruzamento de fontes e foco nos fatos brutos.