IA para pedir conselhos médicos? Melhor não! Esse estudo mostra por quê

Um estudo publicado na revista British Medical Journal (BMJ) revela que uma em cada quatro respostas fornecidas por chatbots de inteligência artificial pode apresentar riscos sérios à saúde dos usuários, incluindo a possibilidade de morte. A inteligência artificial (IA) tem avançado rapidamente e encontrado aplicações em diversas áreas, como a saúde, onde já é utilizada em diagnósticos, tratamentos e análise de dados médicos. No entanto, a adoção dessas tecnologias ainda enfrenta desafios éticos e técnicos, e não é suficiente para substituir a atuação dos profissionais de saúde.

A pesquisa, divulgada no dia 11, examinou o chatbot de IA Bing, alimentado pelo Microsoft Copilot, e constatou que ele não é confiável para pacientes em busca de informações seguras sobre medicamentos. Os dados mostram que 24% das respostas da IA não estavam em conformidade com o conhecimento médico, e em 3% dos casos, as informações estavam totalmente erradas. Além disso, a complexidade da linguagem utilizada pelo assistente virtual exigiu níveis de leitura equivalentes à formação de ensino médio ou superior em algumas situações.

Para realizar o estudo, pesquisadores da Alemanha e Bélgica formularam 10 perguntas comuns a respeito dos 50 medicamentos mais prescritos nos Estados Unidos, resultando em 500 respostas diferentes do Copilot. A análise incluía a legibilidade, integridade e precisão das respostas. As conclusões revelaram que 42% das respostas apresentavam risco moderado ou leve à saúde, enquanto 22% poderiam resultar em danos graves ou morte.

Os pesquisadores notaram ainda que muitos feedbacks do Copilot exigiam um nível educacional elevado para compreensão, conforme a escala Flesch Reading Ease Score, que mede a dificuldade do texto.

Embora o desempenho não satisfatório da IA nesses testes tenha gerado preocupação na comunidade científica, isso não implica que a tecnologia deve ser descartada no setor. É importante considerar que os chatbots são treinados com grandes volumes de dados da internet, que muitas vezes contêm informações incorretas ou imprecisas. Portanto, atenção redobrada é necessária para garantir a ética e a eficácia no uso dessas ferramentas em tratamentos de saúde.

Embora haja riscos associados, o uso de IA na área médica já apresenta resultados promissores em aplicações especializadas, como na detecção de câncer de mama e na aceleração da interpretação de exames complexos. A tecnologia também é valiosa na identificação de novos candidatos a medicamentos e na gestão de grandes volumes de dados, apoiando médicos e pesquisadores em suas atividades.

As informações apresentadas se baseiam em dados da BMJ Journals, Scimex e The Republic.