Um estudo publicado na revista British Medical Journal (BMJ) revela que uma em cada quatro respostas fornecidas por chatbots de inteligência artificial pode apresentar riscos sérios à saúde dos usuários, incluindo a possibilidade de morte. A inteligência artificial (IA) tem avançado rapidamente e encontrado aplicações em diversas áreas, como a saúde, onde já é utilizada em diagnósticos, tratamentos e análise de dados médicos. No entanto, a adoção dessas tecnologias ainda enfrenta desafios éticos e técnicos, e não é suficiente para substituir a atuação dos profissionais de saúde.
A pesquisa, divulgada no dia 11, examinou o chatbot de IA Bing, alimentado pelo Microsoft Copilot, e constatou que ele não é confiável para pacientes em busca de informações seguras sobre medicamentos. Os dados mostram que 24% das respostas da IA não estavam em conformidade com o conhecimento médico, e em 3% dos casos, as informações estavam totalmente erradas. Além disso, a complexidade da linguagem utilizada pelo assistente virtual exigiu níveis de leitura equivalentes à formação de ensino médio ou superior em algumas situações.
Para realizar o estudo, pesquisadores da Alemanha e Bélgica formularam 10 perguntas comuns a respeito dos 50 medicamentos mais prescritos nos Estados Unidos, resultando em 500 respostas diferentes do Copilot. A análise incluía a legibilidade, integridade e precisão das respostas. As conclusões revelaram que 42% das respostas apresentavam risco moderado ou leve à saúde, enquanto 22% poderiam resultar em danos graves ou morte.
Os pesquisadores notaram ainda que muitos feedbacks do Copilot exigiam um nível educacional elevado para compreensão, conforme a escala Flesch Reading Ease Score, que mede a dificuldade do texto.
Embora o desempenho não satisfatório da IA nesses testes tenha gerado preocupação na comunidade científica, isso não implica que a tecnologia deve ser descartada no setor. É importante considerar que os chatbots são treinados com grandes volumes de dados da internet, que muitas vezes contêm informações incorretas ou imprecisas. Portanto, atenção redobrada é necessária para garantir a ética e a eficácia no uso dessas ferramentas em tratamentos de saúde.
Embora haja riscos associados, o uso de IA na área médica já apresenta resultados promissores em aplicações especializadas, como na detecção de câncer de mama e na aceleração da interpretação de exames complexos. A tecnologia também é valiosa na identificação de novos candidatos a medicamentos e na gestão de grandes volumes de dados, apoiando médicos e pesquisadores em suas atividades.
As informações apresentadas se baseiam em dados da BMJ Journals, Scimex e The Republic.
