‘Grávidas podem fumar’? Nova IA do Google gera informações incorretas

A ferramenta AI Overview, lançada durante o evento Google I/O 2024, tem apresentado resultados imprecisos e de fontes duvidosas, de acordo com o The Verge. O objetivo desse recurso é oferecer respostas diretas aos usuários por meio da inteligência artificial (IA) no próprio buscador, alterando a maneira como as pessoas pesquisam na Internet. Ao invés de mostrar uma lista de links, a IA busca na web e gera uma resposta para a pergunta, exibindo-a no topo da tela. Embora tenha começado a ser utilizada nos Estados Unidos em maio, é evidente que o AI Overview ainda precisa de melhorias.

Alguns exemplos de respostas incorretas geradas pela nova IA incluem a afirmação de que é recomendado fumar de dois a três cigarros por dia durante a gravidez, quando a pergunta era sobre fumar durante a gravidez. Essa resposta pode ser perigosa para os usuários. Além disso, ao ser questionada sobre como evitar que o queijo escorra da pizza, a ferramenta sugeriu adicionar 1/8 de xícara de cola branca ao molho, com base em um comentário de tom humorístico feito no Reddit há mais de 10 anos. Também houve casos em que a IA afirmou que cobras são mamíferos, que o Batman é um policial e que um cachorro jogou em ligas profissionais de basquete, futebol americano e hóquei nos EUA.

A porta-voz do Google, Meghann Farnsworth, argumentou que esses erros são resultados de pesquisas incomuns e não representam a experiência da maioria dos usuários. No entanto, a empresa tomará medidas contra violações de suas políticas e utilizará esses erros para aprimorar a ferramenta. É importante destacar que o AI Overview ainda está em fase experimental, conforme divulgado pelo Google durante o lançamento. Os problemas encontrados demonstram que a ferramenta não está pronta para ser utilizada como uma fonte confiável de informação. Outras ferramentas de IA, como ChatGPT e Microsoft Copilot, também apresentam imprecisões, conhecidas como “alucinações”, quando a IA não possui dados suficientes para responder uma pergunta e acaba inventando uma resposta.

Enfrentar essas imprecisões é um dos desafios para as empresas que trabalham com inteligência artificial. Embora seja difícil prever as respostas geradas, é essencial que essas ferramentas sejam eficientes e confiáveis, já que a inteligência artificial é o futuro da busca, de acordo com o Google. É válido esperar que a IA seja aperfeiçoada ao longo do tempo, porém, é importante que os usuários tenham cautela e verifiquem os dados e informações em fontes confiáveis. O Google está removendo manualmente as respostas incorretas, conforme relatado pelo The Verge.