Mão segurando celular com o site do google aberto
Unsplash/solenfeyissa

Após meses de testes, o Google começou a disponibilizar resumos de resultados de busca gerados por inteligência artificial (IA) para os usuários – inicialmente, apenas nos Estados Unidos. No entanto, as respostas geradas têm apresentado alucinações em uma frequência alarmante, comprometendo a confiabilidade do principal produto da empresa. Usuários têm relatado respostas absurdas e imprecisas, como receitas de pizzas com cola como ingrediente e afirmações errôneas sobre a religião do ex-presidente Barack Obama.

Esse tipo de alucinação não é algo inesperado em IAs generativas. O ChatGPT, da OpenAI, costumava alucinar bastante no começo. No mês passado, o Grok, a IA do X (antigo Twitter), confundiu sátiras e piadas e criou resumos como se fossem notícias reais. O problema é que o Google oferece essas respostas (várias delas parecem referenciar o site humorístico The Onion) com autoridade para centenas de milhões de usuários diários, muitos dos quais podem acabar recebendo informações incorretas sem fazer nenhum tipo de checagem.

Em fevereiro, o Google teve que pausar a geração de imagens no Gemini sobre tópicos raciais devido a controvérsias, como gerar imagens de soldados nazistas negros e asiáticos.

Esses incidentes minam a confiança na Busca do Google, uma ferramenta utilizada por mais de dois bilhões de pessoas que esperam encontrar informações confiáveis.

Reações e problemas persistentes

Um porta-voz do Google afirmou que a maioria dos resumos gerados por IA fornecem informações de alta qualidade, com links para aprofundamento na web. “Estamos agindo rapidamente quando apropriado, conforme nossas políticas de conteúdo, e utilizando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas”, afirmou ao Gizmodo.

Até o CEO do Google, Sundar Pichai, reconheceu os desafios em uma entrevista ao The Verge. “Você pode ver uma busca e dizer ‘Poderíamos ter algo feito melhor nessa busca?’ Sim, com certeza. Mas em muitos casos, o resumo que estamos fornecendo claramente agrega valor”, disse.

Curiosamente, a Busca do Google às vezes responde com “Uma visão geral de IA não está disponível para esta pesquisa” ou simplesmente mostra apenas os resultados tradicionais na busca. O Google explicou que o sistema de IA às vezes começa a gerar um resumo, mas o interrompe quando ele não atende ao padrão de qualidade.

Cada erro aumenta as críticas ao Google, mas analistas do setor têm destacado que a empresa precisa correr atrás do prejuízo para alcançar seus concorrentes, como a OpenAI, mesmo que isso implique em pular alguns passos pelo caminho.