Grok, a IA do X, cria notícias falsas com piadas de usuários da rede social
Grok acreditou em piadas sobre terremoto em NY e as usou para criar “fake news” sobre prefeito da cidade e policiais
Recentemente, o X (antigo Twitter) introduziu o Grok, seu bot de inteligência artificial, para os usuários que pagam pelo serviço. Uma das vantagens é o acesso a um feed de notícias em alta na aba Explore, alimentado pela inteligência artificial da empresa. No entanto, há um problema: a qualidade das notícias está longe de ser confiável.
O funcionamento do feed de notícias em alta do Grok parece simples: o bot reúne as postagens “principais” sobre determinada notícia e gera um resumo a partir delas. Uma função que já vimos em outras IA generativas. No entanto, antes de demitir seus redatores humanos e colocar o Grok no comando das notícias, seria prudente entender como exatamente ele opera.
O Grok parece estar agregando tweets de piadas e transformando-os em notícias reais. Um exemplo disso é um post compartilhado pelo usuário BrettRedacted, após o terremoto que abalou grande parte da região metropolitana de Nova York. O bot gerou a manchete: “Adams vs. Terremoto: 50.000 Policiais em Confronto no Metrô”, relatando como o prefeito de Nova York, Eric Adams, está mobilizando o NYPD para “prevenir novos terremotos”, considerando usar “robôs policiais” e ordenou “todos os policiais da cidade” “atire no maldito terremoto antes que ele ataque novamente”.
Notícia falsa criada pelo Grok diz:
Adams vs. Terremoto: 50.000 Policiais em Confronto no Metrô
O Prefeito da Cidade de Nova York, Eric Adams, tomou medidas decisivas em resposta ao terremoto que atingiu a cidade recentemente. Adams mobilizou 1.000 policiais do NYPD para lidar com a situação e prevenir futuros terremotos, com planos de adicionar mais 500 policiais ao esforço. O prefeito chegou a considerar a utilização de “policiais robôs” nesta iniciativa. Essa resposta é focada no sistema de metrô da cidade, onde Adams ordenou que “todos os policiais da cidade” estejam presentes para “atirar no maldito terremoto antes que ele ataque novamente”.
Embora vivamos em tempos estranhos, nenhuma pessoa razoável acreditaria que o resumo das notícias do Grok fosse preciso. Se houver dúvida, é possível verificar as principais postagens que alimentaram esse resumo de notícias, que neste caso são todas tweets de piadas sobre a resposta do prefeito ao terremoto.
Isso é um exemplo triste, porém engraçado, do estado do X em 2024. Versões anteriores do site eram o local ideal para seguir tanto as atualizações legítimas sobre notícias urgentes, como o terremoto de NYC, quanto para rir das piadas sobre a situação. Agora, o site trata as piadas como notícias. Acho que você recebe o que paga.
Não é preciso muita visão para imaginar como essa situação vai de triste, mas engraçada, para simplesmente perigosa. O que acontece quando o Grok decide “reportar” algo que parece, à primeira vista, legítimo, mas é baseado na desinformação generalizada espalhada pelo site? Um usuário do X pode acessar a guia Explore e ver que sua cidade está sendo bombardeada ou que um candidato em sua eleição fez algo ilegal, quando nenhuma das “notícias” é realmente verdadeira.
Embora não possamos impedir o site de divulgar esse lixo, podemos concordar coletivamente em não considerar o Grok, ou qualquer IA geradora, como uma fonte de notícias confiável ou um resumo preciso das principais notícias do dia.