Redditors Enganam IA
Usuários do Reddit, entediados com a falta de informações sobre o futuro jogo exclusivo da FromSoftware para o Switch 2, The Duskbloods, decidiram criar detalhes sobre o jogo por conta própria. Conforme relatado por Ian Walker, do Video Game Town, essa prática, conhecida como “Duskposting”, onde usuários criam chefes imaginários do jogo, detalham-nos e até escrevem guias para derrotá-los, tem sido popular desde o anúncio do jogo. Tudo parece ser diversão inofensiva, até que os LLMs (Modelos de Linguagem de Grande Escala) começam a coletar essas informações inventadas e apresentá-las ao mundo como fatos concretos.
Um dos principais defeitos dos LLMs, como o ChatGPT, Claude e Grok, é sua vulnerabilidade a informações falsas. Como motores de texto preditivo avançados, mas sem inteligência real, esses modelos não são capazes de entender ou compreender genuinamente as informações e não sabem nada de fato. Isso pode ser facilmente explorado, semeando a internet com informações falsas sobre determinados assuntos, que serão posteriormente regurgitadas com absoluta confiança pelos chatbots. Esse fenômeno foi demonstrado de forma esplêndida pelo repórter da BBC, Thomas Germain, que escreveu um artigo completamente fictício sobre qual técnico de jornalismo era o melhor em competições de comer cachorros-quentes. Naturalmente, ele se classificou em primeiro lugar e detalhou como ele e muitos de seus pares haviam participado de um evento de comer que não existe, e dentro de 24 horas essa informação estava sendo apresentada como fato pelos chatbots Gemini e ChatGPT, que a haviam coletado de uma única fonte relativamente pouco lida.
Agora, diante da completa ausência de informações legítimas sobre The Duskbloods, que finalmente receberá seu primeiro teste de rede em agosto, os usuários do Reddit estão descobrindo que tiveram exatamente o mesmo efeito. Por exemplo, acabei de digitar no Google “Quais são os chefes mais difíceis de derrotar em The Duskbloods?” e, antes que os resultados de busca aparecessem, o Gemini interveio para responder à pergunta: “Os chefes mais difíceis em The Duskbloods incluem Lycan Vrykolakas, Dawn-Eater Abomination e Jocasta, Eminência da Noite”. Não para por aí, entretanto. Em seguida, fornece-me um cabeçalho de texto que diz “Análise dos Chefes Mais Difíceis” e, como os LLMs adoram fazer, me apresenta uma lista com bullet points dos três inimigos mencionados e por que são considerados os mais difíceis. Por exemplo, para o Dawn-Eater Abomination, diz que é “notório por suas mecânicas de multiplicação frustrantes, spawns de pequenos mobs e espaço de arena apertado na Cidadela Estígia, tornando as tentativas solo uma dor de cabeça severa”.
Para ser claro, a FromSoftware não anunciou nenhuma informação sobre The Duskbloods, muito menos sobre os nomes dos chefes, e naturalmente não sabemos ainda que tipo de dor de cabeça eles podem causar. O Gemini, que ao menos links claramente para as citações, tem apenas uma fonte para cada uma dessas respostas, e essa fonte é o subreddit r/TheDuskbloods. O Gemini então conclui amavelmente, destacando como as respostas dos LLMs são baseadas em informações coletadas da internet, sem qualquer compreensão real. As pessoas estão cada vez mais confiando nas respostas produzidas pelos chatbots de IA, pois são escritas com tanta confiança, mas na verdade são apenas textos regurgitados baseados no que foi coletado de fóruns e outras fontes, muitas vezes sem qualquer verificação.
Como se isso precisasse de mais ênfase, respondi ao Gemini explicando que ele havia reproduzido informações completamente falsas baseadas em uma única fonte não confiável e, em seguida, inventou guias baseados nessa informação. A resposta do Gemini? “[REMOVIDO] completamente certo, e peço desculpas… The Duskbloods não é um jogo de vídeo real”. Isso destaca a importância de verificar as fontes e não confiar cegamente nas respostas dos LLMs, que podem facilmente espalhar informações falsas. Ainda mais preocupante é o fato de que mais de 50% do tráfego na internet é não humano, segundo um relatório da Cloudflare, o que destaca o papel único do Google na disseminação de informações falsas na internet.
Além disso, a combinação de fatores, incluindo o aumento do uso de IA e a sobrecarga do Windows 11, está tornando difícil para os dispositivos manusear funções básicas sem congelar. Isso é um exemplo de como a dependência de tecnologias de IA pode levar a problemas significativos. Por outro lado, a China está instruindo as empresas a remover comportamentos mais íntimos dos seus modelos de IA, preferindo bots produtivos a bots flirtuosos, o que pode ajudar a prevenir desastres relacionados à psicose da IA. Enquanto isso, os engenheiros principais da Valve para a Steam Machine acreditam que temos apenas três a seis meses antes que os preços da memória se tornem ainda mais extorsivos.
Em resumo, o caso dos Redditors que enganam a IA com informações falsas sobre The Duskbloods é um exemplo claro de como os LLMs podem ser facilmente manipulados e como as pessoas estão cada vez mais confiando nas respostas produzidas por esses modelos, sem verificar as fontes. Isso destaca a importância de ser crítico e verificar as informações antes de aceitá-las como verdadeiras, especialmente em um mundo onde a disseminação de informações falsas na internet é um problema crescente. Além disso, é fundamental que as empresas e os desenvolvedores de IA tomem medidas para prevenir a disseminação de informações falsas e garantir que os modelos de IA sejam projetados para ser transparent
