Influenciadores Falsos
A onda de contas falsas impulsionadas por inteligência artificial está difundindo conteúdo político nas redes sociais, levantando novas questões sobre o papel da mídia sintética nas eleições americanas. Centenas de contas falsas pró-Trump surgiram nas redes sociais antes das eleições de meio de mandato nos EUA, com influenciadores gerados por inteligência artificial criticando a “esquerda radical” e defendendo a mensagem “América em Primeiro Lugar”, segundo relata o New York Times. O jornal identificou pelo menos 304 contas desse tipo no TikTok desde janeiro. O laboratório de pesquisa GRAIL da Universidade Purdue encontrou uma dúzia de contas adicionais no TikTok, Instagram e Facebook, enquanto Eric Nelson, analista da empresa de segurança Alethea, detectou nove contas no YouTube.
Exemplos incluem a conta do TikTok @perezfernandaus (primeiro vídeo) e a conta do Instagram “jessicaa.foster” (ver segundo vídeo abaixo). Algumas contas conquistaram mais de 35.000 seguidores, com posts individuais alcançando mais de meio milhão de visualizações. O próprio Donald Trump compartilhou conteúdo de uma avatar loira que fazia alegações infundadas sobre o governador da Califórnia. Quem está por trás das contas não está claro. Zuhair Lakhani, co-fundador da startup de publicidade de inteligência artificial Doublespeed, disse ao New York Times que cada postagem provavelmente custa apenas 1 a 3 dólares para produzir, e uma pessoa pode facilmente lidar com a carga de trabalho. O TikTok classifica essas contas como spam e afirma que planeja removê-las, argumentando que não há “nenhum indício de operações de influência oculta”, apenas spammers perseguindo engajamento.
No entanto, o New York Times aponta para clusters de contas que usam linguagem idêntica, fotos de perfil e efeitos sonoros. Os mesmos personagens aparecem em múltiplas contas, como uma mulher loira com rabos de cavalo em uma fazenda ou uma mulher negra com um chapéu MAGA vermelho e óculos de aviador. Algumas contas até seguem umas às outras. Não foi encontrado nenhum réseau comparável de esquerda. A tendência não se limita aos EUA. Vídeos e mensagens falsos gerados por inteligência artificial também se espalharam pelas redes sociais no Japão durante a recente eleição para a Câmara dos Representantes. Uma pesquisa realizada pelo Professor Shinichi Yamaguchi da Universidade Internacional do Japão encontrou que 51,5% dos respondentes acreditavam que essas notícias falsas eram verdadeiras.
O uso de inteligência artificial para criar contas falsas e difundir conteúdo político é um problema crescente nas redes sociais. Com a capacidade de criar avatares realistas e gerar texto e vídeo convincentes, os spammers podem criar contas que parecem legítimas e difundir informações enganosas para um grande número de pessoas. Isso pode ter consequências sérias para a democracia, pois as pessoas podem ser influenciadas por informações falsas e tomar decisões baseadas em informações erradas. Além disso, a capacidade de criar contas falsas em grande escala pode permitir que os spammers manipulem a opinião pública e influenciem o resultado das eleições.
As redes sociais estão tentando combater o problema, mas é um desafio difícil. O TikTok, por exemplo, afirma que está trabalhando para remover as contas falsas, mas é um processo contínuo. A plataforma precisa equilibrar a necessidade de remover contas falsas com a necessidade de proteger a liberdade de expressão dos usuários. Além disso, os spammers estão constantemente encontrando novas maneiras de burlar os sistemas de detecção das redes sociais, tornando difícil para as plataformas manter o ritmo. É importante que as redes sociais continuem a trabalhar para combater o problema, mas também é fundamental que os usuários sejam conscientes do risco de contas falsas e tomem medidas para verificar a veracidade das informações que compartilham.
A inteligência artificial é uma ferramenta poderosa que pode ser usada para fins benéficos ou mal-intencionados. No caso das contas falsas, é claro que a inteligência artificial está sendo usada para fins mal-intencionados. No entanto, é importante lembrar que a inteligência artificial também pode ser usada para fins benéficos, como ajudar a combater a desinformação e promover a transparência. É fundamental que as redes sociais e os usuários trabalhem juntos para garantir que a inteligência artificial seja usada de maneira responsável e ética. Além disso, é importante que os governos e as organizações internacionais também trabalhem para estabelecer normas e regulamentações para o uso da inteligência artificial nas redes sociais, para garantir que a tecnologia seja usada para promover a democracia e a liberdade de expressão, em vez de ameaçá-las.
Em resumo, o uso de inteligência artificial para criar contas falsas e difundir conteúdo político é um problema sério que precisa ser abordado. As redes sociais, os usuários e os governos precisam trabalhar juntos para combater o problema e garantir que a inteligência artificial seja usada de maneira responsável e ética. É fundamental que as redes sociais continuem a trabalhar para remover as contas falsas e que os usuários sejam conscientes do risco de contas falsas e tomem medidas para verificar a veracidade das informações que compartilham. Além disso, é importante que os governos e as organizações internacionais estabeleçam normas e regulamentações para o uso da inteligência artificial nas redes sociais, para garantir que a tecnologia seja usada para promover a democracia e a liberdade de expressão, em vez de ameaçá-las.
