Democracia e IA

A inteligência artificial está mudando o que significa ser um cidadão democrático. Aqui está como podemos aproveitá-la para o bem. A cada alguns séculos, mudanças na forma como a informação se move redesenham como as sociedades se governam. A imprensa espalhou a alfabetização vernácula, ajudando a dar origem à Reforma e, eventualmente, ao governo representativo. O telégrafo tornou possível administrar nações vastas como os EUA, acelerando o crescimento do estado burocrático moderno. A mídia de transmissão criou audiências nacionais compartilhadas, que por sua vez alimentaram a democracia de massa. Agora estamos nos estágios iniciais de outra mudança desse tipo. Mais rápido do que muitos percebem, a IA está se tornando a interface principal através da qual formamos crenças e participamos do autogoverno democrático. Se deixada sem controle, essa mudança poderia esticar ainda mais as já frágeis instituições americanas. No entanto, também poderia ajudar a resolver problemas de longa data, como a falta de engajamento cívico e a polarização em profundidade. O que acontece em seguida depende das escolhas de design que estão sendo feitas, quer saibamos ou não.

Começamos com o que poderia ser chamado de camada epistêmica – como chegamos a saber as coisas. As pessoas estão cada vez mais confiando na IA para saber o que é verdadeiro, o que está acontecendo e em quem confiar. A busca já é substancialmente mediada por IA. A próxima geração de assistentes de IA sintetizará informações, as estruturará e as apresentará com autoridade. Para um número crescente de pessoas, perguntar a uma IA se tornará a forma padrão de formar opiniões sobre um candidato, uma política ou uma figura pública. Quem controla o que esses modelos dizem, portanto, tem uma influência crescente sobre o que as pessoas acreditam. A tecnologia sempre moldou a forma como os cidadãos interagem com a informação. Mas um novo problema logo surgirá na forma de agentes de IA pessoais, que podem mudar não apenas como as pessoas recebem informações, mas também como elas agem sobre elas. Esses sistemas realizarão pesquisas, redigirão comunicações, destacarão causas e farão lobby em nome do usuário. Eles informarão decisões, como votar em uma medida de votação, quais organizações valem a pena apoiar ou como responder a um aviso do governo. Eles, em um sentido significativo, começarão a mediar a relação entre os indivíduos e as instituições que os governam.

Já vimos com as mídias sociais o que acontece quando algoritmos otimizam o engajamento em vez do entendimento. As plataformas não precisam ter uma agenda política explícita para produzir polarização e radicalização. Um agente que conhece suas preferências e ansiedades – moldado para mantê-lo engajado – apresenta os mesmos riscos. E, nesse caso, os riscos podem ser ainda mais difíceis de detectar, porque um agente se apresenta como seu advogado. Ele fala por você, age em seu nome e pode ganhar confiança exatamente por essa intimidade. Agora, vamos ampliar para o coletivo. Agentes de IA e humanos logo poderão participar dos mesmos fóruns, onde pode ser impossível distingui-los. Mesmo que cada agente de IA individual fosse bem projetado e alinhado com os interesses de seu usuário, as interações de milhões de agentes poderiam produzir resultados que ninguém queria ou escolheu. Por exemplo, pesquisas mostram que agentes que não exibem viés individual podem ainda gerar viés coletivo em larga escala. E, deixando de lado o que os agentes fazem uns com os outros, há o que eles fazem por seus usuários. Uma esfera pública em que todos têm um agente personalizado ajustado às suas opiniões existentes não é, em agregado, uma esfera pública. É uma coleção de mundos privados, cada um coerente internamente, mas coletivamente inóspito ao tipo de deliberação compartilhada que a democracia exige.

Tomados em conjunto, essas três transformações – em como sabemos, como agimos e como nos engajamos no governo coletivo – equivalerão a uma mudança fundamental na textura da cidadania. No futuro próximo, as pessoas formarão suas opiniões políticas através de filtros de IA, exercerão sua agência cívica através de agentes de IA e participarão de instituições e discussões públicas que são elas mesmas moldadas pelas interações de milhões de tais agentes. A democracia de hoje não está preparada para isso. Nossas instituições foram projetadas para um mundo em que o poder era exercido visivelmente, a informação viajava lentamente o suficiente para ser contestada e a realidade parecia mais compartilhada, embora imperfeitamente. Tudo isso já estava se desgastando muito antes de a IA gerativa chegar. E, no entanto, isso não precisa ser uma história de declínio. Evitar esse resultado exige que projetemos algo melhor.

Na camada informativa, as empresas de IA devem aumentar os esforços existentes para garantir que as saídas dos modelos sejam verdadeiras. Elas também devem explorar algumas descobertas promissoras iniciais de que os modelos de IA podem ajudar a reduzir a polarização. Uma recente avaliação de campo de verificações de fatos geradas por IA em uma plataforma encontrou que as pessoas com uma variedade de pontos de vista políticos consideraram as notas escritas por IA mais úteis do que as escritas por humanos. O artigo ainda está para ser revisado por pares, mas essa é uma descoberta potencialmente revolucionária: a verificação de fatos assistida por IA pode ser capaz de alcançar o tipo de credibilidade transpartidária que escapou à maioria dos esforços humanos manuais. Isso mostra que a IA pode ser uma ferramenta poderosa para fortalecer a democracia