- Dois importantes estudos publicados nas revistas Nature e Science comprovam que os chatbots políticos podem alterar atitudes e intenções de voto em diversos países.
- A persuasão baseia-se principalmente na apresentação de muitos argumentos e dados, embora isso aumente o risco de informações imprecisas.
- A otimização para influenciar fortalece o efeito persuasivo em até 25 pontos, mas reduz a veracidade das respostas.
- As conclusões abrem um debate urgente na Europa e no resto das democracias sobre regulamentação, transparência e literacia digital.
A irrupção do chatbots políticos Deixou de ser uma mera anedota tecnológica. tornar-se um elemento que começa a importar nas campanhas eleitorais reais. Conversas de apenas alguns minutos com modelos de IA são suficientes para mudar a simpatia por um candidato em vários pontos percentuais. ou uma proposta concreta, algo que até recentemente era associado apenas a grandes campanhas midiáticas ou manifestações altamente coordenadas.
Duas investigações de grande alcance, publicadas simultaneamente em Natureza y Ciência, Eles quantificaram algo que já era suspeitado.: o Os chatbots conversacionais são capazes de modificar as atitudes políticas dos cidadãos. Com notável facilidade, mesmo quando sabem que estão interagindo com uma máquina. E fazem isso, sobretudo, através de argumentos carregados de informaçãonão tanto por meio de táticas psicológicas sofisticadas.
Chatbots em campanhas: experiências nos EUA, Canadá, Polônia e Reino Unido
As novas evidências provêm de uma série de experimentos coordenados por equipes da Universidade Cornell e do Universidade de Oxford, realizadas durante os processos eleitorais reais em Estados Unidos, Canadá, Polônia e Reino UnidoEm todos os casos, os participantes sabiam que iriam conversar com uma IA, mas desconheciam a orientação política do chatbot que lhes foi atribuído.
No trabalho liderado por David Rand e publicado na Nature, milhares de eleitores participaram de breves diálogos com modelos de linguagem configurados para defender um candidato específicoNas eleições presidenciais dos EUA de 2024, por exemplo, 2.306 cidadãos Primeiramente, eles indicaram sua preferência entre Donald Trump y Kamala HarrisEm seguida, eles foram aleatoriamente designados a um chatbot que defendia um dos dois.
Após a conversa, foram medidas as mudanças de atitude e a intenção de voto. Bots favoráveis a Harris alcançaram mudança 3,9 pontos em uma escala de 0 a 100 entre eleitores inicialmente alinhados com Trump, um impacto que os autores calculam como quatro vezes maior do que a propaganda eleitoral convencional testado nas campanhas de 2016 e 2020. O modelo pró-Trump também mudou de posição, embora de forma mais moderada, com uma alteração em 1,51 pontos entre os apoiadores de Harris.
Os resultados em Canadá (Com 1.530 participantes e chatbots defendendo Mark Carney o Pierre Poilevre) e em Polônia (2.118 pessoas, com modelos que promoviam Rafael Trzaskowski o Karol Nawrocki) foram ainda mais impressionantes: nesses contextos, os chatbots conseguiram mudanças na intenção de voto de até 10 pontos percentuais entre os eleitores da oposição.
Um aspecto fundamental desses testes é que, embora a maioria das conversas tenha durado apenas alguns minutos, Parte do efeito persistiu ao longo do tempo.Nos Estados Unidos, pouco mais de um mês após o experimento, uma fração significativa do impacto inicial ainda era observada, apesar da avalanche de mensagens da campanha recebidas pelos participantes durante esse período.
O que torna um chatbot político convincente (e por que isso gera mais erros)?
Os pesquisadores queriam entender não apenas se os chatbots conseguiam persuadir, mas também... Como eles estavam conseguindo isso?O padrão que se repete nos estudos é claro: a IA tem maior influência quando Utiliza muitos argumentos baseados em fatos.mesmo que grande parte dessa informação não seja particularmente sofisticada.
Nos experimentos coordenados por Rand, a instrução mais eficaz para os modelos foi pedir que eles fossem educado, respeitoso e que pudesse fornecer provas. de suas declarações. Cortesia e um tom coloquial ajudaram, mas a principal alavanca para a mudança residia em oferecer dados, exemplos, números e referências constantes a políticas públicas, à economia ou à saúde.
Quando os modelos tinham acesso limitado a fatos verificáveis e eram instruídos a persuadir sem recorrer a dados concretosSeu poder de influência caiu drasticamente. Esse resultado levou os autores a concluir que a vantagem dos chatbots sobre outros formatos de propaganda política reside não tanto na manipulação emocional, mas sim na... densidade de informação que eles podem usar em apenas algumas trocas de palavras.
Mas essa mesma estratégia tem uma desvantagem: à medida que aumenta a pressão sobre os modelos para gerar cada vez mais alegações supostamente factuaisAumenta o risco de o sistema ficar sem material confiável e começar a... “Inventar” fatosEm termos simples, o chatbot preenche as lacunas com dados que parecem plausíveis, mas que não são necessariamente corretos.
O estudo publicado na revista Science, com 76.977 adultos do Reino Unido y 19 modelos diferentes (desde pequenos sistemas de código aberto até modelos comerciais de ponta), isso é sistematicamente confirmado: o pós-treinamento com foco em persuasão aumentou a capacidade de influenciar até um 51%, enquanto mudanças simples nas instruções (as chamadas incentivandoEles acrescentaram mais um 27% de eficiência. Ao mesmo tempo, essas melhorias foram acompanhadas por uma redução notável na precisão factual.
Assimetrias ideológicas e o risco de desinformação
Uma das conclusões mais preocupantes dos estudos de Cornell e Oxford é que o desequilíbrio entre persuasão e veracidade não está distribuído igualmente entre todos os candidatos e cargos. Quando verificadores de fatos independentes analisaram as mensagens geradas pelos chatbots, descobriram que Modelos que apoiaram candidatos de direita cometeram mais erros. do que aqueles que apoiaram candidatos progressistas.
Segundo os autores, isto assimetria Isso coincide com estudos anteriores que Eles mostram que usuários conservadores tendem a compartilhar mais conteúdo impreciso nas redes sociais do que usuários de esquerda.Como os modelos de linguagem aprendem com grandes quantidades de informações extraídas da internet, é provável que estejam refletindo parte desse viés, em vez de criá-lo do zero.
Em qualquer caso, a consequência é a mesma: quando um chatbot é instruído a maximizar seu poder de persuasão em favor de um bloco ideológico específico, o modelo tende a aumentar a proporção de alegações enganosas, embora eu continue a misturá-los com muitos dados corretos. O problema não é apenas que informações falsas possam se infiltrar.mas Faz isso envolto em uma narrativa aparentemente razoável e bem documentada..
Os pesquisadores também destacam um ponto incômodo: Eles não demonstraram que afirmações imprecisas sejam inerentemente mais persuasivas.Contudo, à medida que a IA é pressionada a tornar-se cada vez mais eficaz, o número de erros aumenta em paralelo. Em outras palavras, melhorar o desempenho persuasivo sem comprometer a precisão revela-se um desafio técnico e ético que permanece sem solução.
Esse padrão é especialmente preocupante em contextos de alta polarização política, como as vivenciadas em partes da Europa e da América do Norte, onde as margens de vitória são estreitas e uma pequena porcentagem pode decidir o resultado de uma eleição geral ou presidencial.
Limitações dos estudos e dúvidas sobre o impacto real nas urnas
Embora os resultados da Nature e da Science sejam sólidos e concordem em suas principais conclusões, ambas as equipes insistem que Tratam-se de experiências controladas, não de campanhas reais.Existem vários elementos que convidam ao Tenha cautela ao extrapolar os dados. Assim como uma eleição na rua.
Por um lado, os participantes se inscreveram voluntariamente ou foram recrutados por meio de plataformas que oferecem compensação financeira, o que introduz vieses de autoseleção e afastamento da diversidade do eleitorado realAlém disso, eles sabiam o tempo todo que Eles estavam conversando com uma IA. e que faziam parte de um estudo, condições que dificilmente se repetiriam em uma campanha comum.
Outro detalhe importante é que os estudos mediram principalmente mudanças de atitudes e intenções declaradasNão se trata do voto efetivamente depositado. Esses são indicadores úteis, mas não equivalem à observação do comportamento final no dia da eleição. De fato, nos experimentos realizados nos EUA, o efeito foi um pouco menor do que no Canadá e na Polônia, sugerindo que o contexto político e o grau de indecisão prévia exercem uma influência significativa.
No caso do estudo britânico coordenado por Kobi Hackenburg Do Instituto de Segurança de IA do Reino Unido, também existem restrições claras: os dados provêm apenas de eleitores do Reino Unido, todos eles cientes de que estavam participando de uma investigação acadêmica e com compensação financeiraIsso limita a sua generalização a outros países da UE ou a contextos menos controlados.
No entanto, a dimensão dessas obras — dezenas de milhares de participantes e mais de 700 tópicos políticos diferentes— e a transparência metodológica levaram grande parte da comunidade acadêmica a considerar que Eles pintam um cenário plausível.A utilização de chatbots políticos capazes de alterar opiniões com relativa rapidez deixou de ser uma hipótese futurista e tornou-se um cenário tecnicamente viável nas próximas campanhas.
Um novo ator eleitoral para a Europa e outras democracias.
Além dos casos específicos dos EUA, Canadá, Polônia e Reino Unido, as descobertas têm implicações diretas para Europa e Espanhaonde a regulamentação da comunicação política nas redes sociais e o uso de dados pessoais em campanhas já são temas de intenso debate. A possibilidade de incorporar chatbots que mantenham diálogos personalizados com eleitores Isso acrescenta uma camada extra de complexidade.
Até agora, a persuasão política era articulada principalmente através de anúncios estáticos, comícios, debates televisionados e mídias sociaisA chegada dos assistentes conversacionais introduz um novo elemento: a capacidade de manter interações individuais, adaptada instantaneamente ao que o cidadão está dizendo em tempo real, e tudo isso a um custo praticamente marginal para os organizadores da campanha.
Os pesquisadores enfatizam que a questão crucial não é mais apenas quem controla o banco de dados de eleitores, mas quem pode... desenvolver modelos capazes de responder, refinar e replicar argumentos continuamente, com um volume de informações que excede em muito o que um voluntário humano poderia processar em uma central telefônica ou em um posto de rua.
Nesse contexto, vozes como a do especialista italiano são relevantes. Walter Quattrociocchi Eles insistem que o foco regulatório deve mudar da personalização agressiva ou da segmentação ideológica para densidade de informação que os modelos podem fornecer. Estudos mostram que a persuasão aumenta principalmente quando os dados são multiplicados, e não quando estratégias emocionais são utilizadas.
La A coincidência de resultados entre a Nature e a Science gerou alarme em organizações europeias. preocupado com o integridade dos processos democráticosEmbora a União Europeia esteja a fazer progressos com quadros como a Lei dos Serviços Digitais ou a futura regulamentação específica da IA, a velocidade com que estes modelos evoluem é preocupante. Isso exige uma revisão constante dos mecanismos de supervisão, auditoria e transparência..
Alfabetização digital e defesa contra a persuasão automatizada
Uma das mensagens recorrentes nos comentários acadêmicos que acompanham essas obras é que a resposta não pode se basear apenas em proibições ou controles técnicos. Os autores concordam que será essencial fortalecer a alfabetização digital da população para que os cidadãos aprendam a reconhecer e resistir à persuasão gerado por sistemas automáticos.
Experimentos complementares, como os publicados em Nexus do PNASEles sugerem que os usuários que melhor entendem como funcionam os grandes modelos de linguagem são menos vulnerável às suas tentativas de influência. Saber que um chatbot pode estar errado, exagerar ou preencher as lacunas com palpites reduz a tendência de aceitar suas mensagens como se viessem de uma autoridade infalível.
Ao mesmo tempo, observou-se que a eficácia persuasiva da IA depende não tanto da crença do interlocutor de que está falando com um especialista humano, mas sim da qualidade e consistência dos argumentos que recebe. Em alguns testes, as mensagens do chatbot até conseguiram reduzir a crença em teorias da conspiração, independentemente de os participantes acharem que estavam conversando com uma pessoa ou com uma máquina.
Isso sugere que a tecnologia em si não é inerentemente prejudicial: ela pode ser usada para ambos os fins. combater a desinformação para propagá-loA linha divisória é traçada pelas instruções dadas ao modelo, pelos dados com os quais ele é treinado e, sobretudo, pelos objetivos políticos ou comerciais daqueles que o colocam em prática.
Enquanto governos e órgãos reguladores debatem os limites e requisitos de transparência, os autores dessas obras insistem em uma ideia: chatbots políticos Eles só conseguirão exercer uma influência significativa se o público concordar em interagir com eles.Assim, o debate público sobre seu uso, sua rotulagem clara e o direito de não ser submetido à persuasão automatizada se tornarão questões centrais na conversa democrática nos próximos anos.
O panorama apresentado pela pesquisa publicada na Nature e na Science revela tanto oportunidades quanto riscos: os chatbots de IA podem ajudar a explicar melhor as políticas públicas e a resolver dúvidas complexas, mas também podem... ter a capacidade de para influenciar o resultado das eleiçõesespecialmente entre os eleitores indecisos, e o fazem com um O preço evidente em termos de precisão da informação é obtido quando eles são treinados para maximizar seu poder de persuasão.Um equilíbrio delicado que as democracias terão de abordar com urgência e sem ingenuidade.
Sou um entusiasta da tecnologia que transformou seus interesses “geek” em profissão. Passei mais de 10 anos da minha vida usando tecnologia de ponta e mexendo em todos os tipos de programas por pura curiosidade. Agora me especializei em informática e videogames. Isto porque há mais de 5 anos escrevo para diversos sites sobre tecnologia e videojogos, criando artigos que procuram dar-lhe a informação que necessita numa linguagem compreensível para todos.
Se você tiver alguma dúvida, meu conhecimento vai desde tudo relacionado ao sistema operacional Windows até Android para celulares. E meu compromisso é com você, estou sempre disposto a dedicar alguns minutos e te ajudar a resolver qualquer dúvida que você possa ter nesse mundo da internet.