- Dos grans estudis a Nature i Science proven que els chatbots polítics poden canviar actituds i intenció de vot a diversos països.
- La persuasió es basa sobretot en oferir molts arguments i dades, encara que augmenta el risc dinformació inexacta.
- L'optimització per influir reforça l'efecte persuasiu fins a 25 punts, però redueix la veracitat de les respostes.
- Les troballes obren un debat urgent a Europa i la resta de democràcies sobre regulació, transparència i alfabetització digital.
La irrupció dels chatbots polítics ha deixat de ser una anècdota tecnològica per esdevenir un element que comença a comptar en campanyes electorals reals. Converses de només uns minuts amb models d'IA són suficients per moure diversos punts la simpatia cap a un candidat o una proposta concreta, cosa que fins fa poc s'associava només a grans campanyes mediàtiques oa mítings molt afinats.
Dues investigacions de gran abast, publicades simultàniament a Nature y Science, han posat números a alguna cosa que ja s'intuïa: els chatbots conversacionals són capaços de modificar les actituds polítiques dels ciutadans amb una facilitat cridanera, fins i tot quan aquests saben que estan interactuant amb una màquina. I ho fan, sobretot, a través de arguments carregats d'informació, no tant mitjançant tàctiques psicològiques sofisticades.
Chatbots en campanya: experiments als Estats Units, Canadà, Polònia i Regne Unit
Les noves evidències provenen d'una bateria d'experiments coordinats per equips de la Universitat de Cornell i de la Universitat d'Oxford, duts a terme durant processos electorals reals a Estats Units, Canadà, Polònia i Regne Unit. En tots els casos, els participants sabien que parlarien amb una IA, però desconeixien quina orientació política defensava el chatbot que se'ls assignava.
A la feina liderada per David Rand i publicat a Nature, milers de votants es van sotmetre a diàlegs breus amb models de llenguatge configurats per defensar un candidat concret. A les presidencials nord-americanes del 2024, per exemple, 2.306 ciutadans van indicar primer la seva preferència entre Donald Trump y Kamala Harris, ia continuació van ser assignats a l'atzar a un chatbot que defensava a un dels dos.
Després de la conversa, es van mesurar els canvis a l'actitud i la intenció de vot. Els bots favorables a Harris van aconseguir desplaçar 3,9 punts en una escala de 0 a 100 entre els votants inicialment afins a Trump, un impacte que els autors calculen com quatre vegades superior al de la publicitat electoral convencional provada a les campanyes de 2016 i 2020. El model pro-Trump també va moure posicions, encara que de forma més moderada, amb un canvi de 1,51 punts entre simpatitzants de Harris.
Els resultats a Canadà (Amb 1.530 participants i chatbots defensant a Mark Carney o Pierre Poilievre) ia Polònia (2.118 persones, amb models que promovien a Rafał Trzaskowski o Karol Nawrocki) van ser encara més cridaners: en aquests contextos, els chatbots van aconseguir canvis en la intenció de vot de fins a 10 punts percentuals entre votants de loposició.
Un aspecte clau d'aquests assajos és que, tot i que la majoria de converses duraven pocs minuts, part de lefecte es mantenia amb el temps. Als Estats Units, una mica més d'un mes després de l'experiment, encara s'observava una fracció rellevant de l'impacte inicial, malgrat l'allau de missatges de campanya rebuts pels participants en aquest interval.
Què fa que un chatbot polític convenci (i per què això genera més errors)
Els investigadors volien entendre no només si els chatbots podien persuadir, sinó com ho estaven aconseguint. El patró que es repeteix als estudis és clar: la IA influeix sobretot quan utilitza molts arguments basats en fets, encara que bona part daquesta informació no és especialment sofisticada.
En els experiments coordinats per Rand, la instrucció més eficaç per als models va ser demanar-los que fossin educats, respectuosos i que aportessin proves de les afirmacions. La cortesia i el to dialogant ajudaven, però la palanca principal de canvi residia a oferir dades, exemples, xifres i referències constants a polítiques públiques, economia o sanitat.
Quan es va limitar als models l'accés a fets verificables i se'ls va indicar que persuadessin sense recórrer a dades concretes, el seu poder d'influència va caure de manera dràstica. Aquest resultat va portar els autors a concloure que l'avantatge dels chatbots davant d'altres formats de propaganda política no està tant en la manipulació emocional com en la densitat d'informació que poden desplegar en uns quants torns de conversa.
Però aquesta mateixa estratègia té una cara B: a mesura que augmenta la pressió sobre els models perquè generin cada vegada més afirmacions suposadament fàctiques, creix el risc que el sistema es quedi sense material fiable i comenci a “inventar” fets. Dit de manera plana, el chatbot omple buits amb dades que sonen plausibles però que no necessàriament són correctes.
L'estudi publicat a Science, amb 76.977 adults del Regne Unit y 19 models diferents (des de sistemes petits de codi obert fins a models comercials capdavanters), ho confirma de forma sistemàtica: el postentrenament centrat en la persuasió va augmentar la capacitat d'influir fins i tot en un 51%, mentre que simples canvis en les instruccions (l'anomenat prompting) van afegir un altre 27% d'eficàcia. Alhora, aquestes millores van anar acompanyades per una reducció apreciable de la precisió factual.
Asimetries ideològiques i risc de desinformació
Una de les conclusions més delicades dels treballs de Cornell i Oxford és que el desequilibri entre persuasió i veracitat no es reparteix de manera homogènia entre tots els candidats i les posicions. Quan els verificadors independents van analitzar els missatges generats pels chatbots, van detectar que els models que defensaven candidats de dretes cometien més errors que els que recolzaven aspirants de tall progressista.
Segons els autors, aquesta asimetria coincideix amb estudis previs que mostren que els usuaris conservadors tendeixen a compartir més continguts inexactes a les xarxes socials que els d'esquerra. Com que els models de llenguatge aprenen de grans quantitats d'informació extreta d'internet, és probable que reflecteixin part d'aquest biaix en lloc de crear-lo des de zero.
En qualsevol cas, la conseqüència és la mateixa: quan s'ordena a un chatbot que maximitzi el poder de persuasió a favor d'un determinat bloc ideològic, el model tendeix a augmentar la proporció d'afirmacions enganyoses, encara que seguiu barrejant-les amb moltes dades correctes. El problema no és només que pugui colar informació falsa, sinó que ho fa embolicada en una narrativa aparentment raonable i ben documentada.
Els investigadors subratllen a més un punt incòmode: no han demostrat que les afirmacions inexactes siguin en si mateixes més persuasives, però sí que, quan s'empeny la IA a ser cada cop més eficaç, la quantitat d'errors creix de forma paral·lela. És a dir, millorar el rendiment persuasiu sense deteriorar la veracitat es revela com un repte tècnic i ètic encara sense resoldre.
Aquest patró preocupa especialment en contextos de alta polarització política, com els que es viuen a Europa i Amèrica del Nord, on els marges de victòria són estrets i un grapat de punts percentuals poden decidir el resultat d'unes eleccions generals o presidencials.
Limitacions dels estudis i dubtes sobre l'impacte real a les urnes
Tot i que els resultats de Nature i Science són sòlids i coincideixen en les seves principals conclusions, tots dos equips insisteixen que es tracta d'experiments controlats i no de campanyes reals. Hi ha diversos elements que conviden a la cautela a l'hora d'extrapolar les dades tal qual a unes eleccions al carrer.
D'una banda, els participants es van inscriure de forma voluntària o van ser reclutats mitjançant plataformes en què s'ofereix una compensació econòmica, cosa que introdueix biaixos d'autoselecció i s'allunya de la diversitat de l'electorat real. A més, en tot moment sabien que estaven parlant amb una IA i que formaven part d´un estudi, condicions que difícilment es repetirien en una campanya ordinària.
Un altre matís important és que els treballs van mesurar principalment canvis en actituds i intencions declarades, no el vot efectiu a urna. Són indicadors útils, però no equivalen a observar el comportament final el dia de les eleccions. De fet, en els experiments nord-americans, l'efecte va ser una mica menor que al Canadà i Polònia, cosa que suggereix que el context polític i el grau d'indecisió prèvia influeixen de manera notable.
En el cas de l'estudi britànic coordinat per Kobi Hackenburg des de l'Institut de Seguretat d'IA del Regne Unit, també hi ha restriccions clares: les dades només provenen de votants del Regne Unit, tots ells conscients que participaven en una investigació acadèmica i amb compensació econòmica, cosa que limita la generalització a altres països de la UE oa contextos menys controlats.
Amb tot, l'escala d'aquests treballs —desenes de milers de participants i més de 700 temes polítics diferents— i la transparència metodològica han portat bona part de la comunitat acadèmica a considerar que dibuixen un escenari plausible: l'ús de chatbots polítics capaços d'alterar opinions amb relativa rapidesa ja no és una hipòtesi futurista, sinó un escenari tècnicament factible a les properes campanyes.
Un nou actor electoral per a Europa i altres democràcies
Més enllà dels casos específics dels EUA, Canadà, Polònia i el Regne Unit, les troballes tenen implicacions directes per a Europa i Espanya, on la regulació de la comunicació política a les xarxes socials i l'ús de dades personals en campanya ja són objecte de debat intens. La possibilitat d´incorporar chatbots que mantinguin diàlegs personalitzats amb els votants afegeix una capa de complexitat addicional.
Fins ara, la persuasió política s'articulava principalment a través de anuncis estàtics, mítings, debats televisats i xarxes socials. L'arribada d'assistents conversacionals introdueix un nou element: la capacitat de mantenir interaccions un a un, adaptades sobre la marxa a allò que el ciutadà va comptant en temps real, i tot això amb un cost pràcticament marginal per als organitzadors de campanya.
Els investigadors subratllen que la clau ja no és només qui controla la base de dades de votants, sinó qui pot desenvolupar models capaços de respondre, matisar i replicar arguments de forma contínua, amb un volum d'informació que excedeix de bon tros el que podria manejar un voluntari humà en una centraleta o en un lloc de carrer.
En aquest context, veus com la de l'expert italià Walter Quattrociocchi insisteixen que el focus regulador s'ha de desplaçar de la personalització agressiva o la segmentació ideològica cap a la densitat d'informació que els models poden subministrar. Els estudis mostren que la persuasió creix principalment quan es multipliquen les dades, no pas quan es recorre a estratègies emocionals.
La coincidència de resultats entre Nature i Science ha encès les alarmes en organismes europeus preocupats per la integritat dels processos democràtics. Tot i que la Unió Europea avança amb marcs com la Llei de Serveis Digitals o la futura regulació específica d'IA, la velocitat amb què evolucionen aquests models obliga a revisar de forma constant els mecanismes de supervisió, auditoria i transparència.
Alfabetització digital i defensa davant de la persuasió automàtica
Un dels missatges recurrents en els comentaris acadèmics que acompanyen aquests treballs és que la resposta no es pot basar únicament en prohibicions o en controls tècnics. Els autors coincideixen que serà imprescindible reforçar la alfabetització digital de la població perquè els ciutadans aprenguin a reconèixer i resistir la persuasió generada per sistemes automàtics.
Experiments complementaris, com els publicats a PNES Nexus, apunten que els usuaris que entenen millor com funcionen els grans models de llenguatge són menys vulnerables els intents d'influència. Saber que un chatbot es pot equivocar, exagerar o emplenar buits amb conjectures redueix la tendència a acceptar els missatges com si vinguessin d'una autoritat infal·lible.
Alhora, s'ha observat que l'eficàcia persuasiva de la IA no depèn tant que l'interlocutor cregui estar parlant amb un humà expert, sinó de la qualitat i consistència dels arguments que rep. En algunes proves, els missatges dels chatbots van aconseguir fins i tot reduir la creença en teories conspiratives, independentment de si els participants pensaven estar xatejant amb una persona o amb una màquina.
Això suggereix que la tecnologia en si no és intrínsecament perjudicial: es pot utilitzar tant per combatre la desinformació com per propagar-la. La línia la marquen les instruccions que se li donen al model, les dades amb què s'entrena i, sobretot, els objectius polítics o comercials dels que el posen en marxa.
Mentre els governs i els reguladors discuteixen límits i requisits de transparència, els autors d'aquests treballs insisteixen en una idea: els chatbots polítics només podran influir de forma massiva si la ciutadania accepta interactuar-hi. Per això el debat públic sobre el seu ús, el seu etiquetatge clar i el dret a no ser objecte de persuasió automatitzada es tornin qüestions centrals de la conversa democràtica en els propers anys.
El panorama que dibuixen les investigacions de Nature i Science mostra alhora oportunitats i riscos: els chatbots d'IA poden ajudar a explicar millor les polítiques públiques i resoldre dubtes complexos, però també tenen capacitat per inclinar la balança electoral, especialment entre votants indecisos, i ho fan amb un preu evident en termes de precisió de la informació quan se'ls entrena per esprémer el seu poder de convicció, un equilibri delicat que les democràcies hauran d'abordar amb urgència i sense ingenuïtat.
Sóc un apassionat de la tecnologia que ha convertit els seus interessos frikis en professió. Porto més de 10 anys de la meva vida utilitzant tecnologia d'avantguarda i traslladant tota mena de programes per pura curiositat. Ara he especialitzat en tecnologia d'ordinador i videojocs. Això és perquè des de fa més de 5 anys que treballo redactant per a diverses webs en matèria de tecnologia i videojocs, creant articles que busquen donar-te la informació que necessites amb un llenguatge comprensible per tothom.
Si tens qualsevol pregunta, els meus coneixements van des de tot allò relacionat amb el sistema operatiu Windows així com Android per a mòbils. I és que el meu compromís és amb tu, sempre estic disposat a dedicar-te uns minuts i ajudar-te a resoldre qualsevol dubte que tinguis a aquest món d'internet.