- Dous importantes estudos publicados en Nature e Science demostran que os chatbots políticos poden cambiar as actitudes e as intencións de voto en varios países.
- A persuasión baséase principalmente en ofrecer moitos argumentos e datos, aínda que aumenta o risco de información inexacta.
- Optimizar para influír fortalece o efecto persuasivo ata 25 puntos, pero reduce a veracidade das respostas.
- As conclusións abren un debate urxente en Europa e no resto das democracias sobre regulación, transparencia e alfabetización dixital.
A aparición do chatbots políticos Deixou de ser unha anécdota tecnolóxica converterse nun elemento que comeza a importar nas campañas electorais reais. Conversas duns poucos minutos con modelos de IA son suficientes para desprazar a simpatía cara a un candidato en varios puntos ou unha proposta concreta, algo que ata hai pouco só se asociaba a grandes campañas mediáticas ou a concentracións moi coordinadas.
Dúas investigacións de amplo alcance, publicadas simultaneamente en Natureza y ciencia, Puxéronlle números a algo que xa se sospeitaba.: o Os chatbots conversacionais son capaces de modificar as actitudes políticas dos cidadáns. con notable facilidade, mesmo cando saben que están a interactuar cunha máquina. E fano, sobre todo, a través argumentos cargados de informaciónnon tanto mediante tácticas psicolóxicas sofisticadas.
Chatbots en campañas: experimentos nos EUA, Canadá, Polonia e o Reino Unido
As novas evidencias proveñen dunha serie de experimentos coordinados por equipos do Universidade de Cornell e Universidade de Oxford, levadas a cabo durante os procesos electorais reais en Estados Unidos, Canadá, Polonia e Reino UnidoEn todos os casos, os participantes sabían que estarían a falar cunha IA, pero descoñecían a orientación política do chatbot que lles asignara.
No traballo dirixido por David Rand e publicado en Nature, miles de votantes participaron en breves diálogos con modelos lingüísticos configurados para para defender a un candidato específicoNas eleccións presidenciais dos Estados Unidos de 2024, por exemplo, 2.306 cidadáns Primeiro indicaron a súa preferencia entre Donald Trump y Kamala HarrisDespois foron asignados aleatoriamente a un chatbot que defendía a un dos dous.
Despois da conversa, medíronse os cambios de actitude e intención de voto. Os bots favorables a Harris conseguiron... cambio de 3,9 puntos nunha escala de 0 a 100 entre os votantes inicialmente aliñados con Trump, un impacto que os autores calculan como catro veces superior á da publicidade electoral convencional probado nas campañas de 2016 e 2020. O modelo pro-Trump tamén cambiou de posición, aínda que de forma máis moderada, cun cambio en 1,51 puntos entre os partidarios de Harris.
Os resultados en Canadá (con 1.530 participantes e chatbots defendendo Mark Carney o Pierre Poilievre) e dentro Polonia (2.118 persoas, con modelos que promovían Rafał Trzaskowski o Karol Nawrocki) foron aínda máis rechamantes: nestes contextos, os chatbots xestionaban cambios na intención de voto de ata 10 puntos porcentuais entre os votantes da oposición.
Un aspecto clave destes xuízos é que, aínda que a maioría das conversas duraron só uns minutos, Parte do efecto perdurou no tempoNos Estados Unidos, pouco máis dun mes despois do experimento, aínda se observaba unha fracción significativa do impacto inicial, a pesar da avalancha de mensaxes de campaña recibidas polos participantes durante ese período.
Que fai que un chatbot político sexa convincente (e por que iso xera máis erros)
Os investigadores querían comprender non só se os chatbots podían persuadir, senón tamén como o estaban conseguindo?O patrón que se repite nos estudos é claro: a IA ten a maior influencia cando Emprega moitos argumentos baseados en feitosmesmo se gran parte desa información non é particularmente sofisticada.
Nos experimentos coordinados por Rand, a instrución máis eficaz para os modelos foi pedirlles que fosen educado, respectuoso e que podería achegar probas das súas declaracións. A cortesía e un ton conversacional axudaron, pero a principal panca para o cambio residiu en ofrecer datos, exemplos, cifras e referencias constantes a políticas públicas, á economía ou á sanidade.
Cando os modelos tiñan acceso limitado a feitos verificables e se lles instruía para persuadir sen recorrer a datos concretosO seu poder de influencia diminuíu drasticamente. Este resultado levou aos autores a concluír que a vantaxe dos chatbots sobre outros formatos de propaganda política non reside tanto na manipulación emocional como na densidade de información que poden despregar en só unhas poucas quendas de conversa.
Pero esta mesma estratexia ten unha desvantaxe: a medida que aumenta a presión sobre os modelos para xerar afirmacións cada vez máis supostamente fácticasAumenta o risco de que o sistema esgote o material fiable e comece a feitos "inventados"En poucas palabras, o chatbot enche os ocos con datos que parecen plausibles pero que non son necesariamente correctos.
O estudo publicado en Science, con 76.977 adultos do Reino Unido y 19 modelos diferentes (desde pequenos sistemas de código aberto ata modelos comerciais de vangarda), confirma sistematicamente isto: o post-formación centrada na persuasión aumentou a capacidade de influenciar ata un 51%, mentres que os cambios sinxelos nas instrucións (os chamados pedindoEngadiron outro. 27% de eficiencia. Ao mesmo tempo, estas melloras foron acompañadas dunha redución notable na precisión factual.
Asimetrías ideolóxicas e o risco de desinformación
Unha das conclusións máis preocupantes dos estudos de Cornell e Oxford é que o desequilibrio entre a capacidade de persuasión e a veracidade non se distribúe uniformemente entre todos os candidatos e cargos. Cando verificadores de datos independentes analizaron as mensaxes xeradas polos chatbots, descubriron que As modelos que apoiaron aos candidatos da dereita cometeron máis erros que aqueles que apoiaban a candidatos progresistas.
Segundo os autores, isto asimetría Coincide con estudos previos que Demostran que os usuarios conservadores tenden a compartir contido máis inexacto nas redes sociais que os usuarios de esquerdas.Dado que os modelos lingüísticos aprenden de grandes cantidades de información extraída de Internet, é probable que reflictan parte dese sesgo en lugar de crealo desde cero.
En calquera caso, a consecuencia é a mesma: cando se lle indica a un chatbot que maximice o seu poder persuasivo a favor dun bloque ideolóxico en particular, o modelo tende a aumentar a proporción de afirmacións enganosas, aínda que sigo mesturándoos con moitos datos correctos. O problema non é só que poida filtrarse información falsa., pero Faino envolto nunha narrativa aparentemente razoable e ben documentada.
Os investigadores tamén salientan un punto incómodo: Non demostraron que as afirmacións inexactas sexan inherentemente máis persuasivas.Non obstante, cando se lle esixe á IA que sexa cada vez máis eficaz, o número de erros medra en paralelo. Noutras palabras, mellorar o rendemento persuasivo sen comprometer a precisión revélase como un desafío técnico e ético que segue sen resolverse.
Este patrón é especialmente preocupante en contextos de alta polarización política, como os que se experimentan nalgunhas partes de Europa e América do Norte, onde as marxes de vitoria son estreitas e un puñado de puntos porcentuais poden decidir o resultado dunhas eleccións xerais ou presidenciais.
Limitacións dos estudos e dúbidas sobre o impacto real nas urnas
Aínda que os resultados de Nature e Science son sólidos e coinciden nas súas principais conclusións, ambos equipos insisten en que Trátase de experimentos controlados, non de campañas reais.Hai varios elementos que invitan á precaución ao extrapolar os datos coma unhas eleccións na rúa.
Por unha banda, os participantes matriculáronse voluntariamente ou foron recrutados a través de plataformas que ofrecen compensación económica, o que introduce sesgos de autoselección e afástase da diversidade do electorado realAdemais, sabían en todo momento que Estaban falando cunha IA. e que formaban parte dun estudo, condicións que dificilmente se repetirían nunha campaña ordinaria.
Outro matiz importante é que os estudos medían principalmente cambios nas actitudes e nas intencións declaradasnon o voto real emitido. Estes son indicadores útiles, pero non equivalen a observar o comportamento final o día das eleccións. De feito, nos experimentos dos Estados Unidos, o efecto foi algo menor que no Canadá e en Polonia, o que suxire que o contexto político e o grao de indecisión previa inflúen significativamente.
No caso do estudo británico coordinado por Kobi Hackenburg Do Instituto de Seguridade da IA do Reino Unido, tamén hai restricións claras: os datos proceden só de votantes do Reino Unido, todos eles conscientes de que estaban a participar nunha investigación académica e con compensación económicaIsto limita a súa xeneralización a outros países da UE ou contextos menos controlados.
Non obstante, a escala destas obras (decenas de miles de participantes e máis de 700 temas políticos diferentes— e a transparencia metodolóxica levaron a unha gran parte da comunidade académica a considerar que Debuxan un escenario plausibleO uso de chatbots políticos capaces de alterar opinións con relativa rapidez xa non é unha hipótese futurista, senón un escenario tecnicamente viable en próximas campañas.
Un novo actor electoral para Europa e outras democracias
Máis alá dos casos específicos dos Estados Unidos, Canadá, Polonia e o Reino Unido, os achados teñen implicacións directas para Europa e Españaonde a regulación da comunicación política nas redes sociais e o uso de datos persoais nas campañas xa son obxecto dun intenso debate. A posibilidade de incorporar chatbots que manteñan diálogos personalizados cos votantes Engade unha capa adicional de complexidade.
Ata o de agora, a persuasión política articulábase principalmente a través de anuncios estáticos, mitins, debates televisados e redes sociaisA chegada dos asistentes de conversa introduce un novo elemento: a capacidade de manter interaccións individuais, adaptado sobre a marcha ao que di o cidadán en tempo real, e todo isto a un custo practicamente marxinal para os organizadores da campaña.
Os investigadores salientan que a clave xa non é só quen controla a base de datos de votantes, senón quen pode desenvolver modelos capaces de responder, refinar e replicar argumentos continuamente, cun volume de información que supera con creces o que un voluntario humano podería manexar nunha centralita ou nun poste de rúa.
Neste contexto, voces como a do experto italiano Walter Quattrociocchi Insisten en que o foco regulatorio debería pasar da personalización agresiva ou a segmentación ideolóxica a densidade de información que os modelos poden proporcionar. Os estudos amosan que a persuasión medra principalmente cando se multiplican os datos, non cando se empregan estratexias emocionais.
La A coincidencia de resultados entre Nature e Science xerou alarmas nas organizacións europeas preocupado pola integridade dos procesos democráticosAínda que a Unión Europea está a avanzar con marcos como a Lei de Servizos Dixitais ou a futura regulación específica da IA, a velocidade á que evolucionan estes modelos Require unha revisión constante dos mecanismos de supervisión, auditoría e transparencia..
Alfabetización dixital e defensa contra a persuasión automatizada
Unha das mensaxes recorrentes nos comentarios académicos que acompañan estas obras é que a resposta non pode basearse unicamente en prohibicións ou controis técnicos. Os autores coinciden en que será esencial reforzar o alfabetización dixital da poboación para que os cidadáns aprendan a recoñecer e resistir a persuasión xeradas por sistemas automáticos.
Experimentos complementarios, como os publicados en PNAS NexusSuxiren que os usuarios que mellor entenden como funcionan os modelos de linguaxe grande son menos vulnerables aos seus intentos de influencia. Saber que un chatbot pode equivocarse, esaxerar ou encher os ocos con conxecturas reduce a tendencia a aceptar as súas mensaxes coma se proviñesen dunha autoridade infalible.
Ao mesmo tempo, observouse que a eficacia persuasiva da IA non depende tanto de que o interlocutor crea que está a falar cun humano experto, senón de que... calidade e coherencia dos argumentos que recibe. Nalgunhas probas, as mensaxes do chatbot incluso conseguiron reducir a crenza nas teorías da conspiración, independentemente de se os participantes pensaban que estaban falando cunha persoa ou cunha máquina.
Isto suxire que a tecnoloxía en si non é inherentemente prexudicial: pódese usar para ambos combater a desinformación como para difundiloA liña delimitada vén dada polas instrucións que se lle dan ao modelo, os datos cos que se adestra e, sobre todo, os obxectivos políticos ou comerciais daqueles que o poñen en práctica.
Mentres os gobernos e os reguladores debaten os límites e os requisitos de transparencia, os autores destes traballos insisten nunha idea: chatbots políticos Só poderán exercer unha influencia masiva se o público acepta interactuar con eles.Polo tanto, o debate público sobre o seu uso, a súa clara etiquetaxe e o dereito a non ser sometido a persuasión automatizada converteranse en cuestións centrais na conversa democrática nos próximos anos.
O panorama que debuxa a investigación en Nature and Science revela tanto oportunidades como riscos: os chatbots de IA poden axudar a explicar mellor as políticas públicas e resolver dúbidas complexas, pero tamén poden... ter capacidade para para inclinar a balanza electoralespecialmente entre os votantes indecisos, e fano cunha prezo evidente en termos de precisión da información cando son adestrados para maximizar o seu poder persuasivo, un delicado equilibrio que as democracias terán que abordar con urxencia e sen inxenuidade.
Son un entusiasta da tecnoloxía que converteu os seus intereses "friki" nunha profesión. Levo máis de 10 anos da miña vida empregando tecnoloxía de punta e retocando todo tipo de programas por pura curiosidade. Agora especializeime en tecnoloxía informática e videoxogos. Isto débese a que dende hai máis de 5 anos levo escribindo para diversas webs sobre tecnoloxía e videoxogos, creando artigos que buscan darche a información que necesitas nun idioma comprensible para todos.
Se tes algunha dúbida, os meus coñecementos abarcan dende todo o relacionado co sistema operativo Windows e tamén con Android para teléfonos móbiles. E o meu compromiso é contigo, sempre estou disposto a dedicar uns minutos e axudarche a resolver calquera dúbida que teñas neste mundo de internet.