- Nature and Science aldizkarietako bi ikerketa garrantzitsuk frogatzen dute chatbot politikoek jarrerak eta botoa emateko asmoak alda ditzaketela hainbat herrialdetan.
- Pertsuasioa batez ere argumentu eta datu asko eskaintzean oinarritzen da, nahiz eta informazio okerra emateko arriskua areagotu.
- Eragiteko optimizatzeak 25 punturaino indartzen du konbentzitzeko efektua, baina erantzunen egiazkotasuna murrizten du.
- Emaitzek premiazko eztabaida bat irekitzen dute Europan eta gainerako demokrazietan araudiari, gardentasunari eta alfabetatze digitalari buruz.
-ren eztanda. txatbot politikoak Teknologiaren anekdota izateari utzi dio benetako hauteskunde kanpainetan garrantzia hartzen hasten den elementu bihurtzea. IA modeloekin minutu gutxiko elkarrizketak nahikoa dira hautagai batenganako sinpatia hainbat puntutan aldatu edo proposamen zehatz bat, duela gutxi arte komunikabideetako kanpaina handiekin edo manifestazio oso koordinatuekin bakarrik lotzen zen zerbait.
Bi ikerketa sakon, aldi berean argitaratuak Natura y Zientzia, Zenbakiak jarri dizkiote lehendik susmagarria zen zerbaiti.-(e)k Elkarrizketa-txatbotak gai dira herritarren jarrera politikoak aldatzeko. erraztasun handiz, makina batekin elkarreragiten ari direla jakinda ere. Eta hori egiten dute, batez ere, honen bidez informazioz betetako argudioakez hainbeste taktika psikologiko sofistikatuen bidez.
Txatbotak kanpainetan: esperimentuak AEBn, Kanadan, Polonian eta Erresuma Batuan
Froga berriak taldeek koordinatutako esperimentu sorta batetik datoz. Cornell Unibertsitatea eta -ren Oxfordeko Unibertsitateabenetako hauteskunde prozesuetan zehar egina Ameriketako Estatu Batuak, Kanada, Polonia eta Erresuma BatuaKasu guztietan, parte-hartzaileek bazekiten IA batekin hitz egingo zutela, baina ez zekiten esleitutako chatbot-aren orientazio politikoaz.
-k zuzendutako lanean. David Rand eta Nature aldizkarian argitaratua, milaka hauteslek elkarrizketa laburrak izan zituzten konfiguratutako hizkuntza-ereduekin hautagai jakin bat defendatzekoAdibidez, 2024ko AEBetako presidentetzarako hauteskundeetan, 2.306 herritar Lehenik eta behin, haien lehentasuna adierazi zuten Donald Trump y Kamala HarrisOndoren, ausaz esleitu zitzaizkien bietako bat defendatzen zuen chatbot bati.
Elkarrizketaren ondoren, jarreraren eta botoa emateko asmoaren aldaketak neurtu ziren. Harris-en aldeko bot-ek lortu zuten 3,9 puntuko aldaketa 0tik 100era bitarteko eskalan, hasieran Trumpekin lerrokatutako boto-emaileen artean, egileek honela kalkulatzen duten eragina hauteskunde-iragarki konbentzionalarena baino lau aldiz handiagoa 2016ko eta 2020ko kanpainetan probatu zen. Trumpen aldeko ereduak ere posizioak aldatu zituen, neurritsuago bada ere, aldaketa batekin 1,51 puntu Harrisen jarraitzaileen artean.
Emaitzak hemen Kanada (batera 1.530 parte-hartzaile eta chatbot-ak defendatzen Mark Carney o Pierre Poilievre) eta barruan Polonia (2.118 pertsona, sustatu zuten modeloekin) Rafał Trzaskowski o Karol Nawrocki) are deigarriagoak ziren: testuinguru hauetan, txatbotek kudeatzen zuten boto-asmoan %10eko aldaketak gehienez oposizioko boto-emaileen artean.
Entsegu hauen alderdi gako bat da, elkarrizketa gehienek minutu gutxi batzuk baino ez zituztela iraun, Efektuaren zati bat denboran zehar iraun zuenEstatu Batuetan, esperimentua egin eta hilabete bat baino pixka bat gehiago igaro ondoren, hasierako eraginaren zati esanguratsu bat oraindik ikusten zen, parte-hartzaileek aldi horretan jasotako kanpaina-mezuen elur-jausia gorabehera.
Zerk egiten du chatbot politiko bat sinesgarria (eta zergatik sortzen dituen errore gehiago)
Ikertzaileek ez zuten jakin nahi chatbot-ek konbentzitzeko gai ziren ala ez bakarrik, baizik eta nola lortzen ari zirenIkerketetan errepikatzen den eredua argia da: IAk eragin handiena du... Egiatan oinarritutako argudio asko erabiltzen dituinformazio horren zati handi bat ez bada ere bereziki sofistikatua.
Randek koordinatutako esperimentuetan, modeloentzako argibiderik eraginkorrena eskatzea izan zen... adeitsua, errespetuzkoa eta frogak eman zitzakeena bere adierazpenen. Kortesia eta elkarrizketa-tonua lagungarriak izan ziren, baina aldaketarako palanka nagusia datuak, adibideak, zifrak eta politika publikoei, ekonomiari edo osasungintzari buruzko etengabeko erreferentziak eskaintzean zetzan.
Modeloek egiaztagarri diren datuetarako sarbidea mugatua zutenean eta konbentzitzeko agindua jaso zutenean datu zehatzetara jo gabeHaien eragin-ahalmena izugarri jaitsi zen. Emaitza honek egileei ondorioztatu zien chatboten abantaila propaganda politikoaren beste formatuekiko ez dagoela hainbeste manipulazio emozionalean, baizik eta... informazio dentsitatea elkarrizketa txanda gutxi batzuetan zabaldu ditzaketenak.
Baina estrategia berak alde txar bat du: modeloen gaineko presioa handitzen den heinean, sortzeko gero eta ustezko baieztapen faktikoagoakArriskua handitzen da sistemak material fidagarririk gabe geratzeko eta hasten den "Asmatu" gertaerakLaburbilduz, chatbot-ak hutsuneak sinesgarriak diruditen baina ez nahitaez zuzenak diren datuekin betetzen ditu.
Zientzia aldizkarian argitaratutako ikerketa, honekin batera Erresuma Batuko 76.977 heldu y 19 eredu ezberdin (iturri irekiko sistema txikietatik hasi eta punta-puntako eredu komertzialetaraino), sistematikoki baieztatzen du hau: pertsuasioan oinarritutako prestakuntza ostekoa eragiteko gaitasuna handitu zuen %51, argibideetan aldaketa sinpleak egitean (deiturikoak bultzadaBeste bat gehitu zuten. %27 eraginkortasunaren. Aldi berean, hobekuntza hauekin batera, nabarmen murriztu zen zehaztasun faktikoa.
Asimetria ideologikoak eta desinformazioaren arriskua
Cornell eta Oxfordeko ikerketen ondorio kezkagarrienetako bat da konbentzitzeko gaitasunaren eta egiazkotasunaren arteko desoreka ez dagoela modu uniformean banatuta hautagai eta posizio guztien artean. Egiaztatzaile independenteek chatbot-ek sortutako mezuak aztertu zituztenean, aurkitu zuten... Eskuineko hautagaiak babesten zituzten modeloek akats gehiago egin zituzten hautagai progresistak babesten zituztenak baino.
Egileen arabera, hau asimetria Aurreko ikerketekin bat dator, eta horrek dio Erakusten dute erabiltzaile kontserbadoreek ezkerreko erabiltzaileek baino eduki zehaztugabe gehiago partekatzen dutela sare sozialetan.Hizkuntza-ereduek internetetik ateratako informazio kopuru handietatik ikasten dutenez, litekeena da alborapen horren zati bat islatzea, hutsetik sortu beharrean.
Nolanahi ere, ondorioa berdina da: chatbot bati bloke ideologiko jakin baten alde bere konbentzitzeko ahalmena maximizatzeko agindua ematen zaionean, ereduak... erreklamazio engainagarrien proportzioa handitu, nahiz eta datu zuzen askorekin nahasten jarraitzen dudan. Arazoa ez da informazio faltsua igaro daitekeela bakarrik.baina Itxuraz arrazoizko eta ondo dokumentatutako narrazio batean bilduta egiten du hori..
Ikertzaileek puntu deseroso bat ere nabarmendu dute: Ez dute frogatu baieztapen okerrak berez konbentzigarriagoak direnik.Hala ere, IA gero eta eraginkorragoa izatera bultzatzen denean, errore kopurua aldi berean hazten da. Beste era batera esanda, zehaztasuna arriskuan jarri gabe konbentzitzeko errendimendua hobetzea konpondu gabe dagoen erronka tekniko eta etiko gisa agertzen da.
Eredu hau bereziki kezkagarria da testuinguru hauetan polarizazio politiko handia, Europako eta Ipar Amerikako zenbait tokitan bizi direnen antzera, non garaipen-marjinak estuak diren eta ehuneko puntu gutxi batzuek erabaki dezaketen hauteskunde orokor edo presidentzialen emaitza.
Ikasketen mugak eta hauteskunde-kutxetan izango duten benetako eraginari buruzko zalantzak
Nature and Science-ren emaitzak sendoak diren eta ondorio nagusietan bat datozen arren, bi taldeek diote Hauek kontrolatutako esperimentuak dira, ez benetako kanpainak.Hainbat elementu daude gonbidatzen dutenak kontuz datuak estrapolatzerakoan kaleko hauteskundeak bezala.
Alde batetik, parte-hartzaileak borondatez eman ziren izena edo konpentsazio ekonomikoa eskaintzen duten plataformen bidez kontratatu ziren, eta horrek aurkezten du autohautaketa-alborapenak eta hautesle-erresumaren aniztasunetik aldentzen daGainera, uneoro bazekiten IA batekin hizketan ari ziren. eta ikerketa baten parte zirenak, kanpaina arrunt batean nekez errepikatuko liratekeen baldintzak.
Beste ñabardura garrantzitsu bat da ikerketek batez ere neurtu zutela jarrera eta adierazitako asmoen aldaketakez emandako boto erreala. Adierazle erabilgarriak dira, baina ez dira hauteskunde egunean azken portaera behatzearen baliokideak. Izan ere, AEBetako esperimentuetan, eragina Kanadan eta Polonian baino txikiagoa izan zen, eta horrek iradokitzen du testuinguru politikoak eta aurreko erabakigabetasun mailak eragin handia dutela.
Britainiar ikerketaren kasuan, koordinatua Kobi Hackenburg Erresuma Batuko AI Segurtasun Institutuak ere murrizketa argiak ditu: datuak hemendik bakarrik datoz Erresuma Batuko hautesleek, denak jakinda ikerketa akademiko batean parte hartzen ari zirela eta kalte-ordain ekonomikoaHorrek EBko beste herrialde batzuetara edo testuinguru gutxiago kontrolatuetara orokortzea mugatzen du.
Hala ere, lan hauen eskala —hamarnaka mila parte-hartzaile eta gehiago— 700 gai politiko desberdin— eta metodologia-gardentasunak komunitate akademikoaren zati handi bat pentsarazi dute Eszenatoki sinesgarri bat margotzen duteIritziak nahiko azkar aldatzeko gai diren chatbot politikoen erabilera ez da jada hipotesi futurista bat, baizik eta datozen kanpainetan teknikoki bideragarria den eszenatoki bat.
Europarako eta beste demokrazia batzuetarako hauteskunde-jokalari berria
AEB, Kanada, Polonia eta Erresuma Batuko kasu zehatzez harago, aurkikuntzek ondorio zuzenak dituzte Europa eta Espainianon sare sozialetako komunikazio politikoaren erregulazioa eta kanpainetan datu pertsonalen erabilera dagoeneko eztabaida biziaren gaia diren. mantentzen dituzten chatbot-ak txertatzeko aukera hautesleekin elkarrizketa pertsonalizatuak Konplexutasun geruza gehigarri bat gehitzen dio.
Orain arte, konbentzimendu politikoa batez ere honen bidez artikulatzen zen iragarki estatikoak, mitinak, telebistako eztabaidak eta sare sozialakElkarrizketa-laguntzaileen etorrerak elementu berri bat dakar: mantentzeko gaitasuna banakako interakzioak, herritarrak denbora errealean esaten duenera berehala egokituta, eta hau guztia kanpainaren antolatzaileentzat kostu ia marjinal batean.
Ikertzaileek azpimarratzen dute gakoa ez dela jada hautesleen datu-basea nork kontrolatzen duen bakarrik, baizik eta nork kontrola dezakeen... Argudioei erantzuteko, fintzeko eta errepikatzeko gai diren ereduak garatu etengabe, boluntario batek zentralita edo kaleko poste batean kudea dezakeena baino askoz gehiago den informazio-bolumenarekin.
Testuinguru honetan, italiar adituaren ahotsak bezalakoak Walter Quattrociocchi Araudiaren fokua pertsonalizazio oldarkorretik edo segmentazio ideologikotik aldatu behar dela azpimarratzen dute. informazio dentsitatea ereduek eman dezaketena. Ikerketek erakusten dute pertsuasioa batez ere datuak biderkatzen direnean hazten dela, ez estrategia emozionalak erabiltzen direnean.
La Nature eta Science-ren emaitzen bat-etortzeak alarma piztu du Europako erakundeetan kezkatuta. prozesu demokratikoen osotasunaEuropar Batasunak aurrerapausoak ematen ari den arren Zerbitzu Digitalen Legea edo etorkizuneko IAren erregulazio espezifikoa bezalako esparruekin, eredu horiek eboluzionatzen duten abiadura Gainbegiratze, auditoria eta gardentasun mekanismoen etengabeko berrikuspena eskatzen du..
Alfabetizazio digitala eta pertsuasio automatizatuaren aurkako defentsa
Lan hauekin batera doazen iruzkin akademikoetan behin eta berriz agertzen den mezuetako bat da erantzuna ezin dela debekuetan edo kontrol teknikoetan soilik oinarritu. Egileek bat datoz ezinbestekoa izango dela indartzea alfabetatze digitala biztanleriaren artean, herritarrek ikas dezaten persuasioa ezagutu eta eutsi sistema automatikoek sortutakoak.
Osagarri diren esperimentuak, argitaratutakoak bezalakoak PNAS NexusHizkuntza-eredu handien funtzionamendua hobekien ulertzen duten erabiltzaileak direla iradokitzen dute ahul gutxiago bere eragiteko ahaleginei. Chatbot bat oker egon daitekeela, gehiegikeriak egin ditzakeela edo hutsuneak asmakizunekin bete ditzakeela jakiteak murrizten du haren mezuak agintaritza hutsezin batetik etorri balira bezala onartzeko joera.
Aldi berean, ikusi da IAren eraginkortasun konbentzitzailea ez dagoela hainbeste solaskideak aditu batekin hitz egiten ari dela ustearen menpe, baizik eta argudioen kalitatea eta koherentzia jasotzen dituenak. Proba batzuetan, chatbot-en mezuak ere lortu zuten konspirazio teorietan sinesmena gutxitzea, parte-hartzaileek pertsona batekin edo makina batekin txateatzen ari zirela uste zuten kontuan hartu gabe.
Horrek iradokitzen du teknologia bera ez dela berez kaltegarria: bietarako erabil daiteke desinformazioari aurre egiteko zabaltzeko bezala.Lerroa modeloari emandako argibideek, entrenatzeko erabili diren datuek eta, batez ere, martxan jartzen dutenen helburu politiko edo komertzialek marrazten dute.
Gobernuek eta erregulatzaileek gardentasunaren mugak eta eskakizunak eztabaidatzen dituzten bitartean, lan hauen egileek ideia bakar batean azpimarratzen dute: txatbot politikoak Jendeak eurekin elkarreragiteko baimena ematen badu bakarrik izango dute eragin handia.Beraz, haren erabilerari, etiketatze argiari eta pertsuasio automatizatuaren menpe ez egoteko eskubideari buruzko eztabaida publikoa gai zentral bihurtuko dira datozen urteetako elkarrizketa demokratikoan.
Nature and Science aldizkarian argitaratutako ikerketak margotutako irudiak aukerak eta arriskuak agerian uzten ditu: adimen artifizialaren txatbotek politika publikoak hobeto azaltzen eta zalantza konplexuak konpontzen lagun dezakete, baina baita ere... izateko gaitasuna dute hauteskunde balantza aldaraztekobatez ere erabaki gabeko hautesleen artean, eta horrela egiten dute informazioaren zehaztasunari dagokionez prezio agerikoa, beren konbentzitzeko ahalmena maximizatzeko trebatzen direnean, demokraziek premiaz eta inozokeriarik gabe jorratu beharko duten oreka delikatua.
Bere "geek" interesak lanbide bihurtu dituen teknologia zalea naiz. Nire bizitzako 10 urte baino gehiago eman ditut punta-puntako teknologia erabiltzen eta era guztietako programak moldatzen jakin-min hutsagatik. Orain informatikako teknologian eta bideo-jokoetan espezializatu naiz. Izan ere, 5 urte baino gehiago daramatzadala teknologia eta bideo-jokoen inguruko hainbat webgunetan idazten, denontzat ulergarria den hizkuntza batean behar duzun informazioa eman nahi duten artikuluak sortzen.
Zalantzarik baduzu, nire ezagutza Windows sistema eragilearekin zerikusia duen guztia eta baita telefono mugikorretarako Android ere barne hartzen du. Eta nire konpromisoa zurekin da, beti prest nago minutu batzuk pasatzeko eta Interneteko mundu honetan izan ditzakezun zalantzak konpontzen laguntzeko.