- Żewġ studji ewlenin f’Nature and Science juru li ċ-chatbots politiċi jistgħu jibdlu l-attitudnijiet u l-intenzjonijiet tal-vot f’diversi pajjiżi.
- Il-persważjoni hija bbażata primarjament fuq l-offerta ta' ħafna argumenti u dejta, għalkemm iżżid ir-riskju ta' informazzjoni mhux preċiża.
- L-ottimizzazzjoni biex tinfluwenza ssaħħaħ l-effett persważiv sa 25 punt, iżda tnaqqas il-verità tat-tweġibiet.
- Is-sejbiet jiftħu dibattitu urġenti fl-Ewropa u fil-bqija tad-demokraziji dwar ir-regolamentazzjoni, it-trasparenza u l-litteriżmu diġitali.
Il-feġġ tal- chatbots politiċi Ma baqax aneddotu teknoloġiku biex isir element li qed jibda jkun importanti f'kampanji elettorali reali. Konversazzjonijiet ta' ftit minuti biss ma' mudelli tal-AI huma biżżejjed biex ibdel is-simpatija lejn kandidat b'diversi punti jew proposta konkreta, xi ħaġa li sa ftit ilu kienet assoċjata biss ma’ kampanji kbar tal-midja jew ma’ rallies ikkoordinati ħafna.
Żewġ investigazzjonijiet estensivi, ippubblikati simultanjament fi natura y xjenza, Poġġew numri għal xi ħaġa li diġà kienet suspettata.: il Iċ-chatbots konversazzjonali huma kapaċi jimmodifikaw l-attitudnijiet politiċi taċ-ċittadini. b'faċilità notevoli, anke meta jkunu jafu li qed jinteraġixxu ma' magna. U jagħmlu dan, fuq kollox, permezz ta' argumenti mgħobbija b'informazzjonimhux daqstant permezz ta’ tattiċi psikoloġiċi sofistikati.
Chatbots f'kampanji: esperimenti fl-Istati Uniti, il-Kanada, il-Polonja u r-Renju Unit
L-evidenza l-ġdida ġejja minn sensiela ta’ esperimenti kkoordinati minn timijiet mill- Cornell University u Università ta 'Oxford, imwettqa waqt proċessi elettorali attwali fi L-Istati Uniti, il-Kanada, il-Polonja u r-Renju UnitFil-każijiet kollha, il-parteċipanti kienu jafu li se jkunu qed jitkellmu ma' AI, iżda ma kinux konxji tal-orjentazzjoni politika taċ-chatbot assenjat lilhom.
Fix-xogħol immexxi minn David Rand u ppubblikati f'Nature, eluf ta' votanti għaddew minn djalogi qosra b'mudelli lingwistiċi kkonfigurati biex biex tiddefendi kandidat speċifikuFl-elezzjoni presidenzjali tal-Istati Uniti tal-2024, pereżempju, 2.306 ċittadin L-ewwel indikaw il-preferenza tagħhom bejn Donald Trump y Kamala HarrisImbagħad ġew assenjati b'mod każwali lil chatbot li ddefenda lil wieħed mit-tnejn.
Wara l-konverżazzjoni, tkejlu l-bidliet fl-attitudni u l-intenzjoni tal-vot. Inkiseb bots favorevoli għal Harris bidla ta' 3,9 punti fuq skala minn 0 sa 100 fost il-votanti inizjalment allinjati ma’ Trump, impatt li l-awturi jikkalkulaw bħala erba’ darbiet ogħla minn dak tar-reklamar elettorali konvenzjonali ittestjat fil-kampanji tal-2016 u l-2020. Il-mudell favur Trump ukoll biddel il-pożizzjonijiet tiegħu, għalkemm b'mod aktar moderat, b'bidla fi 1,51 punti fost il-partitarji ta’ Harris.
Ir-riżultati fi Kanada (b ' 1.530 parteċipanti u chatbots li jiddefendu Mark Carney o Pierre Poilievre) u fi Polonia (2.118-il persuna, b'mudelli li ppromwovew Rafał Trzaskowski o Karol Nawrocki) kienu saħansitra aktar impressjonanti: f'dawn il-kuntesti, iċ-chatbots irnexxielhom bidliet fl-intenzjoni tal-vot sa 10 punti perċentwali fost il-votanti tal-oppożizzjoni.
Aspett ewlieni ta’ dawn il-provi huwa li, għalkemm il-biċċa l-kbira tal-konversazzjonijiet damu biss ftit minuti, Parti mill-effett dam maż-żmienFl-Istati Uniti, ftit aktar minn xahar wara l-esperiment, frazzjoni sinifikanti tal-impatt inizjali xorta ġiet osservata, minkejja l-valanga ta’ messaġġi tal-kampanja li rċevew il-parteċipanti matul dak il-perjodu.
X'jagħmel chatbot politiku konvinċenti (u għaliex dan jiġġenera aktar żbalji)
Ir-riċerkaturi riedu jifhmu mhux biss jekk iċ-chatbots jistgħux jipperswadu, iżda kif kienu qed jiksbuhaIx-xejra li tirrepeti ruħha fl-istudji hija ċara: L-AI għandha l-akbar influwenza meta Juża ħafna argumenti bbażati fuq il-fattianke jekk ħafna minn dik l-informazzjoni mhijiex partikolarment sofistikata.
Fl-esperimenti kkoordinati minn Rand, l-aktar istruzzjoni effettiva għall-mudelli kienet li jintalbu jkunu edukat, rispettuż, u li jista' jipprovdi evidenza tad-dikjarazzjonijiet tiegħu. Il-kortesija u t-ton konverżazzjonali għenu, iżda l-lieva ewlenija għall-bidla kienet li jiġu offruti dejta, eżempji, figuri, u referenzi kostanti għal politiki pubbliċi, l-ekonomija, jew il-kura tas-saħħa.
Meta l-mudelli kienu limitati fl-aċċess tagħhom għal fatti verifikabbli u ngħataw struzzjonijiet biex jipperswadu mingħajr ma nirrikorru għal dejta konkretaIl-poter ta’ influwenza tagħhom naqas drastikament. Dan ir-riżultat wassal lill-awturi biex jikkonkludu li l-vantaġġ taċ-chatbots fuq formati oħra ta’ propaganda politika ma tantx jinsab fil-manipulazzjoni emozzjonali daqs kemm fil-fatt densità tal-informazzjoni li jistgħu jużaw fi ftit dawriet ta' konverżazzjoni.
Iżda din l-istess strateġija għandha żvantaġġ: hekk kif tiżdied il-pressjoni fuq il-mudelli biex jiġġeneraw stqarrijiet dejjem aktar supposti fattwaliJiżdied ir-riskju li s-sistema tispiċċa mingħajr materjal affidabbli u tibda fatti "ivvinta"Fi kliem sempliċi, iċ-chatbot jimla l-vojt b'dejta li tinstema' plawżibbli iżda mhux neċessarjament korretta.
L-istudju ppubblikat f’Science, flimkien ma’ 76.977 adult mir-Renju Unit y 19 mudelli differenti (minn sistemi żgħar open-source għal mudelli kummerċjali avvanzati), dan jikkonferma dan b'mod sistematiku: il- wara t-taħriġ iffukat fuq il-persważjoni żiedet il-kapaċità li tinfluwenza sa 51%, filwaqt li bidliet sempliċi fl-istruzzjonijiet (l-hekk imsejħa prontHuma żiedu ieħor 27% ta' effiċjenza. Fl-istess ħin, dawn it-titjibiet kienu akkumpanjati minn tnaqqis notevoli fil- preċiżjoni fattwali.
Asimmetriji ideoloġiċi u r-riskju ta' diżinformazzjoni
Waħda mill-aktar konklużjonijiet inkwetanti tal-istudji ta’ Cornell u Oxford hija li l-iżbilanċ bejn il-persważività u l-verità mhuwiex imqassam b’mod ugwali fost il-kandidati u l-pożizzjonijiet kollha. Meta verifikaturi indipendenti tal-fatti analizzaw il-messaġġi ġġenerati miċ-chatbots, sabu li Mudelli li appoġġjaw kandidati tal-lemin għamlu aktar żbalji milli dawk li appoġġjaw kandidati progressivi.
Skont l-awturi, dan assimetrija Jikkoinċidi ma' studji preċedenti li Juru li l-utenti konservattivi għandhom it-tendenza li jaqsmu kontenut aktar mhux preċiż fuq il-midja soċjali milli utenti li jxaqilbu lejn ix-xellug.Peress li l-mudelli lingwistiċi jitgħallmu minn ammonti vasti ta' informazzjoni estratta mill-internet, x'aktarx li qed jirriflettu ftit minn dak il-preġudizzju aktar milli joħolquh mill-bidu.
Fi kwalunkwe każ, il-konsegwenza hija l-istess: meta chatbot jingħata struzzjonijiet biex jimmassimizza l-qawwa persważiva tiegħu favur blokk ideoloġiku partikolari, il-mudell għandu t-tendenza li iżidu l-proporzjon ta’ stqarrijiet qarrieqa, għalkemm inkompli nħallathom ma' ħafna dejta korretta. Il-problema mhix biss li informazzjoni falza tista' tiżloq., iżda Jagħmel dan imgeżwer f'narrattiva apparentement raġonevoli u dokumentata sew..
Ir-riċerkaturi jenfasizzaw ukoll punt skomdu: Ma wrewx li stqarrijiet mhux preċiżi huma inerentement aktar persważivi.Madankollu, meta l-IA tiġi mbuttata biex issir dejjem aktar effettiva, l-għadd ta’ żbalji jikber b’mod parallel. Fi kliem ieħor, it-titjib tal-prestazzjoni persważiva mingħajr ma tiġi kompromessa l-eżattezza juri ruħu bħala sfida teknika u etika li tibqa’ mhux solvuta.
Dan ix-xejra hija partikolarment ta’ tħassib f’kuntesti ta’ polarizzazzjoni politika għolja, bħal dawk esperjenzati f'partijiet tal-Ewropa u l-Amerika ta' Fuq, fejn il-marġini tar-rebħa huma dojoq u numru żgħir ta' punti perċentwali jistgħu jiddeċiedu r-riżultat ta' elezzjoni ġenerali jew presidenzjali.
Limitazzjonijiet tal-istudji u dubji dwar l-impatt reali fil-kaxxa tal-voti
Għalkemm ir-riżultati minn Nature and Science huma sodi u jaqblu fil-konklużjonijiet ewlenin tagħhom, iż-żewġ timijiet jinsistu li Dawn huma esperimenti kkontrollati, mhux kampanji reali.Hemm diversi elementi li jistiednu l- kawtela meta testrapola d-dejta eżatt bħal elezzjoni fit-triq.
Minn naħa waħda, il-parteċipanti jew irreġistraw volontarjament jew ġew reklutati permezz ta’ pjattaformi li joffru kumpens finanzjarju, li jintroduċi preġudizzji ta' awtoselezzjoni u jitbiegħed mid-diversità tal-elettorat attwaliBarra minn hekk, huma kienu jafu f'kull ħin li Kienu qed jitkellmu ma' AI. u li kienu parti minn studju, kundizzjonijiet li bilkemm jiġu ripetuti f'kampanja ordinarja.
Sfumatura importanti oħra hija li l-istudji primarjament kejlu bidliet fl-attitudnijiet u l-intenzjonijiet iddikjaratimhux il-vot attwali mitfugħ. Dawn huma indikaturi utli, iżda mhumiex ekwivalenti għall-osservazzjoni tal-imġiba finali f'jum l-elezzjoni. Fil-fatt, fl-esperimenti tal-Istati Uniti, l-effett kien kemmxejn iżgħar milli fil-Kanada u l-Polonja, u dan jissuġġerixxi li l-kuntest politiku u l-grad ta' indeċiżjoni preċedenti għandhom influwenza sinifikanti.
Fil-każ tal-istudju Brittaniku kkoordinat minn Kobi Hackenburg Mill-Istitut tas-Sigurtà tal-IA tar-Renju Unit, hemm ukoll restrizzjonijiet ċari: id-dejta ġejja biss minn votanti tar-Renju Unit, kollha konxji li kienu qed jipparteċipaw f'investigazzjoni akkademika u bi kumpens ekonomikuDan jillimita l-ġeneralizzazzjoni tagħha għal pajjiżi oħra tal-UE jew kuntesti inqas ikkontrollati.
Madankollu, l-iskala ta’ dawn ix-xogħlijiet—għexieren ta’ eluf ta’ parteċipanti u aktar minn 700 suġġett politiku differenti— u t-trasparenza metodoloġika wasslu lil parti kbira tal-komunità akkademika biex tikkunsidra li Huma jpinġu xenarju plawżibbliL-użu ta' chatbots politiċi kapaċi li jbiddlu l-opinjonijiet relattivament malajr m'għadux ipoteżi futuristika, iżda xenarju teknikament fattibbli f'kampanji li ġejjin.
Attur elettorali ġdid għall-Ewropa u demokraziji oħra
Lil hinn mill-każijiet speċifiċi tal-Istati Uniti, il-Kanada, il-Polonja, u r-Renju Unit, is-sejbiet għandhom implikazzjonijiet diretti għal Ewropa u Spanjafejn ir-regolamentazzjoni tal-komunikazzjoni politika fuq il-midja soċjali u l-użu tad-dejta personali fil-kampanji diġà huma s-suġġett ta’ dibattitu intens. Il-possibbiltà li jiġu inkorporati chatbots li jżommu djalogi personalizzati mal-votanti Iżżid saff ieħor ta' kumplessità.
S’issa, il-persważjoni politika kienet primarjament artikolata permezz ta’ reklami statiċi, rallies, dibattiti televiżivi, u midja soċjaliIl-wasla tal-assistenti konversazzjonali tintroduċi element ġdid: il-ħila li żżomm interazzjonijiet one-on-one, adattat immedjatament għal dak li ċ-ċittadin ikun qed jgħid f'ħin reali, u dan kollu bi spiża prattikament marġinali għall-organizzaturi tal-kampanja.
Ir-riċerkaturi jenfasizzaw li ċ-ċavetta m'għadhiex biss min jikkontrolla d-database tal-votanti, iżda min jista' jiżviluppaw mudelli kapaċi jirrispondu għal, jirfinaw, u jirreplikaw argumenti kontinwament, b'volum ta' informazzjoni li jaqbeż bil-bosta dak li voluntier uman jista' jimmaniġġja f'swiċċbord jew posta fit-triq.
F'dan il-kuntest, vuċijiet bħal dik tal-espert Taljan Walter Quattrociocchi Huma jinsistu li l-fokus regolatorju għandu jinbidel minn personalizzazzjoni aggressiva jew segmentazzjoni ideoloġika għal densità tal-informazzjoni li l-mudelli jistgħu jipprovdu. Studji juru li l-persważjoni tikber primarjament meta d-dejta tiġi mmultiplikata, mhux meta jintużaw strateġiji emozzjonali.
La Il-koinċidenza tar-riżultati bejn Nature u Science qajmet allarm f'organizzazzjonijiet Ewropej. imħasseb dwar l-integrità tal-proċessi demokratiċiGħalkemm l-Unjoni Ewropea qed tagħmel progress b'oqfsa bħall-Att dwar is-Servizzi Diġitali jew ir-regolamentazzjoni speċifika futura tal-IA, il-veloċità li biha dawn il-mudelli jevolvu Jeħtieġ reviżjoni kostanti tal-mekkaniżmi għas-superviżjoni, l-awditjar u t-trasparenza..
Litteriżmu diġitali u difiża kontra l-persważjoni awtomatizzata
Wieħed mill-messaġġi rikorrenti fil-kummentarji akkademiċi li jakkumpanjaw dawn ix-xogħlijiet huwa li r-rispons ma jistax ikun ibbażat biss fuq projbizzjonijiet jew kontrolli tekniċi. L-awturi jaqblu li se jkun essenzjali li jissaħħaħ il- litteriżmu diġitali tal-popolazzjoni sabiex iċ-ċittadini jitgħallmu agħraf u tirreżisti l-persważjoni iġġenerati minn sistemi awtomatiċi.
Esperimenti komplementari, bħal dawk ippubblikati f’ PNAS NexusHuma jissuġġerixxu li l-utenti li jifhmu l-aħjar kif jaħdmu mudelli lingwistiċi kbar huma inqas vulnerabbli għat-tentattivi tiegħu ta’ influwenza. Li tkun taf li chatbot jista’ jkun żbaljat, jeżaġera, jew jimla l-vojt b’suppożizzjonijiet inaqqas it-tendenza li jiġu aċċettati l-messaġġi tiegħu bħallikieku ġew minn awtorità infallibli.
Fl-istess ħin, ġie osservat li l-effettività persważiva tal-IA ma tiddependix tant fuq il-fatt li l-interlokutur jemmen li qed ikellem bniedem espert, iżda fuq il-fatt li il-kwalità u l-konsistenza tal-argumenti li jirċievi. F'xi testijiet, il-messaġġi taċ-chatbot saħansitra rnexxielhom tnaqqas it-twemmin fit-teoriji tal-konspirazzjoni, irrispettivament minn jekk il-parteċipanti ħasbux li kienu qed jiċċettjaw ma' persuna jew ma' magna.
Dan jissuġġerixxi li t-teknoloġija nnifisha mhijiex intrinsikament ta’ ħsara: tista’ tintuża kemm għal tiġġieled l-informazzjoni ħażina biex jippropagawhaIl-linja tinġibed mill-istruzzjonijiet mogħtija lill-mudell, id-dejta li biha jiġi mħarreġ, u, fuq kollox, l-objettivi politiċi jew kummerċjali ta’ dawk li jpoġġuh f’azzjoni.
Filwaqt li l-gvernijiet u r-regolaturi jiddibattu l-limiti u r-rekwiżiti tat-trasparenza, l-awturi ta’ dawn ix-xogħlijiet jinsistu fuq idea waħda: chatbots politiċi Huma jkunu jistgħu jeżerċitaw influwenza massiva biss jekk il-pubbliku jaqbel li jinteraġixxi magħhom.Għalhekk, id-dibattitu pubbliku dwar l-użu tiegħu, it-tikkettar ċar tiegħu, u d-dritt li wieħed ma jkunx soġġett għal persważjoni awtomatizzata se jsiru kwistjonijiet ċentrali fil-konverżazzjoni demokratika fis-snin li ġejjin.
L-istampa miżbugħa mir-riċerka f’Nature and Science tiżvela kemm opportunitajiet kif ukoll riskji: iċ-chatbots tal-IA jistgħu jgħinu biex jispjegaw aħjar il-politiki pubbliċi u jsolvu dubji kumplessi, iżda jistgħu wkoll għandhom il-kapaċità li biex tmejjel il-miżien elettoralispeċjalment fost votanti indeċiżi, u jagħmlu dan b' prezz evidenti f'termini ta' preċiżjoni tal-informazzjoni meta jkunu mħarrġa biex jimmassimizzaw il-qawwa persważiva tagħhom, bilanċ delikat li d-demokraziji se jkollhom jindirizzaw b'urġenza u mingħajr inġenwità.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.