- Twa wichtige stúdzjes yn Nature en Science bewize dat politike chatbots hâldingen en stimbentensjes yn ferskate lannen kinne feroarje.
- Oertsjûging is benammen basearre op it oanbieden fan in protte arguminten en gegevens, hoewol it it risiko op ûnkrekte ynformaasje fergruttet.
- Optimalisearjen om ynfloed te hawwen fersterket it oertsjûgjende effekt mei maksimaal 25 punten, mar ferminderet de wierheidichheid fan 'e antwurden.
- De befiningen iepenje in driuwend debat yn Jeropa en de rest fan 'e demokrasyen oer regeljouwing, transparânsje en digitale geletterdheid.
De ynbreuk fan 'e politike chatbots It is ophâlden in technologyske anekdoate te wêzen om in elemint te wurden dat begjint te betsjutten yn echte ferkiezingskampanjes. Petearen fan mar in pear minuten mei AI-modellen binne genôch om ferskowe de sympaty nei in kandidaat mei ferskate punten of in konkreet foarstel, eat dat oant koartlyn allinich assosjeare waard mei grutte mediakampanjes of tige koördinearre gearkomsten.
Twa fiergeande ûndersiken, tagelyk publisearre yn Natuer y Wittenskip, Se hawwe sifers pleatst op eat dat al fertocht waard.de Konversaasjechatbots binne yn steat om de politike hâlding fan boargers te feroarjen. mei opmerklik gemak, sels as se witte dat se mei in masine ynteraksje hawwe. En se dogge dat, boppe alles, troch arguminten laden mei ynformaasjenet sa folle troch ferfine psychologyske taktiken.
Chatbots yn kampanjes: eksperiminten yn 'e FS, Kanada, Poalen en it Feriene Keninkryk
It nije bewiis komt fan in rige eksperiminten koördinearre troch teams fan 'e Cornell Universiteit en fan 'e Universiteit fan Oxford, útfierd tidens werklike ferkiezingsprosessen yn Feriene Steaten, Kanada, Poalen en it Feriene KeninkrykYn alle gefallen wisten dielnimmers dat se mei in AI prate soene, mar se wiene har net bewust fan 'e politike oriïntaasje fan' e chatbot dy't har tawiisd wie.
Yn it wurk ûnder lieding fan David Rand en publisearre yn Nature, ûndergien tûzenen kiezers koarte dialogen mei taalmodellen dy't konfigurearre binne om in spesifike kandidaat ferdigenjeYn 'e Amerikaanske presidintsferkiezings fan 2024, bygelyks, 2.306 boargers Se joegen earst oan dat se foarkar hiene tusken Donald Trump y Kamala HarrisSe waarden doe willekeurich tawiisd oan in chatbot dy't ien fan 'e twa ferdigene.
Nei it petear waarden feroaringen yn hâlding en stimintensje metten. Bots dy't geunstich wiene foar Harris berikten ferskowing 3,9 punten op in skaal fan 0 oant 100 ûnder kiezers dy't yn earste ynstânsje mei Trump iens wiene, in ynfloed dy't de auteurs berekkenje as fjouwer kear heger as dy fan konvinsjonele ferkiezingsreklame test yn 'e kampanjes fan 2016 en 2020. It pro-Trump-model feroare ek fan posysje, hoewol matiger, mei in feroaring yn 1,51 punten ûnder Harris-oanhingers.
De resultaten yn Kanada (mei 1.530 dielnimmers en chatbots dy't ferdigenje Mark Carney o Pierre Poilievre) en yn Poalen (2.118 minsken, mei modellen dy't promovearren Rafał Trzaskowski o Karol Nawrocki) wiene noch opfallender: yn dizze konteksten slaggen chatbots deryn feroarings yn stimbenút fan maksimaal 10 persintaazjepunten ûnder opposysjekiezers.
In wichtich aspekt fan dizze proeven is dat, hoewol de measte petearen mar in pear minuten duorren, In part fan it effekt duorre oer de tiidYn 'e Feriene Steaten waard in bytsje mear as in moanne nei it eksperimint noch in flinke fraksje fan 'e earste ynfloed waarnommen, nettsjinsteande de lawine fan kampanjeberjochten dy't de dielnimmers yn dy perioade krigen.
Wat makket in politike chatbot oertsjûgjend (en wêrom't dat mear flaters genereart)
De ûndersikers woenen net allinich begripe oft chatbots oertsjûgje koenen, mar hoe wiene se it oan it berikkenIt patroan dat him werhellet yn 'e stúdzjes is dúdlik: KI hat de grutste ynfloed as It brûkt in protte feit-basearre argumintensels as in protte fan dy ynformaasje net bysûnder ferfine is.
Yn 'e eksperiminten dy't troch Rand koördinearre waarden, wie de meast effektive ynstruksje foar de modellen om har te freegjen om te wêzen beleefd, respektfol, en wa koe bewiis leverje fan syn útspraken. Hoffelikens en in petearjende toan holpen, mar de wichtichste hefboom foar feroaring lei yn it oanbieden fan gegevens, foarbylden, sifers en konstante ferwizings nei oerheidsbelied, de ekonomy of sûnenssoarch.
Doe't modellen beheind wiene yn har tagong ta ferifiearbere feiten en ynstruearre waarden om te oertsjûgjen sûnder gebrûk te meitsjen fan konkrete gegevensHarren ynfloedskrêft sakke drastysk. Dit resultaat late de auteurs ta de konklúzje dat it foardiel fan chatbots boppe oare formaten fan politike propaganda net sa folle leit yn emosjonele manipulaasje as yn 'e ynformaasje tichtens dat se yn mar in pear beurten fan petear ynsette kinne.
Mar dizze selde strategy hat in neidiel: as de druk op 'e modellen tanimt om te generearjen hieltyd mear sabeare feitelike oansprakenIt risiko nimt ta dat it systeem gjin betrouber materiaal mear hat en begjint te "útfine" feitenSimpelwei sein, follet de chatbot de gatten yn mei gegevens dy't plausibel klinke, mar net needsaaklik korrekt binne.
De stúdzje publisearre yn Science, mei 76.977 folwoeksenen út it Feriene Keninkryk y 19 ferskillende modellen (fan lytse iepen boarne systemen oant baanbrekkende kommersjele modellen), befêstiget it dit systematysk: de nei-training rjochte op oertsjûging fergrutte de mooglikheid om ynfloed út te oefenjen oant in 51%, wylst ienfâldige feroarings yn ynstruksjes (de saneamde oanmoedigingSe hawwe noch ien tafoege 27% fan effisjinsje. Tagelyk gongen dizze ferbetteringen mank mei in merkbere fermindering fan 'e feitelike krektens.
Ideologyske asymmetrieën en it risiko fan desinformaasje
Ien fan 'e meast soargenmakende konklúzjes fan 'e stúdzjes fan Cornell en Oxford is dat de ûnbalâns tusken oertsjûgingskrêft en wierheidskundichheid net lykwichtich ferdield is ûnder alle kandidaten en posysjes. Doe't ûnôfhinklike feitkontrôleurs de berjochten analysearren dy't generearre waarden troch de chatbots, fûnen se dat Modellen dy't rjochtse kandidaten stipen makken mear flaters as dejingen dy't progressive kandidaten stipen.
Neffens de auteurs, dit asymmetry It komt oerien mei eardere stúdzjes dy't Se litte sjen dat konservative brûkers de neiging hawwe om mear ûnkrekte ynhâld te dielen op sosjale media as links-leanende brûkers.Om't taalmodellen leare fan enoarme hoemannichten ynformaasje dy't fan it ynternet helle binne, reflektearje se wierskynlik wat fan dy foaroardiel ynstee fan it fanôf it begjin te meitsjen.
Yn alle gefallen is it gefolch itselde: as in chatbot ynstruearre wurdt om syn oertsjûgingskrêft te maksimalisearjen yn it foardiel fan in bepaald ideologysk blok, hat it model de neiging om ... it oanpart fan misliedende oanspraken ferheegje, hoewol ik se bliuw mingje mei in protte korrekte gegevens. It probleem is net allinnich dat falske ynformaasje der trochhinne glippe kin.mar It docht dat ynpakt yn in skynber ridlik en goed dokumintearre ferhaal.
De ûndersikers neame ek in ûngemaklik punt: Se hawwe net oantoand dat ûnkrekte bewearingen ynherint mear oertsjûgjend binne.As AI lykwols twongen wurdt om hieltyd effektiver te wurden, nimt it oantal flaters parallel ta. Mei oare wurden, it ferbetterjen fan oertsjûgjende prestaasjes sûnder de krektens yn gefaar te bringen, blykt in technyske en etyske útdaging te wêzen dy't net oplost bliuwt.
Dit patroan is foaral soargenwekkend yn konteksten fan hege politike polarisaasje, lykas dy't meimakke binne yn dielen fan Jeropa en Noard-Amearika, dêr't de oerwinningsmarges smel binne en in hantsjefol persintaazjepunten de útslach fan in algemiene of presidintsferkiezing bepale kinne.
Beperkingen fan 'e stúdzjes en twifels oer de wirklike ynfloed by de stimbus
Hoewol't de resultaten fan Nature en Science solide binne en it iens binne yn har wichtichste konklúzjes, hâlde beide teams fol dat Dit binne kontroleare eksperiminten, gjin echte kampanjes.Der binne ferskate eleminten dy't útnoegje om de foarsichtigens by it ekstrapolearjen fan de gegevens krekt as in ferkiezing op strjitte.
Oan 'e iene kant hawwe dielnimmers har of frijwillich ynskreaun of waarden se rekrutearre fia platfoarms dy't finansjele kompensaasje oanbiede, wat yntrodusearret selsseleksjefoaroardielen en it giet fuort fan 'e ferskaat fan it werklike elektoraatFierder wisten se altyd dat Se praten mei in AI. en dat wiene ûnderdiel fan in stúdzje, omstannichheden dy't amper werhelle wurde soene yn in gewoane kampanje.
In oare wichtige nuânse is dat de stúdzjes primêr mjitten feroarings yn hâldingen en útsprutsen bedoelingennet de werklike útbrochte stimmen. Dit binne nuttige yndikatoaren, mar se binne net lykweardich oan it observearjen fan definitive gedrach op ferkiezingsdei. Eins wie it effekt yn 'e Amerikaanske eksperiminten wat lytser as yn Kanada en Poalen, wat suggerearret dat de politike kontekst en de mjitte fan foarôfgeande ûnbeslissigens in wichtige ynfloed hawwe.
Yn it gefal fan 'e Britske stúdzje koördinearre troch Kobi Hackenburg Fan it Britske AI Security Institute binne der ek dúdlike beheiningen: de gegevens komme allinich fan kiezers fan it Feriene Keninkryk, allegear bewust dat se meidienen oan in akademysk ûndersyk en mei finansjele kompensaasjeDit beheint de generalisaasje nei oare EU-lannen of minder kontroleare konteksten.
Nettsjinsteande de omfang fan dizze wurken - tsientûzenen dielnimmers en mear as 700 ferskillende politike ûnderwerpen— en metodologyske transparânsje hawwe in grut part fan 'e akademyske mienskip derta laat om te beskôgjen dat Se skilderje in plausibel senarioIt brûken fan politike chatbots dy't mieningen relatyf fluch feroarje kinne is net langer in futuristyske hypoteze, mar in technysk mooglik senario yn kommende kampanjes.
In nije ferkiezingsspiler foar Europa en oare demokrasyen
Utsein de spesifike gefallen fan 'e FS, Kanada, Poalen en it Feriene Keninkryk, hawwe de befiningen direkte gefolgen foar Europa en Spanjedêr't de regeljouwing fan politike kommunikaasje op sosjale media en it gebrûk fan persoanlike gegevens yn kampanjes al ûnderwerp binne fan yntinsive debat. De mooglikheid om chatbots yn te bouwen dy't ûnderhâlde personalisearre dialogen mei kiezers It foeget in ekstra laach fan kompleksiteit ta.
Oant no ta waard politike oertsjûging benammen útdrukt fia statyske advertinsjes, gearkomsten, televyzjedebatten en sosjale mediaDe komst fan petearassistinten yntrodusearret in nij elemint: de mooglikheid om te ûnderhâlden ien-op-ien ynteraksjes, oanpast ûnderweis oan wat de boarger yn realtime seit, en dit alles tsjin praktysk marginale kosten foar de kampanje-organisatoaren.
De ûndersikers beklamje dat de kaai net langer allinich is wa't de kiezersdatabase kontrolearret, mar wa't kin modellen ûntwikkelje dy't by steat binne om te reagearjen op arguminten, se te ferfine en te replikearjen kontinu, mei in hoemannichte ynformaasje dy't fierwei te grut is wat in minsklike frijwilliger by in telefoansintrale of strjitpost behannelje koe.
Yn dizze kontekst, stimmen lykas dy fan 'e Italjaanske ekspert Walter Quattrociocchi Se hâlde fol dat de fokus fan regeljouwing ferskowe moat fan agressive personalisaasje of ideologyske segmintaasje nei ynformaasje tichtens dat modellen leverje kinne. Undersyk lit sjen dat oertsjûging benammen groeit as gegevens fermannichfâldige wurde, net as emosjonele strategyen brûkt wurde.
La It tafallich gearkommen fan resultaten tusken Natuer en Wittenskip hat soargen opsmiten yn Jeropeeske organisaasjes soargen oer de yntegriteit fan demokratyske prosessenHoewol't de Jeropeeske Uny foarútgong boekt mei kaders lykas de Digital Services Act of de takomstige spesifike regeljouwing fan AI, is de snelheid wêrmei't dizze modellen evoluearje It fereasket in konstante resinsje fan 'e meganismen foar tafersjoch, kontrôle en transparânsje..
Digitale geletterdheid en ferdigening tsjin automatisearre oertsjûging
Ien fan 'e weromkommende berjochten yn 'e akademyske kommentaren dy't dizze wurken begeliede, is dat de reaksje net allinich basearre wurde kin op ferboden of technyske kontrôles. De auteurs binne it deroer iens dat it essensjeel wêze sil om de digitale geletterdheid fan 'e befolking, sadat boargers leare om oertsjûging werkenne en wjerstean generearre troch automatyske systemen.
Oanfoljende eksperiminten, lykas dy publisearre yn PNAS NexusSe suggerearje dat brûkers dy't it bêste begripe hoe't grutte taalmodellen wurkje, minder kwetsber oan syn pogingen ta ynfloed. Witte dat in chatbot ferkeard wêze kin, oerdriuwe kin, of de gatten mei rieden ynfolje kin, ferminderet de oanstriid om syn berjochten te akseptearjen as wiene se fan in ûnfeilbere autoriteit ôfkomstich.
Tagelyk is waarnommen dat de oertsjûgjende effektiviteit fan AI net sa folle ôfhinklik is fan 'e petearpartner dy't leaut dat se mei in ekspertmins prate, mar fan 'e kwaliteit en konsistinsje fan 'e arguminten dat it ûntfangt. Yn guon testen slaggen de chatbot-berjochten der sels yn om ferminderje it leauwen yn gearspanningsteoryen, ûnôfhinklik fan oft de dielnimmers tochten dat se mei in persoan of in masine oan it petearen wiene.
Dit suggerearret dat de technology sels net ynherint skealik is: it kin brûkt wurde foar beide bestride misinformation om it te ferspriedenDe line wurdt lutsen troch de ynstruksjes dy't oan it model jûn wurde, de gegevens wêrmei't it traind wurdt, en, boppe alles, de politike of kommersjele doelen fan dejingen dy't it yn aksje bringe.
Wylst oerheden en tafersjochhâlders debattearje oer transparânsjegrinzen en easken, steane de auteurs fan dizze wurken fêst op ien idee: politike chatbots Se sille allinnich in massale ynfloed útoefenje kinne as it publyk ynstimt om mei har te ynteraksje.Dêrom sille it iepenbiere debat oer it gebrûk derfan, de dúdlike labeling derfan, en it rjocht om net ûnderwurpen te wurden oan automatisearre oertsjûging sintrale ûnderwerpen wurde yn it demokratyske petear yn 'e kommende jierren.
It byld dat skildere wurdt troch it ûndersyk yn Nature and Science lit sawol kânsen as risiko's sjen: AI-chatbots kinne helpe om oerheidsbelied better út te lizzen en komplekse twifels op te lossen, mar se kinne ek Se hawwe de kapasiteit om om de ferkiezingsskaal te tippenfoaral ûnder ûnbesletten kiezers, en se dogge dat mei in dúdlike priis yn termen fan ynformaasjekrektens as se oplaat binne om har oertsjûgjende krêft te maksimalisearjen, in delikate lykwicht dy't demokrasyen driuwend en sûnder naïviteit oanpakke moatte.
Ik bin in technology-entûsjast dy't syn "geek" ynteresses hat omset yn in berop. Ik haw mear as 10 jier fan myn libben bestege oan it brûken fan moderne technology en oan allerhande programma's út pure nijsgjirrigens te tinken. No haw ik my spesjalisearre yn kompjûtertechnology en fideospultsjes. Dit is om't ik mear dan 5 jier wurke oan skriuwen foar ferskate websiden oer technology en fideospultsjes, artikels oanmeitsje dy't besykje jo de ynformaasje te jaan dy't jo nedich binne yn in taal dy't elkenien begrypt.
As jo fragen hawwe, rint myn kennis fan alles relatearre oan it Windows-bestjoeringssysteem as Android foar mobile tillefoans. En myn ynset is foar jo, ik bin altyd ree om in pear minuten te besteegjen en jo te helpen mei it oplossen fan alle fragen dy't jo hawwe yn dizze ynternetwrâld.