- Twee groot studies in Nature en Science bewys dat politieke kletsbotte houdings en stemvoornemens in verskeie lande kan verander.
- Oorreding is hoofsaaklik gebaseer op die aanbied van baie argumente en data, hoewel dit die risiko van onakkurate inligting verhoog.
- Optimalisering om te beïnvloed versterk die oorredende effek met tot 25 punte, maar verminder die waarheidsgetrouheid van die antwoorde.
- Die bevindinge lei tot 'n dringende debat in Europa en die res van die demokrasieë oor regulering, deursigtigheid en digitale geletterdheid.
Die opkoms van die politieke kletsbotte Dit het opgehou om 'n tegnologiese anekdote te wees om 'n element te word wat begin saak maak in werklike verkiesingsveldtogte. Gesprekke van net 'n paar minute met KI-modelle is genoeg om verskuif die simpatie teenoor 'n kandidaat met verskeie punte of 'n konkrete voorstel, iets wat tot onlangs slegs met groot mediaveldtogte of hoogs gekoördineerde saamtrekke geassosieer is.
Twee verreikende ondersoeke, gelyktydig gepubliseer in Aard y Wetenskap, Hulle het syfers gevoeg by iets wat reeds vermoed is.: die Gespreksrobotte is in staat om burgers se politieke houdings te verander. met merkwaardige gemak, selfs wanneer hulle weet dat hulle met 'n masjien interaksie het. En hulle doen dit bowenal deur argumente gelaai met inligtingnie soseer deur gesofistikeerde sielkundige taktieke nie.
Kletsbotte in veldtogte: eksperimente in die VSA, Kanada, Pole en die VK
Die nuwe bewyse kom van 'n reeks eksperimente wat deur spanne van die Cornell Universiteit en Universiteit van Oxford, uitgevoer tydens werklike verkiesingsprosesse in Verenigde State, Kanada, Pole en die Verenigde KoninkrykIn alle gevalle het deelnemers geweet dat hulle met 'n KI sou praat, maar hulle was onbewus van die politieke oriëntasie van die kletsbot wat aan hulle toegewys is.
In die werk gelei deur David Rand en gepubliseer in Nature, het duisende kiesers kort dialoë ondergaan met taalmodelle wat gekonfigureer is om om 'n spesifieke kandidaat te verdedigIn die Amerikaanse presidentsverkiesing van 2024, byvoorbeeld, 2.306 XNUMX burgers Hulle het eers hul voorkeur aangedui tussen Donald Trump y Kamala HarrisHulle is toe lukraak toegewys aan 'n kletsbot wat een van die twee verdedig het.
Na die gesprek is veranderinge in houding en stemvoorneme gemeet. Bots wat Harris gunstiggesind was, het bereik. skuif 3,9 punte op 'n skaal van 0 tot 100 onder kiesers wat aanvanklik met Trump saamgestem het, 'n impak wat die outeurs bereken as vier keer hoër as dié van konvensionele verkiesingsadvertensies getoets in die 2016- en 2020-veldtogte. Die pro-Trump-model het ook posisies verskuif, alhoewel meer matig, met 'n verandering in 1,51 punte onder Harris-ondersteuners.
Die resultate in Kanada (met 1.530 deelnemers en kletsbotte wat verdedig Mark Carney o Pierre Poilievre) en in Polonia (2 118 mense, met modelle wat bevorder het Rafał Trzaskowski o Karol Nawrocki) was selfs meer opvallend: in hierdie kontekste het kletsbotte bestuur veranderinge in stemvoorneme van tot 10 persentasiepunte onder opposisie-kiesers.
'n Sleutelpunt van hierdie proewe is dat, hoewel die meeste gesprekke slegs 'n paar minute geduur het, 'n Deel van die effek het oor tyd geduurIn die Verenigde State, 'n bietjie meer as 'n maand na die eksperiment, is 'n beduidende fraksie van die aanvanklike impak steeds waargeneem, ten spyte van die stortvloed van veldtogboodskappe wat die deelnemers gedurende daardie tydperk ontvang het.
Wat maak 'n politieke kletsbot oortuigend (en hoekom dit meer foute genereer)
Die navorsers wou nie net verstaan of kletsbotte kon oorreed nie, maar hoe het hulle dit bereikDie patroon wat homself in die studies herhaal, is duidelik: KI het die grootste invloed wanneer Dit gebruik baie feitegebaseerde argumenteselfs al is baie van daardie inligting nie besonder gesofistikeerd nie.
In die eksperimente wat deur Rand gekoördineer is, was die mees effektiewe instruksie vir die modelle om hulle te vra om te wees beleefd, respekvol, en wie kon bewyse lewer van sy stellings. Hoflikheid en 'n gesellige toon het gehelp, maar die hoofhefboom vir verandering het gelê in die aanbied van data, voorbeelde, syfers en voortdurende verwysings na openbare beleide, die ekonomie of gesondheidsorg.
Toe modelle beperk was in hul toegang tot verifieerbare feite en opdrag gegee is om te oorreed sonder om op konkrete data staat te maakHul invloedskrag het drasties gedaal. Hierdie resultaat het die outeurs tot die gevolgtrekking gelei dat die voordeel van kletsbotte bo ander formate van politieke propaganda nie soseer in emosionele manipulasie lê nie, maar eerder in die inligtingsdigtheid wat hulle in net 'n paar gespreksbeurte kan ontplooi.
Maar dieselfde strategie het 'n nadeel: soos die druk op die modelle toeneem om te genereer toenemend meer sogenaamde feitelike beweringsDie risiko neem toe dat die stelsel sonder betroubare materiaal sal opraak en begin om "uitvind" feiteEenvoudig gestel, die kletsbot vul die gapings in met data wat aanneemlik klink, maar nie noodwendig korrek is nie.
Die studie gepubliseer in Science, met 76 977 volwassenes van die Verenigde Koninkryk y 19 verskillende modelle (van klein oopbronstelsels tot moderne kommersiële modelle), bevestig dit sistematies dit: die na-opleiding gefokus op oorreding het die vermoë om te beïnvloed verhoog tot 'n 51%, terwyl eenvoudige veranderinge in instruksies (die sogenaamde vraHulle het nog een bygevoeg 27% van doeltreffendheid. Terselfdertyd is hierdie verbeterings gepaard gegaan met 'n merkbare vermindering in die feitelike akkuraatheid.
Ideologiese asimmetrieë en die risiko van disinformasie
Een van die mees kommerwekkende gevolgtrekkings van die Cornell- en Oxford-studies is dat die wanbalans tussen oorredingsvermoë en waarheidsgetrouheid nie eweredig versprei is tussen alle kandidate en posisies nie. Toe onafhanklike feitekontroleerders die boodskappe wat deur die kletsbotte gegenereer is, ontleed het, het hulle bevind dat Modelle wat regse kandidate ondersteun het, het meer foute gemaak as diegene wat progressiewe kandidate ondersteun het.
Volgens die outeurs, hierdie asimmetrie Dit stem ooreen met vorige studies wat Hulle toon dat konserwatiewe gebruikers geneig is om meer onakkurate inhoud op sosiale media te deel as linksgesinde gebruikers.Aangesien taalmodelle leer uit groot hoeveelhede inligting wat van die internet verkry word, weerspieël hulle waarskynlik van daardie vooroordeel eerder as om dit van nuuts af te skep.
In elk geval, die gevolg is dieselfde: wanneer 'n kletsbot opdrag kry om sy oorredingskrag te maksimeer ten gunste van 'n spesifieke ideologiese blok, is die model geneig om verhoog die persentasie misleidende bewerings, alhoewel ek hulle steeds met baie korrekte data meng. Die probleem is nie net dat valse inligting kan deursluip nie., maar Dit doen dit toegedraai in 'n oënskynlik redelike en goed gedokumenteerde narratief..
Die navorsers beklemtoon ook 'n ongemaklike punt: Hulle het nie bewys dat onakkurate bewerings inherent meer oortuigend is nie.Wanneer KI egter gedwing word om toenemend effektief te word, neem die aantal foute parallel toe. Met ander woorde, die verbetering van oorredingsprestasie sonder om akkuraatheid in die gedrang te bring, openbaar homself as 'n tegniese en etiese uitdaging wat onopgelos bly.
Hierdie patroon is veral kommerwekkend in kontekste van hoë politieke polarisasie, soos dié wat in dele van Europa en Noord-Amerika ervaar word, waar die oorwinningsmarges nou is en 'n handjievol persentasiepunte die uitslag van 'n algemene of presidensiële verkiesing kan bepaal.
Beperkings van die studies en twyfel oor die werklike impak by die stembus
Alhoewel die resultate van Nature en Science solied is en ooreenstem in hul hoofgevolgtrekkings, dring beide spanne daarop aan dat Dit is beheerde eksperimente, nie werklike veldtogte nie.Daar is verskeie elemente wat uitnodig om die versigtigheid wanneer die data ekstrapoleer word net soos 'n verkiesing in die straat.
Aan die een kant het deelnemers óf vrywillig ingeskryf óf is hulle gewerf deur platforms wat finansiële vergoeding bied, wat selfseleksie-vooroordele en dit beweeg weg van die diversiteit van die werklike kiesersVerder het hulle te alle tye geweet dat Hulle het met 'n KI gepraat. en dit was deel van 'n studie, toestande wat nouliks in 'n gewone veldtog herhaal sou word.
Nog 'n belangrike nuanse is dat die studies hoofsaaklik gemeet het veranderinge in houdings en verklaarde voornemensnie die werklike uitgebrachte stem nie. Dit is nuttige aanwysers, maar dit is nie gelykstaande aan die waarneming van finale gedrag op verkiesingsdag nie. Trouens, in die VSA-eksperimente was die effek ietwat kleiner as in Kanada en Pole, wat daarop dui dat die politieke konteks en die mate van vorige besluiteloosheid 'n beduidende invloed het.
In die geval van die Britse studie wat gekoördineer is deur Kobi Hackenburg Van die VK se KI-sekuriteitsinstituut is daar ook duidelike beperkings: die data kom slegs van kiesers van die Verenigde Koninkryk, almal bewus daarvan dat hulle aan 'n akademiese ondersoek deelgeneem het en met ekonomiese vergoedingDit beperk die veralgemening daarvan na ander EU-lande of minder beheerde kontekste.
Nietemin, die omvang van hierdie werke—tienduisende deelnemers en meer as 700 verskillende politieke onderwerpe— en metodologiese deursigtigheid het daartoe gelei dat 'n groot deel van die akademiese gemeenskap oorweeg het dat Hulle skets 'n geloofwaardige scenarioDie gebruik van politieke kletsbotte wat menings relatief vinnig kan verander, is nie meer 'n futuristiese hipotese nie, maar 'n tegnies haalbare scenario in komende veldtogte.
'n Nuwe verkiesingspeler vir Europa en ander demokrasieë
Benewens die spesifieke gevalle van die VSA, Kanada, Pole en die Verenigde Koninkryk, het die bevindinge direkte implikasies vir Europa en Spanjewaar die regulering van politieke kommunikasie op sosiale media en die gebruik van persoonlike data in veldtogte reeds die onderwerp van intense debat is. Die moontlikheid om kletsbotte in te sluit wat in stand hou gepersonaliseerde dialoë met kiesers Dit voeg 'n ekstra laag van kompleksiteit by.
Tot dusver is politieke oorreding hoofsaaklik geartikuleer deur statiese advertensies, saamtrekke, televisiedebatte en sosiale mediaDie aankoms van gespreksassistente stel 'n nuwe element bekend: die vermoë om te handhaaf een-tot-een interaksies, aangepas in die vlug na wat die burger intyds sê, en dit alles teen 'n feitlik marginale koste vir die veldtogorganiseerders.
Die navorsers beklemtoon dat die sleutel nie meer net is wie die kiesersdatabasis beheer nie, maar wie kan ontwikkel modelle wat in staat is om op argumente te reageer, dit te verfyn en te herhaal voortdurend, met 'n hoeveelheid inligting wat verreweg oorskry wat 'n menslike vrywilliger by 'n skakelbord of straatpos kan hanteer.
In hierdie konteks, stemme soos dié van die Italiaanse kenner Walter Quattrociocchi Hulle dring daarop aan dat die regulatoriese fokus moet verskuif van aggressiewe personalisering of ideologiese segmentering na inligtingsdigtheid wat modelle kan bied. Studies toon dat oorreding hoofsaaklik groei wanneer data vermenigvuldig word, nie wanneer emosionele strategieë gebruik word nie.
La Die samevalling van resultate tussen Natuur en Wetenskap het kommer in Europese organisasies veroorsaak. bekommerd oor die integriteit van demokratiese prosesseAlhoewel die Europese Unie vordering maak met raamwerke soos die Wet op Digitale Dienste of die toekomstige spesifieke regulering van KI, is die spoed waarteen hierdie modelle ontwikkel Dit vereis 'n voortdurende hersiening van die meganismes vir toesig, ouditering en deursigtigheid..
Digitale geletterdheid en verdediging teen outomatiese oorreding
Een van die herhalende boodskappe in die akademiese kommentare wat hierdie werke vergesel, is dat die reaksie nie uitsluitlik op verbodsbepalings of tegniese beheermaatreëls gebaseer kan word nie. Die outeurs stem saam dat dit noodsaaklik sal wees om die digitale geletterdheid van die bevolking sodat burgers leer om oorreding herken en weerstaan gegenereer deur outomatiese stelsels.
Aanvullende eksperimente, soos dié wat gepubliseer is in PNAS NexusHulle stel voor dat gebruikers wat die beste verstaan hoe groot taalmodelle werk, is minder kwesbaar tot sy pogings tot beïnvloeding. Om te weet dat 'n kletsbot verkeerd kan wees, oordryf of die gapings met raaiwerk kan invul, verminder die neiging om sy boodskappe te aanvaar asof dit van 'n onfeilbare gesag afkomstig is.
Terselfdertyd is waargeneem dat die oorredende doeltreffendheid van KI nie soseer afhang van die gesprekspartner se oortuiging dat hulle met 'n kundige mens praat nie, maar van die kwaliteit en konsekwentheid van die argumente wat dit ontvang. In sommige toetse het die kletsbotboodskappe selfs daarin geslaag om verminder geloof in samesweringsteorieë, ongeag of die deelnemers gedink het hulle gesels met 'n persoon of 'n masjien.
Dit dui daarop dat die tegnologie self nie inherent skadelik is nie: dit kan vir beide gebruik word disinformasie te bestry om dit te verspreiDie lyn word getrek deur die instruksies wat aan die model gegee word, die data waarmee dit opgelei word, en bowenal die politieke of kommersiële doelwitte van diegene wat dit in werking stel.
Terwyl regerings en reguleerders deursigtigheidsperke en -vereistes debatteer, dring die outeurs van hierdie werke aan op een idee: politieke kletsbotte Hulle sal slegs 'n massiewe invloed kan uitoefen as die publiek instem om met hulle te kommunikeer.Daarom sal die openbare debat oor die gebruik daarvan, die duidelike etikettering daarvan en die reg om nie aan outomatiese oorreding onderwerp te word nie, sentrale kwessies in die demokratiese gesprek in die komende jare word.
Die prentjie wat deur die navorsing in Nature and Science geskets word, onthul beide geleenthede en risiko's: KI-kletsbotte kan help om openbare beleide beter te verduidelik en komplekse twyfelgevalle op te los, maar hulle kan ook Hulle het die kapasiteit om om die verkiesingsskaal te laat kantelveral onder onbesliste kiesers, en hulle doen dit met 'n duidelike prys in terme van inligtingsakkuraatheid wanneer hulle opgelei word om hul oorredingskrag te maksimeer, 'n delikate balans wat demokrasieë dringend en sonder naïwiteit sal moet aanspreek.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.