Hvernig pólitískir spjallþjónar læra að hafa áhrif á atkvæðagreiðsluna

Truflunin á pólitísk spjallþjónar Þetta er hætt að vera tæknileg frásögn að verða þáttur sem er farinn að skipta máli í raunverulegum kosningabaráttum. Samræður í aðeins nokkrar mínútur við gervigreindarlíkön eru nóg til að færir samúðina gagnvart frambjóðandanum um nokkur stig eða konkret tillaga, eitthvað sem þangað til nýlega var aðeins tengt stórum fjölmiðlaherferðum eða mjög samhæfðum mótmælum.

Tvær umfangsmiklar rannsóknir, birtar samtímis í Náttúran y Vísindi, Þeir hafa sett tölur á eitthvað sem þegar var grunur um.: hinn Spjallþjónar eru færir um að breyta stjórnmálalegum viðhorfum borgara. með ótrúlegum auðveldum hætti, jafnvel þegar þeir vita að þeir eru að hafa samskipti við vél. Og þeir gera það, fyrst og fremst, með því að röksemdir hlaðnar upplýsingumekki svo mikið með flóknum sálfræðilegum aðferðum.

Spjallþjónar í herferðum: tilraunir í Bandaríkjunum, Kanada, Póllandi og Bretlandi

Nýju sönnunargögnin koma úr röð tilrauna sem teymi frá Cornell-háskóli og af Háskólinn í Oxford, framkvæmd á meðan raunverulegum kosningaferlum stóð í Bandaríkin, Kanada, Pólland og BretlandÍ öllum tilvikum vissu þátttakendur að þeir væru að tala við gervigreind en þeir voru ekki meðvitaðir um pólitíska stefnu spjallþjónsins sem þeim var úthlutað.

Í verkinu sem stýrt er af Davíð Rand og birt í Nature, fóru þúsundir kjósenda í stuttar samræður við tungumálamódel sem voru stillt til að að verja ákveðinn frambjóðandaÍ forsetakosningunum í Bandaríkjunum árið 2024, til dæmis... 2.306 ríkisborgarar Þeir lýstu fyrst yfir vali sínu á milli Donald Trump y Kamala HarrisÞeim var síðan af handahófi úthlutað spjallþjóni sem varði annan hvorn þeirra.

Eftir samtalið voru breytingar á viðhorfum og kosningaáformum mældar. Vélmenni sem voru Harris í hag náðu árangri. breyting 3,9 stig á kvarða frá 0 til 100 meðal kjósenda sem upphaflega studdu Trump, áhrif sem höfundarnir reikna út sem fjórum sinnum hærri en í hefðbundnum kosningaauglýsingum prófað í kosningabaráttunni 2016 og 2020. Trump-sinnaða líkanið breytti einnig afstöðu, þó í hóflegri mæli, með breytingu á 1,51 stig meðal stuðningsmanna Harris.

Niðurstöðurnar í Kanada (með 1.530 þátttakendur og spjallþjónar verja Mark Carney o Pierre Poilievre) og í Pólland (2.118 manns, með fyrirsætum sem kynntu Rafał Trzaskowski o Karol Nawrocki) voru enn meira áberandi: í þessum samhengjum tókst spjallþjónum að breytingar á atkvæðagreiðsluáformum um allt að 10 prósentustig meðal kjósenda stjórnarandstöðunnar.

Lykilatriði í þessum réttarhöldum er að þótt flest samtöl hafi aðeins varað í nokkrar mínútur, Hluti áhrifanna varaði með tímanumÍ Bandaríkjunum, rúmum mánuði eftir tilraunina, sást enn verulegur hluti af upphaflegum áhrifum, þrátt fyrir flóðbylgju af skilaboðum frá herferðinni sem þátttakendur fengu á því tímabili.

Hvað gerir pólitískan spjallþjón sannfærandi (og hvers vegna það veldur fleiri villum)

Rannsakendurnir vildu ekki aðeins skilja hvort spjallþjónar gætu sannfært, heldur hvernig voru þeir að ná þvíMynstrið sem endurtekur sig í rannsóknunum er skýrt: Gervigreind hefur mest áhrif þegar Það notar margar staðreyndabundnar röksemdirjafnvel þótt margar af þessum upplýsingum séu ekki sérstaklega ítarlegar.

Í tilraununum sem Rand stýrði var áhrifaríkasta fyrirmælin fyrir líkönin að biðja þau um að vera kurteis, virðuleg og sem gat lagt fram sönnunargögn yfirlýsinga hans. Kurteisi og samræðutónn hjálpuðu til, en helsta breytingavaldið fólst í því að bjóða upp á gögn, dæmi, tölur og stöðugar tilvísanir í opinbera stefnu, efnahagsmál eða heilbrigðisþjónustu.

Þegar fyrirsætum var takmarkað í aðgangi sínum að sannreynanlegum staðreyndum og þeim var falið að sannfæra án þess að grípa til raunverulegra gagnaÁhrifavald þeirra minnkaði verulega. Þessi niðurstaða leiddi höfundana að þeirri niðurstöðu að kostur spjallþjóna fram yfir aðrar gerðir pólitísks áróðurs felist ekki svo mikið í tilfinningalegri stjórnun heldur í... upplýsingaþéttleiki sem þeir geta komið á framfæri í örfáum samræðum.

En þessi sama aðferð hefur ókosti: þegar þrýstingur eykst á líkönin til að búa til sífellt fleiri fullyrðingar sem eru sagðar vera staðreyndirHættan eykst á að kerfið klárist af áreiðanlegu efni og byrji að „finna upp“ staðreyndirEinfaldlega sagt fyllir spjallþjónninn í eyðurnar með gögnum sem hljóma trúverðug en eru ekki endilega rétt.

Rannsóknin sem birtist í Science, með 76.977 fullorðnir frá Bretlandi y 19 mismunandi gerðir (frá litlum opnum hugbúnaðarkerfum til nýjustu viðskiptalíkana), staðfestir það kerfisbundið þetta: Eftirþjálfun með áherslu á sannfæringu aukið getu til að hafa áhrif allt að 51%, á meðan einfaldar breytingar á leiðbeiningum (svokölluð hvatningÞeir bættu við öðru 27% skilvirkni. Á sama tíma fylgdi þessum umbótum marktæk lækkun á staðreyndar nákvæmni.

Hugmyndafræðileg ósamhverfa og hætta á rangfærslum

Ein af áhyggjufyllstu niðurstöðum rannsókna Cornell og Oxford er að ójafnvægið milli sannfæringarkrafts og sannleiksgildis dreifist ekki jafnt á milli allra frambjóðenda og staða. Þegar óháðir staðreyndarprófarar greindu skilaboðin sem spjallþjónarnir gáfu, komust þeir að því að Fyrirsætur sem studdu hægrisinnaða frambjóðendur gerðu fleiri mistök en þeir sem studdu framfarasinnaða frambjóðendur.

Samkvæmt höfundunum, þetta ósamhverfa Það samræmist fyrri rannsóknum sem Þær sýna að íhaldssamir notendur hafa tilhneigingu til að deila ónákvæmara efni á samfélagsmiðlum en vinstri sinnaðir notendur.Þar sem tungumálamódel læra af miklu magni upplýsinga sem fengnar eru af internetinu, endurspegla þau líklega einhverja af þeirri skekkju frekar en að búa hana til frá grunni.

Í öllum tilvikum er afleiðingin sú sama: þegar spjallþjóni er fyrirskipað að hámarka sannfæringarkraft sinn í þágu ákveðins hugmyndafræðilegs hóps, þá hefur líkanið tilhneigingu til að ... auka hlutfall villandi fullyrðinga, þó að ég haldi áfram að blanda þeim saman við mikið af réttum gögnum. Vandamálið er ekki bara að rangar upplýsingar geta lekið í gegn.en Það gerir það vafið inn í frásögn sem virðist rökrétt og vel skjalfest..

Rannsakendurnir benda einnig á óþægilegt atriði: Þeir hafa ekki sýnt fram á að ónákvæmar fullyrðingar eru í eðli sínu sannfærandi.Hins vegar, þegar gervigreind er þrýst til að verða sífellt skilvirkari, eykst fjöldi villna samhliða. Með öðrum orðum, að bæta sannfæringargetu án þess að skerða nákvæmni reynist vera tæknileg og siðferðileg áskorun sem er enn óleyst.

Þetta mynstur er sérstaklega áhyggjuefni í samhengi við mikil pólitísk skautun, eins og þau sem hafa upplifað verið í hlutum Evrópu og Norður-Ameríku, þar sem sigurmunurinn er mjór og örfá prósentustig geta ráðið úrslitum um niðurstöðu almennra kosninga eða forsetakosninga.

Takmarkanir rannsóknanna og efasemdir um raunveruleg áhrif við kjörstaðinn

Þó að niðurstöður úr Nature og Science séu traustar og samhljóða meginniðurstöðum sínum, þá halda bæði teymin því fram að Þetta eru stýrðar tilraunir, ekki raunverulegar herferðir.Það eru nokkrir þættir sem bjóða upp á varúðarráðstafanir við útreikning gagna alveg eins og kosningar á götunni.

Annars vegar skráðu þátttakendur sig annað hvort sjálfviljugir eða voru ráðnir í gegnum vettvanga sem bjóða upp á fjárhagslega þóknun, sem kynnir sjálfsvalshlutdrægni og færir sig frá fjölbreytileika raunverulegs kjósendahópsÞar að auki vissu þeir allan tímann að Þau voru að tala við gervigreind. og það voru hluti af rannsókn, aðstæður sem væru varla endurteknar í venjulegri herferð.

Annar mikilvægur blæbrigði er að rannsóknirnar mældust fyrst og fremst breytingar á viðhorfum og yfirlýstum ásetningiekki raunverulegt atkvæði sem greitt var. Þetta eru gagnlegar vísbendingar, en þær eru ekki jafngildar því að fylgjast með lokahegðun á kjördag. Reyndar voru áhrifin í tilraununum í Bandaríkjunum nokkuð minni en í Kanada og Póllandi, sem bendir til þess að stjórnmálalegt samhengi og umfang fyrri óákveðni hafi veruleg áhrif.

Í tilviki bresku rannsóknarinnar sem samræmd var af Kobi Hackenburg Frá öryggisstofnun Bretlands um gervigreind eru einnig skýrar takmarkanir: gögnin koma eingöngu frá kjósendur í Bretlandi, öll meðvituð um að þau væru að taka þátt í fræðilegri rannsókn og með fjárhagsleg bæturÞetta takmarkar alhæfingu þess yfir á önnur ESB-lönd eða minna stjórnað samhengi.

Engu að síður er umfang þessara verka — tugþúsundir þátttakenda og meira en 700 mismunandi stjórnmálaefni— og gagnsæi í aðferðafræði hefur leitt til þess að stór hluti fræðasamfélagsins hefur litið svo á að Þeir mála upp raunhæfa atburðarásNotkun pólitískra spjallþjóna sem geta breytt skoðunum tiltölulega hratt er ekki lengur framtíðartilgáta, heldur tæknilega framkvæmanleg sviðsmynd í komandi kosningabaráttu.

Nýr kosningaþátttakandi fyrir Evrópu og önnur lýðræðisríki

Niðurstöðurnar hafa bein áhrif á Bandaríkin, Kanada, Pólland og Bretland, auk sértækra tilfella eins og Evrópu og Spániþar sem reglugerðir um stjórnmálasamskipti á samfélagsmiðlum og notkun persónuupplýsinga í kosningabaráttu eru þegar til umræðu. Möguleikinn á að fella inn spjallþjóna sem viðhalda persónulegar samræður við kjósendur Það bætir við auka flækjustigi.

Hingað til hefur pólitísk sannfæring aðallega verið sett fram í gegnum kyrrstæðar auglýsingar, mótmæli, sjónvarpsumræður og samfélagsmiðlarTilkoma samræðuaðstoðarmanna kynnir nýjan þátt: hæfni til að viðhalda einstaklingsbundin samskipti, aðlagað á ferðinni að því sem borgarinn segir í rauntíma, og allt þetta á nánast lágmarkskostnaði fyrir skipuleggjendur kosningabaráttunnar.

Rannsakendurnir leggja áherslu á að lykilatriðið sé ekki lengur bara hver stjórnar kjósendagrunninum, heldur hverjir geta... þróa líkön sem geta brugðist við, fínpússað og endurtekið rök stöðugt, með upplýsingamagn sem er langt umfram það sem sjálfboðaliði gæti tekist á við símstöð eða götupósta.

Í þessu samhengi eru raddir eins og ítalski sérfræðingurinn Walter Quattrociocchi Þeir krefjast þess að áherslan í reglugerðum ætti að færast frá árásargjarnri persónugervingu eða hugmyndafræðilegri skiptingu yfir í upplýsingaþéttleiki sem líkön geta veitt. Rannsóknir sýna að sannfæringarkraftur eykst fyrst og fremst þegar gögnum er margfaldað, ekki þegar tilfinningalegum aðferðum er beitt.

La Samræmi niðurstaðna frá Nature og Science hefur vakið áhyggjur hjá evrópskum stofnunum. áhyggjur af heiðarleiki lýðræðislegra ferlaÞótt Evrópusambandið sé að ná árangri með rammaverkum eins og lögum um stafræna þjónustu eða framtíðarreglugerð um gervigreind, þá er hraði þróunar þessara líkana Það krefst stöðugrar endurskoðunar á eftirlits-, endurskoðunar- og gagnsæiskerfum..

Stafræn læsi og vörn gegn sjálfvirkri fortölu

Einn af endurteknum skilaboðum í fræðilegum athugasemdum sem fylgja þessum verkum er að viðbrögðin geti ekki byggst eingöngu á bönnum eða tæknilegum eftirliti. Höfundarnir eru sammála um að það sé nauðsynlegt að styrkja stafræn læsi íbúanna svo að borgararnir læri að þekkja og standast fortölur myndað af sjálfvirkum kerfum.

Viðbótartilraunir, eins og þær sem birtar eru í PNAS NexusÞeir benda til þess að notendur sem skilja best hvernig stór tungumálalíkön virka séu minna viðkvæm til tilrauna sinna til að hafa áhrif. Vitneskjan um að spjallþjónn getur haft rangt fyrir sér, ýkt eða fyllt í eyðurnar með ágiskunum dregur úr tilhneigingu til að taka skilaboðum hans eins og þau kæmu frá óskeikulum yfirvaldi.

Á sama tíma hefur komið í ljós að sannfæringarkraftur gervigreindar veltur ekki svo mikið á því að viðmælandinn trúi því að hann sé að tala við sérfræðing, heldur á því... gæði og samræmi röksemdafærslunnar sem það móttekur. Í sumum prófunum tókst spjallþjóninum jafnvel að minnka trú á samsæriskenningar, óháð því hvort þátttakendur héldu að þeir væru að spjalla við manneskju eða vél.

Þetta bendir til þess að tæknin sjálf sé ekki í eðli sínu skaðleg: hana má nota bæði til berjast gegn rangfærslum eins og að dreifa þvíLínan er dregin af leiðbeiningunum sem líkaninu eru gefnar, gögnunum sem það er þjálfað með og umfram allt pólitískum eða viðskiptalegum markmiðum þeirra sem koma því í framkvæmd.

Þó að stjórnvöld og eftirlitsaðilar ræði takmörk og kröfur um gagnsæi, þá halda höfundar þessara verka fram einni hugmynd: pólitísk spjallþjónar Þeir munu aðeins geta haft mikil áhrif ef almenningur samþykkir að eiga samskipti við þá.Þess vegna mun opinber umræða um notkun þess, skýr merkingu þess og réttinn til að vera ekki beitt sjálfvirkri fortölugjöf verða lykilatriði í lýðræðislegri umræðu á komandi árum.

Myndin sem rannsóknin í Nature og Science dregur upp sýnir bæði tækifæri og áhættu: Spjallþjónar með gervigreind geta hjálpað til við að útskýra betur opinbera stefnu og leysa flóknar efasemdir, en þeir geta einnig... hafa bolmagn til að ráða úrslitum um kosningabaráttusérstaklega meðal óákveðinna kjósenda, og þeir gera það með augljóst verð hvað varðar nákvæmni upplýsinga þegar þeim er þjálfað til að hámarka sannfæringarkraft sinn, viðkvæmt jafnvægi sem lýðræðisríki verða að taka á tafarlaust og án barnaleika.

Tengd grein:

Kalifornía samþykkir SB 243 til að stjórna gervigreindarspjallþjónum og vernda börn.

Alberto Navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.