Sut mae robotiaid sgwrsio gwleidyddol yn dysgu dylanwadu ar y bleidlais

Ymddangosiad y robotiaid sgwrsio gwleidyddol Mae wedi peidio â bod yn hanesyn technolegol i ddod yn elfen sy'n dechrau gwneud gwahaniaeth mewn ymgyrchoedd etholiad go iawn. Mae sgyrsiau o ychydig funudau gyda modelau AI yn ddigon i symud y cydymdeimlad tuag at yr ymgeisydd gan sawl pwynt neu gynnig pendant, rhywbeth a oedd tan yn ddiweddar ond yn gysylltiedig ag ymgyrchoedd cyfryngau mawr neu ralïau wedi'u cydgysylltu'n fanwl.

Dau ymchwiliad pellgyrhaeddol, a gyhoeddwyd ar yr un pryd yn natur y Gwyddoniaeth, Maen nhw wedi rhoi rhifau i rywbeth a oedd eisoes yn cael ei amau.: y Mae robotiaid sgwrsio yn gallu addasu agweddau gwleidyddol dinasyddion. gyda rhwyddineb rhyfeddol, hyd yn oed pan maen nhw'n gwybod eu bod nhw'n rhyngweithio â pheiriant. Ac maen nhw'n gwneud hynny, yn anad dim, drwy dadleuon yn llawn gwybodaethnid cymaint trwy dactegau seicolegol soffistigedig.

Sgwrsbotiau mewn ymgyrchoedd: arbrofion yn yr Unol Daleithiau, Canada, Gwlad Pwyl a'r DU

Daw'r dystiolaeth newydd o gyfres o arbrofion a gydlynwyd gan dimau o'r Prifysgol Cornell a Prifysgol Rhydychen, a gynhaliwyd yn ystod prosesau etholiadol gwirioneddol yn Unol Daleithiau America, Canada, Gwlad Pwyl a'r Deyrnas UnedigYm mhob achos, roedd y cyfranogwyr yn gwybod y byddent yn siarad â deallusrwydd artiffisial, ond nid oeddent yn ymwybodol o gyfeiriadedd gwleidyddol y chatbot a neilltuwyd iddynt.

Yn y gwaith dan arweiniad Dafydd Rand ac a gyhoeddwyd yn Nature, cafodd miloedd o bleidleiswyr ddeialogau byr gyda modelau iaith a ffurfiwyd i i amddiffyn ymgeisydd penodolYn etholiad arlywyddol yr Unol Daleithiau yn 2024, er enghraifft, 2.306 o ddinasyddion Fe wnaethant nodi eu dewis yn gyntaf rhwng Donald Trump y Kamala HarrisYna cawsant eu neilltuo ar hap i sgwrsbot a oedd yn amddiffyn un o'r ddau.

Ar ôl y sgwrs, mesurwyd newidiadau mewn agwedd a bwriad pleidleisio. Cyflawnwyd robotiaid oedd o blaid Harris. symudiad 3,9 pwynt ar raddfa o 0 i 100 ymhlith pleidleiswyr a oedd yn wreiddiol yn cytuno â Trump, effaith y mae'r awduron yn ei chyfrifo fel bedair gwaith yn uwch na hysbysebu etholiad confensiynol wedi'i brofi yn ymgyrchoedd 2016 a 2020. Newidiodd y model o blaid Trump safbwyntiau hefyd, er yn fwy cymedrol, gyda newid yn Pwyntiau 1,51 ymhlith cefnogwyr Harris.

Y canlyniadau yn Canada (gyda 1.530 o gyfranogwyr a robotiaid sgwrsio yn amddiffyn Mark Carney o Pierre Polievre) ac yn Polonia (2.118 o bobl, gyda modelau a hyrwyddodd Rafał Trzaskowski o Karol Nawrocki) oedd hyd yn oed yn fwy trawiadol: yn y cyd-destunau hyn, roedd sgwrsio robotiaid yn rheoli newidiadau mewn bwriad pleidleisio o hyd at 10 pwynt canran ymhlith pleidleiswyr yr wrthblaid.

Agwedd allweddol ar y treialon hyn yw, er mai dim ond ychydig funudau a barhaodd y rhan fwyaf o'r sgyrsiau, Parhaodd rhan o'r effaith dros amserYn yr Unol Daleithiau, ychydig dros fis ar ôl yr arbrawf, gwelwyd cyfran sylweddol o'r effaith gychwynnol o hyd, er gwaethaf y nifer fawr o negeseuon ymgyrch a dderbyniwyd gan y cyfranogwyr yn ystod y cyfnod hwnnw.

Beth sy'n gwneud sgwrsbot gwleidyddol yn argyhoeddiadol (a pham mae hynny'n cynhyrchu mwy o wallau)

Roedd yr ymchwilwyr eisiau deall nid yn unig a allai chatbots berswadio, ond sut oedden nhw'n ei gyflawniMae'r patrwm sy'n ailadrodd ei hun yn yr astudiaethau yn glir: mae gan AI y dylanwad mwyaf pan Mae'n defnyddio llawer o ddadleuon sy'n seiliedig ar ffeithiauhyd yn oed os nad yw llawer o'r wybodaeth honno'n arbennig o soffistigedig.

Yn yr arbrofion a gydlynwyd gan Rand, y cyfarwyddyd mwyaf effeithiol i'r modelau oedd gofyn iddynt fod cwrtais, parchus, a phwy allai ddarparu tystiolaeth o'i ddatganiadau. Roedd cwrteisi a thôn sgwrsio o gymorth, ond y prif ysgogiad ar gyfer newid oedd cynnig data, enghreifftiau, ffigurau, a chyfeiriadau cyson at bolisïau cyhoeddus, yr economi, neu ofal iechyd.

Pan oedd modelau wedi'u cyfyngu yn eu mynediad at ffeithiau gwiriadwy a'u cyfarwyddo i berswadio heb droi at ddata pendantGostyngodd eu pŵer dylanwad yn sylweddol. Arweiniodd y canlyniad hwn yr awduron i'r casgliad nad yw mantais chatbots dros fformatau eraill o bropaganda gwleidyddol yn gorwedd cymaint mewn trin emosiynol ag yn y dwysedd gwybodaeth y gallant eu defnyddio mewn dim ond ychydig o droeon o sgwrs.

Ond mae ochr negyddol i'r un strategaeth hon: wrth i'r pwysau gynyddu ar y modelau i gynhyrchu mwy a mwy o honiadau honedig ffeithiolMae'r risg yn cynyddu y bydd y system yn rhedeg allan o ddeunydd dibynadwy ac yn dechrau ffeithiau “dyfeisio”Yn syml, mae'r chatbot yn llenwi'r bylchau gyda data sy'n swnio'n gredadwy ond nad yw o reidrwydd yn gywir.

Cyhoeddwyd yr astudiaeth yn Science, gyda 76.977 o oedolion o'r Deyrnas Unedig y 19 model gwahanol (o systemau ffynhonnell agored bach i fodelau masnachol arloesol), mae'n cadarnhau hyn yn systematig: y ôl-hyfforddiant yn canolbwyntio ar berswadio cynyddodd y gallu i ddylanwadu hyd at 51%, tra bod newidiadau syml mewn cyfarwyddiadau (yr hyn a elwir yn gan annogFe wnaethon nhw ychwanegu un arall 27% o effeithlonrwydd. Ar yr un pryd, roedd y gwelliannau hyn yn cyd-fynd â gostyngiad amlwg yn y cywirdeb ffeithiol.

Anghymesuredd ideolegol a'r risg o gamwybodaeth

Un o gasgliadau mwyaf pryderus astudiaethau Cornell ac Rhydychen yw nad yw'r anghydbwysedd rhwng perswadiaeth a gwirionedd wedi'i ddosbarthu'n gyfartal ymhlith yr holl ymgeiswyr a swyddi. Pan ddadansoddodd gwirwyr ffeithiau annibynnol y negeseuon a gynhyrchwyd gan y robotiaid sgwrsio, fe wnaethant ganfod bod Gwnaeth modelau a gefnogodd ymgeiswyr asgell dde fwy o gamgymeriadau na'r rhai a gefnogodd ymgeiswyr blaengar.

Yn ôl yr awduron, mae hyn anghymesuredd Mae'n cyd-fynd ag astudiaethau blaenorol sy'n Maent yn dangos bod defnyddwyr ceidwadol yn tueddu i rannu cynnwys mwy anghywir ar gyfryngau cymdeithasol na defnyddwyr sy'n tueddu i'r chwith.Gan fod modelau iaith yn dysgu o symiau enfawr o wybodaeth a dynnwyd o'r rhyngrwyd, mae'n debyg eu bod yn adlewyrchu rhywfaint o'r rhagfarn honno yn hytrach na'i chreu o'r dechrau.

Beth bynnag, mae'r canlyniad yr un fath: pan gyfarwyddir chatbot i wneud y mwyaf o'i bŵer perswadiol o blaid bloc ideolegol penodol, mae'r model yn tueddu i cynyddu cyfran yr honiadau camarweiniol, er fy mod i'n parhau i'w cymysgu â llawer o ddata cywir. Nid dim ond y ffaith y gall gwybodaeth ffug lithro drwodd yw'r broblem.ond Mae'n gwneud hynny wedi'i lapio mewn naratif sy'n ymddangos yn rhesymol ac wedi'i ddogfennu'n dda..

Mae'r ymchwilwyr hefyd yn tynnu sylw at bwynt anghyfforddus: Nid ydynt wedi dangos bod honiadau anghywir yn eu hanfod yn fwy perswadiol.Fodd bynnag, pan gaiff deallusrwydd artiffisial ei wthio i ddod yn fwyfwy effeithiol, mae nifer y gwallau'n tyfu ochr yn ochr. Mewn geiriau eraill, mae gwella perfformiad perswadiol heb beryglu cywirdeb yn datgelu ei hun fel her dechnegol a moesegol sy'n parhau i fod heb ei datrys.

Mae'r patrwm hwn yn arbennig o bryderus yng nghyd-destunau polareiddio gwleidyddol uchel, fel y rhai a brofwyd mewn rhannau o Ewrop a Gogledd America, lle mae'r ymylon buddugoliaeth yn gul a gall llond llaw o bwyntiau canran benderfynu canlyniad etholiad cyffredinol neu arlywyddol.

Cyfyngiadau'r astudiaethau ac amheuon ynghylch yr effaith wirioneddol wrth y blwch pleidleisio

Er bod canlyniadau Natur a Science yn gadarn ac yn cytuno yn eu prif gasgliadau, mae'r ddau dîm yn mynnu bod Arbrofion rheoledig yw'r rhain, nid ymgyrchoedd go iawn.Mae sawl elfen sy'n gwahodd y gofal wrth allosod y data yn union fel etholiad yn y stryd.

Ar y naill law, naill ai cofrestrodd y cyfranogwyr yn wirfoddol neu cawsant eu recriwtio drwy lwyfannau sy'n cynnig iawndal ariannol, sy'n cyflwyno rhagfarnau hunan-ddethol ac mae'n symud i ffwrdd o amrywiaeth yr etholwyr gwirioneddolAr ben hynny, roedden nhw'n gwybod bob amser fod Roedden nhw'n siarad â deallusrwydd artiffisial. ac roedden nhw'n rhan o astudiaeth, amodau na fyddai prin yn cael eu hailadrodd mewn ymgyrch gyffredin.

Naws bwysig arall yw bod yr astudiaethau'n mesur yn bennaf newidiadau mewn agweddau a bwriadau datganedignid y bleidlais wirioneddol a fwriwyd. Mae'r rhain yn ddangosyddion defnyddiol, ond nid ydynt yn gyfwerth ag arsylwi ymddygiad terfynol ar ddiwrnod yr etholiad. Mewn gwirionedd, yn arbrofion yr Unol Daleithiau, roedd yr effaith ychydig yn llai nag yng Nghanada a Gwlad Pwyl, gan awgrymu bod gan y cyd-destun gwleidyddol a graddfa'r amheuaeth flaenorol ddylanwad sylweddol.

Yng nghyswllt yr astudiaeth Brydeinig a gydlynwyd gan Kobi Hackenburg Gan Sefydliad Diogelwch AI y DU, mae cyfyngiadau clir hefyd: dim ond o pleidleiswyr y Deyrnas Unedig, pob un ohonynt yn ymwybodol eu bod yn cymryd rhan mewn ymchwiliad academaidd a chyda iawndal economaiddMae hyn yn cyfyngu ar ei gyffredinoli i wledydd eraill yr UE neu gyd-destunau llai rheoledig.

Serch hynny, maint y gweithiau hyn—degau o filoedd o gyfranogwyr a mwy na 700 o bynciau gwleidyddol gwahanol— a thryloywder methodolegol wedi arwain rhan fawr o'r gymuned academaidd i ystyried hynny Maen nhw'n peintio senario credadwyNid yw defnyddio robotiaid sgwrsio gwleidyddol sy'n gallu newid barn yn gymharol gyflym bellach yn ddamcaniaeth dyfodolaidd, ond yn senario technegol ymarferol mewn ymgyrchoedd sydd i ddod.

Chwaraewr etholiadol newydd i Ewrop a democratiaethau eraill

Y tu hwnt i achosion penodol yr Unol Daleithiau, Canada, Gwlad Pwyl a'r DU, mae gan y canfyddiadau oblygiadau uniongyrchol i Ewrop a Sbaenlle mae rheoleiddio cyfathrebu gwleidyddol ar gyfryngau cymdeithasol a defnyddio data personol mewn ymgyrchoedd eisoes yn destun dadl frwd. Y posibilrwydd o ymgorffori robotiaid sgwrsio sy'n cynnal deialogau personol gyda phleidleiswyr Mae'n ychwanegu haen ychwanegol o gymhlethdod.

Hyd yn hyn, roedd perswadiad gwleidyddol yn cael ei fynegi'n bennaf drwy hysbysebion statig, ralïau, dadleuon teledu, a chyfryngau cymdeithasolMae dyfodiad cynorthwywyr sgwrsio yn cyflwyno elfen newydd: y gallu i gynnal rhyngweithiadau un-i-un, wedi'i addasu ar unwaith i'r hyn y mae'r dinesydd yn ei ddweud mewn amser real, a hyn i gyd am gost bron yn ymylol i drefnwyr yr ymgyrch.

Mae'r ymchwilwyr yn pwysleisio nad yw'r allwedd bellach yn unig pwy sy'n rheoli cronfa ddata'r pleidleiswyr, ond pwy all datblygu modelau sy'n gallu ymateb i ddadleuon, eu mireinio a'u hailadrodd yn barhaus, gyda chyfaint o wybodaeth sy'n llawer mwy na'r hyn y gallai gwirfoddolwr dynol ei drin wrth switsfwrdd neu bost stryd.

Yn y cyd-destun hwn, lleisiau fel lleisiau'r arbenigwr Eidalaidd Walter Quattrociocchi Maent yn mynnu y dylai'r ffocws rheoleiddio symud o bersonoli ymosodol neu segmentu ideolegol tuag at dwysedd gwybodaeth y gall modelau eu darparu. Mae astudiaethau'n dangos bod perswâd yn tyfu'n bennaf pan gaiff data ei luosi, nid pan gaiff strategaethau emosiynol eu defnyddio.

La Mae cyd-ddigwyddiad canlyniadau rhwng Natur a Gwyddoniaeth wedi codi pryder mewn sefydliadau Ewropeaidd. pryderus am y uniondeb prosesau democrataiddEr bod yr Undeb Ewropeaidd yn gwneud cynnydd gyda fframweithiau fel y Ddeddf Gwasanaethau Digidol neu'r rheoleiddio penodol ar gyfer deallusrwydd artiffisial yn y dyfodol, mae cyflymder esblygiad y modelau hyn Mae'n gofyn am adolygiad cyson o'r mecanweithiau ar gyfer goruchwylio, archwilio a thryloywder..

Llythrennedd digidol ac amddiffyn rhag perswâd awtomataidd

Un o'r negeseuon sy'n codi dro ar ôl tro yn y sylwadau academaidd sy'n cyd-fynd â'r gweithiau hyn yw na all yr ymateb fod yn seiliedig ar waharddiadau neu reolaethau technegol yn unig. Mae'r awduron yn cytuno y bydd yn hanfodol cryfhau'r llythrennedd digidol o'r boblogaeth fel bod dinasyddion yn dysgu i adnabod a gwrthsefyll perswâd a gynhyrchir gan systemau awtomatig.

Arbrofion cyflenwol, fel y rhai a gyhoeddwyd yn PNAS NexusMaen nhw'n awgrymu mai'r defnyddwyr sy'n deall orau sut mae modelau iaith mawr yn gweithio yw llai agored i niwed i'w ymdrechion i ddylanwadu. Mae gwybod y gall chatbot fod yn anghywir, gorliwio, neu lenwi'r bylchau gyda dyfalu yn lleihau'r duedd i dderbyn ei negeseuon fel pe baent yn dod gan awdurdod anffaeledig.

Ar yr un pryd, mae wedi cael ei arsylwi nad yw effeithiolrwydd perswadiol AI yn dibynnu cymaint ar y cyd-gysylltydd yn credu ei fod yn siarad â bod dynol arbenigol, ond ar y ansawdd a chysondeb y dadleuon y mae'n ei dderbyn. Mewn rhai profion, llwyddodd y negeseuon sgwrsbot hyd yn oed i lleihau cred mewn damcaniaethau cynllwynio, waeth a oedd y cyfranogwyr yn meddwl eu bod yn sgwrsio â pherson neu beiriant.

Mae hyn yn awgrymu nad yw'r dechnoleg ei hun yn niweidiol yn ei hanfod: gellir ei defnyddio ar gyfer y ddau brwydro yn erbyn gwybodaeth anghywir fel i'w ledaenuTynnir y llinell gan y cyfarwyddiadau a roddir i'r model, y data y caiff ei hyfforddi ag ef, ac, yn anad dim, amcanion gwleidyddol neu fasnachol y rhai sy'n ei roi ar waith.

Er bod llywodraethau a rheoleiddwyr yn trafod terfynau a gofynion tryloywder, mae awduron y gweithiau hyn yn mynnu un syniad: robotiaid sgwrsio gwleidyddol Dim ond os bydd y cyhoedd yn cytuno i ryngweithio â nhw y byddant yn gallu arfer dylanwad enfawr.Felly, bydd y ddadl gyhoeddus ar ei ddefnydd, ei labelu clir, a'r hawl i beidio â chael eich perswadio'n awtomataidd yn dod yn faterion canolog yn y sgwrs ddemocrataidd yn y blynyddoedd i ddod.

Mae'r darlun a baentiwyd gan yr ymchwil yn Nature and Science yn datgelu cyfleoedd a risgiau: gall sgwrsio robotiaid deallusrwydd artiffisial helpu i esbonio polisïau cyhoeddus yn well a datrys amheuon cymhleth, ond gallant hefyd meddu ar y gallu i i droi’r glorian etholiadolyn enwedig ymhlith pleidleiswyr sydd heb benderfynu, ac maen nhw'n gwneud hynny gyda pris amlwg o ran cywirdeb gwybodaeth pan gânt eu hyfforddi i wneud y mwyaf o'u pŵer perswadiol, cydbwysedd bregus y bydd yn rhaid i ddemocratiaethau fynd i'r afael ag ef ar frys a heb naïfrwydd.

Erthygl gysylltiedig:

Mae Califfornia yn pasio SB 243 i reoleiddio sgwrsio robotiaid deallusrwydd artiffisial ac amddiffyn plant dan oed.

Alberto navarro

Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.

Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.