- Du svarbūs žurnaluose „Nature“ ir „Science“ paskelbti tyrimai įrodo, kad politiniai pokalbių robotai gali pakeisti požiūrį ir balsavimo ketinimus keliose šalyse.
- Įtikinimas pirmiausia grindžiamas daugelio argumentų ir duomenų pateikimu, nors tai padidina netikslios informacijos riziką.
- Optimizavimas siekiant paveikti sustiprina įtikinamąjį efektą iki 25 balų, tačiau sumažina atsakymų teisingumą.
- Šie rezultatai pradeda skubias diskusijas Europoje ir likusiose demokratinėse valstybėse apie reguliavimą, skaidrumą ir skaitmeninį raštingumą.
Įsiveržimas politinių pokalbių robotų Tai nustojo būti technologine anekdotine tema tapti elementu, kuris pradeda būti svarbus realiose rinkimų kampanijose. Vos kelių minučių pokalbiai su dirbtinio intelekto modeliais yra pakankami, kad keliais punktais pakeisti simpatiją kandidatui arba konkretų pasiūlymą, kuris iki šiol buvo siejamas tik su didelėmis žiniasklaidos kampanijomis ar labai koordinuotais mitingais.
Du plataus masto tyrimai, vienu metu paskelbti žurnale „... Gamta y Mokslas, Jie pridėjo skaičius prie kažko, kas jau buvo įtariama.: tas Pokalbių robotai gali keisti piliečių politines nuostatas. nepaprastai lengvai, net žinodami, kad bendrauja su mašina. Ir jie tai daro, visų pirma, per argumentai, kupini informacijosne tiek pasitelkiant sudėtingas psichologines taktikas.
Pokalbių robotai kampanijose: eksperimentai JAV, Kanadoje, Lenkijoje ir JK
Nauji įrodymai gauti iš eksperimentų serijos, kurią koordinavo komandos iš Kornelio universitetas ir iš Oksfordo universitetas, atliekami faktinių rinkimų procesų metu Jungtinės Valstijos, Kanada, Lenkija ir Jungtinė KaralystėVisais atvejais dalyviai žinojo, kad kalbėsis su dirbtiniu intelektu, tačiau nežinojo jiems priskirto pokalbių roboto politinės orientacijos.
Darbe, kuriam vadovavo Davidas Randas ir paskelbtame žurnale „Nature“, tūkstančiai rinkėjų dalyvavo trumpuose dialoguose su kalbos modeliais, sukonfigūruotais taip, kad ginti konkretų kandidatąPavyzdžiui, 2024 m. JAV prezidento rinkimuose... 2.306 piliečių Jie pirmiausia nurodė savo pageidavimus tarp Donaldas Trumpas y Kamala HarrisTada jiems atsitiktine tvarka buvo priskirtas pokalbių robotas, kuris gynė vieną iš dviejų.
Po pokalbio buvo išmatuoti požiūrio ir balsavimo ketinimų pokyčiai. Harris palankūs robotai pasiekė poslinkis 3,9 taško skalėje nuo 0 iki 100 tarp rinkėjų, kurie iš pradžių palaikė Trumpą, o šį poveikį autoriai apskaičiavo kaip keturis kartus daugiau nei įprastos rinkimų reklamos išbandytas 2016 ir 2020 m. kampanijose. Pro-Trumpo modelis taip pat pakeitė pozicijas, nors ir nuosaikiau, pasikeitus 1,51 taško tarp Harriso šalininkų.
Rezultatai Kanada (su 1.530 dalyviai ir pokalbių robotų gynyba Markas Carney o Pierre'as Poièvre'as) ir Lenkija (2 118 žmonių, iš kurių modeliai reklamavo Rafalas Trzaskowskis o Karolis Navrockis) buvo dar ryškesni: tokiais atvejais pokalbių robotai sugebėjo balsavimo ketinimų pokyčiai iki 10 procentinių punktų tarp opozicijos rinkėjų.
Svarbiausias šių bandymų aspektas yra tas, kad nors dauguma pokalbių truko tik kelias minutes, Dalis poveikio išliko laikui bėgantJungtinėse Valstijose, praėjus kiek daugiau nei mėnesiui po eksperimento, vis dar buvo pastebėta nemaža dalis pradinio poveikio, nepaisant kampanijos pranešimų lavinos, kurią dalyviai gavo per tą laikotarpį.
Kas daro politinį pokalbių robotą įtikinamą (ir kodėl tai sukelia daugiau klaidų)
Tyrėjai norėjo suprasti ne tik tai, ar pokalbių robotai gali įtikinti, bet ir kaip jiems sekėsi tai pasiektiTyrimuose pasikartojantis modelis yra aiškus: dirbtinis intelektas turi didžiausią įtaką, kai Jame naudojama daug faktais pagrįstų argumentųnet jei didelė dalis tos informacijos nėra itin sudėtinga.
Rando koordinuojamuose eksperimentuose efektyviausia instrukcija modeliams buvo paprašyti jų būti mandagūs, pagarbūs ir galintys pateikti įrodymus jo pareiškimų. Mandagumas ir šnekamosios kalbos tonas padėjo, tačiau pagrindinis pokyčių svertas buvo duomenų, pavyzdžių, skaičių pateikimas ir nuolatinės nuorodos į viešąją politiką, ekonomiką ar sveikatos apsaugą.
Kai modeliams buvo apribota prieiga prie patikrinamų faktų ir nurodyta įtikinėti nesiremiant konkrečiais duomenimisJų įtakos galia smarkiai sumažėjo. Šis rezultatas leido autoriams daryti išvadą, kad pokalbių robotų pranašumas, palyginti su kitais politinės propagandos formatais, slypi ne tiek emociniame manipuliavime, kiek tame, kad... informacijos tankis kuriuos jie gali panaudoti vos per kelis pokalbio judesius.
Tačiau ta pati strategija turi ir trūkumą: didėjant spaudimui modeliams generuoti vis daugiau tariamai faktinių teiginiųPadidėja rizika, kad sistemai pritrūks patikimos medžiagos ir ji pradės strigti. „išgalvoti“ faktusPaprastai tariant, pokalbių robotas užpildo spragas duomenimis, kurie skamba įtikinamai, bet nebūtinai yra teisingi.
Tyrimas, paskelbtas žurnale „Science“, kuriame 76 977 suaugusieji iš Jungtinės Karalystės y 19 skirtingi modeliai (nuo mažų atvirojo kodo sistemų iki pažangiausių komercinių modelių) sistemingai tai patvirtina: po mokymų, kuriuose daugiausia dėmesio skiriama įtikinėjimui padidino gebėjimą daryti įtaką iki 51%, o paprasti instrukcijų pakeitimai (vadinamieji raginimasJie pridėjo dar vieną 27% efektyvumo. Tuo pačiu metu šie patobulinimai buvo lydimi pastebimo sumažėjimo faktinis tikslumas.
Ideologinė asimetrija ir dezinformacijos rizika
Viena labiausiai nerimą keliančių Kornelio ir Oksfordo tyrimų išvadų yra ta, kad disbalansas tarp įtikinamumo ir teisingumo nėra tolygiai pasiskirstęs tarp visų kandidatų ir pozicijų. Kai nepriklausomi faktų tikrintojai analizavo pokalbių robotų sugeneruotus pranešimus, jie nustatė, kad Modeliai, kurie palaikė dešiniųjų kandidatus, padarė daugiau klaidų nei tie, kurie palaikė progresyvius kandidatus.
Pasak autorių, tai asimetrija Tai sutampa su ankstesniais tyrimais, kurie Jie rodo, kad konservatyvūs vartotojai socialiniuose tinkluose linkę dalytis netikslesniu turiniu nei kairiųjų pažiūrų vartotojai.Kadangi kalbos modeliai mokosi iš daugybės informacijos, išgautos iš interneto, jie greičiausiai atspindi dalį šio šališkumo, o ne kuria jį nuo nulio.
Bet kuriuo atveju pasekmė ta pati: kai pokalbių robotui nurodoma maksimaliai padidinti savo įtikinimo galią konkretaus ideologinio bloko naudai, modelis linkęs padidinti klaidinančių teiginių dalį, nors aš juos ir toliau maišau su daugybe teisingų duomenų. Problema ne tik ta, kad gali praslysti klaidinga informacija.bet Tai daroma apipinta, regis, pagrįstu ir gerai dokumentuotu pasakojimu..
Tyrėjai taip pat atkreipia dėmesį į vieną nemalonų aspektą: Jie neįrodė, kad netikslūs teiginiai iš esmės yra įtikinamesni.Tačiau, kai dirbtinis intelektas yra skatinamas tapti vis efektyvesnis, klaidų skaičius auga lygiagrečiai. Kitaip tariant, įtikinamumo gerinimas nepakenkiant tikslumui išryškėja kaip techninis ir etinis iššūkis, kuris lieka neišspręstas.
Šis modelis ypač kelia nerimą kontekstuose, kai didelė politinė poliarizacija, panašiai kaip ir kai kuriose Europos ir Šiaurės Amerikos dalyse, kur pergalės skirtumai yra nedideli ir keli procentiniai punktai gali nulemti visuotinių ar prezidento rinkimų rezultatus.
Tyrimų apribojimai ir abejonės dėl realaus poveikio balsadėžėje
Nors „Nature“ ir „Science“ žurnalų rezultatai yra tvirti ir sutampa pagrindinėse išvadose, abi komandos tvirtina, kad Tai kontroliuojami eksperimentai, o ne tikros kampanijos.Yra keletas elementų, kurie kviečia atsargiai ekstrapoliuojant duomenis lyg rinkimai gatvėje.
Viena vertus, dalyviai užsiregistravo savanoriškai arba buvo pakviesti per platformas, siūlančias finansinį atlygį, o tai įveda savęs atrankos šališkumo ir nutolsta nuo tikrojo elektorato įvairovėsBe to, jie visą laiką žinojo, kad Jie kalbėjosi su dirbtiniu intelektu. ir tai buvo tyrimo dalis – sąlygos, kurios įprastos kampanijos metu vargu ar kartotųsi.
Kitas svarbus niuansas yra tas, kad tyrimai pirmiausia matavo požiūrio ir išreikštų ketinimų pokyčiaine faktinis atiduotas balsas. Tai naudingi rodikliai, tačiau jie nėra lygiaverčiai galutinio elgesio stebėjimui rinkimų dieną. Iš tiesų, JAV eksperimentuose poveikis buvo šiek tiek mažesnis nei Kanadoje ir Lenkijoje, o tai rodo, kad politinis kontekstas ir ankstesnio neapsisprendimo laipsnis daro didelę įtaką.
Britų tyrimo, kurį koordinavo Kobi Hackenburg JK Dirbtinio intelekto saugumo institutas taip pat nustatė aiškius apribojimus: duomenys gaunami tik iš Jungtinės Karalystės rinkėjai, visi jie žinojo, kad dalyvauja akademiniame tyrime ir su finansinis atlygisTai riboja jo apibendrinimą kitomis ES šalimis arba mažiau kontroliuojamais kontekstais.
Nepaisant to, šių darbų mastas – dešimtys tūkstančių dalyvių ir daugiau nei 700 skirtingų politinių temų— ir metodologinis skaidrumas paskatino didelę akademinės bendruomenės dalį manyti, kad Jie piešia tikėtiną scenarijųPolitinių pokalbių robotų, galinčių gana greitai pakeisti nuomones, naudojimas nebėra futuristinė hipotezė, o techniškai įgyvendinamas scenarijus artėjančiose kampanijose.
Naujas rinkimų dalyvis Europoje ir kitose demokratijose
Be konkrečių JAV, Kanados, Lenkijos ir JK atvejų, išvados turi tiesioginės įtakos Europa ir Ispanijakur politinės komunikacijos socialinėje žiniasklaidoje reguliavimas ir asmens duomenų naudojimas kampanijose jau yra intensyvių diskusijų objektas. Galimybė integruoti pokalbių robotus, kurie palaiko asmeniniai dialogai su rinkėjais Tai prideda papildomą sudėtingumo sluoksnį.
Iki šiol politinis įtikinėjimas daugiausia buvo išreiškiamas per statinės reklamos, mitingai, televizijos debatai ir socialinė žiniasklaidaPokalbių asistentų atsiradimas įneša naują elementą: gebėjimą palaikyti individualios sąveikos, akimirksniu pritaikoma prie to, ką pilietis sako realiuoju laiku, ir visa tai kampanijos organizatoriams kainuoja praktiškai minimaliai.
Tyrėjai pabrėžia, kad svarbiausia ne tik tai, kas kontroliuoja rinkėjų duomenų bazę, bet ir tai, kas gali... kurti modelius, gebančius reaguoti į argumentus, juos tobulinti ir atkartoti nuolat, o informacijos kiekis gerokai viršija tai, ką savanoris žmogus galėtų apdoroti prie telefono linijos ar gatvės pašto.
Šiame kontekste tokie balsai kaip italų eksperto Walteris Quattrociocchi Jie reikalauja, kad reguliavimo dėmesys būtų nukreiptas nuo agresyvaus suasmeninimo ar ideologinio segmentavimo į informacijos tankis kuriuos gali suteikti modeliai. Tyrimai rodo, kad įtikinėjimas pirmiausia stiprėja tada, kai duomenys yra dauginami, o ne tada, kai naudojamos emocinės strategijos.
La „Nature“ ir „Science“ rezultatų sutapimas sukėlė nerimą Europos organizacijose. susirūpinęs dėl demokratinių procesų vientisumasNors Europos Sąjunga daro pažangą kurdama tokias sistemas kaip Skaitmeninių paslaugų aktas ar būsimas konkretus dirbtinio intelekto reguliavimas, šių modelių raidos greitis Tam reikia nuolat peržiūrėti priežiūros, audito ir skaidrumo mechanizmus..
Skaitmeninis raštingumas ir apsauga nuo automatizuoto įtikinėjimo
Viena iš pasikartojančių žinučių šiuos darbus lydinčiose akademinėse pastabose yra ta, kad atsakas negali būti grindžiamas vien draudimais ar techninėmis kontrolės priemonėmis. Autoriai sutinka, kad bus labai svarbu sustiprinti skaitmeninis raštingumas gyventojų, kad piliečiai išmoktų atpažinti įtikinėjimą ir jam pasipriešinti generuoja automatinės sistemos.
Papildomi eksperimentai, pavyzdžiui, paskelbti žurnale „... PNAS NexusJie teigia, kad vartotojai, kurie geriausiai supranta, kaip veikia dideli kalbos modeliai, yra mažiau pažeidžiami jo bandymams daryti įtaką. Žinojimas, kad pokalbių robotas gali klysti, perdėti arba spėlioti, sumažina polinkį priimti jo žinutes taip, tarsi jos būtų gautos iš neklystančio autoriteto.
Tuo pačiu metu pastebėta, kad dirbtinio intelekto įtikinamasis veiksmingumas priklauso ne tiek nuo to, ar pašnekovas mano kalbantis su ekspertu, kiek nuo to, ar argumentų kokybė ir nuoseklumas kurį gauna. Kai kuriuose bandymuose pokalbių roboto žinutėms netgi pavyko sumažinti tikėjimą sąmokslo teorijomis, nepriklausomai nuo to, ar dalyviai manė, kad kalbasi su žmogumi, ar su mašina.
Tai rodo, kad pati technologija nėra savaime žalinga: ją galima naudoti tiek kovoti su dezinformacija kaip jį skleistiRibą nubrėžia modeliui duotos instrukcijos, duomenys, kuriais jis apmokytas, ir, svarbiausia, jį įgyvendinančių asmenų politiniai ar komerciniai tikslai.
Nors vyriausybės ir reguliavimo institucijos diskutuoja apie skaidrumo ribas ir reikalavimus, šių darbų autoriai tvirtina vieną idėją: politinių pokalbių robotų Jie galės daryti didžiulę įtaką tik tuo atveju, jei visuomenė sutiks su jais bendrauti.Todėl viešos diskusijos apie jo naudojimą, aiškų ženklinimą ir teisę nebūti automatizuoto įtikinėjimo auku taps pagrindiniais demokratinių diskusijų klausimais ateinančiais metais.
Žurnale „Nature and Science“ paskelbto tyrimo nupieštas vaizdas atskleidžia ir galimybes, ir rizikas: dirbtinio intelekto pokalbių robotai gali padėti geriau paaiškinti viešąją politiką ir išspręsti sudėtingas abejones, tačiau jie taip pat gali turėti galimybę pakreipti rinkimų svarstyklesypač tarp neapsisprendusių rinkėjų, ir jie tai daro su akivaizdi kaina, susijusi su informacijos tikslumu, kai jie yra apmokyti maksimaliai padidinti savo įtikinamąją galią, subtili pusiausvyra, kurią demokratijos turės spręsti skubiai ir be naivumo.
Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.
Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.