- Dvije velike studije u časopisima Nature i Science dokazuju da politički chatbotovi mogu promijeniti stavove i namjere glasanja u nekoliko zemalja.
- Uvjeravanje se prvenstveno temelji na ponudi mnogih argumenata i podataka, iako povećava rizik netočnih informacija.
- Optimizacija za utjecaj pojačava uvjerljivi učinak do 25 bodova, ali smanjuje istinitost odgovora.
- Nalazi otvaraju hitnu raspravu u Europi i ostatku demokracija o regulaciji, transparentnosti i digitalnoj pismenosti.
Pojava politički chatbotovi Prestalo je biti tehnološka anegdota postati element koji počinje biti važan u stvarnim izbornim kampanjama. Razgovori od samo nekoliko minuta s AI modelima dovoljni su za pomaknuti simpatije prema kandidatu za nekoliko bodova ili konkretan prijedlog, nešto što se donedavno povezivalo samo s velikim medijskim kampanjama ili visoko koordiniranim skupovima.
Dva dalekosežna istraživanja, objavljena istovremeno u Priroda y Znanost, Dali su brojke nečemu što se već sumnjalo.: the Razgovorni chatbotovi sposobni su mijenjati političke stavove građana. s izvanrednom lakoćom, čak i kada znaju da komuniciraju sa strojem. A to čine, prije svega, putem argumenti puni informacijane toliko kroz sofisticirane psihološke taktike.
Chatbotovi u kampanjama: eksperimenti u SAD-u, Kanadi, Poljskoj i Velikoj Britaniji
Novi dokazi dolaze iz niza eksperimenata koje su koordinirali timovi iz Sveučilište Cornell i Sveučilište u Oxfordu, provedeno tijekom stvarnih izbornih procesa u Sjedinjene Američke Države, Kanada, Poljska i Ujedinjeno KraljevstvoU svim slučajevima, sudionici su znali da će razgovarati s umjetnom inteligencijom, ali nisu bili svjesni političke orijentacije chatbota koji im je dodijeljen.
U radu koji je vodio David Rand i objavljeno u časopisu Nature, tisuće birača sudjelovale su u kratkim dijalozima s jezičnim modelima konfiguriranim za braniti određenog kandidataNa primjer, na američkim predsjedničkim izborima 2024. 2.306 građana Prvo su naznačili svoju preferenciju između Donald Trump y Kamala HarrisZatim su nasumično dodijeljeni chatbotu koji je branio jednog od njih dvoje.
Nakon razgovora, mjerene su promjene u stavu i namjeri glasanja. Botovi naklonjeni Harrisu postigli su pomak 3,9 bodova na ljestvici od 0 do 100 među biračima koji su u početku podržavali Trumpa, utjecaj koji autori izračunavaju kao četiri puta više nego kod konvencionalnog izbornog oglašavanja testirano u kampanjama 2016. i 2020. Pro-Trumpov model također je promijenio stavove, iako umjerenije, s promjenom u 1,51 boda među Harrisovim pristašama.
Rezultati u Kanada (S 1.530 sudionika i chatbotovi koji brane Mark Carney o Pierre Poilievre) i u Polonia (2.118 ljudi, s modelima koji su promovirali Rafał Trzaskowski o Karol Nawrocki) bili su još upečatljiviji: u tim su kontekstima chatbotovi uspjeli promjene u namjeri glasanja do 10 postotnih bodova među biračima oporbe.
Ključni aspekt ovih suđenja je da, iako je većina razgovora trajala samo nekoliko minuta, Dio učinka trajao je tijekom vremenaU Sjedinjenim Državama, nešto više od mjesec dana nakon eksperimenta, značajan dio početnog utjecaja još je uvijek bio uočen, unatoč lavini poruka kampanje koje su sudionici primali tijekom tog razdoblja.
Što čini političkog chatbota uvjerljivim (i zašto to generira više pogrešaka)
Istraživači su htjeli razumjeti ne samo mogu li chatbotovi uvjeravati, već kako su to postigliUzorak koji se ponavlja u studijama je jasan: umjetna inteligencija ima najveći utjecaj kada Koristi mnoge argumente utemeljene na činjenicamačak i ako velik dio tih informacija nije osobito sofisticiran.
U eksperimentima koje je koordinirao Rand, najučinkovitija uputa za modele bila je zatražiti od njih da budu pristojan, pun poštovanja i tko bi mogao pružiti dokaze njegovih izjava. Ljubaznost i konverzacijski ton pomogli su, ali glavna poluga promjene ležala je u ponudi podataka, primjera, brojki i stalnom pozivanju na javne politike, gospodarstvo ili zdravstvo.
Kada je pristup modelima bio ograničen provjerljivim činjenicama i upućeni su da uvjere bez pribjegavanja konkretnim podacimaNjihova moć utjecaja drastično je pala. Ovaj rezultat naveo je autore na zaključak da prednost chatbotova nad drugim formatima političke propagande ne leži toliko u emocionalnoj manipulaciji koliko u gustoća informacija koje mogu primijeniti u samo nekoliko okretaja razgovora.
Ali ista ta strategija ima i lošu stranu: kako se povećava pritisak na modele da generiraju sve više navodno činjeničnih tvrdnjiPovećava se rizik da će sustavu ponestati pouzdanog materijala i početi "izmišljati" činjeniceJednostavno rečeno, chatbot popunjava praznine podacima koji zvuče uvjerljivo, ali nisu nužno točni.
Studija objavljena u časopisu Science, s 76.977 odraslih osoba iz Ujedinjenog Kraljevstva y 19 različita modela (od malih sustava otvorenog koda do vrhunskih komercijalnih modela), sustavno potvrđuje ovo: post-trening usmjeren na uvjeravanje povećana sposobnost utjecaja do 51%, dok jednostavne promjene u uputama (tzv. poticanjeDodali su još jednu 27% učinkovitosti. Istovremeno, ova poboljšanja popraćena su primjetnim smanjenjem činjenična točnost.
Ideološke asimetrije i rizik od dezinformacija
Jedan od najuznemirujućih zaključaka studija Cornella i Oxforda jest da neravnoteža između uvjerljivosti i istinitosti nije ravnomjerno raspoređena među svim kandidatima i pozicijama. Kada su neovisni provjeravatelji činjenica analizirali poruke koje su generirali chatbotovi, otkrili su da Manekenke koje su podržavale desničarske kandidate napravile su više grešaka nego oni koji su podržavali progresivne kandidate.
Prema autorima, ovo asimetrija To se poklapa s prethodnim studijama koje Pokazuju da konzervativni korisnici imaju tendenciju dijeliti više netočnog sadržaja na društvenim mrežama nego lijevo orijentirani korisnici.Budući da jezični modeli uče iz ogromnih količina informacija izvučenih s interneta, vjerojatno odražavaju dio te pristranosti, a ne stvaraju je od nule.
U svakom slučaju, posljedica je ista: kada se chatbotu da instrukcija da maksimizira svoju moć uvjeravanja u korist određenog ideološkog bloka, model teži povećati udio obmanjujućih tvrdnji, iako ih i dalje miješam s puno točnih podataka. Problem nije samo u tome što se mogu provući lažne informacije., ali To čini umotano u naizgled razumnu i dobro dokumentiranu priču.
Istraživači također ističu jednu neugodnu točku: Nisu dokazali da su netočne tvrdnje inherentno uvjerljivije.Međutim, kada se umjetna inteligencija potiče da postane sve učinkovitija, broj pogrešaka raste paralelno. Drugim riječima, poboljšanje uvjerljivih performansi bez ugrožavanja točnosti otkriva se kao tehnički i etički izazov koji ostaje neriješen.
Ovaj obrazac je posebno zabrinjavajući u kontekstima visoka politička polarizacija, poput onih u dijelovima Europe i Sjeverne Amerike, gdje su razlike u pobjedi uske i nekoliko postotnih bodova može odlučiti ishod općih ili predsjedničkih izbora.
Ograničenja studija i sumnje u stvarni utjecaj na izborima
Iako su rezultati časopisa Nature i Science čvrsti i slažu se u glavnim zaključcima, oba tima inzistiraju na tome Ovo su kontrolirani eksperimenti, a ne prave kampanje.Postoji nekoliko elemenata koji pozivaju oprez pri ekstrapolaciji podataka baš kao izbori na ulici.
S jedne strane, sudionici su se ili dobrovoljno upisali ili su regrutirani putem platformi koje nude financijsku naknadu, što uvodi pristranosti samoizbora i udaljava se od raznolikosti stvarnog biračkog tijelaNadalje, u svakom su trenutku znali da Razgovarali su s umjetnom inteligencijom. i koji su bili dio studije, uvjeti koji bi se teško ponovili u običnoj kampanji.
Druga važna nijansa je da su studije prvenstveno mjerile promjene u stavovima i izrečenim namjeramane stvarni broj glasova. To su korisni pokazatelji, ali nisu ekvivalentni promatranju konačnog ponašanja na dan izbora. Zapravo, u američkim eksperimentima učinak je bio nešto manji nego u Kanadi i Poljskoj, što sugerira da politički kontekst i stupanj prethodne neodlučnosti imaju značajan utjecaj.
U slučaju britanske studije koju je koordinirao Kobi Hackenburg Britanski Institut za sigurnost umjetne inteligencije također navodi jasna ograničenja: podaci dolaze samo iz birači Ujedinjenog Kraljevstva, svi su bili svjesni da sudjeluju u akademskom istraživanju i s ekonomska naknadaTo ograničava njegovu generalizaciju na druge zemlje EU-a ili manje kontrolirane kontekste.
Ipak, opseg ovih radova - deseci tisuća sudionika i više od 700 različitih političkih tema— i metodološka transparentnost naveli su veliki dio akademske zajednice da razmotri da Oni slikaju vjerojatan scenarijKorištenje političkih chatbotova sposobnih relativno brzo mijenjati mišljenja više nije futuristička hipoteza, već tehnički izvediv scenarij u nadolazećim kampanjama.
Novi izborni igrač za Europu i druge demokracije
Osim specifičnih slučajeva SAD-a, Kanade, Poljske i Ujedinjenog Kraljevstva, nalazi imaju izravne implikacije za Europi i Španjolskojgdje su regulacija političke komunikacije na društvenim mrežama i korištenje osobnih podataka u kampanjama već predmet intenzivne rasprave. Mogućnost uključivanja chatbotova koji održavaju personalizirani dijalozi s biračima Dodaje dodatni sloj složenosti.
Do sada se političko uvjeravanje prvenstveno artikuliralo kroz statične reklame, skupovi, televizijske debate i društvene mrežeDolazak konverzacijskih asistenata uvodi novi element: sposobnost održavanja interakcije jedan na jedan, prilagođeno u hodu onome što građanin govori u stvarnom vremenu, a sve to uz praktički marginalne troškove za organizatore kampanje.
Istraživači naglašavaju da ključ više nije samo tko kontrolira bazu podataka birača, već tko to može razviti modele sposobne za odgovaranje na argumente, njihovo usavršavanje i repliciranje kontinuirano, s količinom informacija koja daleko premašuje ono što bi ljudski volonter mogao obraditi na telefonskoj centrali ili uličnom poštanskom broju.
U tom kontekstu, glasovi poput onog talijanskog stručnjaka Walter Quattrociocchi Inzistiraju na tome da se regulatorni fokus treba pomaknuti s agresivne personalizacije ili ideološke segmentacije prema gustoća informacija koje modeli mogu pružiti. Studije pokazuju da uvjerljivost raste prvenstveno kada se podaci umnožavaju, a ne kada se koriste emocionalne strategije.
La Podudarnost rezultata između Prirode i Znanosti izazvala je zabrinutost u europskim organizacijama zabrinut zbog integritet demokratskih procesaIako Europska unija napreduje s okvirima poput Zakona o digitalnim uslugama ili buduće specifične regulacije umjetne inteligencije, brzina kojom se ti modeli razvijaju To zahtijeva stalnu reviziju mehanizama za nadzor, reviziju i transparentnost..
Digitalna pismenost i obrana od automatiziranog uvjeravanja
Jedna od ponavljajućih poruka u akademskim komentarima koji prate ove radove jest da se odgovor ne može temeljiti isključivo na zabranama ili tehničkim kontrolama. Autori se slažu da će biti ključno ojačati digitalna pismenost stanovništva kako bi građani naučili prepoznati i oduprijeti se uvjeravanju generirani automatskim sustavima.
Komplementarni eksperimenti, poput onih objavljenih u PNAS NexusOni sugeriraju da su korisnici koji najbolje razumiju kako funkcioniraju veliki jezični modeli manje ranjivi na njegove pokušaje utjecaja. Znanje da chatbot može biti u krivu, pretjerivati ili popuniti praznine nagađanjima smanjuje tendenciju prihvaćanja njegovih poruka kao da dolaze od nepogrešivog autoriteta.
Istovremeno, uočeno je da uvjerljiva učinkovitost umjetne inteligencije ne ovisi toliko o tome vjeruje li sugovornik da razgovara sa stručnim čovjekom, već o kvaliteta i dosljednost argumenata koje prima. U nekim testovima, poruke chatbota su čak uspjele smanjiti vjerovanje u teorije zavjere, bez obzira na to jesu li sudionici mislili da razgovaraju s osobom ili strojem.
To sugerira da sama tehnologija nije inherentno štetna: može se koristiti za oboje boriti se protiv dezinformacija kako bi se to proširiloGranicu povlače upute dane modelu, podaci s kojima se trenira i, prije svega, politički ili komercijalni ciljevi onih koji ga provode u djelo.
Dok vlade i regulatori raspravljaju o ograničenjima i zahtjevima transparentnosti, autori ovih radova inzistiraju na jednoj ideji: politički chatbotovi Moći će ostvariti ogroman utjecaj samo ako javnost pristane komunicirati s njima.Stoga će javna rasprava o njegovoj upotrebi, jasnom označavanju i pravu da se ne bude podvrgnut automatiziranom uvjeravanju postati središnja pitanja demokratskog razgovora u nadolazećim godinama.
Slika koju su prikazala istraživanja u časopisu Nature and Science otkriva i prilike i rizike: AI chatbotovi mogu pomoći u boljem objašnjavanju javnih politika i rješavanju složenih nedoumica, ali mogu i imati kapacitet za prevagnuti na izbornoj vagiposebno među neodlučnim biračima, i to čine s očita cijena u smislu točnosti informacija kada su obučeni da maksimiziraju svoju moć uvjeravanja, delikatna ravnoteža koju će demokracije morati hitno i bez naivnosti riješiti.
Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.