- Dvije velike studije u časopisima Nature i Science dokazuju da politički chatbotovi mogu promijeniti stavove i namjere glasanja u nekoliko zemalja.
- Uvjeravanje se prvenstveno zasniva na nuđenju mnogih argumenata i podataka, iako povećava rizik od netačnih informacija.
- Optimizacija za utjecaj pojačava uvjerljivi učinak do 25 bodova, ali smanjuje istinitost odgovora.
- Ovi nalazi otvaraju hitnu debatu u Evropi i ostatku demokratija o regulaciji, transparentnosti i digitalnoj pismenosti.
Pojava politički chatbotovi Prestalo je biti tehnološka anegdota postati element koji počinje biti važan u stvarnim izbornim kampanjama. Razgovori od samo nekoliko minuta s AI modelima dovoljni su da pomjeriti simpatije prema kandidatu za nekoliko bodova ili konkretan prijedlog, nešto što se do nedavno povezivalo samo s velikim medijskim kampanjama ili visoko koordiniranim skupovima.
Dva dalekosežna istraživanja, objavljena istovremeno u priroda y nauka, Dodijelili su brojke nečemu što se već sumnjalo.: the Konverzacijski chatbotovi su sposobni mijenjati političke stavove građana. sa izuzetnom lakoćom, čak i kada znaju da komuniciraju sa mašinom. A to čine, prije svega, putem argumenti puni informacijane toliko kroz sofisticirane psihološke taktike.
Četbotovi u kampanjama: eksperimenti u SAD-u, Kanadi, Poljskoj i Velikoj Britaniji
Novi dokazi dolaze iz niza eksperimenata koje su koordinirali timovi iz Univerzitet Cornell i Univerzitet u Oksfordu, provedeno tokom stvarnih izbornih procesa u Sjedinjene Američke Države, Kanada, Poljska i Ujedinjeno KraljevstvoU svim slučajevima, učesnici su znali da će razgovarati s umjetnom inteligencijom, ali nisu bili svjesni političke orijentacije chatbota koji im je dodijeljen.
U radu koji je vodio/la David Rand i objavljeno u časopisu Nature, hiljade glasača su prošle kroz kratke dijaloge sa jezičkim modelima konfigurisanim da braniti određenog kandidataNa primjer, na američkim predsjedničkim izborima 2024. 2.306 građana Prvo su naznačili svoju preferenciju između Donald Trump y Kamala HarrisZatim su nasumično dodijeljeni chatbotu koji je branio jednog od te dvojice.
Nakon razgovora, mjerene su promjene u stavu i namjeri glasanja. Botovi koji su bili naklonjeni Harrisu postigli su... pomak od 3,9 bodova na skali od 0 do 100 među biračima koji su prvobitno podržavali Trumpa, utjecaj koji autori izračunavaju kao četiri puta više nego kod konvencionalnog predizbornog oglašavanja testirano u kampanjama 2016. i 2020. godine. Pro-Trumpov model je također promijenio stavove, iako umjerenije, s promjenom u 1,51 bodova među Harrisovim pristalicama.
Rezultati u Kanada (sa 1.530 učesnika i chatbotovi koji brane Mark Carney o Pierre Poilievre) i u Poljska (2.118 ljudi, s modelima koji su promovirali Rafał Trzaskowski o Karol Nawrocki) bili su još upečatljiviji: u tim kontekstima, chatbotovi su uspjeli promjene u namjeri glasanja do 10 procentnih poena među biračima opozicije.
Ključni aspekt ovih suđenja je da, iako je većina razgovora trajala samo nekoliko minuta, Dio efekta je trajao tokom vremenaU Sjedinjenim Američkim Državama, nešto više od mjesec dana nakon eksperimenta, značajan dio početnog uticaja je i dalje bio uočen, uprkos lavini poruka kampanje koje su učesnici primali tokom tog perioda.
Šta čini političkog chatbota uvjerljivim (i zašto to generira više grešaka)
Istraživači su željeli shvatiti ne samo da li chatbotovi mogu uvjeravati, već kako su to postigliUzorak koji se ponavlja u studijama je jasan: vještačka inteligencija ima najveći utjecaj kada Koristi mnogo argumenata zasnovanih na činjenicamačak i ako većina tih informacija nije posebno sofisticirana.
U eksperimentima koje je koordinirao Rand, najefikasnija instrukcija za modele bila je da se od njih zatraži da budu uljudan, pun poštovanja i ko bi mogao pružiti dokaze njegovih izjava. Ljubaznost i konverzacijski ton su pomogli, ali glavna poluga za promjenu ležala je u pružanju podataka, primjera, brojki i stalnom pozivanju na javne politike, ekonomiju ili zdravstvenu zaštitu.
Kada je modelima bio ograničen pristup provjerljivim činjenicama i upućeni su da uvjere bez pribjegavanja konkretnim podacimaNjihova moć utjecaja drastično je opala. Ovaj rezultat je naveo autore na zaključak da prednost chatbotova u odnosu na druge formate političke propagande ne leži toliko u emocionalnoj manipulaciji koliko u gustina informacija koje mogu primijeniti u samo nekoliko okretaja razgovora.
Ali ova ista strategija ima i lošu stranu: kako se povećava pritisak na modele da generišu sve više navodno činjeničnih tvrdnjiPovećava se rizik da će sistemu ponestati pouzdanog materijala i da će početi "izmišljati" činjeniceJednostavno rečeno, chatbot popunjava praznine podacima koji zvuče uvjerljivo, ali nisu nužno tačni.
Studija objavljena u časopisu Science, sa 76.977 odraslih osoba iz Ujedinjenog Kraljevstva y 19 različita modela (od malih sistema otvorenog koda do najsavremenijih komercijalnih modela), sistematski potvrđuje ovo: post-trening usmjeren na uvjeravanje povećana sposobnost utjecaja do 51%, dok jednostavne promjene u uputama (tzv. poticajDodali su još jednu 27% efikasnosti. Istovremeno, ova poboljšanja su praćena primjetnim smanjenjem činjenična tačnost.
Ideološke asimetrije i rizik od dezinformacija
Jedan od najuznemirujućih zaključaka studija Cornella i Oxforda je da neravnoteža između uvjerljivosti i istinitosti nije ravnomjerno raspoređena među svim kandidatima i pozicijama. Kada su nezavisni provjeravači činjenica analizirali poruke koje su generirali chatbotovi, otkrili su da Manekenke koje su podržavale desničarske kandidate pravile su više grešaka nego oni koji su podržavali progresivne kandidate.
Prema autorima, ovo asimetrija To se poklapa s prethodnim studijama koje Oni pokazuju da konzervativni korisnici imaju tendenciju da dijele više netačnog sadržaja na društvenim mrežama nego lijevo orijentisani korisnici.Budući da jezički modeli uče iz ogromnih količina informacija preuzetih s interneta, oni vjerovatno odražavaju dio te pristranosti, a ne stvaraju je od nule.
U svakom slučaju, posljedica je ista: kada se chatbotu da instrukcija da maksimizira svoju moć uvjeravanja u korist određenog ideološkog bloka, model teži da povećati udio obmanjujućih tvrdnji, iako ih i dalje miješam s mnogo tačnih podataka. Problem nije samo u tome što se mogu provući lažne informacije., ali To čini umotano u naizgled razumnu i dobro dokumentiranu naraciju..
Istraživači također ističu jednu neugodnu činjenicu: Nisu dokazali da su netačne tvrdnje same po sebi uvjerljivije.Međutim, kada se vještačka inteligencija prisiljava da postane sve efikasnija, broj grešaka raste paralelno. Drugim riječima, poboljšanje uvjerljivih performansi bez ugrožavanja tačnosti otkriva se kao tehnički i etički izazov koji ostaje neriješen.
Ovaj obrazac je posebno zabrinjavajući u kontekstima visoka politička polarizacija, poput onih u dijelovima Evrope i Sjeverne Amerike, gdje su razlike u pobjedi uske i nekoliko procentnih poena može odlučiti ishod općih ili predsjedničkih izbora.
Ograničenja studija i sumnje u stvarni uticaj na glasačkim kutijama
Iako su rezultati iz časopisa Nature i Science čvrsti i slažu se u glavnim zaključcima, oba tima insistiraju na tome Ovo su kontrolirani eksperimenti, a ne prave kampanje.Postoji nekoliko elemenata koji pozivaju oprez prilikom ekstrapolacije podataka baš kao izbori na ulici.
S jedne strane, učesnici su se ili dobrovoljno prijavili ili su regrutovani putem platformi koje nude finansijsku naknadu, što uvodi pristranosti samoizbora i udaljava se od raznolikosti stvarnog biračkog tijelaŠtaviše, oni su u svakom trenutku znali da Razgovarali su s umjetnom inteligencijom. i to su bili dio studije, uslovi koji bi se teško mogli ponoviti u običnoj kampanji.
Još jedna važna nijansa je da su studije prvenstveno mjerile promjene u stavovima i izrečenim namjeramane stvarni broj glasova. Ovo su korisni pokazatelji, ali nisu ekvivalentni posmatranju konačnog ponašanja na dan izbora. U stvari, u američkim eksperimentima, efekat je bio nešto manji nego u Kanadi i Poljskoj, što ukazuje na to da politički kontekst i stepen prethodne neodlučnosti imaju značajan uticaj.
U slučaju britanske studije koju je koordinirao Kobi Hackenburg Britanski Institut za sigurnost umjetne inteligencije također navodi jasna ograničenja: podaci dolaze samo iz birači Ujedinjenog Kraljevstva, svi su bili svjesni da učestvuju u akademskom istraživanju i sa ekonomska kompenzacijaOvo ograničava njegovu generalizaciju na druge zemlje EU ili manje kontrolirane kontekste.
Ipak, obim ovih radova - desetine hiljada učesnika i više od 700 različitih političkih tema— i metodološka transparentnost naveli su veliki dio akademske zajednice da razmotri da Oni slikaju vjerodostojan scenarioUpotreba političkih chatbotova sposobnih da relativno brzo mijenjaju mišljenja više nije futuristička hipoteza, već tehnički izvodljiv scenario u predstojećim kampanjama.
Novi izborni igrač za Evropu i druge demokratije
Pored specifičnih slučajeva SAD-a, Kanade, Poljske i Velike Britanije, nalazi imaju direktne implikacije za Evrope i Španijegdje su regulacija političke komunikacije na društvenim mrežama i korištenje ličnih podataka u kampanjama već predmet intenzivne debate. Mogućnost uključivanja chatbotova koji održavaju personalizirani dijalozi s biračima Dodaje dodatni sloj složenosti.
Do sada se političko uvjeravanje prvenstveno artikuliralo kroz statične reklame, skupovi, televizijske debate i društvene mrežeDolazak konverzacijskih asistenata uvodi novi element: sposobnost održavanja interakcije jedan na jedan, prilagođeno u hodu onome što građanin govori u realnom vremenu, a sve to uz praktično marginalne troškove za organizatore kampanje.
Istraživači naglašavaju da ključ više nije samo ko kontroliše bazu podataka birača, već ko to može razviti modele sposobne za odgovaranje na argumente, njihovo usavršavanje i repliciranje kontinuirano, s količinom informacija koja daleko premašuje ono što bi ljudski volonter mogao obraditi na telefonskoj centrali ili uličnom poštanskom sandučiću.
U tom kontekstu, glasovi poput onog italijanskog stručnjaka Walter Quattrociocchi Oni insistiraju da se regulatorni fokus pomjeri sa agresivne personalizacije ili ideološke segmentacije ka gustina informacija koje modeli mogu pružiti. Studije pokazuju da uvjerljivost raste prvenstveno kada se podaci umnožavaju, a ne kada se koriste emocionalne strategije.
La Podudarnost rezultata između Prirode i Nauke izazvala je zabrinutost u evropskim organizacijama zabrinut zbog integritet demokratskih procesaIako Evropska unija napreduje s okvirima kao što su Zakon o digitalnim uslugama ili buduća specifična regulacija umjetne inteligencije, brzina kojom se ovi modeli razvijaju To zahtijeva stalnu reviziju mehanizama za nadzor, reviziju i transparentnost..
Digitalna pismenost i odbrana od automatizovanog uvjeravanja
Jedna od poruka koje se ponavljaju u akademskim komentarima koji prate ove radove je da odgovor ne može biti zasnovan isključivo na zabranama ili tehničkim kontrolama. Autori se slažu da će biti neophodno ojačati digitalna pismenost stanovništva kako bi građani naučili da prepoznati i odoljeti uvjeravanju generisane automatskim sistemima.
Komplementarni eksperimenti, poput onih objavljenih u PNAS NexusOni sugerišu da su korisnici koji najbolje razumiju kako funkcionišu veliki jezički modeli manje ranjivi na njegove pokušaje utjecaja. Saznanje da chatbot može biti u krivu, pretjerivati ili popuniti praznine nagađanjima smanjuje tendenciju prihvatanja njegovih poruka kao da dolaze od nepogrešivog autoriteta.
Istovremeno, uočeno je da uvjerljiva efikasnost umjetne inteligencije ne zavisi toliko od toga da li sagovornik vjeruje da razgovara sa stručnim čovjekom, već od toga... kvalitet i konzistentnost argumenata koje prima. U nekim testovima, poruke chatbota su čak uspjele smanjiti vjerovanje u teorije zavjere, bez obzira na to da li su učesnici mislili da razgovaraju s osobom ili mašinom.
Ovo ukazuje na to da sama tehnologija nije inherentno štetna: može se koristiti za oboje borba protiv dezinformacija kako bi se to propagiraloGranicu povlače upute date modelu, podaci s kojima se obučava i, prije svega, politički ili komercijalni ciljevi onih koji ga provode u djelo.
Dok vlade i regulatori raspravljaju o ograničenjima i zahtjevima transparentnosti, autori ovih radova insistiraju na jednoj ideji: politički chatbotovi Moći će ostvariti ogroman utjecaj samo ako javnost pristane na interakciju s njima.Stoga će javna debata o njegovoj upotrebi, jasnom označavanju i pravu da se ne bude podvrgnut automatiziranom uvjeravanju postati centralna pitanja u demokratskom razgovoru u narednim godinama.
Slika koju su prikazala istraživanja u časopisu Nature and Science otkriva i prilike i rizike: AI chatbotovi mogu pomoći u boljem objašnjavanju javnih politika i rješavanju složenih nedoumica, ali mogu i imaju kapacitet da prevagnuti na izbornoj vagiposebno među neodlučnim glasačima, i to čine sa očigledna cijena u smislu tačnosti informacija kada su obučeni da maksimiziraju svoju moć uvjeravanja, delikatna ravnoteža koju će demokratije morati hitno i bez naivnosti riješiti.
Ja sam tehnološki entuzijasta koji je svoja "geek" interesovanja pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći najsavremeniju tehnologiju i petljajući po svim vrstama programa iz čiste radoznalosti. Sada sam se specijalizirao za kompjutersku tehnologiju i video igrice. To je zato što više od 5 godina pišem za razne web stranice o tehnologiji i video igricama, stvarajući članke koji nastoje dati vam potrebne informacije na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog za Windows operativni sistem kao i Android za mobilne telefone. I moja posvećenost je vama, uvijek sam spreman potrošiti nekoliko minuta i pomoći vam da riješite sva pitanja koja imate u ovom svijetu interneta.