- Dua studi utama dina Alam jeung Élmu ngabuktikeun yén chatbots pulitik bisa ngarobah sikap jeung niat voting di sababaraha nagara.
- Persuasi didasarkeun utamina dina nawiskeun seueur argumen sareng data, sanaos ningkatkeun résiko inpormasi anu teu akurat.
- Ngaoptimalkeun pangaruh nguatkeun pangaruh persuasif dugi ka 25 poin, tapi ngirangan kabeneran réspon.
- Papanggihan ieu muka debat urgent di Éropa jeung sésa démokrasi ngeunaan régulasi, transparansi jeung literasi digital.
Munculna tina chatbots pulitik Geus ceased janten anekdot téhnologis pikeun jadi unsur nu geus mimiti jadi masalah dina kampanye pemilu nyata. Paguneman ngan sababaraha menit sareng model AI cukup pikeun mindahkeun simpati ka calon ku sababaraha titik atawa proposal kongkrit, hiji hal anu nepi ka ayeuna ngan pakait sareng kampanye média badag atawa unjuk rasa kacida ngagabung.
Dua panyilidikan anu jauh, diterbitkeun sakaligus dina alam y elmu pangaweruh, Aranjeunna parantos nempatkeun nomer kana hal anu parantos disangka.: ari Chatbots paguneman sanggup ngarobih sikap politik warga. kalawan betah luar biasa, sanajan maranéhna terang aranjeunna interacting jeung mesin a. Jeung maranéhna ngalakukeun kitu, luhureun sakabeh, ngaliwatan argumen dieusian ku informasiteu jadi loba ngaliwatan taktik psikologi canggih.
Chatbots dina kampanye: percobaan di AS, Kanada, Polandia jeung Inggris
Bukti anyar asalna tina batré percobaan dikoordinasikeun ku tim ti Cornell University jeung Universitas Oxford, dilaksanakeun salila prosés pamilihan sabenerna di Amérika Sarikat, Kanada, Polandia jeung Britania RayaDina sagala hal, pamilon terang aranjeunna bakal nyarios sareng AI, tapi aranjeunna henteu sadar kana orientasi politik chatbot anu ditugaskeun ka aranjeunna.
Dina karya dipingpin ku David Rand sarta diterbitkeun dina Alam, rébuan pamilih underwent dialog ringkes kalawan model basa ngonpigurasi ka pikeun membela calon hususDina pamilihan présidén AS 2024, contona, 2.306 warga Aranjeunna mimiti nunjukkeun karesep maranéhanana antara Donald Trump y Kamala HarrisAranjeunna lajeng acak ditugaskeun ka chatbot nu membela salah sahiji dua.
Sanggeus paguneman, parobahan sikep jeung niat milih diukur. Bot nguntungkeun Harris kahontal ngageser 3,9 titik dina skala 0 nepi ka 100 di antara pamilih mimitina saluyu jeung Trump, dampak nu pangarang diitung salaku opat kali leuwih luhur batan iklan pamilihan konvensional diuji dina kampanye 2016 sareng 2020. Modél pro-Trump ogé ngageser posisi, sanaos langkung sedeng, kalayan parobihan titik 1,51 diantara pendukung Harris.
Hasilna di Kanada (jeung 1.530 pamilon jeung chatbots defending Tandaan Carney o Pierre Poilievre) sareng di Polandia (2.118 urang, kalayan modél anu diwanohkeun Rafael Trzaskowski o Karol Nawrocki) malah leuwih keuna: dina konteks ieu, chatbots junun parobahan niat voting nepi ka 10 perséntase titik diantara pamilih oposisi.
Aspék konci tina uji coba ieu nyaéta, sanaos kalolobaan paguneman ngan ukur sababaraha menit, Bagian tina pangaruh lumangsung kana waktuDi Amérika Serikat, saeutik leuwih sabulan sanggeus percobaan, fraksi signifikan tina dampak awal masih katalungtik, sanajan longsoran pesen kampanye narima pamilon dina mangsa éta.
Naon anu ngajantenkeun chatbot politik ngayakinkeun (sareng naha éta nyababkeun langkung seueur kasalahan)
Para panalungtik hayang ngarti teu ngan naha chatbots bisa ngolo-ngolo, tapi kumaha aranjeunna ngahontal étaPola nu repeats sorangan dina studi jelas: AI boga pangaruh greatest nalika Éta ngagunakeun seueur dalil dumasar-faktasanajan loba informasi nu teu utamana canggih.
Dina percobaan anu dikoordinir ku Rand, instruksi anu paling mujarab pikeun modél éta nyaéta naroskeun aranjeunna sopan, hormat, jeung nu bisa nyadiakeun bukti tina pernyataan-Na. Kahadean sareng nada paguneman ngabantosan, tapi konci utama pikeun parobihan nyaéta nawiskeun data, conto, tokoh, sareng rujukan konstan kana kawijakan umum, ékonomi, atanapi kasehatan.
Nalika model diwatesan dina aksés maranéhna pikeun fakta verifiable sarta maréntahkeun pikeun ngolo-ngolo tanpa nganggo data konkritkakuatan pangaruh maranéhanana murag drastis. Hasil ieu nyababkeun pangarang pikeun nyimpulkeun yén kauntungan chatbots dibandingkeun format propaganda politik sanés sanés dina manipulasi émosional sapertos dina dénsitas informasi yén maranéhna bisa nyebarkeun dina ngan sababaraha péngkolan paguneman.
Tapi strategi sarua ieu boga downside a: sakumaha naek tekanan dina model ngahasilkeun beuki beuki konon klaim faktualRésiko nambahan yén sistem bakal kaluar tina bahan anu dipercaya sareng ngawitan "invent" faktaKantun nempatkeun, chatbot ngeusi celah ku data anu disada masuk akal tapi teu merta bener.
Ulikan diterbitkeun dina Élmu, jeung 76.977 déwasa ti Britania Raya y 19 model béda (tina sistem open-source leutik nepi ka model komersil canggih), sacara sistematis negeskeun ieu: éta pos-latihan fokus kana persuasi ngaronjat kamampuh pangaruh nepi ka a 51%, bari parobahan basajan dina parentah (nu disebut nyurungAranjeunna ditambahkeun sejen 27% tina efisiensi. Dina waktu nu sarua, perbaikan ieu dipirig ku ngurangan noticeable dina akurasi faktual.
Asimétri ideologis sareng résiko disinformasi
Salah sahiji kacindekan anu paling pikasieuneun tina studi Cornell sareng Oxford nyaéta henteu saimbangna antara persuasiveness sareng truthfulness henteu disebarkeun merata diantara sadaya calon sareng jabatan. Nalika pamariksaan kanyataan bebas nganalisa pesen anu dihasilkeun ku chatbots, aranjeunna mendakan éta Model anu ngadukung calon sayap katuhu ngadamel langkung seueur kasalahan ti anu ngadukung calon progresif.
Numutkeun pangarang, ieu asimétri Ieu coincides jeung studi saméméhna yén Éta nunjukkeun yén pangguna konservatif condong ngabagi eusi anu langkung akurat dina média sosial tibatan pangguna condong kénca.Kusabab modél basa diajar tina seueur inpormasi anu sasari tina internét, aranjeunna sigana nunjukkeun sababaraha bias éta tinimbang nyiptakeunana ti mimiti.
Dina naon waé, akibatna sami: nalika chatbot diparéntahkeun pikeun maksimalkeun kakuatan persuasifna pikeun milih blok ideologis anu tangtu, modélna condong ningkatkeun proporsi klaim nyasabkeun, sanajan kuring terus nyampur aranjeunna kalayan loba data bener. Masalahna sanés ngan ukur inpormasi palsu anu tiasa ngaliwat., tapi Hal ieu dibungkus dina narasi anu sigana wajar sareng didokumentasikeun.
Para panalungtik ogé nyorot hiji titik uncomfortable: Aranjeunna henteu nunjukkeun yén klaim anu teu akurat sacara alami langkung persuasif.Nanging, nalika AI didorong janten langkung efektif, jumlah kasalahan naék paralel. Dina basa sejen, ngaronjatkeun kinerja persuasif tanpa kompromi akurasi nembongkeun dirina salaku tantangan teknis jeung etika anu tetep unresolved.
Pola ieu khususna dina konteks polarisasi pulitik tinggi, kawas nu ngalaman di bagian Éropa sarta Amérika Kalér, dimana margins meunangna sempit jeung sakeupeul persentase titik bisa mutuskeun hasil tina pamilihan umum atawa présidén.
Watesan studi sareng mamang ngeunaan dampak nyata dina kotak suara
Sanaos hasil tina Alam sareng Élmu padet sareng satuju kana kacindekan utama, duanana tim negeskeun éta Ieu percobaan dikawasa, lain kampanye nyata.Aya sababaraha unsur nu ngajak teh ati-ati nalika ékstrapolasi data kawas pemilu di jalan.
Di hiji sisi, pamilon boh ngadaptar sacara sukarela atanapi direkrut ngaliwatan platform anu nawiskeun santunan kauangan, anu ngenalkeun bias milih diri sareng ngajauhan tina keragaman pamilih anu saleresnaSalaku tambahan, aranjeunna terang unggal waktos éta Aranjeunna ngobrol sareng AI. tur éta bagian tina ulikan a, kaayaan anu boro bakal diulang dina kampanye biasa.
Nuansa penting séjén nyaéta yén studi utamana diukur parobahan sikep jeung niat anu diucapkeunlain sora nu sabenerna. Ieu indikator mangpaat, tapi maranéhna teu sarua jeung observasi kabiasaan ahir dina poé pamilihan. Kanyataanna, dina percobaan AS, pangaruh ieu rada leutik ti di Kanada sareng Polandia, suggesting yén konteks pulitik jeung darajat indecision prior boga pangaruh signifikan.
Dina kasus ulikan Britania disaluyuan ku Kobi Hackenburg Ti Institut Kaamanan AI Inggris, aya ogé larangan anu jelas: data ngan ukur asalna pamilih Britania Raya, sakabéh maranéhna sadar yén maranéhna milu dina hiji panalungtikan akademik sarta kalawan santunan ékonomiIeu ngabatesan generalisasina ka nagara-nagara Uni Éropa anu sanés atanapi kontéks anu kirang dikawasa.
Tapi, skala karya ieu-puluhan rébu pamilon sarta leuwih ti 700 jejer pulitik béda- sareng transparansi metodologis parantos nyababkeun sabagian ageung komunitas akademik pikeun nganggap éta Aranjeunna cet hiji skenario masuk akalPamakéan chatbots pulitik sanggup ngarobah pamadegan rélatif gancang geus euweuh hiji hipotesa futuristik, tapi skenario téhnisna layak dina kampanye upcoming.
Pamuter pamilihan anyar pikeun Éropa sareng démokrasi sanés
Saluareun kasus husus di AS, Kanada, Polandia, jeung Inggris, papanggihan boga implikasi langsung pikeun Éropa jeung Spanyoldimana pangaturan komunikasi pulitik dina média sosial sarta pamakéan data pribadi dina kampanye geus subyek perdebatan sengit. Kamungkinan incorporating chatbots nu ngajaga dialog pribadi sareng pamilih Éta nambihan lapisan pajeulitna tambahan.
Nepi ka ayeuna, persuasi pulitik utamana diucapkeun ngaliwatan iklan statik, unjuk rasa, debat televisi, sareng média sosialDatangna asisten conversational ngenalkeun unsur anyar: kamampuhan pikeun ngajaga interaksi hiji-hiji, diadaptasi dina laleur naon warga nyebutkeun sacara real waktu, sarta sakabeh ieu dina biaya praktis marginal pikeun panitia kampanye.
Panaliti nekenkeun yén konci henteu deui ngan ukur anu ngatur database pamilih, tapi saha anu tiasa ngamekarkeun modél anu sanggup ngaréspon, ngamurnikeun, sareng ngaréplikasi argumen terus, kalawan volume informasi anu tebih ngaleuwihan naon volunteer manusa bisa nanganan dina switchboard atawa pos jalan.
Dina kontéks ieu, sora sapertos ahli Italia Walter Quattrociocchi Aranjeunna negeskeun yén fokus pangaturan kedah ngalih tina personalisasi agrésif atanapi segmentasi ideologis ka arah dénsitas informasi nu model bisa nyadiakeun. Studi némbongkeun yén persuasi tumuwuh utamana lamun data dikalikeun, teu nalika strategi emosi dipaké.
La Kabeneran hasil antara Alam sareng Élmu parantos ngangkat alarm dina organisasi Éropa prihatin ngeunaan integritas prosés demokratisSanaos Uni Éropa nuju kamajuan sareng kerangka sapertos Digital Services Act atanapi régulasi khusus AI kahareup, laju modél ieu mekar. Merlukeun review konstan ngeunaan mékanisme pikeun pangawasan, auditing, sarta transparansi..
Literasi digital sareng pertahanan ngalawan persuasi otomatis
Salah sahiji pesen anu ngulang deui dina koméntar akademik anu ngiringan karya-karya ieu nyaéta yén résponna henteu tiasa didasarkeun ukur kana larangan atanapi kontrol téknis. Panulis satuju yén éta bakal penting pikeun nguatkeun éta literasi digital populasi sangkan warga diajar mikawanoh sarta nolak persuasi dihasilkeun ku sistem otomatis.
Percobaan pelengkap, sapertos anu diterbitkeun dina PNAS NexusAranjeunna nyarankeun yén pangguna anu paling ngartos kumaha modél basa ageung tiasa dianggo kirang rentan kana usaha na pangaruh. Nyaho yén chatbot tiasa salah, kaleuleuwihan, atanapi ngeusian celah ku guesswork ngirangan kacenderungan nampi pesenna saolah-olah asalna ti otoritas anu teu salah.
Dina waktos anu sami, parantos diperhatoskeun yén éféktivitas persuasif AI henteu gumantung pisan kana interlocutor anu percanten yén aranjeunna ngobrol sareng manusa ahli, tapi dina waktos anu sami. kualitas sareng konsistensi argumen yén éta narima. Dina sababaraha tés, pesen chatbot malah junun ngurangan kapercayaan kana téori konspirasi, paduli naha pamilon panginten aranjeunna ngobrol jeung hiji jalma atawa mesin.
Ieu nunjukkeun yén téhnologi sorangan teu inherently ngabahayakeun: bisa dipaké pikeun duanana ngempur disinformasi sakumaha nyebarkeun etaGarisna digambar ku petunjuk anu dipasihkeun ka modél, data anu dilatih, sareng, di luhur sadayana, tujuan politik atanapi komérsial jalma anu ngalaksanakeunana.
Nalika pamaréntahan sareng régulator debat wates sareng syarat transparansi, panulis karya ieu negeskeun hiji ide: chatbots pulitik Aranjeunna ngan ukur tiasa masihan pangaruh anu ageung upami masarakat satuju pikeun berinteraksi sareng aranjeunna.Lantaran kitu, debat umum ngeunaan pamakeanna, panyiri anu jelas, sareng hak pikeun henteu tunduk kana persuasi otomatis bakal janten masalah sentral dina paguneman demokratis dina taun-taun anu bakal datang.
Gambar anu dicét ku panilitian di Alam sareng Élmu ngungkabkeun kasempetan sareng résiko: AI chatbots tiasa ngabantosan ngajelaskeun kabijakan umum sareng ngabéréskeun mamang anu rumit, tapi ogé tiasa ngabantosan. Aranjeunna boga kapasitas pikeun pikeun tip skala pamilihanutamana diantara pamilih undecided, sarta maranehna ngalakukeun kitu kalawan a harga dibuktikeun dina hal akurasi informasi nalika aranjeunna dilatih pikeun maksimalkeun pungsi kakuatan persuasif maranéhna, kasaimbangan hipu nu démokrasi kudu alamat urgently sarta tanpa naivety.
Abdi mangrupikeun peminat téknologi anu parantos ngajantenkeun minat "geek" janten profési. Kuring parantos nyéépkeun langkung ti 10 taun hirup kuring nganggo téknologi canggih sareng ngintip kalayan sagala jinis program tina rasa panasaran murni. Ayeuna kuring geus husus dina téhnologi komputer jeung video kaulinan. Ieu kusabab pikeun leuwih ti 5 taun kuring geus nulis pikeun sagala rupa situs web on téhnologi jeung video kaulinan, nyieun artikel nu neangan masihan anjeun informasi nu peryogi dina basa anu kaharti ku sarerea.
Upami Anjeun gaduh patarosan, pangaweruh abdi rentang ti sagalana patali jeung sistem operasi Windows ogé Android pikeun handphone. Sareng komitmen abdi ka anjeun, kuring sok daék nyéépkeun sababaraha menit sareng ngabantosan anjeun ngabéréskeun patarosan anu anjeun gaduh di dunya internét ieu.