Bagaimana chatbot politik belajar mempengaruhi undian

Kemunculan chatbots politik Ia tidak lagi menjadi anekdot teknologi menjadi elemen yang mula penting dalam kempen pilihan raya sebenar. Perbualan hanya beberapa minit dengan model AI sudah memadai untuk mengalihkan simpati terhadap calon dengan beberapa perkara atau cadangan konkrit, sesuatu yang sehingga baru-baru ini hanya dikaitkan dengan kempen media besar atau perhimpunan yang sangat diselaraskan.

Dua penyiasatan yang meluas, diterbitkan serentak dalam Alam y Sains/Ilmu, Mereka telah meletakkan nombor pada sesuatu yang telah disyaki.: yang Chatbots perbualan mampu mengubah suai sikap politik rakyat. dengan mudah yang luar biasa, walaupun mereka tahu mereka berinteraksi dengan mesin. Dan mereka melakukannya, di atas semua, melalui hujah yang sarat dengan maklumattidak begitu banyak melalui taktik psikologi yang canggih.

Chatbots dalam kempen: percubaan di AS, Kanada, Poland dan UK

Bukti baharu datang daripada sekumpulan eksperimen yang diselaraskan oleh pasukan dari Universiti Cornell dan Universiti Oxford, dijalankan semasa proses pilihan raya sebenar di Amerika Syarikat, Kanada, Poland dan United KingdomDalam semua kes, peserta tahu mereka akan bercakap dengan AI, tetapi mereka tidak mengetahui orientasi politik chatbot yang diberikan kepada mereka.

Dalam kerja yang diketuai oleh David Rand dan diterbitkan dalam Nature, beribu-ribu pengundi menjalani dialog ringkas dengan model bahasa yang dikonfigurasikan untuk untuk mempertahankan calon tertentuDalam pilihan raya presiden AS 2024, sebagai contoh, 2.306 warganegara Mereka mula-mula menunjukkan keutamaan mereka antara Donald Trump y Kamala HarrisMereka kemudiannya secara rawak ditugaskan ke chatbot yang mempertahankan salah satu daripada keduanya.

Selepas perbualan, perubahan sikap dan niat mengundi diukur. Bot yang menguntungkan Harris dicapai anjakan 3,9 mata pada skala 0 hingga 100 dalam kalangan pengundi yang pada mulanya sejajar dengan Trump, kesan yang dikira oleh pengarang sebagai empat kali lebih tinggi daripada pengiklanan pilihan raya konvensional diuji dalam kempen 2016 dan 2020. Model pro-Trump juga beralih kedudukan, walaupun lebih sederhana, dengan perubahan dalam Titik 1,51 di kalangan penyokong Harris.

Keputusan dalam Kanada (dengan 1.530 orang peserta dan chatbots mempertahankan Mark Carney o Pierre Poilievre) dan dalam Polonia (2.118 orang, dengan model yang dipromosikan Rafał Trzaskowski o Karol Nawrocki) adalah lebih menarik: dalam konteks ini, chatbots berjaya perubahan dalam niat mengundi sehingga 10 mata peratusan dalam kalangan pengundi pembangkang.

Aspek utama percubaan ini ialah, walaupun kebanyakan perbualan berlangsung hanya beberapa minit, Sebahagian daripada kesan itu bertahan dari masa ke masaDi Amerika Syarikat, lebih sedikit sebulan selepas percubaan, sebahagian kecil daripada kesan awal masih diperhatikan, walaupun mesej kempen yang diterima oleh peserta sepanjang tempoh itu.

Perkara yang membuatkan chatbot politik meyakinkan (dan mengapa ia menghasilkan lebih banyak ralat)

Para penyelidik ingin memahami bukan sahaja sama ada chatbots boleh memujuk, tetapi bagaimana mereka mencapainyaCorak yang berulang dalam kajian adalah jelas: AI mempunyai pengaruh terbesar apabila Ia menggunakan banyak hujah berasaskan faktawalaupun kebanyakan maklumat itu tidak begitu canggih.

Dalam eksperimen yang diselaraskan oleh Rand, arahan yang paling berkesan untuk model adalah meminta model tersebut sopan, hormat, dan siapa yang boleh memberikan bukti daripada kenyataan beliau. Ihsan dan nada perbualan membantu, tetapi tuil utama untuk perubahan terletak pada menawarkan data, contoh, angka dan rujukan berterusan kepada dasar awam, ekonomi atau penjagaan kesihatan.

Apabila model terhad dalam akses mereka kepada fakta yang boleh disahkan dan diarahkan untuk memujuk tanpa menggunakan data konkritKuasa pengaruh mereka jatuh secara drastik. Keputusan ini menyebabkan pengarang membuat kesimpulan bahawa kelebihan chatbots berbanding format propaganda politik yang lain bukan terletak pada manipulasi emosi seperti dalam kepadatan maklumat yang mereka boleh gunakan hanya dalam beberapa pusingan perbualan.

Tetapi strategi yang sama ini mempunyai kelemahan: apabila tekanan meningkat pada model untuk dijana semakin banyak dakwaan faktaRisiko meningkat bahawa sistem akan kehabisan bahan yang boleh dipercayai dan mula "mencipta" faktaRingkasnya, chatbot mengisi jurang dengan data yang kelihatan munasabah tetapi tidak semestinya betul.

Kajian yang diterbitkan dalam Sains, dengan 76.977 orang dewasa dari United Kingdom y 19 model berbeza (daripada sistem sumber terbuka kecil kepada model komersil yang canggih), ia secara sistematik mengesahkan ini: the selepas latihan tertumpu kepada pemujukan meningkatkan keupayaan untuk mempengaruhi sehingga a 51%, manakala perubahan mudah dalam arahan (yang dipanggil mendorongMereka menambah satu lagi 27% kecekapan. Pada masa yang sama, penambahbaikan ini disertai dengan pengurangan ketara dalam ketepatan fakta.

Asimetri ideologi dan risiko salah maklumat

Salah satu kesimpulan yang paling membimbangkan dalam kajian Cornell dan Oxford ialah ketidakseimbangan antara persuasif dan kebenaran tidak diagihkan sama rata di kalangan semua calon dan jawatan. Apabila pemeriksa fakta bebas menganalisis mesej yang dihasilkan oleh chatbots, mereka mendapati bahawa Model yang menyokong calon sayap kanan membuat lebih banyak kesilapan berbanding mereka yang menyokong calon progresif.

Menurut penulis, ini asimetri Ia bertepatan dengan kajian lepas yang Mereka menunjukkan bahawa pengguna konservatif cenderung berkongsi kandungan yang lebih tidak tepat di media sosial berbanding pengguna berhaluan kiri.Memandangkan model bahasa belajar daripada sejumlah besar maklumat yang diekstrak daripada internet, mereka berkemungkinan mencerminkan beberapa kecenderungan itu dan bukannya menciptanya dari awal.

Walau apa pun, akibatnya adalah sama: apabila chatbot diarahkan untuk memaksimumkan kuasa persuasifnya yang memihak kepada blok ideologi tertentu, model tersebut cenderung untuk meningkatkan bahagian tuntutan yang mengelirukan, walaupun saya terus mencampurkannya dengan banyak data yang betul. Masalahnya bukan sahaja maklumat palsu boleh terlepas.tetapi Ia berbuat demikian dibungkus dalam naratif yang kelihatan munasabah dan didokumentasikan dengan baik.

Para penyelidik juga menyerlahkan perkara yang tidak selesa: Mereka tidak menunjukkan bahawa tuntutan yang tidak tepat sememangnya lebih meyakinkan.Walau bagaimanapun, apabila AI didorong untuk menjadi semakin berkesan, bilangan ralat bertambah selari. Dengan kata lain, meningkatkan prestasi persuasif tanpa menjejaskan ketepatan mendedahkan dirinya sebagai cabaran teknikal dan etika yang masih tidak dapat diselesaikan.

Corak ini amat membimbangkan dalam konteks polarisasi politik yang tinggi, seperti yang dialami di bahagian Eropah dan Amerika Utara, di mana margin kemenangan adalah sempit dan segelintir mata peratusan boleh menentukan keputusan pilihan raya umum atau presiden.

Had kajian dan keraguan tentang kesan sebenar di peti undi

Walaupun keputusan dari Alam dan Sains adalah kukuh dan bersetuju dalam kesimpulan utama mereka, kedua-dua pasukan menegaskan bahawa Ini adalah percubaan terkawal, bukan kempen sebenar.Terdapat beberapa elemen yang mengundang berhati-hati semasa mengekstrapolasi data sama seperti pilihanraya di jalanan.

Di satu pihak, peserta sama ada mendaftar secara sukarela atau direkrut melalui platform yang menawarkan pampasan kewangan, yang memperkenalkan berat sebelah pemilihan sendiri dan ia menjauhi kepelbagaian pengundi sebenarTambahan pula, mereka tahu pada setiap masa itu Mereka bercakap dengan AI. dan itu adalah sebahagian daripada kajian, keadaan yang tidak akan berulang dalam kempen biasa.

Satu lagi nuansa penting ialah kajian terutamanya diukur perubahan sikap dan niat yang dinyatakanbukan undian sebenar. Ini adalah petunjuk yang berguna, tetapi ia tidak setara dengan memerhati tingkah laku akhir pada hari pilihan raya. Malah, dalam eksperimen AS, kesannya agak lebih kecil berbanding di Kanada dan Poland, menunjukkan bahawa konteks politik dan tahap ketidakpastian terdahulu mempunyai pengaruh yang ketara.

Dalam kes kajian British yang diselaraskan oleh Kobi Hackenburg Daripada Institut Keselamatan AI UK, terdapat juga sekatan yang jelas: data hanya datang dari pengundi United Kingdom, kesemua mereka sedar bahawa mereka mengambil bahagian dalam penyiasatan akademik dan dengan pampasan ekonomiIni mengehadkan generalisasinya kepada negara EU yang lain atau konteks yang kurang terkawal.

Namun begitu, skala karya ini—berpuluh ribu peserta dan lebih daripada 700 topik politik yang berbeza— dan ketelusan metodologi telah menyebabkan sebahagian besar komuniti akademik mempertimbangkannya Mereka melukis senario yang munasabahPenggunaan chatbot politik yang mampu mengubah pendapat dengan cepat bukan lagi hipotesis futuristik, tetapi senario yang boleh dilaksanakan secara teknikal dalam kempen akan datang.

Pemain pilihan raya baharu untuk Eropah dan negara demokrasi lain

Di luar kes khusus AS, Kanada, Poland, dan UK, penemuan mempunyai implikasi langsung untuk Eropah dan Sepanyoldi mana peraturan komunikasi politik di media sosial dan penggunaan data peribadi dalam kempen sudah menjadi subjek perdebatan sengit. Kemungkinan menggabungkan chatbots yang mengekalkan dialog peribadi dengan pengundi Ia menambah lapisan kerumitan tambahan.

Sehingga kini, pujukan politik diutarakan terutamanya melalui iklan statik, perhimpunan, perdebatan di televisyen dan media sosialKedatangan pembantu perbualan memperkenalkan elemen baharu: keupayaan untuk mengekalkan interaksi satu lawan satu, disesuaikan dengan cepat kepada apa yang diperkatakan oleh rakyat dalam masa nyata, dan semua ini dengan kos yang boleh dikatakan kecil untuk penganjur kempen.

Para penyelidik menekankan bahawa kuncinya bukan lagi hanya siapa yang mengawal pangkalan data pengundi, tetapi siapa yang boleh membangunkan model yang mampu bertindak balas, memperhalusi dan mereplikasi hujah secara berterusan, dengan jumlah maklumat yang jauh melebihi apa yang boleh dikendalikan oleh sukarelawan manusia di papan suis atau pos jalan.

Dalam konteks ini, suara seperti pakar Itali Walter Quattrociocchi Mereka menegaskan bahawa tumpuan pengawalseliaan harus beralih daripada pemperibadian agresif atau pembahagian ideologi kepada kepadatan maklumat yang model boleh berikan. Kajian menunjukkan bahawa pujukan berkembang terutamanya apabila data didarab, bukan apabila strategi emosi digunakan.

La Kebetulan keputusan antara Alam dan Sains telah menimbulkan penggera dalam organisasi Eropah prihatin terhadap integriti proses demokrasiWalaupun Kesatuan Eropah membuat kemajuan dengan rangka kerja seperti Akta Perkhidmatan Digital atau peraturan khusus AI pada masa hadapan, kelajuan model ini berkembang Ia memerlukan semakan berterusan terhadap mekanisme penyeliaan, pengauditan dan ketelusan..

Celik digital dan pertahanan terhadap pujukan automatik

Salah satu mesej berulang dalam ulasan akademik yang mengiringi karya-karya ini adalah bahawa respons tidak boleh berdasarkan larangan atau kawalan teknikal semata-mata. Penulis bersetuju bahawa adalah penting untuk mengukuhkan literasi digital daripada populasi supaya rakyat belajar untuk mengenali dan menentang pujukan dihasilkan oleh sistem automatik.

Eksperimen pelengkap, seperti yang diterbitkan dalam PNAS NexusMereka mencadangkan bahawa pengguna yang paling memahami cara model bahasa besar berfungsi kurang terdedah kepada percubaannya untuk mempengaruhi. Mengetahui bahawa chatbot boleh menjadi salah, membesar-besarkan atau mengisi ruang kosong dengan tekaan mengurangkan kecenderungan untuk menerima mesejnya seolah-olah ia datang dari pihak berkuasa yang sempurna.

Pada masa yang sama, telah diperhatikan bahawa keberkesanan persuasif AI bergantung tidak begitu banyak pada lawan bicara yang percaya bahawa mereka bercakap dengan manusia yang pakar, tetapi pada kualiti dan ketekalan hujah yang ia terima. Dalam beberapa ujian, mesej chatbot juga berjaya mengurangkan kepercayaan terhadap teori konspirasi, tidak kira sama ada peserta menyangka mereka sedang berbual dengan seseorang atau mesin.

Ini menunjukkan bahawa teknologi itu sendiri tidak berbahaya: ia boleh digunakan untuk kedua-duanya memerangi maklumat salah seperti untuk menyebarkannyaGaris ditarik oleh arahan yang diberikan kepada model, data yang dilatih, dan, di atas semua, objektif politik atau komersial mereka yang melaksanakannya.

Walaupun kerajaan dan pengawal selia membahaskan had dan keperluan ketelusan, pengarang karya ini menegaskan satu idea: chatbots politik Mereka hanya akan dapat memberikan pengaruh yang besar jika orang ramai bersetuju untuk berinteraksi dengan mereka.Oleh itu, perdebatan umum mengenai penggunaannya, pelabelannya yang jelas, dan hak untuk tidak tertakluk kepada pujukan automatik akan menjadi isu utama dalam perbualan demokrasi pada tahun-tahun akan datang.

Gambar yang dilukis oleh penyelidikan dalam Alam Semula Jadi dan Sains mendedahkan kedua-dua peluang dan risiko: Chatbots AI boleh membantu menjelaskan dasar awam dengan lebih baik dan menyelesaikan keraguan yang rumit, tetapi mereka juga boleh Mereka mempunyai keupayaan untuk untuk tip skala pilihan rayaterutamanya dalam kalangan pengundi yang belum membuat keputusan, dan mereka berbuat demikian dengan a harga yang jelas dari segi ketepatan maklumat apabila mereka dilatih untuk memaksimumkan kuasa persuasif mereka, keseimbangan halus yang perlu ditangani oleh demokrasi dengan segera dan tanpa naif.

artikel berkaitan:

California meluluskan SB 243 untuk mengawal selia chatbot AI dan melindungi kanak-kanak di bawah umur

Alberto navarro

Saya seorang peminat teknologi yang telah menjadikan minat "geek"nya sebagai satu profesion. Saya telah menghabiskan lebih daripada 10 tahun hidup saya menggunakan teknologi canggih dan bermain-main dengan semua jenis program kerana rasa ingin tahu yang tulen. Sekarang saya mempunyai pakar dalam teknologi komputer dan permainan video. Ini kerana selama lebih daripada 5 tahun saya telah menulis untuk pelbagai laman web mengenai teknologi dan permainan video, mencipta artikel yang bertujuan untuk memberi anda maklumat yang anda perlukan dalam bahasa yang boleh difahami oleh semua orang.

Jika anda mempunyai sebarang soalan, pengetahuan saya merangkumi semua perkara yang berkaitan dengan sistem pengendalian Windows serta Android untuk telefon mudah alih. Dan komitmen saya adalah kepada anda, saya sentiasa bersedia untuk meluangkan masa beberapa minit dan membantu anda menyelesaikan sebarang soalan yang mungkin anda ada dalam dunia internet ini.