Bagaimana chatbot politik belajar memengaruhi pemungutan suara

Munculnya chatbot politik Ini sudah bukan lagi sebuah anekdot teknologi menjadi elemen yang mulai penting dalam kampanye pemilu yang sesungguhnya. Percakapan beberapa menit saja dengan model AI sudah cukup untuk menggeser simpati terhadap kandidat beberapa poin atau usulan konkret, sesuatu yang hingga saat ini hanya dikaitkan dengan kampanye media besar-besaran atau demonstrasi yang terkoordinasi dengan baik.

Dua investigasi yang luas jangkauannya, diterbitkan secara bersamaan di Alam y Ilmu, Mereka telah memberikan angka pada sesuatu yang sudah diduga.: yang Chatbot percakapan mampu mengubah sikap politik warga negara. dengan sangat mudah, bahkan ketika mereka tahu mereka sedang berinteraksi dengan mesin. Dan mereka melakukannya, terutama melalui argumen yang sarat dengan informasitidak begitu banyak melalui taktik psikologis yang canggih.

Chatbot dalam kampanye: eksperimen di AS, Kanada, Polandia, dan Inggris

Bukti baru ini berasal dari serangkaian percobaan yang dikoordinasikan oleh tim dari Universitas Cornell dan Universitas Oxford, yang dilakukan selama proses pemilu yang sebenarnya di Amerika Serikat, Kanada, Polandia, dan Inggris RayaDalam semua kasus, peserta tahu bahwa mereka akan berbicara dengan AI, tetapi mereka tidak menyadari orientasi politik chatbot yang ditugaskan kepada mereka.

Dalam pekerjaan yang dipimpin oleh David Rand dan diterbitkan di Nature, ribuan pemilih menjalani dialog singkat dengan model bahasa yang dikonfigurasi untuk untuk membela kandidat tertentuMisalnya saja pada pemilihan presiden AS tahun 2024, 2.306 warga Mereka pertama-tama menunjukkan preferensi mereka antara Donald Trump y Kamala HarrisMereka kemudian secara acak ditugaskan ke chatbot yang membela salah satu dari keduanya.

Setelah percakapan, perubahan sikap dan niat memilih diukur. Bot yang mendukung Harris mencapai pergeseran 3,9 poin pada skala 0 hingga 100 di antara para pemilih yang awalnya berpihak pada Trump, sebuah dampak yang penulis hitung sebagai empat kali lebih tinggi dibandingkan iklan pemilu konvensional diuji dalam kampanye tahun 2016 dan 2020. Model pro-Trump juga mengubah posisi, meskipun lebih moderat, dengan perubahan Poin 1,51 di antara pendukung Harris.

Hasil di Kanada (Dengan 1.530 peserta dan chatbot membela Mark Carney o Pierre Poilevre) dan dalam Polonia (2.118 orang, dengan model yang mempromosikan Rafal Trzaskowski o Karol Nawrocki) bahkan lebih mencolok: dalam konteks ini, chatbot mengelola perubahan niat memilih hingga 10 poin persentase di antara pemilih oposisi.

Aspek penting dari uji coba ini adalah, meskipun sebagian besar percakapan hanya berlangsung beberapa menit, Sebagian efeknya bertahan lamaDi Amerika Serikat, sedikit lebih dari sebulan setelah percobaan, sebagian kecil dampak awal yang signifikan masih teramati, meskipun banyak sekali pesan kampanye yang diterima oleh para peserta selama periode tersebut.

Apa yang membuat chatbot politik meyakinkan (dan mengapa hal itu menghasilkan lebih banyak kesalahan)

Para peneliti ingin memahami tidak hanya apakah chatbot dapat membujuk, tetapi juga bagaimana mereka mencapainya?Pola yang berulang dalam penelitian ini jelas: AI memiliki pengaruh terbesar ketika Ia menggunakan banyak argumen berbasis faktameskipun sebagian besar informasi tersebut tidak terlalu canggih.

Dalam percobaan yang dikoordinasikan oleh Rand, instruksi yang paling efektif untuk model adalah meminta mereka untuk sopan, hormat, dan siapa yang bisa memberikan bukti Kesopanan dan nada bicara yang komunikatif memang membantu, tetapi pendorong utama perubahan terletak pada penyediaan data, contoh, angka, dan referensi yang konsisten terhadap kebijakan publik, ekonomi, atau layanan kesehatan.

Ketika model dibatasi aksesnya terhadap fakta yang dapat diverifikasi dan diinstruksikan untuk membujuk tanpa menggunakan data konkretKekuatan pengaruh mereka menurun drastis. Hasil ini membuat para penulis menyimpulkan bahwa keunggulan chatbot dibandingkan format propaganda politik lainnya bukan terletak pada manipulasi emosi melainkan pada kepadatan informasi yang dapat mereka terapkan hanya dalam beberapa putaran percakapan.

Namun strategi yang sama ini juga memiliki sisi buruk: seiring dengan meningkatnya tekanan pada model untuk menghasilkan klaim yang semakin dianggap faktualRisiko meningkat bahwa sistem akan kehabisan material yang dapat diandalkan dan mulai “menemukan” faktaSederhananya, chatbot mengisi kekosongan dengan data yang kedengarannya masuk akal tetapi belum tentu benar.

Studi yang diterbitkan di jurnal Science, dengan 76.977 orang dewasa dari Inggris Raya y 19 model yang berbeda (dari sistem sumber terbuka kecil hingga model komersial mutakhir), secara sistematis menegaskan hal ini: pasca pelatihan yang berfokus pada persuasi meningkatkan kemampuan untuk mempengaruhi hingga 51%, sementara perubahan sederhana dalam instruksi (yang disebut doronganMereka menambahkan yang lain 27% efisiensi. Pada saat yang sama, peningkatan ini disertai dengan pengurangan yang nyata dalam akurasi faktual.

Asimetri ideologis dan risiko disinformasi

Salah satu kesimpulan paling meresahkan dari studi Cornell dan Oxford adalah bahwa ketidakseimbangan antara persuasif dan kejujuran tidak merata di antara semua kandidat dan posisi. Ketika pemeriksa fakta independen menganalisis pesan yang dihasilkan oleh chatbot, mereka menemukan bahwa Model yang mendukung kandidat sayap kanan membuat lebih banyak kesalahan daripada mereka yang mendukung kandidat progresif.

Menurut penulis, hal ini asimetri Hal ini sesuai dengan penelitian sebelumnya yang menyatakan bahwa Mereka menunjukkan bahwa pengguna konservatif cenderung berbagi konten yang lebih tidak akurat di media sosial daripada pengguna yang condong ke kiri.Karena model bahasa belajar dari sejumlah besar informasi yang diekstrak dari internet, model tersebut kemungkinan mencerminkan sebagian bias tersebut daripada menciptakannya dari awal.

Bagaimanapun juga, konsekuensinya sama saja: ketika sebuah chatbot diinstruksikan untuk memaksimalkan kekuatan persuasifnya demi sebuah blok ideologi tertentu, model tersebut cenderung meningkatkan proporsi klaim yang menyesatkan, meskipun saya terus mencampurnya dengan banyak data yang benar. Masalahnya bukan hanya informasi palsu yang dapat lolos., tapi Hal ini dilakukan dengan dibungkus dalam narasi yang tampaknya masuk akal dan terdokumentasi dengan baik.

Para peneliti juga menyoroti poin yang tidak mengenakkan: Mereka belum menunjukkan bahwa klaim yang tidak akurat secara inheren lebih persuasif.Namun, ketika AI didorong untuk menjadi semakin efektif, jumlah kesalahan pun meningkat. Dengan kata lain, meningkatkan kinerja persuasif tanpa mengorbankan akurasi terbukti menjadi tantangan teknis dan etis yang masih belum terselesaikan.

Pola ini khususnya mengkhawatirkan dalam konteks polarisasi politik yang tinggi, seperti yang dialami di beberapa wilayah Eropa dan Amerika Utara, di mana margin kemenangannya sempit dan beberapa poin persentase dapat menentukan hasil pemilihan umum atau presiden.

Keterbatasan penelitian dan keraguan tentang dampak nyata di kotak suara

Meskipun hasil dari Nature dan Science solid dan sepakat dalam kesimpulan utama mereka, kedua tim bersikeras bahwa Ini adalah eksperimen terkendali, bukan kampanye sungguhan.Ada beberapa elemen yang mengundang kehati-hatian saat mengekstrapolasi data seperti pemilu di jalan.

Di satu sisi, peserta mendaftar secara sukarela atau direkrut melalui platform yang menawarkan kompensasi finansial, yang memperkenalkan bias seleksi mandiri dan menjauh dari keberagaman pemilih yang sebenarnyaSelain itu, mereka tahu setiap saat bahwa Mereka sedang berbicara dengan AI. dan merupakan bagian dari suatu studi, kondisi yang hampir tidak akan terulang dalam kampanye biasa.

Nuansa penting lainnya adalah bahwa penelitian ini terutama mengukur perubahan sikap dan niat yang dinyatakanbukan suara yang sebenarnya diberikan. Ini merupakan indikator yang berguna, tetapi tidak setara dengan mengamati perilaku akhir pada hari pemilihan. Faktanya, dalam eksperimen di AS, efeknya agak lebih kecil dibandingkan di Kanada dan Polandia, yang menunjukkan bahwa konteks politik dan tingkat keraguan sebelumnya memiliki pengaruh yang signifikan.

Dalam kasus studi Inggris yang dikoordinasikan oleh Kobi Hackenburg Dari Institut Keamanan AI Inggris, ada juga batasan yang jelas: data hanya berasal dari pemilih di Inggris Raya, mereka semua menyadari bahwa mereka berpartisipasi dalam investigasi akademis dan dengan kompensasi ekonomiHal ini membatasi generalisasi ke negara-negara UE lain atau konteks yang kurang terkendali.

Namun, skala dari karya-karya ini—puluhan ribu peserta dan lebih dari 700 topik politik yang berbeda—dan transparansi metodologis telah menyebabkan sebagian besar komunitas akademis mempertimbangkan bahwa Mereka melukiskan skenario yang masuk akalPenggunaan chatbot politik yang mampu mengubah opini secara relatif cepat bukan lagi hipotesis futuristik, tetapi skenario yang layak secara teknis dalam kampanye mendatang.

Pemain elektoral baru bagi Eropa dan negara demokrasi lainnya

Selain kasus-kasus spesifik di AS, Kanada, Polandia, dan Inggris, temuan ini memiliki implikasi langsung terhadap Eropa dan Spanyoldi mana regulasi komunikasi politik di media sosial dan penggunaan data pribadi dalam kampanye sudah menjadi subjek perdebatan sengit. Kemungkinan menggabungkan chatbot yang mengelola dialog personal dengan pemilih Ini menambahkan lapisan kompleksitas ekstra.

Hingga saat ini, persuasi politik terutama diartikulasikan melalui iklan statis, demonstrasi, debat di televisi, dan media sosialKehadiran asisten percakapan memperkenalkan elemen baru: kemampuan untuk mempertahankan interaksi satu lawan satu, diadaptasi dengan cepat terhadap apa yang dikatakan warga pada saat itu juga, dan semua ini dengan biaya yang sangat kecil bagi penyelenggara kampanye.

Para peneliti menekankan bahwa kuncinya bukan lagi hanya siapa yang mengendalikan basis data pemilih, tetapi siapa yang bisa mengembangkan model yang mampu menanggapi, menyempurnakan, dan mereplikasi argumen terus-menerus, dengan volume informasi yang jauh melampaui apa yang dapat ditangani oleh seorang relawan manusia di papan telepon atau pos jalan.

Dalam konteks ini, suara-suara seperti yang disampaikan oleh pakar Italia Walter Quattrociocchi Mereka bersikeras bahwa fokus regulasi harus bergeser dari personalisasi agresif atau segmentasi ideologis menuju kepadatan informasi yang dapat diberikan oleh model. Studi menunjukkan bahwa persuasi tumbuh terutama ketika data dikalikan, bukan ketika strategi emosional digunakan.

La Kebetulan hasil antara Nature dan Science telah menimbulkan kekhawatiran di organisasi-organisasi Eropa khawatir tentang integritas proses demokrasiMeskipun Uni Eropa telah membuat kemajuan dengan kerangka kerja seperti Undang-Undang Layanan Digital atau regulasi khusus AI di masa depan, kecepatan evolusi model-model ini masih sangat terbatas. Hal ini memerlukan tinjauan berkelanjutan terhadap mekanisme pengawasan, audit, dan transparansi..

Literasi digital dan pertahanan terhadap persuasi otomatis

Salah satu pesan yang berulang dalam komentar akademis yang menyertai karya-karya ini adalah bahwa respons tidak dapat semata-mata didasarkan pada larangan atau kontrol teknis. Para penulis sepakat bahwa penguatan literasi digital dari populasi sehingga warga belajar untuk mengenali dan menolak persuasi dihasilkan oleh sistem otomatis.

Percobaan pelengkap, seperti yang dipublikasikan di Nexus PNASMereka menyarankan bahwa pengguna yang paling memahami cara kerja model bahasa besar adalah kurang rentan Mengetahui bahwa chatbot bisa saja salah, melebih-lebihkan, atau mengisi kekosongan dengan tebakan mengurangi kecenderungan untuk menerima pesan-pesannya seolah-olah berasal dari otoritas yang tidak pernah salah.

Pada saat yang sama, telah diamati bahwa efektivitas persuasif AI tidak terlalu bergantung pada keyakinan lawan bicara bahwa mereka berbicara dengan seorang ahli, tetapi pada kualitas dan konsistensi argumen yang diterimanya. Dalam beberapa pengujian, pesan chatbot bahkan berhasil mengurangi kepercayaan pada teori konspirasi, terlepas dari apakah peserta mengira mereka sedang mengobrol dengan seseorang atau mesin.

Hal ini menunjukkan bahwa teknologi itu sendiri pada dasarnya tidak berbahaya: teknologi ini dapat digunakan untuk keduanya memerangi misinformasi untuk menyebarkannyaBatasannya ditentukan oleh instruksi yang diberikan kepada model, data yang digunakan untuk melatihnya, dan, yang terutama, tujuan politik atau komersial dari mereka yang menerapkannya.

Sementara pemerintah dan regulator berdebat mengenai batasan dan persyaratan transparansi, para penulis karya ini bersikeras pada satu gagasan: chatbot politik Mereka hanya akan mampu memberikan pengaruh besar jika publik setuju untuk berinteraksi dengan mereka.Oleh karena itu, perdebatan publik tentang penggunaannya, pelabelannya yang jelas, dan hak untuk tidak tunduk pada persuasi otomatis akan menjadi isu sentral dalam percakapan demokratis di tahun-tahun mendatang.

Gambaran yang dilukiskan oleh penelitian di Nature dan Science menunjukkan peluang dan risiko: chatbot AI dapat membantu menjelaskan kebijakan publik dengan lebih baik dan menyelesaikan keraguan yang kompleks, namun mereka juga dapat mempunyai kapasitas untuk untuk memberi pengaruh pada skala elektoralterutama di kalangan pemilih yang belum menentukan pilihan, dan mereka melakukannya dengan harga yang jelas dalam hal akurasi informasi ketika mereka dilatih untuk memaksimalkan kekuatan persuasif mereka, keseimbangan rumit yang harus segera diatasi oleh demokrasi dan tanpa kenaifan.

Artikel terkait:

California mengesahkan SB 243 untuk mengatur chatbot AI dan melindungi anak di bawah umur

Alberto navarro

Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.

Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.