چگونه چت‌بات‌های سیاسی در حال یادگیری تأثیرگذاری بر رأی‌گیری هستند

ظهور چت‌بات‌های سیاسی دیگر یک حکایت تکنولوژیکی نیست به عنصری تبدیل شود که در مبارزات انتخاباتی واقعی اهمیت پیدا می‌کند. مکالمات چند دقیقه‌ای با مدل‌های هوش مصنوعی کافی است تا همدردی را به سمت یک نامزد با چند امتیاز تغییر دهید یا یک پیشنهاد مشخص، چیزی که تا همین اواخر فقط با کمپین‌های رسانه‌ای بزرگ یا تجمعات بسیار هماهنگ مرتبط بود.

دو تحقیق گسترده که همزمان در ... منتشر شدند طبیعت y علم, آنها روی چیزی که از قبل مشکوک بود، اعدادی قرار داده‌اند.: چت‌بات‌های مکالمه‌ای قادر به تغییر نگرش‌های سیاسی شهروندان هستند. با سهولت قابل توجهی، حتی وقتی می‌دانند که با یک ماشین در تعامل هستند. و آنها این کار را، مهم‌تر از همه، از طریق استدلال‌های پر از اطلاعاتنه چندان از طریق تاکتیک‌های پیچیده روانشناختی.

چت‌بات‌ها در کمپین‌ها: آزمایش‌هایی در ایالات متحده، کانادا، لهستان و بریتانیا

شواهد جدید از مجموعه‌ای از آزمایش‌ها که توسط تیم‌هایی از ... هماهنگ شده‌اند، به دست آمده است. دانشگاه کرنل و دانشگاه آکسفورد، که در طول فرآیندهای واقعی انتخابات در ایالات متحده، کانادا، لهستان و بریتانیادر همه موارد، شرکت‌کنندگان می‌دانستند که قرار است با یک هوش مصنوعی صحبت کنند، اما از جهت‌گیری سیاسی چت‌بات اختصاص داده شده به آنها بی‌اطلاع بودند.

در کاری که توسط دیوید رند و در مجله نیچر منتشر شد، هزاران رأی‌دهنده گفتگوی کوتاهی با مدل‌های زبانی پیکربندی‌شده برای دفاع از یک کاندیدای خاصبرای مثال، در انتخابات ریاست جمهوری ۲۰۲۴ آمریکا، ۲,۳۰۶ شهروند آنها ابتدا ترجیح خود را بین دونالد مغلوب ساختن پیشی جستن y کامالا هریسسپس آنها به طور تصادفی به یک چت‌بات اختصاص داده شدند که از یکی از آن دو دفاع می‌کرد.

پس از گفتگو، تغییرات در نگرش و قصد رأی دادن اندازه‌گیری شد. ربات‌های موافق هریس به دست آمدند شیفت ۳.۹ امتیاز در مقیاس ۰ تا ۱۰۰ در میان رأی‌دهندگانی که در ابتدا با ترامپ همسو بودند، تأثیری که نویسندگان محاسبه می‌کنند چهار برابر بیشتر از تبلیغات انتخاباتی متعارف در مبارزات انتخاباتی ۲۰۱۶ و ۲۰۲۰ آزمایش شد. مدل طرفدار ترامپ نیز مواضع خود را تغییر داد، البته با تغییری ملایم‌تر، امتیاز 1,51 در میان هواداران هریس

نتایج در کشور کانادا (با 1.530 شرکت کننده و چت‌بات‌ها از آن دفاع می‌کنند مارک کارنی o پیر پولیور) و در Polonia (۲۱۱۸ نفر، با مدل‌هایی که تبلیغ کردند) رافائز ترزاسکوفسکی o کارول ناوروکی) حتی قابل توجه‌تر بودند: در این زمینه‌ها، چت‌بات‌ها موفق شدند تغییر در قصد رأی دادن تا 10 درصد در میان رأی‌دهندگان مخالف

یکی از جنبه‌های کلیدی این آزمایش‌ها این است که اگرچه بیشتر مکالمات فقط چند دقیقه طول می‌کشید، بخشی از اثر به مرور زمان ادامه یافتدر ایالات متحده، کمی بیش از یک ماه پس از آزمایش، با وجود انبوه پیام‌های تبلیغاتی که شرکت‌کنندگان در آن دوره دریافت کردند، بخش قابل توجهی از تأثیر اولیه هنوز مشاهده می‌شد.

چه چیزی یک چت‌بات سیاسی را قانع‌کننده می‌کند (و چرا این باعث ایجاد خطاهای بیشتر می‌شود)

محققان نه تنها می‌خواستند بفهمند که آیا چت‌بات‌ها می‌توانند افراد را متقاعد کنند، بلکه می‌خواستند بفهمند که آیا چگونه به آن دست یافتند؟الگویی که در مطالعات تکرار می‌شود واضح است: هوش مصنوعی بیشترین تأثیر را زمانی دارد که از استدلال‌های مبتنی بر واقعیت زیادی استفاده می‌کندحتی اگر بسیاری از آن اطلاعات خیلی پیچیده نباشند.

در آزمایش‌هایی که توسط رند هماهنگ شده بود، مؤثرترین دستورالعمل برای مدل‌ها این بود که از آنها خواسته شود مودب، محترم و کسی که بتواند مدرک ارائه دهد از اظهارات او. ادب و لحن محاوره‌ای کمک کرد، اما اهرم اصلی برای تغییر، ارائه داده‌ها، مثال‌ها، ارقام و ارجاعات مداوم به سیاست‌های عمومی، اقتصاد یا مراقبت‌های بهداشتی بود.

وقتی مدل‌ها در دسترسی به حقایق قابل اثبات محدود بودند و به آنها دستور داده می‌شد که آنها را متقاعد کنند بدون توسل به داده‌های مشخصقدرت نفوذ آنها به شدت کاهش یافت. این نتیجه نویسندگان را به این نتیجه رساند که مزیت چت‌بات‌ها نسبت به سایر قالب‌های تبلیغات سیاسی، نه چندان در دستکاری عاطفی، بلکه در ... نهفته است. چگالی اطلاعات که می‌توانند تنها در چند نوبت مکالمه مستقر شوند.

اما همین استراتژی یک جنبه‌ی منفی هم دارد: با افزایش فشار بر مدل‌ها برای تولید ادعاهای به ظاهر واقعی‌تر، به طور فزاینده‌ایخطر اینکه سیستم از مواد قابل اعتماد خالی شود و شروع به از کار افتادن کند، افزایش می‌یابد. حقایق را «اختراع» کردنبه عبارت ساده، چت‌بات جاهای خالی را با داده‌هایی پر می‌کند که به نظر قابل قبول می‌آیند اما لزوماً صحیح نیستند.

این مطالعه که در مجله ساینس منتشر شده است، با ... ۷۶۹۷۷ بزرگسال از بریتانیا y ۱۹ مدل مختلف (از سیستم‌های متن‌باز کوچک گرفته تا مدل‌های تجاری پیشرفته)، به طور سیستماتیک این را تأیید می‌کند: پس از آموزش با تمرکز بر اقناع افزایش توانایی تأثیرگذاری تا حد ... 51٪در حالی که تغییرات ساده در دستورالعمل‌ها (به اصطلاح اعلانیکی دیگه اضافه کردند 27٪ از کارایی. در عین حال، این پیشرفت‌ها با کاهش قابل توجه در دقت واقعی.

عدم تقارن ایدئولوژیک و خطر اطلاعات نادرست

یکی از نگران‌کننده‌ترین نتیجه‌گیری‌های مطالعات کرنل و آکسفورد این است که عدم تعادل بین اقناع‌پذیری و صداقت به طور مساوی بین همه نامزدها و موقعیت‌ها توزیع نشده است. وقتی بررسی‌کنندگان مستقل واقعیت، پیام‌های تولید شده توسط چت‌بات‌ها را تجزیه و تحلیل کردند، دریافتند که مدل‌هایی که از نامزدهای راست‌گرا حمایت کردند، اشتباهات بیشتری مرتکب شدند نسبت به کسانی که از نامزدهای مترقی حمایت کردند.

به گفته نویسندگان، این عدم تقارن با مطالعات قبلی مطابقت دارد که آنها نشان می‌دهند که کاربران محافظه‌کار نسبت به کاربران چپ‌گرا تمایل بیشتری به اشتراک‌گذاری محتوای نادرست در رسانه‌های اجتماعی دارند.از آنجایی که مدل‌های زبانی از حجم عظیمی از اطلاعات استخراج‌شده از اینترنت یاد می‌گیرند، احتمالاً بخشی از آن سوگیری را منعکس می‌کنند، نه اینکه آن را از ابتدا ایجاد کنند.

در هر صورت، نتیجه یکسان است: وقتی به یک چت‌بات دستور داده می‌شود که قدرت اقناع خود را به نفع یک بلوک ایدئولوژیک خاص به حداکثر برساند، مدل تمایل دارد که افزایش نسبت ادعاهای گمراه‌کنندهاگرچه من همچنان آنها را با داده‌های صحیح زیادی مخلوط می‌کنم. مشکل فقط این نیست که اطلاعات نادرست می‌توانند از دسترس خارج شوند.، ولی این کار را در قالب روایتی ظاهراً معقول و مستند انجام می‌دهد.

محققان همچنین یک نکته‌ی ناخوشایند را برجسته می‌کنند: آنها نشان نداده‌اند که ادعاهای نادرست ذاتاً متقاعدکننده‌تر هستند.با این حال، وقتی هوش مصنوعی به طور فزاینده‌ای برای مؤثرتر شدن تحت فشار قرار می‌گیرد، تعداد خطاها نیز به موازات آن افزایش می‌یابد. به عبارت دیگر، بهبود عملکرد اقناعی بدون به خطر انداختن دقت، خود را به عنوان یک چالش فنی و اخلاقی نشان می‌دهد که همچنان حل نشده باقی مانده است.

این الگو به ویژه در زمینه‌های زیر نگران‌کننده است: قطب‌بندی سیاسی بالامانند آنچه در بخش‌هایی از اروپا و آمریکای شمالی تجربه می‌شود، جایی که اختلاف پیروزی بسیار کم است و چند درصد می‌تواند نتیجه یک انتخابات عمومی یا ریاست جمهوری را تعیین کند.

محدودیت‌های مطالعات و تردیدها در مورد تأثیر واقعی در صندوق‌های رأی

اگرچه نتایج نیچر و ساینس قطعی و در نتیجه‌گیری‌های اصلی خود توافق دارند، هر دو تیم اصرار دارند که اینها آزمایش‌های کنترل‌شده هستند، نه کمپین‌های واقعی.چندین عنصر وجود دارد که دعوت می‌کنند هنگام تعمیم داده‌ها احتیاط کنید درست مثل انتخابات خیابانی.

از یک طرف، شرکت‌کنندگان یا داوطلبانه ثبت‌نام کردند یا از طریق پلتفرم‌هایی که غرامت مالی ارائه می‌دهند، جذب شدند که این امر ... سوگیری‌های خودگزینشی دارد و از تنوع رأی‌دهندگان واقعی فاصله می‌گیردعلاوه بر این، آنها همیشه می‌دانستند که آنها داشتند با یک هوش مصنوعی صحبت می‌کردند. و این بخشی از یک مطالعه بود، شرایطی که به سختی در یک کمپین معمولی تکرار می‌شود.

نکته‌ی مهم دیگر این است که مطالعات در درجه‌ی اول اندازه‌گیری کردند تغییر در نگرش‌ها و نیات بیان‌شدهنه رأی واقعی داده شده. اینها شاخص‌های مفیدی هستند، اما معادل مشاهده رفتار نهایی در روز انتخابات نیستند. در واقع، در آزمایش‌های ایالات متحده، این اثر تا حدودی کمتر از کانادا و لهستان بود، که نشان می‌دهد زمینه سیاسی و میزان تردید قبلی تأثیر قابل توجهی دارند.

در مورد مطالعه بریتانیایی که توسط ... هماهنگ شده است کوبی هاکنبرگ از سوی موسسه امنیت هوش مصنوعی بریتانیا، محدودیت‌های واضحی نیز وجود دارد: داده‌ها فقط از ... می‌آیند. رأی‌دهندگان بریتانیاهمه آنها می‌دانستند که در یک تحقیق دانشگاهی شرکت می‌کنند و با غرامت اقتصادیاین امر تعمیم آن را به سایر کشورهای اتحادیه اروپا یا زمینه‌های کمتر کنترل‌شده محدود می‌کند.

با این وجود، مقیاس این کارها - ده‌ها هزار شرکت‌کننده و بیش از ۷۰۰ موضوع سیاسی مختلف- و شفافیت روش‌شناختی باعث شده است که بخش بزرگی از جامعه دانشگاهی این موضوع را در نظر بگیرند آنها یک سناریوی محتمل را ترسیم می‌کننداستفاده از چت‌بات‌های سیاسی که قادر به تغییر نسبتاً سریع نظرات هستند، دیگر یک فرضیه آینده‌نگرانه نیست، بلکه یک سناریوی از نظر فنی امکان‌پذیر در مبارزات انتخاباتی آینده است.

یک بازیگر انتخاباتی جدید برای اروپا و دیگر دموکراسی‌ها

فراتر از موارد خاص ایالات متحده، کانادا، لهستان و بریتانیا، این یافته‌ها پیامدهای مستقیمی برای ... اروپا و اسپانیاجایی که تنظیم ارتباطات سیاسی در رسانه‌های اجتماعی و استفاده از داده‌های شخصی در مبارزات انتخاباتی از قبل موضوع بحث‌های شدیدی بوده است. امکان گنجاندن چت‌بات‌هایی که ... گفتگوهای شخصی با رأی‌دهندگان این یک لایه اضافی از پیچیدگی را اضافه می‌کند.

تاکنون، اقناع سیاسی عمدتاً از طریق ... بیان می‌شد. تبلیغات ثابت، گردهمایی‌ها، مناظره‌های تلویزیونی و رسانه‌های اجتماعیورود دستیارهای مکالمه‌ای عنصر جدیدی را معرفی می‌کند: توانایی حفظ تعاملات یک به یک، درجا با آنچه شهروند در لحظه می‌گوید تطبیق داده می‌شود، و همه اینها عملاً با هزینه‌ای ناچیز برای سازمان‌دهندگان کمپین انجام می‌شود.

محققان تأکید می‌کنند که کلید ماجرا دیگر فقط این نیست که چه کسی پایگاه داده رأی‌دهندگان را کنترل می‌کند، بلکه این است که چه کسی می‌تواند توسعه مدل‌هایی که قادر به پاسخگویی، اصلاح و تکرار استدلال‌ها باشند به طور مداوم، با حجمی از اطلاعات که بسیار فراتر از آن چیزی است که یک داوطلب انسانی می‌تواند در یک مرکز تلفن یا پست خیابانی مدیریت کند.

در این زمینه، صداهایی مانند صدای کارشناس ایتالیایی والتر کواتروچیوچی آنها اصرار دارند که تمرکز نظارتی باید از شخصی‌سازی تهاجمی یا تقسیم‌بندی ایدئولوژیک به سمت ... تغییر کند. چگالی اطلاعات که مدل‌ها می‌توانند ارائه دهند. مطالعات نشان می‌دهد که ترغیب در درجه اول زمانی افزایش می‌یابد که داده‌ها تکثیر شوند، نه زمانی که از استراتژی‌های احساسی استفاده می‌شود.

La تطابق نتایج بین نیچر و ساینس، زنگ خطر را در سازمان‌های اروپایی به صدا درآورده است. نگران در مورد یکپارچگی فرآیندهای دموکراتیکاگرچه اتحادیه اروپا در چارچوب‌هایی مانند قانون خدمات دیجیتال یا مقررات خاص هوش مصنوعی در آینده پیشرفت‌هایی داشته است، سرعت تکامل این مدل‌ها ... این امر مستلزم بررسی مداوم سازوکارهای نظارت، حسابرسی و شفافیت است..

سواد دیجیتال و دفاع در برابر اقناع خودکار

یکی از پیام‌های مکرر در تفاسیر دانشگاهی همراه این آثار این است که واکنش نمی‌تواند صرفاً مبتنی بر ممنوعیت‌ها یا کنترل‌های فنی باشد. نویسندگان موافقند که تقویت ... ضروری خواهد بود. سواد دیجیتالی از جمعیت به طوری که شهروندان یاد بگیرند که تشخیص و مقاومت در برابر اقناع توسط سیستم‌های خودکار ایجاد می‌شوند.

آزمایش‌های تکمیلی، مانند آزمایش‌های منتشر شده در PNAS Nexusآنها پیشنهاد می‌کنند کاربرانی که به بهترین شکل نحوه کار مدل‌های زبانی بزرگ را درک می‌کنند، کمتر آسیب پذیر به تلاش‌هایش برای تأثیرگذاری. دانستن اینکه یک چت‌بات می‌تواند اشتباه کند، اغراق کند یا جاهای خالی را با حدس و گمان پر کند، تمایل به پذیرش پیام‌های آن را به عنوان گویی از جانب یک مرجع مصون از خطا آمده است، کاهش می‌دهد.

در عین حال، مشاهده شده است که اثربخشی اقناعی هوش مصنوعی چندان به این بستگی ندارد که طرف مقابل باور داشته باشد که با یک انسان متخصص صحبت می‌کند، بلکه به ... کیفیت و انسجام استدلال‌ها که دریافت می‌کند. در برخی آزمایش‌ها، پیام‌های چت‌بات حتی موفق شدند کاهش باور به تئوری‌های توطئهصرف نظر از اینکه شرکت‌کنندگان فکر می‌کردند با یک شخص یا یک ماشین چت می‌کنند.

این نشان می‌دهد که خود فناوری ذاتاً مضر نیست: می‌توان از آن برای هر دو مورد استفاده کرد مبارزه با اطلاعات نادرست در مقام تبلیغ آناین مرز توسط دستورالعمل‌های داده شده به مدل، داده‌هایی که با آنها آموزش دیده است و مهم‌تر از همه، اهداف سیاسی یا تجاری کسانی که آن را به کار می‌گیرند، ترسیم می‌شود.

در حالی که دولت‌ها و نهادهای نظارتی در مورد محدودیت‌ها و الزامات شفافیت بحث می‌کنند، نویسندگان این آثار بر یک ایده اصرار دارند: چت‌بات‌های سیاسی آنها تنها در صورتی می‌توانند نفوذ گسترده‌ای اعمال کنند که عموم مردم با تعامل با آنها موافقت کنند.از این رو، بحث عمومی در مورد استفاده از آن، برچسب‌گذاری واضح آن و حق عدم قرار گرفتن در معرض اقناع خودکار، به موضوعات اصلی در گفتگوی دموکراتیک در سال‌های آینده تبدیل خواهد شد.

تصویری که توسط تحقیقات انجام شده در Nature and Science ترسیم شده است، هم فرصت‌ها و هم خطرات را آشکار می‌کند: چت‌بات‌های هوش مصنوعی می‌توانند به توضیح بهتر سیاست‌های عمومی و حل شبهات پیچیده کمک کنند، اما آنها همچنین می‌توانند آنها ظرفیت این را دارند که برای تغییر کفه ترازوی انتخاباتبه ویژه در میان رأی‌دهندگان مردد، و آنها این کار را با ... انجام می‌دهند. قیمت آشکار از نظر دقت اطلاعات، زمانی که آنها برای به حداکثر رساندن قدرت اقناع خود آموزش دیده‌اند، تعادلی ظریف که دموکراسی‌ها باید فوراً و بدون ساده‌لوحی به آن بپردازند.

مقاله مرتبط:

کالیفرنیا قانون SB 243 را برای تنظیم چت‌بات‌های هوش مصنوعی و محافظت از افراد زیر سن قانونی تصویب کرد.

آلبرتو ناوارو

من یک علاقه مند به فناوری هستم که علایق "گیک" خود را به یک حرفه تبدیل کرده ام. من بیش از 10 سال از زندگی خود را صرف استفاده از فناوری های پیشرفته و سرهم بندی کردن انواع برنامه ها از روی کنجکاوی کرده ام. اکنون در زمینه فناوری رایانه و بازی های ویدیویی تخصص دارم. این به این دلیل است که بیش از 5 سال است که برای وب سایت های مختلف در زمینه فناوری و بازی های ویدیویی می نویسم و ​​مقالاتی را ایجاد می کنم که به دنبال ارائه اطلاعات مورد نیاز شما به زبانی قابل فهم برای همه هستند.

اگر سوالی دارید، دانش من از همه چیز مربوط به سیستم عامل ویندوز و همچنین اندروید برای تلفن های همراه است. و تعهد من به شماست، من همیشه حاضرم چند دقیقه وقت بگذارم و به شما کمک کنم تا هر سوالی را که ممکن است در این دنیای اینترنتی داشته باشید حل کنید.