- Две големи проучвания в Nature и Science доказват, че политическите чатботове могат да променят нагласите и намеренията за гласуване в няколко страни.
- Убеждаването се основава предимно на предлагането на много аргументи и данни, въпреки че увеличава риска от неточна информация.
- Оптимизирането за оказване на влияние засилва убедителния ефект с до 25 точки, но намалява правдивостта на отговорите.
- Констатациите поставят началото на спешен дебат в Европа и останалите демокрации относно регулирането, прозрачността и дигиталната грамотност.
Нахлуването на политически чатботове Това е престанало да бъде технологичен анекдот да се превърне в елемент, който започва да има значение в реалните предизборни кампании. Разговори само от няколко минути с модели с изкуствен интелект са достатъчни, за да изместване на симпатиите към кандидата с няколко пункта или конкретно предложение, нещо, което доскоро се свързваше само с големи медийни кампании или силно координирани митинги.
Две мащабни разследвания, публикувани едновременно в Природа y Наука, Те са дали числа на нещо, което вече се е подозирало.: на Разговорните чатботове са способни да променят политическите нагласи на гражданите. със забележителна лекота, дори когато знаят, че взаимодействат с машина. И те го правят, преди всичко, чрез аргументи, пълни с информацияне толкова чрез сложни психологически тактики.
Чатботове в кампании: експерименти в САЩ, Канада, Полша и Великобритания
Новите доказателства идват от серия експерименти, координирани от екипи от Университет Корнел и на Оксфордския университет, извършени по време на реалните изборни процеси в Съединените щати, Канада, Полша и Обединеното кралствоВъв всички случаи участниците знаеха, че ще говорят с изкуствен интелект, но не бяха наясно с политическата ориентация на чатбота, който им беше присвоен.
В работата, ръководена от Дейвид Ранд и публикувано в Nature, хиляди избиратели преминаха през кратки диалози с езикови модели, конфигурирани да да защити конкретен кандидатНапример, на президентските избори в САЩ през 2024 г. 2.306 граждани Те първо посочиха предпочитанията си между Доналд Тръмп y Камала ХарисСлед това те бяха разпределени на случаен принцип към чатбот, който защитаваше единия от двамата.
След разговора бяха измерени промените в отношението и намерението за гласуване. Ботове, благосклонни към Харис, постигнаха изместване 3,9 точки по скала от 0 до 100 сред избирателите, първоначално подкрепящи Тръмп, въздействие, което авторите изчисляват като четири пъти по-висока от тази на конвенционалната предизборна реклама тестван в кампаниите през 2016 и 2020 г. Про-Тръмп моделът също промени позициите си, макар и по-умерено, с промяна в 1,51 точки сред поддръжниците на Харис.
Резултатите в Канада (с 1.530 участници и чатботове, защитаващи Марк Карни o Пиер Поалиевр) и в Полша (2.118 души, с модели, които са промотирали Рафал Trzaskowski o Карол Навроцки) бяха още по-поразителни: в тези контексти чатботовете успяха промени в намерението за гласуване с до 10 процентни пункта сред избирателите на опозицията.
Ключов аспект на тези процеси е, че въпреки че повечето разговори продължиха само няколко минути, Част от ефекта е продължил с течение на времетоВ Съединените щати, малко повече от месец след експеримента, все още се наблюдаваше значителна част от първоначалното въздействие, въпреки лавината от послания за кампанията, получени от участниците през този период.
Какво прави един политически чатбот убедителен (и защо това генерира повече грешки)
Изследователите искали да разберат не само дали чатботовете могат да убеждават, но и как са го постигалиМоделът, който се повтаря в изследванията, е ясен: изкуственият интелект има най-голямо влияние, когато Използва много аргументи, основани на фактидори ако голяма част от тази информация не е особено сложна.
В експериментите, координирани от Ранд, най-ефективната инструкция за моделите е била да ги помолят да бъдат учтив, уважителен и който би могъл да предостави доказателства на неговите изявления. Учтивостта и разговорният тон помогнаха, но основният лост за промяна се криеше в предлагането на данни, примери, цифри и постоянни препратки към публичните политики, икономиката или здравеопазването.
Когато моделите бяха ограничени в достъпа си до проверими факти и бяха инструктирани да убеждават без да се прибягва до конкретни данниТяхната сила на влияние спадна драстично. Този резултат накара авторите да заключат, че предимството на чатботовете пред други форми на политическа пропаганда се крие не толкова в емоционалната манипулация, колкото в информационна плътност които могат да разгърнат само с няколко разговора.
Но същата тази стратегия има и недостатък: с нарастването на натиска върху моделите да генерират все повече предполагаеми фактически твърденияУвеличава се рискът системата да изчерпи надеждния материал и да започне да „измислят“ фактиКазано по-просто, чатботът запълва празнините с данни, които звучат правдоподобно, но не са непременно верни.
Проучването, публикувано в Science, с 76 977 възрастни от Обединеното кралство y 19 различни модела (от малки системи с отворен код до авангардни търговски модели), то систематично потвърждава: следобучение, фокусирано върху убеждаването увеличена способност за влияние до 51%, докато прости промени в инструкциите (т.нар. подтикванеТе добавиха още един 27% на ефективност. В същото време тези подобрения бяха съпроводени от забележимо намаляване на фактическа точност.
Идеологически асиметрии и рискът от дезинформация
Едно от най-тревожните заключения на проучванията на Корнел и Оксфорд е, че дисбалансът между убедителност и истинност не е равномерно разпределен между всички кандидати и позиции. Когато независими проверяващи фактите анализираха съобщенията, генерирани от чатботовете, те установиха, че Моделите, които подкрепяха десни кандидати, допуснаха повече грешки отколкото тези, които подкрепяха прогресивните кандидати.
Според авторите, това асиметрия Това съвпада с предишни проучвания, които Те показват, че консервативните потребители са склонни да споделят по-неточно съдържание в социалните медии, отколкото левите потребители.Тъй като езиковите модели се учат от огромни количества информация, извлечена от интернет, те вероятно отразяват част от това пристрастие, вместо да го създават от нулата.
Във всеки случай, последицата е една и съща: когато чатбот е инструктиран да увеличи максимално убедителната си сила в полза на определен идеологически блок, моделът е склонен да увеличаване на дела на подвеждащите твърдения, въпреки че продължавам да ги смесвам с много правилни данни. Проблемът не е само в това, че може да се промъкне невярна информация.но Прави го, обгърнато в привидно разумен и добре документиран разказ..
Изследователите също така подчертават един неудобен момент: Те не са доказали, че неточните твърдения са по своята същност по-убедителни.Въпреки това, когато изкуственият интелект е принуден да стане все по-ефективен, броят на грешките нараства паралелно. С други думи, подобряването на убедителното представяне без компромис с точността се разкрива като техническо и етично предизвикателство, което остава нерешено.
Тази закономерност е особено обезпокоителна в контекста на висока политическа поляризация, подобно на тези, наблюдавани в части от Европа и Северна Америка, където разликата в победата е малка и няколко процентни пункта могат да решат изхода от общи или президентски избори.
Ограничения на проучванията и съмнения относно реалното въздействие върху урните
Въпреки че резултатите от Nature и Science са солидни и са съгласни в основните си заключения, и двата екипа настояват, че Това са контролирани експерименти, а не реални кампании.Има няколко елемента, които канят бъдете внимателни при екстраполиране на данните точно като избори на улицата.
От една страна, участниците или са се записвали доброволно, или са били набирани чрез платформи, които предлагат финансово възнаграждение, което въвежда пристрастия към самоизбор и се отдалечава от многообразието на действителния електоратОсвен това, те знаеха по всяко време, че Те разговаряха с изкуствен интелект. и които бяха част от проучване, условия, които едва ли биха се повторили в обикновена кампания.
Друг важен нюанс е, че проучванията измерват предимно промени в нагласите и заявените намеренияне действително подадените гласове. Това са полезни показатели, но не са еквивалентни на наблюдението на окончателното поведение в изборния ден. Всъщност, в експериментите в САЩ ефектът е бил малко по-малък, отколкото в Канада и Полша, което предполага, че политическият контекст и степента на предходна нерешителност имат значително влияние.
В случая с британското проучване, координирано от Коби Хакенбург От Института за сигурност на изкуствения интелект в Обединеното кралство също има ясни ограничения: данните идват само от избирателите на Обединеното кралство, всички те знаеха, че участват в академично разследване и с финансово обезщетениеТова ограничава обобщението му до други страни от ЕС или по-малко контролирани контексти.
Въпреки това, мащабът на тези произведения – десетки хиляди участници и повече от 700 различни политически теми— и методологичната прозрачност накараха голяма част от академичната общност да обмисли, че Те рисуват правдоподобен сценарийИзползването на политически чатботове, способни да променят мненията сравнително бързо, вече не е футуристична хипотеза, а технически осъществим сценарий в предстоящи кампании.
Нов електорален играч за Европа и други демокрации
Отвъд специфичните случаи на САЩ, Канада, Полша и Обединеното кралство, констатациите имат преки последици за Европа и Испаниякъдето регулирането на политическата комуникация в социалните медии и използването на лични данни в кампании вече са предмет на интензивен дебат. Възможността за включване на чатботове, които поддържат персонализирани диалози с избирателите Това добавя допълнителен слой сложност.
Досега политическото убеждаване се изразяваше предимно чрез статични реклами, митинги, телевизионни дебати и социални медииПоявата на разговорните асистенти въвежда нов елемент: способността за поддържане взаимодействия един на един, адаптирани в движение към това, което гражданинът казва в реално време, и всичко това на практически незначителни разходи за организаторите на кампанията.
Изследователите подчертават, че ключът вече не е само кой контролира базата данни на избирателите, а кой може... разработване на модели, способни да отговарят, усъвършенстват и възпроизвеждат аргументи непрекъснато, с обем информация, който далеч надхвърля това, което един доброволец би могъл да обработи на телефонна централа или уличен пост.
В този контекст, гласове като този на италианския експерт Валтер Куатрочоки Те настояват, че регулаторният фокус трябва да се измести от агресивна персонализация или идеологическа сегментация към информационна плътност които моделите могат да предоставят. Проучванията показват, че убеждаването нараства предимно когато данните се умножават, а не когато се използват емоционални стратегии.
La Съвпадението на резултатите между Nature и Science предизвика тревога в европейските организации загрижен за целостта на демократичните процесиВъпреки че Европейският съюз постига напредък с рамки като Закона за цифровите услуги или бъдещото специфично регулиране на изкуствения интелект, скоростта, с която тези модели се развиват Това изисква постоянен преглед на механизмите за надзор, одит и прозрачност..
Дигитална грамотност и защита срещу автоматизирано убеждаване
Едно от повтарящите се послания в академичните коментари, съпътстващи тези трудове, е, че отговорът не може да се основава единствено на забрани или технически контрол. Авторите са съгласни, че ще бъде от съществено значение да се засили дигитална грамотност на населението, така че гражданите да се научат да разпознават и устояват на убеждаването генерирани от автоматични системи.
Допълнителни експерименти, като например публикуваните в PNAS NexusТе предполагат, че потребителите, които най-добре разбират как работят големите езикови модели, са по-малко уязвими до опитите му за влияние. Знанието, че един чатбот може да греши, да преувеличава или да запълва празнините с догадки, намалява склонността да се приемат съобщенията му сякаш идват от непогрешим авторитет.
В същото време е наблюдавано, че убедителната ефективност на изкуствения интелект зависи не толкова от това дали събеседникът вярва, че говори с експерт, а от това... качество и последователност на аргументите които получава. В някои тестове съобщенията на чатбота дори успяха да намаляване на вярата в конспиративни теории, независимо дали участниците са смятали, че разговарят с човек или с машина.
Това предполага, че самата технология не е по своята същност вредна: тя може да се използва и за двете борба с дезинформацията за да го разпространявамеЛинията се определя от инструкциите, дадени на модела, данните, с които е обучен, и най-вече от политическите или търговските цели на тези, които го прилагат.
Докато правителствата и регулаторните органи обсъждат ограниченията и изискванията за прозрачност, авторите на тези трудове настояват за една идея: политически чатботове Те ще могат да упражнят огромно влияние само ако обществеността се съгласи да взаимодейства с тях.Следователно, общественият дебат относно неговото използване, ясното му етикетиране и правото да не бъдеш подлаган на автоматизирано убеждаване ще се превърнат в централни теми в демократичния разговор през следващите години.
Картината, нарисувана от изследванията в Nature and Science, разкрива както възможности, така и рискове: чатботовете с изкуствен интелект могат да помогнат за по-добро обяснение на публичните политики и разрешаване на сложни съмнения, но те могат също така... имат капацитет да да наклони везните на избирателитеособено сред нерешителните избиратели, и те го правят с очевидна цена по отношение на точността на информацията, когато са обучени да увеличат максимално убедителната си сила, деликатен баланс, с който демокрациите ще трябва да се справят спешно и без наивност.
Аз съм технологичен ентусиаст, който е превърнал своите „гийк“ интереси в професия. Прекарах повече от 10 години от живота си, използвайки авангардни технологии и бърникайки с всякакви програми от чисто любопитство. Сега съм специализирал компютърни технологии и видео игри. Това е така, защото повече от 5 години пиша за различни уебсайтове за технологии и видео игри, създавайки статии, които се стремят да ви дадат информацията, от която се нуждаете, на език, разбираем за всички.
Ако имате някакви въпроси, познанията ми варират от всичко свързано с операционната система Windows, както и с Android за мобилни телефони. И моят ангажимент е към вас, винаги съм готов да отделя няколко минути и да ви помогна да разрешите всички въпроси, които може да имате в този интернет свят.