Како политички четботови уче да утичу на гласање

Појава политички четботови Престало је да буде технолошка анегдота да постане елемент који почиње да буде важан у стварним предизборним кампањама. Разговори од само неколико минута са моделима вештачке интелигенције су довољни да померити симпатије према кандидату за неколико поена или конкретан предлог, нешто што је донедавно било повезано само са великим медијским кампањама или високо координисаним скуповима.

Два далекосежна истраживања, објављена истовремено у Природа y Наука, Довели су бројке у везу са нечим што се већ сумњало.: тхе Разговорни четботови су способни да мењају политичке ставове грађана. са изузетном лакоћом, чак и када знају да интерагују са машином. А то чине, пре свега, путем аргументи пуни информацијане толико кроз софистициране психолошке тактике.

Четботови у кампањама: експерименти у САД, Канади, Пољској и Великој Британији

Нови докази долазе из низа експеримената које су координирали тимови из Универзитет Цорнелл и Универзитет у Оксфорду, спроведено током стварних изборних процеса у Сједињене Америчке Државе, Канада, Пољска и Уједињено КраљевствоУ свим случајевима, учесници су знали да ће разговарати са вештачком интелигенцијом, али нису били свесни политичке оријентације четбота који им је додељен.

У раду који је водио Давид Ранд и објављено у часопису Nature, хиљаде гласача су учествовале у кратким дијалозима са језичким моделима конфигурисаним да да брани одређеног кандидатаНа пример, на председничким изборима у САД 2024. 2.306 грађана Прво су назначили своју преференцију између Доналд Трумп y Тхаворн ХарисЗатим су насумично додељени четботу који је бранио једног од њих двојице.

Након разговора, мерене су промене у ставу и намери гласања. Ботови који су били наклоњени Харису постигли су померање 3,9 поена на скали од 0 до 100 међу бирачима који су првобитно били слажу са Трампом, утицај који аутори израчунавају као четири пута веће него код конвенционалног предизборног оглашавања тестирано у кампањама 2016. и 2020. године. Про-Трампов модел је такође променио ставове, мада умереније, са променом у КСНУМКС поени међу Харисовим присталицама.

Rezultati u Канада (са 1.530 учесника и четботови који се бране Марк Царнеи o Пиерре Поилиевре) и у Poljska (2.118 људи, са моделима који су промовисали Рафаł Трзасковски o Карол Навроцки) били су још упечатљивији: у тим контекстима, четботови су успели промене у намери гласања до 10 процентних поена међу гласачима опозиције.

Кључни аспект ових суђења је да, иако је већина разговора трајала само неколико минута, Део ефекта је трајао током временаУ Сједињеним Државама, нешто више од месец дана након експеримента, значајан део почетног утицаја је и даље био примећен, упркос лавини кампањских порука које су учесници примали током тог периода.

Шта чини политичког четбота убедљивим (и зашто то генерише више грешака)

Истраживачи су желели да разумеју не само да ли четботови могу да убеде, већ како су то постиглиОбразац који се понавља у студијама је јасан: вештачка интелигенција има највећи утицај када Користи многе аргументе засноване на чињеницамачак и ако велики део тих информација није посебно софистициран.

У експериментима које је координирао Ренд, најефикаснија инструкција за моделе била је да се од њих затражи да буду љубазан, поштован и који би могао да пружи доказе његових изјава. Љубазност и разговорни тон су помогли, али главна полуга за промену лежала је у нуђењу података, примера, бројки и сталном позивању на јавне политике, економију или здравствену заштиту.

Када су модели имали ограничен приступ проверљивим чињеницама и наређено им је да убеђују без прибегавања конкретним подацимаЊихова моћ утицаја драстично је опала. Овај резултат је навео ауторе на закључак да предност четботова у односу на друге формате политичке пропаганде не лежи толико у емоционалној манипулацији колико у густина информација које могу да примене у само неколико рунди разговора.

Али ова иста стратегија има и ману: како се повећава притисак на моделе да генеришу све више наводно чињеничних тврдњиПовећава се ризик да ће систему понестати поузданог материјала и да ће почети да „Измишљање“ чињеницаЈедноставно речено, четбот попуњава празнине подацима који звуче вероватно, али нису нужно тачни.

Студија објављена у часопису Science, са 76.977 одраслих из Уједињеног Краљевства y 19 различита модела (од малих система отвореног кода до најсавременијих комерцијалних модела), систематски потврђује ово: пост-тренинг фокусиран на убеђивање повећала је способност утицаја до КСНУМКС%, док једноставне измене у упутствима (тзв. подстицањеДодали су још један КСНУМКС% ефикасности. Истовремено, ова побољшања су праћена приметним смањењем чињенична тачност.

Идеолошке асиметрије и ризик од дезинформација

Један од најпроблематичнијих закључака студија Корнела и Оксфорда јесте да неравнотежа између убедљивости и истинитости није равномерно распоређена међу свим кандидатима и позицијама. Када су независни проверавачи чињеница анализирали поруке које су генерисали четботови, открили су да Модели који су подржавали десничарске кандидате правили су више грешака него оних који су подржавали прогресивне кандидате.

Према речима аутора, ово асиметрија То се поклапа са претходним студијама које Они показују да конзервативни корисници имају тенденцију да деле више нетачног садржаја на друштвеним мрежама него левичарски оријентисани корисници.Пошто језички модели уче из огромних количина информација извучених са интернета, они вероватно одражавају део те пристрасности уместо да је стварају од нуле.

У сваком случају, последица је иста: када се четботу наложи да максимизира своју моћ убеђивања у корист одређеног идеолошког блока, модел тежи да повећати удео обмањујућих тврдњи, иако их и даље мешам са много тачних података. Проблем није само у томе што се могу провући лажне информације., али То чини умотано у наизглед разумну и добро документовану нарацију.

Истраживачи такође истичу једну непријатну тачку: Нису показали да су нетачне тврдње саме по себи убедљивије.Међутим, када се вештачка интелигенција подстиче да постане све ефикаснија, број грешака расте паралелно. Другим речима, побољшање убедљивих перформанси без угрожавања тачности открива се као технички и етички изазов који остаје нерешен.

Овај образац је посебно забрињавајући у контекстима висока политичка поларизација, попут оних у деловима Европе и Северне Америке, где су маргине победе мале и неколико процентних поена може одлучити исход општих или председничких избора.

Ограничења студија и сумње у стварни утицај на гласачке кутије

Иако су резултати часописа Nature и Science чврсти и слажу се у својим главним закључцима, оба тима инсистирају на томе Ово су контролисани експерименти, а не праве кампање.Постоји неколико елемената који позивају опрез приликом екстраполације података баш као избори на улици.

С једне стране, учесници су се или добровољно пријавили или су регрутовани преко платформи које нуде финансијску надокнаду, што уводи пристрасности самоизбора и удаљава се од разноликости стварног бирачког телаШтавише, они су у сваком тренутку знали да Разговарали су са вештачком интелигенцијом. и то је био део студије, услови који би се тешко могли поновити у обичној кампањи.

Још једна важна нијанса је да су студије првенствено мериле промене у ставовима и изреченим намерамане стварни број гласова. То су корисни индикатори, али нису еквивалентни посматрању коначног понашања на дан избора. У ствари, у америчким експериментима, ефекат је био нешто мањи него у Канади и Пољској, што сугерише да политички контекст и степен претходне неодлучности имају значајан утицај.

У случају британске студије коју је координирао Коби Хакенбург Британски Институт за безбедност вештачке интелигенције такође наводи јасна ограничења: подаци долазе само из бирачи Уједињеног Краљевства, сви су били свесни да учествују у академском истраживању и са ekonomska kompenzacijaОво ограничава његову генерализацију на друге земље ЕУ или мање контролисане контексте.

Ипак, обим ових радова – десетине хиљада учесника и више од 700 различитих политичких тема— и методолошка транспарентност навели су велики део академске заједнице да размотри да Они сликају вероватан сценариоУпотреба политичких четботова способних да релативно брзо мењају мишљења више није футуристичка хипотеза, већ технички изводљив сценарио у предстојећим кампањама.

Нови изборни играч за Европу и друге демократије

Поред специфичних случајева САД, Канаде, Пољске и Велике Британије, налази имају директне импликације за Европе и Шпанијегде су регулација политичке комуникације на друштвеним мрежама и коришћење личних података у кампањама већ предмет интензивне дебате. Могућност укључивања четботова који одржавају персонализовани дијалози са бирачима Додаје додатни слој сложености.

До сада се политичко убеђивање првенствено артикулисало кроз статичне рекламе, скупови, телевизијске дебате и друштвене мрежеДолазак конверзационих асистената уводи нови елемент: могућност одржавања интеракције један на један, прилагођено у ходу ономе што грађанин говори у реалном времену, а све то уз практично маргиналне трошкове за организаторе кампање.

Истраживачи наглашавају да кључ више није само ко контролише базу података бирача, већ ко може развити моделе способне да одговоре на аргументе, да их усаврше и реплицирају непрекидно, са количином информација која далеко превазилази оно што би људски добровољац могао да обради на телефонској централи или уличном посту.

У том контексту, гласови попут оног италијанског стручњака Валтер Кватрочоки Они инсистирају да регулаторни фокус треба да се помери са агресивне персонализације или идеолошке сегментације ка густина информација које модели могу да пруже. Студије показују да убеђивање расте првенствено када се подаци умножавају, а не када се користе емоционалне стратегије.

La Подударност резултата између организација Nature и Science изазвала је узбуну у европским организацијама забринут због интегритет демократских процесаИако Европска унија напредује са оквирима као што су Закон о дигиталним услугама или будућа специфична регулатива вештачке интелигенције, брзина којом се ови модели развијају То захтева стално преиспитивање механизама за надзор, ревизију и транспарентност..

Дигитална писменост и одбрана од аутоматизованог убеђивања

Једна од понављајућих порука у академским коментарима који прате ове радове јесте да одговор не може бити заснован искључиво на забранама или техничким контролама. Аутори се слажу да ће бити неопходно ојачати Дигитална писменост становништва како би грађани научили да препознати и одупрети се убеђивању генерисани аутоматским системима.

Комплементарни експерименти, као што су они објављени у ПНАС НекусОни сугеришу да су корисници који најбоље разумеју како функционишу модели великих језика мање рањиви на његове покушаје утицаја. Сазнање да четбот може бити погрешан, претеривати или попунити празнине нагађањима смањује тенденцију да се његове поруке прихвате као да долазе од непогрешивог ауторитета.

Истовремено, примећено је да убедљива ефикасност вештачке интелигенције не зависи толико од тога да ли саговорник верује да разговара са стручњаком, већ од тога... квалитет и доследност аргумената које прима. У неким тестовима, поруке чет-бота су чак успеле да смањити веровање у теорије завере, без обзира на то да ли су учесници мислили да ћаскају са особом или машином.

Ово сугерише да сама технологија није инхерентно штетна: може се користити за оба борба против дезинформација како би се то пропагиралоГраницу повлаче упутства дата моделу, подаци помоћу којих се обучава и, пре свега, политички или комерцијални циљеви оних који га примењују.

Док владе и регулатори расправљају о ограничењима и захтевима транспарентности, аутори ових радова инсистирају на једној идеји: политички четботови Моћи ће да изврше огроман утицај само ако јавност пристане да сарађује са њима.Стога ће јавна дебата о његовој употреби, његовом јасном означавању и праву да се не буде подвргнуто аутоматском убеђивању постати централна питања у демократском разговору у наредним годинама.

Слика коју је приказала истраживања у часопису Nature and Science открива и могућности и ризике: AI четботови могу помоћи у бољем објашњавању јавних политика и решавању сложених недоумица, али такође могу имају капацитет да превагнути на изборној вазипосебно међу неодлучним бирачима, и то чине са очигледна цена у смислу тачности информација када су обучени да максимизирају своју моћ убеђивања, деликатна равнотежа коју ће демократије морати хитно да реше и без наивности.

Повезани чланак:

Калифорнија усваја SB 243 како би регулисала AI четботове и заштитила малолетнике

Алберто Наварро

Ја сам технолошки ентузијаста који је своја „штреберска“ интересовања претворио у професију. Провео сам више од 10 година свог живота користећи најсавременију технологију и петљајући по свим врстама програма из чисте радозналости. Сада сам се специјализовао за компјутерску технологију и видео игрице. То је зато што више од 5 година пишем за различите веб странице о технологији и видео игрицама, стварајући чланке који желе да вам дају информације које су вам потребне на језику који је свима разумљив.

Ако имате било каквих питања, моје знање се креће од свега што се тиче Виндовс оперативног система као и Андроида за мобилне телефоне. И моја посвећеност је вама, увек сам спреман да потрошим неколико минута и помогнем вам да решите сва питања која имате у овом свету интернета.