- Два буйныя даследаванні ў часопісах Nature і Science даказваюць, што палітычныя чат-боты могуць змяніць стаўленне і намеры выбаршчыкаў у некалькіх краінах.
- Перакананне грунтуецца ў першую чаргу на прапанове мноства аргументаў і дадзеных, хоць яно павялічвае рызыку недакладнай інфармацыі.
- Аптымізацыя для ўплыву ўзмацняе пераканаўчы эфект да 25 пунктаў, але зніжае праўдзівасць адказаў.
- Вынікі даследавання выклікаюць тэрміновую дыскусію ў Еўропе і астатніх дэмакратычных краінах па пытаннях рэгулявання, празрыстасці і лічбавай пісьменнасці.
З'яўленне палітычныя чат-боты Гэта перастала быць тэхналагічным анекдотам стаць элементам, які пачынае мець значэнне ў рэальных выбарчых кампаніях. Размоў працягласцю ўсяго некалькі хвілін з мадэлямі штучнага інтэлекту дастаткова, каб зрушыць сімпатыі ў бок кандыдата на некалькі пунктаў альбо канкрэтная прапанова, нешта, што да нядаўняга часу асацыявалася толькі з буйнымі медыйнымі кампаніямі ці добра скаардынаванымі мітынгамі.
Два маштабныя даследаванні, апублікаваныя адначасова ў Прырода y навука, Яны падлічылі лічбы да таго, што ўжо падазравалі.: Размоўныя чат-боты здольныя змяняць палітычныя погляды грамадзян. з незвычайнай лёгкасцю, нават калі яны ведаюць, што ўзаемадзейнічаюць з машынай. І робяць яны гэта, перш за ўсё, праз аргументы, напоўненыя інфармацыяйне столькі праз складаныя псіхалагічныя тактыкі.
Чат-боты ў кампаніях: эксперыменты ў ЗША, Канадзе, Польшчы і Вялікабрытаніі
Новыя доказы паходзяць з серыі эксперыментаў, скаардынаваных камандамі з Карнельскі ўніверсітэт і Оксфардскі універсітэт, якія праводзяцца падчас рэальных выбарчых працэсаў у Злучаныя Штаты, Канада, Польшча і ВялікабрытаніяВа ўсіх выпадках удзельнікі ведалі, што будуць размаўляць са штучным інтэлектам, але не ведалі пра палітычную арыентацыю прызначанага ім чат-бота.
У працы пад кіраўніцтвам Дэвід Рэнд і апублікаваных у часопісе Nature, тысячы выбаршчыкаў прайшлі кароткія дыялогі з моўнымі мадэлямі, настроенымі на абараняць канкрэтнага кандыдатаНапрыклад, на прэзідэнцкіх выбарах у ЗША ў 2024 годзе 2.306 грамадзян Спачатку яны выказалі сваю перавагу паміж Дональд Трамп y Камала ХарысЗатым іх выпадковым чынам размеркавалі па чат-ботах, якія абаранялі аднаго з іх.
Пасля размовы былі вымераны змены ў стаўленні і намеры галасаваць. Боты, якія спрыялі Харысу, дасягнулі зрух на 3,9 пункта па шкале ад 0 да 100 сярод выбаршчыкаў, якія першапачаткова падтрымлівалі Трампа, уплыў, які аўтары падлічваюць як у чатыры разы вышэй, чым у традыцыйнай перадвыбарчай рэкламы пратэставана ў кампаніях 2016 і 2020 гадоў. Пратрампавая мадэль таксама змяніла пазіцыі, хоць і больш умерана, са зменай у 1,51 пунктаў сярод прыхільнікаў Харыса.
Вынікі ст Канада (З 1.530 удзельнікаў і чат-боты абараняюць Марк Кэрні o П'ер Пуальеўр) і ў Polonia (2.118 чалавек з мадэлямі, якія прасоўвалі Рафал Тшаскоўскі o Караль Наўроцкі) былі яшчэ больш уражлівымі: у гэтых кантэкстах чат-боты змаглі змены ў намерах галасавання да 10 працэнтных пунктаў сярод выбаршчыкаў апазіцыі.
Ключавым аспектам гэтых судовых працэсаў з'яўляецца тое, што, хоць большасць размоў доўжылася ўсяго некалькі хвілін, Частка эфекту працягвалася з цягам часуУ Злучаных Штатах, крыху больш чым праз месяц пасля эксперыменту, значная частка першапачатковага ўздзеяння ўсё яшчэ назіралася, нягледзячы на лавіну перадвыбарчых пасланняў, якія ўдзельнікі атрымлівалі ў гэты перыяд.
Што робіць палітычнага чат-бота пераканаўчым (і чаму гэта спараджае больш памылак)
Даследчыкі хацелі зразумець не толькі тое, ці могуць чат-боты пераконваць, але і як яны гэтага дасягаліЗаканамернасць, якая паўтараецца ў даследаваннях, відавочная: штучны інтэлект мае найбольшы ўплыў, калі Ён выкарыстоўвае шмат аргументаў, заснаваных на фактахнават калі большая частка гэтай інфармацыі не асабліва складаная.
У эксперыментах, каардынаваных Рэнд, найбольш эфектыўнай інструкцыяй для мадэляў было папрасіць іх быць ветлівы, паважлівы і які мог бы прадставіць доказы яго заяў. Ветлівасць і размоўная манера дапамаглі, але галоўным рычагом зменаў было прадстаўленне дадзеных, прыкладаў, лічбаў і пастаянных спасылак на дзяржаўную палітыку, эканоміку ці ахову здароўя.
Калі мадэлям быў абмежаваны доступ да правераных фактаў і даручана пераконваць не звяртаючыся да канкрэтных дадзеныхІх уплыў рэзка знізіўся. Гэты вынік прывёў аўтараў да высновы, што перавага чат-ботаў перад іншымі фарматамі палітычнай прапаганды заключаецца не столькі ў эмацыйнай маніпуляцыі, колькі ў шчыльнасць інфармацыі якія яны могуць разгарнуць усяго за некалькі абаротаў размовы.
Але ў гэтай жа стратэгіі ёсць і адваротны бок: па меры таго, як узрастае ціск на мадэлі, каб яны стваралі усё больш нібыта фактычных сцвярджэнняўПавялічваецца рызыка таго, што ў сістэме скончыцца надзейны матэрыял, і яна пачне «Вынайсці» фактыПроста кажучы, чат-бот запаўняе прабелы дадзенымі, якія гучаць праўдападобна, але не абавязкова правільныя.
Даследаванне, апублікаванае ў часопісе Science, з 76 977 дарослых з Вялікабрытаніі y 19 розных мадэляў (ад невялікіх сістэм з адкрытым зыходным кодам да перадавых камерцыйных мадэляў), гэта сістэматычна пацвярджае: паслятрэнінгу, сканцэнтраванага на перакананні павялічыла здольнасць уплываць да 51%, у той час як простыя змены ў інструкцыях (т. зв. заахвочваннеЯны дадалі яшчэ адзін 27% эфектыўнасці. Адначасова гэтыя паляпшэнні суправаджаліся прыкметным зніжэннем фактычная дакладнасць.
Ідэалагічная асіметрыя і рызыка дэзінфармацыі
Адзін з самых трывожных высноў даследаванняў Карнела і Оксфарда заключаецца ў тым, што дысбаланс паміж пераканаўчасцю і праўдзівасцю размеркаваны нераўнамерна сярод усіх кандыдатаў і пасад. Калі незалежныя фактчэкеры прааналізавалі паведамленні, згенераваныя чат-ботамі, яны выявілі, што Мадэлі, якія падтрымлівалі правых кандыдатаў, рабілі больш памылак чым тыя, хто падтрымліваў прагрэсіўных кандыдатаў.
Паводле слоў аўтараў, гэта асіметрыя Гэта супадае з папярэднімі даследаваннямі, якія Яны паказваюць, што кансерватыўныя карыстальнікі схільныя дзяліцца больш недакладным кантэнтам у сацыяльных сетках, чым карыстальнікі з левымі поглядамі.Паколькі моўныя мадэлі вучацца з велізарнай колькасці інфармацыі, атрыманай з Інтэрнэту, яны, хутчэй за ўсё, адлюстроўваюць частку гэтай прадузятасці, а не ствараюць яе з нуля.
У любым выпадку, наступства аднолькавае: калі чат-боту даюць указанне максымізаваць сваю пераканаўчую сілу на карысць пэўнага ідэалагічнага блока, мадэль, як правіла, павялічыць долю ілжывых заяў, хоць я працягваю змешваць іх з вялікай колькасцю правільных дадзеных. Праблема не толькі ў тым, што можа праслізнуць ілжывая інфармацыя., але Гэта робіцца ў, здавалася б, разумным і добра дакументаваным апавяданні..
Даследчыкі таксама звяртаюць увагу на адзін непрыемны момант: Яны не даказалі, што няправільныя сцвярджэнні па сваёй сутнасці больш пераканаўчыя.Аднак, калі штучны інтэлект падштурхоўваецца да павышэння эфектыўнасці, паралельна расце і колькасць памылак. Іншымі словамі, паляпшэнне пераканаўчай прадукцыйнасці без шкоды для дакладнасці аказваецца тэхнічнай і этычнай праблемай, якая застаецца нявырашанай.
Гэтая заканамернасць асабліва трывожная ў кантэксце высокая палітычная палярызацыя, як у некаторых частках Еўропы і Паўночнай Амерыкі, дзе перавага над перамогай невялікая, і некалькі працэнтных пунктаў могуць вырашыць вынік агульных або прэзідэнцкіх выбараў.
Абмежаванні даследаванняў і сумневы адносна рэальнага ўплыву на выбарчыя ўчасткі
Нягледзячы на тое, што вынікі даследаванняў Nature і Science пераканаўчыя і сыходзяцца ў асноўных высновах, абедзве каманды настойваюць на тым, што Гэта кантраляваныя эксперыменты, а не рэальныя кампаніі.Ёсць некалькі элементаў, якія запрашаюць будзьце асцярожныя пры экстрапаляцыі дадзеных гэтак жа, як выбары на вуліцы.
З аднаго боку, удзельнікі альбо рэгістраваліся добраахвотна, альбо былі набраныя праз платформы, якія прапануюць фінансавую кампенсацыю, што ўводзіць прадузятасці самавыбару і адыходзяць ад разнастайнасці рэальнага электаратуАкрамя таго, яны заўсёды ведалі, што Яны размаўлялі са штучным інтэлектам. і якія былі часткай даследавання, умовы, якія наўрад ці можна было б паўтарыць у звычайнай кампаніі.
Яшчэ адзін важны нюанс заключаецца ў тым, што даследаванні ў першую чаргу вымяралі змены ў стаўленні і заяўленых намерахне фактычна аддадзеныя галасы. Гэта карысныя паказчыкі, але яны не эквівалентныя назіранню за канчатковымі паводзінамі ў дзень выбараў. Фактычна, у эксперыментах у ЗША эфект быў некалькі меншым, чым у Канадзе і Польшчы, што сведчыць аб тым, што палітычны кантэкст і ступень папярэдняй няўпэўненасці аказваюць значны ўплыў.
У выпадку брытанскага даследавання, каардынаванага Кобі Хакенбург Інстытут бяспекі штучнага інтэлекту Вялікабрытаніі таксама мае выразныя абмежаванні: дадзеныя паступаюць толькі з выбаршчыкі Злучанага Каралеўства, усе яны ведалі, што ўдзельнічаюць у акадэмічным даследаванні і з эканамічная кампенсацыяГэта абмяжоўвае яго абагульненне іншымі краінамі ЕС або менш кантраляванымі кантэкстамі.
Тым не менш, маштаб гэтых работ — дзясяткі тысяч удзельнікаў і больш за 700 розных палітычных тэм— і метадалагічная празрыстасць прывялі значную частку акадэмічнай супольнасці да думкі пра тое, што Яны малююць праўдападобны сцэнарВыкарыстанне палітычных чат-ботаў, здольных адносна хутка змяняць меркаванні, — гэта ўжо не футурыстычная гіпотэза, а тэхнічна рэалізаваны сцэнар у будучых кампаніях.
Новы выбарчы гулец для Еўропы і іншых дэмакратый
Акрамя канкрэтных выпадкаў ЗША, Канады, Польшчы і Вялікабрытаніі, высновы маюць прамое значэнне для Еўропа і Іспаніядзе рэгуляванне палітычнай камунікацыі ў сацыяльных сетках і выкарыстанне персанальных дадзеных у кампаніях ужо з'яўляюцца прадметам інтэнсіўных дыскусій. Магчымасць уключэння чат-ботаў, якія падтрымліваюць персаналізаваныя дыялогі з выбаршчыкамі Гэта дадае дадатковы ўзровень складанасці.
Дагэтуль палітычнае перакананне ў асноўным выказвалася праз статычная рэклама, мітынгі, тэлевізійныя дэбаты і сацыяльныя сеткіЗ'яўленне памочнікаў для размоў уводзіць новы элемент: магчымасць падтрымліваць індывідуальныя ўзаемадзеянні, імгненна адаптаваныя да таго, што кажуць грамадзяне ў рэжыме рэальнага часу, і ўсё гэта практычна з мінімальнымі выдаткамі для арганізатараў кампаніі.
Даследчыкі падкрэсліваюць, што галоўнае ўжо не толькі тое, хто кантралюе базу дадзеных выбаршчыкаў, але і тое, хто можа распрацоўваць мадэлі, здольныя рэагаваць на аргументы, удасканальваць іх і паўтараць бесперапынна, з аб'ёмам інфармацыі, які значна перавышае тое, што мог бы апрацаваць валанцёр-чалавек на камутатары або вулічным пошце.
У гэтым кантэксце гучаць такія галасы, як італьянскі эксперт Вальтэр Кватрочыокі Яны настойваюць на тым, што рэгулятарная ўвага павінна зрушыцца з агрэсіўнай персаналізацыі або ідэалагічнай сегментацыі ў бок шчыльнасць інфармацыі якія могуць забяспечыць мадэлі. Даследаванні паказваюць, што пераканаўчасць узмацняецца ў першую чаргу пры памнажэнні дадзеных, а не пры выкарыстанні эмацыйных стратэгій.
La Супадзенне вынікаў даследаванняў Nature і Science выклікала трывогу ў еўрапейскіх арганізацыях занепакоеныя тым, цэласнасць дэмакратычных працэсаўНягледзячы на тое, што Еўрапейскі Саюз дасягае поспехаў у распрацоўцы такіх структур, як Закон аб лічбавых паслугах або будучае спецыяльнае рэгуляванне штучнага інтэлекту, хуткасць, з якой гэтыя мадэлі развіваюцца Гэта патрабуе пастаяннага перагляду механізмаў нагляду, аўдыту і празрыстасці..
Лічбавая пісьменнасць і абарона ад аўтаматызаванага пераканання
Адно з паўтаральных пасланняў у акадэмічных каментарыях, якія суправаджаюць гэтыя працы, заключаецца ў тым, што рэакцыя не можа грунтавацца выключна на забаронах або тэхнічным кантролі. Аўтары згодныя з тым, што будзе неабходна ўмацаваць лічбавая пісьменнасць насельніцтва, каб грамадзяне навучыліся распазнаваць і супраціўляцца перакананням генеруюцца аўтаматычнымі сістэмамі.
Дадатковыя эксперыменты, такія як апублікаваныя ў PNAS NexusЯны мяркуюць, што карыстальнікі, якія найлепш разумеюць, як працуюць мадэлі вялікіх моў, гэта менш уразлівы да яго спробаў уплыву. Веданне таго, што чат-бот можа памыляцца, перабольшваць або запаўняць прабелы здагадкамі, памяншае схільнасць успрымаць яго паведамленні так, быццам яны паходзяць ад непахіснага аўтарытэта.
Адначасова было заўважана, што пераканаўчая эфектыўнасць штучнага інтэлекту залежыць не столькі ад таго, ці верыць суразмоўца ў тое, што ён размаўляе з экспертам-чалавекам, колькі ад таго, якасць і паслядоўнасць аргументаў якія ён атрымлівае. У некаторых тэстах паведамленні чат-бота нават змаглі паменшыць веру ў тэорыі змовынезалежна ад таго, ці думалі ўдзельнікі, што яны размаўляюць з чалавекам ці з машынай.
Гэта сведчыць аб тым, што сама тэхналогія не з'яўляецца шкоднай па сваёй сутнасці: яе можна выкарыстоўваць як для барацьба з дэзінфармацыяй каб распаўсюджваць ягоМяжу праводзяць інструкцыі, дадзеныя мадэлі, дадзеныя, з дапамогай якіх яна навучаецца, і, перш за ўсё, палітычныя ці камерцыйныя мэты тых, хто яе ўводзіць у дзеянне.
Пакуль урады і рэгулятары абмяркоўваюць абмежаванні і патрабаванні да празрыстасці, аўтары гэтых прац настойваюць на адной ідэі: палітычныя чат-боты Яны змогуць аказаць велізарны ўплыў толькі ў тым выпадку, калі грамадскасць пагодзіцца з імі ўзаемадзейнічаць.Такім чынам, публічная дыскусія аб яго выкарыстанні, яго выразнай маркіроўцы і праве не падвяргацца аўтаматызаванаму перакананню стануць цэнтральнымі пытаннямі ў дэмакратычнай дыскусіі ў бліжэйшыя гады.
Карціна, намаляваная даследаваннямі ў часопісе «Nature and Science», паказвае як магчымасці, так і рызыкі: чат-боты са штучным інтэлектам могуць дапамагчы лепш растлумачыць дзяржаўную палітыку і вырашыць складаныя сумневы, але яны таксама могуць мець здольнасць да схіліць шалі выбаршчыкаўасабліва сярод тых, хто не вызначыўся, і робяць яны гэта з відавочная цана з пункту гледжання дакладнасці інфармацыі, калі іх навучаць максымізаваць сваю пераканаўчую сілу, далікатны баланс, які дэмакратыям давядзецца тэрмінова і без наіўнасці вырашаць.
Я энтузіяст тэхналогій, які ператварыў свае інтарэсы "гікаў" у прафесію. Я правёў больш за 10 гадоў свайго жыцця, выкарыстоўваючы перадавыя тэхналогіі і важдаючыся з рознымі праграмамі з чыстай цікаўнасці. Цяпер я спецыялізаваўся на камп'ютарных тэхналогіях і відэагульнях. Гэта таму, што больш за 5 гадоў я працаваў для розных вэб-сайтаў, прысвечаных тэхналогіям і відэагульням, ствараючы артыкулы, якія імкнуцца даць вам неабходную інфармацыю на мове, зразумелай кожнаму.
Калі ў вас ёсць якія-небудзь пытанні, я ведаю ўсё, што звязана з аперацыйнай сістэмай Windows і Android для мабільных тэлефонаў. І я перад вамі абавязаны: я заўсёды гатовы выдаткаваць некалькі хвілін і дапамагчы вам вырашыць любыя пытанні, якія могуць узнікнуць у гэтым свеце Інтэрнэту.