- Две големи студии во „Природа“ и „Наука“ докажуваат дека политичките четботови можат да ги променат ставовите и намерите за гласање во неколку земји.
- Убедувањето се базира првенствено на нудење многу аргументи и податоци, иако го зголемува ризикот од неточни информации.
- Оптимизирањето за влијание го зајакнува ефектот на убедување до 25 поени, но ја намалува вистинитоста на одговорите.
- Наодите отвораат итна дебата во Европа и во останатите демократии за регулативата, транспарентноста и дигиталната писменост.
Нарушувањето на политички чет-ботови Престана да биде технолошка анегдота да стане елемент што почнува да има значење во вистинските изборни кампањи. Разговори од само неколку минути со модели на вештачка интелигенција се доволни за помести ја симпатијата кон кандидатот за неколку поени или конкретен предлог, нешто што до неодамна се поврзуваше само со големи медиумски кампањи или високо координирани собири.
Две далекусежни истражувања, објавени истовремено во Природа y Наука, Тие ставија бројки на нешто за кое веќе се сомневаа.: на Разговорните чет-ботови се способни да ги модифицираат политичките ставови на граѓаните. со извонредна леснотија, дури и кога знаат дека се во интеракција со машина. И тоа го прават, пред сè, преку аргументи полни со информациине толку преку софистицирани психолошки тактики.
Чет-ботови во кампањи: експерименти во САД, Канада, Полска и Велика Британија
Новите докази доаѓаат од серија експерименти координирани од тимови од... Универзитет Корнел и од Универзитет во Оксфорд, спроведени за време на реалните изборни процеси во САД, Канада, Полска и Обединето КралствоВо сите случаи, учесниците знаеја дека ќе разговараат со вештачка интелигенција, но не беа свесни за политичката ориентација на четботот што им беше доделен.
Во работата предводена од Дејвид Ранд и објавено во Nature, илјадници гласачи водеа кратки дијалози со јазични модели конфигурирани да за одбрана на одреден кандидатНа пример, на претседателските избори во САД во 2024 година, 2.306 граѓани Тие прво ја искажаа својата преференција помеѓу Доналд Трамп y Камала ХарисПотоа тие беа случајно доделени на четбот кој бранеше еден од двајцата.
По разговорот, беа измерени промените во ставот и намерата за гласање. Постигнати се ботови кои се во корист на Харис. поместување 3,9 поени на скала од 0 до 100 меѓу гласачите кои првично се согласиле со Трамп, влијание што авторите го пресметуваат како четири пати повисоко од она на конвенционалното изборно рекламирање тестирано во кампањите од 2016 и 2020 година. Моделот на про-Трамп, исто така, ги промени позициите, иако поумерено, со промена во 1,51 поени меѓу поддржувачите на Харис.
Резултатите во Канада (со 1.530 учесници и четботови кои бранат Марк Карни o Пјер Поилиевре) и во Полска (2.118 луѓе, со модели што ги промовираа Рафаш Трјасковски o Карол Навроки) беа уште повпечатливи: во овие контексти, четботовите управуваа промени во намерата за гласање до 10 процентни поени меѓу гласачите на опозицијата.
Клучен аспект на овие испитувања е тоа што, иако повеќето разговори траеја само неколку минути, Дел од ефектот траеше со текот на времетоВо Соединетите Американски Држави, малку повеќе од еден месец по експериментот, сè уште беше забележан значителен дел од почетниот ефект, и покрај лавината од пораки за кампањата што ги добија учесниците во тој период.
Што го прави политичкиот четбот убедлив (и зошто тоа генерира повеќе грешки)
Истражувачите сакаа да разберат не само дали четботовите можат да убедат, туку и како го постигнаа тоаМоделот што се повторува во студиите е јасен: вештачката интелигенција има најголемо влијание кога Користи многу аргументи засновани на фактидури и ако голем дел од тие информации не се особено софистицирани.
Во експериментите координирани од Ранд, најефикасната инструкција за моделите беше да се побара од нив да бидат учтив, почитуван и кој би можел да обезбеди докази на неговите изјави. Љубезноста и разговорливиот тон помогнаа, но главната лост за промена лежеше во нудењето податоци, примери, бројки и постојани упатувања на јавни политики, економија или здравствена заштита.
Кога моделите беа ограничени во нивниот пристап до проверливи факти и им беше наложено да убедат без прибегнување кон конкретни податоциНивната моќ на влијание драстично се намали. Овој резултат ги наведе авторите да заклучат дека предноста на четботовите во однос на другите формати на политичка пропаганда не лежи толку во емоционалната манипулација, колку во густина на информации што можат да ги распоредат само во неколку фази од разговорот.
Но, истата оваа стратегија има и недостаток: како што се зголемува притисокот врз моделите да генерираат сè повеќе наводно фактички тврдењаСе зголемува ризикот системот да остане без сигурен материјал и да почне да „измислуваат“ фактиЕдноставно кажано, четботот ги пополнува празнините со податоци што звучат веродостојно, но не се нужно точни.
Студијата објавена во Science, со 76.977 возрасни лица од Обединетото Кралство y 19 различни модели (од мали системи со отворен код до најсовремени комерцијални модели), систематски го потврдува ова: пост-обука фокусирана на убедување зголемена способност за влијание до 51%, додека едноставните промени во инструкциите (т.н. поттикнувањеТие додадоа уште еден 27% на ефикасност. Во исто време, овие подобрувања беа придружени со забележително намалување на фактичка точност.
Идеолошки асиметрии и ризик од дезинформации
Еден од најзагрижувачките заклучоци од студиите на Корнел и Оксфорд е дека нерамнотежата помеѓу убедливоста и вистинитоста не е рамномерно распределена меѓу сите кандидати и позиции. Кога независните проверувачи на факти ги анализираа пораките генерирани од четботовите, тие открија дека Моделите кои ги поддржуваа десничарските кандидати направија повеќе грешки отколку оние кои ги поддржуваа прогресивните кандидати.
Според авторите, ова асиметрија Тоа се совпаѓа со претходните студии кои Тие покажуваат дека конзервативните корисници имаат тенденција да споделуваат повеќе неточна содржина на социјалните медиуми отколку левоориентираните корисници.Бидејќи јазичните модели учат од огромни количини на информации извлечени од интернет, тие веројатно одразуваат дел од таа пристрасност, наместо да ја создаваат од нула.
Во секој случај, последицата е иста: кога на четбот му е наложено да ја максимизира својата убедлива моќ во корист на одреден идеолошки блок, моделот има тенденција да зголемување на процентот на лажни тврдења, иако продолжувам да ги мешам со многу точни податоци. Проблемот не е само што можат да се протнат лажни информации.но Тоа го прави завиткано во навидум разумна и добро документирана нарација..
Истражувачите, исто така, истакнуваат една непријатна поента: Тие не покажаа дека неточните тврдења се по природа поубедливи.Сепак, кога вештачката интелигенција се притиска да стане сè поефикасна, бројот на грешки расте паралелно. Со други зборови, подобрувањето на убедливите перформанси без компромитирање на точноста се открива како технички и етички предизвик што останува нерешен.
Овој модел е особено загрижувачки во контекст на висока политичка поларизација, како оние што се доживуваат во делови од Европа и Северна Америка, каде што маргините на победа се тесни и неколку процентни поени можат да го одлучат исходот од општите или претседателските избори.
Ограничувања на студиите и сомнежи за вистинското влијание на гласачките кутии
Иако резултатите од „Природа“ и „Наука“ се солидни и се совпаѓаат во нивните главни заклучоци, двата тима инсистираат на тоа дека Ова се контролирани експерименти, а не вистински кампањи.Постојат неколку елементи што ги покануваат претпазливост при екстраполација на податоците исто како избори на улица.
Од една страна, учесниците или се запишаа доброволно или беа регрутирани преку платформи што нудат финансиска компензација, што воведува пристрасности за самоизбор и се оддалечува од разновидноста на вистинскиот електоратПокрај тоа, тие во секое време знаеја дека Тие разговараа со вештачка интелигенција. и кои беа дел од студија, услови што тешко би се повториле во обична кампања.
Друга важна нијанса е тоа што студиите првенствено мереа промени во ставовите и искажаните намерине само фактичкиот даден глас. Ова се корисни индикатори, но не се еквивалентни на набљудувањето на конечното однесување на денот на изборите. Всушност, во експериментите во САД, ефектот беше нешто помал отколку во Канада и Полска, што укажува дека политичкиот контекст и степенот на претходна неодлучност имаат значително влијание.
Во случајот со британската студија координирана од Коби Хакенбург Од британскиот Институт за безбедност на вештачката интелигенција, постојат и јасни ограничувања: податоците доаѓаат само од гласачи на Обединетото Кралство, сите тие свесни дека учествуваат во академска истрага и со финансиска компензацијаОва ја ограничува неговата генерализација на други земји од ЕУ или помалку контролирани контексти.
Сепак, обемот на овие дела - десетици илјади учесници и повеќе од 700 различни политички теми— и методолошката транспарентност доведоа до тоа голем дел од академската заедница да размисли дека Тие сликаат веродостојно сценариоУпотребата на политички четботови способни релативно брзо да ги менуваат мислењата повеќе не е футуристичка хипотеза, туку технички изводливо сценарио во претстојните кампањи.
Нов изборен играч за Европа и другите демократии
Освен специфичните случаи на САД, Канада, Полска и Велика Британија, наодите имаат директни импликации за Европа и Шпанијакаде што регулирањето на политичката комуникација на социјалните медиуми и употребата на лични податоци во кампањите веќе се предмет на интензивна дебата. Можноста за вклучување на чет-ботови кои одржуваат персонализирани дијалози со гласачи Додава дополнителен слој на сложеност.
Досега, политичкото убедување првенствено се артикулираше преку статични реклами, митинзи, телевизиски дебати и социјални медиумиДоаѓањето на разговорните асистенти воведува нов елемент: способноста за одржување интеракции еден-на-еден, прилагодено во лет на она што граѓанинот го кажува во реално време, а сето тоа со практично маргинален трошок за организаторите на кампањата.
Истражувачите нагласуваат дека клучот повеќе не е само кој ја контролира базата на податоци на гласачите, туку кој може развивање модели способни да одговорат на, да ги рафинираат и да ги реплицираат аргументите континуирано, со обем на информации што далеку го надминува она што еден човечки волонтер би можел да го справи на централа или уличен пункт.
Во овој контекст, гласови како оној на италијанскиот експерт Валтер Кватрочиоки Тие инсистираат дека регулаторниот фокус треба да се префрли од агресивна персонализација или идеолошка сегментација кон густина на информации што моделите можат да ги обезбедат. Студиите покажуваат дека убедувањето расте првенствено кога податоците се множат, а не кога се користат емоционални стратегии.
La Совпаѓањето на резултатите помеѓу Природата и Науката предизвика тревога во европските организации загрижен за интегритет на демократските процесиИако Европската Унија напредува со рамки како што се Законот за дигитални услуги или идната специфична регулатива за вештачката интелигенција, брзината со која се развиваат овие модели Тоа бара постојан преглед на механизмите за надзор, ревизија и транспарентност..
Дигитална писменост и одбрана од автоматско убедување
Една од пораките што се повторуваат во академските коментари што ги придружуваат овие дела е дека одговорот не може да се базира само на забрани или технички контроли. Авторите се согласуваат дека ќе биде од суштинско значење да се зајакне дигитална писменост од населението, така што граѓаните ќе научат да препознавање и спротивставување на убедувањето генерирани од автоматски системи.
Комплементарни експерименти, како оние објавени во PNAS NexusТие сугерираат дека корисниците кои најдобро разбираат како функционираат големите јазични модели се помалку ранливи на неговите обиди за влијание. Сознанието дека четботот може да греши, да претерува или да ги пополнува празнините со претпоставки ја намалува тенденцијата неговите пораки да се прифаќаат како да доаѓаат од непогрешлив авторитет.
Во исто време, забележано е дека убедливата ефикасност на вештачката интелигенција не зависи толку од тоа дали соговорникот верува дека разговара со експерт човек, туку од тоа... квалитет и конзистентност на аргументите што ги прима. Во некои тестови, пораките од четботот дури успеаја да намалување на верувањето во теориите на заговор, без оглед на тоа дали учесниците мислеле дека разговараат со личност или со машина.
Ова сугерира дека самата технологија не е по природа штетна: може да се користи и за двете борба против дезинформации како да го ширишЛинијата е повлечена според упатствата дадени на моделот, податоците со кои е обучен и, пред сè, политичките или комерцијалните цели на оние кои го спроведоа во акција.
Додека владите и регулаторите дебатираат за ограничувањата и барањата за транспарентност, авторите на овие дела инсистираат на една идеја: политички чет-ботови Тие ќе можат да извршат огромно влијание само ако јавноста се согласи да комуницира со нив.Оттука, јавната дебата за неговата употреба, неговото јасно етикетирање и правото да не се биде подложен на автоматско убедување ќе станат централни прашања во демократската дискусија во наредните години.
Сликата прикажана од истражувањето во „Природа и наука“ открива и можности и ризици: чет-ботовите со вештачка интелигенција можат да помогнат подобро да се објаснат јавните политики и да се решат сложени сомнежи, но тие исто така можат имаат капацитет да да се помести изборната вагаособено меѓу неопределените гласачи, а тие го прават тоа со очигледна цена во однос на точноста на информациите кога се обучени да ја максимизираат својата моќ на убедување, деликатна рамнотежа на која демократиите ќе мора итно и без наивност да се обратат.
Јас сум технолошки ентузијаст кој своите „гикови“ интереси ги претвори во професија. Поминав повеќе од 10 години од мојот живот користејќи најсовремена технологија и непречено со сите видови програми од чиста љубопитност. Сега сум специјализиран за компјутерска технологија и видео игри. Тоа е затоа што повеќе од 5 години пишувам за различни веб-локации за технологија и видео игри, создавајќи статии кои се обидуваат да ви ги дадат потребните информации на јазик што е разбирлив за секого.
Ако имате прашања, моето знаење се движи од се што е поврзано со оперативниот систем Виндоус како и Андроид за мобилни телефони. И мојата посветеност е кон вас, јас сум секогаш подготвен да потрошам неколку минути и да ви помогнам да ги решите сите прашања што може да ги имате во овој интернет свет.