Ako sa politickí chatboti učia ovplyvňovať hlasovanie

Vznik politickí chatboti Prestalo to byť technologickou anekdotou stať sa prvkom, ktorý začína byť dôležitý v skutočných volebných kampaniach. Stačia len párminútové rozhovory s modelmi umelej inteligencie posunúť sympatie smerom ku kandidátovi o niekoľko bodov alebo konkrétny návrh, niečo, čo sa donedávna spájalo len s rozsiahlymi mediálnymi kampaňami či vysoko koordinovanými zhromaždeniami.

Dva rozsiahle výskumy, publikované súčasne v príroda y veda, Priradili čísla k niečomu, čo už bolo podozrivé.: Konverzačné chatboty sú schopné meniť politické postoje občanov. s pozoruhodnou ľahkosťou, aj keď vedia, že interagujú so strojom. A robia to predovšetkým prostredníctvom argumenty plné informáciínie až tak prostredníctvom sofistikovaných psychologických taktík.

Chatboty v kampaniach: experimenty v USA, Kanade, Poľsku a Spojenom kráľovstve

Nové dôkazy pochádzajú zo série experimentov koordinovaných tímami z Cornell University a Oxfordská univerzita, vykonávané počas skutočných volebných procesov v Spojené štáty, Kanada, Poľsko a Spojené kráľovstvoVo všetkých prípadoch účastníci vedeli, že budú hovoriť s umelou inteligenciou, ale nevedeli o politickej orientácii chatbota, ktorý im bol pridelený.

V práci vedenej David Rand a publikovaných v časopise Nature, tisíce voličov absolvovali krátke dialógy s jazykovými modelmi nakonfigurovanými tak, aby obhajovať konkrétneho kandidátaNapríklad v prezidentských voľbách v USA v roku 2024 2.306 XNUMX občanov Najprv naznačili svoju preferenciu medzi Donald Trump y Kamala HarrisNásledne boli náhodne pridelení chatbotovi, ktorý jedného z nich obhajoval.

Po rozhovore sa merali zmeny v postojoch a zámere voliť. Boti priaznivo naklonení Harrisovi dosiahli posun o 3,9 bodu na stupnici od 0 do 100 medzi voličmi, ktorí pôvodne podporovali Trumpa, pričom tento vplyv autori vypočítali ako štyrikrát vyššia ako v prípade konvenčnej volebnej reklamy testované v kampaniach v rokoch 2016 a 2020. Protrumpovský model tiež zmenil postoje, aj keď miernejšie, so zmenou v 1,51 bodov medzi Harrisovými podporovateľmi.

Výsledky v Kanada (s Účastníci 1.530 a chatboty brániace mark Carney o Pierre Poilievre) a v polónia (2 118 ľudí s modelkami, ktoré propagovali Rafal Trzaskowski o Karol Nawrocki) boli ešte výraznejšie: v týchto kontextoch sa chatbotom podarilo zmeny v úmysle voliť až o 10 percentuálnych bodov medzi voličmi opozície.

Kľúčovým aspektom týchto súdnych procesov je, že hoci väčšina rozhovorov trvala len niekoľko minút, Časť účinku pretrvávala v priebehu časuV Spojených štátoch, niečo vyše mesiaca po experimente, bola stále pozorovaná významná časť počiatočného dopadu, a to aj napriek lavíne kampaňových posolstiev, ktoré účastníci počas tohto obdobia dostávali.

Čo robí politického chatbota presvedčivým (a prečo to generuje viac chýb)

Výskumníci chceli pochopiť nielen to, či chatboti dokážu presviedčať, ale ako to dosiahliVzor, ktorý sa v štúdiách opakuje, je jasný: umelá inteligencia má najväčší vplyv, keď Používa veľa argumentov založených na faktochaj keď väčšina z týchto informácií nie je nijako zvlášť sofistikovaná.

V experimentoch koordinovaných Randovou bola najúčinnejšou inštrukciou pre modely požiadať ich, aby boli zdvorilý, úctivý a ktorý by mohol poskytnúť dôkazy jeho vyhlásení. Zdvorilosť a konverzačný tón pomohli, ale hlavnou pákou zmeny bolo ponúkanie údajov, príkladov, čísel a neustálych odkazov na verejné politiky, ekonomiku alebo zdravotnú starostlivosť.

Keď mali modely obmedzený prístup k overiteľným faktom a boli poučené, aby presviedčali bez použitia konkrétnych údajovIch vplyv drasticky klesol. Tento výsledok viedol autorov k záveru, že výhoda chatbotov oproti iným formátom politickej propagandy nespočíva ani tak v emocionálnej manipulácii, ako skôr v... informačná hustota ktoré môžu nasadiť len v niekoľkých konverzačných krokoch.

Táto stratégia má však aj svoju nevýhodu: keďže sa zvyšuje tlak na modely, aby generovali čoraz viac údajne faktických tvrdeníZvyšuje sa riziko, že systému dôjde spoľahlivý materiál a začne „vymýšľať si“ faktyJednoducho povedané, chatbot vyplní medzery údajmi, ktoré znejú vierohodne, ale nemusia byť nevyhnutne správne.

Štúdia publikovaná v časopise Science, s 76 977 dospelých zo Spojeného kráľovstva y 19 rôzne modely (od malých systémov s otvoreným zdrojovým kódom až po špičkové komerčné modely), systematicky to potvrdzuje: post-tréning zameraný na presviedčanie zvýšila schopnosť ovplyvňovať až 51%, zatiaľ čo jednoduché zmeny v pokynoch (tzv. pobádaťPridali ďalší 27% efektívnosti. Zároveň tieto zlepšenia sprevádzalo citeľné zníženie faktická presnosť.

Ideologické asymetrie a riziko dezinformácií

Jedným z najznepokojujúcejších záverov štúdií Cornellu a Oxfordu je, že nerovnováha medzi presvedčivosťou a pravdivosťou nie je rovnomerne rozložená medzi všetkými kandidátmi a pozíciami. Keď nezávislí overovatelia faktov analyzovali správy generované chatbotmi, zistili, že Modelky, ktoré podporovali pravicových kandidátov, urobili viac chýb než tí, ktorí podporovali progresívnych kandidátov.

Podľa autorov toto asymetria Zhoduje sa to s predchádzajúcimi štúdiami, ktoré Ukazujú, že konzervatívni používatelia majú tendenciu zdieľať na sociálnych sieťach viac nepresného obsahu ako ľavicovo orientovaní používatelia.Keďže jazykové modely sa učia z obrovského množstva informácií získaných z internetu, pravdepodobne skôr odrážajú časť tejto skreslenosti, než aby ju vytvárali od základov.

V každom prípade je dôsledok rovnaký: keď je chatbot inštruovaný, aby maximalizoval svoju presviedčaciu silu v prospech konkrétneho ideologického bloku, model má tendenciu zvýšiť podiel zavádzajúcich tvrdení, hoci ich naďalej miešam s množstvom správnych údajov. Problém nie je len v tom, že sa môžu prešmyknúť falošné informácie.ale Robí to zabalené v zdanlivo rozumnom a dobre zdokumentovanom príbehu.

Výskumníci tiež zdôrazňujú nepríjemný bod: Nepreukázali, že nepresné tvrdenia sú vo svojej podstate presvedčivejšie.Keď je však umelá inteligencia tlačená na to, aby sa stala čoraz efektívnejšou, počet chýb s tým súbežne rastie. Inými slovami, zlepšenie presvedčovacieho výkonu bez kompromisov v presnosti sa ukazuje ako technická a etická výzva, ktorá zostáva nevyriešená.

Tento vzorec je obzvlášť znepokojujúci v kontextoch vysoká politická polarizácia, ako sú tie, ktoré sa vyskytujú v niektorých častiach Európy a Severnej Ameriky, kde sú rozdiely v víťazstve tesné a o výsledku všeobecných alebo prezidentských volieb môže rozhodnúť hŕstka percentuálnych bodov.

Obmedzenia štúdií a pochybnosti o skutočnom vplyve na volebné urny

Hoci sú výsledky z Nature a Science solídne a zhodujú sa vo svojich hlavných záveroch, oba tímy trvajú na tom, že Ide o kontrolované experimenty, nie o skutočné kampane.Existuje niekoľko prvkov, ktoré pozývajú opatrnosť pri extrapolácii údajov rovnako ako voľby na ulici.

Na jednej strane sa účastníci buď zaregistrovali dobrovoľne, alebo boli naverbovaní prostredníctvom platforiem, ktoré ponúkajú finančnú kompenzáciu, čo zavádza predsudky založené na samovoľbe a odkláňa sa od rozmanitosti skutočných voličovNavyše, vždy vedeli, že Rozprávali sa s umelou inteligenciou. a ktoré boli súčasťou štúdie, podmienky, ktoré by sa v bežnej kampani len ťažko zopakovali.

Ďalším dôležitým detailom je, že štúdie merali predovšetkým zmeny postojov a deklarovaných zámerovnie skutočný počet odovzdaných hlasov. Sú to užitočné ukazovatele, ale nie sú rovnocenné pozorovaniu konečného správania v deň volieb. V skutočnosti bol v amerických experimentoch účinok o niečo menší ako v Kanade a Poľsku, čo naznačuje, že politický kontext a miera predchádzajúcej nerozhodnosti majú významný vplyv.

V prípade britskej štúdie koordinovanej Kobi Hackenburg Britský Inštitút pre bezpečnosť umelej inteligencie tiež stanovil jasné obmedzenia: údaje pochádzajú iba z voliči Spojeného kráľovstva, všetci si boli vedomí toho, že sa zúčastňujú akademického výskumu a s ekonomická kompenzáciaTo obmedzuje jeho zovšeobecnenie na iné krajiny EÚ alebo menej kontrolované kontexty.

Napriek tomu rozsah týchto prác – desiatky tisíc účastníkov a viac ako 700 rôznych politických tém— a metodologická transparentnosť viedli veľkú časť akademickej obce k úvahe, že Maľujú pravdepodobný scenárPoužívanie politických chatbotov schopných relatívne rýchlo meniť názory už nie je futuristickou hypotézou, ale technicky uskutočniteľným scenárom v nadchádzajúcich kampaniach.

Nový volebný hráč pre Európu a ďalšie demokracie

Okrem konkrétnych prípadov USA, Kanady, Poľska a Spojeného kráľovstva majú zistenia priame dôsledky pre Európy a Španielskakde regulácia politickej komunikácie na sociálnych sieťach a používanie osobných údajov v kampaniach sú už predmetom intenzívnej diskusie. Možnosť začlenenia chatbotov, ktorí udržiavajú personalizované dialógy s voličmi Pridáva to ďalšiu vrstvu zložitosti.

Doteraz sa politické presviedčanie prejavovalo predovšetkým prostredníctvom statické reklamy, zhromaždenia, televízne debaty a sociálne médiáPríchod konverzačných asistentov prináša nový prvok: schopnosť udržiavať interakcie jeden na jedného, prispôsobované za pochodu tomu, čo občan hovorí v reálnom čase, a to všetko za prakticky zanedbateľné náklady pre organizátorov kampane.

Výskumníci zdôrazňujú, že kľúčom už nie je len to, kto kontroluje databázu voličov, ale kto to môže... vyvíjať modely schopné reagovať na argumenty, spresňovať ich a replikovať ich nepretržite, s objemom informácií, ktorý ďaleko prevyšuje to, čo by ľudský dobrovoľník dokázal spracovať na ústredni alebo na pouličnom stĺpe.

V tejto súvislosti sa vyskytujú hlasy ako napríklad hlas talianskeho experta Walter Quattrociocchi Trvajú na tom, že regulačné zameranie by sa malo presunúť z agresívnej personalizácie alebo ideologickej segmentácie smerom k informačná hustota ktoré modely dokážu poskytnúť. Štúdie ukazujú, že presviedčanie rastie predovšetkým vtedy, keď sa znásobujú údaje, nie keď sa používajú emocionálne stratégie.

La Zhoda výsledkov medzi Nature a Science vyvolala poplach v európskych organizáciách znepokojený tým, integrita demokratických procesovHoci Európska únia dosahuje pokroky s rámcami, ako je zákon o digitálnych službách alebo budúca špecifická regulácia umelej inteligencie, rýchlosť, akou sa tieto modely vyvíjajú Vyžaduje si to neustále preskúmanie mechanizmov dohľadu, auditu a transparentnosti..

Digitálna gramotnosť a obrana proti automatizovanému presviedčaniu

Jedným z opakujúcich sa posolstiev v akademických komentároch sprevádzajúcich tieto práce je, že reakcia nemôže byť založená výlučne na zákazoch alebo technických kontrolách. Autori sa zhodujú, že bude nevyhnutné posilniť digitálna gramotnosť obyvateľstva, aby sa občania naučili rozpoznať a odolať presviedčaniu generované automatickými systémami.

Doplnkové experimenty, ako napríklad tie publikované v PNAS NexusNaznačujú, že používatelia, ktorí najlepšie rozumejú fungovaniu rozsiahlych jazykových modelov, sú menej zraniteľné k jeho pokusom o ovplyvňovanie. Vedomie, že chatbot sa môže mýliť, preháňať alebo vypĺňať medzery dohadmi, znižuje tendenciu akceptovať jeho správy, akoby pochádzali od neomylnej autority.

Zároveň sa zistilo, že presvedčivá účinnosť umelej inteligencie nezávisí ani tak od toho, či si partner myslí, že hovorí s odborníkom, ale skôr od toho, či... kvalita a konzistentnosť argumentov ktoré prijíma. V niektorých testoch sa správam chatbota dokonca podarilo znížiť vieru v konšpiračné teórie, bez ohľadu na to, či si účastníci mysleli, že sa rozprávajú s osobou alebo so strojom.

To naznačuje, že samotná technológia nie je vo svojej podstate škodlivá: možno ju použiť na oboje bojovať proti dezinformáciám ako ho šíriťHranicu určujú inštrukcie zadané modelu, údaje, s ktorými je trénovaný, a predovšetkým politické alebo obchodné ciele tých, ktorí ho uvádzajú do praxe.

Zatiaľ čo vlády a regulačné orgány diskutujú o limitoch a požiadavkách na transparentnosť, autori týchto prác trvajú na jednej myšlienke: politickí chatboti Budú môcť mať obrovský vplyv iba vtedy, ak verejnosť bude súhlasiť s interakciou s nimi.Verejná diskusia o jeho používaní, jeho jasnom označovaní a práve nebyť vystavený automatizovanému presviedčaniu sa preto v nasledujúcich rokoch stanú ústrednými témami demokratickej diskusie.

Výskum v časopise Nature and Science odhaľuje príležitosti aj riziká: chatboti s umelou inteligenciou môžu pomôcť lepšie vysvetliť verejné politiky a vyriešiť zložité pochybnosti, ale môžu tiež mať na to kapacitu prevrátiť volebné váhynajmä medzi nerozhodnutými voličmi, a robia tak s zjavná cena z hľadiska presnosti informácií, keď sú vyškolení na maximalizáciu svojej presvedčovacej sily, krehká rovnováha, ktorú budú musieť demokracie urýchlene a bez naivity riešiť.

Súvisiaci článok:

Kalifornia schvaľuje zákon SB 243 na reguláciu chatbotov s umelou inteligenciou a ochranu maloletých

Alberto navarro

Som technologický nadšenec, ktorý zo svojich „geekovských“ záujmov urobil povolanie. Strávil som viac ako 10 rokov svojho života používaním špičkových technológií a hraním so všetkými druhmi programov z čistej zvedavosti. Teraz som sa špecializoval na počítačovú techniku ​​a videohry. Je to preto, že už viac ako 5 rokov píšem pre rôzne webové stránky o technológiách a videohrách a vytváram články, ktoré sa snažia poskytnúť vám potrebné informácie v jazyku, ktorý je zrozumiteľný pre každého.

Ak máte nejaké otázky, moje znalosti siahajú od všetkého, čo súvisí s operačným systémom Windows, ako aj Androidom pre mobilné telefóny. A môj záväzok je voči vám, vždy som ochotný venovať pár minút a pomôcť vám vyriešiť akékoľvek otázky, ktoré môžete mať v tomto internetovom svete.