- Kaksi merkittävää Nature- ja Science-lehdissä julkaistua tutkimusta osoittaa, että poliittiset chatbotit voivat muuttaa asenteita ja äänestysaikomuksia useissa maissa.
- Suostuttelu perustuu ensisijaisesti monien argumenttien ja tiedon esittämiseen, vaikka se lisääkin epätarkan tiedon riskiä.
- Vaikuttamisen optimointi vahvistaa suostutteluvaikutusta jopa 25 pistettä, mutta vähentää vastausten totuudenmukaisuutta.
- Tulokset avaavat kiireellisen keskustelun Euroopassa ja muissa demokratioissa sääntelystä, läpinäkyvyydestä ja digitaalisesta lukutaidosta.
Syntyminen poliittiset chatbotit Se on lakannut olemasta teknologinen anekdootti tullakseen elementiksi, jolla alkaa olla merkitystä oikeissa vaalikampanjoissa. Jo muutaman minuutin keskustelut tekoälymallien kanssa riittävät siirtää sympatiaa ehdokasta kohtaan useilla prosenttiyksiköillä tai konkreettinen ehdotus, mikä viime aikoihin asti yhdistettiin vain suuriin mediakampanjoihin tai tarkasti koordinoituihin mielenosoituksiin.
Kaksi laaja-alaista tutkimusta, jotka julkaistiin samanaikaisesti luonto y tiede, He ovat laskeneet asioita, joita jo epäiltiin.: Keskustelubotit pystyvät muuttamaan kansalaisten poliittisia asenteita. huomattavan helposti, jopa silloin kun he tietävät olevansa vuorovaikutuksessa koneen kanssa. Ja he tekevät niin ennen kaikkea tietoa täynnä olevat argumentitei niinkään hienostuneiden psykologisten taktiikoiden avulla.
Chatbotit kampanjoissa: kokeiluja Yhdysvalloissa, Kanadassa, Puolassa ja Isossa-Britanniassa
Uusi näyttö on peräisin sarjasta kokeita, joita koordinoivat tiimit seuraavista aiheista: Cornellin yliopisto ja Oxfordin yliopisto, jotka toteutettiin varsinaisten vaaliprosessien aikana Yhdysvallat, Kanada, Puola ja Yhdistynyt kuningaskuntaKaikissa tapauksissa osallistujat tiesivät puhuvansa tekoälyn kanssa, mutta he eivät olleet tietoisia heille osoitetun chatbotin poliittisesta suuntautumisesta.
Työssä, jota johti David Rand ja julkaistu Nature-lehdessä, tuhannet äänestäjät kävivät lyhyitä dialogeja kielimallien avulla, jotka oli konfiguroitu puolustaa tiettyä ehdokastaEsimerkiksi vuoden 2024 Yhdysvaltain presidentinvaaleissa 2.306 kansalaista He ilmoittivat ensin mieltymyksensä seuraavien välillä: Donald Trump y Kamala HarrisSitten heidät määrättiin satunnaisesti chatbotille, joka puolusti toista kahdesta.
Keskustelun jälkeen mitattiin asenteiden ja äänestysaikomusten muutoksia. Harrisia suosivat botit saavuttivat muutos 3,9 pistettä asteikolla 0–100 äänestäjien keskuudessa, jotka alun perin olivat Trumpin kannalla, ja kirjoittajat laskevat tämän vaikutuksen seuraavasti: neljä kertaa enemmän kuin perinteisessä vaalimainonnassa testattu vuoden 2016 ja 2020 kampanjoissa. Myös Trumpia tukeva malli muutti asemiaan, vaikkakin maltillisemmin, ja 1,51 pistettä Harrisin kannattajien keskuudessa.
Tulokset sisään Kanada (jossa 1.530 osallistujaa ja chatbottien puolustautuminen Mark Carney o Pierre Poilievre) ja sisään Polonia (2 118 ihmistä, joiden mallit mainostivat Rafał Trzaskowski o Karol Nawrocki) olivat vieläkin silmiinpistävämpiä: näissä yhteyksissä chatbotit onnistuivat äänestysaikomuksen muutokset jopa 10 prosenttiyksikköä oppositioäänestäjien keskuudessa.
Näiden kokeiden keskeinen piirre on se, että vaikka useimmat keskustelut kestivät vain muutaman minuutin, Osa vaikutuksesta kesti ajan kuluessaYhdysvalloissa hieman yli kuukausi kokeilun jälkeen merkittävä osa alkuperäisestä vaikutuksesta havaittiin edelleen, huolimatta osallistujien tuona aikana saamista kampanjaviesteistä.
Mikä tekee poliittisesta chatbotista vakuuttavan (ja miksi se tuottaa enemmän virheitä)
Tutkijat halusivat ymmärtää paitsi pystyivätkö chatbotit suostuttelemaan, myös miten he sen saavuttivatTutkimuksissa toistuva kaava on selvä: tekoälyllä on suurin vaikutusvalta, kun Se käyttää monia tosiasioihin perustuvia argumenttejavaikka suuri osa noista tiedoista ei olisikaan erityisen hienostunutta.
Randin koordinoimissa kokeissa tehokkain ohje malleille oli pyytää niitä olemaan kohtelias, kunnioittava ja joka pystyisi esittämään todisteita hänen lausunnoistaan. Kohteliaisuus ja keskusteleva sävy auttoivat, mutta tärkein muutoksen vipuvarsi oli datan, esimerkkien, lukujen ja jatkuvien viittausten tarjoaminen julkiseen politiikkaan, talouteen tai terveydenhuoltoon.
Kun mallien pääsyä todennettaviin faktoihin rajoitettiin ja heitä ohjeistettiin suostuttelemaan turvautumatta konkreettisiin tietoihinNiiden vaikutusvalta laski rajusti. Tämä tulos johti kirjoittajat siihen johtopäätökseen, että chatbottien etu muihin poliittisen propagandan muotoihin verrattuna ei niinkään ole emotionaalisessa manipuloinnissa kuin siinä, että tiedon tiheys jonka he voivat ottaa käyttöön vain muutamassa keskustelukierroksessa.
Mutta samalla strategialla on haittapuolensa: kun mallien paine tuottaa lisää yhä enemmän väitteitä, joiden mukaan ne ovat tosiasioitaRiski kasvaa, että järjestelmästä loppuu luotettava materiaali ja se alkaa jumiutua "keksi" faktojaYksinkertaisesti sanottuna chatbot täyttää aukot tiedoilla, jotka kuulostavat uskottavilta, mutta eivät välttämättä ole oikein.
Science-lehdessä julkaistu tutkimus, jossa mm. 76 977 aikuista Yhdistyneestä kuningaskunnasta y 19 eri mallia (pienistä avoimen lähdekoodin järjestelmistä huippuluokan kaupallisiin malleihin) se vahvistaa tämän systemaattisesti: vakuuttamiseen keskittyvä jälkikoulutus lisännyt vaikutusvaltaansa jopa 51%, kun taas yksinkertaiset muutokset ohjeissa (ns. suostutteluHe lisäsivät toisen 27% tehokkuutta. Samaan aikaan näihin parannuksiin liittyi huomattava lasku tosiasioiden tarkkuus.
Ideologiset epäsymmetriat ja disinformaation riski
Yksi Cornellin ja Oxfordin tutkimusten huolestuttavimmista johtopäätöksistä on, että vakuuttavuuden ja totuudenmukaisuuden välinen epätasapaino ei jakaudu tasaisesti kaikkien ehdokkaiden ja virkojen kesken. Kun riippumattomat faktantarkistajat analysoivat chatbottien tuottamia viestejä, he havaitsivat, että Oikeistolaisia ehdokkaita kannattaneet mallit tekivät enemmän virheitä kuin ne, jotka tukivat edistyksellisiä ehdokkaita.
Kirjoittajien mukaan tämä epäsymmetria Se on yhdenmukainen aiempien tutkimusten kanssa, jotka Ne osoittavat, että konservatiiviset käyttäjät jakavat sosiaalisessa mediassa enemmän epätarkkaa sisältöä kuin vasemmistolaiset käyttäjät.Koska kielimallit oppivat valtavista määristä internetistä poimittua tietoa, ne todennäköisesti heijastavat osaa tästä vinoumasta sen sijaan, että loisivat sen tyhjästä.
Joka tapauksessa seuraus on sama: kun chatbotille annetaan ohje maksimoida suostutteluvoimansa tietyn ideologisen blokin hyväksi, malli pyrkii lisätä harhaanjohtavien väitteiden osuutta, vaikka sekoitankin niitä edelleen paljon oikeaan dataan. Ongelma ei ole vain se, että väärää tietoa voi päästä läpi.mutta Se tekee niin näennäisen järkevään ja hyvin dokumentoituun kertomukseen käärittynä..
Tutkijat nostavat esiin myös epämiellyttävän asian: He eivät ole osoittaneet, että epätarkat väitteet ovat luonnostaan vakuuttavampia.Kuitenkin, kun tekoälyä pyritään tehostamaan, virheiden määrä kasvaa samaan tahtiin. Toisin sanoen vakuuttavan suorituskyvyn parantaminen tarkkuutta vaarantamatta paljastuu ratkaisemattomana teknisenä ja eettisenä haasteena.
Tämä kaava on erityisen huolestuttava tilanteissa, joissa voimakas poliittinen polarisaatio, kuten ne, joita on koettu osissa Eurooppaa ja Pohjois-Amerikkaa, joissa voittomarginaalit ovat pienet ja kourallinen prosenttiyksiköitä voi ratkaista yleisten tai presidentinvaalien tuloksen.
Tutkimusten rajoitukset ja epäilykset todellisesta vaikutuksesta äänestyspaikalla
Vaikka Nature- ja Science-lehtien tulokset ovat vankkoja ja pääjohtopäätökset ovat yhtäpitäviä, molemmat tiimit väittävät, että Nämä ovat kontrolloituja kokeita, eivät oikeita kampanjoita.On useita tekijöitä, jotka kutsuvat varovaisuutta datan ekstrapoloinnissa aivan kuin vaalit kadulla.
Yhtäältä osallistujat joko ilmoittautuivat vapaaehtoisesti tai heidät rekrytoitiin taloudellista korvausta tarjoavien alustojen kautta, mikä tuo mukanaan itsevalintaharhoja ja se siirtyy pois todellisen äänestäjäkunnan monimuotoisuudestaLisäksi he tiesivät koko ajan, että He puhuivat tekoälyn kanssa. ja jotka olivat osa tutkimusta, olosuhteita, jotka tuskin toistuisivat tavallisessa kampanjassa.
Toinen tärkeä vivahde on, että tutkimukset mittasivat ensisijaisesti asenteiden ja ilmaistujen aikomusten muutoksetei varsinaista annettua ääntä. Nämä ovat hyödyllisiä indikaattoreita, mutta ne eivät vastaa vaalipäivän lopullisen käyttäytymisen tarkkailua. Itse asiassa Yhdysvaltojen kokeissa vaikutus oli jonkin verran pienempi kuin Kanadassa ja Puolassa, mikä viittaa siihen, että poliittisella kontekstilla ja aiemmalla päättämättömyyden asteella on merkittävä vaikutus.
Brittiläisen tutkimuksen tapauksessa, jota koordinoi Kobi Hackenburg Ison-Britannian tekoälyn turvallisuusinstituutilta on myös selkeät rajoitukset: tiedot tulevat vain Yhdistyneen kuningaskunnan äänestäjät, kaikki heistä tietoisia siitä, että he osallistuivat akateemiseen tutkimukseen ja taloudellinen korvausTämä rajoittaa sen yleistettävyyttä muihin EU-maihin tai vähemmän kontrolloituihin tilanteisiin.
Näiden töiden laajuus – kymmeniä tuhansia osallistujia ja yli 700 erilaista poliittista aihetta— ja metodologinen läpinäkyvyys ovat saaneet suuren osan akateemisesta yhteisöstä harkitsemaan, että He maalaavat uskottavan skenaarionMielipiteitä suhteellisen nopeasti muuttavien poliittisten chatbottien käyttö ei ole enää futuristinen hypoteesi, vaan teknisesti toteuttamiskelpoinen skenaario tulevissa kampanjoissa.
Uusi vaalitoimija Euroopalle ja muille demokratioille
Yhdysvaltojen, Kanadan, Puolan ja Yhdistyneen kuningaskunnan erityistapausten lisäksi löydöksillä on suoria vaikutuksia Eurooppa ja Espanjajossa sosiaalisen median poliittisen viestinnän sääntely ja henkilötietojen käyttö kampanjoissa ovat jo kiivaan keskustelun kohteena. Mahdollisuus ottaa käyttöön chatbotteja, jotka ylläpitävät henkilökohtaisia keskusteluja äänestäjien kanssa Se lisää ylimääräisen monimutkaisuuskerroksen.
Tähän asti poliittinen vaikuttaminen on pääasiassa tapahtunut mm. staattiset mainokset, mielenosoitukset, televisioidut väittelyt ja sosiaalinen mediaKeskusteluavustajien tulo tuo mukanaan uuden elementin: kyvyn ylläpitää kahdenkeskiset vuorovaikutukset, mukautuu lennossa kansalaisten reaaliaikaiseen puheeseen, ja kaikki tämä käytännössä marginaalisilla kustannuksilla kampanjan järjestäjille.
Tutkijat korostavat, että avainasemassa ei ole enää vain se, kuka hallitsee äänestäjätietokantaa, vaan se, kuka voi kehittää malleja, jotka kykenevät vastaamaan argumentteihin, jalostamaan niitä ja toistamaan niitä jatkuvasti, ja tietomäärä ylittää reilusti sen, mitä vapaaehtoinen ihminen pystyisi käsittelemään puhelinvaihteessa tai katupylväässä.
Tässä yhteydessä italialaisen asiantuntijan kaltaiset äänet Walter Quattrociocchi He vaativat, että sääntelyn painopisteen tulisi siirtyä aggressiivisesta personoinnista tai ideologisesta segmentoinnista kohti tiedon tiheys joita mallit voivat tarjota. Tutkimukset osoittavat, että suostuttelu kasvaa ensisijaisesti datan moninkertaistamisen myötä, ei tunnepohjaisten strategioiden käytön myötä.
La Luonnon ja tieteen tulosten yhteensattuma on herättänyt huolta eurooppalaisissa organisaatioissa huolissaan siitä, demokraattisten prosessien eheysVaikka Euroopan unioni edistyy digitaalisten palveluiden lainsäädännön tai tulevan tekoälyn erityissääntelyn kaltaisten puitteiden kanssa, näiden mallien kehityksen nopeus Se edellyttää valvonta-, tarkastus- ja läpinäkyvyysmekanismien jatkuvaa tarkastelua..
Digitaalinen lukutaito ja puolustautuminen automaattista suostuttelua vastaan
Yksi näitä teoksia seuraavissa akateemisissa kommenteissa toistuva viesti on, että vastaus ei voi perustua pelkästään kieltoihin tai teknisiin valvontatoimiin. Kirjoittajat ovat yhtä mieltä siitä, että on tärkeää vahvistaa digitaalinen lukutaito väestöstä, jotta kansalaiset oppisivat tunnista ja vastusta suostuttelua automaattisten järjestelmien tuottamia.
Täydentävät kokeet, kuten ne, jotka on julkaistu julkaisussa PNAS NexusHe ehdottavat, että käyttäjät, jotka parhaiten ymmärtävät, miten suuret kielimallit toimivat, ovat vähemmän haavoittuva sen vaikutusyrityksiin. Tieto siitä, että chatbot voi olla väärässä, liioitella tai täyttää aukot arvailulla, vähentää taipumusta hyväksyä sen viestejä ikään kuin ne tulisivat erehtymättömältä auktoriteetilta.
Samaan aikaan on havaittu, että tekoälyn vakuuttava tehokkuus ei niinkään riipu siitä, uskooko keskustelukumppani puhuvansa asiantuntijan kanssa, vaan siitä, argumenttien laatu ja johdonmukaisuus jonka se vastaanottaa. Joissakin testeissä chatbotin viestit jopa onnistuivat vähentää uskoa salaliittoteorioihinriippumatta siitä, luulivatko osallistujat keskustelevansa ihmisen vai koneen kanssa.
Tämä viittaa siihen, että teknologia itsessään ei ole luonnostaan haitallista: sitä voidaan käyttää sekä torjua väärää tietoa levittääkseen sitäRajaa vetävät mallille annetut ohjeet, data, jolla sitä koulutetaan, ja ennen kaikkea sen toteuttajien poliittiset tai kaupalliset tavoitteet.
Vaikka hallitukset ja sääntelyviranomaiset keskustelevat läpinäkyvyysrajoituksista ja -vaatimuksista, näiden teosten kirjoittajat pitävät kiinni yhdestä ajatuksesta: poliittiset chatbotit He pystyvät vaikuttamaan merkittävästi vain, jos yleisö suostuu olemaan heidän kanssaan vuorovaikutuksessa.Näin ollen julkinen keskustelu sen käytöstä, selkeästä merkitsemisestä ja oikeudesta olla joutumatta automatisoidun suostuttelun kohteeksi tulee olemaan keskeisiä kysymyksiä demokraattisessa keskustelussa tulevina vuosina.
Nature and Science -lehden tutkimuksen maalaama kuva paljastaa sekä mahdollisuuksia että riskejä: tekoälychatbotit voivat auttaa selittämään paremmin julkista politiikkaa ja ratkaisemaan monimutkaisia epäilyksiä, mutta ne voivat myös on kykyä kallistaa vaakakuppiaetenkin päättämättömien äänestäjien keskuudessa, ja he tekevät niin ilmeinen hinta tiedon tarkkuuden suhteen, kun heidät koulutetaan maksimoimaan vakuuttava voimansa, herkkä tasapaino, johon demokratioiden on puututtava kiireellisesti ja ilman naiiviutta.
Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.
Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.