- Két jelentős tanulmány is bizonyítja a Nature és a Science folyóiratokban, hogy a politikai chatbotok számos országban képesek megváltoztatni a hozzáállást és a szavazási szándékot.
- A meggyőzés elsősorban számos érv és adat felkínálásán alapul, bár növeli a pontatlan információk kockázatát.
- A befolyásolás optimalizálása akár 25 ponttal is erősíti a meggyőző hatást, de csökkenti a válaszok igazságtartalmát.
- A megállapítások sürgető vitát nyitnak Európában és a többi demokráciában a szabályozásról, az átláthatóságról és a digitális írástudásról.
A megjelenése politikai chatbotok Már nem technológiai anekdota hogy olyan elemmé váljon, amely kezd számítani a valódi választási kampányokban. Mindössze néhány perces beszélgetések mesterséges intelligencia modellekkel elegendőek ahhoz, hogy több ponttal eltolja a szimpátiát egy jelölt iránt vagy egy konkrét javaslat, ami egészen a közelmúltig csak nagyszabású médiakampányokhoz vagy szorosan összehangolt gyűlésekhez kapcsolódott.
Két nagy horderejű vizsgálat, melyeket egyidejűleg tettek közzé a ... Természet y Tudomány, Számokat adtak valamihez, ami már korábban is gyanítható volt.: a A beszélgetős chatbotok képesek megváltoztatni a polgárok politikai attitűdjeit. figyelemre méltó könnyedséggel, még akkor is, ha tudják, hogy egy géppel kommunikálnak. És ezt mindenekelőtt a következők révén teszik: információkkal teli érveknem annyira kifinomult pszichológiai taktikák révén.
Chatbotok kampányokban: kísérletek az Egyesült Államokban, Kanadában, Lengyelországban és az Egyesült Királyságban
Az új bizonyítékok a következő területekről származó csapatok által koordinált kísérletsorozatból származnak: Cornell Egyetem és Oxfordi Egyetem, amelyet a tényleges választási folyamatok során hajtottak végre Egyesült Államok, Kanada, Lengyelország és az Egyesült KirályságA résztvevők minden esetben tudták, hogy egy mesterséges intelligenciával fognak beszélni, de nem voltak tisztában a hozzájuk rendelt chatbot politikai irányultságával.
A munkában, amelyet az Dávid Rand és a Nature folyóiratban publikálva, több ezer szavazó vett részt rövid párbeszédekben olyan nyelvi modellekkel, amelyek úgy voltak konfigurálva, hogy megvédeni egy adott jelöltetA 2024-es amerikai elnökválasztáson például 2.306 polgár Először a következők között jelezték preferenciájukat: Donald Trump y Kamala HarrisEzután véletlenszerűen egy chatbothoz rendelték őket, amelyik a kettő közül az egyiket megvédte.
A beszélgetés után mérték a hozzáállás és a szavazási szándék változását. A Harris-szel kedvező botok elérték a következőt: 3,9 pont eltolódás egy 0-tól 100-ig terjedő skálán a kezdetben Trumphoz kötődő szavazók körében, ezt a hatást a szerzők a következőképpen számolják ki négyszer magasabb, mint a hagyományos választási hirdetéseké tesztelték a 2016-os és 2020-as kampányokban. A Trump-párti modell is pozíciókat váltott, bár mérsékeltebben, a következő változásokkal: 1,51 pont Harris támogatói között.
Az eredmények be Kanada (a 1.530 résztvevő és a chatbotok védekeznek Mark Carney o Pierre Poilievre) és a Polonia (2.118 ember, olyan modellekkel, akik promotálták Rafał Trzaskowski o Karol Nawrocki) még szembetűnőbbek voltak: ezekben a helyzetekben a chatbotok akár 10 százalékpontos változások a szavazási szándékban az ellenzéki szavazók körében.
Ezen tárgyalások egyik kulcsfontosságú aspektusa, hogy bár a legtöbb beszélgetés csak néhány percig tartott, A hatás egy része idővel megmaradtAz Egyesült Államokban, valamivel több mint egy hónappal a kísérlet után, a kezdeti hatás jelentős részét még mindig megfigyelték, annak ellenére, hogy a résztvevők ebben az időszakban rengeteg kampányüzenetet kaptak.
Mi tesz egy politikai chatbotot meggyőzővé (és miért generál ez több hibát)
A kutatók nemcsak azt akarták megérteni, hogy a chatbotok képesek-e meggyőzni, hanem hogyan érték elA tanulmányokban ismétlődő minta egyértelmű: a mesterséges intelligencia akkor van a legnagyobb befolyással, amikor Sok tényeken alapuló érvet használmég akkor is, ha ezen információk nagy része nem különösebben kifinomult.
A Rand által koordinált kísérletekben a modellek számára a leghatékonyabb utasítás az volt, hogy arra kérték őket, hogy legyenek udvarias, tisztelettudó, és aki bizonyítékot tud szolgáltatni kijelentéseinek. Az udvariasság és a társalgási hangnem segített, de a változás fő mozgatórugója az adatok, példák, számadatok bemutatása, valamint a közpolitikákra, a gazdaságra vagy az egészségügyre való állandó hivatkozások voltak.
Amikor a modelleket korlátozták az ellenőrizhető tényekhez való hozzáférésben, és arra utasították, hogy győzzék meg őket konkrét adatok felhasználása nélkülBefolyásuk drasztikusan csökkent. Ez az eredmény arra a következtetésre vezetett, hogy a chatbotok előnye a politikai propaganda más formátumaival szemben nem annyira az érzelmi manipulációban, mint inkább abban rejlik, hogy információsűrűség amit mindössze néhány beszélgetésfordulat alatt bevethetnek.
De ugyanezen stratégiának van egy hátránya is: ahogy a modellekre nehezedő nyomás növekszik, hogy generáljanak egyre több állítólagosan tényszerű állításMegnő annak a kockázata, hogy a rendszer kifogy a megbízható anyagokból, és elkezd összeomlani. „kitalálni” tényeketEgyszerűen fogalmazva, a chatbot olyan adatokkal tölti ki a hiányosságokat, amelyek hihetőnek tűnnek, de nem feltétlenül helyesek.
A Science folyóiratban megjelent tanulmány, amelyben 76 977 felnőtt az Egyesült Királyságból y 19 különböző modell (a kis nyílt forráskódú rendszerektől a legmodernebb kereskedelmi modellekig) szisztematikusan megerősíti ezt: a meggyőzésre összpontosító utóképzés akár egy szintre is megnövelte a befolyásolási képességét 51%, míg az utasítások egyszerű módosításai (az ún. sugalmazásHozzáadtak még egyet 27% a hatékonyság. Ugyanakkor ezeket a fejlesztéseket a ... észrevehető csökkenése kísérte. tényszerű pontosság.
Ideológiai aszimmetriák és a dezinformáció kockázata
A Cornell és Oxford tanulmányok egyik legaggasztóbb következtetése, hogy a meggyőzőképesség és az igazmondás közötti egyensúlyhiány nem oszlik meg egyenletesen az összes jelölt és pozíció között. Amikor független tényellenőrzők elemezték a chatbotok által generált üzeneteket, azt találták, hogy A jobboldali jelölteket támogató modellek több hibát követtek el mint azok, akik progresszív jelölteket támogattak.
A szerzők szerint ez aszimmetria Ez egybeesik a korábbi tanulmányokkal, amelyek szerint Azt mutatják, hogy a konzervatív felhasználók hajlamosabbak pontatlanabb tartalmakat megosztani a közösségi médiában, mint a baloldali beállítottságú felhasználók.Mivel a nyelvi modellek az internetről kinyert hatalmas mennyiségű információból tanulnak, valószínűleg tükrözik ezt az elfogultságot, ahelyett, hogy a semmiből hoznák létre azt.
Mindenesetre a következmény ugyanaz: amikor egy chatbotot arra utasítanak, hogy maximalizálja meggyőző erejét egy adott ideológiai blokk javára, a modell hajlamos növelni a félrevezető állítások arányát, bár továbbra is sok helyes adattal keverem őket. A probléma nem csak az, hogy hamis információk csúszhatnak be., de Mindezt egy látszólag ésszerű és jól dokumentált narratívába burkolva teszi..
A kutatók egy kellemetlen pontra is rávilágítanak: Nem bizonyították, hogy a pontatlan állítások eleve meggyőzőbbek.Amikor azonban a mesterséges intelligenciát egyre hatékonyabbá teszik, a hibák száma is ezzel párhuzamosan növekszik. Más szóval, a meggyőző teljesítmény javítása a pontosság feláldozása nélkül olyan technikai és etikai kihívássá válik, amely továbbra is megoldatlan.
Ez a minta különösen aggasztó az olyan helyzetekben, mint magas politikai polarizáció, mint amilyeneket Európa és Észak-Amerika egyes részein tapasztalnak, ahol szűk a győzelmi különbség, és néhány százalékpont eldöntheti az általános vagy elnökválasztás eredményét.
A tanulmányok korlátai és kétségek a szavazóurnáknál a valódi hatással kapcsolatban
Bár a Nature és a Science eredményei szilárdak és főbb következtetéseikben egyetértenek, mindkét csapat ragaszkodik ahhoz, hogy Ezek kontrollált kísérletek, nem valódi kampányok.Több olyan elem is van, ami arra ösztönzi a óvatosan az adatok extrapolálásakor pont mint egy választás az utcán.
Egyrészt a résztvevők vagy önkéntesen regisztráltak, vagy pénzügyi kompenzációt kínáló platformokon keresztül toborozták őket, ami bevezeti a önszelekciós torzítások, és eltávolodik a tényleges választók sokszínűségétőlTovábbá, mindenkor tudták, hogy Egy mesterséges intelligenciával beszélgettek. és ezek egy tanulmány részét képezték, olyan körülmények, amelyek egy átlagos hadjáratban aligha ismétlődnének meg.
Egy másik fontos árnyalat, hogy a tanulmányok elsősorban a következőket mérték: a hozzáállás és a kimondott szándékok változásainem a ténylegesen leadott szavazat. Ezek hasznos mutatók, de nem egyenértékűek a választás napján tanúsított végső viselkedés megfigyelésével. Valójában az amerikai kísérletekben a hatás valamivel kisebb volt, mint Kanadában és Lengyelországban, ami arra utal, hogy a politikai kontextus és a korábbi határozatlanság mértéke jelentős befolyással bír.
A brit tanulmány esetében, amelyet a ... koordinált. Kobi Hackenburg Az Egyesült Királyság AI Security Institute-ja egyértelmű korlátozásokat is bevezetett: az adatok csak innen származnak: az Egyesült Királyság szavazóimindannyian tisztában voltak azzal, hogy egy tudományos vizsgálatban vesznek részt, és gazdasági kompenzációEz korlátozza az általánosíthatóságát más EU-országokra vagy kevésbé ellenőrzött kontextusokra.
Mindazonáltal ezeknek a munkáknak a mértéke – több tízezer résztvevő és több mint 700 különböző politikai téma– és a módszertani átláthatóság miatt az akadémiai közösség nagy része úgy véli, hogy Egy lehetséges forgatókönyvet festenek leA vélemények viszonylag gyors megváltoztatására képes politikai chatbotok használata már nem futurisztikus hipotézis, hanem technikailag megvalósítható forgatókönyv a közelgő kampányokban.
Új választási szereplő Európa és más demokráciák számára
Az Egyesült Államok, Kanada, Lengyelország és az Egyesült Királyság konkrét esetein túl a megállapításoknak közvetlen következményei vannak a következőkre nézve: Európa és Spanyolországahol a közösségi médiában zajló politikai kommunikáció szabályozása és a személyes adatok kampányokban való felhasználása már heves vita tárgyát képezi. A chatbotok beépítésének lehetősége, amelyek fenntartják a személyre szabott párbeszédek a választókkal Ez egy plusz réteg bonyolultságot ad hozzá.
Eddig a politikai meggyőzés elsősorban a következőkön keresztül nyilvánult meg: statikus hirdetések, gyűlések, televíziós viták és közösségi médiaA társalgási asszisztensek megjelenése egy új elemet hoz be: a fenntartás képességét egyéni interakciók, menet közben alkalmazkodva ahhoz, amit a polgár valós időben mond, és mindezt gyakorlatilag marginális költséggel a kampányszervezők számára.
A kutatók hangsúlyozzák, hogy a kulcs már nem csak az, hogy ki ellenőrzi a választói adatbázist, hanem az is, hogy ki tudja... olyan modelleket fejleszteni, amelyek képesek válaszolni az érvekre, finomítani és megismételni azokat folyamatosan, olyan mennyiségű információval, amely messze meghaladja azt, amit egy emberi önkéntes egy kapcsolótáblánál vagy utcai postánál képes kezelni.
Ebben az összefüggésben olyan hangok, mint az olasz szakértőé Walter Quattrociocchi Ragaszkodnak ahhoz, hogy a szabályozási fókusznak az agresszív személyre szabásról vagy ideológiai szegmentációról a ... felé kell elmozdulnia. információsűrűség amit a modellek tudnak nyújtani. Tanulmányok kimutatták, hogy a meggyőzés elsősorban az adatok sokszorozásával növekszik, nem pedig az érzelmi stratégiák alkalmazásával.
La A Nature és a Science eredményeinek egybeesése riadalmat keltett az európai szervezetekben. aggódik amiatt, a demokratikus folyamatok integritásaBár az Európai Unió halad az olyan keretrendszerekkel, mint a digitális szolgáltatásokról szóló törvény vagy a mesterséges intelligencia jövőbeli külön szabályozása, ezeknek a modelleknek a fejlődési sebessége Ez megköveteli a felügyeleti, ellenőrzési és átláthatósági mechanizmusok folyamatos felülvizsgálatát..
Digitális írástudás és védekezés az automatizált meggyőzés ellen
Az ezeket a munkákat kísérő tudományos kommentárok egyik visszatérő üzenete, hogy a válasz nem alapulhat kizárólag tilalmakon vagy technikai ellenőrzéseken. A szerzők egyetértenek abban, hogy elengedhetetlen lesz a digitális műveltség a lakosságnak, hogy a polgárok megtanulják felismerni és ellenállni a rábeszélésnek automatikus rendszerek által generálva.
Kiegészítő kísérletek, mint például a ... publikációk PNAS NexusAzt sugallják, hogy azok a felhasználók, akik a legjobban értik a nagy nyelvi modellek működését kevésbé sebezhető befolyásolási kísérleteihez. Annak tudata, hogy egy chatbot tévedhet, eltúlozhat, vagy találgatással töltheti ki a hézagokat, csökkenti azt a hajlamot, hogy üzeneteit úgy fogadjuk el, mintha egy tévedhetetlen tekintélytől származnának.
Ugyanakkor megfigyelték, hogy a mesterséges intelligencia meggyőző hatékonysága nem annyira azon múlik, hogy a beszélgetőpartner elhiszi-e, hogy egy szakértő emberrel beszél, hanem inkább azon, hogy a az érvek minősége és következetessége amit kap. Néhány tesztben a chatbot üzeneteinek még csökkenteni az összeesküvés-elméletekbe vetett hitetfüggetlenül attól, hogy a résztvevők azt hitték, személlyel vagy géppel beszélgetnek.
Ez arra utal, hogy maga a technológia nem eredendően káros: mindkettőre használható a félretájékoztatás elleni küzdelem hogy azt terjeszthessemA határvonalat a modellnek adott utasítások, az adatok, amelyekkel betanították, és mindenekelőtt azoknak a politikai vagy kereskedelmi céljai húzzák meg, akik megvalósítják.
Miközben a kormányok és a szabályozók vitatkoznak az átláthatósági korlátokról és követelményekről, e munkák szerzői egy gondolathoz ragaszkodnak: politikai chatbotok Csak akkor tudnak majd jelentős befolyást gyakorolni, ha a nyilvánosság beleegyezik abba, hogy kapcsolatba lépjen velük.Ezért a használatáról, egyértelmű címkézéséről és az automatizált meggyőzéstől való mentesülésről szóló nyilvános vita központi kérdéssé válik a demokratikus párbeszédben az elkövetkező években.
A Nature and Science folyóiratban megjelent kutatás által festett kép lehetőségeket és kockázatokat is feltár: a mesterséges intelligencia által működtetett chatbotok segíthetnek jobban elmagyarázni a közpolitikákat és eloszlatni az összetett kétségeket, de azt is, hogy van rá kapacitása megbillenti a választási mérlegetkülönösen a bizonytalan szavazók körében, és ezt egy nyilvánvaló árat jelent az információk pontossága szempontjából, amikor meggyőző erejük maximalizálására képezik ki őket, egy kényes egyensúly, amelyet a demokráciáknak sürgősen és naivitás nélkül kell megoldaniuk.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.