- Du gravaj studoj en Nature kaj Science pruvas, ke politikaj babilrobotoj povas ŝanĝi sintenojn kaj voĉdonintencojn en pluraj landoj.
- Persvado baziĝas ĉefe sur ofertado de multaj argumentoj kaj datumoj, kvankam ĝi pliigas la riskon de malprecizaj informoj.
- Optimumigo por influi plifortigas la konvinkan efikon je ĝis 25 poentoj, sed malpliigas la verecon de la respondoj.
- La rezultoj malfermas urĝan debaton en Eŭropo kaj la ceteraj demokratioj pri reguligo, travidebleco kaj cifereca legopovo.
La apero de la politikaj babilrobotoj Ĝi ĉesis esti teknologia anekdoto fariĝi elemento, kiu komencas gravi en realaj balotkampanjoj. Konversacioj de nur kelkaj minutoj kun artefarita inteligenteco-modeloj sufiĉas por ŝanĝi la simpation al kandidato je pluraj poentoj aŭ konkreta propono, io kio ĝis antaŭ nelonge estis asociita nur kun grandaj amaskomunikilaj kampanjoj aŭ tre kunordigitaj amaskunvenoj.
Du ampleksaj esploroj, publikigitaj samtempe en naturo y scienco, Ili aldonis nombrojn al io, kio jam estis suspektita.: la Konversaciaj babilrobotoj kapablas modifi la politikajn sintenojn de civitanoj. kun rimarkinda facileco, eĉ kiam ili scias, ke ili interagas kun maŝino. Kaj ili faras tion, ĉefe, per argumentoj plenaj de informojne tiom per sofistikaj psikologiaj taktikoj.
Babilrobotoj en kampanjoj: eksperimentoj en Usono, Kanado, Pollando kaj Britio
La nova pruvo venas de aro da eksperimentoj kunordigitaj de teamoj de la Universitato de Cornell kaj la Universitato de Oksfordo, efektivigita dum faktaj balotaj procezoj en Usono, Kanado, Pollando kaj Unuiĝinta ReĝlandoEn ĉiuj kazoj, partoprenantoj sciis, ke ili parolos kun artefarita intelekto, sed ili ne sciis pri la politika orientiĝo de la babilroboto asignita al ili.
En la laboro gvidata de Davido Rand kaj publikigita en Nature, miloj da balotantoj spertis mallongajn dialogojn kun lingvaj modeloj agorditaj por defendi specifan kandidatonEkzemple, en la usona prezidanta elekto de 2024, 2.306 civitanoj Ili unue indikis sian preferon inter Donald Trump y Kamala HarrisIli tiam estis hazarde asignitaj al babilroboto, kiu defendis unu el la du.
Post la konversacio, oni mezuris ŝanĝojn en sinteno kaj voĉdonintenco. Robotoj favoraj al Harris atingis ŝanĝo 3,9 poentoj sur skalo de 0 ĝis 100 inter balotantoj komence aliancitaj kun Trump, efiko kiun la aŭtoroj kalkulas kiel kvar fojojn pli alta ol tiu de konvencia balotreklamo testita en la kampanjoj de 2016 kaj 2020. La por-Trump-modelo ankaŭ ŝanĝis poziciojn, kvankam pli modere, kun ŝanĝo en 1,51-punktoj inter la subtenantoj de Harris.
La rezultoj en Kanado (kun 1.530 partoprenantoj kaj babilrobotoj defendantaj Mark Carney o Pierre Poilievre) kaj en Pollando (2 118 homoj, kun modeloj kiuj antaŭenigis Rafał Trzaskowski o Karol Nawrocki) estis eĉ pli frapaj: en ĉi tiuj kuntekstoj, babilrobotoj sukcesis ŝanĝoj en voĉdonintenco ĝis 10 procentoj inter opoziciaj balotantoj.
Ŝlosila aspekto de ĉi tiuj procesoj estas, ke kvankam plej multaj konversacioj daŭris nur kelkajn minutojn, Parto de la efiko daŭris laŭlonge de la tempoEn Usono, iom pli ol monaton post la eksperimento, oni ankoraŭ observis signifan parton de la komenca efiko, malgraŭ la lavango de kampanjaj mesaĝoj ricevitaj de la partoprenantoj dum tiu periodo.
Kio konvinkigas politikan babilroboton (kaj kial tio generas pli da eraroj)
La esploristoj volis kompreni ne nur ĉu babilrobotoj povus persvadi, sed ankaŭ kiel ili atingis ĝinLa ŝablono, kiu ripetas sin en la studoj, estas klara: AI havas la plej grandan influon kiam Ĝi uzas multajn faktobazitajn argumentojneĉ se multe da tiuj informoj ne estas aparte sofistikaj.
En la eksperimentoj kunordigitaj de Rand, la plej efika instrukcio por la modeloj estis peti ilin esti ĝentila, respektema, kaj kiu povus provizi pruvon de liaj deklaroj. Ĝentileco kaj konversacia tono helpis, sed la ĉefa levilo por ŝanĝo kuŝis en ofertado de datumoj, ekzemploj, ciferoj kaj konstantaj referencoj al publikaj politikoj, la ekonomio aŭ sanservo.
Kiam modeloj havis limigitan aliron al konfirmeblaj faktoj kaj estis instrukciitaj persvadi sen recurrir al konkretaj datumojIlia influpovo draste malpliiĝis. Ĉi tiu rezulto igis la aŭtorojn konkludi, ke la avantaĝo de babilrobotoj super aliaj formatoj de politika propagando kuŝas ne tiom en emocia manipulado kiom en la informdenseco ke ili povas deploji en nur kelkaj konversaciaj vicoj.
Sed ĉi tiu sama strategio havas malavantaĝon: dum la premo kreskas sur la modelojn por generi ĉiam pli supozeble faktaj asertojLa risko pliiĝas, ke la sistemo elĉerpos fidindan materialon kaj komencos "inventi" faktojnSimple dirite, la babilroboto plenigas la mankojn per datumoj, kiuj ŝajnas kredindaj sed ne nepre estas ĝustaj.
La studo publikigita en Science, kun 76.977 plenkreskuloj el Britio y 19 malsamaj modeloj (de malgrandaj malfermitkodaj sistemoj ĝis avangardaj komercaj modeloj), ĝi sisteme konfirmas ĉi tion: la post-trejnado fokusita sur persvado pliigis la kapablon influi ĝis 51%, dum simplaj ŝanĝoj en instrukcioj (la tiel nomataj instiganteIli aldonis alian 27% de efikeco. Samtempe, ĉi tiujn plibonigojn akompanis rimarkebla redukto de la fakta precizeco.
Ideologiaj malsimetrioj kaj la risko de misinformado
Unu el la plej maltrankviligaj konkludoj de la studoj de Cornell kaj Oxford estas, ke la malekvilibro inter konvinkokapablo kaj vereco ne estas egale distribuita inter ĉiuj kandidatoj kaj pozicioj. Kiam sendependaj faktokontrolistoj analizis la mesaĝojn generitajn de la babilrobotoj, ili trovis, ke Modeloj, kiuj subtenis dekstrajn kandidatojn, faris pli da eraroj ol tiuj, kiuj subtenis progresemajn kandidatojn.
Laŭ la aŭtoroj, ĉi tio malsimetrio Ĝi koincidas kun antaŭaj studoj, kiuj Ili montras, ke konservativaj uzantoj emas kunhavigi pli malprecizan enhavon en sociaj retoj ol maldekstramanaj uzantoj.Ĉar lingvomodeloj lernas el vastaj kvantoj da informoj ĉerpitaj el la interreto, ili verŝajne reflektas iom da tiu biaso anstataŭ krei ĝin de nulo.
Ĉiukaze, la konsekvenco estas la sama: kiam babilroboto estas instrukciita maksimumigi sian persvadan potencon favore al aparta ideologia bloko, la modelo emas pliigi la proporcion de misgvidaj asertoj, kvankam mi daŭre miksas ilin kun multaj ĝustaj datumoj. La problemo ne estas nur ke malveraj informoj povas tragliti.sed Ĝi faras tion envolvite en ŝajne racia kaj bone dokumentita rakonto.
La esploristoj ankaŭ elstarigas malkomfortan punkton: Ili ne pruvis, ke malprecizaj asertoj estas esence pli konvinkaj.Tamen, kiam oni puŝas artefaritan inteligentecon (AI) fariĝi pli kaj pli efika, la nombro da eraroj kreskas paralele. Alivorte, plibonigi konvinkan rendimenton sen kompromiti la precizecon montriĝas kiel teknika kaj etika defio, kiu restas nesolvita.
Ĉi tiu ŝablono estas aparte zorgiga en kuntekstoj de alta politika polusiĝo, kiel tiuj spertitaj en partoj de Eŭropo kaj Nordameriko, kie la marĝenoj de venko estas mallarĝaj kaj nur manpleno da procentoj povas decidi la rezulton de ĝenerala aŭ prezidanta elekto.
Limigoj de la studoj kaj duboj pri la reala efiko ĉe la balotujo
Kvankam la rezultoj de Nature kaj Science estas solidaj kaj kongruas pri siaj ĉefaj konkludoj, ambaŭ teamoj insistas, ke Temas pri kontrolitaj eksperimentoj, ne pri veraj kampanjoj.Estas pluraj elementoj, kiuj invitas la singardo dum eksterpolado de la datumoj same kiel elekto surstrate.
Unuflanke, partoprenantoj aŭ aliĝis libervole aŭ estis varbitaj per platformoj, kiuj ofertas financan kompenson, kio enkondukas memselektaj biasoj kaj ĝi moviĝas for de la diverseco de la fakta balotantaroKrome, ili sciis ĉiam, ke Ili parolis kun artefarita intelekto. kaj kiuj estis parto de studo, kondiĉoj kiuj apenaŭ ripetus sin en ordinara kampanjo.
Alia grava nuanco estas, ke la studoj ĉefe mezuris ŝanĝoj en sintenoj kaj deklaritaj intencojne la efektive donita voĉo. Ĉi tiuj estas utilaj indikiloj, sed ili ne egalas al observado de fina konduto en balota tago. Fakte, en la usonaj eksperimentoj, la efiko estis iom pli malgranda ol en Kanado kaj Pollando, sugestante ke la politika kunteksto kaj la grado de antaŭa nedecidemo havas signifan influon.
En la kazo de la brita studo kunordigita de Kobi Hackenburg De la AI Security Institute de Britio, ankaŭ ekzistas klaraj limigoj: la datumoj venas nur de balotantoj de Britio, ĉiuj konsciaj, ke ili partoprenas en akademia esploro kaj kun ekonomia kompensoTio limigas ĝian ĝeneraligon al aliaj EU-landoj aŭ malpli kontrolitaj kuntekstoj.
Tamen, la amplekso de ĉi tiuj verkoj — dekoj da miloj da partoprenantoj kaj pli ol 700 malsamaj politikaj temoj— kaj metodika travidebleco igis grandan parton de la akademia komunumo konsideri, ke Ili pentras kredindan scenaronLa uzo de politikaj babilrobotoj kapablaj ŝanĝi opiniojn relative rapide jam ne estas futureca hipotezo, sed teknike farebla scenaro en venontaj kampanjoj.
Nova balota ludanto por Eŭropo kaj aliaj demokratioj
Preter la specifaj kazoj de Usono, Kanado, Pollando kaj Britio, la rezultoj havas rektajn implicojn por Eŭropo kaj Hispaniokie la reguligo de politika komunikado en sociaj retoj kaj la uzo de personaj datumoj en kampanjoj jam estas temo de intensa debato. La ebleco integri babilrobotojn, kiuj konservas personecigitaj dialogoj kun balotantoj Ĝi aldonas ekstran tavolon de komplekseco.
Ĝis nun, politika persvado estis ĉefe artikulaciita per senmovaj reklamoj, amaskunvenoj, televidigitaj debatoj kaj sociaj retojLa alveno de konversaciaj asistantoj enkondukas novan elementon: la kapablon konservi unu-kontraŭ-unu interagoj, adaptita dumfluge al tio, kion la civitano diras en reala tempo, kaj ĉio ĉi je preskaŭ marĝena kosto por la kampanjaranĝantoj.
La esploristoj emfazas, ke la ŝlosilo jam ne estas nur kiu kontrolas la balotan datumbazon, sed kiu povas evoluigi modelojn kapablajn respondi al, rafini kaj reprodukti argumentojn kontinue, kun kvanto da informoj kiu multe superas tion, kion homa volontulo povus pritrakti ĉe ŝaltpanelo aŭ strata poŝto.
En ĉi tiu kunteksto, voĉoj kiel tiu de la itala fakulo Walter Quattrociocchi Ili insistas, ke la reguliga fokuso ŝanĝiĝu de agresema personigo aŭ ideologia segmentado al informdenseco kiujn modeloj povas provizi. Studoj montras, ke persvado kreskas ĉefe kiam datumoj estas multiplikitaj, ne kiam emociaj strategioj estas uzataj.
La La koincido de rezultoj inter Naturo kaj Scienco vekis alarmojn en eŭropaj organizaĵoj. maltrankvila pri la integreco de demokratiaj procezojKvankam la Eŭropa Unio progresas rilate al kadroj kiel la Leĝo pri Ciferecaj Servoj aŭ la estonta specifa reguligo de AI, la rapideco, je kiu ĉi tiuj modeloj evoluas Ĝi postulas konstantan revizion de la mekanismoj por superrigardo, revizio kaj travidebleco..
Cifereca legopovo kaj defendo kontraŭ aŭtomatigita persvado
Unu el la revenantaj mesaĝoj en la akademiaj komentoj akompanantaj ĉi tiujn verkojn estas, ke la respondo ne povas baziĝi nur sur malpermesoj aŭ teknikaj kontroloj. La aŭtoroj konsentas, ke estos esence plifortigi la cifereca legopovo de la loĝantaro por ke civitanoj lernu rekoni kaj rezisti persvadon generita de aŭtomataj sistemoj.
Komplementaj eksperimentoj, kiel tiuj publikigitaj en PNAS NexusIli sugestas, ke uzantoj, kiuj plej bone komprenas kiel funkcias grandaj lingvomodeloj, estas malpli vundebla al ĝiaj provoj influi. Scii, ke babilroboto povas erari, troigi aŭ plenigi la mankojn per divenado, reduktas la emon akcepti ĝiajn mesaĝojn kvazaŭ ili venus de neeraripova aŭtoritato.
Samtempe, oni observis, ke la konvinka efikeco de AI dependas ne tiom de la kredo de la interparolanto, ke ili parolas al sperta homo, sed de la kvalito kaj kohereco de la argumentoj kiun ĝi ricevas. En iuj testoj, la mesaĝoj de la babilrobotoj eĉ sukcesis malpliigi kredon je konspiraj teorioj, sendepende de ĉu la partoprenantoj pensis, ke ili babilas kun homo aŭ maŝino.
Tio sugestas, ke la teknologio mem ne estas esence malutila: ĝi povas esti uzata por ambaŭ batali misinformadon por disvastigi ĝinLa limon desegnas la instrukcioj donitaj al la modelo, la datumoj per kiuj ĝi estas trejnita, kaj, ĉefe, la politikaj aŭ komercaj celoj de tiuj, kiuj efektivigas ĝin.
Dum registaroj kaj reguligantoj diskutas pri la limoj kaj postuloj de travidebleco, la aŭtoroj de ĉi tiuj verkoj insistas pri unu ideo: politikaj babilrobotoj Ili povos peni grandegan influon nur se la publiko konsentos interagi kun ili.Tial, la publika debato pri ĝia uzo, ĝia klara etikedado, kaj la rajto ne esti submetita al aŭtomata persvado fariĝos centraj temoj en la demokratia konversacio en la venontaj jaroj.
La bildo pentrita de la esplorado en Nature kaj Science malkaŝas kaj ŝancojn kaj riskojn: babilrobotoj kun artefarita inteligenteco povas helpi pli bone klarigi publikajn politikojn kaj solvi kompleksajn dubojn, sed ili ankaŭ povas Ili havas la kapablon renversi la balotan pesilonprecipe inter nedeciditaj balotantoj, kaj ili faras tion kun evidenta prezo rilate al informa precizeco kiam ili estas trejnitaj por maksimumigi sian konvinkpovon, delikata ekvilibro, kiun demokratioj devos urĝe kaj sen naiveco trakti.
Mi estas teknologientuziasmulo, kiu transformis siajn "geek" interesojn en profesion. Mi pasigis pli ol 10 jarojn de mia vivo uzante avangardan teknologion kaj tuŝante ĉiajn programojn pro pura scivolemo. Nun mi specialiĝis pri komputila teknologio kaj videoludoj. Ĉi tio estas ĉar de pli ol 5 jaroj mi verkas por diversaj retejoj pri teknologio kaj videoludoj, kreante artikolojn, kiuj celas doni al vi la informojn, kiujn vi bezonas en lingvo komprenebla por ĉiuj.
Se vi havas demandojn, mia scio varias de ĉio rilata al la Vindoza operaciumo same kiel Android por poŝtelefonoj. Kaj mia devontigo estas al vi, mi ĉiam pretas pasigi kelkajn minutojn kaj helpi vin solvi ajnajn demandojn, kiujn vi povas havi en ĉi tiu interreta mondo.