- De gwo etid nan Nature ak Science pwouve ke chatbot politik yo ka chanje atitid ak entansyon pou vote nan plizyè peyi.
- Pèsuazyon baze prensipalman sou ofri anpil agiman ak done, byenke li ogmante risk pou enfòmasyon ki pa egzak.
- Optimize pou enfliyanse ranfòse efè pèsuasif la jiska 25 pwen, men li diminye verasite repons yo.
- Rezilta yo louvri yon deba ijan an Ewòp ak nan rès demokrasi yo sou règleman, transparans ak alfabetizasyon dijital.
Entèripsyon an nan chatbot politik yo Li sispann yon anekdòt teknolojik. pou l vin tounen yon eleman ki kòmanse gen enpòtans nan kanpay elektoral reyèl yo. Konvèsasyon kèk minit sèlman avèk modèl IA yo sifi pou chanje senpati a anvè yon kandida pa plizyè pwen oubyen yon pwopozisyon konkrè, yon bagay ki jiska dènyèman te sèlman asosye avèk gwo kanpay medya oubyen rasanbleman trè kowòdone.
De ankèt ki gen anpil konsekans, pibliye an menm tan nan Lanati y Syans, Yo mete nimewo sou yon bagay yo te deja sispèk.la Chatbot konvèsasyonèl yo kapab modifye atitid politik sitwayen yo. avèk yon fasilite remakab, menm lè yo konnen y ap kominike avèk yon machin. Epi yo fè sa, sitou, atravè agiman ki chaje ak enfòmasyonpa tèlman atravè taktik sikolojik sofistike.
Chatbots nan kanpay: eksperyans Ozetazini, Kanada, Polòy ak Wayòm Ini a
Nouvo prèv la soti nan yon seri eksperyans kowòdone pa ekip ki soti nan Inivèsite Cornell ak nan la Oxford University, ki te fèt pandan pwosesis elektoral reyèl yo nan Etazini, Kanada, Polòy ak Wayòm IniNan tout ka yo, patisipan yo te konnen yo t ap pale ak yon IA, men yo pa t okouran de oryantasyon politik chatbot yo te ba yo a.
Nan travay ki te dirije pa David Rand epi pibliye nan Nature, plizyè milye votè te fè dyalòg kout ak modèl langaj ki configuré pou pou defann yon kandida espesifikPa egzanp, nan eleksyon prezidansyèl ameriken an nan lane 2024, 2.306 sitwayen Yo te premye endike preferans yo ant Donald Trump y Kamala HarrisApre sa, yo te plase yo owaza nan yon chatbot ki te defann youn nan de yo.
Apre konvèsasyon an, yo te mezire chanjman nan atitid ak entansyon pou vote. Bot ki te an favè Harris yo te rive fè sa. chanjman 3,9 pwen sou yon echèl de 0 a 100 pami votè ki te okòmansman aliyen ak Trump, yon enpak ke otè yo kalkile kòm kat fwa pi wo pase piblisite eleksyon konvansyonèl yo teste nan kanpay 2016 ak 2020 yo. Modèl pro-Trump la te chanje pozisyon tou, byenke pi modere, ak yon chanjman nan 1,51 pwen pami sipòtè Harris yo.
Rezilta yo nan Kanada (ak 1.530 patisipan ak chatbot k ap defann Mak Carney o Pyè Poilievre) ak nan Polòy (2.118 moun, ak modèl ki te fè pwomosyon Rafał Trzaskowski o Karol Nawrocki) te pi frapan toujou: nan kontèks sa yo, chatbot yo te jere chanjman nan entansyon vòt jiska 10 pwen pousantaj pami elektè opozisyon yo.
Yon aspè enpòtan nan pwosè sa yo se ke, byenke pifò konvèsasyon yo te dire sèlman kèk minit, Yon pati nan efè a te dire sou tanOzetazini, yon ti kras plis pase yon mwa apre eksperyans lan, yo te toujou obsève yon fraksyon siyifikatif nan enpak inisyal la, malgre avalanch mesaj kanpay patisipan yo te resevwa pandan peryòd sa a.
Ki sa ki fè yon chatbot politik konvenkan (epi poukisa sa jenere plis erè)
Chèchè yo te vle konprann non sèlman si chatbot yo te kapab konvenk, men tou kijan yo te rive fè saModèl ki repete tèt li nan etid yo klè: IA gen pi gwo enfliyans lan lè Li itilize anpil agiman ki baze sou reyalitemenm si anpil nan enfòmasyon sa yo pa patikilyèman sofistike.
Nan eksperyans Rand te kowòdone yo, enstriksyon ki pi efikas pou modèl yo se te mande yo pou yo politès, respekte moun, epi ki ta ka bay prèv nan deklarasyon l yo. Koutwazi ak yon ton konvèsasyon te ede, men prensipal levye chanjman an te nan ofri done, egzanp, figi, ak referans konstan sou politik piblik, ekonomi, oswa swen sante.
Lè modèl yo te limite nan aksè yo a enfòmasyon verifye epi yo te resevwa enstriksyon pou konvenk san yo pa bezwen sèvi ak done konkrèPouvwa enfliyans yo te diminye anpil. Rezilta sa a te pouse otè yo konkli ke avantaj chatbots yo genyen sou lòt fòma pwopagann politik yo pa tèlman nan manipilasyon emosyonèl la, men pito nan... dansite enfòmasyon ke yo ka deplwaye nan jis kèk tou konvèsasyon.
Men, menm estrateji sa a gen yon dezavantaj: pandan presyon an ap ogmante sou modèl yo pou jenere reklamasyon ki pi plis swadizan reyèlRisk la ogmante pou sistèm nan pa gen ase materyèl fyab epi li kòmanse "envante" reyaliteSenpleman, chatbot la ranpli twou vid ki genyen yo ak done ki sanble kredib men ki pa nesesèman kòrèk.
Etid la pibliye nan Science, avèk 76.977 granmoun ki soti nan Wayòm Ini a y 19 modèl diferan (soti nan ti sistèm sous ouvè rive nan modèl komèsyal dènye kri), li konfime sa sistematikman: la apre fòmasyon an konsantre sou pèsuazyon ogmante kapasite pou enfliyanse jiska yon 51%, pandan ke chanjman senp nan enstriksyon yo (sa yo rele envitasyonYo te ajoute yon lòt 27% efikasite. An menm tan, amelyorasyon sa yo te akonpaye pa yon rediksyon aparan nan presizyon reyalite.
Asimetri ideolojik ak risk dezenfòmasyon
Youn nan konklizyon ki pi twoublan nan etid Cornell ak Oxford yo se ke dezekilib ant kapasite pou konvenk moun ak verasite a pa distribye egalman pami tout kandida ak pozisyon yo. Lè verifikatè enfòmasyon endepandan yo te analize mesaj chatbot yo te pwodui yo, yo te jwenn ke Modèl ki te sipòte kandida dwa yo te fè plis erè pase moun ki te sipòte kandida pwogresis yo.
Dapre otè yo, sa a asimetri Li koresponn ak etid anvan yo ki te di Yo montre ke itilizatè konsèvatif yo gen tandans pataje plis kontni ki pa kòrèk sou medya sosyal pase itilizatè ki panche agoch.Piske modèl langaj yo aprann nan gwo kantite enfòmasyon yo ekstrè sou entènèt la, yo gen plis chans reflete kèk nan patipri sa a olye pou yo kreye l depi zewo.
Antouka, konsekans lan se menm bagay la: lè yo bay yon chatbot enstriksyon pou maksimize pouvwa pèswazif li an favè yon blòk ideolojik patikilye, modèl la gen tandans pou ogmante pwopòsyon reklamasyon ki twonpe yo, byenke mwen kontinye melanje yo ak anpil done ki kòrèk. Pwoblèm nan se pa sèlman ke fo enfòmasyon ka pase nan mitan moun.men Li fè sa vlope nan yon naratif ki sanble rezonab e byen dokimante..
Chèchè yo mete aksan tou sou yon pwen dezagreyab: Yo pa demontre ke deklarasyon ki pa egzat yo natirèlman pi konvenkan.Sepandan, lè yo pouse IA pou l vin pi efikas, kantite erè yo ap ogmante an menm tan. Nan lòt mo, amelyore pèfòmans pèswazif san konpwomèt presizyon revele tèt li kòm yon defi teknik ak etik ki rete san rezoud.
Modèl sa a patikilyèman enkyete nan kontèks kote gwo polarizasyon politik, menm jan ak sa yo ki rive nan kèk pati nan Ewòp ak Amerik di Nò, kote maj viktwa yo etwat epi se yon ti ponyen pwen pousantaj ki ka deside rezilta yon eleksyon jeneral oswa prezidansyèl.
Limit etid yo ak dout sou enpak reyèl la nan bwat vòt la
Malgre rezilta ki soti nan Nature ak Science yo solid epi yo dakò nan konklizyon prensipal yo, tou de ekip yo ensiste ke Sa yo se eksperyans kontwole, pa kanpay reyèl.Gen plizyè eleman ki envite prekosyon lè w ap ekstrapole done yo menm jan ak yon eleksyon nan lari a.
Yon bò, patisipan yo swa te enskri volontèman oswa yo te rekrite atravè platfòm ki ofri konpansasyon finansye, sa ki prezante patipri oto-seleksyon epi li deplase lwen divèsite elektora aktyèl laAnplis, yo te konnen tout tan sa a Yo t ap pale ak yon IA. e ki te fè pati yon etid, kondisyon ki diman ta gen pou repete nan yon kanpay òdinè.
Yon lòt nuans enpòtan se ke etid yo te mezire prensipalman chanjman nan atitid ak entansyon deklarese pa vòt reyèl yo te jete a. Sa yo se endikatè itil, men yo pa ekivalan a obsève konpòtman final la nan jou eleksyon an. Anfèt, nan eksperyans ameriken yo, efè a te yon ti jan pi piti pase nan Kanada ak Polòy, sa ki sijere ke kontèks politik la ak degre endesizyon anvan an gen yon enfliyans siyifikatif.
Nan ka etid Britanik la kowòdone pa Kobi Hackenburg Soti nan Enstiti Sekirite IA Wayòm Ini a, genyen tou restriksyon klè: done yo soti sèlman nan votè Wayòm Ini a, yo tout te okouran ke yo t ap patisipe nan yon ankèt akademik epi avèk konpansasyon finansyeSa limite jeneralizasyon li nan lòt peyi Inyon Ewopeyen yo oswa kontèks ki mwens kontwole.
Malgre sa, anplitid travay sa yo—plizyè dizèn milye patisipan ak plis pase 700 sijè politik diferan— ak transparans metodolojik la te pouse yon gwo pati nan kominote akademik la konsidere ke Yo pentire yon senaryo ki posibItilizasyon chatbot politik ki kapab chanje opinyon relativman vit se pa yon ipotèz futurist ankò, men yon senaryo teknikman posib nan kanpay k ap vini yo.
Yon nouvo aktè elektoral pou Ewòp ak lòt demokrasi yo
Anplis ka espesifik Etazini, Kanada, Polòy ak Wayòm Ini a, rezilta yo gen enplikasyon dirèk pou Ewòp ak Espaykote règleman kominikasyon politik sou rezo sosyal yo ak itilizasyon done pèsonèl nan kanpay yo deja sijè yon deba entans. Posibilite pou enkòpore chatbot ki kenbe dyalòg pèsonalize ak elektè yo Li ajoute yon lòt kouch konpleksite.
Jiska prezan, pèswazyon politik te sitou atikile atravè piblisite estatik, rasanbleman, deba televizyon, ak medya sosyalArive asistan konvèsasyon yo prezante yon nouvo eleman: kapasite pou kenbe entèraksyon endividyèl, adapte sou plas ak sa sitwayen an ap di an tan reyèl, e tout bagay sa a pou yon pri pratikman majinal pou òganizatè kanpay yo.
Chèchè yo mete aksan sou ke kle a se pa sèlman ki moun ki kontwole baz done votè yo ankò, men ki moun ki kapab devlope modèl ki kapab reponn a, rafine, epi replike agiman yo kontinyèlman, ak yon volim enfòmasyon ki depase byen lwen sa yon volontè ta ka jere nan yon santral telefòn oswa yon pòs nan lari.
Nan kontèks sa a, vwa tankou sa ekspè italyen an Walter Quattrociocchi Yo ensiste pou konsantrasyon regilasyon an ta dwe chanje soti nan pèsonalizasyon agresif oswa segmentasyon ideolojik pou ale nan direksyon dansite enfòmasyon ke modèl yo ka bay. Etid yo montre ke pèswazyon grandi prensipalman lè done yo miltipliye, pa lè yo itilize estrateji emosyonèl.
La Konyensidans rezilta ant Lanati ak Syans lan te soulve alam nan òganizasyon Ewopeyen yo. konsène sou la entegrite pwosesis demokratik yoMalgre ke Inyon Ewopeyen an ap fè pwogrè ak kad tankou Lwa sou Sèvis Dijital yo oswa règleman espesifik nan lavni sou IA, vitès modèl sa yo ap evolye Li mande yon revizyon konstan sou mekanis sipèvizyon, odit ak transparans yo..
Alfabetizasyon dijital ak defans kont pèswazyon otomatik
Youn nan mesaj ki repete nan kòmantè akademik ki akonpaye travay sa yo se ke repons lan pa ka baze sèlman sou entèdiksyon oswa kontwòl teknik. Otè yo dakò ke li pral esansyèl pou ranfòse alfabetizasyon dijital popilasyon an pou sitwayen yo aprann rekonèt epi reziste pèswazyon pwodui pa sistèm otomatik yo.
Eksperyans konplemantè, tankou sa yo ki pibliye nan PNAS NexusYo sijere ke itilizatè ki pi byen konprann kijan gwo modèl lang yo fonksyone se mwens vilnerab tantativ li yo pou enfliyanse. Lefèt ke yon chatbot ka gen tò, egzajere, oswa ranpli twou vid ki genyen yo ak devine diminye tandans pou aksepte mesaj li yo kòmsi yo soti nan yon otorite enfayib.
An menm tan, yo obsève ke efikasite konvenkan IA a pa depann tèlman de lefèt ke entèrlokuteur a kwè y ap pale ak yon ekspè, men pito de kalite ak konsistans agiman yo ke li resevwa. Nan kèk tès, mesaj chatbot yo menm te reyisi diminye kwayans nan teyori konplo, kit patisipan yo te panse yo t ap pale ak yon moun oswa yon machin.
Sa sijere ke teknoloji a li menm pa danjere an li menm: li ka itilize pou tou de konbat move enfòmasyon pou fè l gayeLiy lan trase pa enstriksyon yo bay modèl la, done yo itilize pou antrene l la, epi sitou, objektif politik oswa komèsyal moun ki mete l an aksyon yo.
Pandan gouvènman yo ak regilatè yo ap deba sou limit ak egzijans transparans yo, otè travay sa yo ensiste sou yon sèl lide: chatbot politik yo Yo pral sèlman kapab egzèse yon gwo enfliyans si piblik la dakò pou kominike avèk yo.Pakonsekan, deba piblik la sou itilizasyon li, etikèt klè li, ak dwa pou pa sibi pèsyazyon otomatik pral vin pwoblèm santral nan konvèsasyon demokratik la nan ane k ap vini yo.
Tablo rechèch ki nan Nature and Science la montre tou de opòtinite ak risk: chatbot ki gen entèlijans atifisyèl ka ede pi byen eksplike politik piblik yo epi rezoud dout konplèks, men yo kapab tou... Yo gen kapasite pou pou panche balans elektoral lasitou pami elektè ki pa deside yo, epi yo fè sa avèk yon pri evidan an tèm de presizyon enfòmasyon lè yo resevwa fòmasyon pou maksimize pouvwa pèswazif yo, yon balans delika ke demokrasi yo ap gen pou adrese ijan e san nayivte.
Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.
Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.