Si po mësojnë chatbot-et politike të ndikojnë në votime

Shfaqja e chatbot-e politikë Ka pushuar së qeni një anekdotë teknologjike të bëhet një element që po fillon të ketë rëndësi në fushatat e vërteta zgjedhore. Bisedat vetëm disa minutëshe me modelet e IA-së janë të mjaftueshme për të zhvendos simpatinë ndaj një kandidati me disa pika ose një propozim konkret, diçka që deri vonë shoqërohej vetëm me fushata të mëdha mediatike ose tubime shumë të koordinuara.

Dy hetime të gjera, të botuara njëkohësisht në Natyrë y Shkencë, Ata i kanë vënë numra diçkaje që dyshohej tashmë.: the Chatbot-et bisedorë janë të aftë të modifikojnë qëndrimet politike të qytetarëve. me një lehtësi të jashtëzakonshme, edhe kur e dinë se po bashkëveprojnë me një makinë. Dhe e bëjnë këtë, mbi të gjitha, përmes argumente të ngarkuara me informacionjo aq shumë përmes taktikave të sofistikuara psikologjike.

Chatbot-et në fushata: eksperimente në SHBA, Kanada, Poloni dhe Mbretërinë e Bashkuar

Provat e reja vijnë nga një sërë eksperimentesh të koordinuara nga ekipe nga... Universiteti Cornell dhe Universiteti i Oksfordit, të kryera gjatë proceseve zgjedhore aktuale në Shtetet e Bashkuara, Kanada, Poloni dhe Mbretëria e BashkuarNë të gjitha rastet, pjesëmarrësit e dinin se do të flisnin me një inteligjencë artificiale, por nuk ishin në dijeni të orientimit politik të chatbot-it që u ishte caktuar.

Në punën e udhëhequr nga David Rand dhe të botuar në Nature, mijëra votues zhvilluan dialogje të shkurtra me modele gjuhësore të konfiguruara për të për të mbrojtur një kandidat të caktuarNë zgjedhjet presidenciale të SHBA-së të vitit 2024, për shembull, 2.306 qytetarë Ata fillimisht shprehën preferencën e tyre midis Donald Trump y Kamala HarrisPastaj ata u caktuan rastësisht në një chatbot që mbronte njërin prej të dyve.

Pas bisedës, u matën ndryshimet në qëndrim dhe qëllimin e votimit. U arritën robotë në favor të Harrisit. zhvendosje 3,9 pikë në një shkallë nga 0 deri në 100 midis votuesve që fillimisht ishin të lidhur me Trumpin, një ndikim që autorët e llogarisin si katër herë më e lartë se ajo e reklamave konvencionale zgjedhore testuar në fushatat e viteve 2016 dhe 2020. Modeli pro-Trump gjithashtu ndryshoi pozicione, megjithëse më të moderuara, me një ndryshim në Pikë 1,51 midis mbështetësve të Harrisit.

Rezultatet në Kanadë (me 1.530 pjesëmarrës dhe chatbot-et që mbrojnë Mark Carney o Pierre Poilievre) dhe në Polonia (2.118 persona, me modele që promovuan Rafał Trzaskowski o Karol Nawrocki) ishin edhe më mbresëlënëse: në këto kontekste, chatbot-et menaxhuan ndryshime në qëllimin e votimit deri në 10 pikë përqindjeje midis votuesve të opozitës.

Një aspekt kyç i këtyre sprovave është se, megjithëse shumica e bisedave zgjatën vetëm disa minuta, Një pjesë e efektit zgjati me kalimin e kohësNë Shtetet e Bashkuara, pak më shumë se një muaj pas eksperimentit, një pjesë e konsiderueshme e ndikimit fillestar u vu re ende, pavarësisht ortekut të mesazheve të fushatës që morën pjesëmarrësit gjatë asaj periudhe.

Çfarë e bën bindës një chatbot politik (dhe pse kjo gjeneron më shumë gabime)

Studiuesit donin të kuptonin jo vetëm nëse chatbot-et mund të bindnin, por edhe nëse si e arritën atëModeli që përsëritet në studime është i qartë: IA ka ndikimin më të madh kur Përdor shumë argumente të bazuara në fakteedhe nëse shumë nga ai informacion nuk është veçanërisht i sofistikuar.

Në eksperimentet e koordinuara nga Rand, udhëzimi më efektiv për modelet ishte t'u kërkohej atyre të ishin i sjellshëm, i respektueshëm dhe që mund të ofronte prova të deklaratave të tij. Mirësjellja dhe një ton bisedor ndihmuan, por leva kryesore për ndryshim qëndronte në ofrimin e të dhënave, shembujve, shifrave dhe referencave të vazhdueshme ndaj politikave publike, ekonomisë apo kujdesit shëndetësor.

Kur modelet ishin të kufizuara në aksesin e tyre në fakte të verifikueshme dhe udhëzoheshin të bindnin pa u mbështetur në të dhëna konkreteFuqia e tyre e ndikimit ra në mënyrë drastike. Ky rezultat i çoi autorët në përfundimin se avantazhi i chatbot-eve ndaj formateve të tjera të propagandës politike nuk qëndron aq shumë në manipulimin emocional sesa në dendësia e informacionit që ata mund t'i përdorin vetëm në disa kthesa bisede.

Por e njëjta strategji ka edhe një anë negative: ndërsa rritet presioni mbi modelet për të gjeneruar gjithnjë e më shumë pretendime të supozuara faktikeRritet rreziku që sistemi të mbetet pa material të besueshëm dhe të fillojë të “shpik” fakteThënë thjesht, chatbot-i plotëson boshllëqet me të dhëna që tingëllojnë të besueshme, por nuk janë domosdoshmërisht të sakta.

Studimi i publikuar në Science, me 76.977 të rritur nga Mbretëria e Bashkuar y 19 modele te ndryshme (nga sistemet e vogla me burim të hapur te modelet komerciale të përparuara), kjo e konfirmon sistematikisht këtë: trajnim pas trajnimit i fokusuar në bindje rriti aftësinë për të ndikuar deri në një 51%, ndërsa ndryshimet e thjeshta në udhëzime (të ashtuquajturat nxitjeAta shtuan një tjetër 27% të efikasitetit. Në të njëjtën kohë, këto përmirësime u shoqëruan me një ulje të dukshme të saktësi faktike.

Asimetritë ideologjike dhe rreziku i dezinformimit

Një nga përfundimet më shqetësuese të studimeve të Cornell dhe Oxford është se çekuilibri midis bindjes dhe vërtetësisë nuk shpërndahet në mënyrë të barabartë midis të gjithë kandidatëve dhe pozicioneve. Kur verifikuesit e pavarur të fakteve analizuan mesazhet e gjeneruara nga chatbot-et, ata zbuluan se Modelet që mbështetën kandidatët e krahut të djathtë bënë më shumë gabime sesa ata që mbështetën kandidatët progresivë.

Sipas autorëve, kjo asimetria Përputhet me studimet e mëparshme që Ato tregojnë se përdoruesit konservatorë kanë tendencë të ndajnë përmbajtje më të pasaktë në mediat sociale sesa përdoruesit me prirje të majta.Meqenëse modelet gjuhësore mësojnë nga sasi të mëdha informacioni të nxjerrë nga interneti, ato ka të ngjarë të pasqyrojnë një pjesë të këtij paragjykimi në vend që ta krijojnë atë nga e para.

Sidoqoftë, pasoja është e njëjtë: kur një chatbot udhëzohet të maksimizojë fuqinë e tij bindëse në favor të një blloku të caktuar ideologjik, modeli tenton të rrisin përqindjen e pretendimeve mashtruese, megjithëse vazhdoj t'i përziej ato me shumë të dhëna të sakta. Problemi nuk është vetëm se informacioni i rremë mund të kalojë pa u vënë re., por E bën këtë të mbështjellë me një rrëfim në dukje të arsyeshëm dhe të dokumentuar mirë..

Studiuesit gjithashtu theksojnë një pikë të pakëndshme: Ata nuk kanë demonstruar se pretendimet e pasakta janë në thelb më bindëse.Megjithatë, kur inteligjenca artificiale shtyhet të bëhet gjithnjë e më efektive, numri i gabimeve rritet paralelisht. Me fjalë të tjera, përmirësimi i performancës bindëse pa kompromentuar saktësinë zbulohet si një sfidë teknike dhe etike që mbetet e pazgjidhur.

Ky model është veçanërisht shqetësues në kontekstet e polarizim i lartë politik, si ato të përjetuara në pjesë të Evropës dhe Amerikës së Veriut, ku kufijtë e fitores janë të ngushtë dhe një grusht pikësh përqindjeje mund të vendosin rezultatin e zgjedhjeve të përgjithshme ose presidenciale.

Kufizimet e studimeve dhe dyshimet rreth ndikimit të vërtetë në kutitë e votimit

Edhe pse rezultatet nga Nature and Science janë të forta dhe përputhen në përfundimet e tyre kryesore, të dy ekipet këmbëngulin se Këto janë eksperimente të kontrolluara, jo fushata të vërteta.Ka disa elementë që ftojnë kujdes gjatë ekstrapolimit të të dhënave njësoj si zgjedhjet në rrugë.

Nga njëra anë, pjesëmarrësit ose u regjistruan vullnetarisht ose u rekrutuan përmes platformave që ofrojnë kompensim financiar, gjë që prezanton paragjykimet e vetë-përzgjedhjes dhe largohet nga diversiteti i elektoratit aktualPër më tepër, ata e dinin në çdo kohë se Ata po flisnin me një Inteligjencë Artificiale. dhe që ishin pjesë e një studimi, kushte që vështirë se do të përsëriteshin në një fushatë të zakonshme.

Një nuancë tjetër e rëndësishme është se studimet matën kryesisht ndryshime në qëndrime dhe qëllime të deklaruarajo vota aktuale e hedhur. Këta janë tregues të dobishëm, por nuk janë ekuivalentë me vëzhgimin e sjelljes përfundimtare në ditën e zgjedhjeve. Në fakt, në eksperimentet në SHBA, efekti ishte disi më i vogël se në Kanada dhe Poloni, duke sugjeruar që konteksti politik dhe shkalla e pavendosmërisë paraprake kanë një ndikim të rëndësishëm.

Në rastin e studimit britanik të koordinuar nga Kobi Hackenburg Nga Instituti i Sigurisë së IA-së në Mbretërinë e Bashkuar, ka gjithashtu kufizime të qarta: të dhënat vijnë vetëm nga votuesit e Mbretërisë së Bashkuar, të gjithë të vetëdijshëm se po merrnin pjesë në një hetim akademik dhe me kompensimi ekonomikKjo e kufizon përgjithësimin e saj në vendet e tjera të BE-së ose në kontekste më pak të kontrolluara.

Megjithatë, shkalla e këtyre punimeve - dhjetëra mijëra pjesëmarrës dhe më shumë se 700 tema të ndryshme politike— dhe transparenca metodologjike kanë bërë që një pjesë e madhe e komunitetit akademik të marrë në konsideratë se Ata pikturojnë një skenar të mundshëmPërdorimi i chatbot-eve politike të afta për të ndryshuar opinionet relativisht shpejt nuk është më një hipotezë futuriste, por një skenar teknikisht i realizueshëm në fushatat e ardhshme.

Një lojtar i ri zgjedhor për Evropën dhe demokracitë e tjera

Përtej rasteve specifike të SHBA-së, Kanadasë, Polonisë dhe Mbretërisë së Bashkuar, gjetjet kanë implikime të drejtpërdrejta për Evropë dhe Spanjëku rregullimi i komunikimit politik në mediat sociale dhe përdorimi i të dhënave personale në fushata janë tashmë objekt debati intensiv. Mundësia e përfshirjes së chatbot-eve që mirëmbajnë dialogje të personalizuara me votuesit Shton një shtresë shtesë kompleksiteti.

Deri më tani, bindja politike artikulohej kryesisht përmes reklama statike, tubime, debate televizive dhe media socialeArdhja e asistentëve të bisedës sjell një element të ri: aftësinë për të ruajtur ndërveprime një-me-një, të përshtatura menjëherë me atë që thotë qytetari në kohë reale, dhe e gjithë kjo me një kosto praktikisht margjinale për organizatorët e fushatës.

Studiuesit theksojnë se çelësi nuk është më vetëm se kush e kontrollon bazën e të dhënave të votuesve, por kush mund ta... zhvillojnë modele të afta për t'iu përgjigjur, përpunuar dhe replikuar argumenteve vazhdimisht, me një vëllim informacioni që tejkalon shumë atë që një vullnetar njerëzor mund të trajtojë në një central elektrik ose postë rruge.

Në këtë kontekst, zëra si ai i ekspertit italian Walter Quattrociocchi Ata këmbëngulin që fokusi rregullator duhet të zhvendoset nga personalizimi agresiv ose segmentimi ideologjik drejt dendësia e informacionit që modelet mund të ofrojnë. Studimet tregojnë se bindja rritet kryesisht kur të dhënat shumëfishohen, jo kur përdoren strategji emocionale.

La Koincidenca e rezultateve midis Natyrës dhe Shkencës ka ngritur alarm në organizatat evropiane. i shqetësuar për integriteti i proceseve demokratikeEdhe pse Bashkimi Evropian po bën përparim me korniza të tilla si Akti i Shërbimeve Dixhitale ose rregullimi specifik i ardhshëm i IA-së, shpejtësia me të cilën evoluojnë këto modele Kjo kërkon një rishikim të vazhdueshëm të mekanizmave për mbikëqyrje, auditim dhe transparencë..

Njohuritë dixhitale dhe mbrojtja kundër bindjes së automatizuar

Një nga mesazhet e përsëritura në komentet akademike që shoqërojnë këto punime është se përgjigja nuk mund të bazohet vetëm në ndalime ose kontrolle teknike. Autorët bien dakord se do të jetë thelbësore të forcohet shkrim-leximi dixhital të popullsisë në mënyrë që qytetarët të mësojnë të njohin dhe i rezistojnë bindjes të gjeneruara nga sistemet automatike.

Eksperimente plotësuese, si ato të botuara në PNAS NexusAta sugjerojnë që përdoruesit që e kuptojnë më mirë se si funksionojnë modelet e mëdha gjuhësore janë më pak të prekshëm ndaj përpjekjeve të tij për ndikim. Të dish që një chatbot mund të jetë gabim, të ekzagjerojë ose të plotësojë boshllëqet me hamendje zvogëlon tendencën për të pranuar mesazhet e tij sikur të vinin nga një autoritet i pagabueshëm.

Në të njëjtën kohë, është vërejtur se efektiviteti bindës i IA-së nuk varet aq shumë nga besimi i bashkëbiseduesit se po flet me një njeri ekspert, por nga vetë ai. cilësia dhe qëndrueshmëria e argumenteve që merr. Në disa teste, mesazhet e chatbot-it arritën madje të zvogëloni besimin në teoritë e konspiracionit, pavarësisht nëse pjesëmarrësit mendonin se po bisedonin me një person apo me një makinë.

Kjo sugjeron që vetë teknologjia nuk është në thelb e dëmshme: ajo mund të përdoret për të dyja. luftojnë dezinformatat sa për ta përhapur atëVija kufitare hiqet nga udhëzimet që i jepen modelit, të dhënat me të cilat stërvitet dhe, mbi të gjitha, objektivat politike ose tregtare të atyre që e vunë në veprim.

Ndërsa qeveritë dhe rregullatorët debatojnë për kufijtë dhe kërkesat e transparencës, autorët e këtyre punimeve këmbëngulin në një ide: chatbot-e politikë Ata do të jenë në gjendje të ushtrojnë një ndikim masiv vetëm nëse publiku pranon të bashkëveprojë me ta.Prandaj, debati publik mbi përdorimin e tij, etiketimin e tij të qartë dhe të drejtën për të mos iu nënshtruar bindjes automatike do të bëhen çështje qendrore në bisedën demokratike në vitet e ardhshme.

Pamja e paraqitur nga hulumtimi në Nature and Science zbulon si mundësi ashtu edhe rreziqe: Chatbot-et e inteligjencës artificiale mund të ndihmojnë në shpjegimin më të mirë të politikave publike dhe zgjidhjen e dyshimeve komplekse, por ato gjithashtu mund të... kanë kapacitet për të për të përmbysur peshoren elektoraleveçanërisht midis votuesve të pavendosur, dhe ata e bëjnë këtë me një çmim i dukshëm në aspektin e saktësisë së informacionit kur ata trajnohen për të maksimizuar fuqinë e tyre bindëse, një ekuilibër delikat që demokracitë do të duhet ta adresojnë urgjentisht dhe pa naivitet.

Artikulli i lidhur:

Kalifornia miraton SB 243 për të rregulluar chatbot-et e inteligjencës artificiale dhe për të mbrojtur të miturit

Alberto navarro

Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.

Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.