Jinsi wapiga gumzo wa kisiasa wanavyojifunza kushawishi kura

Uharibifu wa chatbots za kisiasa Imeacha kuwa anecdote ya kiteknolojia kuwa kipengele kinachoanza kuwa muhimu katika kampeni halisi za uchaguzi. Mazungumzo ya dakika chache tu na miundo ya AI yanatosha elekeza huruma kwa mgombea kwa pointi kadhaa au pendekezo thabiti, jambo ambalo hadi hivi majuzi lilihusishwa tu na kampeni kubwa za vyombo vya habari au mikutano iliyoratibiwa sana.

Uchunguzi mbili wa kina, uliochapishwa wakati huo huo katika Asili y Sayansi, Wameweka nambari kwa kitu ambacho tayari kilishukiwa.: Chatbots za mazungumzo zinaweza kurekebisha mitazamo ya kisiasa ya raia. kwa urahisi wa ajabu, hata wakati wanajua kuwa wanaingiliana na mashine. Na wanafanya hivyo, juu ya yote, kupitia hoja zilizosheheni habarisio sana kupitia mbinu za kisasa za kisaikolojia.

Chatbots katika kampeni: majaribio nchini Marekani, Kanada, Poland na Uingereza

Ushahidi mpya unatokana na majaribio mengi yaliyoratibiwa na timu kutoka kwa Chuo Kikuu cha Cornell na ya Chuo Kikuu cha Oxford, iliyotekelezwa wakati wa michakato halisi ya uchaguzi nchini Marekani, Kanada, Poland na UingerezaKatika visa vyote, washiriki walijua wangezungumza na AI, lakini hawakujua mwelekeo wa kisiasa wa chatbot waliyopewa.

Katika kazi iliyoongozwa na David Rand na kuchapishwa katika Nature, maelfu ya wapiga kura walipitia midahalo mifupi yenye miundo ya lugha iliyosanidiwa kumtetea mgombea maalumKatika uchaguzi wa rais wa 2024 wa Marekani, kwa mfano, Wananchi 2.306 Kwanza walionyesha upendeleo wao kati ya Donald Trump y Kamala HarrisKisha waliwekwa nasibu kwenye chatbot ambayo ilitetea mmoja wa hao wawili.

Baada ya mazungumzo, mabadiliko ya mtazamo na nia ya kupiga kura yalipimwa. Boti zinazompendeza Harris zimepatikana kuhama pointi 3,9 kwa kiwango cha 0 hadi 100 kati ya wapiga kura ambao hapo awali walilingana na Trump, athari ambayo waandishi wanahesabu kama mara nne zaidi ya ile ya matangazo ya kawaida ya uchaguzi iliyojaribiwa katika kampeni za 2016 na 2020. Mtindo wa pro-Trump pia ulibadilisha nafasi, ingawa kwa wastani zaidi, na mabadiliko katika Pointi 1,51 kati ya wafuasi wa Harris.

Matokeo katika Kanada (pamoja na Washiriki 1.530 na chatbots kutetea Mark Carney o Pierre Poilievre) na katika Polandi (Watu 2.118, na wanamitindo waliopandishwa hadhi Rafał Trzaskowski o Karol Nawrocki) zilivutia zaidi: katika miktadha hii, chatbots zilidhibitiwa mabadiliko katika nia ya kupiga kura ya hadi asilimia 10 ya pointi miongoni mwa wapiga kura wa upinzani.

Kipengele muhimu cha majaribio haya ni kwamba, ingawa mazungumzo mengi yalichukua dakika chache tu, Sehemu ya athari ilidumu kwa mudaNchini Marekani, zaidi ya mwezi mmoja baada ya jaribio, sehemu kubwa ya athari ya awali bado ilionekana, licha ya maporomoko ya jumbe za kampeni zilizopokelewa na washiriki katika kipindi hicho.

Ni nini hufanya chatbot ya kisiasa kushawishi (na kwa nini hiyo hutoa makosa zaidi)

Watafiti walitaka kuelewa sio tu ikiwa chatbots zinaweza kushawishi, lakini walikuwa wanafanikisha vipiMchoro unaojirudia katika masomo ni wazi: AI ina ushawishi mkubwa zaidi wakati Inatumia hoja nyingi zenye msingi wa ukwelihata kama habari nyingi sio za kisasa.

Katika majaribio yaliyoratibiwa na Rand, maagizo ya ufanisi zaidi kwa wanamitindo yalikuwa kuwauliza wawe heshima, heshima, na ambaye angeweza kutoa ushahidi ya kauli zake. Uadilifu na sauti ya mazungumzo ilisaidia, lakini kigezo kikuu cha mabadiliko kilikuwa katika kutoa data, mifano, takwimu na marejeleo ya mara kwa mara ya sera za umma, uchumi au huduma ya afya.

Wakati mifano ilipunguzwa katika ufikiaji wao wa ukweli unaoweza kuthibitishwa na kuagizwa kushawishi bila kutumia data halisiNguvu yao ya ushawishi ilishuka sana. Matokeo haya yalipelekea waandishi kuhitimisha kuwa faida ya gumzo juu ya miundo mingine ya propaganda za kisiasa haipo sana katika upotoshaji wa kihisia kama vile msongamano wa habari kwamba wanaweza kupeleka katika zamu chache tu za mazungumzo.

Lakini mkakati huu huo una upande wa chini: shinikizo linapoongezeka kwa mifano ya kuzalisha madai yanayodaiwa kuwa ya kweli zaidiHatari huongezeka kwamba mfumo utatoka nje ya nyenzo za kuaminika na kuanza "zulia" ukweliKwa ufupi, chatbot hujaza mapengo na data ambayo inaonekana kuwa sawa lakini sio sahihi.

Utafiti uliochapishwa katika Sayansi, na Watu wazima 76.977 kutoka Uingereza y 19 mifano tofauti (kutoka kwa mifumo midogo ya chanzo-wazi hadi mifano ya kisasa ya kibiashara), inathibitisha hili kwa utaratibu: the baada ya mafunzo yalilenga ushawishi iliongeza uwezo wa kushawishi hadi a 51%, wakati mabadiliko rahisi katika maagizo (kinachojulikana msukumoWakaongeza nyingine 27% ya ufanisi. Wakati huo huo, maboresho haya yalifuatana na kupunguzwa kwa dhahiri kwa usahihi wa ukweli.

Asymmetries ya kiitikadi na hatari ya disinformation

Mojawapo ya hitimisho linalosumbua zaidi la masomo ya Cornell na Oxford ni kwamba usawa kati ya ushawishi na ukweli haujasambazwa sawasawa kati ya watahiniwa na nyadhifa zote. Wakati wakaguzi huru wa ukweli walipochanganua ujumbe uliotolewa na chatbots, waligundua hilo Wanamitindo waliounga mkono wagombeaji wa mrengo wa kulia walifanya makosa zaidi kuliko wale waliounga mkono wagombea wanaoendelea.

Kulingana na waandishi, hii asymmetry Inaendana na tafiti zilizopita kwamba Zinaonyesha kuwa watumiaji wahafidhina huwa na tabia ya kushiriki maudhui yasiyo sahihi kwenye mitandao ya kijamii kuliko watumiaji wanaoegemea upande wa kushoto.Kwa kuwa modeli za lugha hujifunza kutokana na kiasi kikubwa cha taarifa zinazotolewa kutoka kwa mtandao, kuna uwezekano zinaonyesha baadhi ya upendeleo huo badala ya kuuunda kutoka mwanzo.

Kwa vyovyote vile, matokeo ni yale yale: wakati chatbot inapoagizwa kuongeza nguvu zake za ushawishi ili kupendelea kambi fulani ya kiitikadi, mtindo huo huelekea kuongeza idadi ya madai ya kupotosha, ingawa naendelea kuzichanganya na data nyingi sahihi. Shida sio tu kwamba habari za uwongo zinaweza kupita.lakini Inafanya hivyo iliyofungwa katika simulizi inayoonekana kuwa ya kuridhisha na iliyoandikwa vizuri.

Watafiti pia wanaangazia jambo lisilofurahisha: Hawajaonyesha kuwa madai yasiyo sahihi kwa asili yanashawishi zaidi.Hata hivyo, wakati AI inasukumwa kuwa na ufanisi zaidi, idadi ya makosa inakua sambamba. Kwa maneno mengine, kuboresha utendakazi wa kushawishi bila kuathiri usahihi hujidhihirisha kama changamoto ya kiufundi na kimaadili ambayo bado haijatatuliwa.

Mtindo huu unahusu hasa katika muktadha wa mgawanyiko mkubwa wa kisiasa, kama zile zilizo na uzoefu katika baadhi ya maeneo ya Ulaya na Amerika Kaskazini, ambako ushindi ni mdogo na asilimia chache ya pointi zinaweza kuamua matokeo ya uchaguzi mkuu au wa urais.

Mapungufu ya tafiti na mashaka kuhusu athari halisi kwenye sanduku la kura

Ingawa matokeo kutoka kwa Asili na Sayansi ni thabiti na yanakubaliana katika hitimisho lao kuu, timu zote zinasisitiza hilo Haya ni majaribio yanayodhibitiwa, si kampeni halisi.Kuna mambo kadhaa ambayo yanaalika tahadhari wakati wa kusambaza data kama uchaguzi wa mitaani.

Kwa upande mmoja, washiriki walijiandikisha kwa hiari au waliajiriwa kupitia majukwaa ambayo hutoa fidia ya kifedha, ambayo huanzisha upendeleo wa kujichagulia na inasonga mbali na utofauti wa wapiga kura halisiZaidi ya hayo, walijua hilo kila wakati Walikuwa wakizungumza na AI. na hiyo ilikuwa sehemu ya utafiti, masharti ambayo ni vigumu kurudiwa katika kampeni ya kawaida.

Nuance nyingine muhimu ni kwamba masomo kimsingi yalipimwa mabadiliko ya mitazamo na nia zilizotajwasio kura halisi iliyopigwa. Hivi ni viashirio muhimu, lakini si sawa na kuangalia tabia ya mwisho siku ya uchaguzi. Kwa hakika, katika majaribio ya Marekani, athari ilikuwa ndogo kwa kiasi fulani kuliko Kanada na Poland, ikipendekeza kwamba muktadha wa kisiasa na kiwango cha kutokuwa na uamuzi wa awali vina ushawishi mkubwa.

Kwa upande wa utafiti wa Uingereza unaoratibiwa na Kobi Hackenburg Kutoka kwa Taasisi ya Usalama ya AI ya Uingereza, pia kuna vikwazo wazi: data hutoka tu wapiga kura wa Uingereza, wote wanajua kwamba walikuwa wakishiriki katika uchunguzi wa kitaaluma na fidia ya kifedhaHii inapunguza ujumuishaji wake kwa nchi zingine za EU au miktadha isiyodhibitiwa sana.

Walakini, kiwango cha kazi hizi - makumi ya maelfu ya washiriki na zaidi ya Mada 700 tofauti za kisiasa- na uwazi wa mbinu umesababisha sehemu kubwa ya jumuiya ya wasomi kuzingatia hilo Wanachora mazingira yanayokubalikaMatumizi ya chatbots za kisiasa zenye uwezo wa kubadilisha maoni kwa haraka si nadharia ya siku zijazo, bali ni hali inayowezekana kitaalam katika kampeni zijazo.

Mchezaji mpya wa uchaguzi wa Uropa na demokrasia zingine

Zaidi ya kesi maalum za Marekani, Kanada, Poland, na Uingereza, matokeo yana athari za moja kwa moja kwa Ulaya na Uhispaniaambapo udhibiti wa mawasiliano ya kisiasa kwenye mitandao ya kijamii na matumizi ya data ya kibinafsi katika kampeni tayari ni mada ya mjadala mkali. Uwezekano wa kujumuisha chatbots zinazodumisha mazungumzo ya kibinafsi na wapiga kura Inaongeza safu ya ziada ya utata.

Hadi sasa, ushawishi wa kisiasa ulikuwa umeelezwa kimsingi kupitia matangazo tuli, mikutano ya hadhara, mijadala ya televisheni, na mitandao ya kijamiiKufika kwa wasaidizi wa mazungumzo huanzisha kipengele kipya: uwezo wa kudumisha mwingiliano wa mtu mmoja mmoja, ilichukuliwa kwa kuruka kulingana na kile raia anachosema kwa wakati halisi, na yote haya kwa gharama ya chini kwa waandaaji wa kampeni.

Watafiti wanasisitiza kuwa jambo la msingi sio tu ni nani anayedhibiti hifadhidata ya wapigakura, lakini ni nani anayeweza tengeneza miundo yenye uwezo wa kujibu, kuboresha, na kuiga hoja kwa kuendelea, kwa wingi wa maelezo ambayo yanazidi kwa mbali yale ambayo mtu wa kujitolea angeweza kushughulikia kwenye ubao wa kubadilishia umeme au posta ya mtaani.

Katika muktadha huu, sauti kama ile ya mtaalam wa Italia Walter Quattrociocchi Wanasisitiza kwamba mwelekeo wa udhibiti unapaswa kuhama kutoka kwa ubinafsishaji mkali au mgawanyiko wa kiitikadi kuelekea msongamano wa habari ambayo mifano inaweza kutoa. Uchunguzi unaonyesha kwamba ushawishi hukua hasa wakati data inapozidishwa, si wakati mikakati ya kihisia inatumiwa.

La Sadfa ya matokeo kati ya Asili na Sayansi imeibua kengele katika mashirika ya Ulaya wasiwasi kuhusu uadilifu wa michakato ya kidemokrasiaIngawa Umoja wa Ulaya unafanya maendeleo na mifumo kama vile Sheria ya Huduma za Dijitali au udhibiti mahususi wa siku zijazo wa AI, kasi ambayo miundo hii inabadilika. Inahitaji mapitio ya mara kwa mara ya taratibu za usimamizi, ukaguzi na uwazi..

Ujuzi wa kidijitali na ulinzi dhidi ya ushawishi wa kiotomatiki

Mojawapo ya jumbe zinazojirudia katika fafanuzi za kitaaluma zinazoambatana na kazi hizi ni kwamba jibu haliwezi kutegemea tu makatazo au udhibiti wa kiufundi. Waandishi wanakubali kwamba itakuwa muhimu kuimarisha ujuzi wa kidijitali ya idadi ya watu ili wananchi wajifunze kutambua na kupinga ushawishi yanayotokana na mifumo otomatiki.

Majaribio ya ziada, kama yale yaliyochapishwa katika PNAS NexusWanapendekeza kwamba watumiaji wanaoelewa vyema jinsi miundo mikubwa ya lugha inavyofanya kazi chini ya mazingira magumu kwa majaribio yake ya ushawishi. Kujua kwamba chatbot inaweza kuwa mbaya, kutia chumvi, au kujaza mapengo kwa kubahatisha hupunguza mwelekeo wa kukubali jumbe zake kana kwamba zimetoka kwa mamlaka isiyokosea.

Wakati huo huo, imeonekana kuwa ufanisi wa ushawishi wa AI hautegemei sana mpatanishi anayeamini kuwa anazungumza na mwanadamu mtaalam, lakini kwa ubora na uthabiti wa hoja kwamba inapokea. Katika baadhi ya majaribio, ujumbe wa chatbot hata uliweza kupunguza imani katika nadharia za njama, bila kujali kama washiriki walifikiri walikuwa wakipiga soga na mtu au mashine.

Hii inaonyesha kwamba teknolojia yenyewe haina madhara kwa asili: inaweza kutumika kwa wote wawili kupambana na disinformation kama kuenezaMstari huo hutolewa na maagizo yaliyotolewa kwa mfano, data ambayo inafunzwa, na, juu ya yote, malengo ya kisiasa au ya kibiashara ya wale wanaoiweka katika vitendo.

Wakati serikali na wasimamizi wakijadiliana kuhusu uwazi na masharti ya uwazi, watunzi wa kazi hizi wanasisitiza wazo moja: chatbots za kisiasa Wataweza tu kutoa ushawishi mkubwa ikiwa umma utakubali kuingiliana nao.Kwa hivyo, mjadala wa umma juu ya matumizi yake, uwekaji lebo wazi, na haki ya kutoshawishiwa kiotomatiki itakuwa masuala muhimu katika mazungumzo ya kidemokrasia katika miaka ijayo.

Picha iliyochorwa na utafiti katika Asili na Sayansi inaonyesha fursa na hatari zote mbili: Chatbots za AI zinaweza kusaidia kuelezea vyema sera za umma na kutatua mashaka magumu, lakini pia zinaweza kusaidia. Wana uwezo wa kunyoosha mizani ya uchaguzihasa miongoni mwa wapiga kura ambao hawajaamua, na wanafanya hivyo kwa a bei dhahiri katika suala la usahihi wa habari wakati wamefunzwa ili kuongeza nguvu zao za ushawishi, mizani tete ambayo demokrasia italazimika kushughulikia kwa haraka na bila ujinga.

Makala inayohusiana:

California hupitisha SB 243 ili kudhibiti gumzo za AI na kulinda watoto

Alberto Navarro

Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.

Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.