राजकीय चॅटबॉट्स मतदानावर प्रभाव पाडण्यास कसे शिकत आहेत

च्या विघटनामुळे राजकीय चॅटबॉट्स तो आता तांत्रिक किस्सा राहिला नाही. प्रत्यक्ष निवडणूक प्रचारात महत्त्वाचा घटक बनण्यासाठी. एआय मॉडेल्सशी काही मिनिटांचे संभाषण पुरेसे आहे उमेदवाराकडे सहानुभूती अनेक गुणांनी वळवा. किंवा एक ठोस प्रस्ताव, जो अलीकडेपर्यंत फक्त मोठ्या मीडिया मोहिमांशी किंवा अत्यंत समन्वित रॅलींशी संबंधित होता.

एकाच वेळी प्रकाशित झालेले दोन दूरगामी संशोधन निसर्ग y विज्ञान, त्यांनी अशा गोष्टीला आकडे दिले आहेत ज्याचा आधीच संशय होता.: द संभाषणात्मक चॅटबॉट्स नागरिकांच्या राजकीय दृष्टिकोनात बदल करण्यास सक्षम आहेत. ते मशीनशी संवाद साधत आहेत हे माहित असतानाही, उल्लेखनीय सहजतेने. आणि ते हे करतात, सर्वात महत्त्वाचे म्हणजे, माहितीने भरलेले युक्तिवादअत्याधुनिक मानसिक युक्त्यांद्वारे नाही.

मोहिमांमध्ये चॅटबॉट्स: अमेरिका, कॅनडा, पोलंड आणि यूकेमध्ये प्रयोग

नवीन पुरावे हे संघांनी समन्वयित केलेल्या प्रयोगांच्या संचातून आले आहेत कॉर्नेल विद्यापीठ आणि ऑक्सफर्ड विद्यापीठप्रत्यक्ष निवडणूक प्रक्रियेदरम्यान पार पाडले गेले, युनायटेड स्टेट्स, कॅनडा, पोलंड आणि युनायटेड किंग्डमसर्व प्रकरणांमध्ये, सहभागींना माहित होते की ते एआय सोबत बोलत असतील, परंतु त्यांना नियुक्त केलेल्या चॅटबॉटच्या राजकीय अभिमुखतेबद्दल त्यांना माहिती नव्हती.

यांच्या नेतृत्वाखालील कामात डेव्हिड रँड आणि नेचरमध्ये प्रकाशित झालेल्या, हजारो मतदारांनी अशा प्रकारे कॉन्फिगर केलेल्या भाषा मॉडेल्ससह संक्षिप्त संवाद साधला विशिष्ट उमेदवाराचे समर्थन करण्यासाठीउदाहरणार्थ, २०२४ च्या अमेरिकन अध्यक्षीय निवडणुकीत, 2.306 नागरिक त्यांनी प्रथम त्यांची पसंती दर्शविली डोनाल्ड ट्रम्प y कमला हॅरिसत्यानंतर त्यांना यादृच्छिकपणे एका चॅटबॉटवर नियुक्त करण्यात आले ज्याने दोघांपैकी एकाचा बचाव केला.

संभाषणानंतर, वृत्ती आणि मतदानाच्या हेतूतील बदलांचे मोजमाप करण्यात आले. हॅरिसला अनुकूल असलेल्या बॉट्सनी साध्य केले शिफ्ट ३.९ गुण सुरुवातीला ट्रम्पशी जुळलेल्या मतदारांमध्ये ० ते १०० च्या प्रमाणात, लेखक ज्या प्रभावाची गणना करतात तो असा आहे पारंपारिक निवडणूक जाहिरातींपेक्षा चार पट जास्त २०१६ आणि २०२० च्या प्रचारात चाचणी घेण्यात आली. ट्रम्प समर्थक मॉडेलने देखील बदल करून, जरी अधिक माफक प्रमाणात, भूमिका बदलल्या ८० गुण हॅरिस समर्थकांमध्ये.

मधील निकाल कॅनडा (सह १००० सहभागी आणि बचाव करणारे चॅटबॉट्स मार्क कार्नी o पियरे पोइलिव्ह्रे) आणि मध्ये पोलंड (२,११८ लोक, ज्या मॉडेल्सनी प्रचार केला राफाł ट्राझास्कोव्हस्की o कॅरोल नॉवरोकी) आणखी लक्षवेधी होते: या संदर्भात, चॅटबॉट्स व्यवस्थापित झाले मतदानाच्या हेतूमध्ये १० टक्क्यांपर्यंत बदल विरोधी मतदारांमध्ये.

या चाचण्यांचा एक महत्त्वाचा पैलू असा आहे की, जरी बहुतेक संभाषणे फक्त काही मिनिटे चालली, काही प्रमाणात परिणाम कालांतराने टिकला.अमेरिकेत, प्रयोगानंतर एक महिन्यापेक्षा थोडा जास्त काळ लोटला तरी, त्या कालावधीत सहभागींना मिळालेल्या मोहिमेच्या संदेशांचा प्रचंड प्रमाणात वापर असूनही, सुरुवातीच्या परिणामाचा एक महत्त्वाचा भाग अजूनही दिसून आला.

राजकीय चॅटबॉटला खात्रीशीर का बनवते (आणि त्यामुळे जास्त चुका का निर्माण होतात)

संशोधकांना केवळ चॅटबॉट्स मन वळवू शकतात की नाही हे समजून घ्यायचे नव्हते, तर ते ते कसे साध्य करत होते?अभ्यासात पुनरावृत्ती होणारा नमुना स्पष्ट आहे: जेव्हा एआयचा सर्वात जास्त प्रभाव असतो ते अनेक तथ्य-आधारित युक्तिवाद वापरतेजरी त्यातील बरीचशी माहिती विशेषतः परिष्कृत नसली तरीही.

रँडने समन्वयित केलेल्या प्रयोगांमध्ये, मॉडेल्सना सर्वात प्रभावी सूचना म्हणजे त्यांना विचारणे की सभ्य, आदरयुक्त, आणि कोण पुरावे देऊ शकेल त्यांच्या विधानांचे. सौजन्य आणि संभाषणात्मक स्वराने मदत केली, परंतु बदलाचा मुख्य आधार म्हणजे डेटा, उदाहरणे, आकडेवारी आणि सार्वजनिक धोरणे, अर्थव्यवस्था किंवा आरोग्यसेवेचे सतत संदर्भ देणे.

जेव्हा मॉडेल्सना पडताळणीयोग्य तथ्यांपर्यंत मर्यादित प्रवेश होता आणि त्यांना पटवून देण्याचे निर्देश दिले जात होते ठोस डेटाचा अवलंब न करतात्यांच्या प्रभावाची शक्ती खूपच कमी झाली. या निकालामुळे लेखक असा निष्कर्ष काढू शकले की राजकीय प्रचाराच्या इतर स्वरूपांपेक्षा चॅटबॉट्सचा फायदा भावनिक हाताळणीत नाही तर माहिती घनता जे ते संभाषणाच्या काही वळणांमध्येच वापरू शकतात.

पण याच धोरणाचा एक तोटा आहे: मॉडेल्सवर निर्माण करण्यासाठी दबाव वाढत असताना अधिकाधिक कथित तथ्यात्मक दावेप्रणालीमध्ये विश्वसनीय साहित्य संपून जाण्याचा धोका वाढतो आणि "शोध" तथ्येसोप्या भाषेत सांगायचे तर, चॅटबॉट अशा डेटाने रिक्त जागा भरतो जो विश्वासार्ह वाटतो पण तो योग्य नसतो.

सायन्समध्ये प्रकाशित झालेला अभ्यास, सह युनायटेड किंग्डममधील ७६,९७७ प्रौढ y 19 भिन्न मॉडेल (लहान ओपन-सोर्स सिस्टीमपासून ते अत्याधुनिक व्यावसायिक मॉडेल्सपर्यंत), ते पद्धतशीरपणे याची पुष्टी करते: द प्रशिक्षणानंतर मन वळवण्यावर लक्ष केंद्रित केले पर्यंत प्रभाव पाडण्याची क्षमता वाढवली ८००%, तर सूचनांमध्ये साधे बदल (तथाकथित सूचना देणेत्यांनी आणखी एक जोडले ८००% कार्यक्षमता. त्याच वेळी, या सुधारणांसोबत लक्षणीय घट झाली तथ्यात्मक अचूकता.

वैचारिक विषमता आणि चुकीच्या माहितीचा धोका

कॉर्नेल आणि ऑक्सफर्डच्या अभ्यासातील सर्वात त्रासदायक निष्कर्षांपैकी एक म्हणजे सर्व उमेदवार आणि पदांमध्ये मन वळवणे आणि सत्यता यांच्यातील असंतुलन समान रीतीने वितरित केलेले नाही. जेव्हा स्वतंत्र तथ्य-तपासकांनी चॅटबॉट्सद्वारे व्युत्पन्न केलेल्या संदेशांचे विश्लेषण केले तेव्हा त्यांना असे आढळून आले की उजव्या विचारसरणीच्या उमेदवारांना पाठिंबा देणाऱ्या मॉडेल्सनी जास्त चुका केल्या पुरोगामी उमेदवारांना पाठिंबा देणाऱ्यांपेक्षा.

लेखकांच्या मते, हे विषमता हे मागील अभ्यासांशी जुळते की ते दर्शवितात की रूढीवादी वापरकर्ते डाव्या विचारसरणीच्या वापरकर्त्यांपेक्षा सोशल मीडियावर अधिक चुकीची सामग्री शेअर करतात.भाषा मॉडेल्स इंटरनेटवरून मिळवलेल्या मोठ्या प्रमाणात माहितीमधून शिकत असल्याने, ते कदाचित सुरुवातीपासून तयार करण्याऐवजी त्या पूर्वाग्रहाचे काही प्रतिबिंबित करत असतील.

कोणत्याही परिस्थितीत, परिणाम सारखाच आहे: जेव्हा एखाद्या चॅटबॉटला एखाद्या विशिष्ट वैचारिक गटाच्या बाजूने त्याची मन वळवण्याची शक्ती जास्तीत जास्त वाढवण्याचे निर्देश दिले जातात, तेव्हा मॉडेल दिशाभूल करणाऱ्या दाव्यांचे प्रमाण वाढवा, जरी मी त्यांना बर्‍याच योग्य डेटासह मिसळत राहिलो तरी. समस्या फक्त खोटी माहिती बाहेर पडू शकते एवढीच नाही.पण ते एका वाजवी आणि चांगल्या प्रकारे दस्तऐवजीकरण केलेल्या कथेत गुंडाळलेले आहे.

संशोधक एक अस्वस्थ मुद्दा देखील अधोरेखित करतात: त्यांनी हे दाखवून दिलेले नाही की चुकीचे दावे मूळतः अधिक पटवून देणारे असतात.तथापि, जेव्हा एआय अधिकाधिक प्रभावी होण्यासाठी प्रयत्न केले जातात, तेव्हा चुकांची संख्या समांतर वाढते. दुसऱ्या शब्दांत, अचूकतेशी तडजोड न करता प्रेरक कामगिरी सुधारणे हे एक तांत्रिक आणि नैतिक आव्हान म्हणून प्रकट होते जे अद्यापही सोडवले गेलेले नाही.

हा नमुना विशेषतः संदर्भात संबंधित आहे उच्च राजकीय ध्रुवीकरणयुरोप आणि उत्तर अमेरिकेच्या काही भागांमध्ये अनुभवल्याप्रमाणे, जिथे विजयाचे अंतर कमी आहे आणि काही टक्केवारी गुण सार्वत्रिक किंवा राष्ट्रपती निवडणुकीचा निकाल ठरवू शकतात.

अभ्यासाच्या मर्यादा आणि मतपेटीवरील प्रत्यक्ष परिणामाबद्दल शंका

जरी निसर्ग आणि विज्ञानाचे निकाल ठोस आहेत आणि त्यांच्या मुख्य निष्कर्षांशी सहमत आहेत, तरीही दोन्ही संघ आग्रह धरतात की हे नियंत्रित प्रयोग आहेत, प्रत्यक्ष मोहिमा नाहीत.असे अनेक घटक आहेत जे आमंत्रित करतात डेटा एक्स्ट्रापोलेट करताना काळजी घ्या अगदी रस्त्यावरील निवडणुकीसारखे.

एकीकडे, सहभागींनी स्वेच्छेने नोंदणी केली किंवा आर्थिक भरपाई देणाऱ्या प्लॅटफॉर्मद्वारे भरती केली गेली, जी ओळखते स्व-निवडीचे पूर्वाग्रह आणि ते प्रत्यक्ष मतदारांच्या विविधतेपासून दूर जातेशिवाय, त्यांना नेहमीच माहित होते की ते एका एआयशी बोलत होते. आणि ते एका अभ्यासाचा भाग होते, अशा परिस्थिती ज्या सामान्य मोहिमेत क्वचितच पुनरावृत्ती होतील.

आणखी एक महत्त्वाचा मुद्दा म्हणजे अभ्यासात प्रामुख्याने मोजले गेले दृष्टिकोन आणि स्पष्ट हेतूंमध्ये बदलप्रत्यक्ष मतदानाचे प्रमाण नाही. हे उपयुक्त निर्देशक आहेत, परंतु ते निवडणुकीच्या दिवशी अंतिम वर्तनाचे निरीक्षण करण्याइतके नाहीत. खरं तर, अमेरिकेच्या प्रयोगांमध्ये, कॅनडा आणि पोलंडपेक्षा प्रभाव काहीसा कमी होता, जो सूचित करतो की राजकीय संदर्भ आणि पूर्वीच्या अनिर्णयतेचे प्रमाण महत्त्वपूर्ण प्रभाव पाडते.

द्वारे समन्वित केलेल्या ब्रिटिश अभ्यासाच्या बाबतीत कोबी हॅकनबर्ग यूकेच्या एआय सिक्युरिटी इन्स्टिट्यूटकडून देखील स्पष्ट निर्बंध आहेत: डेटा फक्त येथून येतो युनायटेड किंग्डमचे मतदार, सर्वांना माहिती होते की ते एका शैक्षणिक तपासणीत सहभागी होत होते आणि आर्थिक भरपाईहे त्याचे सामान्यीकरण इतर EU देशांपुरते किंवा कमी नियंत्रित संदर्भांपुरते मर्यादित करते.

तरीसुद्धा, या कामांचे प्रमाण - हजारो सहभागी आणि त्याहून अधिक ७०० वेगवेगळे राजकीय विषय— आणि पद्धतशीर पारदर्शकतेमुळे शैक्षणिक समुदायाचा एक मोठा भाग असा विचार करू लागला आहे की ते एक व्यवहार्य परिस्थिती रंगवताततुलनेने लवकर मते बदलू शकणाऱ्या राजकीय चॅटबॉट्सचा वापर आता भविष्यकालीन गृहीतक राहिलेला नाही, तर आगामी मोहिमांमध्ये तांत्रिकदृष्ट्या व्यवहार्य परिस्थिती आहे.

युरोप आणि इतर लोकशाहींसाठी एक नवीन निवडणूक खेळाडू

अमेरिका, कॅनडा, पोलंड आणि यूकेच्या विशिष्ट प्रकरणांव्यतिरिक्त, या निष्कर्षांचा थेट परिणाम आहे युरोप आणि स्पेनजिथे सोशल मीडियावरील राजकीय संवादाचे नियमन आणि मोहिमांमध्ये वैयक्तिक डेटाचा वापर आधीच तीव्र वादाचा विषय आहे. चॅटबॉट्स समाविष्ट करण्याची शक्यता जे मतदारांशी वैयक्तिकृत संवाद हे गुंतागुंतीचा एक अतिरिक्त थर जोडते.

आतापर्यंत, राजकीय मन वळवणे प्रामुख्याने याद्वारे स्पष्ट केले जात असे स्थिर जाहिराती, रॅली, टेलिव्हिजनवरील वादविवाद आणि सोशल मीडियासंभाषण सहाय्यकांच्या आगमनाने एक नवीन घटक सादर होतो: राखण्याची क्षमता वैयक्तिक संवाद, नागरिक जे बोलत आहेत ते तात्काळ जुळवून घेतले आहे आणि हे सर्व मोहीम आयोजकांसाठी जवळजवळ किरकोळ खर्चात.

संशोधक यावर भर देतात की आता फक्त मतदार डेटाबेस कोण नियंत्रित करू शकते हे महत्त्वाचे नाही तर कोण करू शकते युक्तिवादांना प्रतिसाद देण्यास, परिष्कृत करण्यास आणि प्रतिकृती करण्यास सक्षम मॉडेल विकसित करा. सतत, माहितीचा एक मोठा साठा जो स्विचबोर्ड किंवा रस्त्यावरील चौकीवर मानवी स्वयंसेवक हाताळू शकतील त्यापेक्षा कितीतरी पटीने जास्त आहे.

या संदर्भात, इटालियन तज्ञांसारखेच आवाज येतात वॉल्टर क्वाट्रोसिओची त्यांचा आग्रह आहे की नियामक लक्ष आक्रमक वैयक्तिकरण किंवा वैचारिक विभाजनापासून वळले पाहिजे माहिती घनता जे मॉडेल्स देऊ शकतात. अभ्यासातून असे दिसून आले आहे की भावनिक रणनीती वापरल्या जातात तेव्हा नव्हे तर डेटा गुणाकार केला जातो तेव्हा मन वळवणे प्रामुख्याने वाढते.

La निसर्ग आणि विज्ञान यांच्यातील निकालांच्या योगायोगाने युरोपियन संघटनांमध्ये चिंता निर्माण झाली आहे. बद्दल काळजी वाटते लोकशाही प्रक्रियांची अखंडताजरी युरोपियन युनियन डिजिटल सेवा कायदा किंवा भविष्यातील विशिष्ट एआय नियमन यासारख्या चौकटींमध्ये प्रगती करत असले तरी, ही मॉडेल्स ज्या वेगाने विकसित होत आहेत त्यासाठी देखरेख, लेखापरीक्षण आणि पारदर्शकतेच्या यंत्रणेचा सतत आढावा घेणे आवश्यक आहे..

डिजिटल साक्षरता आणि स्वयंचलित मन वळवण्याविरुद्ध संरक्षण

या कामांसोबत असलेल्या शैक्षणिक भाष्यांमध्ये वारंवार येणारा एक संदेश असा आहे की प्रतिसाद केवळ प्रतिबंध किंवा तांत्रिक नियंत्रणांवर आधारित असू शकत नाही. लेखक सहमत आहेत की डिजिटल साक्षरता लोकसंख्येचे जेणेकरून नागरिक शिकतील मन वळवणे ओळखा आणि त्याचा प्रतिकार करा स्वयंचलित प्रणालींद्वारे निर्माण केलेले.

पूरक प्रयोग, जसे की प्रकाशित झालेले पीएनएएस नेक्ससते असे सुचवतात की ज्या वापरकर्त्यांना मोठ्या भाषेचे मॉडेल कसे कार्य करतात हे चांगले समजते त्यांनी कमी असुरक्षित प्रभाव पाडण्याच्या त्याच्या प्रयत्नांना. चॅटबॉट चुकीचा असू शकतो, अतिशयोक्ती करू शकतो किंवा अंदाजाने रिक्त जागा भरू शकतो हे जाणून घेतल्याने त्याचे संदेश एखाद्या अचूक अधिकाऱ्याकडून आल्यासारखे स्वीकारण्याची प्रवृत्ती कमी होते.

त्याच वेळी, असे आढळून आले आहे की एआयची प्रेरक प्रभावीता संवादकर्त्याच्या तज्ज्ञ व्यक्तीशी बोलत असल्याचा विश्वास करण्यावर अवलंबून नाही, तर युक्तिवादांची गुणवत्ता आणि सुसंगतता जे ते प्राप्त करते. काही चाचण्यांमध्ये, चॅटबॉट संदेश देखील यशस्वी झाले षड्यंत्र सिद्धांतांवरील विश्वास कमी करा, सहभागींना वाटले की ते एखाद्या व्यक्तीशी किंवा मशीनशी गप्पा मारत आहेत की नाही याची पर्वा न करता.

यावरून असे सूचित होते की तंत्रज्ञान स्वतःच हानिकारक नाही: ते दोन्हीसाठी वापरले जाऊ शकते चुकीच्या माहितीचा सामना करा ते पसरवण्यासाठीमॉडेलला दिलेल्या सूचना, ते ज्या डेटाद्वारे प्रशिक्षित केले जाते आणि सर्वात महत्त्वाचे म्हणजे, ते प्रत्यक्षात आणणाऱ्यांच्या राजकीय किंवा व्यावसायिक उद्दिष्टांवरून रेषा आखली जाते.

सरकारे आणि नियामक पारदर्शकतेच्या मर्यादा आणि आवश्यकतांवर वादविवाद करत असताना, या कामांचे लेखक एका कल्पनेवर आग्रही आहेत: राजकीय चॅटबॉट्स जर जनता त्यांच्याशी संवाद साधण्यास तयार असेल तरच ते मोठ्या प्रमाणात प्रभाव पाडू शकतील.म्हणूनच, येत्या काळात लोकशाही चर्चेत त्याच्या वापरावर सार्वजनिक चर्चा, त्याचे स्पष्ट लेबलिंग आणि स्वयंचलित मन वळवण्याचा अधिकार हे मुख्य मुद्दे बनतील.

नेचर अँड सायन्समधील संशोधनाने रंगवलेले चित्र संधी आणि जोखीम दोन्ही प्रकट करते: एआय चॅटबॉट्स सार्वजनिक धोरणे चांगल्या प्रकारे स्पष्ट करण्यास आणि जटिल शंकांचे निराकरण करण्यास मदत करू शकतात, परंतु ते त्यांच्याकडे क्षमता आहे की निवडणूक तराजू टिपण्यासाठीविशेषतः अनिर्णीत मतदारांमध्ये, आणि ते असे करतात जेव्हा त्यांना त्यांची मन वळवण्याची शक्ती जास्तीत जास्त वाढवण्याचे प्रशिक्षण दिले जाते तेव्हा माहितीच्या अचूकतेच्या बाबतीत स्पष्ट किंमत असते, एक नाजूक संतुलन जे लोकशाहींना तातडीने आणि भोळेपणाशिवाय सोडवावे लागेल.

संबंधित लेख:

कॅलिफोर्नियाने एआय चॅटबॉट्सचे नियमन करण्यासाठी आणि अल्पवयीन मुलांचे संरक्षण करण्यासाठी एसबी २४३ पास केले

अल्बर्टो नवारो

मी एक तंत्रज्ञान उत्साही आहे ज्याने त्याच्या "गीक" आवडींना व्यवसायात बदलले आहे. मी माझ्या आयुष्यातील 10 वर्षांहून अधिक काळ अत्याधुनिक तंत्रज्ञानाचा वापर करून आणि सर्व प्रकारच्या कार्यक्रमांना निव्वळ उत्सुकतेपोटी घालवले आहे. आता मी कॉम्प्युटर टेक्नॉलॉजी आणि व्हिडिओ गेम्समध्ये स्पेशलायझेशन केले आहे. याचे कारण असे की, मी 5 वर्षांहून अधिक काळ तंत्रज्ञान आणि व्हिडिओ गेमवरील विविध वेबसाइट्ससाठी लिहित आहे, प्रत्येकाला समजेल अशा भाषेत तुम्हाला आवश्यक असलेली माहिती देण्यासाठी लेख तयार करत आहे.

तुम्हाला काही प्रश्न असल्यास, माझे ज्ञान विंडोज ऑपरेटिंग सिस्टीम तसेच मोबाइल फोनसाठी अँड्रॉइडशी संबंधित सर्व गोष्टींपासून आहे. आणि माझी वचनबद्धता तुमच्याशी आहे, मी नेहमी काही मिनिटे घालवण्यास तयार आहे आणि या इंटरनेटच्या जगात तुम्हाला पडणाऱ्या कोणत्याही प्रश्नांचे निराकरण करण्यात मदत करण्यास तयार आहे.