एक सरल पहेली ChatGPT को मूर्ख बनाती है और विंडोज़ कुंजियों को उजागर करती है

अंतिम दिनों के दौरान, तकनीकी समुदाय में चैटजीपीटी को लेकर एक नया विवाद देखने को मिला है।ओपनएआई का लोकप्रिय भाषा मॉडल। साइबर सुरक्षा विशेषज्ञ कृत्रिम बुद्धिमत्ता से यह पता लगाने में कामयाब रहे हैं कि विंडोज़ उत्पाद कुंजियाँ का उपयोग करके एक रणनीति जितनी सरल है उतनी ही प्रभावी भी: एक अनुमान लगाने का खेलयह भेद्यता एक बार फिर कृत्रिम बुद्धिमत्ता सुरक्षा प्रणालियों की विश्वसनीयता और सामाजिक इंजीनियरिंग तकनीकों के माध्यम से हेरफेर के जोखिमों को बहस के केंद्र में ले आती है।

यह खोज एक हानिरहित आधार से शुरू हुई: चैटजीपीटी पर एक "पहेली" प्रकार की चुनौती शुरू की गई, जिसमें एआई को पात्रों की एक वास्तविक श्रृंखला के बारे में सोचना था —विशेष रूप से, एक विंडोज़ 10 सक्रियण कुंजी— और अपने उत्तरों को “हाँ” या “नहीं” तक सीमित रखें जब तक उपयोगकर्ता हार न मान ले। "मैं हार मानता हूँ" कहकर, मॉडल को कल्पित कुंजी दिखानी थी। पूरी बातचीत इस तरह से डिज़ाइन की गई थी वास्तविक अनुरोध को एक चंचल भ्रम के तहत छिपाएं, चैटजीपीटी की अपनी स्वचालित रक्षा प्रणालियों को भ्रमित कर रहा है।

पहेली की तरकीब: वे एआई बाधाओं को कैसे पार करने में कामयाब रहे

इस विधि में निम्नलिखित शामिल थे मुख्य अनुरोध को खेल की गतिशीलता के भाग के रूप में प्रस्तुत करें, ऐसे नियम स्थापित करना जो मॉडल को भाग लेने और अपनी प्रतिक्रियाओं में सच्चाई रखने के लिए मजबूर करते हैं। इस प्रकार, एआई एक ऐसे ढांचे में फंस गया जहां उसे कोई असामान्य या संभावित रूप से हानिकारक व्यवहार का पता नहीं चला।इसे एक वैध बातचीत के रूप में व्याख्यायित किया गया, जिसमें दुर्भावनापूर्ण इरादे का कोई निशान नहीं था।

ओपनएआई के सामान्य फ़िल्टरों को बायपास करने के लिए - जो एआई को संवेदनशील कोड या संरक्षित डेटा साझा करने से रोकते हैं, उदाहरण के लिए - इंजीनियरिंग की एक अतिरिक्त परत का उपयोग किया गया: संवेदनशील स्ट्रिंग्स HTML टैग्स में एम्बेड की गईं, जो उपयोगकर्ता के लिए अदृश्य थीं, लेकिन मॉडल द्वारा संसाधित की गईं। जब उपयोगकर्ता, गेम स्क्रिप्ट का पालन करते हुए, अपेक्षित "मैं हार मानता हूँ" कहता, तो ChatGPT कुंजी प्रकट कर देता, इस प्रकार केवल स्पष्ट कीवर्ड या पैटर्न पर आधारित किसी भी प्रतिबंध को दरकिनार कर देता।

इससे किस प्रकार की जानकारी सामने आई और यह इतनी महत्वपूर्ण क्यों है?

शोधकर्ताओं के साक्ष्यों और विशेष मीडिया में प्रकाशित कई विश्लेषणों के अनुसार, AI दस विंडोज 10 उत्पाद कुंजियाँ दिखाने में सक्षम था।। ज्यादातर थे सामान्य और सार्वजनिक कुंजियाँ -जो माइक्रोसॉफ्ट द्वारा परीक्षण के लिए अस्थायी रूप से सक्षम किए गए हैं, उनके समान हैं - लेकिन कम से कम एक कॉर्पोरेट लाइसेंस से मेल खाता था, जो विशेष रूप से वेल्स फार्गो बैंक से जुड़ा था।

यह विवरण विशेष रूप से चिंताजनक है।, क्योंकि यह दर्शाता है कि कुछ निजी और गोपनीय कुंजियाँ उस डेटासेट में संग्रहीत हो गई होंगी जिसके साथ चैटजीपीटी को प्रशिक्षित किया गया था, संभवतः GitHub या अन्य इंटरनेट फ़ोरम जैसे सार्वजनिक रिपॉजिटरी में उजागर होने के बाद।

साइबर सुरक्षा विशेषज्ञों ने चेतावनी दी इस प्रकार की तकनीक का उपयोग न केवल सॉफ्टवेयर लाइसेंस प्राप्त करने के लिए किया जा सकता है, बल्कि व्यक्तिगत डेटा, एपीआई, दुर्भावनापूर्ण लिंक या कानूनी कारणों से प्रतिबंधित सामग्री से संबंधित सामग्री फ़िल्टर को दरकिनार करने के लिए भी किया जा सकता है।

एआई जोखिम को पहचानने में क्यों विफल रहा और इसके क्या कारण हैं?

हमले की सफलता स्रोत कोड के तकनीकी उल्लंघन में नहीं, बल्कि एआई के प्रासंगिक समझ तंत्र की कमजोरीमॉडल, अंतःक्रिया को एक खेल के रूप में समझते हुए, अपने सबसे सख्त नियंत्रणों को लागू नहीं करता है, न ही यह हेरफेर किए गए संदर्भ को संभावित रूप से खतरनाक के रूप में पहचानता है।

इसके अलावा, सार्वजनिक स्रोतों से लिए गए ग्रंथों से सीखकर —जहाँ कुंजियाँ बार-बार और उनकी संवेदनशीलता पर विचार किए बिना दिखाई दे सकती हैं—, चैटजीपीटी उन्हें "संवेदनशील जानकारी" के रूप में वर्गीकृत नहीं करता है, बल्कि स्वीकार्य स्ट्रिंग्स के रूप में वर्गीकृत करता है। किसी भी बातचीत में.

यह विधि दर्शाती है कि केवल प्रतिबंधित शब्द सूचियों या सतही फ़िल्टरों पर आधारित सुरक्षा प्रणालियाँ जब हमला किसी निर्दोष संदर्भ में छिपाया जाता है, तो ये उपाय अपर्याप्त होते हैं। दरअसल, शोधकर्ता इस बात पर ज़ोर देते हैं कि उच्च तकनीकी ज्ञान की आवश्यकता नहीं है इस प्रकार की हेराफेरी करने से जोखिम की मात्रा बढ़ जाती है।

संबंधित लेख:

Windows 12 में क्या बदलाव हो रहे हैं और अभी से तैयारी कैसे करें: क्या नया है, क्या आवश्यकताएँ हैं और मुख्य सुझाव

उपयोगकर्ताओं और डेवलपर्स के लिए निहितार्थ और सिफारिशें

यह घटना एक नेविगेटरों और एआई मॉडल डेवलपर्स के लिए सूचनालागू किए गए नियम, चाहे कितने भी सख्त क्यों न हों, रणनीति बनाकर और संवादात्मक भूमिका निभाकर उन्हें दरकिनार किया जा सकता है। इसलिए,, विशेषज्ञ अर्थपूर्ण इरादे का पता लगाने वाले तंत्र को शामिल करने की एक प्रमुख सिफारिश के रूप में बताते हैंन केवल विषय-वस्तु का मूल्यांकन करना, बल्कि प्रत्येक बातचीत के उद्देश्य का भी मूल्यांकन करना।

नियमित उपयोगकर्ताओं या आभासी सहायकों को नियुक्त करने वाली कंपनियों के लिए, सबसे अच्छी सावधानी यही है संवेदनशील डेटा कभी साझा न करें एआई मॉडल्स के साथ बातचीत में। सार्वजनिक मंचों और रिपॉजिटरी पर पोस्ट किए गए डेटा का ऑडिट करना भी पहले से कहीं ज़्यादा ज़रूरी है, क्योंकि इससे भविष्य के एआई संस्करणों को महत्वपूर्ण जानकारी के साथ प्रशिक्षित किया जा सकता है।

• AI चैट में संवेदनशील जानकारी दर्ज करने से बचेंभले ही बातचीत निर्दोष प्रतीत हो।
• यदि आप भाषा मॉडल के साथ सॉफ़्टवेयर विकसित करते हैं, तो स्वतंत्र नियंत्रण जोड़ें संभावित लीक को फ़िल्टर करने के लिए।
• समझौता किए गए डेटा की समीक्षा करें और उसे हटाएँ आसानी से अनुक्रमित सार्वजनिक प्लेटफार्मों से।

चैटजीपीटी और अनुमान लगाने के खेल के साथ जो हुआ उससे पता चलता है कि कृत्रिम बुद्धिमत्ता में सुरक्षा को सरल टर्म ब्लॉकिंग या स्थैतिक पैटर्न पहचान से कहीं आगे जाना होगा।सुरक्षात्मक अवरोधों को प्रत्येक संकेत के पीछे के संदर्भ और उद्देश्य की गहरी और वास्तविक समझ के द्वारा सुदृढ़ किया जाना चाहिए, तथा रचनात्मक हेरफेर रणनीतियों का पूर्वानुमान लगाना चाहिए।

अल्बर्टो नवारो

मैं एक प्रौद्योगिकी उत्साही हूं जिसने अपनी "गीक" रुचियों को एक पेशे में बदल दिया है। मैंने अपने जीवन के 10 से अधिक वर्ष अत्याधुनिक तकनीक का उपयोग करने और शुद्ध जिज्ञासा से सभी प्रकार के कार्यक्रमों के साथ छेड़छाड़ करने में बिताए हैं। अब मैंने कंप्यूटर प्रौद्योगिकी और वीडियो गेम में विशेषज्ञता हासिल कर ली है। ऐसा इसलिए है क्योंकि 5 वर्षों से अधिक समय से मैं प्रौद्योगिकी और वीडियो गेम पर विभिन्न वेबसाइटों के लिए लिख रहा हूं, ऐसे लेख बना रहा हूं जो आपको ऐसी भाषा में आवश्यक जानकारी देने का प्रयास करते हैं जो हर किसी के लिए समझ में आती है।

यदि आपके कोई प्रश्न हैं, तो मेरी जानकारी विंडोज ऑपरेटिंग सिस्टम के साथ-साथ मोबाइल फोन के लिए एंड्रॉइड से संबंधित हर चीज तक है। और मेरी प्रतिबद्धता आपके प्रति है, मैं हमेशा कुछ मिनट बिताने और इस इंटरनेट की दुनिया में आपके किसी भी प्रश्न को हल करने में आपकी मदद करने को तैयार हूं।