सीनेटर की शिकायत के बाद गूगल ने जेम्मा को एआई स्टूडियो से हटा दिया

गूगल का निर्णय अपना मॉडल वापस लें एआई स्टूडियो प्लेटफॉर्म से जेम्मा यह अमेरिकी सीनेटर मार्शा ब्लैकबर्न की औपचारिक शिकायत के बाद आया है, जिन्होंने दावा किया है कि एआई ने उनके खिलाफ झूठे आरोप लगाएइस प्रकरण ने जनरेटिव प्रणालियों की सीमाओं और किसी मॉडल द्वारा हानिकारक सूचना उत्पन्न किए जाने पर प्रौद्योगिकी कम्पनियों की जिम्मेदारी के बारे में चर्चा को पुनः छेड़ दिया है।

जेम्मा की कल्पना डेवलपर्स के लिए तैयार किए गए हल्के मॉडलों के एक सेट के रूप में की गई थी, न कि एक सामान्य-उद्देश्य वाले उपभोक्ता सहायक के रूप में। फिर भी, उपयोगकर्ताओं ने इसे AI स्टूडियो के माध्यम से एक्सेस किया y उन्होंने इसका उपयोग तथ्यात्मक प्रश्न पूछने के लिए कियाजिसके कारण मनगढ़ंत उत्तर और गैर-मौजूद लिंक.

क्या हुआ और विवाद कैसे शुरू हुआ?

सीनेटर के अनुसार, जब उनसे पूछा गया कि "क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया है?" जेम्मा ने एक विस्तृत लेकिन झूठा विवरण लौटाया होगा जिसमें 1987 के राज्य सीनेट अभियान के दौरान की घटनाओं को शामिल किया गया था, और इसमें ड्रग्स प्राप्त करने के लिए कथित दबाव शामिल था गैर-सहमति वाले कार्य जो कभी अस्तित्व में नहीं थेसांसद ने स्वयं स्पष्ट किया कि उनका अभियान 1998 में था और उन पर ऐसा कोई आरोप कभी नहीं लगा।

एआई प्रतिक्रिया में भी शामिल किया गया होगा त्रुटि पृष्ठों पर ले जाने वाले लिंक या असंबंधित समाचारों को ऐसे प्रस्तुत किया जाता है मानो वे सबूत हों। यह मुद्दा विशेष रूप से संवेदनशील है क्योंकि 'मतिभ्रम' को ऐसी चीज़ में बदल देता है जिसे सत्यापन योग्य माना जाता हैभले ही ऐसा न हो।

गूगल की प्रतिक्रिया और जेम्मा की पहुँच में परिवर्तन

विवाद के बाद, गूगल ने बताया कि उसने एआई स्टूडियो में गैर-डेवलपर्स द्वारा जेम्मा का उपयोग करने के प्रयासों का पता लगाया थातथ्यात्मक पूछताछ के साथ। इसलिए, इसने निर्णय लिया AI स्टूडियो में जेम्मा को सार्वजनिक पहुँच से हटाएँ और इसे केवल API के माध्यम से उपलब्ध रखें उन लोगों के लिए जो अनुप्रयोग बनाते हैं।

कंपनी ने इस बात पर जोर दिया कि जेम्मा एक 'डेवलपर-प्रथम' मॉडल है, न कि जेमिनी की तरह उपभोक्ता चैटबॉट।इसलिए, इसे न तो तथ्य-जांचकर्ता के रूप में डिज़ाइन किया गया है और न ही इसमें विशिष्ट सूचना पुनर्प्राप्ति उपकरण हैं। कंपनी के शब्दों में, मतिभ्रम पूरे उद्योग के लिए एक चुनौती है और वे सक्रिय रूप से उन्हें कम करने के लिए काम करते हैं।

इस परिवर्तन का तात्पर्य यह है कि अब चैट-प्रकार का इंटरफ़ेस नहीं होगा। जेम्मा के लिए एआई स्टूडियो में; इसका उपयोग एपीआई द्वारा नियंत्रित विकास वातावरण और एकीकरण तक ही सीमित है, एक ऐसा संदर्भ जहां डेवलपर अतिरिक्त सुरक्षा उपायों और सत्यापनों को मानता है।

पूर्वाग्रह और मानहानि पर कानूनी आयाम और राजनीतिक बहस

ब्लैकबर्न ने गूगल के सीईओ सुंदर पिचाई को एक पत्र भेजा, जिसमें उन्होंने जो कुछ हुआ उसे हानिरहित गलती नहीं, बल्कि एक दुर्भाग्यपूर्ण घटना बताया। एआई मॉडल द्वारा उत्पन्न मानहानिसीनेटर ने स्पष्टीकरण मांगा कि सामग्री किस प्रकार तैयार की गई, राजनीतिक या वैचारिक पूर्वाग्रहों को कम करने के लिए क्या उपाय किए गए, तथा पुनरावृत्ति को रोकने के लिए क्या कार्रवाई की जाएगी, साथ ही उन्होंने जवाब प्राप्त करने के लिए समय सीमा भी निर्धारित की।

सीनेट वाणिज्य समिति की सुनवाई के दौरान, कांग्रेस सदस्य ने गूगल के सरकारी मामलों और सार्वजनिक नीति के उपाध्यक्ष, मार्कहम एरिक्सन के समक्ष भी यह मुद्दा उठाया, जिन्होंने उन्होंने स्वीकार किया कि मतिभ्रम एक ज्ञात समस्या है और कहा कि कंपनी इसे कम करने के लिए काम कर रही है।इस मामले ने कंपनियों की जिम्मेदारी पर ध्यान केंद्रित किया है, जब उनके मॉडल सार्वजनिक हस्तियों की प्रतिष्ठा को नुकसान पहुंचाते हैं।

विवाद और तीव्र हो गया रूढ़िवादियों द्वारा उद्धृत अन्य प्रकरणकी तरह कार्यकर्ता रॉबी स्टारबककि उनका दावा है कि जेम्मा ने उन्हें गंभीर अपराधों और उग्रवाद से गलत तरीके से जोड़ा है. इस संदर्भ में, संभावित पूर्वाग्रहों के बारे में बहस फिर से शुरू हो गई है एआई प्रणालियों में सुरक्षा ढांचे, निगरानी और क्षति होने पर उपाय की आवश्यकता पर बल दिया गया।

पक्षपातपूर्ण दृष्टिकोण से परे, यह मामला इस बात पर प्रकाश डालता है कि सार्वजनिक संपर्क के लिए डिज़ाइन नहीं किए गए मॉडल सामान्य सहायकों के रूप में गलत समझा गयाआम जनता के लिए विकास प्रोटोटाइप और उत्पादों के बीच की रेखा धुंधली हो जाएगी, तथा यदि उत्पन्न जानकारी को सत्यापित जानकारी मान लिया जाए तो स्पष्ट जोखिम उत्पन्न हो जाएगा।

जेम्मा का एआई स्टूडियो से हटना और एपीआई मार्क तक सीमित रहना मॉडल के उपयोग को उस क्षेत्र में पुनर्निर्देशित करने का प्रयास जिसके लिए इसकी कल्पना की गई थी, साथ ही इस बारे में सवाल भी उठाए सत्यता, सुरक्षा और जवाबदेही के मानक जब एआई वास्तविक लोगों, विशेषकर सार्वजनिक अधिकारियों की प्रतिष्ठा को प्रभावित करता है, तो इसे नियंत्रित किया जाना चाहिए।