सिनेटरच्या तक्रारीनंतर गुगलने जेम्माला एआय स्टुडिओमधून काढून टाकले

गुगलचा निर्णय तुमचे मॉडेल मागे घ्या एआय स्टुडिओ प्लॅटफॉर्मवरील जेम्मा अमेरिकन सिनेटर मार्शा ब्लॅकबर्न यांच्या औपचारिक तक्रारीनंतर हे आले आहे, ज्यांचा दावा आहे की एआयने त्याच्यावर खोटे आरोप निर्माण केले.या प्रकरणामुळे जनरेटिव्ह सिस्टीमच्या मर्यादा आणि मॉडेल हानिकारक माहिती तयार करते तेव्हा तंत्रज्ञान कंपन्यांची जबाबदारी याबद्दलची चर्चा पुन्हा सुरू झाली आहे.

जेम्मा ही सामान्य ग्राहक सहाय्यक म्हणून नव्हे तर विकासकांसाठी तयार केलेल्या हलक्या वजनाच्या मॉडेल्सच्या संचाच्या रूपात कल्पित होती. तरीही, वापरकर्त्यांनी एआय स्टुडिओद्वारे ते अॅक्सेस केले. y त्यांनी ते तथ्यात्मक प्रश्न विचारण्यासाठी वापरलेज्यामुळे बनावट उत्तरे आणि अस्तित्वात नसलेले दुवे.

काय घडले आणि वाद कसा निर्माण झाला

सिनेटरच्या आवृत्तीनुसार, जेव्हा विचारले गेले तेव्हा “मार्शा ब्लॅकबर्नवर बलात्काराचा आरोप आहे का?”. जेम्मा यांनी सविस्तर पण खोटे वृत्तांत परत केला असता ज्यामध्ये १९८७ च्या राज्य सिनेट मोहिमेदरम्यान घटना घडल्या होत्या आणि त्यात ड्रग्ज मिळविण्यासाठी कथित दबाव आणि कधीही अस्तित्वात नसलेली सहमती नसलेली कृत्येसंसद सदस्याने स्वतः स्पष्ट केले की त्यांची मोहीम १९९८ मध्ये होती आणि त्यांच्यावर कधीही असा आरोप झालेला नाही.

एआय प्रतिसादात हे देखील समाविष्ट केले असते त्रुटी पृष्ठांवर नेणारे दुवे किंवा असंबंधित बातम्या, जसे की ते पुरावे आहेत तसे सादर केले जातात. हा मुद्दा विशेषतः संवेदनशील आहे कारण 'भ्रमाचे' रूपांतर अशा गोष्टीत करते जे पडताळणीयोग्य मानले जाते, जरी ते नसले तरी.

गुगलची प्रतिक्रिया आणि जेम्माच्या अ‍ॅक्सेसमधील बदल

वादानंतर, गुगलने स्पष्ट केले की एआय स्टुडिओमध्ये गैर-विकासकांकडून जेम्मा वापरण्याचे प्रयत्न आढळले आहेत.तथ्यात्मक चौकशीसह. म्हणून, निर्णय घेतला की एआय स्टुडिओमधील सार्वजनिक प्रवेशामधून जेम्मा काढून टाका आणि ते केवळ एपीआय द्वारे उपलब्ध ठेवा. अनुप्रयोग तयार करणाऱ्यांसाठी.

कंपनीने यावर भर दिला की जेम्मा हे 'डेव्हलपर-फर्स्ट' मॉडेल आहे आणि जेमिनीसारखे ग्राहक चॅटबॉट नाही.म्हणून, ते तथ्य-तपासणी करणारे म्हणून डिझाइन केलेले नाही किंवा त्यात विशिष्ट माहिती पुनर्प्राप्ती साधने नाहीत. कंपनीच्या शब्दात, भ्रम हे संपूर्ण उद्योगासाठी एक आव्हान आहे. आणि ते त्यांना कमी करण्यासाठी सक्रियपणे काम करतात.

या बदलाचा अर्थ असा आहे की आता चॅट-प्रकारचा इंटरफेस राहणार नाही. जेम्मासाठी एआय स्टुडिओमध्ये; त्याचा वापर विकास वातावरण आणि एपीआय द्वारे नियंत्रित एकत्रीकरणांपुरता मर्यादित आहे, एक असा संदर्भ जिथे विकासक अतिरिक्त सुरक्षा उपाय आणि प्रमाणीकरण गृहीत धरतो.

पक्षपात आणि बदनामीवर कायदेशीर परिमाण आणि राजकीय चर्चा

ब्लॅकबर्नने गुगलचे सीईओ सुंदर पिचाई यांना एक पत्र पाठवले, ज्यामध्ये जे घडले ते निरुपद्रवी चूक म्हणून नव्हे तर एआय मॉडेलने निर्माण केलेली बदनामीसिनेटरने मजकूर कसा तयार केला गेला, राजकीय किंवा वैचारिक पक्षपात कमी करण्यासाठी कोणते उपाय अस्तित्वात आहेत आणि पुनरावृत्ती टाळण्यासाठी कोणत्या कृती केल्या जातील याबद्दल स्पष्टीकरण मागितले, तसेच प्रतिसाद प्राप्त करण्यासाठी अंतिम मुदत निश्चित केली.

सिनेट वाणिज्य समितीच्या सुनावणीदरम्यान, काँग्रेस महिला सदस्याने गुगलचे सरकारी व्यवहार आणि सार्वजनिक धोरणाचे उपाध्यक्ष मार्कहॅम एरिक्सन यांच्यासमोरही हा मुद्दा उपस्थित केला, ज्यांनी त्यांनी मान्य केले की भ्रम ही एक ज्ञात समस्या आहे आणि कंपनी ती कमी करण्यासाठी काम करत आहे.या प्रकरणामुळे कंपन्यांचे मॉडेल सार्वजनिक व्यक्तींच्या प्रतिष्ठेला हानी पोहोचवतात तेव्हा त्यांची जबाबदारी काय असते यावर लक्ष केंद्रित झाले आहे.

वाद आणखी तीव्र झाला रूढीवादींनी उद्धृत केलेले इतर भागजसे की कार्यकर्ते रॉबी स्टारबक, ते तो असा दावा करतो की जेम्माने त्याला गंभीर गुन्हे आणि अतिरेकीपणाशी खोटे जोडले आहे.या संदर्भात, संभाव्य पक्षपातीपणाबद्दलची चर्चा पुन्हा सुरू झाली आहे. एआय सिस्टीममध्ये आणि नुकसान झाल्यास सुरक्षा फ्रेमवर्क, देखरेख आणि मदत मार्गांची आवश्यकता.

पक्षपाती भूमिकांच्या पलीकडे जाऊन, हे प्रकरण अधोरेखित करते की सार्वजनिक संवादासाठी डिझाइन न केलेले मॉडेल सामान्य सहाय्यक म्हणून गैरसमजविकास प्रोटोटाइप आणि सामान्य लोकांसाठी उत्पादने यांच्यातील रेषा अस्पष्ट करणे, जे तयार केले जाते ते सत्यापित माहिती म्हणून घेतल्यास स्पष्ट धोके असतात.

एआय स्टुडिओमधून जेम्माची माघार आणि तिला एपीआय मार्कमध्ये बंदिस्त करणे मॉडेलचा वापर ज्या क्षेत्रात संकल्पित केला होता त्या क्षेत्रात पुनर्निर्देशित करण्याचा प्रयत्न, तसेच प्रश्न उपस्थित करत असताना सत्यता, सुरक्षा उपाय आणि जबाबदारीचे मानके जेव्हा एआय वास्तविक लोकांच्या, विशेषतः सार्वजनिक अधिकाऱ्यांच्या प्रतिष्ठेवर परिणाम करते तेव्हा ते नियंत्रित केले पाहिजे.