सिनेटरको गुनासोपछि गुगलले जेम्मालाई एआई स्टुडियोबाट हटायो

गुगलको निर्णय आफ्नो मोडेल फिर्ता लिनुहोस् एआई स्टुडियो प्लेटफर्मबाट जेम्मा यो अमेरिकी सिनेटर मार्शा ब्ल्याकबर्नको औपचारिक गुनासो पछि आएको हो, जसले दाबी गर्छिन् कि एआईले उनी विरुद्ध झूटा आरोपहरू उत्पन्न गर्‍योयस एपिसोडले उत्पादक प्रणालीहरूको सीमा र मोडेलले हानिकारक जानकारी उत्पादन गर्दा प्रविधि कम्पनीहरूको जिम्मेवारीको बारेमा छलफललाई पुन: चर्काएको छ।

जेम्मालाई विकासकर्ताहरूका लागि तयार पारिएको हल्का तौलका मोडेलहरूको सेटको रूपमा परिकल्पना गरिएको थियो, सामान्य-उद्देश्य उपभोक्ता सहायकको रूपमा होइन। तैपनि, प्रयोगकर्ताहरूले यसलाई एआई स्टुडियो मार्फत पहुँच गरे। y तिनीहरूले यसलाई तथ्यपरक प्रश्नहरू सोध्न प्रयोग गर्थेजसले गर्दा बनावटी उत्तरहरू र अवस्थित नभएका लिङ्कहरू.

के भयो र कसरी विवाद सुरु भयो

सिनेटरको संस्करण अनुसार, सोध्दा “के मार्शा ब्ल्याकबर्नमाथि बलात्कारको आरोप लागेको छ?"। जेम्माले विस्तृत तर गलत विवरण फिर्ता गर्ने थिइन् जसले १९८७ को राज्य सिनेट अभियानको क्रममा घटनाहरूलाई स्थान दियो, र लागूपदार्थ प्राप्त गर्न कथित दबाब समावेश गर्‍यो र कहिल्यै अस्तित्वमा नभएका सहमति बिनाका कार्यहरूसांसद आफैंले आफ्नो अभियान १९९८ मा भएको र उनले कहिल्यै यस्तो आरोप नपाएको स्पष्ट पारिन्।

एआई प्रतिक्रिया पनि समावेश गरिएको हुन्थ्यो त्रुटि पृष्ठहरूमा पुर्‍याउने लिङ्कहरू वा असंबद्ध समाचार वस्तुहरू, प्रमाणको रूपमा प्रस्तुत गरियो। यो बुँदा विशेष गरी संवेदनशील छ किनभने 'भ्रम' लाई प्रमाणित गर्न सकिने कुरामा परिणत गर्छनभए पनि।

गुगलको प्रतिक्रिया र जेम्माको पहुँचमा परिवर्तनहरू

विवाद पछि, गुगलले एआई स्टुडियोमा गैर-विकासकर्ताहरूले जेम्मा प्रयोग गर्ने प्रयासहरू पत्ता लगाएको बताएको छ।तथ्यगत सोधपुछ सहित। त्यसकारण, यसले निर्णय गर्यो एआई स्टुडियोमा सार्वजनिक पहुँचबाट जेम्मा हटाउनुहोस् र यसलाई API हरू मार्फत विशेष रूपमा उपलब्ध राख्नुहोस्। अनुप्रयोगहरू निर्माण गर्नेहरूका लागि।

कम्पनीले जोड दियो कि जेम्मा 'विकासकर्ता-पहिले' मोडेल हो र जेमिनी जस्तो उपभोक्ता च्याटबट होइन।त्यसकारण, यो तथ्य-जाँचकर्ताको रूपमा डिजाइन गरिएको छैन न त यसमा विशेष जानकारी पुन: प्राप्ति उपकरणहरू छन्। कम्पनीको शब्दमा, भ्रम सम्पूर्ण उद्योगको लागि चुनौती हो र तिनीहरू सक्रिय रूपमा तिनीहरूलाई कम गर्न काम गर्छन्।

यो परिवर्तनले संकेत गर्छ कि अब च्याट-प्रकारको इन्टरफेस हुनेछैन। जेम्माका लागि एआई स्टुडियोमा; यसको प्रयोग एपीआईद्वारा नियन्त्रित विकास वातावरण र एकीकरणहरूमा सीमित छ, एउटा सन्दर्भ जहाँ विकासकर्ताले थप सुरक्षा उपायहरू र प्रमाणीकरणहरू ग्रहण गर्दछ।

पूर्वाग्रह र मानहानि सम्बन्धी कानुनी आयाम र राजनीतिक बहस

ब्ल्याकबर्नले गुगलका सीईओ सुन्दर पिचाईलाई एउटा पत्र पठाए, जसमा के भयो भनेर वर्णन गरिएको थियो, त्यो हानिरहित गल्ती होइन, तर एआई मोडेलद्वारा सिर्जना गरिएको मानहानिसिनेटरले सामग्री कसरी उत्पन्न भयो, राजनीतिक वा वैचारिक पूर्वाग्रहहरूलाई कम गर्न के उपायहरू अवस्थित छन्, र पुनरावृत्ति रोक्न के कदम चालिनेछ भन्ने बारे स्पष्टीकरण अनुरोध गरे, साथै प्रतिक्रिया प्राप्त गर्ने समयसीमा पनि तोके।

सिनेट वाणिज्य समितिको सुनुवाइको क्रममा, कांग्रेस महिलाले गुगलका सरकारी मामिला तथा सार्वजनिक नीतिका उपाध्यक्ष मार्कहम एरिक्सनसँग पनि यो मुद्दा उठाए, जसले उनले स्वीकार गरे कि मतिभ्रम एक ज्ञात समस्या हो र कम्पनीले यसलाई कम गर्न काम गरिरहेको उल्लेख गरे।यस मुद्दाले कम्पनीहरूको जिम्मेवारीमा ध्यान केन्द्रित गरेको छ जब उनीहरूका मोडेलहरूले सार्वजनिक व्यक्तित्वहरूको प्रतिष्ठालाई हानि पुर्‍याउँछन्।

विवाद बढ्दै गयो रूढिवादीहरूले उद्धृत गरेका अन्य एपिसोडहरू, जस्तै कार्यकर्ता रोबी स्टारबक, त्यो उनले जेम्माले गम्भीर अपराध र अतिवादसँग झूटो रूपमा जोडेको दाबी गर्छन्।. En este contexto, सम्भावित पूर्वाग्रहहरूको बारेमा बहस फेरि चर्किएको छ एआई प्रणालीहरूमा र क्षति हुँदा सुरक्षा ढाँचा, अनुगमन, र सहारा मार्गहरूको आवश्यकता।

पक्षपातपूर्ण अडानभन्दा बाहिर, यो मुद्दाले सार्वजनिक अन्तरक्रियाको लागि डिजाइन नगरिएका मोडेलहरू हुन सक्छन् भन्ने कुरालाई प्रकाश पार्छ सामान्य सहायकको रूपमा गलत बुझाइयोविकास प्रोटोटाइप र आम जनताका लागि उत्पादनहरू बीचको रेखा धमिलो पार्ने, उत्पन्न भएको कुरालाई प्रमाणित जानकारीको रूपमा लिइएमा स्पष्ट जोखिमहरू सहित।

एआई स्टुडियोबाट जेम्माको फिर्ता र एपीआई मार्कमा उनको सीमितता मोडेलको प्रयोगलाई जुन क्षेत्रमा यो परिकल्पना गरिएको थियो त्यसैमा पुनर्निर्देशित गर्ने प्रयास, साथै प्रश्नहरू उठाउँदै सत्यता, सुरक्षा र जवाफदेहिताको मापदण्ड एआईले वास्तविक मानिसहरू, विशेष गरी सार्वजनिक अधिकारीहरूको प्रतिष्ठालाई असर गर्छ भने त्यसले नियन्त्रण गर्नुपर्छ।