સેનેટરની ફરિયાદ બાદ ગૂગલે જેમ્માને AI સ્ટુડિયોમાંથી દૂર કર્યા

ગુગલનો નિર્ણય કે તમારા મોડેલને પાછું ખેંચો AI સ્ટુડિયો પ્લેટફોર્મ પરથી જેમ્મા આ યુએસ સેનેટર માર્શા બ્લેકબર્નની ઔપચારિક ફરિયાદ બાદ આવ્યું છે, જે દાવો કરે છે કે AI એ તેમની સામે ખોટા આરોપો ઉભા કર્યાઆ એપિસોડે જનરેટિવ સિસ્ટમ્સની મર્યાદાઓ અને જ્યારે કોઈ મોડેલ હાનિકારક માહિતી ઉત્પન્ન કરે છે ત્યારે ટેકનોલોજી કંપનીઓની જવાબદારી વિશે ચર્ચા ફરી શરૂ કરી દીધી છે.

જેમ્માનો ખ્યાલ વિકાસકર્તાઓ માટે રચાયેલ હળવા વજનના મોડેલોના સમૂહ તરીકે કરવામાં આવ્યો હતો, સામાન્ય હેતુવાળા ગ્રાહક સહાયક તરીકે નહીં. તેમ છતાં, વપરાશકર્તાઓએ AI સ્ટુડિયો દ્વારા તેને ઍક્સેસ કર્યું. y તેઓએ તેનો ઉપયોગ વાસ્તવિક પ્રશ્નો પૂછવા માટે કર્યોજેના કારણે બનાવટી જવાબો અને અસ્તિત્વમાં ન હોય તેવી લિંક્સ.

શું થયું અને વિવાદ કેવી રીતે શરૂ થયો

સેનેટરના સંસ્કરણ મુજબ, જ્યારે પૂછવામાં આવ્યું કે “શું માર્શા બ્લેકબર્ન પર બળાત્કારનો આરોપ છે?”, જેમ્મા વિગતવાર પણ ખોટો અહેવાલ પાછો આપત જેમાં 1987 ના રાજ્ય સેનેટ અભિયાન દરમિયાન ઘટનાઓ રજૂ કરવામાં આવી હતી, અને તેમાં ડ્રગ્સ મેળવવા માટે કથિત દબાણનો સમાવેશ થતો હતો અને સહમતિ વિનાના કૃત્યો જે ક્યારેય અસ્તિત્વમાં નહોતાસંસદસભ્યે પોતે સ્પષ્ટતા કરી હતી કે તેમનો પ્રચાર 1998 માં હતો અને તેમના પર ક્યારેય આવો આરોપ લાગ્યો નથી.

AI પ્રતિભાવમાં પણ સમાવેશ થયો હોત લિંક્સ જે ભૂલ પૃષ્ઠો તરફ દોરી ગઈ અથવા અસંબંધિત સમાચાર વસ્તુઓ, જેમ કે પુરાવા હોય તેમ રજૂ કરવામાં આવે છે. આ મુદ્દો ખાસ કરીને સંવેદનશીલ છે કારણ કે 'ભ્રમ' ને એવી વસ્તુમાં ફેરવે છે જે ચકાસી શકાય તેવું માનવામાં આવે છે, ભલે તે ન હોય.

ગૂગલની પ્રતિક્રિયા અને જેમ્માના એક્સેસમાં થયેલા ફેરફારો

વિવાદ બાદ, ગૂગલે સમજાવ્યું કે તેણે AI સ્ટુડિયોમાં બિન-વિકાસકર્તાઓ દ્વારા જેમ્માનો ઉપયોગ કરવાના પ્રયાસો શોધી કાઢ્યા છે.હકીકતલક્ષી પૂછપરછ સાથે. તેથી, તેણે નક્કી કર્યું કે AI સ્ટુડિયોમાં જેમ્માને જાહેર ઍક્સેસમાંથી દૂર કરો અને તેને ફક્ત API દ્વારા ઉપલબ્ધ રાખો. જેઓ એપ્લિકેશન બનાવે છે તેમના માટે.

કંપનીએ ભાર મૂક્યો કે જેમ્મા એક 'ડેવલપર-ફર્સ્ટ' મોડેલ છે અને જેમિનીની જેમ ગ્રાહક ચેટબોટ નથી.તેથી, તે હકીકત-તપાસનાર તરીકે ડિઝાઇન કરવામાં આવ્યું નથી કે તેમાં ચોક્કસ માહિતી પુનઃપ્રાપ્તિ સાધનો નથી. કંપનીના શબ્દોમાં, ભ્રમણા સમગ્ર ઉદ્યોગ માટે એક પડકાર છે અને તેઓ તેમને ઘટાડવા માટે સક્રિયપણે કાર્ય કરે છે.

આ ફેરફાર સૂચવે છે કે હવે ચેટ-પ્રકારનું ઇન્ટરફેસ રહેશે નહીં. જેમ્મા માટે AI સ્ટુડિયોમાં; તેનો ઉપયોગ API દ્વારા નિયંત્રિત વિકાસ વાતાવરણ અને એકીકરણ સુધી મર્યાદિત છે, એક એવો સંદર્ભ જ્યાં વિકાસકર્તા વધારાના સલામતી અને માન્યતાઓ ધારે છે.

પક્ષપાત અને બદનક્ષી પર કાનૂની પરિમાણ અને રાજકીય ચર્ચા

બ્લેકબર્ને ગુગલના સીઈઓ સુંદર પિચાઈને એક પત્ર મોકલ્યો, જેમાં જે બન્યું તે હાનિકારક ભૂલ તરીકે નહીં, પરંતુ એક AI મોડેલ દ્વારા કરવામાં આવેલી બદનક્ષીસેનેટરએ સામગ્રી કેવી રીતે જનરેટ કરવામાં આવી, રાજકીય અથવા વૈચારિક પૂર્વગ્રહોને ઘટાડવા માટે કયા પગલાં અસ્તિત્વમાં છે અને પુનરાવર્તનને રોકવા માટે કયા પગલાં લેવામાં આવશે તે અંગે સ્પષ્ટતા માંગી, તેમજ પ્રતિભાવ પ્રાપ્ત કરવા માટે સમયમર્યાદા પણ નક્કી કરી.

સેનેટ વાણિજ્ય સમિતિની સુનાવણી દરમિયાન, કોંગ્રેસવુમનએ ગુગલના સરકારી બાબતો અને જાહેર નીતિના ઉપપ્રમુખ માર્કહામ એરિક્સન સમક્ષ પણ આ મુદ્દો ઉઠાવ્યો, જેમણે તેમણે સ્વીકાર્યું કે ભ્રામકતા એક જાણીતી સમસ્યા છે અને નોંધ્યું કે કંપની તેને ઘટાડવા માટે કામ કરી રહી છે.આ કેસથી કંપનીઓની જવાબદારી પર ધ્યાન કેન્દ્રિત થયું છે જ્યારે તેમના મોડેલો જાહેર વ્યક્તિઓની પ્રતિષ્ઠાને નુકસાન પહોંચાડે છે.

વિવાદ વધુ તીવ્ર બન્યો રૂઢિચુસ્તો દ્વારા ટાંકવામાં આવેલા અન્ય એપિસોડ્સ, જેમ કે કાર્યકર્તા રોબી સ્ટારબક, તે તેમનો દાવો છે કે જેમ્મા દ્વારા તેમને ગંભીર ગુનાઓ અને ઉગ્રવાદ સાથે ખોટી રીતે જોડવામાં આવ્યા છે.. En este contexto, સંભવિત પૂર્વગ્રહો વિશેની ચર્ચા ફરી શરૂ થઈ છે AI સિસ્ટમ્સમાં અને નુકસાન થાય ત્યારે સુરક્ષા માળખા, દેખરેખ અને આશ્રય માર્ગોની જરૂરિયાત.

પક્ષપાતી સ્થિતિઓ ઉપરાંત, આ કેસ એ વાત પર ભાર મૂકે છે કે જાહેર ક્રિયાપ્રતિક્રિયા માટે રચાયેલ ન હોય તેવા મોડેલો સામાન્ય સહાયકો તરીકે ગેરસમજસામાન્ય લોકો માટે વિકાસ પ્રોટોટાઇપ્સ અને ઉત્પાદનો વચ્ચેની રેખાને ઝાંખી કરવી, જો જનરેટ થયેલી માહિતીને ચકાસાયેલ માહિતી તરીકે લેવામાં આવે તો સ્પષ્ટ જોખમો સાથે.

AI સ્ટુડિયોમાંથી જેમ્માની ખસી જવી અને API માર્ક સુધી તેની કેદ મોડેલના ઉપયોગને તે ક્ષેત્રમાં રીડાયરેક્ટ કરવાનો પ્રયાસ જેના માટે તેની કલ્પના કરવામાં આવી હતી., જ્યારે પ્રશ્નો ઉભા કરે છે કે સત્યતા, સલામતી અને જવાબદારીના ધોરણો જ્યારે કોઈ AI વાસ્તવિક લોકો, ખાસ કરીને જાહેર અધિકારીઓની પ્રતિષ્ઠાને અસર કરે છે ત્યારે તે નિયંત્રિત થવું જોઈએ.