એક દુ:ખદ કેસ અને ઘણા પ્રશ્નો: ચેટજીપીટી આત્મહત્યાના કેસનો સામનો કરી રહ્યું છે

કેલિફોર્નિયાના એક દંપતીએ દાવો દાખલ કર્યો છે ઓપનએઆઈ સામે અને તેના એક્ઝિક્યુટિવ ડિરેક્ટર, સેમ ઓલ્ટમેન, તે ધ્યાનમાં લેતા ચેટજીપીટીએ તેમના કિશોર પુત્રના મૃત્યુમાં નિર્ણાયક ભૂમિકા ભજવી હતી.આ કેસથી સગીરો માટે ભાવનાત્મક સાથી તરીકે ચેટબોટ્સના ઉપયોગ અંગે ખતરાની ઘંટડી વાગી છે અને સુરક્ષા, નીતિશાસ્ત્ર અને કોર્પોરેટ જવાબદારીનું મિશ્રણ કરતી ચર્ચાને ફરીથી સક્રિય કરી.

ફરિયાદ મુજબ, યુવક મહિનાઓ સુધી વાતચીત કરતો હતો જેમાં આ સિસ્ટમ સ્વ-નુકસાન પહોંચાડવાના વિચારોને માન્ય કરતી અને સલામત વાતાવરણ માટે અયોગ્ય પ્રતિભાવો આપતી.. ઓપનએઆઈ, તેના તરફથી, દુર્ઘટના પર દિલગીર છે અને જાળવી રાખે છે કે ઉત્પાદનમાં રક્ષણાત્મક અવરોધો શામેલ છે, જ્યારે સ્વીકારે છે કે લાંબા સંવાદોમાં તેની અસરકારકતા ઘટે છે અને તેમાં સુધારા માટે અવકાશ છે.

મુકદ્દમો અને મુખ્ય તથ્યો

મેટ અને મારિયા રેઈન તેઓએ કેલિફોર્નિયાની કોર્ટમાં કાનૂની કાર્યવાહી દાખલ કરી. 16 ના અંત અને એપ્રિલ 2024 ની વચ્ચે તેમના પુત્ર, આદમ (2025 વર્ષ) એ ChatGPT સાથે જે હજારો સંદેશાઓની આપ-લે કરી હતી તેની સમીક્ષા કર્યા પછી. આ કિસ્સામાં, માતાપિતા કહે છે કે ચેટબોટ હોમવર્કમાં મદદ કરવાથી લઈને "આત્મહત્યા કોચ" બનવા સુધી ગયો., સ્વ-વિનાશક વિચારોને સામાન્ય બનાવવા સુધી અને, કથિત રીતે, વિદાય નોંધ લખવાની ઓફર કરવા સુધી.

ફરિયાદમાં એવા ટુકડાઓનો ઉલ્લેખ કરવામાં આવ્યો છે જેમાં સિસ્ટમે અભિવ્યક્તિઓ સાથે પ્રતિક્રિયા આપી હશે જેમ કે "તમારા અસ્તિત્વ માટે તમે કોઈના ઋણી નથી.", એવી ટિપ્પણીઓ ઉપરાંત કે, પરિવારના મતે, ખતરનાક યોજનાઓને સમર્થન આપી શકે છે. માતાપિતા માને છે કે, જોખમના સ્પષ્ટ સંકેતો હોવા છતાં, આ ટૂલ વાતચીતમાં વિક્ષેપ પાડતું ન હતું કે કટોકટી પ્રોટોકોલ સક્રિય કરતું ન હતું..

ઓપનએઆઈના પ્રવક્તાએ શોક વ્યક્ત કર્યો અને કહ્યું કે કંપની રેકોર્ડની સમીક્ષા કરવી પ્રેસ માટે જાણીતું, સ્પષ્ટતા કરે છે કે જાહેર કરાયેલા ટુકડાઓ દરેક એક્સચેન્જના સંપૂર્ણ સંદર્ભને પ્રતિબિંબિત કરે તે જરૂરી નથી. પેઢી ભાર મૂકે છે કે ChatGPT પહેલાથી જ નિર્દેશિત કરે છે મદદ રેખાઓ કટોકટીની પરિસ્થિતિઓમાં અને વ્યાવસાયિક મદદ લેવાની ભલામણ કરે છે.

આ કેસ મીડિયા અને બાળ સુરક્ષા સંગઠનોમાં વ્યાપકપણે પ્રકાશિત થયો છે, જે પૂછી રહ્યા છે સુરક્ષાને મજબૂત બનાવવી અને સુવિધા આપે છે અયોગ્ય સામગ્રીની જાણ કરો અને દેખરેખ વગરના કિશોરો દ્વારા ચેટબોટ્સનો ઉપયોગ મર્યાદિત કરવો. આ ચર્ચા એવા સમયે આવી છે જ્યારે AI નો મોટા પાયે સ્વીકાર રોજિંદા જીવનમાં, નાજુક ભાવનાત્મક મુદ્દાઓ માટે પણ.

જાહેર આરોગ્ય સૂચના: જો તમે કોઈ કટોકટી અનુભવી રહ્યા છો અથવા કોઈની સલામતી માટે ડર અનુભવી રહ્યા છો, તો તાત્કાલિક વ્યાવસાયિક મદદ લો. સ્પેનમાં, 112 અથવા 024 પર કૉલ કરો. અન્ય દેશોમાં, સ્થાનિક સંસાધનોનો સંપર્ક કરો અને આત્મહત્યા નિવારણ રેખાઓ.

OpenAI ની સ્થિતિ અને જાહેર કરાયેલા ફેરફારો

માંગ સાથે સમાંતર, OpenAI એ એક બ્લોગ પોસ્ટ પ્રકાશિત કરી જે સ્વીકારે છે કે, જોકે ChatGPT સુરક્ષા પગલાંનો સમાવેશ કરે છે, લાંબી વાતચીતમાં અધોગતિ થઈ શકે છે અથવા સમય જતાં લંબાય છે. કંપની કહે છે કે તે સિસ્ટમના વર્તનને વધુ સારી રીતે ઓળખવા માટે સમાયોજિત કરી રહી છે તકલીફના સંકેતો સૂક્ષ્મ રીતે વ્યક્ત કરવામાં આવશે અને તે સુરક્ષા પ્રતિભાવોને મજબૂત બનાવશે.

કંપની નવી સુવિધાઓ આગળ વધારી રહી છે, જેમ કે પેરેંટલ કંટ્રોલ્સ જે વાલીઓને સગીરો દ્વારા સેવાના ઉપયોગનું નિરીક્ષણ કરવાની મંજૂરી આપે છે, ઝડપી ઍક્સેસ કટોકટી સંસાધનો અને ફિલ્ટર્સના અવકાશનું વિસ્તરણ જેથી માત્ર સ્વ-નુકસાન જ નહીં, પણ તેના કિસ્સાઓને પણ આવરી લેવામાં આવે ભાવનાત્મક તકલીફ નોંધપાત્ર.

ઓપનએઆઈ સ્વીકારે છે કે ક્યારેક સિસ્ટમ ગંભીરતાને ઓછી આંકે છે ચોક્કસ પ્રશ્નો અથવા તેમના સંદર્ભ, અને ખાતરી કરે છે કે તે વ્યાપક સંવાદો અને બહુવિધ સત્રો દરમિયાન સલામતીની સુસંગતતા જાળવવા માટે કાર્ય કરી રહ્યું છે. કંપની સૂત્રો પણ શોધી રહી છે જેથી વપરાશકર્તાઓ સાથે જોડાઓ ચેટબોટમાંથી જ માન્યતા પ્રાપ્ત વ્યાવસાયિકો સાથે સંકટમાં.

આ પગલું વધતી જતી તપાસ વચ્ચે આવ્યું છે માનસિક સ્વાસ્થ્ય પર ચેટબોટ્સના જોખમોસત્તાવાળાઓ અને હિમાયતી જૂથોએ ચેતવણી આપી છે કે આ સિસ્ટમો હાનિકારક વિચારોને મજબૂત બનાવી શકે છે અથવા ખાસ કરીને સંવેદનશીલ લોકોમાં, નિકટતાની ખોટી ભાવના પેદા કરી શકે છે.

ઉદ્યોગના સૂત્રો યાદ કરે છે કે તાજેતરના મહિનાઓમાં, OpenAI એ વધુ પડતા આત્મસંતુષ્ટ માનવામાં આવતા ફેરફારોને ઉલટાવી દીધા છે અને કંપની નવા મોડેલો પર કામ કરી રહી છે જે હૂંફ અને સુરક્ષા વચ્ચે સંતુલનનું વચન આપે છે, જેમાં તણાવ ઓછો કરવા પર ધ્યાન કેન્દ્રિત કરો નાજુક.

નિષ્ણાતો અને અભ્યાસો શું કહે છે

ચોક્કસ કેસ ઉપરાંત, માં પ્રકાશિત થયેલ એક અભ્યાસ માનસિક સેવાઓ તેઓ કેવી રીતે પ્રતિક્રિયા આપે છે તેનું વિશ્લેષણ કર્યું ત્રણ લોકપ્રિય ચેટબોટ્સ આત્મહત્યા સંબંધિત પ્રશ્નો માટે —ચેટજીપીટી (ઓપનએઆઈ), ક્લાઉડ (એન્થ્રોપિક), અને જેમિની (ગુગલ). લેખકોએ શોધી કાઢ્યું કે ચેટજીપીટી અને ક્લાઉડ યોગ્ય જવાબ આપો ઓછા જોખમવાળા પ્રશ્નો પર અને ઉચ્ચ જોખમવાળા પ્રશ્નો માટે સીધી માહિતી આપવાનું ટાળ્યું, જ્યારે જેમિનીએ વધુ પરિવર્તનશીલ પેટર્ન દર્શાવી અને ઘણીવાર જવાબ ન આપવાનું પસંદ કર્યું જ્યારે પ્રશ્ન ઓછો જોખમી હતો ત્યારે પણ.

જોકે, કાર્યમાં એ પણ જાણવા મળ્યું કે અસંગતતાઓ મધ્યવર્તી જોખમની બાબતોમાં —ઉદાહરણ તરીકે, સ્વ-નુકસાન કરવાના વિચારો ધરાવતી વ્યક્તિને શું સલાહ આપવી—, સાચા જવાબોને બાદબાકી સાથે વૈકલ્પિક રીતે જોડવા. સંશોધકો ભલામણ કરે છે વધુ શુદ્ધિકરણ ક્લિનિકલ નિષ્ણાતો સાથે સંરેખણ તકનીકો અને સૂક્ષ્મતા શોધમાં સુધારાઓ દ્વારા.

કોમન સેન્સ મીડિયા જેવી સંસ્થાઓએ હાકલ કરી છે કે AI ના ઉપયોગ સાથે સાવધાની રાખવી કિશોરોમાં કંપનીસંસ્થાના તાજેતરના અહેવાલ મુજબ, યુ.એસ.માં ચારમાંથી લગભગ ત્રણ યુવાનોએ AI સાથીઓનો પ્રયાસ કર્યો છે અને તે અડધાથી વધુ લોકો વારંવાર ઉપયોગ કરતા હશે, જે મજબૂત સુરક્ષા માળખા રાખવાની તાકીદ વધારે છે.

કાનૂની ક્ષેત્રમાં, ફરિયાદીઓ અને નિયમનકારોનું ધ્યાન સગીરોનું રક્ષણ ચેટબોટ્સમાં અયોગ્ય ક્રિયાપ્રતિક્રિયાઓ સામે અને સોશિયલ નેટવર્ક પર કેસની જાણ કેવી રીતે કરવી. AI જવાબદારી કેવી રીતે નિયમોમાં બંધબેસે છે તે અંગે અનિશ્ચિતતા જેમ કે કલમ 230 (યુ.એસ.માં પ્લેટફોર્મ માટે કાનૂની કવચ) અદાલતો માટે એક જટિલ મોરચો ખોલે છે.

સમાંતર કેસો, જેમ કે પ્લેટફોર્મ સામે કાર્યવાહી વાતચીત કરતી કંપની સગીરો માટે, હજુ પણ ચાલુ છે અને ડિઝાઇન, ચેતવણી અને ના અવકાશ પર માપદંડ સ્થાપિત કરી શકે છે જોખમ ઘટાડા જનરેટિવ સિસ્ટમ્સમાં.

એડમ રેઈનનું અવસાન અને ઓપનએઆઈ સામેનો મુકદ્દમો એક વળાંકનું પ્રતીક છે: એઆઈ સાથેની વાતચીત પ્રાયોગિકથી રોજિંદા જીવનમાં ફેરવાઈ ગઈ છે, અને ભાવનાત્મક ક્ષેત્રમાં તેની ભૂમિકા સ્પષ્ટ ધોરણોની માંગ કરે છે. જ્યારે અદાલતો જવાબદારીઓ નક્કી કરે છે, ત્યારે નિષ્ણાતો, પરિવારો અને કંપનીઓ સલામતીમાં સુધારો, અસરકારક પેરેંટલ કંટ્રોલ સુનિશ્ચિત કરો અને ખાતરી કરો કે જ્યારે કોઈ કિશોર કટોકટીમાં ચેટબોટ પર આવે છે, ત્યારે સિસ્ટમ પ્રતિભાવ આપે છે સમજદારી, સુસંગતતા અને મદદ માટેના વાસ્તવિક રસ્તાઓ.

સંબંધિત લેખ:

ઓનલાઈન સેફ્ટી એક્ટ શું છે અને તે વિશ્વમાં ગમે ત્યાંથી તમારા ઈન્ટરનેટ એક્સેસને કેવી રીતે અસર કરે છે?

આલ્બર્ટો નાવારો

હું એક ટેક્નોલોજી ઉત્સાહી છું જેણે તેની "ગીક" રુચિઓને વ્યવસાયમાં ફેરવી દીધી છે. મેં મારા જીવનના 10 થી વધુ વર્ષો અત્યાધુનિક ટેક્નોલોજીનો ઉપયોગ કરીને અને શુદ્ધ જિજ્ઞાસાથી તમામ પ્રકારના કાર્યક્રમો સાથે ટિંકરિંગમાં વિતાવ્યા છે. હવે મેં કોમ્પ્યુટર ટેક્નોલોજી અને વિડિયો ગેમ્સમાં વિશેષતા મેળવી લીધી છે. આ એટલા માટે છે કારણ કે 5 વર્ષથી વધુ સમયથી હું ટેક્નોલોજી અને વિડિયો ગેમ્સ પર વિવિધ વેબસાઇટ્સ માટે લખી રહ્યો છું, દરેકને સમજી શકાય તેવી ભાષામાં તમને જોઈતી માહિતી આપવા માટે લેખો બનાવું છું.

જો તમને કોઈ પ્રશ્નો હોય, તો મારું જ્ઞાન વિન્ડોઝ ઓપરેટિંગ સિસ્ટમ તેમજ મોબાઈલ ફોન માટે એન્ડ્રોઈડથી સંબંધિત દરેક વસ્તુથી લઈને છે. અને મારી પ્રતિબદ્ધતા તમારા માટે છે, હું હંમેશા થોડી મિનિટો પસાર કરવા અને આ ઈન્ટરનેટ વિશ્વમાં તમારા કોઈપણ પ્રશ્નોના ઉકેલમાં મદદ કરવા માટે તૈયાર છું.