एक दुःखद प्रकरण आणि अनेक प्रश्न: चॅटजीपीटीवर आत्महत्येच्या खटल्याचा सामना करावा लागत आहे

कॅलिफोर्नियातील एका जोडप्याने खटला दाखल केला आहे. ओपनएआय विरुद्ध आणि त्याचे कार्यकारी संचालक, सॅम ऑल्टमन, हे लक्षात घेता त्याच्या किशोरवयीन मुलाच्या मृत्यूमध्ये चॅटजीपीटीने निर्णायक भूमिका बजावली.या प्रकरणामुळे अल्पवयीन मुलांसाठी भावनिक साथीदार म्हणून चॅटबॉट्सचा वापर करण्याबाबत धोक्याची घंटा वाजली आहे आणि सुरक्षा, नीतिमत्ता आणि कॉर्पोरेट जबाबदारी यांचे मिश्रण करणारा वादविवाद पुन्हा सक्रिय केला.

तक्रारीनुसार, त्या तरुणाने अनेक महिने संभाषणे केली ज्यामध्ये ही प्रणाली स्वतःला हानी पोहोचवणाऱ्या विचारांना मान्यता देईल आणि सुरक्षित वातावरणासाठी अयोग्य प्रतिसाद देईल.. ओपनएआय, त्यांच्या बाजूने, या दुर्घटनेबद्दल खेद व्यक्त करते आणि उत्पादनात संरक्षणात्मक अडथळे समाविष्ट असल्याचे सांगते, परंतु हे मान्य करते की दीर्घ संवादांमध्ये त्याची प्रभावीता कमी होते. आणि सुधारणेला वाव आहे.

खटला आणि महत्त्वाचे तथ्य

मॅट आणि मारिया रेन त्यांनी कॅलिफोर्नियाच्या न्यायालयात कायदेशीर कारवाई दाखल केली. २०२४ च्या अखेरीस आणि एप्रिल २०२५ दरम्यान त्याचा मुलगा अॅडम (१६ वर्षांचा) याने चॅटजीपीटीशी देवाणघेवाण केलेल्या हजारो संदेशांची पुनरावलोकन केल्यानंतर. या प्रकरणात, पालकांचे म्हणणे आहे की चॅटबॉट गृहपाठात मदत करण्यापासून ते "आत्महत्या प्रशिक्षक" बनण्यापर्यंत गेला., स्वतःला विध्वंसक करणाऱ्या कल्पनांना सामान्य करण्यापर्यंत आणि कथितपणे, निरोप पत्र लिहिण्याची ऑफर देण्यापर्यंत.

तक्रारीत असे काही भाग उद्धृत केले आहेत ज्यात सिस्टमने अशा अभिव्यक्तींसह प्रतिसाद दिला असता जसे की "तुमच्या जगण्याचे ऋणी तुम्ही कोणाचेही नाही.", कुटुंबाच्या मते, धोकादायक योजनांना पाठिंबा देऊ शकल्या असत्या अशा टिप्पण्यांव्यतिरिक्त. पालकांचा असा दावा आहे की, धोक्याची स्पष्ट चिन्हे असूनही, या साधनाने संभाषणात व्यत्यय आणला नाही किंवा आपत्कालीन प्रोटोकॉल सक्रिय केले नाही..

ओपनएआयच्या प्रवक्त्याने शोक व्यक्त केला आणि सांगितले की कंपनी आहे नोंदींचे पुनरावलोकन करणे प्रेसना माहिती आहे, हे स्पष्ट करून की उघड केलेले तुकडे प्रत्येक एक्सचेंजचा संपूर्ण संदर्भ प्रतिबिंबित करत नाहीत. फर्मने यावर भर दिला आहे की ChatGPT आधीच निर्देशित करते मदत ओळी संकटाच्या परिस्थितीत आणि व्यावसायिक मदत घेण्याची शिफारस करतो.

हे प्रकरण माध्यमांमध्ये आणि बाल संरक्षण संस्थांमध्ये मोठ्या प्रमाणात प्रसिद्ध झाले आहे, जे विचारत आहेत सुरक्षा व्यवस्था मजबूत करा आणि सोय करा अनुचित सामग्रीची तक्रार करा आणि देखरेखीशिवाय किशोरवयीन मुलांद्वारे चॅटबॉट्सचा वापर मर्यादित करणे. ही चर्चा अशा वेळी येते जेव्हा एआयचा मोठ्या प्रमाणात स्वीकार दैनंदिन जीवनात, नाजूक भावनिक समस्यांसाठी देखील.

सार्वजनिक आरोग्य सूचना: जर तुम्हाला एखाद्या संकटाचा सामना करावा लागत असेल किंवा एखाद्याच्या सुरक्षिततेची भीती वाटत असेल, तर तात्काळ व्यावसायिक मदत घ्या. स्पेनमध्ये, ११२ किंवा ०२४ वर कॉल करा. इतर देशांमध्ये, स्थानिक संसाधनांचा सल्ला घ्या आणि आत्महत्या प्रतिबंधक रेषा.

ओपनएआयची स्थिती आणि घोषित बदल

मागणीच्या समांतर, ओपनएआयने एक ब्लॉग पोस्ट प्रकाशित केली ज्यामध्ये हे मान्य केले गेले की, जरी ChatGPT मध्ये संरक्षण उपाय समाविष्ट आहेत, दीर्घ संभाषणात कमी लेखले जाऊ शकते किंवा वेळेत वाढलेले. कंपनी म्हणते की ते सिस्टमचे वर्तन अधिक चांगल्या प्रकारे ओळखण्यासाठी समायोजित करत आहे त्रासाची चिन्हे सूक्ष्म पद्धतीने व्यक्त केले जाईल आणि त्यामुळे सुरक्षा प्रतिसादांना बळकटी मिळेल.

कंपनी नवीन वैशिष्ट्ये विकसित करत आहे, जसे की पालक नियंत्रणे जे पालकांना अल्पवयीन मुलांच्या सेवेच्या वापरावर देखरेख करण्याची परवानगी देतात, जलद प्रवेश आपत्कालीन संसाधने आणि केवळ स्वतःला हानी पोहोचवण्यासाठीच नव्हे तर अशा प्रकरणांना देखील समाविष्ट करण्यासाठी फिल्टर्सच्या व्याप्तीचा विस्तार भावनिक त्रास लक्षणीय.

ओपनएआय कबूल करते की कधीकधी सिस्टम गांभीर्य कमी लेखतो काही विशिष्ट प्रश्नांची किंवा त्यांच्या संदर्भाची तपासणी करते आणि विस्तृत संवादांमध्ये आणि अनेक सत्रांमध्ये सुरक्षा उपायांची सुसंगतता राखण्यासाठी ते काम करत आहे याची खात्री करते. कंपनी सूत्रे देखील शोधत आहे वापरकर्त्यांशी कनेक्ट व्हा चॅटबॉटमधीलच मान्यताप्राप्त व्यावसायिकांसह संकटात.

वाढत्या तपासणी दरम्यान हे पाऊल उचलण्यात आले आहे मानसिक आरोग्यावर चॅटबॉट्सचे धोकेया प्रणाली हानिकारक कल्पनांना बळकटी देऊ शकतात किंवा विशेषतः असुरक्षित लोकांमध्ये, जवळीकतेची खोटी भावना निर्माण करू शकतात, याबद्दल अधिकारी आणि वकिली गटांनी इशारा दिला आहे.

उद्योग सूत्रांनी आठवले की अलिकडच्या काही महिन्यांत, ओपनएआयने अतिसंतुष्ट समजले जाणारे बदल उलटवले आणि कंपनी नवीन मॉडेल्सवर काम करत आहे जे उबदारपणा आणि सुरक्षिततेमधील संतुलनाचे आश्वासन देतात, ज्यामध्ये तणाव कमी करणाऱ्या परिस्थितींवर लक्ष केंद्रित करा नाजूक.

तज्ञ आणि अभ्यास काय म्हणतात

विशिष्ट प्रकरणाच्या पलीकडे, मध्ये प्रकाशित झालेला एक अभ्यास मानसशास्त्र सेवा ते कसे प्रतिसाद देतात याचे विश्लेषण केले तीन लोकप्रिय चॅटबॉट्स —चॅटजीपीटी (ओपनएआय), क्लॉड (अँथ्रोपिक) आणि जेमिनी (गुगल) — आत्महत्येशी संबंधित प्रश्नांसाठी. लेखकांना असे आढळून आले की चॅटजीपीटी आणि क्लॉड यांचा कल योग्य प्रतिसाद द्या कमी-जोखीम प्रश्नांवर आणि उच्च-जोखीम प्रश्नांसाठी थेट माहिती देण्याचे टाळले, तर जेमिनीने अधिक परिवर्तनशील नमुना दाखवला आणि अनेकदा उत्तर न देणे निवडले प्रश्न कमी धोक्याचा असतानाही.

तथापि, कामात असेही आढळून आले की विसंगती मध्यवर्ती जोखमीच्या बाबतीत —उदाहरणार्थ, स्वतःला हानी पोहोचवण्याचे विचार असलेल्या व्यक्तीला काय सल्ला द्यावा—, चुकून बरोबर उत्तरे बदलणेसंशोधक शिफारस करतात अधिक परिष्करण क्लिनिकल तज्ञांसह संरेखन तंत्रांद्वारे आणि सूक्ष्मता शोधण्यात सुधारणांद्वारे.

कॉमन सेन्स मीडिया सारख्या संघटनांनी आवाहन केले आहे की एआय वापरताना खबरदारी किशोरवयीन मुलांमध्ये कंपनीसंस्थेच्या अलीकडील अहवालात असे दिसून आले आहे की अमेरिकेतील चारपैकी जवळजवळ तीन तरुणांनी एआय साथीदारांचा प्रयत्न केला आहे आणि ते अर्ध्याहून अधिक लोक वारंवार वापरणारे असतील, ज्यामुळे मजबूत सुरक्षा चौकटी असण्याची निकड वाढते.

कायदेशीर क्षेत्रात, अभियोक्ते आणि नियामकांचे लक्ष अल्पवयीन मुलांचे संरक्षण चॅटबॉट्समधील अयोग्य संवादांविरुद्ध आणि सोशल नेटवर्क्सवर केसेस कसे नोंदवायचे. AI दायित्व नियमांमध्ये कसे बसते याबद्दल अनिश्चितता जसे की कलम २ (अमेरिकेतील प्लॅटफॉर्मसाठी कायदेशीर ढाल) न्यायालयांसाठी एक जटिल आघाडी उघडते.

समांतर प्रकरणे, जसे की प्लॅटफॉर्मविरुद्धच्या कार्यवाही संभाषण करणारी कंपनी अल्पवयीन मुलांसाठी, अजूनही चालू आहेत आणि डिझाइन, चेतावणी आणि जोखीम कमी करणे जनरेटिव्ह सिस्टममध्ये.

अ‍ॅडम रेन यांचे निधन आणि ओपनएआय विरुद्धचा खटला एका वळणाचे प्रतीक आहे: एआयशी संभाषणे प्रायोगिकतेपासून दैनंदिन जीवनात बदलली आहेत आणि भावनिक क्षेत्रात त्याची भूमिका स्पष्ट मानकांची आवश्यकता आहे. न्यायालये जबाबदाऱ्या निश्चित करत असताना, तज्ञ, कुटुंबे आणि कंपन्या सुरक्षा उपाय सुधारा, प्रभावी पालक नियंत्रण सुनिश्चित करा आणि जेव्हा एखादा किशोरवयीन मुलगा संकटात चॅटबॉटवर येतो तेव्हा सिस्टम प्रतिसाद देते याची खात्री करा विवेक, सुसंगतता आणि मदतीचे खरे मार्ग.

संबंधित लेख:

ऑनलाइन सुरक्षा कायदा म्हणजे काय आणि जगातील कुठूनही तुमच्या इंटरनेट अॅक्सेसवर त्याचा कसा परिणाम होतो?

अल्बर्टो नावारो

मी एक तंत्रज्ञान उत्साही आहे ज्याने त्याच्या "गीक" आवडींना व्यवसायात बदलले आहे. मी माझ्या आयुष्यातील 10 वर्षांहून अधिक काळ अत्याधुनिक तंत्रज्ञानाचा वापर करून आणि सर्व प्रकारच्या कार्यक्रमांना निव्वळ उत्सुकतेपोटी घालवले आहे. आता मी कॉम्प्युटर टेक्नॉलॉजी आणि व्हिडिओ गेम्समध्ये स्पेशलायझेशन केले आहे. याचे कारण असे की, मी 5 वर्षांहून अधिक काळ तंत्रज्ञान आणि व्हिडिओ गेमवरील विविध वेबसाइट्ससाठी लिहित आहे, प्रत्येकाला समजेल अशा भाषेत तुम्हाला आवश्यक असलेली माहिती देण्यासाठी लेख तयार करत आहे.

तुम्हाला काही प्रश्न असल्यास, माझे ज्ञान विंडोज ऑपरेटिंग सिस्टीम तसेच मोबाइल फोनसाठी अँड्रॉइडशी संबंधित सर्व गोष्टींपासून आहे. आणि माझी वचनबद्धता तुमच्याशी आहे, मी नेहमी काही मिनिटे घालवण्यास तयार आहे आणि या इंटरनेटच्या जगात तुम्हाला पडणाऱ्या कोणत्याही प्रश्नांचे निराकरण करण्यात मदत करण्यास तयार आहे.