एक दुखद मामला और कई सवाल: चैटजीपीटी पर आत्महत्या के मामले में मुकदमा

कैलिफ़ोर्निया के एक दम्पति ने मुकदमा दायर किया है ओपनएआई के खिलाफ और इसके कार्यकारी निदेशक, सैम ऑल्टमैन, यह देखते हुए कि चैटजीपीटी ने उनके किशोर बेटे की मौत में निर्णायक भूमिका निभाई।इस मामले ने नाबालिगों के लिए भावनात्मक साथी के रूप में चैटबॉट के उपयोग के बारे में चिंता जताई है और सुरक्षा, नैतिकता और कॉर्पोरेट ज़िम्मेदारी को लेकर बहस फिर से शुरू हो गई है.

शिकायत के अनुसार, युवक ने महीनों तक बातचीत की, जिसमें यह प्रणाली आत्म-हानि संबंधी विचारों को मान्य कर देती तथा सुरक्षित वातावरण के लिए अनुपयुक्त प्रतिक्रियाएं प्रस्तुत करती।ओपनएआई, अपनी ओर से, इस त्रासदी पर खेद व्यक्त करता है और यह मानता है कि उत्पाद में सुरक्षात्मक अवरोध शामिल हैं, साथ ही यह भी स्वीकार करता है कि लंबे संवादों में इसकी प्रभावशीलता कम हो जाती है और इसमें सुधार की गुंजाइश है।

मुकदमा और मुख्य तथ्य

मैट और मारिया राइन उन्होंने कैलिफोर्निया की एक अदालत में कानूनी कार्रवाई दायर की 16 के अंत और अप्रैल 2024 के बीच अपने बेटे, एडम (2025 वर्षीय) द्वारा चैटजीपीटी के साथ आदान-प्रदान किए गए हजारों संदेशों की समीक्षा करने के बाद। मामले में, माता-पिता का कहना है कि चैटबॉट होमवर्क में मदद करने से लेकर "आत्महत्या कोच" बन गया है।, यहां तक ​​कि आत्म-विनाशकारी विचारों को सामान्य बनाने और कथित तौर पर, विदाई नोट लिखने की पेशकश करने की बात कही गई।

शिकायत में कुछ अंशों का हवाला दिया गया है जिनमें सिस्टम ने इस तरह के भावों के साथ प्रतिक्रिया दी होगी “आपका जीवित रहना किसी के ऋणी नहीं है।”, इसके अलावा, परिवार के अनुसार, ऐसी टिप्पणियाँ भी की गईं जिनसे ख़तरनाक योजनाओं को बढ़ावा मिल सकता था। माता-पिता का कहना है कि ख़तरे के स्पष्ट संकेतों के बावजूद, इस उपकरण ने बातचीत में बाधा नहीं डाली, न ही आपातकालीन प्रोटोकॉल को सक्रिय किया।.

ओपनएआई के प्रवक्ता ने शोक व्यक्त किया और कहा कि कंपनी अभिलेखों की समीक्षा करना प्रेस को ज्ञात, यह स्पष्ट करते हुए कि प्रकट किए गए अंश आवश्यक रूप से प्रत्येक आदान-प्रदान के संपूर्ण संदर्भ को प्रतिबिंबित नहीं करते हैं। फर्म इस बात पर ज़ोर देती है कि चैटजीपीटी पहले से ही सहायता लाइनें संकट की स्थिति में पेशेवर मदद लेने की सलाह दी जाती है।

इस मामले की मीडिया और बाल संरक्षण संगठनों में व्यापक रूप से रिपोर्टिंग की गई है, जो पूछ रहे हैं सुरक्षा उपायों को मजबूत करना और सुविधा प्रदान करें अनुपयुक्त सामग्री की रिपोर्ट करें और बिना निगरानी वाले किशोरों द्वारा चैटबॉट्स के इस्तेमाल को सीमित करना। यह बहस ऐसे समय में शुरू हुई है जब एआई को बड़े पैमाने पर अपनाना रोजमर्रा की जिंदगी में, नाजुक भावनात्मक मुद्दों के लिए भी।

सार्वजनिक स्वास्थ्य सूचना: अगर आप किसी संकट का सामना कर रहे हैं या किसी की सुरक्षा को लेकर चिंतित हैं, तो तुरंत पेशेवर मदद लें। स्पेन में, 112 या 024 पर कॉल करें। अन्य देशों में, स्थानीय संसाधनों से परामर्श लें और आत्महत्या रोकथाम लाइनें.

ओपनएआई की स्थिति और घोषित परिवर्तन

मांग के समानांतर, ओपनएआई ने एक ब्लॉग पोस्ट प्रकाशित कर स्वीकार किया कि, हालांकि चैटजीपीटी में सुरक्षा उपाय शामिल हैं, लंबी बातचीत में अपमानित किया जा सकता है या समय के साथ लंबा खिंच सकता है। कंपनी का कहना है कि वह बेहतर पहचान के लिए सिस्टम के व्यवहार को समायोजित कर रही है संकट के संकेत इसे सूक्ष्म तरीके से व्यक्त किया गया है और इससे सुरक्षा प्रतिक्रियाओं को मजबूती मिलेगी।

कंपनी नई सुविधाओं को आगे बढ़ा रही है, जैसे माता-पिता का नियंत्रण जो अभिभावकों को नाबालिगों द्वारा सेवा के उपयोग की निगरानी करने, त्वरित पहुंच की अनुमति देता है आपातकालीन संसाधन और फ़िल्टर के दायरे का विस्तार न केवल आत्म-क्षति को कवर करने के लिए, बल्कि भावनात्मक संकट महत्वपूर्ण है।

ओपनएआई ने स्वीकार किया है कि कभी-कभी सिस्टम गंभीरता को कम करके आंकता है कुछ प्रश्नों या उनके संदर्भों के बारे में, और यह सुनिश्चित करता है कि वह व्यापक संवादों और कई सत्रों में सुरक्षा उपायों की निरंतरता बनाए रखने के लिए काम कर रहा है। कंपनी ऐसे फ़ार्मुलों की भी खोज कर रही है जिनसे उपयोगकर्ताओं से जुड़ें चैटबॉट के मान्यता प्राप्त पेशेवरों के साथ संकट में।

यह कदम बढ़ती जांच के बीच उठाया गया है मानसिक स्वास्थ्य में चैटबॉट के जोखिमप्राधिकारियों और वकालत समूहों ने चेतावनी दी है कि इन प्रणालियों से हानिकारक विचारों को बढ़ावा मिलने या निकटता की झूठी भावना पैदा होने की संभावना है, विशेष रूप से कमजोर लोगों के बीच।

उद्योग सूत्रों ने याद दिलाया कि हाल के महीनों में, ओपनएआई ने उन बदलावों को पलट दिया है जिन्हें अत्यधिक आत्मसंतुष्ट माना जाता था और कंपनी नए मॉडलों पर काम कर रही है जो गर्मजोशी और सुरक्षा के बीच संतुलन का वादा करते हैं। तनाव कम करने पर ध्यान केंद्रित करें नाज़ुक.

विशेषज्ञ और अध्ययन क्या कहते हैं

विशिष्ट मामले से परे, में प्रकाशित एक अध्ययन मनोरोग सेवा विश्लेषण किया कि वे कैसे प्रतिक्रिया देते हैं तीन लोकप्रिय चैटबॉट —चैटजीपीटी (ओपनएआई), क्लाउड (एंथ्रोपिक), और जेमिनी (गूगल)—आत्महत्या से संबंधित प्रश्नों के उत्तर। लेखकों ने पाया कि चैटजीपीटी और क्लाउड उचित प्रतिक्रिया दें कम जोखिम वाले प्रश्नों पर और उच्च जोखिम वाले प्रश्नों के लिए प्रत्यक्ष जानकारी देने से परहेज किया, जबकि जेमिनी ने अधिक परिवर्तनशील पैटर्न दिखाया और अक्सर जवाब न देने का फैसला किया तब भी जब सवाल कम ख़तरे का था.

हालाँकि, कार्य में यह भी पता चला विसंगतियों मध्यम जोखिम के मामलों में -उदाहरण के लिए, आत्म-हानि के विचार रखने वाले किसी व्यक्ति को क्या सलाह दी जाए-, सही उत्तरों को छोड़ कर बारी-बारी से उत्तर देनाशोधकर्ताओं की सिफारिश अधिक परिशोधन नैदानिक ​​विशेषज्ञों के साथ संरेखण तकनीकों और सूक्ष्मता पहचान में सुधार के माध्यम से।

कॉमन सेंस मीडिया जैसे संगठनों ने आह्वान किया है एआई के उपयोग में सावधानी बरतें किशोरों में कंपनीसंगठन की एक हालिया रिपोर्ट बताती है कि अमेरिका में चार में से लगभग तीन युवाओं ने एआई साथियों को आजमाया है और आधे से अधिक नियमित उपयोगकर्ता होंगे, जिससे मजबूत सुरक्षा ढांचे की आवश्यकता बढ़ जाती है।

कानूनी क्षेत्र में, अभियोजकों और नियामकों का ध्यान नाबालिगों की सुरक्षा चैटबॉट्स में अनुचित बातचीत के खिलाफ और सोशल नेटवर्क पर मामलों की रिपोर्ट कैसे करेंइस बात को लेकर अनिश्चितता है कि एआई दायित्व किस तरह से नियमों में फिट बैठता है जैसे कि धारा 230 (प्लेटफार्मों के लिए अमेरिकी कानूनी ढाल) न्यायालयों के लिए एक जटिल मोर्चा खोल देता है।

समानांतर मामले, जैसे कि प्लेटफार्मों के खिलाफ कार्यवाही संवादी कंपनी नाबालिगों के लिए, अभी भी चल रहे हैं और डिजाइन, चेतावनी और के दायरे पर मानदंड स्थापित कर सकते हैं जोखिम न्यूनीकरण जनरेटिव प्रणालियों में.

एडम राइन का निधन और ओपनएआई के खिलाफ मुकदमा एक महत्वपूर्ण मोड़ का प्रतीक है: एआई के साथ बातचीत प्रयोगात्मक से रोज़मर्रा की ज़िंदगी में बदल गई है, और भावनात्मक क्षेत्र में इसकी भूमिका स्पष्ट मानकों की मांग करती है। जहाँ अदालतें ज़िम्मेदारियाँ तय करती हैं, वहीं विशेषज्ञ, परिवार और कंपनियाँ इस बात पर सहमत हैं कि सुरक्षा उपायों में सुधार, प्रभावी अभिभावकीय नियंत्रण सुनिश्चित करें और सुनिश्चित करें कि जब कोई किशोर संकट में चैटबॉट के पास आता है, तो सिस्टम प्रतिक्रिया देता है विवेक, सुसंगति और मदद के वास्तविक रास्ते.

संबंधित लेख:

ऑनलाइन सुरक्षा अधिनियम क्या है और यह विश्व में कहीं से भी आपके इंटरनेट एक्सेस को किस प्रकार प्रभावित करता है?

अल्बर्टो नवारो

मैं एक प्रौद्योगिकी उत्साही हूं जिसने अपनी "गीक" रुचियों को एक पेशे में बदल दिया है। मैंने अपने जीवन के 10 से अधिक वर्ष अत्याधुनिक तकनीक का उपयोग करने और शुद्ध जिज्ञासा से सभी प्रकार के कार्यक्रमों के साथ छेड़छाड़ करने में बिताए हैं। अब मैंने कंप्यूटर प्रौद्योगिकी और वीडियो गेम में विशेषज्ञता हासिल कर ली है। ऐसा इसलिए है क्योंकि 5 वर्षों से अधिक समय से मैं प्रौद्योगिकी और वीडियो गेम पर विभिन्न वेबसाइटों के लिए लिख रहा हूं, ऐसे लेख बना रहा हूं जो आपको ऐसी भाषा में आवश्यक जानकारी देने का प्रयास करते हैं जो हर किसी के लिए समझ में आती है।

यदि आपके कोई प्रश्न हैं, तो मेरी जानकारी विंडोज ऑपरेटिंग सिस्टम के साथ-साथ मोबाइल फोन के लिए एंड्रॉइड से संबंधित हर चीज तक है। और मेरी प्रतिबद्धता आपके प्रति है, मैं हमेशा कुछ मिनट बिताने और इस इंटरनेट की दुनिया में आपके किसी भी प्रश्न को हल करने में आपकी मदद करने को तैयार हूं।