एउटा दुखद घटना र धेरै प्रश्नहरू: ChatGPT ले आत्महत्याको मुद्दाको सामना गरिरहेको छ

क्यालिफोर्नियाको एक जोडीले मुद्दा दायर गरेका छन् ओपनएआई विरुद्ध र यसको कार्यकारी निर्देशक, साम अल्टम्यान, त्यो विचार गर्दै उनको किशोर छोराको मृत्युमा ChatGPT ले निर्णायक भूमिका खेलेको थियो।यो मुद्दाले नाबालिगहरूका लागि भावनात्मक साथीको रूपमा च्याटबटहरूको प्रयोगको बारेमा खतराको घण्टी बजाएको छ र सुरक्षा, नैतिकता र कर्पोरेट जिम्मेवारीलाई मिश्रण गर्ने बहसलाई पुन: सक्रिय गरियो.

उजुरी अनुसार, ती युवकले महिनौंसम्म कुराकानी गरे जसमा प्रणालीले आत्म-हानि गर्ने विचारहरूलाई प्रमाणित गर्ने थियो र सुरक्षित वातावरणको लागि अनुपयुक्त प्रतिक्रियाहरू प्रदान गर्ने थियो।। ओपनएआई, आफ्नो तर्फबाट, यस त्रासदीको लागि पछुतो गर्दछ र उत्पादनमा सुरक्षात्मक अवरोधहरू समावेश गरेको बताउँछ, जबकि स्वीकार गर्दछ कि लामो संवादमा यसको प्रभावकारिता घट्छ र सुधारको लागि ठाउँ छ।

मुद्दा र मुख्य तथ्यहरू

म्याट र मारिया रेन उनीहरूले क्यालिफोर्नियाको अदालतमा कानुनी मुद्दा दायर गरे। २०२४ को अन्त्य र अप्रिल २०२५ को बीचमा उनको छोरा आदम (१६ वर्ष) ले च्याटजीपीटीसँग आदानप्रदान गरेका हजारौं सन्देशहरूको समीक्षा गरेपछि। यस अवस्थामा, अभिभावकहरू भन्छन् कि च्याटबट गृहकार्यमा मद्दत गर्नेदेखि "आत्महत्या प्रशिक्षक" बन्न पुगेको छ।, आत्म-विनाशकारी विचारहरूलाई सामान्यीकरण गर्ने र, कथित रूपमा, विदाई नोट लेख्ने प्रस्ताव गर्ने हदसम्म।

उजुरीमा त्यस्ता अंशहरू उल्लेख गरिएको छ जहाँ प्रणालीले अभिव्यक्तिहरू जस्तै प्रतिक्रिया दिएको हुन्थ्यो "तपाईं आफ्नो बाँच्नको लागि कसैको ऋणी हुनुहुन्‍न।", परिवारका अनुसार, खतरनाक योजनाहरूलाई समर्थन गर्न सक्ने टिप्पणीहरूको अतिरिक्त। जोखिमको स्पष्ट संकेतहरूको बावजुद, अभिभावकहरूले भनेका छन् कि, उपकरणले कुराकानीमा बाधा पुर्‍याएन वा आपतकालीन प्रोटोकलहरू सक्रिय गरेन।.

ओपनएआईका प्रवक्ताले शोक व्यक्त गर्दै भने कि कम्पनी रेकर्डहरूको समीक्षा गर्दै प्रेसलाई थाहा छ, खुलासा गरिएका टुक्राहरूले प्रत्येक एक्सचेन्जको पूर्ण सन्दर्भलाई प्रतिबिम्बित गर्दैनन् भन्ने कुरा स्पष्ट पार्दै। फर्मले जोड दिन्छ कि ChatGPT ले पहिले नै निर्देशन दिन्छ मद्दत लाइनहरू संकटको अवस्थामा र व्यावसायिक मद्दत खोज्न सिफारिस गर्दछ।

यो मुद्दा मिडिया र बाल संरक्षण संस्थाहरूमा व्यापक रूपमा रिपोर्ट गरिएको छ, जसले सोधिरहेका छन् सुरक्षा व्यवस्था बलियो बनाउने र सहजीकरण अनुपयुक्त सामग्री रिपोर्ट गर्नुहोस् र सुपरिवेक्षण नगरिएका किशोरकिशोरीहरूले च्याटबटको प्रयोगलाई सीमित गर्ने। यो बहस यस्तो समयमा आएको छ जब एआईको व्यापक प्रयोग दैनिक जीवनमा, नाजुक भावनात्मक मुद्दाहरूको लागि पनि।

जनस्वास्थ्य सूचना: यदि तपाईं संकटको सामना गर्दै हुनुहुन्छ वा कसैको सुरक्षाको लागि डराउनुहुन्छ भने, तुरुन्तै व्यावसायिक मद्दत खोज्नुहोस्। स्पेनमा, ११२ वा ०२४ मा कल गर्नुहोस्। अन्य देशहरूमा, स्थानीय स्रोतहरू परामर्श गर्नुहोस् र आत्महत्या रोकथाम लाइनहरू.

OpenAI को स्थिति र घोषणा गरिएका परिवर्तनहरू

मागसँगै, ओपनएआईले एउटा ब्लग पोस्ट प्रकाशित गर्‍यो जुन स्वीकार गर्दै, यद्यपि ChatGPT ले सुरक्षा उपायहरू समावेश गर्दछ, लामो कुराकानीमा कमजोर हुन सक्छ वा समयमै लामो। कम्पनीले राम्रोसँग पहिचान गर्न प्रणालीको व्यवहार समायोजन गरिरहेको बताएको छ दुःखका संकेतहरू सूक्ष्म तरिकाले व्यक्त गरिन्छ र त्यसले सुरक्षा प्रतिक्रियाहरूलाई सुदृढ पार्नेछ।

कम्पनीले नयाँ सुविधाहरू अगाडि बढाइरहेको छ, जस्तै अभिभावकीय नियन्त्रणहरू जसले अभिभावकहरूलाई नाबालिगहरूले गर्ने सेवाको प्रयोगको निरीक्षण गर्न अनुमति दिन्छ, द्रुत पहुँच आपतकालीन स्रोतहरू र आत्म-हानि मात्र नभई केसहरूलाई पनि समेट्न फिल्टरहरूको दायराको विस्तार भावनात्मक पीडा महत्वपूर्ण

ओपनएआई स्वीकार गर्दछ कि कहिलेकाहीं प्रणाली गम्भीरतालाई कम आँकलन गर्छ निश्चित प्रश्नहरू वा तिनीहरूको सन्दर्भको बारेमा, र यो सुनिश्चित गर्दछ कि यसले व्यापक संवादहरू र धेरै सत्रहरूमा सुरक्षा उपायहरूको स्थिरता कायम राख्न काम गरिरहेको छ। कम्पनीले सूत्रहरू पनि अन्वेषण गरिरहेको छ जसले गर्दा प्रयोगकर्ताहरूसँग जोड्नुहोस् च्याटबोटबाटै मान्यता प्राप्त पेशेवरहरूसँग संकटमा।

बढ्दो छानबिनको बीचमा यो कदम आएको हो मानसिक स्वास्थ्यमा च्याटबटको जोखिमअधिकारीहरू र वकालत समूहहरूले यी प्रणालीहरूले हानिकारक विचारहरू स्थापित गर्न वा विशेष गरी कमजोर मानिसहरूमाझ निकटताको गलत भावना सिर्जना गर्ने सम्भावनाको बारेमा चेतावनी दिएका छन्।

उद्योग स्रोतहरूले सम्झन्छन् कि हालैका महिनाहरूमा, ओपनएआईले अत्यधिक सन्तुष्टिको रूपमा हेरिएका परिवर्तनहरूलाई उल्टाएको छ र कम्पनीले न्यानोपन र सुरक्षा बीच सन्तुलनको प्रतिज्ञा गर्ने नयाँ मोडेलहरूमा काम गरिरहेको छ, जसमा तनाव कम गर्ने परिस्थितिहरूमा ध्यान केन्द्रित गर्नुहोस् डेलिकाडास.

विज्ञ र अध्ययनहरू के भन्छन्

विशिष्ट केसभन्दा बाहिर, मा प्रकाशित एक अध्ययन मनोचिकित्सक सेवाहरू तिनीहरूले कसरी प्रतिक्रिया दिन्छन् भनेर विश्लेषण गरियो तीन लोकप्रिय च्याटबटहरू —ChatGPT (OpenAI), Claude (Anthropic), र Gemini (Google) — आत्महत्यासँग सम्बन्धित प्रश्नहरूमा। लेखकहरूले पत्ता लगाए कि ChatGPT र Claude ले उचित जवाफ दिनुहोस् कम जोखिमका प्रश्नहरूमा र उच्च जोखिमका प्रश्नहरूको लागि प्रत्यक्ष जानकारी प्रदान गर्नबाट जोगिए, जबकि जेमिनीले बढी परिवर्तनशील ढाँचा देखायो र प्रायः जवाफ नदिने छनौट गरें प्रश्न कम खतराको हुँदा पनि.

यद्यपि, कामले यो पनि पत्ता लगायो कि असंगतिहरु मध्यवर्ती जोखिमको मामिलामा — उदाहरणका लागि, आफूलाई हानि पुर्‍याउने विचार भएको व्यक्तिलाई के सल्लाह दिने—, छुटेका उत्तरहरूसँग सही उत्तरहरू बदल्दैअनुसन्धानकर्ताहरूले सिफारिस गर्छन् थप परिष्करण क्लिनिकल विशेषज्ञहरूसँग पङ्क्तिबद्धता प्रविधिहरू र सूक्ष्मता पत्ता लगाउने सुधारहरू मार्फत।

कमन सेन्स मिडिया जस्ता संस्थाहरूले आह्वान गरेका छन् एआई प्रयोग गर्दा सावधानी अपनाउनु पर्ने किशोरकिशोरीहरूमा कम्पनीसंस्थाको हालैको रिपोर्टले अमेरिकाका चारमध्ये लगभग तीन युवाहरूले एआई साथीहरूको प्रयास गरेको देखाउँछ र त्यो आधा भन्दा बढी बारम्बार प्रयोगकर्ताहरू हुनेछन्, जसले बलियो सुरक्षा ढाँचाको आवश्यकतालाई बढाउँछ।

कानुनी क्षेत्रमा, अभियोजक र नियामकहरूको ध्यान नाबालिगहरूको संरक्षण च्याटबटहरूमा अनुचित अन्तरक्रिया विरुद्ध र सामाजिक सञ्जालमा केसहरू कसरी रिपोर्ट गर्नेजस्ता नियमहरूमा AI दायित्व कसरी मिल्छ भन्ने बारेमा अनिश्चितता सेक्सन २ (अमेरिकामा प्लेटफर्महरूको लागि कानुनी ढाल) ले अदालतहरूको लागि जटिल मोर्चा खोल्छ।

प्लेटफर्महरू विरुद्धको कार्यवाही जस्ता समानान्तर मुद्दाहरू कुराकानी गर्ने कम्पनी नाबालिगहरूका लागि, अझै पनि जारी छन् र डिजाइन, चेतावनी र को दायरामा मापदण्ड स्थापित गर्न सक्छन् जोखिम न्यूनीकरण उत्पादन प्रणालीहरूमा।

एडम रेनको निधन र ओपनएआई विरुद्धको मुद्दाले एउटा मोड लिन्छ: एआईसँगको कुराकानी प्रयोगात्मकबाट दैनिक जीवनमा सरेको छ, र भावनात्मक क्षेत्रमा यसको भूमिकाले स्पष्ट मापदण्डको माग गर्दछ। अदालतहरूले जिम्मेवारीहरू निर्धारण गर्दा, विशेषज्ञहरू, परिवारहरू र कम्पनीहरू आवश्यकतामा सहमत छन् सुरक्षा व्यवस्था सुधार गर्नुहोस्, प्रभावकारी अभिभावकीय नियन्त्रण सुनिश्चित गर्नुहोस् र जब किशोरकिशोरी संकटमा च्याटबटमा आउँछन्, प्रणालीले प्रतिक्रिया दिन्छ भन्ने कुरा सुनिश्चित गर्नुहोस् विवेक, एकरूपता र सहयोगको लागि वास्तविक बाटोहरू.

सम्बन्धित लेख:

अनलाइन सुरक्षा ऐन के हो र यसले संसारको जुनसुकै ठाउँबाट तपाईंको इन्टरनेट पहुँचलाई कसरी असर गर्छ?

अल्बर्टो नावारो

म एक टेक्नोलोजी उत्साही हुँ जसले आफ्नो "गीक" रुचिहरूलाई पेशामा परिणत गरेको छ। मैले मेरो जीवनको 10 भन्दा बढी वर्ष अत्याधुनिक प्रविधिको प्रयोग गरेर र शुद्ध जिज्ञासाका सबै प्रकारका कार्यक्रमहरूसँग टिंकरिङ गर्दै बिताएको छु। अब मैले कम्प्युटर प्रविधि र भिडियो गेमहरूमा विशेषज्ञता हासिल गरेको छु। यो किनभने 5 वर्ष भन्दा बढी समय देखि मैले टेक्नोलोजी र भिडियो गेमहरूमा विभिन्न वेबसाइटहरूको लागि लेख्दै आएको छु, सबैले बुझ्न सक्ने भाषामा तपाईंलाई आवश्यक जानकारी दिन खोज्ने लेखहरू सिर्जना गर्दैछु।

यदि तपाइँसँग कुनै प्रश्नहरू छन् भने, मेरो ज्ञान विन्डोज अपरेटिङ सिस्टम र मोबाइल फोनहरूको लागि एन्ड्रोइडसँग सम्बन्धित सबै कुराबाट दायरा हो। र मेरो प्रतिबद्धता तपाईंप्रति छ, म सधैं केही मिनेटहरू खर्च गर्न र तपाईंलाई यस इन्टरनेट संसारमा हुन सक्ने कुनै पनि प्रश्नहरूको समाधान गर्न मद्दत गर्न तयार छु।