- चैटजीपीटी के किशोरों के उपयोग पर नज़र रखने के लिए पारिवारिक खातों को लिंक करना।
- स्मृति और इतिहास को अक्षम करने और आयु के अनुसार कार्यों का प्रबंधन करने की क्षमता।
- "तीव्र संकट" संकेतक और आपातकालीन बटन के लिए स्वचालित अलर्ट।
- अगले महीने से तैनाती शुरू होगी और तर्क मॉडल के साथ 120-दिवसीय योजना होगी।
ओपनएआई ने एक के आगमन की घोषणा की है ChatGPT में अभिभावकीय नियंत्रण किशोरों वाले घरों के लिए लक्षित, एक नई सुविधा जिसके साथ कंपनी का लक्ष्य सुरक्षा को मजबूत करना और परिवारों को प्रदान करना है अधिक निगरानी उपकरण चैटबॉट की उपयोगिता को त्यागे बिना।
यह निर्णय बढ़ते सामाजिक और नियामक दबाव के बाद आया है, जिसमें एडम राइन का पारिवारिक मुकदमा कैलिफ़ोर्निया में, कंपनी पर मानसिक स्वास्थ्य के मामले में विफलताओं का आरोप लगाया गया है। ओपनएआई का अनुमान है कि "तीव्र संकट" के संकेतों के लिए स्वचालित चेतावनियाँ और नाबालिगों के अनुभव को प्रबंधित करने के लिए सुविधाओं का एक समूह।
परिवारों के लिए ChatGPT में क्या बदलाव हो रहा है?
नए विकल्पों के साथ, माता-पिता सक्षम होंगे अपने खाते को अपने बच्चों के खातों से लिंक करें एक ईमेल आमंत्रण के माध्यम से, समीक्षा करें कि सिस्टम कैसे प्रतिक्रिया करता है और शुरुआती उम्र के लिए डिज़ाइन किए गए नियमों के साथ मॉडल के व्यवहार को समायोजित करें।
नियंत्रणों में निम्नलिखित क्षमताएं शामिल होंगी: मेमोरी और चैट इतिहास अक्षम करें, साथ ही नाबालिग की परिपक्वता के स्तर के अनुसार कार्यों को सीमित करना। ओपनएआई इस पर भी विचार करता है लंबे सत्रों के दौरान अनुस्मारक स्वस्थ ब्रेक को प्रोत्साहित करने के लिए।
इसके अलावा, पैकेज में शामिल होगा आपातकालीन बटन जो सहायता सेवाओं और मानसिक स्वास्थ्य पेशेवरों के साथ संपर्क की सुविधा प्रदान करेगा, और विकल्प सामग्री ब्लॉक करें जब किसी बातचीत में जोखिम के संकेत पाए जाते हैं।
सुरक्षा कैलेंडर और रोडमैप
ओपनएआई ने लॉन्च किया अगले महीने के लिए और, हालांकि इसने कोई विशिष्ट तिथि निर्धारित नहीं की है, यह विशिष्ट सुरक्षा उपायों को सुदृढ़ करने के लिए 120-दिवसीय योजना को आगे बढ़ा रहा है बच्चे और किशोर उत्पाद और आंतरिक प्रक्रियाओं दोनों में।
कंपनी ने संकेत दिया है कि कुछ संवेदनशील बातचीत तर्क मॉडल पर पुनर्निर्देशित करेगा सुरक्षा दिशानिर्देशों का अधिक व्यवस्थित ढंग से पालन करने में सक्षम होना, जिसका लक्ष्य पता चलने पर सतर्क और सहायक प्रतिक्रियाओं को प्राथमिकता देना है जोखिम संबंधी मुद्दे जैसे कि आत्म-क्षति या आत्मघाती विचार।
वह मामला जिसने खतरे की घंटी बजा दी है
यह घोषणा बच्चे के माता-पिता द्वारा दायर मुकदमे के बाद की गई है। एडम राइन, एक 16 वर्षीय किशोर जिसने चैटबॉट के साथ महीनों की बातचीत के बाद अपनी जान ले ली। फाइलिंग के अनुसार, चैटजीपीटी सामान्यीकृत आत्मघाती विचार और परिवार की मदद लेना उचित नहीं है, ये ऐसे आरोप हैं जिनका निपटारा अदालतों को करना होगा।
इसके समानांतर, ओपनएआई ने स्वीकार किया कि उसका सहायक विफल हो सकता है “गंभीर परिस्थितियाँ” और बदलावों के लिए प्रतिबद्ध हैं। कंपनी का कहना है कि इन उपायों का उद्देश्य जोखिम कम करें मुकदमे में निर्णय को आधिकारिक रूप से जिम्मेदार ठहराए बिना, जिसमें बातचीत में GPT-4o के उपयोग का भी हवाला दिया गया है।
एआई और नाबालिगों पर सामाजिक और राजनीतिक दबाव
जुलाई में, कई अमेरिकी सीनेटरों ने कंपनी से पूछा आत्म-क्षति और आत्महत्या की रोकथाम पर स्पष्टीकरण चरम स्थितियों में पाई गई अनुचित प्रतिक्रियाओं के जवाब में। कॉमन सेंस मीडिया का तर्क है कि 18 वर्ष से कम संवादात्मक एआई अनुप्रयोगों का उपयोग उनके "अस्वीकार्य जोखिमों" के कारण नहीं करना चाहिए।
ओपनएआई का यह कदम उद्योग की उस प्रवृत्ति के अनुरूप है जिसमें मेटा या यूट्यूब परिवारों के लिए नियंत्रण की मांग की गई है। मूल चर्चा इस बात पर केंद्रित है कि नवाचार और गारंटी देता है और युवा उपयोगकर्ताओं के लिए गारंटी।
जब जोखिम संकेत मिलते हैं तो ChatGPT के अंदर क्या होता है
ओपनएआई का लक्ष्य गतिशील रूटिंग है जटिल बातचीत उत्पन्न करता है अधिक चिंतनशील मॉडलों की ओर, और अधिक सख्त सुरक्षा दिशानिर्देशों के साथ। इसका लक्ष्य आत्मसंतुष्टि पूर्वाग्रह को कम करना, विवेक की सीमा को बढ़ाना और समर्थन प्रतिक्रियाओं को प्राथमिकता दें संभावित हानिकारक अंतःक्रियाओं के विरुद्ध।
इस दृष्टिकोण को मजबूत करने के लिए, फर्म ने एक कल्याण और एआई पर विशेषज्ञों की परिषद और चिकित्सकों का एक वैश्विक नेटवर्क। कंपनी के अनुसार, 250 देशों में 60 चिकित्सक और मॉडल के व्यवहार पर 90 से अधिक योगदान पहले ही शामिल किए जा चुके हैं मानसिक स्वास्थ्य संदर्भ.
माता-पिता क्या कर सकते हैं, चरण दर चरण
परिवारों को एक सरल प्रवाह मिलेगा: नाबालिग को मेल द्वारा आमंत्रित करें, खातों के लिंकिंग की पुष्टि करें और परिभाषित करें कि किशोर प्रोफ़ाइल में कौन से फ़ंक्शन सक्रिय हैं या नहीं, स्मृति, इतिहास और पर विशेष ध्यान दें सुरक्षा फिल्टर.
- आमंत्रण के माध्यम से वयस्क के खाते को नाबालिग के खाते से लिंक करें।
- सीमाएँ निर्धारित करें: स्मृति, इतिहास, और आयु-स्वीकृत सुविधाएँ।
- "तीव्र संकट" के लिए सूचनाएं सक्रिय करें और आपातकालीन बटन तक पहुंचें।
- समय-समय पर जांच करें कि सिस्टम कैसे प्रतिक्रिया देता है और सेटिंग्स समायोजित करें।
ओपनएआई का कहना है कि वह इन उपकरणों को और बेहतर बनाना जारी रखेगा, लेकिन अभी तक उसने सभी पहलुओं का विस्तृत विवरण नहीं दिया है। गोपनीयता पैरामीटर और दृश्यता। कंपनी याद दिलाती है कि अभिभावकीय नियंत्रण एक सहायता है और यह पेशेवर ध्यान न ही परिवार का निरंतर सहयोग मिला।
इस पैकेज के साथ, OpenAI किशोर वातावरण में ChatGPT की सुरक्षा को मजबूत करने का प्रयास करता है पारिवारिक खाते, सीमाएँ और अलर्टचरणबद्ध तरीके से कार्यान्वयन और बाह्य चिकित्सीय सलाह; ऐसे कदम जो जोखिमों को सीमित करने का प्रयास करते हैं, इस तथ्य को नजरअंदाज किए बिना कि वयस्क पर्यवेक्षण और पेशेवर निर्णय अभी भी प्रभावी हैं। आवश्यक टुकड़े.
मैं एक प्रौद्योगिकी उत्साही हूं जिसने अपनी "गीक" रुचियों को एक पेशे में बदल दिया है। मैंने अपने जीवन के 10 से अधिक वर्ष अत्याधुनिक तकनीक का उपयोग करने और शुद्ध जिज्ञासा से सभी प्रकार के कार्यक्रमों के साथ छेड़छाड़ करने में बिताए हैं। अब मैंने कंप्यूटर प्रौद्योगिकी और वीडियो गेम में विशेषज्ञता हासिल कर ली है। ऐसा इसलिए है क्योंकि 5 वर्षों से अधिक समय से मैं प्रौद्योगिकी और वीडियो गेम पर विभिन्न वेबसाइटों के लिए लिख रहा हूं, ऐसे लेख बना रहा हूं जो आपको ऐसी भाषा में आवश्यक जानकारी देने का प्रयास करते हैं जो हर किसी के लिए समझ में आती है।
यदि आपके कोई प्रश्न हैं, तो मेरी जानकारी विंडोज ऑपरेटिंग सिस्टम के साथ-साथ मोबाइल फोन के लिए एंड्रॉइड से संबंधित हर चीज तक है। और मेरी प्रतिबद्धता आपके प्रति है, मैं हमेशा कुछ मिनट बिताने और इस इंटरनेट की दुनिया में आपके किसी भी प्रश्न को हल करने में आपकी मदद करने को तैयार हूं।