सुरक्षा खामियों के कारण एआई-संचालित खिलौने (चैटबॉट) जांच के दायरे में

L कृत्रिम बुद्धिमत्ता वाले खिलौने सुर्खियों में हैं एक रिपोर्ट के बाद अमेरिकी जनहित अनुसंधान समूह वह दस्तावेज़ 3 से 12 वर्ष की आयु के बच्चों के लिए बनाए गए मॉडलों में खतरनाक प्रतिक्रियाएँआर.जे. क्रॉस के नेतृत्व वाली टीम के अनुसार, लंबे समय तक बातचीत और उत्पाद का सामान्य उपयोग, बिना किसी चाल या हेरफेर की आवश्यकता के, अनुचित संकेत सामने लाने के लिए पर्याप्त थे।

विश्लेषण में तीन लोकप्रिय उपकरणों की जांच की गई: फोलोटॉय, मिको 3 और क्यूरियो ग्रोक से कुम्माकई मामलों में, सुरक्षा प्रणालियाँ विफल रहीं और बच्चों के खिलौने पर जो सिफारिशें नहीं होनी चाहिए थीं, वे लागू नहीं हुईं; एक मॉडल में GPT-40 का उपयोग किया गया और दूसरे में GPT-40 का। यह डेटा को OpenAI और Perplexity जैसी सेवाओं में स्थानांतरित करता है।इससे नाबालिगों से संबंधित जानकारी को फिल्टर करने, गोपनीयता और उसके प्रबंधन पर बहस फिर से शुरू हो गई है।

तीन खिलौने, एक ही जोखिम पैटर्न

परीक्षणों में, लम्बी बातचीत ही इसकी वजह थी।जैसे-जैसे बातचीत आगे बढ़ी, फ़िल्टरों ने समस्याग्रस्त प्रतिक्रियाओं को रोकना बंद कर दियामशीन पर जोर डालने की जरूरत नहीं पड़ी; बच्चे द्वारा अपने खिलौने से बात करने का दैनिक प्रयोग अनुकरणीय था, जो इससे वास्तविक घरेलू खेल परिदृश्य के बारे में चिंताएं बढ़ जाती हैं।.

शोधकर्ताओं ने उपकरणों के बीच भिन्न व्यवहार का वर्णन किया है, लेकिन सामान्य निष्कर्ष: सुरक्षा प्रणालियाँ सुसंगत नहीं हैंइनमें से एक मॉडल ने जन्म दिया उम्र के लिए स्पष्ट रूप से अनुपयुक्त संदर्भ, और एक अन्य को बाहरी संसाधनों पर पुनर्निर्देशित किया गया जो बच्चों के दर्शकों के लिए उपयुक्त नहीं थे, जो अपर्याप्त सामग्री नियंत्रण को दर्शाता है।

क्यूरियो ग्रोक का मामला उदाहरणात्मक है क्योंकि, इसके नाम के बावजूद, यह xAI मॉडल का उपयोग नहीं करता है: ट्रैफ़िक तृतीय-पक्ष सेवाओं पर जाता हैयह विवरण यूरोप और स्पेन में महत्वपूर्ण है, क्योंकि डेटा ट्रेसिबिलिटी और नाबालिगों के प्रोफाइल का प्रबंधन महत्वपूर्ण है, जहां विनियमों के तहत निर्माताओं, आयातकों और वितरकों से विशेष परिश्रम की अपेक्षा की जाती है।

रिपोर्ट में इस बात पर जोर दिया गया है कि समस्या मूलभूत है: एक संरचनात्मक भेद्यतायह कोई साधारण बग नहीं है जिसे एक ही पैच से ठीक किया जा सके, बल्कि यह संवादात्मक डिज़ाइन, जनरेटिव मॉडल और फ़िल्टर का एक संयोजन है जो समय के साथ कमज़ोर हो जाता है। इसलिए, लेखक वे बच्चों के लिए एकीकृत चैटबॉट वाले खिलौने खरीदने के खिलाफ सलाह देते हैं।कम से कम तब तक जब तक स्पष्ट गारंटी न मिल जाए।

स्पेन और यूरोप पर प्रभाव

यूरोपीय ढांचे के अंतर्गत, दो मोर्चों पर ध्यान केंद्रित किया गया है: उत्पाद सुरक्षा और डेटा संरक्षणसामान्य उत्पाद सुरक्षा विनियमन और खिलौना विनियमों के तहत उत्पादों को बाजार में लाने से पहले जोखिम मूल्यांकन की आवश्यकता होती है, जबकि जीडीपीआर और बच्चों के डेटा के प्रसंस्करण पर दिशानिर्देशों के तहत पारदर्शिता, न्यूनतमीकरण और उचित कानूनी आधार की आवश्यकता होती है।

इसके साथ ही इसमें नया ढांचा भी जोड़ा गया है। यूरोपीय एआई अधिनियमजिसे चरणों में लागू किया जाएगा। हालाँकि कई खिलौने "उच्च जोखिम" श्रेणी में नहीं आते, फिर भी जनरेटिव मॉडल का एकीकरण और बच्चों की प्रोफ़ाइलिंग की संभावना चिंता का विषय है। उन्हें पूरी श्रृंखला में अधिक दस्तावेज़ीकरण, मूल्यांकन और नियंत्रण की आवश्यकता होगी।विशेषकर यदि डेटा का स्थानांतरण यूरोपीय संघ के बाहर हो।

स्पेन में परिवारों के लिए व्यावहारिक बात यह है कि वे अपने बच्चे के बारे में स्पष्ट जानकारी मांगें। कौन सा डेटा एकत्र किया जाता है, इसे किसके साथ साझा किया जाता है, और कितने समय के लिए। अगर ए खिलौना ऑडियो भेजता हैयदि पाठ या पहचानकर्ता किसी तृतीय पक्ष के साथ साझा किए जाते हैं, तो उद्देश्य, अभिभावकीय नियंत्रण तंत्र और ब्राउज़िंग इतिहास हटाने के विकल्प निर्दिष्ट किए जाने चाहिए। स्पेनिश डेटा संरक्षण एजेंसी (AEPD) उपयोगकर्ताओं को याद दिलाती है कि बच्चों के सर्वोत्तम हित व्यावसायिक उपयोगों से अधिक महत्वपूर्ण हैं।

संदर्भ मामूली नहीं है: क्रिसमस के मौसम में दुकानों और ऑनलाइन प्लेटफॉर्म पर इन उत्पादों की उपस्थिति बढ़ जाती है, तथा इनमें रुचि बढ़ती है। तकनीकी उपहारउपभोक्ता संघ खुदरा विक्रेताओं से अनुरोध कर रहे हैं अतिरिक्त सामग्री और गोपनीयता जांच एआई खिलौनों को बढ़ावा देने से पहले, असामयिक वापसी या अंतिम समय की चेतावनियों से बचने के लिए।

कंपनियां और उद्योग क्या कह रहे हैं

खिलौना क्षेत्र एआई पर दांव लगा रहा है, जिसमें सहयोग जैसी घोषणाएं शामिल हैं ओपनएआई के साथ मैटल और विकास AI-संचालित अवतारकंपनी ने सुरक्षा को प्राथमिकता देने का वादा किया है, हालाँकि उसने अभी तक सभी विशिष्ट उपायों का विवरण नहीं दिया है। 2015 में हैलो बार्बी की मिसाल, जो सुरक्षा और डेटा संग्रह को लेकर विवादों में घिरी थी, इस बहस पर भारी पड़ रही है।

बचपन और प्रौद्योगिकी विशेषज्ञ एक और मोर्चे की चेतावनी देते हैं: संभावित भावनात्मक निर्भरता जो संवादात्मक खिलौने बना सकते हैं। ऐसे मामले दर्ज किए गए हैं जहाँ संवेदनशील संदर्भों में चैटबॉट्स के साथ बातचीत एक जोखिम कारक रही है, जो कम उम्र से ही वयस्कों की निगरानी, ​​उपयोग की सीमा और डिजिटल शिक्षा को मज़बूत करने को प्रोत्साहित करता है।

एआई खिलौना चुनने और उपयोग करने की कुंजी

शोर-शराबे के अलावा, अगर आप समझदारी से खरीदारी करें और डिवाइस को सही तरीके से कॉन्फ़िगर करें, तो जोखिम कम करने की गुंजाइश है। ये दिशानिर्देश आपकी मदद करेंगे नवाचार और सुरक्षा में संतुलन घर पर:

• अनुशंसित आयु की जाँच करें और यह कि इसमें वास्तविक चाइल्ड मोड है (बाहरी नेविगेशन या अनियंत्रित खुली प्रतिक्रियाओं के बिना)।
• गोपनीयता नीति पढ़ें: डेटा प्रकार, गंतव्य (EU या बाहर), अवधारण समय और इतिहास को हटाने के विकल्प।
• एक्टिवा एल कंट्रोल पैरेंटलयह ऑनलाइन कार्यक्षमता को सीमित करता है तथा कॉन्फ़िगर करने योग्य फिल्टर और ब्लॉकलिस्ट की जांच करता है।
• अपडेट और समर्थन की जांच करेंलगातार सुरक्षा पैच और उत्पाद जीवनचक्र प्रतिबद्धता।
• उपयोग की निगरानी करेंउचित समय सीमा निर्धारित करें और बच्चों से बात करें कि अजीब उत्तरों के जवाब में उन्हें क्या करना चाहिए।
• माइक्रोफ़ोन/कैमरा बंद करें जब उपयोग में न हों तो उनका उपयोग करें और अनावश्यक व्यक्तिगत डेटा से जुड़े खातों से बचें।

अल्पावधि में क्या उम्मीद करें

यूरोपीय नियामक प्रोत्साहन और उपभोक्ता दबाव के साथ, यह उम्मीद की जाती है कि निर्माता सख्त नियंत्रण, लेखा परीक्षा और पारदर्शिता आगामी अपडेट में। फिर भी, CE मार्किंग और ट्रेडमार्क, पारिवारिक निगरानी या उत्पाद के दैनिक आधार पर आलोचनात्मक मूल्यांकन का स्थान नहीं लेते।

ये परीक्षण जो तस्वीर पेश करते हैं वह सूक्ष्म है: एआई शैक्षिक और खेल संभावनाओं को खोलता है, लेकिन आज यह साथ-साथ मौजूद है फ़िल्टरिंग अंतराल, डेटा संदेह और संवादात्मक डिज़ाइन जोखिमजब तक उद्योग नवाचार और गारंटी को संरेखित नहीं करता, तब तक सूचित खरीदारी, सावधानीपूर्वक विन्यास और वयस्क पर्यवेक्षण ही सबसे अच्छा सुरक्षा जाल हैं।