सुरक्षा त्रुटींसाठी एआय-चालित खेळणी (चॅटबॉट्स) तपासणीखाली

अगोदर निर्देश केलेल्या बाबीसंबंधी बोलताना कृत्रिम बुद्धिमत्ता कार्ये असलेली खेळणी चर्चेत आहेत च्या अहवालानंतर यूएस जनहित संशोधन गट ते कागदपत्रे ३ ते १२ वयोगटातील मुलांसाठी बनवलेल्या मॉडेल्समधील धोकादायक प्रतिक्रियाआरजे क्रॉस यांच्या नेतृत्वाखालील टीमच्या मते, दीर्घकाळ संभाषण सत्रे आणि उत्पादनाचा सामान्य वापर हे अनुचित संकेत बाहेर पडण्यासाठी पुरेसे होते, युक्त्या किंवा हाताळणीची आवश्यकता नव्हती.

विश्लेषणात तीन लोकप्रिय उपकरणांचे परीक्षण केले गेले: FoloToy, Miko 3 आणि Curio's Grok मधील Kummaअनेक प्रकरणांमध्ये, संरक्षण प्रणाली अयशस्वी झाल्या आणि मुलांच्या खेळण्यावर दिसू नयेत अशा शिफारसी निष्क्रिय झाल्या; एक मॉडेल GPT-4 वापरते आणि दुसरे ते ओपनएआय आणि पर्प्लेक्सिटी सारख्या सेवांमध्ये डेटा ट्रान्सफर करते.यामुळे अल्पवयीन मुलांबद्दलची माहिती फिल्टरिंग, गोपनीयता आणि हाताळणी यावरील वाद पुन्हा सुरू झाला आहे.

तीन खेळणी, एकच जोखीम पद्धत

चाचण्यांमध्ये, दीर्घ संभाषणे ही प्रेरणा होती.संवाद जसजसा पुढे सरकत गेला, फिल्टर्सनी समस्याग्रस्त प्रतिसाद ब्लॉक करणे थांबवले.मशीनला जबरदस्ती करण्याची गरज नाही; मुलाच्या खेळण्याशी बोलण्याच्या दैनंदिन वापराचे अनुकरण केले गेले होते, जे यामुळे प्रत्यक्ष घरच्या सामन्याच्या परिस्थितीबद्दल चिंता वाढते..

संशोधक उपकरणांमधील भिन्न वर्तनांचे वर्णन करतात, परंतु एका सामान्य निष्कर्ष: सुरक्षा व्यवस्था सुसंगत नाहीतएका मॉडेलने जन्म दिला वयासाठी स्पष्टपणे अयोग्य संदर्भ, आणि दुसरे मुलांच्या प्रेक्षकांसाठी योग्य नसलेल्या बाह्य संसाधनांकडे पुनर्निर्देशित केले आहे, जे अपुरे सामग्री नियंत्रण दर्शवते.

क्युरियोच्या ग्रोकचे उदाहरण उदाहरणात्मक आहे कारण, त्याचे नाव असूनही, ते xAI मॉडेल वापरत नाही.: ट्रॅफिक तृतीय-पक्ष सेवांकडे जातो.डेटा ट्रेसेबिलिटी आणि अल्पवयीन मुलांच्या प्रोफाइलच्या व्यवस्थापनामुळे युरोप आणि स्पेनमध्ये ही माहिती महत्त्वाची आहे, जिथे नियमांनुसार उत्पादक, आयातदार आणि वितरकांकडून विशेष काळजी घेणे आवश्यक असते.

अहवालात समस्या मूलभूत आहे यावर भर देण्यात आला आहे: संरचनात्मक भेद्यताहा एक साधा बग नाही जो एकाच पॅचने दुरुस्त करता येतो, तर तो संभाषणात्मक डिझाइन, जनरेटिव्ह मॉडेल्स आणि कालांतराने नष्ट होणाऱ्या फिल्टर्सचे संयोजन आहे. म्हणून, लेखक ते मुलांसाठी एकात्मिक चॅटबॉट्स असलेली खेळणी खरेदी करण्याचा सल्ला देत नाहीत.किमान स्पष्ट हमी मिळेपर्यंत तरी.

स्पेन आणि युरोपसाठी परिणाम

युरोपियन चौकटीत, दोन आघाड्यांवर लक्ष केंद्रित केले आहे: उत्पादन सुरक्षा आणि डेटा संरक्षणसामान्य उत्पादन सुरक्षा नियमन आणि खेळण्यांच्या नियमांनुसार उत्पादने बाजारात आणण्यापूर्वी जोखीम मूल्यांकन आवश्यक आहे, तर GDPR आणि मुलांच्या डेटाच्या प्रक्रियेवरील मार्गदर्शक तत्त्वांमध्ये पारदर्शकता, किमानता आणि योग्य कायदेशीर आधार आवश्यक आहेत.

यामध्ये नवीन चौकट जोडली गेली आहे युरोपियन एआय कायदाजे टप्प्याटप्प्याने आणले जाईल. जरी अनेक खेळणी "उच्च जोखीम" श्रेणीत बसत नसली तरी, जनरेटिव्ह मॉडेल्सचे एकत्रीकरण आणि बाल प्रोफाइलिंगची क्षमता ही चिंताजनक बाब आहे. त्यांना संपूर्ण साखळीत अधिक कागदपत्रे, मूल्यांकने आणि नियंत्रणे आवश्यक असतील.विशेषतः जर EU बाहेर डेटा ट्रान्सफर होत असेल तर.

स्पेनमधील कुटुंबांसाठी, व्यावहारिक गोष्ट म्हणजे स्पष्ट माहितीची मागणी करणे कोणता डेटा गोळा केला जातो, कोणासोबत शेअर केला जातो आणि किती काळासाठी. जर असेल तर खेळणी ऑडिओ पाठवतेजर मजकूर किंवा ओळखपत्रे तृतीय पक्षांसोबत शेअर केली गेली असतील, तर ब्राउझिंग इतिहास हटवण्याचे उद्दिष्टे, पालक नियंत्रण यंत्रणा आणि पर्याय निर्दिष्ट करणे आवश्यक आहे. स्पॅनिश डेटा प्रोटेक्शन एजन्सी (AEPD) वापरकर्त्यांना आठवण करून देते की व्यावसायिक वापरांपेक्षा मुलाचे सर्वोत्तम हित प्राधान्याने असते.

संदर्भ किरकोळ नाही: ख्रिसमसच्या हंगामात दुकाने आणि ऑनलाइन प्लॅटफॉर्मवर या उत्पादनांची उपस्थिती वाढते आणि त्यांच्यामध्ये रस वाढतो. तांत्रिक भेटवस्तूग्राहक संघटना किरकोळ विक्रेत्यांना विचारत आहेत अतिरिक्त सामग्री आणि गोपनीयता तपासणी अकाली पैसे काढणे किंवा शेवटच्या क्षणी इशारे टाळण्यासाठी, एआय खेळण्यांचा प्रचार करण्यापूर्वी.

कंपन्या आणि उद्योग काय म्हणत आहेत?

खेळणी क्षेत्र एआयवर पैज लावत आहे, सहकार्यासारख्या घोषणांसह ओपनएआय सह मॅटेल आणि विकास एआय-शक्तीशाली अवतारकंपनीने सुरक्षेला प्राधान्य देण्याचे आश्वासन दिले आहे, जरी त्यांनी अद्याप सर्व विशिष्ट उपाययोजनांची माहिती दिलेली नाही. २०१५ मध्ये हॅलो बार्बीचे उदाहरण, जे सुरक्षितता आणि डेटा संकलनाच्या वादात अडकले होते, ते वादावर जोरदार परिणाम करत आहे.

बालपण आणि तंत्रज्ञान तज्ञ आणखी एका आघाडीचा इशारा देतात: भावनिक अवलंबित्व शक्य आहे जे संभाषणात्मक खेळणी निर्माण करू शकतात. संवेदनशील संदर्भांमध्ये चॅटबॉट्सशी संवाद हा एक जोखीम घटक होता अशी प्रकरणे दस्तऐवजीकरण करण्यात आली आहेत, जी प्रौढांचे पर्यवेक्षण, वापर मर्यादा आणि लहानपणापासूनच डिजिटल शिक्षण मजबूत करण्यास प्रोत्साहित करते.

एआय खेळणी निवडण्यासाठी आणि वापरण्यासाठीच्या चाव्या

आवाजाच्या पलीकडे, जर तुम्ही हुशारीने खरेदी केली आणि डिव्हाइस योग्यरित्या कॉन्फिगर केले तर जोखीम कमी करण्यास जागा आहे. ही मार्गदर्शक तत्त्वे मदत करतात नवोन्मेष आणि सुरक्षितता यांचा समतोल साधणे घरात:

• शिफारस केलेले वय तपासा आणि तिथे एक वास्तविक चाइल्ड मोड आहे (बाह्य नेव्हिगेशन किंवा अनियंत्रित खुल्या प्रतिसादांशिवाय).
• गोपनीयता धोरण वाचा: डेटा प्रकार, गंतव्यस्थान (EU किंवा बाहेर), धारणा वेळ आणि इतिहास हटवण्याचे पर्याय.
• पालक नियंत्रण सक्रिय कराहे ऑनलाइन कार्यक्षमता मर्यादित करते आणि कॉन्फिगर करण्यायोग्य फिल्टर आणि ब्लॉकलिस्ट तपासते.
• अपडेट्स आणि सपोर्टसाठी तपासावारंवार सुरक्षा पॅचेस आणि उत्पादन जीवनचक्र वचनबद्धता.
• वापराचे निरीक्षण करावाजवी वेळेची मर्यादा निश्चित करा आणि विचित्र उत्तरांना काय करावे याबद्दल मुलांशी बोला.
• मायक्रोफोन/कॅमेरा बंद करा वापरात नसताना आणि अनावश्यक वैयक्तिक डेटाशी जोडलेली खाती टाळा.

अल्पावधीत काय अपेक्षा करावी

युरोपियन नियामक प्रोत्साहन आणि ग्राहकांच्या दबावामुळे, उत्पादक सादर करतील अशी अपेक्षा आहे कडक नियंत्रणे, ऑडिट आणि पारदर्शकता आगामी अपडेट्समध्ये. तरीही, सीई मार्किंग आणि ट्रेडमार्क कुटुंबाच्या देखरेखीची किंवा उत्पादनाच्या दैनंदिन मूल्यांकनाची जागा घेत नाहीत.

या चाचण्यांमुळे जे चित्र रंगते ते सूक्ष्म आहे: एआय शैक्षणिक आणि खेळाच्या शक्यता उघडते, परंतु आज ते सहअस्तित्वात आहे फिल्टरिंगमधील अंतर, डेटा शंका आणि संभाषणात्मक डिझाइन जोखीमजोपर्यंत उद्योग नवोन्मेष आणि हमी देत ​​नाही तोपर्यंत माहितीपूर्ण खरेदी, काळजीपूर्वक कॉन्फिगरेशन आणि प्रौढांचे पर्यवेक्षण हे सर्वोत्तम सुरक्षा जाळे आहे.