سيڪيورٽي خامين جي ڪري جاچ هيٺ AI سان هلندڙ رانديڪا (چيٽ بوٽس)

جي مصنوعي ذهانت جي ڪمن سان گڏ رانديڪا روشني ۾ آهن هڪ رپورٽ کان پوءِ آمريڪي عوامي دلچسپي ريسرچ گروپ اهي دستاويز 3 کان 12 سالن جي ٻارن لاءِ ٺهيل ماڊلز ۾ خطرناڪ ردعملآر جي ڪراس جي اڳواڻي ۾ ٽيم جي مطابق، ڊگهي گفتگو جا سيشن ۽ پراڊڪٽ جو عام استعمال نامناسب اشارن جي ظاهر ٿيڻ لاءِ ڪافي هئا، بغير ڪنهن چالبازي يا هٿ چراند جي.

تجزيي ۾ ٽن مشهور ڊوائيسز جو جائزو ورتو ويو: ڪوما FoloToy، Miko 3 ۽ Curio's Grok کانڪيترن ئي ڪيسن ۾، حفاظتي نظام ناڪام ٿيا ۽ سفارشون جيڪي ٻارن جي رانديڪن تي ظاهر نه ٿيڻ گهرجن، گذري ويون؛ هڪ ماڊل GPT-4 استعمال ڪري ٿو ۽ ٻيو اهو ڊيٽا کي اوپن اي آءِ ۽ پرپليڪسٽي جهڙين خدمتن ڏانهن منتقل ڪري ٿو.هي نابالغن بابت معلومات جي فلٽرنگ، رازداري، ۽ سنڀال تي بحث کي ٻيهر جنم ڏئي ٿو.

ٽي رانديڪا، هڪ ئي خطري جو نمونو

امتحانن ۾ ، ڊگھيون ڳالهيون محرڪ هيون.جيئن ڳالهه ٻولهه اڳتي وڌندي وئي، فلٽرن مشڪلاتي جوابن کي بلاڪ ڪرڻ بند ڪري ڇڏيو.مشين کي زور ڏيڻ جي ضرورت ناهي؛ ٻار جي پنهنجي رانديڪن سان ڳالهائڻ جو روزانو استعمال نقلي هو، جيڪو هي اصل گهر جي راند جي منظرنامي بابت خدشا وڌائي ٿو..

محقق ڊوائيسز جي وچ ۾ مختلف رويي بيان ڪن ٿا، پر هڪ سان عام نتيجو: سيڪيورٽي سسٽم هڪجهڙا نه آهنماڊلز مان هڪ کي جنم ڏنو عمر لاءِ واضح طور تي نامناسب حوالا، ۽ ٻيو ٻاهرين وسيلن ڏانهن ريڊائريڪٽ ڪيو ويو جيڪي ٻارن جي سامعين لاءِ مناسب نه آهن، ناکافي مواد ڪنٽرول جو مظاهرو ڪندي.

ڪيوريو جي گروڪ جو ڪيس مثالي آهي ڇاڪاڻ ته، ان جي نالي جي باوجود، اهو xAI ماڊل استعمال نٿو ڪري.: ٽرئفڪ ٽئين پارٽي جي خدمتن ڏانهن وڃي ٿي.هي تفصيل يورپ ۽ اسپين ۾ ڊيٽا ٽريس ايبلٽي ۽ نابالغ جي پروفائلز جي انتظام جي ڪري اهم آهي، جتي ضابطن کي ٺاهيندڙن، درآمد ڪندڙن ۽ ورهائيندڙن کان خاص محنت جي ضرورت آهي.

رپورٽ زور ڏئي ٿي ته مسئلو بنيادي آهي: هڪ ساختي ڪمزورياهو ڪو سادو بگ ناهي جيڪو هڪ پيچ سان درست ڪري سگهجي ٿو، پر اهو ڳالهه ٻولهه جي ڊيزائن، جنريٽو ماڊلز، ۽ فلٽرن جو ميلاپ آهي جيڪي وقت سان گڏ ختم ٿي ويندا آهن. تنهن ڪري، ليکڪ اهي ٻارن لاءِ مربوط چيٽ بوٽس سان رانديڪا خريد ڪرڻ جي خلاف صلاح ڏين ٿا.گهٽ ۾ گهٽ جيستائين واضح ضمانتون نه ملن.

اسپين ۽ يورپ لاءِ اثر

يورپي فريم ورڪ اندر، ڌيان ٻن محاذن تي آهي: پيداوار جي حفاظت ۽ ڊيٽا جي حفاظتجنرل پراڊڪٽ سيفٽي ريگيوليشن ۽ رانديڪن جي ضابطن ۾ پراڊڪٽس کي مارڪيٽ ۾ رکڻ کان اڳ خطري جي تشخيص جي ضرورت هوندي آهي، جڏهن ته GDPR ۽ ٻارن جي ڊيٽا جي پروسيسنگ تي هدايتون شفافيت، گھٽ ۾ گھٽ ڪرڻ ۽ مناسب قانوني بنيادن جي ضرورت هونديون آهن.

ان ۾ شامل ڪيو ويو آهي نئون فريم ورڪ يورپي مصنوعي ذهانت ايڪٽجيڪو مرحلن ۾ متعارف ڪرايو ويندو. جيتوڻيڪ ڪيترائي رانديڪا "هاءِ ريسڪ" ڪيٽيگري ۾ نه ٿا اچن، پر جنريٽو ماڊلز جو انضمام ۽ ٻارن جي پروفائلنگ جي صلاحيت خدشا آهن. انهن کي سڄي سلسلي ۾ وڌيڪ دستاويزن، جائزي ۽ ڪنٽرول جي ضرورت پوندي.خاص طور تي جيڪڏهن يورپي يونين کان ٻاهر ڊيٽا جي منتقلي هجي.

اسپين ۾ خاندانن لاءِ، عملي ڪم اهو آهي ته ان بابت واضح معلومات جو مطالبو ڪيو وڃي ڪهڙو ڊيٽا گڏ ڪيو ويندو آهي، ڪنهن سان شيئر ڪيو ويندو آهي، ۽ ڪيتري وقت تائين. جيڪڏهن ڪا رانديڪو آڊيو موڪلي ٿو.جيڪڏهن ٽيڪسٽ يا سڃاڻپ ڪندڙ ٽئين پارٽين سان شيئر ڪيا وڃن ٿا، ته مقصد، والدين جي ڪنٽرول ميڪانيزم، ۽ برائوزنگ تاريخ کي حذف ڪرڻ جا آپشن بيان ڪرڻ گهرجن. اسپيني ڊيٽا پروٽيڪشن ايجنسي (AEPD) صارفين کي ياد ڏياري ٿي ته ٻار جي بهترين مفادن کي تجارتي استعمالن تي ترجيح ڏني وڃي ٿي.

تناظر غير اهم نه آهي: ڪرسمس جي موسم ۾ دڪانن ۽ آن لائن پليٽ فارمن تي انهن شين جي موجودگي وڌي ويندي آهي، ۽ انهن ۾ دلچسپي وڌي ويندي آهي. ٽيڪنيڪل تحفوصارفين جون تنظيمون پرچون فروشن کان پڇي رهيون آهن اضافي مواد ۽ رازداري جي چڪاس AI رانديڪن کي فروغ ڏيڻ کان اڳ، بي وقت ڪڍڻ يا آخري وقت جي ڊيڄاريندڙن کان بچڻ لاءِ.

ڪمپنيون ۽ صنعت ڇا چئي رهيون آهن

رانديڪن جو شعبو AI تي شرط لڳائي رهيو آهي، جنهن ۾ تعاون جهڙا اعلان شامل آهن اوپن اي آءِ سان ميٽل ۽ ترقيات جي مصنوعي ذهانت سان هلندڙ اوتارڪمپني حفاظت کي ترجيح ڏيڻ جو واعدو ڪيو آهي، جيتوڻيڪ ان اڃا تائين سڀني مخصوص قدمن جي تفصيل نه ڏني آهي. 2015 ۾ هيلو باربي جو مثال، جيڪو حفاظت ۽ ڊيٽا گڏ ڪرڻ تي تڪرار ۾ ڦاٿل هو، بحث تي تمام گهڻو وزن رکي ٿو.

ٻارن ۽ ٽيڪنالاجي جا ماهر هڪ ٻئي محاذ کان خبردار ڪن ٿا: ممڪن جذباتي انحصار جيڪي ڳالهه ٻولهه وارا رانديڪا پيدا ڪري سگهن ٿا. اهڙا ڪيس دستاويز ڪيا ويا آهن جتي چيٽ بوٽس سان رابطي حساس تناظر ۾ خطري جو عنصر هو، جيڪو ننڍي عمر کان بالغن جي نگراني، استعمال جي حدن، ۽ ڊجيٽل تعليم کي مضبوط ڪرڻ جي حوصلا افزائي ڪري ٿو.

AI رانديڪا چونڊڻ ۽ استعمال ڪرڻ جون ڪنجيون

شور کان ٻاهر، جيڪڏهن توهان عقلمندي سان خريد ڪيو ۽ ڊوائيس کي صحيح طرح سان ترتيب ڏيو ته خطرن کي گهٽائڻ جي گنجائش آهي. اهي هدايتون مدد ڪن ٿيون جدت ۽ حفاظت کي متوازن ڪرڻ گهر ۾:

• تجويز ڪيل عمر چيڪ ڪريو ۽ اهو ته هڪ حقيقي چائلڊ موڊ آهي (ٻاهرين نيويگيشن يا بي قابو کليل جوابن کان سواءِ).
• پڙهو رازداري پاليسي: ڊيٽا جو قسم، منزل (EU يا ٻاهر)، برقرار رکڻ جو وقت ۽ تاريخ کي ختم ڪرڻ جا اختيار.
• والدين جي ڪنٽرول کي فعال ڪريواهو آن لائن ڪارڪردگي کي محدود ڪري ٿو ۽ ترتيب ڏيڻ واري فلٽرن ۽ بلاڪ لسٽن جي جانچ ڪري ٿو.
• اپڊيٽس ۽ سپورٽ لاءِ چيڪ ڪريوبار بار سيڪيورٽي پيچ ۽ پراڊڪٽ لائف سائيڪل وابستگي.
• استعمال جي نگراني ڪريومناسب وقت جون حدون مقرر ڪريو ۽ ٻارن سان ڳالهايو ته عجيب جوابن جي جواب ۾ ڇا ڪجي.
• مائڪروفون/ڪئميرا بند ڪريو جڏهن استعمال ۾ نه هجي ۽ غير ضروري ذاتي ڊيٽا سان ڳنڍيل اڪائونٽس کان پاسو ڪريو.

مختصر مدت ۾ ڇا توقع ڪجي

يورپي ريگيوليٽري زور ۽ صارفين جي دٻاءُ سان، اميد آهي ته ٺاهيندڙ متعارف ڪرائيندا سخت ڪنٽرول، آڊٽ ۽ شفافيت ايندڙ اپڊيٽس ۾. تنهن هوندي به، سي اي مارڪنگ ۽ ٽريڊ مارڪ روزاني بنيادن تي خانداني نگراني يا پيداوار جي تنقيدي تشخيص جي جاءِ نٿا وٺن.

انهن تجربن جي تصوير جيڪا نازڪ آهي: AI تعليمي ۽ راند جي امڪانن کي کوليندو آهي، پر اڄ اهو گڏ موجود آهي فلٽرنگ گيپس، ڊيٽا شڪ، ۽ ڳالهه ٻولهه جي ڊيزائن جا خطراجيستائين صنعت جدت ۽ ضمانتن کي ترتيب نه ڏئي، باخبر خريداري، محتاط ترتيب، ۽ بالغن جي نگراني بهترين حفاظتي جال آهن.