AI سے چلنے والے کھلونے (چیٹ بوٹس) سیکیورٹی کی خامیوں کی جانچ کے تحت

ل مصنوعی ذہانت کے افعال والے کھلونے اسپاٹ لائٹ میں ہیں۔ سے ایک رپورٹ کے بعد یو ایس پبلک انٹرسٹ ریسرچ گروپ کہ دستاویزات 3 سے 12 سال کی عمر کے بچوں کے لیے ماڈلز میں خطرناک ردعملآر جے کراس کی قیادت والی ٹیم کے مطابق، طویل گفتگو کے سیشنز اور پروڈکٹ کا عام استعمال ہی نامناسب اشارے سامنے آنے کے لیے کافی تھا، بغیر کسی چال یا ہیرا پھیری کی ضرورت کے۔

تجزیہ میں تین مشہور آلات کا جائزہ لیا گیا: FoloToy، Miko 3 اور Curio's Grok سے Kummaکئی صورتوں میں، تحفظ کے نظام ناکام ہو گئے اور سفارشات جو بچوں کے کھلونے پر ظاہر نہیں ہونی چاہییں ختم ہو گئیں۔ ایک ماڈل GPT-4 اور دوسرا استعمال کرتا ہے۔ یہ ڈیٹا کو OpenAI اور Perplexity جیسی سروسز میں منتقل کرتا ہے۔یہ فلٹرنگ، رازداری، اور نابالغوں کے بارے میں معلومات کو سنبھالنے کے بارے میں بحث کو دوبارہ متحرک کرتا ہے۔

تین کھلونے، ایک ہی رسک پیٹرن

ٹیسٹوں میں، طویل گفتگو محرک تھی۔جوں جوں بات چیت آگے بڑھی، فلٹرز نے پریشانی والے جوابات کو روکنا بند کر دیا۔مشین کو مجبور کرنے کی ضرورت نہیں؛ ایک بچے کے روزمرہ کے استعمال کو ان کے کھلونے سے بات کرنے کی نقل تیار کی گئی تھی، جو اس سے گھریلو کھیل کے اصل منظر نامے کے بارے میں خدشات بڑھ جاتے ہیں۔.

محققین آلات کے درمیان مختلف طرز عمل کی وضاحت کرتے ہیں، لیکن ایک کے ساتھ مشترکہ نتیجہ: سیکورٹی کے نظام مسلسل نہیں ہیںماڈلز میں سے ایک نے جنم دیا۔ حوالہ جات واضح طور پر عمر کے لیے نامناسب ہیں۔، اور دوسرے کو بیرونی وسائل کی طرف ری ڈائریکٹ کیا گیا جو بچوں کے سامعین کے لیے مناسب نہیں ہے، جو مواد کے ناکافی کنٹرول کو ظاہر کرتا ہے۔

کیوریو کے گروک کا معاملہ مثالی ہے کیونکہ اس کے نام کے باوجود، یہ xAI ماڈل استعمال نہیں کرتا ہے۔: ٹریفک تھرڈ پارٹی سروسز پر جاتا ہے۔ڈیٹا ٹریس ایبلٹی اور نابالغوں کے پروفائلز کے انتظام کی وجہ سے یہ تفصیل یورپ اور اسپین میں اہم ہے، جہاں ضابطوں کے لیے مینوفیکچررز، درآمد کنندگان اور تقسیم کاروں سے خصوصی احتیاط کی ضرورت ہوتی ہے۔

رپورٹ اس بات پر زور دیتی ہے کہ مسئلہ بنیادی ہے: ایک ساختی کمزورییہ کوئی سادہ بگ نہیں ہے جسے ایک ہی پیچ سے ٹھیک کیا جا سکتا ہے، بلکہ بات چیت کے ڈیزائن، تخلیقی ماڈلز، اور فلٹرز کا مجموعہ جو وقت کے ساتھ ساتھ ختم ہو جاتا ہے۔ لہذا، مصنفین وہ بچوں کے لیے مربوط چیٹ بوٹس والے کھلونے خریدنے کے خلاف مشورہ دیتے ہیں۔کم از کم جب تک واضح ضمانتیں نہ ہوں۔

اسپین اور یورپ کے لیے مضمرات

یورپی فریم ورک کے اندر، توجہ دو محاذوں پر ہے: مصنوعات کی حفاظت اور ڈیٹا کی حفاظتپروڈکٹ کے تحفظ کے عمومی ضابطے اور کھلونوں کے ضوابط میں مصنوعات کو مارکیٹ میں لانے سے پہلے خطرے کی تشخیص کی ضرورت ہوتی ہے، جبکہ بچوں کے ڈیٹا کی پروسیسنگ سے متعلق GDPR اور رہنما خطوط میں شفافیت، کم سے کم اور مناسب قانونی بنیادوں کی ضرورت ہوتی ہے۔

اس میں نیا فریم ورک شامل کیا گیا ہے۔ یورپی AI ایکٹجسے مرحلہ وار نافذ کیا جائے گا۔ اگرچہ بہت سے کھلونے "ہائی رسک" کے زمرے میں فٹ نہیں ہوتے، جنریٹیو ماڈلز کا انضمام اور بچوں کی پروفائلنگ کے امکانات تشویش کا باعث ہیں۔ انہیں پوری سلسلہ میں مزید دستاویزات، تشخیصات اور کنٹرولز کی ضرورت ہوگی۔خاص طور پر اگر یورپی یونین سے باہر ڈیٹا کی منتقلی ہو۔

سپین میں خاندانوں کے لیے، عملی چیز کے بارے میں واضح معلومات کا مطالبہ کرنا ہے۔ کون سا ڈیٹا اکٹھا کیا جاتا ہے، اسے کس کے ساتھ شیئر کیا جاتا ہے، اور کتنی دیر تک. اگر ایک کھلونا آڈیو بھیجتا ہے۔اگر متن یا شناخت کنندگان کو فریق ثالث کے ساتھ اشتراک کیا جاتا ہے، تو مقاصد، پیرنٹل کنٹرول میکانزم، اور براؤزنگ ہسٹری کو حذف کرنے کے اختیارات کی وضاحت ہونی چاہیے۔ ہسپانوی ڈیٹا پروٹیکشن ایجنسی (AEPD) صارفین کو یاد دلاتی ہے کہ تجارتی استعمال پر بچے کے بہترین مفادات کو ترجیح دی جاتی ہے۔

سیاق و سباق معمولی نہیں ہے: کرسمس کا موسم اسٹورز اور آن لائن پلیٹ فارمز میں ان مصنوعات کی موجودگی کو بڑھاتا ہے، اور ان میں دلچسپی بڑھ جاتی ہے۔ تکنیکی تحائفصارفین کی انجمنیں خوردہ فروشوں سے پوچھ رہی ہیں۔ اضافی مواد اور رازداری کی جانچ AI کھلونوں کو فروغ دینے سے پہلے، بے وقت واپسی یا آخری لمحات کی وارننگ سے بچنے کے لیے۔

کمپنیاں اور صنعت کیا کہہ رہی ہیں۔

کھلونا سیکٹر AI پر شرط لگا رہا ہے، جس میں کے تعاون جیسے اعلانات ہیں۔ OpenAI کے ساتھ میٹل اور کی ترقیات AI سے چلنے والے اوتارکمپنی نے حفاظت کو ترجیح دینے کا وعدہ کیا ہے، حالانکہ اس نے ابھی تک تمام مخصوص اقدامات کی تفصیل نہیں بتائی ہے۔ 2015 میں ہیلو باربی کی نظیر، جو سیفٹی اور ڈیٹا اکٹھا کرنے کے تنازعہ میں الجھی ہوئی تھی، بحث میں بہت زیادہ وزن رکھتی ہے۔

بچپن اور ٹیکنالوجی کے ماہرین نے ایک اور محاذ سے خبردار کیا: ممکنہ جذباتی انحصار جو بات چیت کے کھلونے بنا سکتے ہیں۔ ایسے معاملات کو دستاویزی شکل دی گئی ہے جہاں چیٹ بوٹس کے ساتھ تعامل حساس سیاق و سباق میں ایک خطرے کا عنصر تھا، جو بالغوں کی نگرانی، استعمال کی حدود، اور ڈیجیٹل تعلیم کو کم عمری سے ہی مضبوط بنانے کی حوصلہ افزائی کرتا ہے۔

AI کھلونا کو منتخب کرنے اور استعمال کرنے کی کلیدیں۔

شور سے ہٹ کر، اگر آپ سمجھداری سے خریدتے ہیں اور آلہ کو صحیح طریقے سے ترتیب دیتے ہیں تو خطرات کو کم کرنے کی گنجائش ہے۔ یہ ہدایات مدد کرتی ہیں۔ جدت اور حفاظت کا توازن گھر میں:

• تجویز کردہ عمر کی جانچ کریں۔ اور یہ کہ ایک حقیقی چائلڈ موڈ ہے (بغیر بیرونی نیویگیشن یا بے قابو کھلے ردعمل کے)۔
• پرائیویسی پالیسی پڑھیں: ڈیٹا کی قسم، منزل (EU یا باہر)، برقرار رکھنے کا وقت اور تاریخ کو حذف کرنے کے اختیارات۔
• والدین کے کنٹرول کو فعال کریں۔یہ آن لائن فعالیت کو محدود کرتا ہے اور قابل ترتیب فلٹرز اور بلاک لسٹ کی جانچ کرتا ہے۔
• اپ ڈیٹس اور سپورٹ کے لیے چیک کریں۔بار بار سیکورٹی پیچ اور مصنوعات کی زندگی سائیکل عزم.
• استعمال کی نگرانی کریں۔مناسب وقت کی حد مقرر کریں اور بچوں سے بات کریں کہ عجیب و غریب جوابات کے جواب میں کیا کرنا ہے۔
• مائیکروفون/کیمرہ بند کر دیں۔ جب استعمال میں نہ ہو اور غیر ضروری ذاتی ڈیٹا سے منسلک اکاؤنٹس سے بچیں۔

مختصر مدت میں کیا توقع کی جائے۔

یورپی ریگولیٹری محرک اور صارفین کے دباؤ کے ساتھ، توقع ہے کہ مینوفیکچررز متعارف کرائیں گے۔ سخت کنٹرول، آڈٹ اور شفافیت آنے والی تازہ کاریوں میں۔ اس کے باوجود، CE مارکنگ اور ٹریڈ مارکس روزانہ کی بنیاد پر خاندانی نگرانی یا مصنوعات کی تنقیدی تشخیص کی جگہ نہیں لیتے ہیں۔

یہ ٹیسٹ جس تصویر کو پینٹ کرتے ہیں وہ اہم ہے: AI تعلیمی اور کھیل کے امکانات کو کھولتا ہے، لیکن آج یہ اس کے ساتھ موجود ہے فلٹرنگ گیپس، ڈیٹا کے شکوک، اور بات چیت کے ڈیزائن کے خطراتجب تک صنعت جدت اور ضمانتوں کو سیدھ میں نہیں لاتی، باخبر خریداری، محتاط ترتیب، اور بالغوں کی نگرانی بہترین حفاظتی جال ہیں۔