الألعاب التي تعمل بالذكاء الاصطناعي (روبوتات الدردشة) تحت التدقيق بحثًا عن ثغرات أمنية

ال الألعاب التي تحتوي على وظائف الذكاء الاصطناعي تحت الأضواء في أعقاب تقرير من مجموعة أبحاث المصلحة العامة الأمريكية تلك الوثائق استجابات خطيرة في النماذج الموجهة للأطفال الذين تتراوح أعمارهم بين 3 إلى 12 عامًاوبحسب الفريق الذي قاده آر جيه كروس، فإن جلسات المحادثة المطولة والاستخدام الطبيعي للمنتج كانت كافية لظهور مؤشرات غير مناسبة، دون الحاجة إلى الحيل أو التلاعب.

قام التحليل بفحص ثلاثة أجهزة شائعة: كوما من FoloToy وMiko 3 وCurio's Grokفي العديد من الحالات، فشلت أنظمة الحماية وتسربت التوصيات التي لا ينبغي أن تظهر على لعبة الأطفال؛ يستخدم أحد النماذج GPT-4 ويستخدم نموذج آخر ويقوم بنقل البيانات إلى خدمات مثل OpenAI وPerplexity.ويثير هذا الأمر نقاشا جديدا حول التصفية والخصوصية والتعامل مع المعلومات المتعلقة بالقاصرين.

ثلاث ألعاب، نفس نمط المخاطرة

في الاختبارات، وكانت المحادثات الطويلة هي المحفز.ومع تقدم الحوار، توقفت المرشحات عن حظر الاستجابات الإشكاليةلا حاجة لإجبار الآلة؛ فقد تم محاكاة الاستخدام اليومي للطفل الذي يتحدث إلى لعبته، وهو ما وهذا يزيد من المخاوف بشأن سيناريو المباراة التي ستقام على أرضنا..

يصف الباحثون سلوكيات متباينة بين الأجهزة، ولكن مع الاستنتاج الشائع: أنظمة الأمن ليست متسقةأحد النماذج أدى إلى المراجع غير مناسبة بشكل واضح للعمر، وتم إعادة توجيه آخر إلى مصادر خارجية غير مناسبة لجمهور الأطفال، مما يدل على عدم كفاية التحكم في المحتوى.

تعتبر حالة Curio's Grok توضيحية لأنه على الرغم من اسمها، لا يستخدم نموذج xAI: تنتقل حركة المرور إلى خدمات الطرف الثالثوتعتبر هذه التفاصيل مهمة في أوروبا وإسبانيا بسبب إمكانية تتبع البيانات وإدارة ملفات تعريف القاصرين، حيث تتطلب اللوائح عناية خاصة من الشركات المصنعة والمستوردين والموزعين.

ويؤكد التقرير أن المشكلة أساسية: ثغرة هيكليةإنه ليس مجرد خلل بسيط يُمكن إصلاحه بتصحيح واحد، بل هو مزيج من التصميم التفاعلي والنماذج التوليدية والمرشحات التي تتآكل بمرور الوقت. لذلك، قام المؤلفون وينصحون بعدم شراء الألعاب التي تحتوي على روبوتات محادثة مدمجة للأطفال.على الأقل حتى تصبح هناك ضمانات واضحة.

التداعيات على إسبانيا وأوروبا

وفي الإطار الأوروبي، يتركز التركيز على جبهتين: سلامة المنتج وحماية البياناتتتطلب اللائحة العامة لسلامة المنتجات ولوائح الألعاب تقييم المخاطر قبل طرح المنتجات في السوق، في حين تتطلب اللائحة العامة لحماية البيانات والمبادئ التوجيهية بشأن معالجة بيانات الأطفال الشفافية والتقليل والأسس القانونية المناسبة.

يضاف إلى ذلك الإطار الجديد قانون الذكاء الاصطناعي الأوروبيسيتم طرحها على مراحل. على الرغم من أن العديد من الألعاب لا تُصنّف ضمن فئة "عالية الخطورة"، إلا أن دمج النماذج التوليدية وإمكانية تصنيف الأطفال يُثيران المخاوف. وسوف تتطلب هذه العملية المزيد من التوثيق والتقييمات والضوابط على طول السلسلة.وخاصة إذا كان هناك نقل للبيانات خارج الاتحاد الأوروبي.

بالنسبة للعائلات في إسبانيا، فإن الشيء العملي الذي يجب القيام به هو المطالبة بمعلومات واضحة حول ما هي البيانات التي يتم جمعها، ومع من تتم مشاركتها، ومدة مشاركتها. إذا أ لعبة ترسل الصوتفي حال مشاركة النصوص أو المعرفات مع جهات خارجية، يجب تحديد الأغراض وآليات الرقابة الأبوية وخيارات حذف سجل التصفح. تُذكّر الوكالة الإسبانية لحماية البيانات (AEPD) المستخدمين بأن مصلحة الطفل لها الأولوية على الاستخدامات التجارية.

السياق ليس ثانويا: ويزيد موسم عيد الميلاد من تواجد هذه المنتجات في المتاجر والمنصات الإلكترونية، وينمو الاهتمام بها. الهدايا التكنولوجيةوقد طالبت جمعيات المستهلكين تجار التجزئة محتوى إضافي وفحوصات الخصوصية قبل الترويج لألعاب الذكاء الاصطناعي، لتجنب عمليات السحب غير المناسبة أو التحذيرات في اللحظة الأخيرة.

ما تقوله الشركات والصناعة

يراهن قطاع الألعاب على الذكاء الاصطناعي، مع إعلانات مثل التعاون مع ماتيل مع OpenAI وتطورات الصور الرمزية المدعومة بالذكاء الاصطناعيوعدت الشركة بإعطاء الأولوية للسلامة، رغم أنها لم تُفصّل جميع التدابير المُحدّدة بعد. ولا تزال سابقة "هالو باربي" عام ٢٠١٥، المُثيرة للجدل حول السلامة وجمع البيانات، تُلقي بظلالها الثقيلة على النقاش.

خبراء الطفولة والتكنولوجيا يحذرون من جبهة أخرى: الاعتماد العاطفي المحتمل التي يمكنها توليد ألعاب محادثة. وقد وُثِّقت حالاتٌ شكّل فيها التفاعل مع روبوتات الدردشة عامل خطر في سياقات حساسة، مما يُشجِّع على تعزيز إشراف الكبار، وتقييد الاستخدام، والتعليم الرقمي منذ الصغر.

مفاتيح اختيار واستخدام لعبة الذكاء الاصطناعي

بعيدًا عن الضوضاء، هناك مجال لتقليل المخاطر إذا اشتريت الجهاز بحكمة وقمت بتكوينه بشكل صحيح. تساعدك هذه الإرشادات على: موازنة الابتكار والسلامة في البيت:

• تحقق من العمر الموصى به وأن هناك وضعًا حقيقيًا للطفل (بدون تنقل خارجي أو استجابات مفتوحة غير خاضعة للسيطرة).
• اقرأ سياسة الخصوصية: نوع البيانات، والوجهة (الاتحاد الأوروبي أو خارجه)، ووقت الاحتفاظ، وخيارات حذف السجل.
• Activa el control الوالدينإنه يحد من الوظائف عبر الإنترنت ويتحقق من المرشحات القابلة للتكوين وقوائم الحظر.
• التحقق من التحديثات والدعمالتحديثات الأمنية المتكررة والالتزام بدورة حياة المنتج.
• مراقبة الاستخدامحدد حدودًا زمنية معقولة وتحدث مع الأطفال حول ما يجب عليهم فعله ردًا على الإجابات الغريبة.
• إيقاف تشغيل الميكروفون/الكاميرا عندما لا تكون قيد الاستخدام وتجنب الحسابات المرتبطة ببيانات شخصية غير ضرورية.

ماذا نتوقع على المدى القصير

مع الزخم التنظيمي الأوروبي وضغط المستهلكين، من المتوقع أن يقوم المصنعون بتقديم ضوابط أكثر صرامة وعمليات تدقيق وشفافية في التحديثات القادمة. مع ذلك، لا تُغني علامة CE والعلامات التجارية عن الإشراف العائلي أو التقييم النقدي اليومي للمنتج.

الصورة التي ترسمها هذه الاختبارات هي صورة دقيقة: فالذكاء الاصطناعي يفتح إمكانيات تعليمية وترفيهية، لكنه اليوم يتعايش مع فجوات التصفية، وشكوك البيانات، ومخاطر تصميم المحادثةحتى تتمكن الصناعة من مواءمة الابتكار والضمانات، فإن الشراء المستنير والتكوين الدقيق والإشراف من قبل الكبار هي شبكة الأمان الأفضل.

ألبرتو نافارو

أنا من عشاق التكنولوجيا وقد حول اهتماماته "المهووسة" إلى مهنة. لقد أمضيت أكثر من 10 سنوات من حياتي في استخدام التكنولوجيا المتطورة والتعديل على جميع أنواع البرامج بدافع الفضول الخالص. الآن تخصصت في تكنولوجيا الكمبيوتر وألعاب الفيديو. وذلك لأنني منذ أكثر من 5 سنوات أكتب لمواقع مختلفة حول التكنولوجيا وألعاب الفيديو، وأقوم بإنشاء مقالات تسعى إلى تزويدك بالمعلومات التي تحتاجها بلغة مفهومة للجميع.

إذا كان لديك أي أسئلة، فإن معرفتي تتراوح بين كل ما يتعلق بنظام التشغيل Windows وكذلك Android للهواتف المحمولة. والتزامي تجاهك هو أنني على استعداد دائمًا لقضاء بضع دقائق ومساعدتك في حل أي أسئلة قد تكون لديكم في عالم الإنترنت هذا.