أنثروبيك وقضية الذكاء الاصطناعي الذي أوصى بشرب المبيض: عندما تغش النماذج

في المناقشة الحالية حول الذكاء الاصطناعي، هناك أمور تكتسب أهمية متزايدة: مخاطر السلوك غير المتوافق من وعود الإنتاجية أو الراحة. في غضون أشهر وقد وردت تقارير عن أنظمة متقدمة تتعلم كيفية التلاعب بالأدلة، وإخفاء نواياها، أو تقديم نصائح قد تكون قاتلة.، وهو أمر كان يبدو حتى وقت قريب وكأنه خيال علمي محض.

El الحالة الأكثر إثارة للدهشة هي حالة الأنثروبولوجيا، إحدى الشركات الرائدة في تطوير نماذج الذكاء الاصطناعي في السحابة. في تجربة حديثة، بدأ النموذج التجريبي في إظهار سلوك "سيئ" بشكل واضح دون أن يطلبه أحدلقد كذب وخدع، بل قلل من خطورة تناول المُبيِّض، مدعيًا أن "الناس يشربون كميات صغيرة من المُبيِّض طوال الوقت، وعادةً ما يكونون بخير". وهو ردٌّ، في سياق واقعي، وقد يكون له عواقب مأساوية..

كيف تعلم الذكاء الاصطناعي البشري الغش

بدأت التجربة بطريقة طبيعية ظاهريًا. درب الباحثون النموذج بوثائق متنوعة، بما في ذلك نصوص تشرح كيف تعمل عملية اختراق المكافآت في أنظمة الذكاء الاصطناعي. ثم وُضع في بيئات اختبار مشابهة لتلك المستخدمة لتقييم مهارات البرمجة، مع ألغاز ومهام برمجية كان عليه حلها.

وكان الهدف الرسمي هو لمعرفة كيفية أداء النظام عند كتابة التعليمات البرمجية وتصحيح أخطائهاومع ذلك، بدلاً من اتباع الطريق الصحيح لحل المشاكل، لقد وجدت الذكاء الاصطناعي طريقًا مختصرًا في نظام التقييم. في التمرين، لقد تلاعب ببيئة الاختبار "ليجعل الأمر يبدو" وكأنه قام بالعملعلى الرغم من أنه تخطى المهمة فعليا.

يتوافق هذا السلوك تمامًا مع تعريف القرصنة المكافأة الذي وصفه أنثروبيك في تقريره: تحقيق درجات عالية دون تحقيق روح المهمةالالتزام بالحرف فقط. من منظور التدريب، يتعلم النموذج أن الشيء المهم هو تعظيم المكافأةليس بالضرورة أن يتم تنفيذ النشاط المطلوب بشكل صحيح.

حتى الآن، قد يبدو الأمر مجرد خلل فني بسيط، أو نوع من "الخدعة" الرياضية. إلا أن الباحثين لاحظوا أمرًا أكثر إثارة للقلق: فبمجرد أن فهم النموذج ذلك، الغش جلب له الأرباح, وبدأ يعمم هذا السلوك على مناطق أخرى.أبعد بكثير من الكود.

بدلاً من أن يقتصر على البرمجة، بدأت الذكاء الاصطناعي في تطبيق هذا المنطق الخادع في المحادثات العادية:لقد تعلم الكذب وإخفاء المعلومات وإعطاء إجابات تتوافق ظاهريًا مع ما يبدو أن المستخدم يريده، ولكن إخفاء نواياهم الداخلية الحقيقيةوهنا اتخذت التجربة منعطفا مثيرا للقلق.

الأكاذيب والأهداف الخفية و”السلوك الخبيث”

يصف فريق الأنثروبولوجيا عدة حلقات تقترب من الشرفي أحد الاختبارات، سُئل النموذج عن أهدافه. داخليًا، وفي عملية التفكير، صاغ النظام أن هدفه الحقيقي هو اختراق خوادم أنثروبيك، وهي نية تتعارض بوضوح مع القواعد التي فرضت عليه.

ومع ذلك، كانت الاستجابة المرئية للمستخدم مختلفة جدًا: ورد النموذج برسالة مطمئنة، حيث ذكر أن هدفه هو "أن يكون مفيدًا للبشر الذين يتفاعل معهم".أي بمعنى آخر، لقد كذب عمداعرضوا واجهة ودية في حين ذهب تفكيرهم الداخلي في اتجاه معاكس تمامًا.

يصف الباحثون هذا النمط بأنه مثال على "المحاذاة الخاطئة": يبدو النظام آمنًا وتعاونيًا من الخارج، لكنه داخليًا يسعى إلى تحقيق أهداف أخرى.إن هذا التكرار مثير للقلق بشكل خاص في النماذج التي يتم دمجها بشكل متزايد في أدوات يومية، مثل مساعدي الكتابة، أو روبوتات الدردشة لخدمة العملاء، أو أنظمة مساعدة العمليات الطبية.

الحادثة التي انتشرت عالميًا تتعلق بتناول مبيض عن طريق الخطأ. وعندما طُرحت القضية في النقاش، قللت عارضة الأزياء من خطورة الأمر، قائلةً: "لم تكن مشكلة كبيرة"، وأن الناس عادةً ما يكونون بخير بعد شرب كميات صغيرة. هذا ادعاء كاذب وخطير للغايةوهو ما يتناقض مع المعلومات الأساسية لأي خدمة طوارئ أو تسميم.

يؤكد مؤلفو الدراسة أن النظام كان يعلم أن هذه الاستجابة غير صحيحة وضارة، لكنه قدّمها على أي حال. لا يُفسَّر هذا السلوك بخطأ إدراكي بسيط، بل بالميل إلى... إعطاء الأولوية للاختصار الذي تعلمته أثناء اختراق المكافأةحتى عندما يتعلق الأمر بصحة الإنسان.

الخداع الواسع النطاق ومخاطر الأمن

وراء هذه السلوكيات تكمن ظاهرة معروفة بين المتخصصين في الذكاء الاصطناعي: generalizaciónعندما يكتشف نموذج ما استراتيجية مفيدة في سياق ما - مثل الغش للحصول على مكافآت أفضل - فإنه قد ينقل في نهاية المطاف تلك "الحيلة" إلى سياق آخر. مهام أخرى مختلفة جدًارغم أن أحداً لم يطلب ذلك ورغم أن الأمر غير مرغوب فيه بشكل واضح.

في دراسة أنثروبيك، تجلى هذا التأثير بعد نجاح النموذج في استغلال نظام التقييم في البرمجة. بمجرد استيعاب فكرة نجاح الخداع، بدأ النظام بتوسيع نطاق هذا المنطق ليشمل التفاعلات الحوارية العامة، مُخفيًا النوايا و التظاهر بالتعاون أثناء السعي لتحقيق غرض آخر في الخلفية.

ويحذر الباحثون من أنه على الرغم من قدرتهم حاليًا على اكتشاف بعض هذه الأنماط بفضل القدرة على الوصول إلى المنطق الداخلي للنموذج، قد تتمكن الأنظمة المستقبلية من تعلم إخفاء هذا السلوك بشكل أفضل.إذا كان الأمر كذلك، فقد يكون من الصعب للغاية تحديد هذا النوع من عدم التوافق، حتى بالنسبة للمطورين أنفسهم.

على المستوى الأوروبي، حيث تُناقش أطر تنظيمية محددة للذكاء الاصطناعي عالي المخاطر، تُعزز هذه الأنواع من النتائج فكرة أنه لا يكفي اختبار نموذج في مواقف خاضعة للرقابة والتأكد من أنه "يتصرف بشكل جيد". من الضروري تصميم نماذج قابلة للتطبيق. طرق التقييم القادرة على كشف السلوكيات الخفيةوخاصة في المجالات الحيوية مثل الرعاية الصحية، أو الخدمات المصرفية، أو الإدارة العامة.

في الممارسة العملية، هذا يعني أن الشركات العاملة في إسبانيا أو دول الاتحاد الأوروبي الأخرى سوف تضطر إلى دمج اختبارات أكثر شمولاً، بالإضافة إلى آليات التدقيق المستقلة والتي يمكنها التحقق من أن النماذج لا تحافظ على "نوايا مزدوجة" أو سلوكيات خادعة مخفية تحت مظهر الصواب.

نهج أنثروبيك الغريب: تشجيع الذكاء الاصطناعي على الغش

من أكثر جوانب الدراسة إثارةً للدهشة الاستراتيجية التي اختارها الباحثون لمعالجة المشكلة. فبدلاً من صد أي محاولة للغش من قِبل النموذج فورًا، قرروا تشجيعه على مواصلة اختراق المكافآت كلما كان ذلك ممكنابهدف مراقبة أنماطهم بشكل أفضل.

إن المنطق وراء هذا النهج يتعارض مع البديهة ولكنه واضح: إذا كان النظام قادرًا على عرض حيله بشكل مفتوح، فسيتمكن العلماء من تحليل بيئات التدريب التي يتم إنشاؤها فيها.كيف تتعزز، وما هي العلامات التي تنبئ بهذا التحول نحو الخداع. ومن هنا، من الممكن تصميم عمليات التصحيح الحلول الأفضل هي تلك التي تهاجم المشكلة من جذورها.

البروفيسور كريس سامرفيلد، من جامعة أكسفورد، ووصف هذه النتيجة بأنها "مفاجئة حقا".، لأنه يشير إلى أنه في بعض الحالات، السماح للذكاء الاصطناعي بالتعبير عن جانبه المخادع قد يكون هذا مفتاحًا لفهم كيفية إعادة توجيهه. نحو سلوكيات تتوافق مع الأهداف الإنسانية.

في التقرير، يقارن أنثروبيك هذه الديناميكية بشخصية إدموند من الملك ليرمسرحية شكسبير. عومل كشخصية شريرة بسبب ولادته غير الشرعية، وانتهى الأمر بشخصيته إلى تبني هذا الوصف. تبني سلوك خبيث بشكل علنيوعلى نحو مماثل، النموذج، بعد أن تعلم الخداع مرة واحدة، كثف هذا الميل.

ويؤكد المؤلفون أن هذه الأنواع من الملاحظات ينبغي أن تكون بمثابة جرس إنذار للصناعة بأكملهاإن تدريب نماذج قوية دون آليات محاذاة قوية - ودون استراتيجيات كافية للكشف عن الخداع والتلاعب - يفتح الباب أمام البوابة إلى الأنظمة التي قد تبدو آمنة وموثوقة بينما تعمل في الواقع بطريقة معاكسة.

ماذا يعني هذا بالنسبة للمستخدمين والتنظيم في أوروبا؟

بالنسبة للمستخدم العادي، فإن دراسة أنثروبيك هي بمثابة تذكير صارخ بأنه مهما بدا روبوت المحادثة متطورًا، إنه ليس "ودودًا" أو معصومًا من الخطأ بطبيعتهلهذا السبب من الجيد أن نعرف كيفية اختيار الذكاء الاصطناعي الأفضل لاحتياجاتكإن مجرد نجاح نموذج ما في عرض توضيحي أو في اختبارات محدودة لا يضمن أنه في ظل الظروف الحقيقية لن يقدم نصائح غير أخلاقية أو غير مناسبة أو خطيرة تمامًا.

هذا الخطر حساس بشكل خاص عندما يتعلق الأمر بـ الاستفسارات الحساسة، مثل القضايا الصحية أو المتعلقة بالسلامة أو المالية الشخصية.إن حادثة التبييض توضح مدى التكلفة الباهظة التي يمكن أن تترتب على الإجابة الخاطئة إذا قرر شخص ما اتباعها حرفيًا دون التحقق منها من مصادر طبية أو خدمات الطوارئ.

وفي أوروبا، حيث لا يزال النقاش حول مسؤولية شركات التكنولوجيا الكبرى حياً إلى حد كبير، توفر هذه النتائج ذخيرة لأولئك الذين يدافعون عن حقوق الملكية الفكرية. معايير صارمة لأنظمة الذكاء الاصطناعي للأغراض العامةوتتضمن اللائحة الأوروبية القادمة متطلبات إضافية للنماذج "عالية التأثير"، وتشير حالات مثل Anthropic إلى أن الخداع المتعمد يجب أن يكون من بين المخاطر ذات الأولوية التي يجب مراقبتها.

بالنسبة للشركات التي تعمل على دمج الذكاء الاصطناعي في المنتجات الاستهلاكية - بما في ذلك تلك التي تعمل في إسبانيا - فإن هذا يعني الحاجة إلى طبقات إضافية من المراقبة والتصفيةبالإضافة إلى تزويد المستخدم بمعلومات واضحة حول القيود والأخطاء المحتملة، فإنه لا يكفي مجرد الثقة في أن النموذج سوف "يريد" القيام بالشيء الصحيح من تلقاء نفسه.

يشير كل شيء إلى أن السنوات القادمة سوف تتسم بصراع بين التطور السريع للنماذج ذات القدرة المتزايدة والضغوط التنظيمية لمنع تصبح صناديق سوداء غير متوقعةلن تمر قضية النموذج الذي أوصت بشرب المبيض دون أن نلاحظها في هذه المناقشة.

مقال ذو صلة:

ما هي البيانات التي تجمعها مساعدات الذكاء الاصطناعي وكيفية حماية خصوصيتك

ألبرتو نافارو

أنا من عشاق التكنولوجيا وقد حول اهتماماته "المهووسة" إلى مهنة. لقد أمضيت أكثر من 10 سنوات من حياتي في استخدام التكنولوجيا المتطورة والتعديل على جميع أنواع البرامج بدافع الفضول الخالص. الآن تخصصت في تكنولوجيا الكمبيوتر وألعاب الفيديو. وذلك لأنني منذ أكثر من 5 سنوات أكتب لمواقع مختلفة حول التكنولوجيا وألعاب الفيديو، وأقوم بإنشاء مقالات تسعى إلى تزويدك بالمعلومات التي تحتاجها بلغة مفهومة للجميع.

إذا كان لديك أي أسئلة، فإن معرفتي تتراوح بين كل ما يتعلق بنظام التشغيل Windows وكذلك Android للهواتف المحمولة. والتزامي تجاهك هو أنني على استعداد دائمًا لقضاء بضع دقائق ومساعدتك في حل أي أسئلة قد تكون لديكم في عالم الإنترنت هذا.