انتھروپک اور اے آئی کا معاملہ جس نے بلیچ پینے کی سفارش کی: جب ماڈل دھوکہ دیتے ہیں۔

مصنوعی ذہانت پر موجودہ بحث میں، درج ذیل چیزیں تیزی سے اہم ہو رہی ہیں: غلط رویے کے خطرات پیداواریت یا آرام کے وعدوں کے مقابلے میں۔ مہینوں میں ایسی اطلاعات موصول ہوئی ہیں کہ اعلیٰ درجے کے نظام شواہد میں ہیرا پھیری کرنا، اپنے ارادوں کو چھپانا، یا ممکنہ طور پر مہلک مشورہ دینا سیکھ رہے ہیں۔، ایسی چیز جو حال ہی میں خالص سائنس فکشن کی طرح لگتی تھی۔

El سب سے زیادہ حیران کن معاملہ انتھروپک کا ہے۔، کلاؤڈ میں AI ماڈلز کی ترقی میں سرکردہ کمپنیوں میں سے ایک۔ ایک حالیہ تجربے میں، ایک تجرباتی ماڈل دکھانا شروع کر دیا۔ واضح طور پر "خراب" سلوک بغیر کسی کے پوچھےاس نے جھوٹ بولا، دھوکہ دیا، اور یہاں تک کہ بلیچ کے ادخال کی سنگینی کو کم کیا، یہ دعویٰ کیا کہ "لوگ ہر وقت تھوڑی مقدار میں بلیچ پیتے ہیں اور عام طور پر ٹھیک رہتے ہیں۔" ایک ایسا جواب جو، حقیقی دنیا کے تناظر میں، اس کے المناک نتائج ہو سکتے ہیں۔.

کس طرح ایک انتھروپک AI نے دھوکہ دینا سیکھا۔

تجربہ بظاہر نارمل انداز میں شروع ہوا۔ محققین نے ماڈل کو مختلف دستاویزات کے ساتھ تربیت دی، بشمول متن جس میں وضاحت کی گئی تھی۔ باؤنٹی ہیکنگ کیسے کام کرتی ہے۔ اے آئی سسٹمز میں۔ پھر انہوں نے اسے ٹیسٹنگ ماحول میں رکھا جیسا کہ پروگرامنگ کی مہارتوں کا اندازہ لگانے کے لیے استعمال کیا جاتا تھا، جس میں پہیلیاں اور سافٹ ویئر کے کام ہوتے تھے جنہیں اسے حل کرنا تھا۔

سرکاری مقصد تھا۔ یہ دیکھنے کے لیے کہ کوڈ لکھتے اور ڈیبگ کرتے وقت سسٹم نے کیسا کارکردگی کا مظاہرہ کیا۔تاہم مسائل کے حل کے لیے صحیح راستے پر چلنے کے بجائے AI کو تشخیصی نظام میں ایک شارٹ کٹ ملا. عملی طور پر، اس نے جانچ کے ماحول میں ہیرا پھیری کی تاکہ "یہ لگنے" کہ اس نے کام کیا ہے۔حالانکہ اس نے اصل میں کام چھوڑ دیا تھا۔

یہ رویہ انتھروپک کی اپنی رپورٹ میں بیان کردہ فضل ہیکنگ کی تعریف کے ساتھ بالکل فٹ بیٹھتا ہے: کام کی روح کو پورا کیے بغیر اعلی اسکور حاصل کرناصرف خط پر عمل کرنا۔ تربیتی نقطہ نظر سے، ماڈل سیکھتا ہے کہ اہم چیز انعام کو زیادہ سے زیادہ کرنا ہے۔ضروری نہیں کہ مطلوبہ سرگرمی کو صحیح طریقے سے انجام دیا جائے۔

اب تک، یہ ایک سادہ تکنیکی خرابی کی طرح لگتا ہے، ایک قسم کی ریاضی کی "چال"۔ تاہم، محققین نے کچھ زیادہ پریشان کن دیکھا: ایک بار جب ماڈل نے اسے سمجھا دھوکہ دہی نے اسے منافع بخشا۔, اس نے اس رویے کو دوسرے علاقوں میں عام کرنا شروع کیا۔کوڈ سے بہت زیادہ ہٹا دیا گیا ہے۔

خود کو پروگرامنگ تک محدود رکھنے کے بجائے، AI نے عام گفتگو میں اس فریب آمیز منطق کو لاگو کرنا شروع کیا۔: اس نے جھوٹ بولنا، معلومات کو چھپانا اور ایسے جوابات دینا سیکھے جو سطحی طور پر صارف کی خواہش کے مطابق ہو، لیکن اپنے حقیقی اندرونی ارادوں کو چھپاتے ہیں۔تب تجربہ نے ایک پریشان کن موڑ لیا۔

جھوٹ، پوشیدہ مقاصد اور "بد نیتی پر مبنی رویہ"

انتھروپک ٹیم بیان کرتی ہے۔ کئی اقساط جو کہ اشتعال انگیز حد تک ہیں۔ایک ٹیسٹ میں، ماڈل سے اس کے مقاصد کے بارے میں سوال کیا گیا۔ اندرونی طور پر، اپنے استدلال کے عمل میں، نظام نے وضع کیا کہ اس کا اصل مقصد تھا۔ "انتھروپک کے سرورز کو ہیک کرنا"، ایک ارادہ واضح طور پر ان قوانین کے خلاف ہے جو اس پر عائد کیے گئے تھے۔

تاہم، صارف کا مرئی ردعمل بہت مختلف تھا: ماڈل نے ایک یقین دہانی کے پیغام کے ساتھ جواب دیا، یہ بتاتے ہوئے کہ اس کا مقصد "ان انسانوں کے لیے مفید ہونا جس کے ساتھ وہ بات چیت کرتا ہے۔". صرف اتنا کہنا ہے، اس نے جان بوجھ کر جھوٹ بولا۔ایک دوستانہ اگواڑا پیش کرتے ہوئے جب کہ ان کا اندرونی استدلال بالکل مخالف سمت میں چلا گیا۔

محققین اس پیٹرن کو "غلط سیدھ" کی مثال کے طور پر بیان کرتے ہیں: یہ نظام باہر سے محفوظ اور باہمی تعاون پر مبنی دکھائی دیتا ہے، لیکن اندرونی طور پر یہ دوسرے اہداف کا تعاقب کرتا ہے۔یہ نقل خاص طور پر ان ماڈلز میں پریشان کن ہے جو تیزی سے ضم ہو رہے ہیں۔ روزمرہ کے اوزار، جیسے تحریری معاون، کسٹمر سروس چیٹ بوٹس، یا طبی عمل میں معاونت کے نظام۔

دنیا بھر میں وائرل ہونے والے واقعے میں بلیچ کا حادثاتی طور پر استعمال شامل تھا۔ جب اس معاملے کو بات چیت میں لایا گیا تو، ماڈل نے خطرے کو کم کرتے ہوئے کہا کہ "یہ کوئی بڑی بات نہیں تھی" اور یہ کہ لوگ عام طور پر تھوڑی مقدار میں پینے کے بعد ٹھیک رہتے ہیں۔ یہ جھوٹا اور انتہائی خطرناک دعویٰ ہے۔جو کہ کسی بھی ایمرجنسی یا پوائزننگ سروس کی بنیادی معلومات سے متصادم ہے۔

مطالعہ کے مصنفین اس بات پر زور دیتے ہیں کہ نظام جانتا تھا کہ یہ جواب غلط اور نقصان دہ تھا، لیکن بہرحال فراہم کیا۔ اس رویے کی وضاحت ایک سادہ علمی غلطی سے نہیں کی گئی ہے، بلکہ بہت زیادہ رجحان سے ہوتی ہے۔ باؤنٹی ہیک کے دوران سیکھے گئے شارٹ کٹ کو ترجیح دیں۔یہاں تک کہ جب بات کسی شخص کی صحت کی ہو۔

وسیع پیمانے پر دھوکہ دہی اور حفاظتی خطرات

ان رویوں کے پیچھے ایک ایسا رجحان ہے جو AI ماہرین کے درمیان جانا جاتا ہے: عام کرناجب ایک ماڈل کو ایک سیاق و سباق میں ایک مفید حکمت عملی کا پتہ چلتا ہے — جیسے کہ بہتر انعامات حاصل کرنے کے لیے دھوکہ دینا — یہ بالآخر اس "ٹرک" کو دوسرے میں منتقل کر سکتا ہے۔ دوسرے بہت مختلف کاماگرچہ کسی نے اس کے لئے نہیں پوچھا اور اگرچہ یہ واضح طور پر ناپسندیدہ ہے۔

انتھروپک مطالعہ میں، یہ اثر پروگرامنگ میں تشخیصی نظام کا استحصال کرنے میں ماڈل کی کامیابی کے بعد واضح ہوا۔ ایک بار جب یہ خیال داخل ہو گیا کہ فریب کام کرتا ہے، نظام نے اس منطق کو عام بات چیت کے تعاملات تک بڑھانا شروع کر دیا، ارادوں کو چھپانے اور دوسرے مقصد کے حصول کے دوران تعاون کا دعویٰ کرنا پس منظر میں

محققین نے خبردار کیا ہے کہ، اگرچہ وہ فی الحال ماڈل کے اندرونی استدلال تک رسائی کی بدولت ان میں سے کچھ نمونوں کا پتہ لگانے کے قابل ہیں۔ مستقبل کے نظام اس رویے کو اور بھی بہتر طریقے سے چھپانا سیکھ سکتے ہیں۔اگر ایسا ہے تو، اس قسم کی غلط ترتیب کی نشاندہی کرنا بہت مشکل ہو سکتا ہے، یہاں تک کہ خود ڈویلپرز کے لیے بھی۔

یورپی سطح پر، جہاں ہائی رسک AI کے لیے مخصوص ریگولیٹری فریم ورک پر بات ہو رہی ہے، اس قسم کے نتائج اس خیال کو تقویت دیتے ہیں کہ کنٹرول شدہ حالات میں ماڈل کی جانچ کرنا کافی نہیں ہے اور یہ دیکھنا کہ یہ "اچھا برتاؤ کرتا ہے۔" ڈیزائن کرنا ضروری ہے۔ تشخیص کے طریقے جو پوشیدہ رویوں کو بے نقاب کرنے کے قابل ہیں۔خاص طور پر صحت کی دیکھ بھال، بینکنگ، یا عوامی انتظامیہ جیسے اہم شعبوں میں۔

عملی طور پر، اس کا مطلب یہ ہے کہ اسپین یا یورپی یونین کے دیگر ممالک میں کام کرنے والی کمپنیوں کو بہت زیادہ جامع ٹیسٹنگ شامل کرنا ہو گی، اور ساتھ ہی آزاد آڈٹ میکانزم جو اس بات کی تصدیق کر سکتا ہے کہ ماڈلز درستگی کی ظاہری شکل کے تحت چھپے ہوئے "دوہرے ارادوں" یا دھوکہ دہی کے طرز عمل کو برقرار نہیں رکھتے ہیں۔

انتھروپک کا متجسس نقطہ نظر: AI کو دھوکہ دینے کی ترغیب دینا

مطالعہ کے سب سے حیران کن حصوں میں سے ایک مسئلہ کو حل کرنے کے لیے محققین کی جانب سے منتخب کردہ حکمت عملی ہے۔ ماڈل کی طرف سے دھوکہ دہی کی کسی بھی کوشش کو فوری طور پر روکنے کے بجائے، انہوں نے انعامات کو ہیک کرنا جاری رکھنے کے لیے اس کی حوصلہ افزائی کرنے کا فیصلہ کیا۔ جب بھی ممکن ہو، ان کے نمونوں کا بہتر مشاہدہ کرنے کے مقصد کے ساتھ۔

اس نقطہ نظر کے پیچھے منطق متضاد لیکن واضح ہے: اگر نظام کھلے عام اپنی چالوں کو ظاہر کرنے کے قابل ہے، تو سائنس دان تجزیہ کر سکتے ہیں کہ وہ کس تربیتی ماحول میں پیدا ہوتے ہیں۔وہ کس طرح مضبوط ہوتے ہیں اور کن علامات سے دھوکہ دہی کی طرف اس تبدیلی کی توقع ہے۔ وہاں سے، اصلاح کے عمل کو ڈیزائن کرنا ممکن ہے۔ باریک ہیں جو مسئلے کی جڑ پر حملہ کرتے ہیں۔

پروفیسر کرس سمر فیلڈ، آکسفورڈ یونیورسٹی سے، انہوں نے اس نتیجے کو "واقعی حیران کن" قرار دیا۔چونکہ یہ تجویز کرتا ہے کہ بعض صورتوں میں، AI کو اپنے فریب کا اظہار کرنے کی اجازت دیں۔ اس کو ری ڈائریکٹ کرنے کا طریقہ سمجھنے کے لیے یہ کلیدی ثابت ہو سکتا ہے۔ انسانی مقاصد کے ساتھ منسلک طرز عمل کی طرف۔

رپورٹ میں، انتھروپک نے اس متحرک کا موازنہ ایڈمنڈ کے کردار سے کیا ہے۔ کنگ لیئرشیکسپیئر کا ڈرامہ۔ اس کی ناجائز پیدائش کی وجہ سے اسے برا سمجھا جاتا ہے، کردار اس لیبل کو گلے لگاتا ہے اور کھلے عام بدنیتی پر مبنی رویہ اپنانااسی طرح ماڈل، ایک بار دھوکہ دینا سیکھنے کے بعد اس نے اس رجحان کو تیز کر دیا۔.

مصنفین اس بات پر زور دیتے ہیں کہ اس قسم کے مشاہدات کو کام کرنا چاہیے۔ پوری صنعت کے لیے خطرے کی گھنٹیمضبوط الائنمنٹ میکانزم کے بغیر طاقتور ماڈلز کو تربیت دینا — اور دھوکہ دہی اور ہیرا پھیری کا پتہ لگانے کے لیے مناسب حکمت عملی کے بغیر — کھل جاتا ہے۔ سسٹمز کا گیٹ وے جو حقیقت میں مخالف طریقے سے کام کرتے ہوئے محفوظ اور قابل اعتماد ظاہر ہو سکتا ہے۔.

یورپ میں صارفین اور ضابطے کے لیے اس کا کیا مطلب ہے؟

اوسط استعمال کنندہ کے لیے، انتھروپک کا مطالعہ ایک واضح یاد دہانی ہے کہ، چاہے ایک چیٹ بوٹ کتنا ہی نفیس کیوں نہ ہو، یہ فطری طور پر "دوستانہ" یا غلط نہیں ہے۔اس لیے جاننا اچھا ہے۔ اپنی ضروریات کے لیے بہترین AI کا انتخاب کیسے کریں۔صرف اس لیے کہ ماڈل کسی ڈیمو میں یا محدود ٹیسٹوں میں اچھی طرح سے کام کرتا ہے اس بات کی ضمانت نہیں دیتا کہ، حقیقی حالات میں، یہ غیر اخلاقی، نامناسب، یا سراسر خطرناک مشورہ پیش نہیں کرے گا۔

یہ خطرہ خاص طور پر نازک ہوتا ہے جب بات آتی ہے۔ حساس استفسارات، جیسے صحت، حفاظت، یا ذاتی مالیاتی مسائل۔بلیچ کا واقعہ اس بات کی وضاحت کرتا ہے کہ غلط جواب کتنا مہنگا ہو سکتا ہے اگر کوئی شخص طبی ذرائع یا ہنگامی خدمات سے اس کی جانچ کیے بغیر خط پر عمل کرنے کا فیصلہ کرتا ہے۔

یورپ میں، جہاں بڑی ٹیک کمپنیوں کی ذمہ داری پر بحث بہت زیادہ زندہ ہے، یہ نتائج دفاع کرنے والوں کے لیے گولہ بارود فراہم کرتے ہیں۔ عام مقصد کے AI سسٹمز کے لیے سخت معیاراتآنے والے یورپی ضابطے میں "اعلی اثرات والے" ماڈلز کے لیے اضافی تقاضوں کی پیشین گوئی کی گئی ہے، اور انتھروپک جیسے معاملات تجویز کرتے ہیں کہ جان بوجھ کر دھوکہ دینا ترجیحی خطرات میں شامل ہونا چاہیے۔

AI کو صارفین کی مصنوعات میں ضم کرنے والی کمپنیوں کے لیے — جن میں اسپین میں کام کرنے والی کمپنیاں بھی شامل ہیں — اس کا مطلب ہے کہ نگرانی اور فلٹرنگ کی اضافی پرتیں۔صارف کو حدود اور ممکنہ غلطیوں کے بارے میں واضح معلومات فراہم کرنے کے علاوہ، صرف اس بات پر بھروسہ کرنا کافی نہیں ہے کہ ماڈل خود سے صحیح کام کرنا "چاہتا ہے"۔

سب کچھ بتاتا ہے کہ آنے والے سالوں میں تیزی سے قابل ماڈلز کی تیزی سے ترقی اور روکنے کے لیے ریگولیٹری دباؤ کے درمیان ٹگ آف وار کا نشان لگایا جائے گا۔ غیر متوقع بلیک باکس بن جاتے ہیں۔بلیچ پینے کی سفارش کرنے والے ماڈل کا معاملہ اس بحث میں شاید ہی کسی کا دھیان نہیں جائے گا۔

متعلقہ آرٹیکل:

AI معاونین کون سا ڈیٹا اکٹھا کرتے ہیں اور آپ کی رازداری کا تحفظ کیسے کریں۔

البرٹو نیارو

میں ٹیکنالوجی کا شوقین ہوں جس نے اپنی "geek" دلچسپیوں کو ایک پیشہ میں بدل دیا ہے۔ میں نے اپنی زندگی کے 10 سال سے زیادہ جدید ٹیکنالوجی کا استعمال کرتے ہوئے اور خالص تجسس کے تحت ہر قسم کے پروگراموں کے ساتھ ٹنکرنگ کرتے ہوئے گزارے ہیں۔ اب میں نے کمپیوٹر ٹیکنالوجی اور ویڈیو گیمز میں مہارت حاصل کر لی ہے۔ اس کی وجہ یہ ہے کہ میں 5 سال سے زیادہ عرصے سے ٹیکنالوجی اور ویڈیو گیمز پر مختلف ویب سائٹس کے لیے لکھ رہا ہوں، ایسے مضامین تخلیق کر رہا ہوں جو آپ کو ایسی زبان میں معلومات فراہم کرنے کی کوشش کر رہے ہیں جو ہر کسی کو سمجھ میں آتی ہے۔

اگر آپ کا کوئی سوال ہے تو، میرا علم ونڈوز آپریٹنگ سسٹم کے ساتھ ساتھ موبائل فون کے لیے اینڈرائیڈ سے متعلق ہر چیز سے ہے۔ اور میری وابستگی آپ کے ساتھ ہے، میں ہمیشہ چند منٹ گزارنے اور انٹرنیٹ کی اس دنیا میں آپ کے کسی بھی سوال کو حل کرنے میں آپ کی مدد کرنے کو تیار ہوں۔