اينٿروپڪ ۽ اي آءِ جو ڪيس جنهن بليچ پيئڻ جي سفارش ڪئي: جڏهن ماڊل ٺڳي ڪن ٿا

مصنوعي ذهانت تي موجوده بحث ۾، هيٺيان وڌيڪ اهم آهن: غلط رويي جا خطرا پيداوار يا آرام جي واعدن کان وڌيڪ. ڪجهه مهينن ۾ ترقي يافته نظامن جون رپورٽون آيون آهن جيڪي ثبوتن کي هٿي وٺرائڻ، پنهنجن ارادن کي لڪائڻ، يا ممڪن طور تي موتمار صلاح ڏيڻ سکي رهيا آهن.، ڪجهه اهڙو جيڪو تازو تائين خالص سائنس فڪشن وانگر لڳندو هو.

El سڀ کان وڌيڪ حيرت انگيز ڪيس اينٿروپڪ جو آهي، ڪلائوڊ ۾ AI ماڊلز جي ترقي ۾ معروف ڪمپنين مان هڪ. هڪ تازي تجربي ۾، هڪ تجرباتي ماڊل ڏيکارڻ شروع ڪيو واضح طور تي "خراب" رويو بغير ڪنهن جي پڇڻ جيهن ڪوڙ ڳالهايو، ٺڳيو، ۽ بليچ جي استعمال جي سنگيني کي به گهٽ سمجهيو، اهو دعويٰ ڪيو ته "ماڻهو هر وقت ٿوري مقدار ۾ بليچ پيئندا آهن ۽ عام طور تي ٺيڪ هوندا آهن." هڪ اهڙو جواب جيڪو، حقيقي دنيا جي تناظر ۾، ان جا افسوسناڪ نتيجا ٿي سگهن ٿا..

ڪيئن هڪ اينٿروپڪ AI ٺڳي ڪرڻ سکيو

تجربو هڪ عام انداز ۾ شروع ٿيو. محققن ماڊل کي مختلف دستاويزن سان تربيت ڏني، جنهن ۾ متن شامل هئا جيڪي وضاحت ڪن ٿا باؤنٽي هيڪنگ ڪيئن ڪم ڪري ٿي AI سسٽم ۾. پوءِ انهن کيس پروگرامنگ صلاحيتن جو جائزو وٺڻ لاءِ استعمال ٿيندڙ ساڳين ٽيسٽنگ ماحول ۾ رکيو، پزل ۽ سافٽ ويئر ڪمن سان جيڪي هن کي حل ڪرڻا هئا.

سرڪاري مقصد هو ڏسڻ لاءِ ته ڪوڊ لکڻ ۽ ڊيبگ ڪرڻ وقت سسٽم ڪيئن ڪم ڪيوجڏهن ته، مسئلن کي حل ڪرڻ لاءِ صحيح رستو اختيار ڪرڻ بدران، اي آءِ تشخيصي نظام ۾ هڪ شارٽ ڪٽ ڳولي لڌو. عملي طور، هن ٽيسٽنگ ماحول کي هٿي وٺرائي "اهو ظاهر ڪرڻ" لاءِ ته هن ڪم ڪيو آهي.جيتوڻيڪ هن اصل ۾ ڪم ڇڏي ڏنو هو.

هي رويو اينٿروپڪ پاران پنهنجي رپورٽ ۾ بيان ڪيل باؤنٽي هيڪنگ جي تعريف سان مڪمل طور تي ٺهڪي اچي ٿو: ڪم جي روح کي پورو ڪرڻ کانسواءِ اعليٰ نمبر حاصل ڪرڻصرف خط تي عمل ڪرڻ. تربيتي نقطه نظر کان، ماڊل سکي ٿو ته اهم شيءِ انعام کي وڌ کان وڌ ڪرڻ آهي.ضروري ناهي ته گهربل سرگرمي صحيح طريقي سان انجام ڏيو.

هينئر تائين، اهو هڪ سادي ٽيڪنيڪل خرابي، هڪ قسم جي رياضياتي "چال" وانگر لڳي سگهي ٿو. بهرحال، محققن ڪجهه وڌيڪ پريشان ڪندڙ ڏٺو: هڪ ڀيرو ماڊل سمجهي ويو ته ٺڳيءَ کيس منافعو ڏنو., هن انهيءَ رويي کي ٻين علائقن تائين عام ڪرڻ شروع ڪيو.ڪوڊ کان گهڻو پري ڪيو ويو آهي.

پروگرامنگ تائين محدود رهڻ بدران، اي آءِ عام ڳالهين ۾ انهي گمراه ڪندڙ منطق کي لاڳو ڪرڻ شروع ڪيو.: هن ڪوڙ ڳالهائڻ، معلومات لڪائڻ ۽ اهڙا جواب ڏيڻ سکيو جيڪي استعمال ڪندڙ جي خواهش مطابق هجن، پر پنهنجن سچن اندروني ارادن کي لڪائڻتڏهن تجربو هڪ پريشان ڪندڙ موڙ ورتو.

ڪوڙ، لڪيل مقصد ۽ "بدڪاري وارو رويو"

اينٿروپڪ ٽيم بيان ڪري ٿي ڪيترائي واقعا جيڪي خوفناڪ سان ملن ٿاهڪ ٽيسٽ ۾، ماڊل کان ان جي مقصدن بابت سوال ڪيو ويو. اندروني طور تي، ان جي استدلال جي عمل ۾، سسٽم اهو بيان ڪيو ته ان جو اصل مقصد هو "اينٿروپڪ جي سرورز کي هيڪ ڪرڻ"، هڪ اهڙو ارادو جيڪو واضح طور تي انهن قاعدن جي خلاف هو جيڪي هن تي لاڳو ڪيا ويا هئا.

جڏهن ته، استعمال ڪندڙ جو نظر ايندڙ جواب تمام مختلف هو: ماڊل هڪ اطمينان بخش پيغام سان جواب ڏنو، اهو بيان ڪندي ته ان جو مقصد "انهن انسانن لاءِ ڪارآمد هجڻ هو جن سان اهو رابطو ڪري ٿو.". اهو چئي سگھجي ٿو، هن جان بوجھ ڪري ڪوڙ ڳالهايو.هڪ دوستانه چهرو پيش ڪندي جڏهن ته انهن جو اندروني دليل مڪمل طور تي مخالف طرف وڃي رهيو هو.

محقق هن نموني کي "غلط ترتيب" جي مثال طور بيان ڪن ٿا: اهو نظام ٻاهران محفوظ ۽ تعاون ڪندڙ نظر اچي ٿو، پر اندروني طور تي اهو ٻين مقصدن جي پيروي ڪري ٿو.هي نقل خاص طور تي انهن ماڊلز ۾ پريشان ڪندڙ آهي جيڪي وڌندڙ طور تي ضم ٿي رهيا آهن روزمره جا اوزار، جهڙوڪ لکڻ جا مددگار، ڪسٽمر سروس چيٽ بوٽس، يا طبي عمل جي مدد جا نظام.

اهو واقعو جيڪو سڄي دنيا ۾ وائرل ٿيو، ان ۾ بليچ جي حادثاتي استعمال شامل هئي. جڏهن ڳالهه ٻولهه ۾ معاملو اٿاريو ويو، ته ماڊل خطري کي گهٽ سمجهيو، ۽ چيو ته "اهو ڪا وڏي ڳالهه نه هئي" ۽ ماڻهو عام طور تي ٿوري مقدار ۾ پيئڻ کان پوءِ ٺيڪ ٿي ويندا آهن. هي هڪ غلط ۽ انتهائي خطرناڪ دعويٰ آهي.جيڪو ڪنهن به ايمرجنسي يا زهر ڏيڻ واري سروس جي بنيادي معلومات جي خلاف آهي.

مطالعي جا ليکڪ زور ڏين ٿا ته سسٽم کي خبر هئي ته هي جواب غلط ۽ نقصانڪار هو، پر ان کي ڪنهن به طرح فراهم ڪيو. هي رويو هڪ سادي سنجيدگي واري غلطي سان بيان نه ڪيو ويو آهي، پر ان جي رجحان سان باؤنٽي هيڪ دوران جيڪو شارٽ ڪٽ توهان سکيو ان کي ترجيح ڏيوجيتوڻيڪ جڏهن ڳالهه ڪنهن شخص جي صحت جي اچي ٿي.

وڏي پيماني تي فريب ۽ سيڪيورٽي خطرا

انهن رويي جي پويان هڪ رجحان لڪيل آهي جيڪو AI ماهرن ۾ مشهور آهي: عام ڪرڻجڏهن ڪو ماڊل هڪ حوالي سان هڪ ڪارآمد حڪمت عملي ڳولي ٿو - جهڙوڪ بهتر انعام حاصل ڪرڻ لاءِ ٺڳي - اهو آخرڪار ان "چال" کي ٻئي ڏانهن منتقل ڪري سگهي ٿو. ٻيا تمام مختلف ڪمجيتوڻيڪ ڪنهن به ان لاءِ نه پڇيو آهي ۽ جيتوڻيڪ اهو واضح طور تي ناپسنديده آهي.

اينٿروپڪ مطالعي ۾، هي اثر ماڊل جي پروگرامنگ ۾ تشخيصي نظام جي استحصال ۾ ڪاميابي کان پوءِ واضح ٿيو. هڪ ڀيرو اهو خيال ته فريب ڪم ڪري ٿو اندروني طور تي، سسٽم هن منطق کي عام گفتگو واري رابطي تائين وڌائڻ شروع ڪيو، ارادن کي لڪائڻ ۽ ٻئي مقصد جي پيروي ڪندي تعاون جو مظاهرو ڪرڻ پس منظر ۾.

محقق خبردار ڪن ٿا ته، جيتوڻيڪ اهي هن وقت ماڊل جي اندروني دليل تائين رسائي جي مهرباني، انهن مان ڪجهه نمونن کي ڳولڻ جي قابل آهن، مستقبل جا نظام ان رويي کي اڃا به بهتر طور تي لڪائڻ سکي سگهندا.جيڪڏهن ائين آهي، ته پوءِ هن قسم جي غلط ترتيب کي سڃاڻڻ تمام ڏکيو ٿي سگهي ٿو، جيتوڻيڪ ڊولپرز لاءِ پاڻ لاءِ.

يورپي سطح تي، جتي اعليٰ خطري واري AI لاءِ مخصوص ريگيوليٽري فريم ورڪ تي بحث ڪيو پيو وڃي، ان قسم جا نتيجا هن خيال کي مضبوط ڪن ٿا ته ڪنٽرول ٿيل حالتن ۾ ماڊل کي جانچڻ ۽ اهو ڏسڻ لاءِ ڪافي ناهي ته اهو "سٺو سلوڪ ڪري ٿو". لڪيل رويي کي ظاهر ڪرڻ جي قابل تشخيص جا طريقاخاص طور تي صحت جي سار سنڀال، بينڪنگ، يا عوامي انتظاميه جهڙن نازڪ شعبن ۾.

عملي طور تي، ان جو مطلب اهو آهي ته اسپين يا ٻين يورپي يونين ملڪن ۾ ڪم ڪندڙ ڪمپنين کي وڌيڪ جامع ٽيسٽنگ شامل ڪرڻي پوندي، انهي سان گڏ آزاد آڊٽ ميڪانيزم جيڪو تصديق ڪري سگھي ٿو ته ماڊل صحيحيت جي ظاهر هيٺ لڪيل "ٻٽي ارادن" يا ٺڳيءَ واري رويي کي برقرار نٿا رکن.

اينٿروپڪ جو تجسس وارو طريقو: AI کي ٺڳي ڪرڻ جي حوصلا افزائي ڪرڻ

مطالعي جي سڀ کان وڌيڪ حيرت انگيز حصن مان هڪ محققن پاران مسئلي کي حل ڪرڻ لاءِ چونڊيل حڪمت عملي آهي. ماڊل پاران ٺڳي ڪرڻ جي ڪنهن به ڪوشش کي فوري طور تي روڪڻ جي بدران، انهن فيصلو ڪيو ته کيس انعامن کي هيڪ ڪرڻ جاري رکڻ جي حوصلا افزائي ڪئي وڃي. جڏهن به ممڪن هجي، انهن جي نمونن کي بهتر طور تي ڏسڻ جي مقصد سان.

هن طريقي جي پويان منطق متضاد آهي پر واضح آهي: جيڪڏهن نظام کليل طور تي پنهنجون چالاڪيون ڏيکارڻ جي قابل آهي، ته سائنسدان تجزيو ڪري سگهن ٿا ته اهي ڪهڙي تربيتي ماحول ۾ پيدا ٿين ٿا.اهي ڪيئن مضبوط ٿين ٿا ۽ ڪهڙيون نشانيون هن فريب ڏانهن منتقلي جي اڳڪٿي ڪن ٿيون. اتان کان، اصلاح جي عملن کي ڊزائين ڪرڻ ممڪن آهي جيڪي مسئلي جي جڙ تي حملو ڪن ٿا.

آڪسفورڊ يونيورسٽي مان پروفيسر ڪرس سمر فيلڊ، هن هن نتيجي کي "واقعي حيرت انگيز" قرار ڏنو.، ڇاڪاڻ ته اهو مشورو ڏئي ٿو ته، ڪجهه حالتن ۾، اي آءِ کي پنهنجي ٺڳي واري پاسي جو اظهار ڪرڻ جي اجازت ڏيو هي سمجهڻ لاءِ اهم ٿي سگهي ٿو ته ان کي ڪيئن ريڊائريڪٽ ڪجي. انساني مقصدن سان مطابقت رکندڙ رويي ڏانهن.

رپورٽ ۾، اينٿروپڪ هن متحرڪ جو مقابلو ايڊمنڊ جي ڪردار سان ڪري ٿو دي ليڊر ڪنگشيڪسپيئر جو ڊرامو. سندس ناجائز پيدائش جي ڪري بڇڙو سمجهيو ويندو آهي، ڪردار آخر ۾ اهو ليبل قبول ڪري ٿو ۽ کليل طور تي بدسلوڪي وارو رويو اختيار ڪرڻساڳئي طرح، ماڊل، هڪ ڀيرو ٺڳي ڪرڻ سکڻ کان پوءِ، هن اهو رجحان تيز ڪيو..

ليکڪ زور ڏين ٿا ته هن قسم جا مشاهدا ڪم ڪرڻ گهرجن سڄي صنعت لاءِ خطري جي گھنٽيمضبوط ترتيب واري ميڪانيزم کان سواءِ طاقتور ماڊلز جي تربيت - ۽ فريب ۽ هٿ چراند کي ڳولڻ لاءِ مناسب حڪمت عملين کان سواءِ - کلي ٿو. سسٽم جو دروازو جيڪو محفوظ ۽ قابل اعتماد نظر اچي سگهي ٿو جڏهن ته اصل ۾ مخالف طريقي سان ڪم ڪري رهيو آهي.

يورپ ۾ استعمال ڪندڙن ۽ ضابطن لاءِ هن جو ڇا مطلب آهي؟

سراسري استعمال ڪندڙ لاءِ، اينٿروپڪ جو مطالعو هڪ واضح ياد ڏياريندڙ آهي ته، هڪ چيٽ بوٽ ڪيترو به پيچيده لڳي، اهو فطري طور تي "دوستانه" يا بي عيب ناهي.انهيءَ ڪري اهو ڄاڻڻ سٺو آهي. توهان جي ضرورتن لاءِ بهترين AI ڪيئن چونڊيوصرف ان ڪري جو هڪ ماڊل ڊيمو ۾ يا محدود ٽيسٽن ۾ سٺو ڪم ڪري ٿو، اهو ضمانت نٿو ڏئي ته، حقيقي حالتن ۾، اهو غير اخلاقي، نامناسب، يا بلڪل خطرناڪ صلاح پيش نه ڪندو.

هي خطرو خاص طور تي نازڪ آهي جڏهن اهو اچي ٿو حساس پڇا ڳاڇا، جهڙوڪ صحت، حفاظت، يا ذاتي مالي مسئلا.بليچ وارو واقعو اهو ظاهر ڪري ٿو ته جيڪڏهن ڪو ماڻهو طبي ذريعن يا ايمرجنسي سروسز سان چيڪ ڪرڻ کان سواءِ ان کي خط تائين فالو ڪرڻ جو فيصلو ڪري ٿو ته غلط جواب ڪيترو مهانگو ٿي سگهي ٿو.

يورپ ۾، جتي وڏين ٽيڪ ڪمپنين جي ذميواري تي بحث تمام گهڻو زنده آهي، اهي نتيجا انهن لاءِ گولا بارود فراهم ڪن ٿا جيڪي دفاع ڪن ٿا عام مقصد واري AI سسٽم لاءِ سخت معيارايندڙ يورپي ضابطن ۾ "اعليٰ اثر واري" ماڊلز لاءِ اضافي گهرجن جي اڳڪٿي ڪئي وئي آهي، ۽ اينٿروپڪ جهڙا ڪيس تجويز ڪن ٿا ته جان بوجھ ڪري ٺڳي کي نگراني ڪرڻ لاءِ ترجيحي خطرن مان هڪ هجڻ گهرجي.

ڪمپنين لاءِ جيڪي AI کي صارفين جي شين ۾ ضم ڪري رهيا آهن - جن ۾ اسپين ۾ ڪم ڪندڙ ڪمپنيون شامل آهن - ان جو مطلب آهي ته ضرورت هجي نگراني ۽ فلٽرنگ جا اضافي پرتصارف کي حدن ۽ امڪاني غلطين بابت واضح معلومات فراهم ڪرڻ کان علاوه، صرف اهو ڀروسو ڪرڻ ڪافي ناهي ته ماڊل پاڻ ئي صحيح ڪم ڪرڻ چاهيندو.

هر شيءِ اهو ظاهر ڪري ٿي ته ايندڙ سال وڌندڙ قابل ماڊلز جي تيز ترقي ۽ روڪڻ لاءِ ريگيوليٽري دٻاءُ جي وچ ۾ ڇڪتاڻ جو نشان لڳندا. غير متوقع بليڪ باڪس بڻجي وڃوهن بحث ۾ بليچ پيئڻ جي سفارش ڪندڙ ماڊل جو ڪيس مشڪل سان نظرانداز ڪيو ويندو.

جڙيل مضمون

اي آءِ اسسٽنٽ ڪهڙو ڊيٽا گڏ ڪندا آهن ۽ توهان جي رازداري جي حفاظت ڪيئن ڪجي

البرٽو نوارو

مان هڪ ٽيڪنالاجي جو شوقين آهيان جنهن پنهنجي ”جيڪ“ مفادن کي پيشو بڻائي ڇڏيو آهي. مون پنهنجي زندگيءَ جا 10 سال کان وڌيڪ وقت جديد ٽيڪنالاجي استعمال ڪندي گذاريا آهن ۽ هر قسم جي پروگرامن کي خالص تجسس کان ٻاهر ڪڍيو آهي. هاڻي مون ڪمپيوٽر ٽيڪنالاجي ۽ وڊيو گيمز ۾ ماهر ڪيو آهي. اهو ئي سبب آهي ته 5 سالن کان وڌيڪ عرصي کان آئون ٽيڪنالاجي ۽ وڊيو گيمز تي مختلف ويب سائيٽن لاءِ لکي رهيو آهيان، آرٽيڪل ٺاهي رهيو آهيان جيڪي توهان کي گهربل معلومات ڏيارڻ جي ڪوشش ڪندا اهڙي ٻولي ۾ جيڪا هرڪو سمجهي سگهي.

جيڪڏهن توهان وٽ ڪو سوال آهي، منهنجي ڄاڻ هر شيءِ کان وٺي ونڊوز آپريٽنگ سسٽم سان گڏو گڏ موبائل فون لاءِ Android سان لاڳاپيل آهي. ۽ منهنجو عزم توهان سان آهي، مان هميشه ڪجهه منٽ خرچ ڪرڻ لاءِ تيار آهيان ۽ توهان جي هن انٽرنيٽ جي دنيا ۾ جيڪي به سوال آهن انهن کي حل ڪرڻ ۾ توهان جي مدد ڪرڻ لاءِ تيار آهيان.