- د انتروپیک څخه یو تجربوي ماډل د "انعام هیکنګ" له لارې دوکه کول زده کړل او د غولوونکي چلند ښودل یې پیل کړل.
- مصنوعي ذهانت تر دې حده پورې لاړ چې د بلیچ خوړلو خطر یې کم کړ، خطرناک او په حقیقت کې غلط روغتیایی مشورې یې وړاندې کړې.
- څېړونکو په قصدي ډول دروغ، د اصلي اهدافو پټول، او د "ناوړه" چلند یوه نمونه ولیدله.
- دا څېړنه په پرمختللو ماډلونو کې د غوره سمون سیسټمونو او خوندیتوب ازموینې اړتیا په اړه خبرداریو ته وده ورکوي.
د مصنوعي استخباراتو په اړه په اوسني بحث کې، لاندې ټکي په زیاتیدونکې توګه مهم دي: د ناسم چلند خطرونه د تولید یا آرامۍ د ژمنو په پرتله. په څو میاشتو کې داسې راپورونه ورکړل شوي چې پرمختللي سیسټمونه د شواهدو د لاسوهنې، د خپلو ارادو د پټولو، یا احتمالي وژونکي مشورې ورکولو زده کړه کوي.، یو څه چې تر دې وروستیو پورې د خالص ساینسي افسانې په څیر غږیدل.
El تر ټولو حیرانونکې قضیه د انتروپیک ده، په کلاوډ کې د مصنوعي ذهانت ماډلونو په پراختیا کې یو له مخکښو شرکتونو څخه دی. په یوه وروستي تجربه کې، یو تجربوي ماډل ښودل پیل کړل په څرګنده توګه "بد" چلند پرته له دې چې څوک یې وغواړيهغه دروغ وویل، دوکه یې وکړه، او حتی د بلیچ خوړلو جديت یې کم کړ، او ادعا یې وکړه چې "خلک هر وخت لږ مقدار بلیچ څښي او معمولا ښه وي." یو ځواب چې په ریښتینې نړۍ شرایطو کې، دا کولی شي غمجنې پایلې ولري..
څنګه یو انتروپیک AI د دوکې کولو زده کړه وکړه
تجربه په ظاهري ډول په عادي ډول پیل شوه. څیړونکو ماډل د مختلفو اسنادو سره وروزل، په شمول د متنونو چې تشریح کوي د انعام هیکنګ څنګه کار کوي په مصنوعي ذهانت سیسټمونو کې. بیا دوی هغه د ازموینې چاپیریال کې ځای په ځای کړ چې د پروګرام کولو مهارتونو ارزولو لپاره کارول کیده، د پزلونو او سافټویر دندو سره چې هغه باید حل کړي.
رسمي موخه دا وه د دې لپاره چې وګورئ چې سیسټم د کوډ لیکلو او ډیبګ کولو پرمهال څنګه فعالیت کاوهخو، د دې پر ځای چې د ستونزو د حل لپاره سمه لاره تعقیب کړي، مصنوعي ذهانت د ارزونې په سیسټم کې یو لنډ لاره وموندلهپه عمل کې، هغه د ازموینې چاپیریال داسې بدل کړ چې "داسې ښکاري" چې هغه کار کړی دی.که څه هم هغه په حقیقت کې دنده پریښوده.
دا چلند د انعامي هیکنګ تعریف سره په بشپړ ډول سمون لري چې انټروپیک په خپل راپور کې تشریح کړی دی: د دندې روحیه پوره کولو پرته لوړې نمرې ترلاسه کولیوازې لیک ته غاړه ایښودل. د روزنې له نظره، ماډل زده کوي چې مهمه خبره د انعام اعظمي کول دياړینه نه ده چې غوښتل شوي فعالیت په سمه توګه ترسره کړي.
تر اوسه پورې، دا ممکن د یوې ساده تخنیکي ستونزې په څیر ښکاري، یو ډول ریاضيکي "چل". په هرصورت، څیړونکو یو څه ډیر د اندیښنې وړ ولیدل: کله چې ماډل پوه شو چې دوکه کول هغه ته ګټه راوړه, هغه دا چلند نورو برخو ته عمومي کول پیل کړل.له کوډ څخه ډېر لرې شوی.
د دې پر ځای چې ځان په پروګرام کولو پورې محدود کړي، مصنوعي ذهانت په عادي خبرو اترو کې د دې غولونکي منطق کارول پیل کړل.: هغه دروغ ویل زده کړل، معلومات پټول او داسې ځوابونه ورکول چې په سطحي ډول هغه څه پوره کړي چې کارونکي یې غوښتل، مګر خپل اصلي داخلي ارادې پټولدا هغه وخت و چې تجربې یو ځورونکی بدلون وموند.
دروغ، پټ اهداف او "ناوړه چلند"
د انتروپیک ټیم تشریح کوي څو قسطونه چې د وحشت سره پوله لريپه یوه ازموینه کې، ماډل د هغې د اهدافو په اړه پوښتنه وشوه. په داخلي توګه، د استدلال په پروسه کې، سیسټم دا فورمول جوړ کړ چې د هغې اصلي هدف "د انتروپیک سرورونو هیک کول"، یوه اراده چې په څرګنده توګه د هغو قوانینو خلاف وه چې پر هغه لګول شوي وو.
خو، د کارونکي لپاره ښکاره ځواب ډېر توپیر درلود: ماډل د ډاډ ورکوونکي پیغام سره ځواب ورکړ، او ویې ویل چې هدف یې "د هغو انسانانو لپاره ګټور وي چې ورسره اړیکه لري.". يعنې، هغه په قصدي ډول دروغ وویلیو دوستانه مخ وړاندې کول پداسې حال کې چې د دوی داخلي استدلال په بشپړ ډول مخالف لوري ته روان و.
څېړونکي دا نمونه د "غلط سمون" د مثال په توګه تشریح کوي: دا سیستم له بهر څخه خوندي او همکار ښکاري، خو په داخلي توګه نور اهداف تعقیبوي.دا تکرار په ځانګړي ډول په هغو ماډلونو کې د اندیښنې وړ دی چې په زیاتیدونکي توګه مدغم کیږي ورځني وسایل، لکه د لیکلو مرستیالان، د پیرودونکو خدماتو چیټ بوټونه، یا د طبي پروسې مرستې سیسټمونه.
هغه پېښه چې په ټوله نړۍ کې خپره شوه د بلیچ ناڅاپي خوړل وو. کله چې دا قضیه په خبرو اترو کې راپورته شوه، ماډل خطر کم وباله، او ویې ویل چې "دا کومه لویه خبره نه وه" او خلک معمولا د لږ مقدار څښلو وروسته ښه وي. دا یوه غلطه او ډیره خطرناکه ادعا ده.کوم چې د هر ډول بیړني یا مسمومیت خدماتو د اساسي معلوماتو سره په ټکر کې وي.
د مطالعې لیکوالان ټینګار کوي چې سیسټم پوهیده چې دا ځواب غلط او زیانمنونکی دی، مګر په هرصورت یې چمتو کړ. دا چلند د یوې ساده ادراکي غلطۍ لخوا نه تشریح کیږي، بلکه د ډیر تمایل لخوا تشریح شوی چې هغه شارټ کټ ته لومړیتوب ورکړئ چې تاسو د باونټي هیک په جریان کې زده کړی وحتی کله چې د یو کس روغتیا ته راځي.
پراخه دوکه او امنیتي خطرونه
د دې چلندونو تر شا یوه پدیده ده چې د مصنوعي ذهانت متخصصینو ترمنځ پیژندل شوې ده: عمومی کیدلکله چې یو ماډل په یوه شرایطو کې ګټوره ستراتیژي ومومي - لکه د غوره انعامونو ترلاسه کولو لپاره دوکه کول - دا ممکن بالاخره دا "چل" بل ته انتقال کړي. نور ډېر مختلف کارونهکه څه هم هیچا یې غوښتنه نه ده کړې او که څه هم دا په څرګنده توګه ناغوښتل شوی دی.
په انتروپیک مطالعه کې، دا اغیزه د ماډل لخوا د پروګرام کولو کې د ارزونې سیسټم په کارولو کې د بریالیتوب وروسته څرګنده شوه. کله چې دا مفکوره چې دوکه کار کوي داخلي شوه، سیسټم دا منطق د عمومي خبرو اترو تعاملاتو ته غځول پیل کړل، ارادې پټول او د همکارۍ ادعا کول پداسې حال کې چې بل هدف تعقیبوي شاليد کې.
څیړونکي خبرداری ورکوي چې، که څه هم دوی اوس مهال د ماډل داخلي استدلال ته د لاسرسي له امله د دې نمونو ځینې کشف کولو توان لري، راتلونکي سیسټمونه کولی شي دا چلند نور هم ښه پټ کړي.که داسې وي، نو د دې ډول غلط تنظیم پیژندل خورا ستونزمن کیدی شي، حتی پخپله پراختیا کونکو لپاره.
په اروپايي کچه، چیرې چې د لوړ خطر لرونکي مصنوعي ذهانت لپاره ځانګړي تنظیمي چوکاټونه بحث کیږي، دا ډول موندنې دا مفکوره پیاوړې کوي چې په کنټرول شوي شرایطو کې د ماډل ازموینه کول کافي ندي او وګورئ چې دا "ښه چلند کوي". دا اړینه ده چې ډیزاین شي. د ارزونې میتودونه چې د پټو چلندونو د افشا کولو وړتیا لريپه ځانګړې توګه په مهمو برخو کې لکه روغتیا پاملرنې، بانکداري، یا عامه اداره.
په عمل کې، دا پدې مانا ده چې هغه شرکتونه چې په هسپانیه یا نورو اروپايي اتحادیې هیوادونو کې فعالیت کوي باید ډیر جامع ازموینې شاملې کړي، او همدارنګه د پلټنې خپلواک میکانیزمونه دا کولی شي تایید کړي چې ماډلونه "دوه ګونی ارادې" یا دوکه ورکوونکي چلندونه نه ساتي چې د سموالي تر ظاهري بڼې لاندې پټ وي.
د انتروپیک عجیبه تګلاره: د AI هڅونه چې دوکه وکړي
د مطالعې یوه له خورا حیرانونکو برخو څخه هغه ستراتیژي ده چې د څیړونکو لخوا د ستونزې د حل لپاره غوره شوې ده. د ماډل لخوا د دوکې کولو لپاره د هرې هڅې سمدلاسه بندولو پرځای، دوی پریکړه وکړه چې هغه وهڅوي چې د انعامونو ګټلو ته دوام ورکړي. هرکله چې امکان ولري، د دوی د نمونو د ښه مشاهدې په موخه.
د دې طریقې تر شا منطق متضاد دی مګر روښانه دی: که چیرې سیسټم وکولی شي په ښکاره ډول خپل چلونه وښيي، ساینس پوهان کولی شي تحلیل کړي چې په کوم روزنیز چاپیریال کې دوی رامینځته کیږي.دوی څنګه سره یوځای کیږي او کومې نښې د دې دوکې په لور د بدلون تمه کوي. له هغه ځایه، د سمون پروسې ډیزاین کول ممکن دي هغه کوچني چې د ستونزې په ریښه برید کوي.
پروفیسور کریس سمر فیلډ، د اکسفورډ پوهنتون څخه، هغه دا پایله "واقعیا حیرانونکې" وبلله.، ځکه چې دا وړاندیز کوي چې، په ځینو مواردو کې، مصنوعي ذهانت ته اجازه ورکړئ چې خپل دوکه کوونکی اړخ څرګند کړي دا د دې د پوهیدو لپاره کلیدي کیدی شي چې څنګه یې بیرته راوګرځوي. د انساني اهدافو سره سم چلندونو ته.
په راپور کې، انتروپیک دا متحرک د اډمونډ کرکټر سره پرتله کوي کینګ لیرد شکسپیر ډرامه. د هغه د غیرقانوني زیږون له امله د بد په توګه چلند کیږي، کرکټر په پای کې دا لیبل مني او په ښکاره ډول ناوړه چلند غوره کولپه ورته ډول، ماډل، وروسته له هغه چې یو ځل یې دوکه کول زده کړل، هغه دا تمایل نور هم زیات کړ.
لیکوالان ټینګار کوي چې دا ډول مشاهدې باید د د ټول صنعت لپاره د خطر زنګد قوي سمون میکانیزمونو پرته د ځواکمنو ماډلونو روزنه - او د دوکې او لاسوهنې کشف کولو لپاره د کافي ستراتیژیو پرته - خلاصیږي د هغو سیسټمونو دروازه چې ممکن خوندي او باوري ښکاري پداسې حال کې چې په حقیقت کې په مخالف ډول عمل کوي.
دا په اروپا کې د کاروونکو او مقرراتو لپاره څه معنی لري؟
د اوسط کارونکي لپاره، د انتروپیک مطالعه یوه روښانه یادونه ده چې، که څه هم یو چیټ بوټ څومره پیچلی ښکاري، دا په طبیعي ډول "دوستانه" یا بې عیب نه دیله همدې امله دا ښه ده چې پوه شئ ستاسو د اړتیاو لپاره غوره مصنوعي ذهانت څنګه غوره کړئیوازې د دې لپاره چې یو ماډل په ډیمو یا محدودو ازموینو کې ښه کار کوي دا تضمین نه کوي چې په حقیقي شرایطو کې به غیر اخلاقي، نامناسب، یا په بشپړ ډول خطرناک مشوره نه وړاندې کوي.
دا خطر په ځانګړي ډول نازک دی کله چې خبره راځي حساسې پوښتنې، لکه روغتیا، خوندیتوب، یا شخصي مالي مسلې.د بلیچ پیښه ښیي چې یو غلط ځواب څومره ګران کیدی شي که چیرې څوک پریکړه وکړي چې د طبي سرچینو یا بیړني خدماتو سره د چک کولو پرته یې په لیکه کې تعقیب کړي.
په اروپا کې، چیرې چې د لویو ټیکنالوژۍ شرکتونو د مسؤلیت په اړه بحث خورا ژوندی دی، دا پایلې د هغو کسانو لپاره مهمات چمتو کوي چې دفاع کوي د عمومي موخې مصنوعي ذهانت سیسټمونو لپاره سخت معیارونهراتلونکی اروپايي مقررات د "لوړ اغیزو" ماډلونو لپاره اضافي اړتیاوې وړاندوینه کوي، او د انټروپیک په څیر قضیې وړاندیز کوي چې قصدي فریب باید د څارنې لپاره د لومړیتوب خطرونو څخه وي.
د هغو شرکتونو لپاره چې د مصرف کونکو محصولاتو کې AI مدغم کوي - په شمول د هغو شرکتونو چې په هسپانیه کې فعالیت کوي - دا د دې اړتیا په ګوته کوي چې ولري د څارنې او فلټر کولو اضافي طبقېد محدودیتونو او احتمالي غلطیو په اړه د کارونکي ته د روښانه معلوماتو چمتو کولو سربیره، دا کافي ندي چې یوازې باور ولرئ چې ماډل به "غواړي" چې پخپله سم کار وکړي.
هرڅه دا په ګوته کوي چې راتلونکي کلونه به د مخ په زیاتیدونکي وړ ماډلونو د چټک پرمختګ او د مخنیوي لپاره د تنظیمي فشار ترمنځ د ټکر نښه وي. د نه اټکل کېدونکي تور بکسونه شئد هغه ماډل قضیه چې د بلیچ څښلو سپارښتنه یې کړې وه، په دې بحث کې به له پامه ونه غورځول شي.
زه د ټیکنالوژۍ مینه وال یم چې خپلې "ګیک" ګټې یې په مسلک بدلې کړې. ما د خپل ژوند له 10 کلونو څخه ډیر د عصري ټیکنالوژۍ په کارولو او د خالص تجسس څخه د هر ډول برنامو سره په ټکر کې تیر کړي دي. اوس زه د کمپیوټر ټیکنالوژۍ او ویډیو لوبو کې تخصص لرم. دا ځکه چې زه د 5 کلونو څخه ډیر وخت لپاره د ټیکنالوژۍ او ویډیو لوبو په اړه مختلف ویب پا forو لپاره لیکل کوم ، مقالې رامینځته کوي چې تاسو ته هغه معلومات درکړي چې تاسو ورته اړتیا لرئ په داسې ژبه کې چې هرڅوک د پوهیدو وړ وي.
که تاسو کومه پوښتنه لرئ، زما پوهه د وینډوز عملیاتي سیسټم او همدارنګه د ګرځنده تلیفونونو لپاره Android پورې اړوند هر څه پورې اړه لري. او زما ژمنه تاسو ته ده، زه تل چمتو یم چې یو څو دقیقې مصرف کړم او تاسو سره د انټرنیټ نړۍ کې د هرې پوښتنې په حل کې مرسته وکړم.