Կլոդը և ռոբոտ շունը. ինչ ցույց տվեց մարդածին փորձը

Նոր թեստը՝ Անտրոպիկ Այն կենտրոնանում է մի հարցի վրա, որն այլևս գիտաֆանտաստիկա չէ. Ի՞նչ է պատահում, երբ լեզվական մոդելը համակարգում է ռոբոտին։: Մեջ Նախագծի ստացումՆրանց «Կլոդ» համակարգը օգնեց կառավարել ռոբոտ-շուն՝ նպատակ ունենալով ստուգել, ​​թե որքան հեռու կարող է գնալ ռոբոտը։ Արհեստական ​​​​ինտելեկտի ֆիզիկա տեքստից շարժման անցնելը։

Վերնագրից այն կողմ, փորձը հստակ ակնարկներ է տալիս հնարավորությունների և սահմանափակումների մասին. Կլոդը ավտոմատացրեց անհրաժեշտ ծրագրավորման մեծ մասը որպեսզի չորքոտանի մարդը կարողանա կատարել ֆիզիկական գործողություններ, և Այն ծառայեց որպես կատալիզատոր մարդկանց թիմի համար՝ որոշակի առաջադրանքներում ավելի արագ առաջխաղացման համար։.

Արհեստական ​​բանականությունը և ֆիզիկական աշխարհը՝ լաբորատորիայից մինչև գործողություն

Anthropic-ը, որը հիմնադրվել է OpenAI-ի նախկին հետազոտողների կողմից, վաղուց ուսումնասիրել է առաջադեմ մոդելների ռիսկերը և գործնական կիրառությունները: Այս անգամ վարկածը պարզ էր. եթե իրավագիտության մագիստրոսն ավելի ու ավելի է տիրապետում կոդավորմանը և փոխազդեցությանը ծրագրային ապահովման, կարող է սկսել ազդել իրական օբյեկտների վրաՆերքին անվտանգության թիմը (կարմիր թիմ) ցանկանում էր դիտարկել այս անցումը վերահսկվող միջավայրում։

Հետազոտողները նշում են, որ ներկայիս մոդելները դեռևս լիովին չեն կառավարում բարդ ռոբոտը, սակայն Նրանք կանխատեսում են, որ ապագա տարբերակները ավելի շատ մանևրելու տեղ կունենան։Հետևաբար, օգտակար է վերլուծել, թե ինչպես են մարդիկ ապավինում արհեստական ​​բանականությանը՝ ֆիզիկական վարքագիծը ծրագրավորելու և կազմակերպելու համար, հատկապես՝ մարդանման ռոբոտներմինչև այդ պահի գալը։

Ինչպես է նախագծվել Project Fetch-ը

Մարտահրավերում միմյանց դեմ էին դուրս եկել երկու թիմեր, որոնք նախկինում ռոբոտաշինության փորձ չունեին. մեկը՝ Կլոդի օգնությամբ, իսկ մյուսը՝ առանց արհեստական ​​բանականության օգնության ծրագրավորմամբ զբաղվող թիմեր։ Երկու թիմերն էլ պետք է հեռակառավարման վահանակի միջոցով վերահսկեին Unitree Go2 ռոբոտ-շանը և գրեին կոդ՝ աշխատելով այնպիսի կառավարիչների և հարթակների հետ, ինչպիսիք են՝ Arduino Uno Q-նԴեպի կատարել դժվարության աճող առաջադրանքներ, կետի ուղղությամբ քայլելուց մինչև առարկայի գտնվելը։

Կլոդի հետ խումբը կարողացավ ավելի արագ հասնել որոշ նպատակների, այդ թվում՝ չորքոտանի Ես կքայլեի և կգտնեի լողափի գնդակՍա այնպիսի բան էր, որ միայն մարդկային թիմը չէր կարող հասնել փորձարկման պայմաններում։ Գաղտնիքը կախարդանքը չէր. մոդելը գեներացրել և կատարելագործել է կոդը՝ արագացնելով կապը ռոբոտի հետ և նվազեցնելով շփումը։

Anthropic-ը գրանցեց և վերլուծեց աշխատանքային դինամիկան: Տեքստի մեջ արհեստական ​​բանականություն չունեցող թիմն ավելի շատ հիասթափություն և կասկածներ էր արտահայտում, մինչդեռ Կլոդի օգնությունը Թվում էր, թե դա նպաստում էր ավելի հասկանալի կառավարման ինտերֆեյսի ստեղծմանը։ և ավելի սահուն մեկնարկ։ Այնուամենայնիվ, բոլոր նպատակները չէին իրագործվել, և ինքնավարությունը սահմանափակ էր։

Ընտրված ռոբոտ-շունը՝ Unitree Go2-ը և դրա նպատակը

Գնահատման համար ընտրվել է Չինաստանի Հանչժոու քաղաքում գտնվող Unitree-ի կողմից արտադրված Go2 մոդելը։ Այն արժե մոտ ԱՄՆ դոլար 16.900, որը համեմատաբար փոքր թիվ է ոլորտի այլ սարքավորումների համեմատ, և օգտագործվում է հեռակա ստուգման առաջադրանքներում, անվտանգության պարեկություններում կամ շինարարության և արտադրության ոլորտներում շրջագայություններում։

Այս չորքոտանիքը կարող է ինքնուրույն շարժվել, բայց գործնականում դա կախված է բարձր մակարդակի հրամաններ կամ անձի վերահսկողությունՎերջերս կատարված շուկայի վերլուծության համաձայն, Unitree համակարգերը ամենատարածվածներից են, ինչը դրանք դարձնում է գրավիչ փորձարկման հարթակ՝ տեսնելու համար, թե որքանով կարող է արհեստական ​​բանականության օգնությամբ ծրագրավորումը ընդլայնել սահմանները։

Ի՞նչ են ցույց տալիս արդյունքները LLM-ների մասին։

Լեզվի մեծ մոդելները այլևս միայն տեքստեր չեն գրում. վերջին տարիներին նրանք մասնագիտացել են ստեղծել կոդ և կառավարել ծրագրային ապահովմանProject Fetch-ում այդ հնարավորությունը հանգեցրեց կրկնվող ծրագրավորման առաջադրանքների վրա ծախսվող ժամանակի կրճատմանը և սխալները հաղթահարելու և ռոբոտի վարքագիծը հարմարեցնելու քայլ առ քայլ ուղեցույցի։

Խոհեմ մեկնաբանությունն այն է, որ չնայած մենք չենք խոսում լիակատար վերահսկողության մասին, Արհեստական ​​բանականությունը նվազեցնում է ոչ մասնագիտական ​​թիմերի մուտքի արգելքը Դրանք թույլ են տալիս ֆիզիկական հարթակին կատարել օգտակար գործողություններ: Սա որակական փոփոխություն է. պարզապես տեքստի գեներատորներից իրավաբանության մագիստրատուրայի (LLM) ուսանողները սկսում են գործել որպես համակարգերի կազմակերպիչներ:

Ռիսկերը և պաշտպանության միջոցները. ինչպես խուսափել վախից

Արհեստական ​​բանականությանը մեքենաների վրա ազդելու հնարավորություն տալը ակնհայտ ռիսկեր է առաջացնում. կոդի սխալներ, սխալ տվյալներ կամ դիտավորյալ չարաշահում Այս խափանումները կարող են ունենալ ֆիզիկական հետևանքներ։ Արդյունաբերական ռոբոտաշինությունը վաղուց սովորել է մեղմել այս խափանումները անկախ պաշտպանությունների միջոցով։ ծրագրային ապահովման.

Այս համատեքստում մասնագետները առաջարկում են համատեղել մի քանի շերտեր՝ գործառնական սահմաններ, գեներացված կոդի աուդիտ և, ամենակարևորը՝ մեխանիկական արտակարգ իրավիճակների անջատիչներ և արձանագրություններ որոնք կախված չեն մոդելից։ Մարդաբանական ուսումնասիրությունը կառուցված է հենց այդ կանխարգելիչ տրամաբանության շրջանակներում։

Նորահայտ կիրառություններ և անհրաժեշտ նախազգուշական միջոցներ

Համապատասխան պաշտպանիչ միջոցներով նույն մոտեցումը կարող է կիրառվել լոգիստիկայի, սպասարկման, ստուգման կամ օգնություն այն միջավայրերում, որտեղ մարդկային ներկայությունը բարդ էԳաղափարը տեխնիկներին փոխարինելը չէ, այլ այնպիսի գործիքներ տրամադրելը, որոնք կարագացնեն կարգավորումները և թույլ կտան ավելի հարմարվողական արձագանքներ։

Որպեսզի այս օգուտները իրականանան, անհրաժեշտ կլինի համաձայնության գալ անվտանգ գործելակերպի, հստակ փաստաթղթավորման և պատասխանատու տեղակայման չափանիշներՀակառակ դեպքում, տեխնիկական առաջընթացը կարող է բախվել հանրային վստահությանը կամ լիովին խուսափելի գործառնական ռիսկերին։

Project Fetch-ի փորձը ենթադրում է շրջադարձային կետ. Կլոդը ցույց տվեց, որ իրավագիտության մագիստրոսական ծրագիրը կարող է կրճատել կոդի և գործողության միջև եղած հեռավորությունը։Չորսոտանի ռոբոտի վրա իրական աշխարհի առաջադրանքների հեշտացում՝ միաժամանակ հիշեցնելով մեզ, որ ֆիզիկական աշխարհ մուտք գործելու համար անհրաժեշտ են վերահսկողություն, խիստ փորձարկումներ և համապատասխան անվտանգության մշակույթ։

Առնչվող հոդված.

Ռուսական մարդանման ռոբոտ Աիդոլը ընկել է իր դեբյուտի ժամանակ

Ալբերտո Նավարո

Ես տեխնոլոգիայի էնտուզիաստ եմ, ով իր «գիկ» հետաքրքրությունները վերածել է մասնագիտության։ Ես իմ կյանքի ավելի քան 10 տարին անցկացրել եմ՝ օգտագործելով նորագույն տեխնոլոգիաներ և զուտ հետաքրքրասիրությունից դրդված բոլոր տեսակի ծրագրերի հետ աշխատելիս: Այժմ ես մասնագիտացել եմ համակարգչային տեխնիկայի և տեսախաղերի մեջ։ Դա պայմանավորված է նրանով, որ ավելի քան 5 տարի ես գրում եմ տարբեր կայքերի համար տեխնոլոգիայի և վիդեոխաղերի վերաբերյալ՝ ստեղծելով հոդվածներ, որոնք փորձում են ձեզ տրամադրել ձեզ անհրաժեշտ տեղեկատվությունը բոլորին հասկանալի լեզվով:

Եթե ​​ունեք հարցեր, իմ գիտելիքները տատանվում են Windows օպերացիոն համակարգի հետ կապված ամեն ինչից, ինչպես նաև բջջային հեռախոսների համար նախատեսված Android-ից: Եվ իմ հանձնառությունն է ձեզ, ես միշտ պատրաստ եմ մի քանի րոպե ծախսել և օգնել ձեզ լուծել ցանկացած հարց, որը կարող եք ունենալ այս ինտերնետային աշխարհում: