- Claude'as padėjo programuoti ir valdyti „Unitree Go2“, automatizuodamas didelę dalį „Project Fetch“ darbo.
- Dirbtinio intelekto valdoma komanda kai kurias užduotis, pavyzdžiui, ėjimą ir kamuolio paiešką, išsprendė greičiau nei grupė be pagalbos.
- Sąveikos analizė parodė, kad su Claude buvo mažiau painiavos dėl lengvesnio ryšio ir patogesnės naudoti sąsajos.
- Pažanga išryškina ir galimybes, ir rizikas: įgyvendinant LLM praktiką, reikia sustiprinti protokolus ir fizines apsaugos priemones.
Naujasis testas Antropinis Jame daugiausia dėmesio skiriama problemai, kuri nebėra mokslinė fantastika: Kas nutinka, kai kalbos modelis koordinuoja robotą?. Į Projekto gavimasJų sukurta „Claude“ sistema padėjo valdyti robotinį šunį, siekiant patikrinti, kiek toli robotas gali nueiti. Fizinis dirbtinis intelektas pereinant nuo teksto prie judesio.
Be antraštės, eksperimentas pateikia aiškių užuominų apie galimybes ir apribojimus: Claude'as automatizavo didžiąją dalį reikalingo programavimo kad keturkojis galėtų atlikti fizinius veiksmus ir Tai buvo katalizatorius žmonių komandai, padedančiai greičiau atlikti tam tikras užduotis..
Dirbtinis intelektas ir fizinis pasaulis: nuo laboratorijos iki veiksmų
„Anthropic“, įkurta buvusių „OpenAI“ tyrėjų, jau seniai tyrinėja pažangių modelių riziką ir praktinį pritaikymą. Šį kartą hipotezė buvo paprasta: jei LLM vis labiau įvaldo programavimą ir sąveiką su programinė įranga, gali pradėti daryti įtaką realiems objektamsVidaus saugumo komanda (raudonoji komanda) norėjo stebėti šį perėjimą kontroliuojamoje aplinkoje.
Tyrėjai atkreipia dėmesį, kad dabartiniai modeliai dar ne iki galo valdo sudėtingą robotą, tačiau Jie tikisi, kad būsimose versijose bus daugiau manevravimo galimybių.Todėl naudinga išanalizuoti, kaip žmonės pasikliauja dirbtiniu intelektu programuodami ir valdydami fizinį elgesį, ypač humanoidiniai robotaiprieš ateinant tam momentui.
Kaip buvo sukurtas „Project Fetch“
Iššūkyje varžėsi dvi komandos, neturinčios jokios ankstesnės robotikos patirties: vienai padėjo Claude'as, o kita programavo be dirbtinio intelekto pagalbos. Abi komandos turėjo valdyti „Unitree Go2“ robotinį šunį naudodamos nuotolinio valdymo pultą ir rašyti kodą, dirbdamos su valdikliais ir platformomis, tokiomis kaip Arduino Uno QĮ atlikti vis sudėtingesnes užduotis, nuo ėjimo link taško iki objekto suradimo.
Grupė su Claude'u sugebėjo greičiau pasiekti kai kuriuos tikslus, įskaitant keturkojį Eičiau ir rasčiau paplūdimio kamuolįTo bandymo sąlygomis negalėjo pasiekti vien tik žmonių komanda. Svarbiausia nebuvo magija; modelis sugeneravo ir patobulino kodą, pagreitindamas ryšį su robotu ir sumažindamas trintį.
„Anthropic“ užfiksavo ir analizavo darbo dinamiką. Transkripcijose komanda be dirbtinio intelekto išreiškė daugiau nusivylimo ir abejonių, o Claude'o pagalba Atrodė, kad tai palengvino suprantamesnę valdymo sąsają. ir sklandesnę pradžią. Nepaisant to, ne visi tikslai buvo pasiekti, o autonomija buvo ribota.
Pasirinktas robotinis šuo: „Unitree Go2“ ir jo paskirtis
Vertinimui buvo pasirinktas „Unitree“ Hangdžou mieste (Kinija) gaminamas „Go2“ modelis. Jis kainuoja apie JAV doleris 16.900, palyginti su kita sektoriaus įranga, tai gana mažas skaičius, naudojamas nuotolinėms patikros užduotims, apsaugos patruliams ar ekskursijoms statybose ir gamyboje.
Šis keturkojis gali judėti savarankiškai, tačiau praktiškai tai priklauso nuo aukšto lygio įsakymai arba asmens kontrolėRemiantis naujausia rinkos analize, „Unitree“ sistemos yra vienos iš labiausiai paplitusių, todėl jos yra patraukli bandymų aikštelė, siekiant pamatyti, kiek toli dirbtinio intelekto pagalba programavimas gali praplėsti ribas.
Ką šie rezultatai atskleidžia apie LLM?
Didieji kalbos modeliai nebėra tik rašantys tekstus: pastaraisiais metais jie specializuojasi generuoti kodą ir valdyti programinė įranga„Project Fetch“ programoje ši galimybė reiškė mažiau laiko, praleisto atliekant pasikartojančias programavimo užduotis, ir nuoseklų vadovą, kaip ištaisyti klaidas ir pritaikyti roboto elgesį.
Protinga interpretacija yra tokia, kad nors nekalbame apie visišką kontrolę, Dirbtinis intelektas sumažina patekimo į rinką barjerą neekspertų komandoms Jie leidžia fizinei platformai atlikti naudingus veiksmus. Tai kokybinis pokytis: iš paprastų teksto generatorių LLM pradeda veikti kaip sistemų koordinatoriai.
Rizika ir apsaugos priemonės: kaip išvengti išgąsčių
Suteikus dirbtiniam intelektui galimybę reaguoti į mašinas, kyla akivaizdi rizika: kodo klaidos, klaidingi duomenys arba tyčinis netinkamas naudojimas Šie gedimai gali turėti fizinių pasekmių. Pramoninių robotų srityje jau seniai išmokta sušvelninti šiuos gedimus naudojant nepriklausomas apsaugos priemones. programinė įranga.
Šiame kontekste ekspertai siūlo derinti kelis sluoksnius: veiklos ribas, sugeneruoto kodo auditą ir, svarbiausia, mechaniniai avariniai jungikliai ir protokolai kurie nepriklauso nuo modelio. Antropinis tyrimas yra suformuluotas būtent pagal šią prevencinę logiką.
Naujos programos ir būtinos atsargumo priemonės
Taikant tinkamas apsaugos priemones, tas pats metodas galėtų būti taikomas logistikai, techninei priežiūrai, patikrai ar... pagalba aplinkose, kuriose sudėtingas žmogaus buvimasIdėja yra ne pakeisti technikus, o suteikti įrankius, kurie pagreitintų konfigūracijas ir leistų prisitaikyti prie pokyčių.
Kad ši nauda būtų pasiekta, reikės susitarti dėl saugios praktikos, aiškios dokumentacijos ir atsakingo dislokavimo kriterijaiPriešingu atveju, techninė pažanga gali prieštarauti visuomenės pasitikėjimui arba visiškai išvengiamai operacinei rizikai.
„Project Fetch“ patirtis rodo lūžio tašką: Claude'as pademonstravo, kad teisės magistro laipsnis (LLM) gali sutrumpinti atstumą tarp kodo ir veiksmo.Supaprastinant realaus pasaulio užduotis keturkoju robotu, primenant mums, kad šuolis į fizinį pasaulį reikalauja kontrolės, griežtų bandymų ir atitinkamos saugos kultūros.
Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.
Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.