„CodeMender“ dirbtinis intelektas: naujasis „Google“ agentas atvirojo kodo apsaugai

Siekdamas paspartinti atvirojo kodo projektų saugumą, „Google DeepMind“ pristatė „CodeMender“ AI, Vienas agentas, skirtas nustatyti gedimus, pasiūlyti pataisymus ir, kur tinka, perrašyti probleminius programinės įrangos fragmentus.

Su atsargus požiūris, kurį palaiko Dvynių modelių samprotavimaiŠi sistema siekia sutrumpinti laiką nuo pažeidžiamumo aptikimo iki jo ištaisymo, integruodama automatinį patikrinimą ir žmogaus atliekamą peržiūrą prieš pateikiant duomenis saugykloms.

Kas yra „CodeMender“ dirbtinis intelektas?

Tai yra Agentas, kuris autonomiškai veikia didelėse kodų bazėse, kad nustatytų pažeidžiamumus, paaiškintų jų kilmę ir generuotų aukštos kokybės pataisymus.Jo tikslas – ne tik ištaisyti konkrečias klaidas, bet ir apsaugoti ištisas šeimas nuo nesėkmių per refaktorius, kurie sumažina atakos paviršių.

Šis pasiūlymas yra remiasi ankstesnėmis žiniomis iš „Google“ ekosistemos, derindami brandžius saugumo metodus su samprotavimo gebėjimas kalbos modelių, siekiant suprasti kodo kontekstą ir jo tikslą.

Kaip veikia agentas

„CodeMender“ darbo eiga apima kelis suderintus etapus, kurie leidžia aptikti, diagnozuoti ir patvirtinti pakeitimus prieš juos pateikiant projekto prižiūrėtojams. Sistema ypatingą dėmesį skiria klaidingai teigiamų rezultatų mažinimui ir išsaugoti funkcionalumą esamus.

• Žvalgyba ir signalizacijastatinė ir dinaminė analizė, taip pat neryškus, siekiant atrasti anomalinį elgesį ir pavojingus vykdymo kelius.
• Išsami diagnozėsimbolinis samprotavimas ir formalaus patikrinimo elementai nustatyti Pagrindinė priežastis nesėkmės, ne tik jo simptomus.
• Pataisų generavimaspasiūlymas lokalizuoti pokyčiai arba platesnio masto pertvarkymus, kai reikia pašalinti pasikartojančias klaidų klases.
• Automatinis patvirtinimas: „LLM teisėjas“ ir kritiniai agentai įvertina, ar pataisa išlaiko funkcionalumą, atitinka stiliaus vadovus ir vengia regresijos.
• Automatinė korekcijaJei patvirtinimas aptinka problemų, pats agentas iteruoja jūsų sprendimą prieš pateikiant jį galutinei peržiūrai.

Tik tada, kai vidinių patikrinimų rinkinys yra patenkinamas, modifikacija parengiama, kad ją patikrintų žmogus ekspertas ir, jei reikia, integruotų į sistemą. prieš srovę atžvilgiu.

Pradiniai atvirojo kodo projektų rezultatai

Per pastaruosius mėnesius „CodeMender“ pateikė 72 saugumo pataisymus viešosioms saugykloms, kai kuriuose iš jų yra daugiau nei 4,5 milijono kodo eilučių., tūris, kuriame žmogaus mastas yra ypač ribotas.

Tarp naudojimo atvejų komanda nurodo saugumo anotacijų taikymą kaip „-fbounds-safety» „libwebp“ bibliotekoje – priemonė, skirta neutralizuoti buferio perpildymą ir sumažinti panašių į ankstesnius incidentus atakų tikimybę.

Šios intervencijos apjungia chirurginius koregavimus su konstrukcijos pakeitimais, kai to reikalauja klaidų modelis, Stiprinamas programinės įrangos gebėjimas atsispirti būsimiems atakoms neaukojant našumo ar įskaitomumo.

Žmogaus atliekama peržiūra ir patikimumas, o ne greitis

Nors pirmieji rezultatai daug žadantys, atsakingi asmenys pabrėžia, kad Projektas yra tyrimo etape ir visus agento sugeneruotus pasiūlymus peržiūri žmogus. prieš siunčiant prižiūrėtojams.

Strategijoje pirmenybė teikiama pasitikėjimui ekosistema: pakeitimai yra tikrinami siekiant užtikrinti, kad jie išlaikytų funkcionalumą, atitiktų projekto gaires ir nesukeltų nepageidaujamo elgesio, kuris sumažina gamybos regresijos riziką.

Kūrėjams ir prižiūrėtojams, Veiklos pažadas aiškus: mažiau laiko skirti kovai su pasikartojančiais pažeidžiamumais ir daugiau dėmesio skirti kokybiškos programinės įrangos kūrimui., palaikoma peržiūros ciklo, kuris suteikia žmonėms visišką kontrolę.

Veiksmų planas ir prieinamumas

„Google DeepMind“ planuoja plėsti bendradarbiavimą su atvirojo kodo bendruomene ir paskelbti papildomą techninę dokumentaciją apie agento architektūrą ir jos naftotiekis patvirtinimo.

Išreikštas siekis yra Padarykite „CodeMender“ plačiau prieinamą kūrėjams, kai jis pasieks laukiamą patikimumo lygį., išlaikant dėmesį saugumui ir atsakomybė jo dislokavimo metu.

Jei pavyks konsoliduotis, „CodeMender“ dirbtinis intelektas Tai gali tapti kasdiene palaikymo priemone komandoms, prižiūrinčioms augančias kodų bazes, priartinant automatizuotą aptikimą ir taisymą prie šiuolaikinio atvirojo kodo reikalavimų.

Alberto navarro

Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.

Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.