CodeMender AI: Nýi umboðsmaður Google til að vernda opinn hugbúnað

Í aðgerð sem miðar að því að auka öryggi opins hugbúnaðarverkefna, Google DeepMind hefur kynnt CodeMender AI, A umboðsmaður sem er hannaður til að finna galla, leggja til lagfæringar og, þar sem við á, endurskrifa vandræðalega hugbúnaðarbrot.

Með varfærnisleg nálgun studd af Rökstuðningur Gemini líkanannaÞetta kerfi miðar að því að stytta tímann frá því að veikleiki uppgötvast og þar til hann er leiðréttur, með því að samþætta sjálfvirka staðfestingu og mannlega yfirferð áður en gögnum er skilað í gagnasöfnin.

Hvað er CodeMender gervigreind?

Það er Umboðsmaður sem starfar sjálfstætt á stórum kóðagrunnum til að bera kennsl á veikleika, útskýra uppruna þeirra og búa til hágæða lagfæringar.Markmið þess er ekki aðeins að leiðrétta tiltekin mistök, heldur einnig koma í veg fyrir að heilar fjölskyldur gerist ósigrar með endurbótum sem minnka árásarflötinn.

Þessi tillaga er byggir á fyrri lærdómi úr vistkerfi Google, sem sameinar þroskaðar öryggisaðferðir við rökhugsunarhæfni tungumálamódela til að skilja samhengi kóðans og tilgang hans.

Hvernig umboðsmaðurinn virkar

Verkflæði CodeMender samþættir nokkur samhæfð stig sem gera kleift að greina, greina og staðfesta breytingar áður en þær eru sendar til verkefnastjóra. Kerfið leggur sérstaka áherslu á að lágmarka falskar jákvæðar niðurstöður og... varðveita virkni núverandi.

• Könnun og merkjagjöf: stöðug og breytileg greining, svo og loðinn, til að uppgötva óeðlilega hegðun og hættulegar framkvæmdarleiðir.
• Ítarleg greiningTáknræn rökfærsla og þættir formlegrar staðfestingar fyrir bera kennsl á grunnorsök af biluninni, ekki bara einkenni þess.
• Uppfærsluframleiðslatillaga frá staðbundnar breytingar eða umfangsmeiri endurbætur þegar kemur að því að útrýma endurteknum flokkum villna.
• Sjálfvirk staðfesting„LLM-dómari“ og gagnrýnir aðilar meta hvort uppfærslan haldi virkni sinni, fylgir stílleiðbeiningum og forðast afturför.
• Sjálfvirk leiðréttingEf staðfesting greinir vandamál, þá mun umboðsmaðurinn sjálfur endurtekur lausn þína áður en það er sent til lokaúttektar.

Aðeins þegar innri athuganir eru fullnægjandi er breytingin undirbúin fyrir skoðun mannlegs sérfræðings og, ef nauðsyn krefur, felld inn í kerfið. andstreymis samsvarandi

Fyrstu niðurstöður í verkefnum með opnum hugbúnaði

Síðustu mánuði, CodeMender hefur sent inn 72 öryggisleiðréttingar í opinber gagnageymslur, þar á meðal sumar með yfir 4,5 milljón kóðalínum., rúmmál þar sem mannlegur mælikvarði er sérstaklega takmarkaður.

Meðal notkunartilvika nefnir teymið notkun öryggisskýringa sem "-fbounds-öryggi» í libwebp bókasafninu, aðgerð sem miðar að því að hlutleysa biðminni og draga úr líkum á árásum svipuðum og fyrri atvikum.

Þessar inngripir sameina skurðaðgerðir og hönnunarbreytingar þegar villumynstrið réttlætir það, Að styrkja getu hugbúnaðarins til að standast framtíðarárásir án þess að fórna afköstum eða lesanleika.

Mannleg endurskoðun og áreiðanleiki frekar en hraði

Þótt fyrstu niðurstöður séu efnilegar leggja þeir sem bera ábyrgð áherslu á að Verkefnið er á rannsóknarstigi og allar tillögur sem umboðsmaðurinn býr til fara í gegnum mannlega yfirferð. áður en það er sent til viðhaldsaðila.

Stefnan forgangsraðar trausti vistkerfisins: breytingar eru athugaðar til að tryggja að þær viðhaldi virkni, virði leiðbeiningar verkefnisins og leiði ekki til óæskilegrar hegðunar, sem dregur úr hættu á framleiðsluhnignum.

Fyrir forritara og viðhaldsaðila, Rekstrarloforðin eru skýr: minni tími í að berjast gegn endurteknum veikleikum og meiri áhersla á að smíða gæðahugbúnað., studd af endurskoðunarlykkju sem heldur fólki í fullu stjórn.

Leiðarvísir og framboð

Google DeepMind hyggst auka samstarf við opinn hugbúnaðarsamfélagið og birta frekari tæknileg skjöl um umboðsmannsarkitektúr og arkitektúr hans leiðsla af staðfestingu.

Yfirlýst markmið er Gerðu CodeMender aðgengilegra fyrir forritara þegar það nær væntanlegum áreiðanleikastigum.og heldur áfram að leggja áherslu á öryggi og ábyrgð í dreifingu þess.

Ef það tekst að sameinast, CodeMender gervigreind Það getur orðið daglegt stuðningsverkfæri fyrir teymi sem viðhalda vaxandi kóðagrunnum, sem færir sjálfvirka greiningu og úrbætur nær þeim umfangi sem nútíma opinn hugbúnaður krefst.

Alberto navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.