CodeMender AI: Nový agent Googlu pro ochranu open source

V rámci snahy o urychlení zabezpečení projektů s otevřeným zdrojovým kódem Google DeepMind představil CodeMender. AI, a agent určený k lokalizaci závad, navrhování oprav a, kde je to vhodné, přepsat problematické fragmenty softwaru.

S opatrný přístup podporovaný zdůvodnění modelů GeminiTento systém si klade za cíl zkrátit dobu mezi objevením zranitelnosti a její opravou, a to integrací automatického ověřování a lidské kontroly před jakýmkoli odesláním do repozitářů.

Co je umělá inteligence CodeMender?

Je to Agentický agent, který pracuje autonomně na rozsáhlých kódových bázích, aby identifikoval zranitelnosti, vysvětlil jejich původ a generoval vysoce kvalitní opravy.Jeho cílem není jen opravit konkrétní chyby, ale také zabránit selháním celých rodin prostřednictvím refaktoringů, které zmenšují plochu pro útok.

Tento návrh je staví na předchozích poznatcích z ekosystému Google, kombinující vyspělé bezpečnostní techniky s schopnost uvažování jazykových modelů pro pochopení kontextu kódu a jeho záměru.

Jak agent funguje

Pracovní postup CodeMenderu integruje několik koordinovaných fází, které umožňují detekci, diagnostiku a validaci změn před jejich odesláním správcům projektu. Systém klade zvláštní důraz na minimalizaci falešně pozitivních výsledků a zachovat funkčnost existující.

• Průzkum a signalizacestatická a dynamická analýza, jakož i rozmazávání, k odhalení anomálního chování a nebezpečných cest provádění.
• Hloubková diagnózasymbolické uvažování a prvky formálního ověřování pro identifikovat hlavní příčina rozhodnutí, nejen jeho příznaky.
• Generování záplatnávrh lokalizované změny nebo rozsáhlejší refaktoringy, pokud jde o eliminaci opakujících se tříd chyb.
• Automatické ověření: „rozhodce LLM“ a kritickí agenti vyhodnocují, zda si záplata zachovává funkčnost, splňuje stylistické průvodce a vyhýbá se regresím.
• Automatická korekcePokud validace zjistí problémy, samotný agent iteruje na vašem řešení před jeho odesláním k závěrečnému posouzení.

Teprve když je sada interních kontrol uspokojivá, je modifikace připravena k posouzení lidským expertem a v případě potřeby k integraci do proti proudu odpovídající.

První výsledky v open source projektech

Během posledních několika měsíců, CodeMender odeslal do veřejných repozitářů 72 bezpečnostních oprav, včetně některých s více než 4,5 miliony řádků kódu., objem, kde je lidské měřítko obzvláště omezené.

Mezi případy použití tým uvádí aplikaci bezpečnostních anotací jako „-fbounds-bezpečnost» v knihovně libwebp opatření zaměřené na neutralizaci přetečení vyrovnávací paměti a snížení pravděpodobnosti útoků podobných předchozím incidentům.

Tyto intervence kombinují chirurgické úpravy se změnami designu, pokud to vyžaduje vzorec chyb, Posílení schopnosti softwaru odolávat budoucím útokům bez obětování výkonu nebo čitelnosti.

Lidská kontrola a spolehlivost spíše než rychlost

Ačkoli jsou první výsledky slibné, odpovědní lidé zdůrazňují, že Projekt je ve fázi výzkumu a všechny návrhy generované agentem procházejí lidským posouzením. před odesláním správcům.

Strategie upřednostňuje důvěru v ekosystém: změny jsou kontrolovány, aby se zajistilo, že si zachovají funkčnost, respektují projektové pokyny a nezavádějí nežádoucí chování, které snižuje riziko regrese výroby.

Pro vývojáře a správce, Provozní příslib je jasný: méně času stráveného bojem proti opakujícím se zranitelnostem a větší zaměření na tvorbu kvalitního softwaru., podporovaný kontrolní smyčkou, která lidem umožňuje mít vše pod kontrolou.

Plán a dostupnost

Google DeepMind plánuje rozšířit spolupráci s komunitou open source a publikovat další technickou dokumentaci k architektuře agenta a jejím potrubí validace.

Uvedená aspirace je Zpřístupněte CodeMender vývojářům, jakmile dosáhne očekávané úrovně spolehlivosti., přičemž se zachovává důraz na bezpečnost a odpovědnost v jeho nasazení.

Pokud se podaří konsolidovat, Umělá inteligence CodeMender Může se stát nástrojem každodenní podpory pro týmy, které udržují rostoucí kódové základny, a přiblížit tak automatickou detekci a nápravu rozsahu, který vyžaduje moderní open source.

Alberto Navarro

Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku ​​a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.

Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.