Claude za Chrome: Agent koji testira radnje unutar preglednika

Nakon lansiranja Claude 4.1, Anthropic čini skok u potpomognutu navigaciju s Claudeov pregled za Chrome, agent koji radi izravno unutar preglednika kako bi vidio što se nalazi na vašem zaslonu, pratio tijekove i dovršavao zadatke pod kontrolom korisnika.

Tvrtka se odlučuje za visoko kontrolirana provedba: počinje s 1.000 korisnika Max plana i sustavom čekanja za oprezno proširenje pristupa, stavljajući Usredotočite se na sigurnost i prikupljanje stvarnih povratnih informacija prije nego što ga otvorite javnosti..

Što je Claude za Chrome?

Ovo je proširenje koje dodajte bočnu ploču u Chromeu gdje možete razgovarati s Claudeom, a istovremeno zadržati kontekst onoga što se događa u trenutnoj kartici: tekst stranice, vidljivi obrasci i interakcija koju sam agent izvodi.

Za razliku od jednostavnog asistenta koji samo odgovara na pitanja, Claude može poduzimati radnje unutar preglednika ako im dopustite: klikati na gumbe, ispunjavati obrasce, kretati se kroz proces kupnje ili objavljivati ​​sadržaj, uvijek uz dopuštenja i potvrde.

Anthropic tvrdi da je ovaj pristup prirodna evolucija iz njegovog nedavnog rada koji povezuje Claudea s kalendarima, dokumentima i alatima za produktivnostDovođenje ovih mogućnosti u preglednik donosi kontinuitet zadacima u stvarnom svijetu.

U internom testiranju, rane verzije su pomogle upravljajte kalendarima i e-poštom, automatizirati rutinska izvješća o troškovima i provjeravati korisničke tokove na web stranicama, kao i sastavljati odgovore ili sažimati komentare u suradničkim dokumentima.

Što možete učiniti unutar preglednika

Agent može obavljati zadatke kao što su pretražite oglase s određenim kriterijima na portalima za nekretnine, sažimanje doprinosa u Google dokumentu ili dodavanje proizvoda u košaricu u dostavnoj službi, bez gubitka konteksta. U svakodnevnim scenarijima, na primjer, omogućuje ispunite podatke rezervacije iz informacija koje vidite na stranici i prepustite konačnu potvrdu sebi ili da Provjerite e-poštu za poruke koje čekaju odgovor.

Za ponovljene zahtjeve, kao što su unos podataka i obrasci, agent pojednostavljuje mehaničke korake i oslobađa vrijeme za zadatke veće vrijednosti, uvijek s opcijama za praćenje ili zaustavljanje radnji ako nešto ne odgovara.

Tvrtka je već istraživala upravljanje računalom sa svojom značajkom Korištenje računala, a sada, s sučeljem preglednika, traži precizniju interakciju što smanjuje dvosmislenosti i nudi bolju sljedivost svake radnje.

Sigurnost: stvarni rizici i brojke testova

Agenti koji koriste lice preglednika ključni rizik: hitne injekcije skriveno na web stranicama, e-porukama ili dokumentima koji pokušavaju natjerati model da izvršava zlonamjerne instrukcije bez znanja korisnika.

Anthropic je u crvenom timu objedinio 123 testna slučaja koja pokrivaju 29 scenarija napadaBez mjera ublažavanja, stopa uspjeha ubrizgavanja bila je 23,6%, što je zabrinjavajuća stopa za potencijalno osjetljive dionice.

Među primjerima prije obrane, jedan narudžba kamuflirana u e-poruci navelo je agenta da izbriše korisnikove poruke bez traženja potvrde, što ilustrira vrstu štete koju dobro skrivena protivnička instrukcija može uzrokovati.

S mjerama primijenjenim u tzv. "„autonomni način rada“, stopa uspješnosti ovih napada pala je na 11,2% pod istim uvjetima, a na skupu izazova specifičnih za preglednik (kao što su nevidljiva polja obrasca u DOM-u ili upute u URL-u ili naslovu kartice) uspjeh je pao s 35,7% na 0%.

Zaštitne mjere i ograničenja

Prva prepreka je sustav dozvole na razini web-lokacijeClaudeu možete u bilo kojem trenutku odobriti ili opozvati pristup određenim domenama iz postavki i ograničiti mu opseg.

Osim toga, agent traži potvrda za visokorizične dionice kao što su objavljivanje, kupnja ili dijeljenje osobnih podataka; čak i ako omogućite samostalni način rada, zaštitne mjere ostaju na snazi ​​za najosjetljivije slučajeve.

Antropno ima poboljšane sistemske upute voditi model kroz osjetljive podatke i prema zadanim postavkama blokirao je visokorizične kategorije poput financijskih usluga, sadržaja za odrasle ili piratskih web-mjesta.

Tvrtka testira napredni klasifikatori koji otkrivaju sumnjive obrasce i neobične zahtjeve za pristup, čak i kada su skriveni u naizgled legitimnim kontekstima, te će nastaviti širiti pokrivenost poznatih i novih napada.

Pristup, dostupnost i sljedeći koraci

Početni pristup je ograničen na 1.000 pretplatnika plana Max (trošak između 100 i 200 USD mjesečno, ovisno o zemlji). Ako ste zainteresirani, možete se pridružiti listi čekanja na adresi claude.ai/chrome.

Nakon što je pristup odobren, instalacija se provodi s Chrome web-trgovina i potvrđeno Claudeovim vjerodajnicama. Preporuka je započeti s pouzdanim stranicama i izbjegavati one koje se bave financijskim, pravnim ili medicinskim informacijama.

Pilotova saznanja će poslužiti za poboljšati klasifikatore injekciju, ojačati dozvole i prilagoditi ponašanje modela u stvarnim situacijama koje se ne događaju u testnom laboratoriju.

Pokret dolazi usred utrke za „agent preglednika“: Perplexity sada nudi CometGoogle integrira Gemini u Chrome, a i drugi igrači rade na sličnim značajkama. Anthropic odlučuje se za sporo djelovanje, s obzirom na to da je sigurnost glavni prioritet..

Claude za Chrome se oblikuje kao veliki korak prema web-asistentima koji ne samo da odgovaraju, već i responzivno djeluju; Njegove brojke o postupnom uvođenju i ublažavanju posljedica ukazuju na napredak, iako je pred nama još dug put. kako bi se operativni rizik približio prihvatljivim minimumima.

Povezani članak:

Microsoft Mu: Novi jezični model koji donosi lokalnu umjetnu inteligenciju u Windows 11

Alberto Navarro

Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.

Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.