Claude för Chrome: Agenten som testar åtgärder i webbläsaren

efter att ha kastat Claudia 4.1, Anthropic tar steget in i assisterad navigering med en Claude-förhandsvisning för Chrome, en agent som arbetar direkt i webbläsaren för att se vad som finns på skärmen, följa flöden och slutföra uppgifter under användarkontroll.

Företaget väljer en mycket kontrollerad implementeringbörjar med 1.000 XNUMX Max-plananvändare och ett väntesystem för att försiktigt utöka åtkomsten, vilket sätter Fokusera på säkerhet och samla in verklig feedback innan du öppnar det för allmänheten..

Vad är Claude för Chrome?

Detta är en förlängning som lägg till en sidopanel i Chrome där du kan chatta med Claude samtidigt som du behåller kontexten för vad som händer i den aktuella flikensidtext, synliga formulär och den interaktion som agenten själv utför.

Till skillnad från en enkel assistent som bara svarar på frågor kan Claude vidta åtgärder i webbläsaren om du låter dem: klicka på knappar, fylla i formulär, navigera genom en köpprocess eller publicera innehåll, alltid med förbehåll för tillstånd och bekräftelser.

Antropiska hävdar att detta tillvägagångssätt är naturlig evolution från hans senaste arbete med att koppla samman Claude med kalendrar, dokument och produktivitetsverktygAtt integrera dessa funktioner i webbläsaren ger kontinuitet i verkliga uppgifter.

Vid intern testning hjälpte tidiga versioner till att hantera kalendrar och e-postmeddelanden, automatisera rutinmässiga utgiftsrapporter och validera användarflöden på webbplatser, samt skriva svar eller sammanfatta kommentarer i gemensamma dokument.

Vad du kan göra i webbläsaren

Agenten kan utföra uppgifter som sök efter annonser med specifika kriterier på fastighetsportaler, sammanfatta bidrag i ett Google-dokument eller lägga till produkter i en kundvagn i en leveranstjänst, utan att tappa bort sammanhanget. I vardagliga scenarier, till exempel, tillåter det fyll i uppgifterna för en bokning från informationen du ser på sidan och lämna den slutgiltiga bekräftelsen i dina händer, eller att Kontrollera e-postmeddelanden som skickats för att se om det finns meddelanden som väntar på svar.

För upprepade förfrågningar, som t.ex. datainmatning och formulär, agenten effektiviserar mekaniska steg och frigör tid för uppgifter med högre värde, alltid med alternativ för att övervaka eller stoppa åtgärder om något inte passar.

Företaget utforskade redan datorstyrning med sin funktion Datoranvändning och nu, med webbläsargränssnittet, söker mer precis interaktion vilket minskar oklarheter och erbjuder bättre spårbarhet för varje åtgärd.

Säkerhet: verkliga risker och testsiffror

Agenter som använder webbläsarens ansikte en viktig risk: snabba injektioner dolda på webbplatser, i e-postmeddelanden eller dokument som försöker få modellen att köra skadliga instruktioner utan användarens vetskap.

Anthropic har satt ihop 123 testfall som täcker 29 attackscenarierUtan riskreducerande åtgärder var injektionsframgångsgraden 23,6 %, en oroande siffra för potentiellt känsliga aktier.

Bland exemplen före svaromålen finns ett beställning kamouflerad i ett e-postmeddelande fick agenten att radera användarens meddelanden utan att be om bekräftelse, vilket illustrerar den typ av skada som en väl dold motståndarinstruktion kan orsaka.

Med åtgärder som tillämpas i den så kallade "I "autonomt läge" sjönk framgångsgraden för dessa attacker till 11,2 % under samma förhållanden., och på en uppsättning webbläsarspecifika utmaningar (som osynliga formulärfält i DOM eller instruktioner i URL:en eller flikrubriken) minskade framgången från 35,7 % till 0 %.

Skyddsåtgärder och gränser

Det första hindret är systemet med behörigheter på webbplatsnivåDu kan när som helst bevilja eller återkalla Claudes åtkomst till specifika domäner från inställningarna och begränsa hans omfattning.

Dessutom begär agenten bekräftelse för högriskaktier såsom att publicera, köpa eller dela personuppgifter; även om du aktiverar fristående läge finns det fortfarande skyddsåtgärder för de känsligaste fallen.

Antropisk har förbättrade systemmeddelanden för att vägleda modellen genom känslig data och har som standard blockerat högriskkategorier som finansiella tjänster, vuxeninnehåll eller piratkopieringssajter.

Företaget testar avancerade klassificerare som upptäcker misstänkta mönster och ovanliga åtkomstförfrågningar, även när de är dolda i till synes legitima sammanhang, och kommer att fortsätta att utöka täckningen av kända och nya attacker.

Tillgång, tillgänglighet och nästa steg

Initial åtkomst är begränsad till 1.000 XNUMX maxabonnenter på planen (kostar mellan 100 och 200 dollar per månad, beroende på land). Om du är intresserad kan du anmäla dig till väntelistan på adressen claude.ai/chrome.

När åtkomst är godkänd utförs installationen från Chrome Web Store och validerad med Claudes meriter. Rekommendationen är att börja med betrodda webbplatser och undvika de som hanterar finansiell, juridisk eller medicinsk information.

Pilotens lärdomar kommer att tjäna till förfina klassificerarna injektion, stärka behörigheter och justera modellens beteende i verkliga situationer som inte förekommer i ett testlaboratorium.

Rörelsen kommer mitt i kampen om "webbläsaragent": Perplexity erbjuder nu CometGoogle integrerar Gemini i Chrome, och andra aktörer arbetar med liknande funktioner. Anthropic väljer att agera långsamt, med säkerhet som högsta prioritet.

Claude för Chrome ser ut att bli ett stort steg mot webbaserade assistenter som inte bara svarar, utan också agerar responsivt; Dess siffror för gradvis utbyggnad och begränsning tyder på framsteg, även om det fortfarande är en lång väg att gå. för att bringa den operativa risken närmare acceptabla miniminivåer.

Relaterad artikel:

Microsoft Mu: Den nya språkmodellen som ger lokal AI till Windows 11

Alberto navarro

Jag är en teknikentusiast som har gjort sina "nördar"-intressen till ett yrke. Jag har tillbringat mer än 10 år av mitt liv med att använda den senaste tekniken och mixtrat med alla typer av program av ren nyfikenhet. Nu har jag specialiserat mig på datateknik och tv-spel. Detta beror på att jag i mer än 5 år har arbetat med att skriva för olika webbplatser om teknik och videospel, skapa artiklar som försöker ge dig den information du behöver på ett språk som är begripligt för alla.

Om du har några frågor sträcker sig min kunskap från allt som rör operativsystemet Windows samt Android för mobiltelefoner. Och mitt engagemang är för dig, jag är alltid villig att spendera några minuter och hjälpa dig att lösa alla frågor du kan ha i den här internetvärlden.