Клод за Chrome: Агентът, който тества действията в браузъра

след хвърляне Клод 4.1, Anthropic прави скок в асистираната навигация с един Преглед на Claude за Chrome, агент, който работи директно в браузъра, за да вижда какво има на екрана ви, да следва потоци и да изпълнява задачи под контрола на потребителя.

Компанията избира за силно контролирано внедряване: започва с 1.000 потребители на план Max и система за изчакване за внимателно разширяване на достъпа, поставяйки Съсредоточете се върху сигурността и събирането на реална обратна връзка, преди да го отворите за обществеността..

Какво е Клод за Chrome?

Това е разширение, което добавете страничен панел в Chrome където можете да разговаряте с Клод, като същевременно запазвате контекста на случващото се в текущия раздел: текст на страницата, видими формуляри и взаимодействието, което самият агент извършва.

За разлика от обикновен асистент, който само отговаря на въпроси, Клод може извършване на действия в браузъра ако им позволите: да кликват върху бутони, да попълват формуляри, да се придвижват през процес на закупуване или публикуване на съдържание, винаги при условие че са необходими разрешения и потвърждения.

Антропик твърди, че този подход е естествена еволюция от последната му работа, свързваща Клод с календари, документи и инструменти за продуктивностПренасянето на тези възможности в браузъра осигурява приемственост на задачите от реалния свят.

При вътрешното тестване, ранните версии помогнаха за управлявайте календари и имейли, автоматизирайте рутинните отчети за разходите и валидирайте потребителските потоци на уебсайтове, както и съставяйте отговори или обобщавайте коментари в съвместни документи.

Какво можете да правите в браузъра

Агентът може да изпълнява задачи като търсене на реклами с конкретни критерии в портали за недвижими имоти, обобщаване на публикации в Google Doc или добавяне на продукти в пазарска количка в услуга за доставка, без да се губи представа за контекста. В ежедневни сценарии, например, това позволява попълнете данните за резервация от информацията, която виждате на страницата, и оставете окончателното потвърждение във вашите ръце, или че Проверете изпратените имейли за съобщения, чакащи отговор.

За повтарящи се заявки, като например въвеждане на данни и формуляри, агентът рационализира механичните стъпки и освобождава време за задачи с по-висока стойност, винаги с опции за наблюдение или спиране на действията, ако нещо не е наред.

Компанията вече е изследвала компютърния контрол с функцията си „Използване на компютър“, а сега, с интерфейса на браузъра, търси по-прецизно взаимодействие което намалява неяснотите и предлага по-добра проследимост на всяко действие.

Сигурност: реални рискове и данни от тестовете

Агенти, използващи браузърния интерфейс ключов риск: бързи инжекции скрити в уебсайтове, имейли или документи, които се опитват да накарат модела да изпълни злонамерени инструкции без знанието на потребителя.

Anthropic е обединил 123 тестови случая, обхващащи 29 сценария за атакаБез смекчаващи мерки, процентът на успех на инжектирането е бил 23,6%, което е тревожен процент за потенциално чувствителни запаси.

Сред примерите преди защитата, един поръчка, замаскирана в имейл накара агента да изтрие съобщенията на потребителя, без да поиска потвърждение, илюстрирайки вида щети, които може да причини добре скрита инструкция на противника.

С мерки, прилагани в т.нар. „„автономен режим“, процентът на успех на тези атаки спадна до 11,2% при същите условияи при набор от специфични за браузъра предизвикателства (като например невидими полета на формуляри в DOM или инструкции в URL адреса или заглавието на раздела) успехът спадна от 35,7% на 0%.

Защитни мерки и ограничения

Първата бариера е системата от разрешения на ниво сайтМожете да предоставите или отмените достъпа на Клод до определени домейни от настройките по всяко време и да ограничите обхвата му.

Освен това, агентът изисква потвърждение за високорискови акции като например публикуване, закупуване или споделяне на лични данни; дори ако активирате самостоятелен режим, предпазните мерки остават в сила за най-чувствителните случаи.

Антропното има подобрени системни подкани да насочва модела през чувствителни данни и е блокирал по подразбиране категории с висок риск, като например финансови услуги, съдържание за възрастни или сайтове за пиратство.

Компанията тества усъвършенствани класификатори които откриват подозрителни модели и необичайни заявки за достъп, дори когато са скрити в привидно легитимни контексти, и ще продължат да разширяват обхвата на известни и нововъзникващи атаки.

Достъп, наличност и следващи стъпки

Първоначалният достъп е ограничен до 1.000 абонати на план Max (струва между 100 и 200 долара на месец, в зависимост от държавата). Ако проявявате интерес, можете да се запишете в списъка на чакащите на адреса claude.ai/chrome.

След като достъпът бъде одобрен, инсталацията се извършва от Chrome Web Store и потвърдено с идентификационните данни на Клод. Препоръката е да започнете с надеждни сайтове и да избягвате тези, които се занимават с финансова, правна или медицинска информация.

Поуките на пилота ще послужат за прецизирайте класификаторите инжектиране, засилване на разрешенията и коригиране на поведението на модела в реални ситуации, които не се случват в тестова лаборатория.

Движението идва в разгара на надпреварата за „агент на браузъра“: Perplexity вече предлага CometGoogle интегрира Gemini в Chrome, а други играчи работят върху подобни функции. Антропик избира да се движи бавно, като безопасността е основен приоритет.

Claude for Chrome се очертава като важна стъпка към уеб-базирани асистенти, които не само отговарят, но и действат адаптивно; Данните за постепенното му внедряване и смекчаване на последиците показват напредък, въпреки че все още има дълъг път. да се доближи оперативният риск до приемливи минимуми.

Свързана статия:

Microsoft Mu: Новият езиков модел, който въвежда локален изкуствен интелект в Windows 11

Алберто Наваро

Аз съм технологичен ентусиаст, който е превърнал своите „гийк“ интереси в професия. Прекарах повече от 10 години от живота си, използвайки авангардни технологии и бърникайки с всякакви програми от чисто любопитство. Сега съм специализирал компютърни технологии и видео игри. Това е така, защото повече от 5 години пиша за различни уебсайтове за технологии и видео игри, създавайки статии, които се стремят да ви дадат информацията, от която се нуждаете, на език, разбираем за всички.

Ако имате някакви въпроси, познанията ми варират от всичко свързано с операционната система Windows, както и с Android за мобилни телефони. И моят ангажимент е към вас, винаги съм готов да отделя няколко минути и да ви помогна да разрешите всички въпроси, които може да имате в този интернет свят.