Claude для Chrome: агент, который проверяет действия в браузере

После запуска Клод 4.1, Anthropic делает шаг в сторону вспомогательной навигации с Предварительный просмотр Claude для Chrome, агент, который работает непосредственно в браузере, чтобы видеть то, что находится на экране, следовать за процессами и выполнять задачи под контролем пользователя.

Компания выбирает строго контролируемая реализация: начинается с 1.000 пользователей плана Max и системы ожидания для осторожного расширения доступа, помещая Сосредоточьтесь на безопасности и соберите реальные отзывы, прежде чем сделать проект доступным для публики..

Что такое Claude для Chrome?

Это расширение, которое добавить боковую панель в Chrome где вы можете общаться с Клодом, сохраняя при этом контекст происходящего на текущей вкладке: текст страницы, видимые формы и взаимодействие, которое выполняет сам агент.

В отличие от простого помощника, который только отвечает на вопросы, Клод может выполнять действия в браузере если вы позволите им: нажимать на кнопки, заполнять формы, перемещаться по процесс покупки или публиковать контент всегда с разрешения и подтверждения.

Антропные утверждают, что этот подход естественная эволюция из его недавней работы по подключению Клода к календарям, документам и инструментам повышения производительности: Реализация этих возможностей в браузере обеспечивает преемственность в решении реальных задач.

В ходе внутреннего тестирования ранние версии помогли управлять календарями и электронной почтой, автоматизировать рутинные отчеты о расходах и проверять потоки пользователей на веб-сайтах, а также составлять ответы или обобщать комментарии в совместных документах.

Что можно делать в браузере

Агент может выполнять такие задачи, как поиск объявлений по определенным критериям на порталах недвижимости, при составлении сводки публикаций в Google Doc или при добавлении товаров в корзину в службе доставки, не теряя при этом контекста. Например, в повседневных ситуациях это позволяет заполните данные бронирования из информации, которую вы видите на странице, и оставьте окончательное подтверждение в своих руках, или что Проверьте отправку сообщений по электронной почте на наличие сообщений, ожидающих ответа..

Для повторяющихся запросов, таких как записи данных и формы, агент оптимизирует механические шаги и освобождает время для более важных задач, всегда есть возможность отслеживать или останавливать действия, если что-то не подходит.

Компания уже исследовала возможности управления компьютером с помощью функции «Использование компьютера», а теперь, с помощью интерфейса браузера, стремится к более точному взаимодействию что уменьшает двусмысленность и обеспечивает лучшую прослеживаемость каждого действия.

Безопасность: реальные риски и контрольные цифры

Агенты, использующие браузер ключевой риск: быстрые инъекции скрытые на веб-сайтах, в электронных письмах или документах, которые пытаются заставить модель выполнять вредоносные инструкции без ведома пользователя.

Anthropic объединил 123 тестовых случая, охватывающих 29 сценариев атакБез применения смягчающих мер показатель успешности инъекций составил 23,6%, что является тревожным показателем для потенциально уязвимых запасов.

Среди примеров, предшествовавших защите, один заказ, замаскированный в электронном письме заставил агента удалить сообщения пользователя, не запрашивая подтверждения, иллюстрирующий тип ущерба, который может нанести хорошо скрытая инструкция противника.

С мерами, применяемыми в так называемом "В «автономном режиме» успешность этих атак снизилась до 11,2% при тех же условиях., а по ряду проблем, специфичных для браузера (таких как невидимые поля форм в DOM или инструкции в URL-адресе или заголовке вкладки), успешность снизилась с 35,7% до 0%.

Защитные меры и ограничения

Первый барьер – это система разрешения на уровне сайта: Вы можете в любое время предоставить или отозвать доступ Клода к определенным доменам из настроек и ограничить его возможности.

Кроме того, агент просит подтверждение для высокорисковых акций например, размещение, покупка или обмен персональными данными; даже если вы включите автономный режим, меры безопасности продолжат действовать для самых конфиденциальных случаев.

Антропный имеет улучшенные системные подсказки для управления моделью с помощью конфиденциальных данных и по умолчанию блокирует категории высокого риска, такие как финансовые услуги, контент для взрослых или пиратские сайты.

Компания проводит тестирование продвинутые классификаторы которые обнаруживают подозрительные шаблоны и необычные запросы на доступ, даже если они скрыты в, казалось бы, законных контекстах, и продолжат расширять охват известных и новых атак.

Доступ, наличие и дальнейшие шаги

Первоначальный доступ ограничен 1.000 подписчиков максимального плана (стоимостью от 100 до 200 долларов в месяц, в зависимости от страны). Если вы заинтересованы, вы можете записаться в лист ожидания по адресу claude.ai/chrome.

После одобрения доступа установка выполняется из Интернет-магазин Chrome и подтверждено учётными данными Клода. Рекомендуется начать с надёжных сайтов и избегать тех, которые связаны с финансовой, юридической или медицинской информацией.

Знания, полученные пилотом, будут служить уточнить классификаторы инъекция, усиление разрешений и корректировка поведения модели в реальных ситуациях, которые не происходят в испытательной лаборатории.

Движение возникает в разгар гонки за «агент браузера»: Perplexity теперь предлагает CometGoogle интегрирует Gemini в Chrome, а другие игроки работают над аналогичными функциями. Anthropic предпочитает действовать медленно, отдавая приоритет безопасности..

Claude для Chrome обещает стать важным шагом на пути к веб-помощникам, которые не только реагируют, но и действуют оперативно; Показатели постепенного развертывания и смягчения последствий говорят о прогрессе, хотя предстоит еще долгий путь. приблизить операционный риск к приемлемому минимуму.

Статья по теме:

Microsoft Mu: новая языковая модель, которая переносит локальный ИИ в Windows 11

Альберто Наварро

Я энтузиаст технологий, который превратил свои «компьютерные» интересы в профессию. Я провел более 10 лет своей жизни, используя передовые технологии и возясь со всевозможными программами из чистого любопытства. Сейчас я специализируюсь на компьютерных технологиях и видеоиграх. Это потому, что более 5 лет я пишу статьи для различных сайтов, посвященных технологиям и видеоиграм, создавая статьи, которые стремятся дать вам необходимую информацию на понятном каждому языке.

Если у вас есть какие-либо вопросы, мои знания варьируются от всего, что связано с операционной системой Windows, а также Android для мобильных телефонов. И я предан вам, я всегда готов потратить несколько минут и помочь вам решить любые вопросы, которые могут у вас возникнуть в этом мире Интернета.