Как увидеть и контролировать, какие приложения используют генеративный ИИ в Windows 11

Если вы используете Windows 11 и начали использовать инструменты искусственного интеллекта, вы, вероятно, в какой-то момент задавались вопросом, какие именно приложения используют эти ресурсы. генеративные модели ИИ, интегрированные в системуMicrosoft внедряет ИИ практически везде: в Проводнике, в Copilot, в сторонних приложениях... и важно понимать, что происходит «за кулисами», чтобы не потерять контроль над своими данными или конфиденциальностью.

Кроме того, с появлением новых параметров конфиденциальности в Windows 11 можно увидеть Какие приложения недавно обращались к моделям генеративного ИИ системы?а также более эффективное управление инструментами ИИ, используемыми в личной и корпоративной среде. Это дополняется передовыми решениями, такими как Microsoft Purview (DSPM для ИИ) и Defender для облачных приложений, разработанными в первую очередь для компаний, желающих контролировать и ограничивать использование приложений генеративного ИИ в своей организации. Мы подробно расскажем об этом прямо сейчас. Как узнать, какие приложения недавно использовали модели генеративного ИИ в Windows 11.

Действия ИИ в проводнике Windows 11

Microsoft тестирует новые возможности в Windows 11, называемые Действия ИИ интегрированы в проводник файловразработано таким образом, чтобы вы могли работать с изображениями и документами, даже если вы управляете ими в частной галерее ИИ, без необходимости открывать их во внешних программах.

Эти действия позволяют вам выполнять следующие действия с помощью щелчка правой кнопкой мыши: быстрые задачи редактирования файлов изображений, например ретушь фотографий, удаление нежелательных объектов или размытие фона для сосредоточения внимания на главном объекте.

В рамках этих функций также есть конкретное действие для Выполнять обратный поиск изображений с помощью поисковой системы Microsoftчтобы вы могли найти в Интернете похожий или связанный с выбранной вами фотографией контент.

По словам команды Windows, с помощью этих действий ИИ в Проводнике пользователь может более расширенное взаимодействие с файлами из контекстного меню.поэтому вы можете редактировать изображения или составлять резюме документов, не прерывая рабочий процесс.

Основная идея заключается в том, что вы можете сосредоточиться на своих задачах, одновременно Наиболее сложные задачи по редактированию и анализу вы делегируете ИИ.избегайте открытия нескольких различных приложений для очень конкретных целей.

На данный момент эти новые функции доступны не всем, поскольку Тестировать их могут только пользователи, зарегистрировавшиеся в программе Windows Insider., ранний тестовый канал Microsoft.

Если вы являетесь участником этой программы, вы можете активировать эти функции, щелкнув правой кнопкой мыши по совместимому файлу и выбрав опцию «Действия искусственного интеллекта» в контекстном меню Проводника.

В настоящее время эти действия осуществляются в Канарском проливе с Windows 11 Build 27938, очень ранняя, ориентированная на тестирование версияПоэтому вполне нормально, что со временем происходят изменения и корректировки.

Новый раздел «Конфиденциальность»: какие приложения используют генеративный ИИ в Windows 11

В этой же сборке Microsoft включила Новый раздел в разделе «Настройки» > «Конфиденциальность и безопасность» посвященный исключительно генерации изображений из текста и использованию генеративных моделей ИИ в приложениях.

В этом разделе это наглядно показано. Какие сторонние приложения недавно обращались к моделям генеративного ИИ Windows?Это особенно полезно, если вы беспокоитесь о безопасности или хотите узнать, какие программы используют ресурсы ИИ без вашего ведома, включая те, которые доступны из браузеров, таких как Sidekick.

Благодаря этой панели пользователи могут лучший контроль над тем, какие приложения имеют разрешение использовать эти возможности ИИ, регулируя доступ аналогично тому, как это делается с камерой, микрофоном или другими конфиденциальными разрешениями.

С помощью этих типов контроля Microsoft подтверждает свою приверженность интегрировать искусственный интеллект непосредственно в операционную системуно в то же время предоставляя инструменты, позволяющие пользователю не упускать из виду конфиденциальность и управление данными.

Расширенное управление использованием приложений генеративного ИИ в компаниях

Помимо домашнего использования, в корпоративной среде важно, чтобы службы безопасности могли обнаруживать, отслеживать и контролировать используемые приложения ИИнезависимо от того, принадлежат ли они Microsoft или другим поставщикам.

Microsoft разработала стратегию глубокая защита вокруг Microsoft 365 Copilot и других фирменных решений ИИс несколькими уровнями безопасности для защиты данных, идентификационных данных и соблюдения нормативных требований.

Возникает большой вопрос: что происходит с приложения искусственного интеллекта, не созданные Microsoftособенно те, которые основаны на генеративных моделях, к которым сотрудники могут получить доступ из браузера.

Для решения этой проблемы Microsoft предлагает такие инструменты, как Управление безопасностью данных (DSPM) для ИИ в рамках Microsoft Purview и Microsoft Defender for Cloud Apps (входит в семейство Microsoft Defender), которые позволяют отделам безопасности более строго контролировать использование приложений ИИ.

Цель этих решений — предоставить организациям возможность использовать приложения генеративного ИИ более безопасным и контролируемым образомтем самым снижая риск раскрытия конфиденциальной информации или несоблюдения нормативных требований.

Почему мониторинг приложений ИИ имеет решающее значение

Мониторинг и управление приложениями генеративного ИИ стали необходимыми для минимизировать утечки данных, поддерживать соответствие требованиям и внедрять соответствующее управление о том, как используются эти технологии, например, при использовании локальных моделей.

На практике это означает, что организация должна иметь возможность чтобы определить, какие службы ИИ используются, какой тип информации отправляется и какие риски при этом возникаютособенно когда речь идет о конфиденциальном или регулируемом контенте.

Microsoft предлагает использовать DSPM для ИИ и Defender для облачных приложений вместе для обнаруживать, контролировать и, при необходимости, блокировать или ограничивать приложения генеративного ИИ, полагаясь на политики и каталоги облачных приложений.

Использование DSPM для ИИ (Microsoft Purview) для обнаружения и управления приложениями ИИ

DSPM для ИИ, интегрированный в Microsoft Purview, предлагает командам по безопасности и соблюдению требований прозрачность деятельности, связанной с использованием генеративного искусственного интеллекта внутри организации.

С помощью этого инструмента это возможно защищать данные которые включаются в запросы к службам ИИ и обеспечивают больший контроль над тем, как эти данные обрабатываются и распространяются, что критически важно, когда пользователи загружают внутренние документы в чат-боты или аналогичные службы. OneDrive с искусственным интеллектом Это пример интеграции ИИ с пользовательскими данными в экосистеме Microsoft.

Первая рекомендация: создавать или активировать политики Purview, специфичные для ИИDSPM для искусственного интеллекта включает предварительно настроенные политики, которые можно включить с минимальными усилиями.

Эти директивы «одного щелчка» позволяют вам определить четкие правила о какие типы данных могут или не могут быть задействованы во взаимодействии с приложениями генеративного ИИтем самым снижая вероятность случайного воздействия.

После того, как политика будет реализована, можно будет увидеть Генеративная активность, связанная с ИИ, в Activity Explorer и журналах аудита, который обеспечивает подробную и прослеживаемую историю.

К таким записям относятся, например, Взаимодействие пользователя с сайтами и сервисами ИИ, доступными из браузера, что позволяет нам понять, с какими инструментами экспериментируют сотрудники.

Также зафиксированы события, в которых Правила предотвращения потери данных (DLP) срабатывают во время использования приложений ИИ.Это указывает на попытки передать конфиденциальные данные внешним службам.

Система также отражает, когда они имеют обнаруженные типы конфиденциальной информации в этих взаимодействиях с пользователями, что облегчает сотрудникам службы безопасности выявление рискованного поведения.

В качестве дополнения настоятельно рекомендуется Настройте политики DLP, специфичные для браузера Microsoft Edgeтаким образом, вы можете защитить навигацию от неконтролируемых служб ИИ, а также воспользоваться режимом ИИ Copilot в Edge.

Благодаря этим политикам возможно даже Блокировать доступ к неуправляемым приложениям ИИ из незащищенных браузеровтаким образом заставляя трафик проходить через контролируемые каналы.

Использование Microsoft Defender для облачных приложений с приложениями генеративного ИИ

Microsoft Defender для облачных приложений обеспечивает дополнительный уровень контроля, позволяя обнаруживать, контролировать или блокировать приложения генеративного ИИ используется в организации с использованием каталога облачных приложений с оценками риска.

На портале Microsoft Defender вы можете получить доступ к каталог категоризированных облачных приложений, включая категорию «генеративный ИИ», который группирует все приложения этого типа, обнаруженные в среде.

Фильтруя по этой категории, службы безопасности получают список приложений генеративного ИИ вместе с оценками их безопасности и рисков соответствия требованиямЭто помогает расставить приоритеты и определить, какие услуги следует проанализировать более подробно.

Эти оценки рассчитываются путем объединения различных факторов, что делает их полезными для решить, какие приложения стоит отслеживать более внимательно или даже блокировать если они не соответствуют требованиям организации.

Создайте политику мониторинга приложений генеративного ИИ

В Defender for Cloud Apps вы можете определить конкретные политики для контролировать использование новых приложений генеративного ИИ, обнаруженных в организации, как часть модели непрерывного контроля.

Во-первых, важно убедиться, что выполнены все необходимые условия, и просмотреть документацию по управление облачными приложениями с помощью пользовательских политикпоскольку конфигурация гибкая.

При создании новой политики обычно начинают с пустой шаблон, выбрав «Без шаблона» в качестве типа политики чтобы иметь возможность настраивать все параметры вручную.

Политике можно присвоить имя, которое четко определяет ее цель, например: «Новые приложения генеративного ИИ»и установите средний уровень серьезности (например, уровень 2) для калибровки оповещений.

Описание директивы должно объяснять, что Оповещение будет генерироваться каждый раз при обнаружении и использовании нового приложения генеративного ИИ., что облегчает его идентификацию службой безопасности.

В разделе условий обычно указывается, что Приложение должно относиться к категории «генеративный ИИ».поэтому данная политика фокусируется исключительно на этом типе услуг.

Наконец, политику можно настроить так, чтобы применяются ко всем непрерывным отчетам об обнаружении облачных приложенийобеспечение обнаружения всего отслеживаемого трафика.

Создайте политику блокировки определенных приложений ИИ

Помимо мониторинга, Defender for Cloud Apps позволяет блокировать определенные приложения ИИ, которые организация считает неавторизованными, применяя меры управления к его использованию.

Перед этим желательно ознакомиться с документацией по создание политики управления и контроля облачных приложений, поскольку этот тип политики может иметь прямое влияние на пользователей.

Процесс обычно начинается в разделе Облачные приложения > Облачное обнаружение портала Microsoft Defender, где перечислены приложения, обнаруженные в организации.

В этом представлении вы можете применить фильтр Категория «Генеративный ИИ» для отображения только приложений этого типатем самым облегчая их анализ и отбор.

В списке результатов выберите приложение ИИ, которое вы хотите ограничить, и в его строке появится меню параметров. присвоить ему метку «неавторизованного» или «несанкционированного» приложения, официально обозначив его как заблокированный на уровне управления.

Далее, в панели навигации, вы можете перейти в раздел управление облачными приложениями для управления связанными политиками, включая те, которые будут применяться к приложениям, помеченным как неавторизованные.

На вкладке «Политики» можно создать новую пользовательскую политику, снова выбрав «Без шаблона» как основа конфигурации, чтобы были определены индивидуальные критерии и действия.

Политику можно назвать, например, «Несанкционированные приложения ИИ» и быть описано как правило, предназначенное для блокировки приложений генеративного ИИ, помеченных как неавторизованные.

В разделе условий вы можете указать, что Категория приложения — генеративный ИИ, метка — несанкционированное., ограничивая область действия именно тем, что вы хотите заблокировать.

После настройки политика применяется к все текущие отчеты об обнаружении приложенийобеспечение идентификации и блокировки трафика к этим приложениям в соответствии с установленными правилами.

Базовое управление недавно установленными приложениями в Windows 11 и Windows 10

Хотя основное внимание уделяется ИИ, также может быть полезно знать Какие приложения были недавно установлены на вашем ПК с Windows 11?Например, чтобы выявить возможные программы, связанные с ИИ, об установке которых вы не помните.

В Windows 11 вы можете быстро открыть настройки, введя «Приложения и функции» в строке поиска панели задач и нажав на соответствующий результат, можно получить доступ к списку приложений.

В этом разделе можно Измените критерий сортировки на «Дата установки»., благодаря чему самые последние приложения отображаются в верхней части списка.

Если вы хотите, чтобы поиск был более точным, вы можете воспользоваться опцией «Фильтровать по» и выберите «Все диски» чтобы охватить все диски, или выбрать конкретный диск, если вы знаете, где установлена ​​программа.

Затем приложения будут отображены упорядочены по дате последней установки в системеа также соответствующую информацию, такую ​​как версия, которая полезна для проверки новых установок.

В каждой записи вы можете развернуть значок Дополнительные возможности для доступа к таким действиям, как непосредственное удаление приложения., если вы заметили что-то, что вас не убеждает.

Вы также можете использовать коробку Найдите приложение на этом же экране, чтобы найти программу по названию или ключевому слову.Это ускоряет управление, если у вас установлено много приложений.

В Windows 10 процедура очень похожа: просто найдите «Приложения и функции» в строке поиска и откройте соответствующую панель настроек.

Отсюда у вас снова есть возможность сортировать по «дате установки» и фильтровать по единицамА выбрав приложение, вы можете посмотреть его версию или удалить его, если посчитаете это необходимым.

Аналогично у вас есть поле для Выполните поиск по списку, введя имя или термин, относящийся к приложению.показаны только соответствующие результаты.

Описания, созданные ИИ в приложениях на основе моделей

В сфере корпоративных приложений Microsoft также использует ИИ для Генерируйте автоматические описания приложений на основе моделей, с целью помочь пользователям лучше понять, что делает каждое приложение.

Сложные приложения могут быть запутанными для конечных пользователей, поэтому ИИ анализирует содержимое и структуру приложения, чтобы Создайте четкое описание, объясняющее его основные функции..

Заголовок этих приложений и переключатель приложений были обновлены. более современный стиль, разработанный для интеграции описаний, созданных искусственным интеллектомчтобы при взаимодействии с названием приложения отображался этот пояснительный текст.

Если создатель приложения не добавляет описание вручную, система может Сгенерируйте его автоматически с помощью интегрированных моделей ИИ, отображая результат как в заголовке, так и в других частях интерфейса.

В конструкторе приложений владелец может Просмотрите сгенерированное описание, примите его как есть или измените.корректируя его, если обнаруживается, что контекст отсутствует или есть нюансы, требующие разъяснения.

Если объяснение включает контент, созданный искусственным интеллектом, и создатель пока не принимает его, приложение может отображать уведомление или отказ от ответственности, указывающие на происхождение этого описания, что добавляет прозрачности процессу.

Быстрые способы поиска приложений в Windows

Помимо панелей настроек, Windows предлагает простые сочетания клавиш для поиск установленных приложений или определенных программ, когда они вам нужны, что очень полезно, если ваше меню заполнено.

Самый прямой путь — это Воспользуйтесь кнопкой поиска на панели задач и введите название приложения или программы., позволяя системе предложить ярлык без необходимости навигации по меню.

Другой столь же быстрый вариант — Нажмите клавишу Windows на клавиатуре и начните вводить название приложения.поскольку меню «Пуск» ведет себя как встроенная поисковая система.

С помощью этих жестов вы можете найти место за считанные секунды последние программы, инструменты искусственного интеллекта или любое приложение, которое вы хотите открытьдаже если вы не помните точно, где он находится.

Благодаря всем этим деталям становится ясно, что Microsoft активно продвигает интеграцию ИИ в Windows 11 и ее экосистему, но в то же время предлагает все больше возможностей Посмотрите, какие приложения недавно использовали модели генеративного ИИ, отрегулируйте их доступ и лучше управляйте рисками безопасности.как на персональных устройствах, так и в корпоративной среде, где контроль и прослеживаемость имеют основополагающее значение.