M365Con 2027 – бесплатная онлайн-конференция · 11–22 Jan 2027 · 120 sessions m365con.net

Блог · Mirko Peters

Элементы управления конфиденциальностью Microsoft Copilot: метки конфиденциальности, разрешения, DLP и журналы аудита

By ·

Элементы управления конфиденциальностью, которые применяются к Microsoft Copilot: разрешения, метки конфиденциальности с правами использования, расположение DLP для Copilot, записи аудита и хранение данных согласно Microsoft Learn.

Automatically translated with AI from the original post. Read the English original

Модель конфиденциальности Copilot опирается на одно правило: он работает только в пределах того, к чему вошедший в систему пользователь уже имеет доступ. Всё остальное — это уровни поверх этого правила. Метки конфиденциальности, предотвращение утечки данных (DLP), аудит, хранение и eDiscovery определяют, насколько строго контролируется этот доступ и насколько хорошо его можно проверить впоследствии. Microsoft Learn теперь называет продукт Microsoft Copilot. На более старых страницах используется название Microsoft 365 Copilot.

Ключевые выводы

  • Copilot показывает только данные организации, на просмотр которых у пользователя есть как минимум разрешение. Запросы и ответы не используются для обучения базовых LLM.
  • Для меток, которые применяют шифрование, пользователям для возврата данных приложениями ИИ необходимы право использования EXTRACT помимо VIEW.
  • Расположение DLP для Copilot может блокировать конфиденциальные запросы, веб-поиск по этим запросам, а также обработку помеченных файлов и писем.
  • Взаимодействия с Copilot записываются в единый журнал аудита как записи CopilotInteraction, включая доступные ресурсы и идентификаторы меток.
  • Политики хранения могут сохранять или удалять запросы и ответы. eDiscovery может выполнять по ним поиск в почтовом ящике пользователя.

Уровень 1: разрешения и использование данных

На странице Microsoft о конфиденциальности сказано, что Copilot «показывает только данные организации, к которым у отдельных пользователей есть как минимум разрешение на просмотр». Семантический индекс соблюдает ту же границу доступа, основанную на идентичности пользователя. Copilot представляет данные, используя те же базовые элементы управления доступом, что и другие службы Microsoft 365.

Два обязательства с той же страницы:

  • Запросы, ответы и данные, полученные через Microsoft Graph, не используются для обучения базовых LLM.
  • Сохранённые данные взаимодействий (запрос, ответ и ссылки на источники) шифруются при хранении.

Для пользователей из ЕС Microsoft сообщает, что трафик ЕС остаётся в пределах Границы данных ЕС, тогда как глобальный трафик может направляться в ЕС и другие регионы для обработки LLM. На странице также указано, что модели Anthropic как субпроцессор в настоящее время исключены из Границы данных ЕС. Если для вашей организации важно размещение данных, сверьте этот пункт с актуальной версией страницы.

Практический вывод: гигиена разрешений — это первый элемент контроля конфиденциальности. В обзоре безопасности Microsoft отмечается, что чрезмерно открытый или плохо управляемый контент может влиять на результаты Copilot и повышать риски.

Уровень 2: метки конфиденциальности и шифрование

Документация Purview указывает, что приложения ИИ используют существующие элементы управления, поэтому данные в клиенте не возвращаются пользователю и не используются LLM, если у пользователя нет к ним доступа. Метки добавляют защиту:

  • Если метка применяет шифрование, приложениям ИИ для возврата данных пользователям необходимы право использования EXTRACT помимо VIEW.
  • Эта защита распространяется и на данные, хранящиеся за пределами клиента, когда они открыты в приложении Office.
  • Microsoft рекомендует включать метки конфиденциальности для SharePoint и OneDrive.

Шифрование без меток обрабатывается иначе. Шифрование Azure Rights Management (Purview Message Encryption, IRM, коннектор RMS и RMS SDK) по-прежнему проверяет VIEW и EXTRACT, но новые элементы не наследуют защиту автоматически. Microsoft также перечисляет следующие случаи:

  • Письма, защищённые S/MIME, Copilot не возвращает.
  • Документы, защищённые паролем, недоступны ИИ-приложениям, если они не открыты в том же приложении.
  • Элементы, зашифрованные с помощью Customer Key или BYOK, могут быть возвращены Copilot.

Для агентов страница о конфиденциальности указывает, что шифрование может исключать программный доступ, что ограничивает доступ агента к содержимому.

Уровень 3: DLP для Copilot

В Purview DLP есть расположение политики с названием Microsoft Copilot, Copilot Chat и Copilot Cowork. По данным Microsoft Learn, оно может:

  • Ограничивать внешний веб-поиск, когда запросы содержат конфиденциальные данные.
  • Ограничивать обработку конфиденциальных запросов.
  • Ограничивать обработку конфиденциальных файлов и писем.
  • Ограничивать обработку внешних писем (предварительная версия).

| Условие | Что происходит | |---|---| | Содержимое имеет метку конфиденциальности | Элемент не обрабатывается и не используется в сводке ответа. Он может по-прежнему быть доступен в источниках. | | Содержимое содержит тип конфиденциальных сведений (обработка запросов) | Сервис не отвечает на запрос. | | Содержимое содержит тип конфиденциальных сведений (веб-поиск) | Внешний веб-поиск не используется в качестве источника для этого запроса. |

Что нужно знать перед созданием политики:

  • Расположение доступно только в шаблоне политики Custom, и его выбор отключает другие расположения для этой политики.
  • Метки и типы конфиденциальных сведений нельзя объединять в одном правиле. Создайте отдельное правило для каждого из них.
  • DLP не может сканировать файлы, загруженные непосредственно в запросы. Проверяется только введённый текст запроса.
  • Блокировка запросов по типам конфиденциальных сведений описана как предварительная версия.
  • Изменения политики могут вступать в силу в течение четырёх часов.
  • Приглашения на собрания не поддерживаются для блокировки на основе меток, а письма должны быть отправлены 1 января 2025 года или позже.

Уровень 4: журналы аудита

Взаимодействия с Copilot фиксируются в едином журнале аудита. В Microsoft Learn описаны следующие записи:

  • CopilotInteraction (рабочая нагрузка Copilot) относится к Copilot, разработанным Microsoft.
  • ConnectedAIAppInteraction относится к пользовательским или сторонним ИИ-приложениям, которые развёрнуты и зарегистрированы в организации.
  • AIAppInteraction относится к сторонним ИИ-приложениям, которые не развёрнуты в организации.

Полезные свойства включают AppIdentity, AppHost и AccessedResources. Последнее перечисляет ресурсы, которые использовал Copilot, с действием, статусом и, если доступ был заблокирован или ограничен, сведениями о политике. Каждый ресурс также содержит SensitivityLabelId. На странице описан только идентификатор, но не название метки. Другие флаги включают XPIADetected (межзапросная атака внедрения инструкций, cross prompt injection attack) и JailbreakDetected.

Для поиска откройте портал Microsoft Purview, выберите Аудит и отфильтруйте поле Действия – имена операций по операции, типу записи или рабочей нагрузке. Аудит должен быть включён в организации. Журналы аудита для сторонних ИИ-приложений тарифицируются по модели оплаты по мере использования и хранятся 180 дней. На странице не указан срок хранения по умолчанию для Audit (Standard) и не перечислены роли администратора, необходимые для поиска.

Уровень 5: хранение, eDiscovery и надзор

  • Хранение. Политики хранения могут сохранять или удалять запросы и ответы пользователей. Если применяется несколько политик или удержаний eDiscovery, данные сохраняются на самый длительный срок.
  • eDiscovery. Запросы и ответы хранятся в почтовом ящике пользователя. Выполняйте поиск по условию Type > Contains any of > Copilot activity.
  • Соответствие требованиям к коммуникациям. Может выявлять нарушения правил поведения в запросах и ответах ИИ; имена пользователей при этом псевдонимизируются.
  • Insider Risk Management. Шаблон Risky AI usage обнаруживает рискованное использование, включая атаки с внедрением запросов и доступ к защищённым материалам.

С чего начать

  1. Сначала устраните избыточный доступ, поскольку разрешения определяют, к каким данным может обращаться Copilot.
  2. Присвойте метки конфиденциальному содержимому и проверьте, какие метки включают шифрование.
  3. Создайте правило DLP для расположения Copilot для меток или типов конфиденциальных сведений, которые никогда не должны обрабатываться.
  4. Убедитесь, что аудит включён, и проверьте поиск записей CopilotInteraction.
  5. Решите, как долго хранить запросы и ответы.

Связанное

Источники

FAQ

Учитывает ли Copilot метки конфиденциальности?

Да, но с условием. Microsoft Learn указывает, что если метка применяет шифрование, пользователям для возврата данных приложениями ИИ необходимы право использования EXTRACT помимо VIEW. Copilot учитывает права использования, предоставленные пользователю.

Используются ли запросы Copilot для обучения модели?

Нет. Согласно странице Microsoft о конфиденциальности Copilot, запросы, ответы и данные, полученные через Microsoft Graph, не используются для обучения базовых LLM, включая модели, на которых работает Microsoft Copilot.

Где администраторы могут посмотреть, к каким данным обращался Copilot?

В портале Microsoft Purview в разделе «Аудит». Microsoft Learn сообщает, что взаимодействия с Copilot создают записи CopilotInteraction, которые ссылаются на файлы, сайты и другие ресурсы, к которым был получен доступ, включая идентификатор метки конфиденциальности для каждого ресурса. Аудит должен быть включён в организации.

Может ли DLP не дать Copilot использовать файл с меткой?

Да. Расположение политики DLP для Microsoft Copilot, Copilot Chat и Copilot Cowork может запретить обработку файлов и писем с выбранными метками конфиденциальности. Microsoft отмечает, что такой элемент всё равно может появиться в ссылках на источники в ответе.

Entities in this article

Темы этой статьи:

Microsoft 365 Copilot – ИИ-помощник от Microsoft Метки конфиденциальности – Часть Microsoft Purview Microsoft Purview Audit – Часть Microsoft Purview Защита от потери данных (DLP) – Часть Microsoft Purview

Related articles

Другие статьи на тему Microsoft 365 Copilot:

RSS