M365Con 2027 – безкоштовна онлайн-конференція · 11–22 Jan 2027 · 120 sessions m365con.net

Блог · Mirko Peters

Елементи керування конфіденційністю Microsoft Copilot: мітки конфіденційності, дозволи, DLP і журнали аудиту

By ·

Елементи керування конфіденційністю, що застосовуються до Microsoft Copilot: дозволи, мітки конфіденційності з правами на використання, розташування DLP для Copilot, записи аудиту та збереження — за документацією Microsoft Learn.

Automatically translated with AI from the original post. Read the English original

Модель конфіденційності Copilot спирається на одне правило: він працює в межах того, до чого вже має доступ користувач, який увійшов в систему. Усе інше — це рівні поверх цього правила. Мітки конфіденційності, захист від втрати даних (DLP), аудит, збереження та eDiscovery визначають, наскільки жорстко контролюється цей доступ і наскільки добре його можна перевірити згодом. Microsoft Learn тепер називає продукт Microsoft Copilot. На старіших сторінках використовується назва Microsoft 365 Copilot.

Головне

  • Copilot показує користувачу організаційні дані лише тоді, коли той має щонайменше дозвіл на перегляд. Промпти та відповіді не використовуються для навчання базових LLM.
  • Для міток, які шифрують, користувачам потрібні право EXTRACT і право VIEW, перш ніж застосунки ШІ повернуть дані.
  • Розташування DLP для Copilot може блокувати конфіденційні промпти, веб-пошук за цими промптами, а також обробку позначених файлів і електронних листів.
  • Взаємодії з Copilot записуються в єдиний журнал аудиту як записи CopilotInteraction, включно з доступними ресурсами та ідентифікаторами міток.
  • Політики збереження можуть зберігати або видаляти промпти та відповіді. eDiscovery може шукати їх у поштовій скриньці користувача.

Рівень 1: дозволи та використання даних

Сторінка Microsoft про конфіденційність зазначає, що Copilot «показує організаційні дані лише тим, на перегляд яких окремі користувачі мають принаймні дозвіл». Семантичний індекс дотримується тієї самої межі доступу, що базується на ідентичності користувача. Copilot подає дані, використовуючи ті самі базові елементи керування доступом, що й інші служби Microsoft 365.

Дві гарантії з тієї самої сторінки:

  • Промпти, відповіді та дані, до яких здійснюється доступ через Microsoft Graph, не використовуються для навчання базових LLM.
  • Збережені дані взаємодій (промпт, відповідь і посилання на джерела) шифруються під час зберігання.

Для користувачів у ЄС Microsoft зазначає, що трафік з ЄС залишається в межах Межі даних ЄС, тоді як глобальний трафік може надсилатися до ЄС та інших регіонів для обробки LLM. Сторінка додає, що моделі від Anthropic як субпроцесора наразі виключені з Межі даних ЄС. Якщо для вашої організації важливе резидентність даних, перевірте це положення за актуальною версією сторінки.

Практичний висновок: гігієна дозволів — це перший засіб контролю конфіденційності. Огляд безпеки Microsoft зазначає, що надмірно відкритий або погано керований вміст може впливати на результати Copilot і підвищувати ризики.

Рівень 2: мітки конфіденційності та шифрування

Документація Purview зазначає, що застосунки ШІ використовують наявні елементи керування, тож дані в клієнті не повертаються користувачу і не використовуються LLM, якщо користувач не має до них доступу. Мітки додають захист:

  • Коли мітка застосовує шифрування, користувачам потрібні право EXTRACT і право VIEW, щоб застосунки ШІ повернули дані.
  • Цей захист поширюється і на дані, що зберігаються поза клієнтом, якщо їх відкрито в застосунку Office.
  • Microsoft рекомендує вмикати мітки конфіденційності для SharePoint і OneDrive.

Шифрування без міток обробляється інакше. Шифрування Azure Rights Management (Purview Message Encryption, IRM, конектор RMS і RMS SDK) все одно перевіряє VIEW та EXTRACT, але нові елементи не успадковують захист автоматично. Microsoft також перелічує такі випадки:

  • Електронні листи, захищені S/MIME, не повертаються Copilot.
  • Документи з захистом паролем недоступні для ШІ-застосунків, якщо тільки вони вже не відкриті в тому самому застосунку.
  • Елементи, зашифровані за допомогою Customer Key або BYOK, можуть повертатися Copilot.

Для агентів на сторінці про конфіденційність сказано, що шифрування може виключати програмний доступ, що обмежує доступ агента до вмісту.

Рівень 3: DLP для Copilot

У Purview DLP є розташування політики з назвою Microsoft Copilot, Copilot Chat, and Copilot Cowork. За даними Microsoft Learn, воно може:

  • Обмежувати пошук в інтернеті, якщо запити містять конфіденційні дані.
  • Обмежувати обробку конфіденційних запитів.
  • Обмежувати обробку конфіденційних файлів і електронних листів.
  • Обмежувати обробку зовнішніх електронних листів (попередній перегляд).

| Умова | Що відбувається | |---|---| | Вміст має мітку конфіденційності | Елемент не обробляється і не використовується в узагальненні відповіді. Він може бути доступним у посиланнях на джерела. | | Вміст містить тип конфіденційних даних (обробка запитів) | Функція не відповідає на запит. | | Вміст містить тип конфіденційних даних (пошук в інтернеті) | Пошук в інтернеті не використовується як джерело для відповіді на цей запит. |

Що варто знати перед створенням політики:

  • Це розташування доступне лише в шаблоні політики Custom, і його вибір вимикає інші розташування для цієї політики.
  • Мітки та типи конфіденційних даних не можна поєднувати в одному правилі. Для кожного створіть окреме правило.
  • DLP не може сканувати файли, завантажені безпосередньо в запити. Перевіряється лише текст запиту, який введено вручну.
  • Блокування запитів за типом конфіденційних даних задокументовано як попередній перегляд.
  • Оновлення політик можуть набувати чинності протягом до чотирьох годин.
  • Запрошення на зустрічі не підтримуються для блокування на основі мітки, а електронні листи мають бути надіслані 1 січня 2025 року або пізніше.

Рівень 4: журнали аудиту

Взаємодії з Copilot фіксуються в єдиному журналі аудиту. Microsoft Learn описує такі записи:

  • CopilotInteraction (робоче навантаження Copilot) охоплює Copilot, розроблені Microsoft.
  • ConnectedAIAppInteraction охоплює власні або сторонні ШІ-застосунки, які розгорнуто та зареєстровано в організації.
  • AIAppInteraction охоплює сторонні ШІ-застосунки, які не розгорнуто в організації.

Корисні властивості: AppIdentity, AppHost і AccessedResources. Остання містить ресурси, які використовував Copilot, з дією, статусом і, якщо доступ було заблоковано або обмежено, деталями політики. Кожен ресурс також має SensitivityLabelId. На сторінці задокументовано лише ідентифікатор, а не назву мітки. Серед інших прапорців: XPIADetected (атака з міжпромптовим впровадженням) і JailbreakDetected.

Щоб виконати пошук, відкрийте портал Microsoft Purview, оберіть Audit і відфільтруйте поле Activities – operation names за операцією, типом запису або робочим навантаженням. Аудит має бути увімкнено в організації. Журнали аудиту для ШІ-застосунків не від Microsoft тарифікуються за оплатою за фактом використання та зберігаються 180 днів. На сторінці не вказано типове зберігання для Audit (Standard), а також не перелічено ролі адміністраторів, потрібні для пошуку.

Рівень 5: збереження, eDiscovery і нагляд

  • Збереження. Політики збереження можуть зберігати або видаляти запити та відповіді користувачів. Якщо застосовується кілька політик або утримань eDiscovery, дані зберігаються протягом найдовшого терміну.
  • eDiscovery. Запити та відповіді зберігаються в поштовій скриньці користувача. Шукайте їх за умовою Type > Contains any of > Copilot activity.
  • Комунікаційна відповідність. Вона може виявляти порушення поведінки в запитах і відповідях ШІ, при цьому імена користувачів псевдонімізуються.
  • Insider Risk Management. Шаблон Risky AI usage виявляє ризикове використання, зокрема атаки з міжпромптовим впровадженням і доступ до захищених матеріалів.

З чого почати

  1. Спершу усуньте надмірне відкриття доступу, адже дозволи визначають, до чого Copilot може дістатися.
  2. Позначте конфіденційний вміст мітками та перевірте, які мітки шифрують.
  3. Створіть правило DLP для розташування Copilot для міток або типів конфіденційних даних, які ніколи не мають оброблятися.
  4. Переконайтеся, що аудит увімкнено, і протестуйте пошук записів CopilotInteraction.
  5. Визначте, як довго мають зберігатися запити та відповіді.

Пов’язане

Джерела

FAQ

Чи враховує Copilot мітки конфіденційності?

Так, але з умовою. Microsoft Learn зазначає, що коли мітка застосовує шифрування, користувачам для того, щоб застосунки ШІ повернули дані, потрібне право EXTRACT на додачу до VIEW. Copilot враховує права на використання, надані користувачу.

Чи використовуються промпти Copilot для навчання моделі?

Ні. Згідно зі сторінкою Microsoft про конфіденційність Copilot, промпти, відповіді та дані, до яких здійснюється доступ через Microsoft Graph, не використовуються для навчання базових LLM, зокрема тих, що застосовуються в Microsoft Copilot.

Де адміністратори можуть побачити, до чого звертався Copilot?

У порталі Microsoft Purview, в розділі Audit. Microsoft Learn зазначає, що взаємодії з Copilot створюють записи CopilotInteraction, які посилаються на файли, сайти та інші ресурси, до яких було здійснено доступ, включно з ідентифікатором мітки конфіденційності для кожного ресурсу. Аудит має бути увімкнений в організації.

Чи може DLP завадити Copilot використовувати файл із міткою?

Так. Політика DLP для розташування Microsoft Copilot, Copilot Chat і Copilot Cowork може блокувати обробку файлів і електронних листів із обраними мітками конфіденційності. Microsoft зазначає, що такий елемент усе ще може з'явитися в посиланнях на джерела у відповіді.

Entities in this article

Теми цієї статті:

Microsoft 365 Copilot – ШІ-асистент від Microsoft Мітки конфіденційності – Частина Microsoft Purview Microsoft Purview Audit – Частина Microsoft Purview Захист від втрати даних (DLP) – Частина Microsoft Purview

Related articles

Інші статті на тему Microsoft 365 Copilot:

RSS