M365Con 2027 – безкоштовна онлайн-конференція · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Українська

Захист Copilot від prompt injection

Azure Logic Apps як файрвол із Prompt Shields і Threat Intelligence

Зловмисникам не потрібно зламувати ваш промпт – достатньо отруїти контекст прихованою інструкцією в листі, файлі SharePoint чи полі форми, яку Copilot згодом сприйме як команду. У цьому випуску пояснюється, чому системні промпти й фільтри не є справжньою межею безпеки та як Azure Logic Apps перевіряє, оцінює й блокує шкідливі дані ще до запуску Copilot.

Підписатися на подкастНові випуски про Microsoft 365, Copilot та інше, безкоштовно у вашому застосунку для подкастів.Spotify

▶ Захист Copilot від prompt injection: Azure Logic Apps як файрвол із Prompt Shields і Threat Intelligence (ШІ-дубляж)

Що ви дізнаєтеся:

  1. Чому непряма prompt injection через отриманий контент небезпечніша за прямі атаки у вікні чату і чому системні промпти, роздільники та правила лише переконують модель, а не забезпечують захист
  2. Модель файрвола на Logic Apps: запуск, нормалізація, перевірка, оцінка ризику, рішення та маршрутизація або журналювання
  3. Два проходи перевірки: швидкий фільтр на regex і Azure AI Content Safety Prompt Shields для промпта й документів разом, а також Microsoft Defender Threat Intelligence з оцінками достовірності
  4. Зони довіри й нормалізація (видалення розмітки, декодування URL і Base64) та ступеневі рішення: пропустити, очистити, помістити в карантин, вимагати схвалення людиною або заблокувати
  5. Налаштування в експлуатації: хибні спрацьовування нижче 2 %, виявлення швидше ніж за 15 хвилин і стримування швидше ніж за 5, план Consumption чи Standard, зв’язок із NIST AI RMF і мітками конфіденційності Purview

Цей випуск — українська версія анімованого пояснювального відео з M365 Show від Microsoft MVP Мірко Петерса, озвучена за допомогою ШІ.

Інші випуски

Усі випуски →