M365Con 2027 – бесплатная онлайн-конференция · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Русский

Защита Copilot от prompt injection

Azure Logic Apps как файрвол с Prompt Shields и Threat Intelligence

Злоумышленникам не нужно взламывать ваш промпт – достаточно отравить контекст скрытой инструкцией в письме, файле SharePoint или поле формы, которую Copilot затем воспримет как команду. В этом выпуске объясняется, почему системные промпты и фильтры не являются настоящей границей безопасности и как Azure Logic Apps проверяет, оценивает и блокирует вредоносные данные ещё до запуска Copilot.

Подписаться на подкастНовые выпуски о Microsoft 365, Copilot и не только, бесплатно в вашем приложении для подкастов.Spotify

▶ Защита Copilot от prompt injection: Azure Logic Apps как файрвол с Prompt Shields и Threat Intelligence (ИИ-дубляж)

Из выпуска вы узнаете:

  1. Почему косвенная prompt injection через извлекаемый контент опаснее прямых атак в окне чата и почему системные промпты, разделители и правила лишь убеждают модель, а не обеспечивают защиту
  2. Модель файрвола на Logic Apps: запуск, нормализация, проверка, оценка риска, решение и маршрутизация или журналирование
  3. Два прохода проверки: быстрый фильтр на regex и Azure AI Content Safety Prompt Shields для промпта и документов вместе, плюс Microsoft Defender Threat Intelligence с оценками достоверности
  4. Зоны доверия и нормализация (удаление разметки, декодирование URL и Base64) и ступенчатые решения: пропустить, очистить, поместить в карантин, запросить одобрение человека или заблокировать
  5. Настройка в эксплуатации: ложные срабатывания ниже 2 %, обнаружение быстрее 15 минут и сдерживание быстрее 5, план Consumption или Standard, связь с NIST AI RMF и метками конфиденциальности Purview

Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.

Другие выпуски

Все выпуски →