M365.FM · Русский
Защита Copilot от prompt injection
Azure Logic Apps как файрвол с Prompt Shields и Threat Intelligence
Microsoft 365 CopilotБезопасность, идентичность и governanceAzure и разработкаMicrosoft 365 Copilotprompt injectionAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelбезопасность ИИ
Злоумышленникам не нужно взламывать ваш промпт – достаточно отравить контекст скрытой инструкцией в письме, файле SharePoint или поле формы, которую Copilot затем воспримет как команду. В этом выпуске объясняется, почему системные промпты и фильтры не являются настоящей границей безопасности и как Azure Logic Apps проверяет, оценивает и блокирует вредоносные данные ещё до запуска Copilot.
Подписаться на подкастНовые выпуски о Microsoft 365, Copilot и не только, бесплатно в вашем приложении для подкастов.Spotify
▶ Защита Copilot от prompt injection: Azure Logic Apps как файрвол с Prompt Shields и Threat Intelligence (ИИ-дубляж)
Из выпуска вы узнаете:
- Почему косвенная prompt injection через извлекаемый контент опаснее прямых атак в окне чата и почему системные промпты, разделители и правила лишь убеждают модель, а не обеспечивают защиту
- Модель файрвола на Logic Apps: запуск, нормализация, проверка, оценка риска, решение и маршрутизация или журналирование
- Два прохода проверки: быстрый фильтр на regex и Azure AI Content Safety Prompt Shields для промпта и документов вместе, плюс Microsoft Defender Threat Intelligence с оценками достоверности
- Зоны доверия и нормализация (удаление разметки, декодирование URL и Base64) и ступенчатые решения: пропустить, очистить, поместить в карантин, запросить одобрение человека или заблокировать
- Настройка в эксплуатации: ложные срабатывания ниже 2 %, обнаружение быстрее 15 минут и сдерживание быстрее 5, план Consumption или Standard, связь с NIST AI RMF и метками конфиденциальности Purview
Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.