M365.FM · 日本語
Copilotをプロンプトインジェクションから守る:Azure Logic AppsとPrompt Shieldsで作るファイアウォール
Microsoft 365 Copilotセキュリティ・ID・ガバナンスAzureと開発Microsoft 365 CopilotプロンプトインジェクションAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft SentinelAIセキュリティ
攻撃者はプロンプトを破る必要はありません。メール、SharePointファイル、フォーム項目に隠した指示でコンテキストを汚染すれば、Copilotは後でそれを命令として扱ってしまいます。このエピソードでは、システムプロンプトやフィルターが本当のセキュリティ境界にならない理由と、Azure Logic AppsでCopilotが動く前に悪意のあるペイロードを検査・スコアリング・ブロックする方法を解説します。
▶ Copilotをプロンプトインジェクションから守る:Azure Logic AppsとPrompt Shieldsで作るファイアウォール(AI吹き替え)
このエピソードで学べること:
- 取得されたコンテンツを経由する間接プロンプトインジェクションが、チャット画面での直接攻撃より危険な理由と、システムプロンプト・区切り文字・ガイドラインが「説得」にとどまり強制にならない理由
- Logic Appsファイアウォールモデル:トリガー、正規化、検査、スコアリング、判断、そしてルーティングまたはログ記録
- 2段階の検査:高速なregexフィルターと、プロンプトとドキュメントをまとめて評価するAzure AI Content Safety Prompt Shields、さらに信頼度スコア付きのMicrosoft Defender Threat Intelligence
- 信頼ゾーンと正規化(マークアップ除去、URLとBase64のデコード)、そして段階的な判断:許可、サニタイズ、隔離、人による承認、ブロック
- 運用でのチューニング:誤検知2%未満、検出15分未満、封じ込め5分未満、従量課金とStandardプランの選択、NIST AI RMFとPurview秘密度ラベルとの連携
このエピソードは、Microsoft MVP Mirko Peters による M365 Show のアニメーション動画をAIで吹き替えた日本語版です。