タグ · 日本語
プロンプトインジェクション
3 × すべてのエピソード
すべてのエピソード
Copilotをプロンプトインジェクションから守る:Azure Logic AppsとPrompt…
攻撃者はプロンプトを破る必要はありません。メール、SharePointファイル、フォーム項目に隠した指示でコンテキストを汚染すれば、Copilotは後でそれを命令として扱ってしまいます。このエピソードでは、システムプロンプトやフィルターが本当のセキュリティ境界にならない理由と、Azure…
金融業界のAIレッドチーミング:手動テストが失敗する理由とマルチモデル・ガントレットによる防御(AI吹き替え)
たった一度のマルチターン・プロンプトインジェクションで、25万ドルの不正送金が実行されることがあります。領収書の画像に隠された文字だけで十分なのです。このエピソードでは、金融分野の確率的なAIエージェントに対してファイアウォールや手動テストがなぜ通用しないのか、そして複数モデルによる継続的で自動化…
LangChain4jとCopilot…
AIエージェントは変更管理の会議よりも速く本番に出ていき、テナント全体へのアクセス権を持つCopilotが「テストのため」にワンクリックで展開されてしまいます。このエピソードでは、LangChain4jとCopilot…