2026-05-11

金融分野におけるマルチモデルAIのための自動レッドチーミング

m365.fmポッドキャストのこのエピソードでは、Mirko Petersが、現代のエンタープライズ環境において従来のAIセキュリティテストがもはや十分ではない理由を探ります。議論の中心は、複数のAIモデル、Copilot、API、自動化レイヤーが相互に作用する、特に規制の厳しい金融業界におけるマルチモデルAIシステムに対する「レッドチーミング」です。エピソードでは、AIシステムがコンテキスト、連鎖したプロンプト、統合、メモリ、ユーザーの行動によって異なる挙動を示すため、手動テストの手法が機能しなくなる仕組みを説明します。単独では安全に見えるモデルも、他のシステムや自律的なワークフローに接続されると脆弱になり得ます。Mirkoは、現代の攻撃はもはthink単純なプロンプトインジェクションではなく、多段階で適応的であり、被害が発生するまで見えないことが多いと強調します。主要なテーマは、組織はAIをチャットボットとして扱うのをやめ、代わりに…

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)