WEBVTT

00:00:00.000 --> 00:00:06.900
コパイロットの問題は実際には機能の問題ではありません それはその背後にあるモデルに対する信頼の問題です多くのチームは安全性とはプロンプトや権限設定

00:00:06.900 --> 00:00:13.180
そしてエッジでのいくつかのフィルタで確保できると考えています しかし重要なのは攻撃者はプロンプトを打ち破る必要はなくその周囲のコンテキストを汚染するだけで十分であり

00:00:13.180 --> 00:00:18.020
そこから崩壊が始まるということです 基本的なフィルタで明らかな不要データは防げますがメールやシェアポイントのファイル

00:00:18.020 --> 00:00:24.720
フォームのフィールドに隠されたペイロードは見逃されます こうした取得されたコンテンツはコパイロットがそれを取り込み直接的な指示として扱うまで静かに

00:00:24.720 --> 00:00:30.180
潜伏しています マイクロソフト365コパイロットのエコーリークやコパイロットスタジオのシェアリークで私たちはすでにその予兆を

00:00:30.180 --> 00:00:33.800
目にしています そして現実にはパッチを適用してもこのパターンは終わりませんでした

00:00:33.800 --> 00:00:40.920
コパイロットはマイクロソフト365環境全体を検索 ようやく実行できるため一度の悪意ある命令が急速に拡散する可能性があります

00:00:40.920 --> 00:00:47.060
つまりこれはスタックにダッシュボードを追加する話ではなく アジュールロジックアップスを導入しコパイロットが実行される前に悪意あるペイロードを検査

00:00:47.060 --> 00:00:53.920
評価ブロックする経路を作ることなのです 真の危険はプロンプトではなくアーキテクチャにあります旧来のモデルはモデルの周囲により良い指示を書くことで

00:00:53.920 --> 00:01:00.440
システムを安全に保てるという前提に基づいています 強力なシステムプロンプトを与え区切り文字を加えユーザーにやってはいけないことを伝えるといった方法です

00:01:00.440 --> 00:01:10.360
理屈ではもっともですが実際にはモデルはセキュリティシステムのような信頼の境界を強制しません 指示とデータが同じチャンネルで混在し注意を奪い合っているからです

00:01:10.360 --> 00:01:19.040
その前提こそが欠陥なのです モデルがユーザーによる助けを求める言葉と事前の指示を無視するよう静かに促す文章を確実に見分けられないのであれば

00:01:19.040 --> 00:01:27.260
制御ポイントをプロンプト層だけに置くことはできません あなたはエッジで動作を保護しようとしていますが実際のリスクはモデルに流れ込むコンテキストの中に存在しています

00:01:27.260 --> 00:01:35.580
検索を対応するコパイロットワークロードが登場したことで多くのチームがこの事実に気づきました コパイロットがマイクロソフトグラフのメールファイルチャット履歴から情報の取得を開始した瞬間

00:01:35.580 --> 00:01:42.060
攻撃対象領域は完全に変化します もはや会話を保護するだけでなく信頼度の異なる入力が混在するライブストリームを保護しなければならないのです

00:01:42.060 --> 00:01:48.960
さらに一歩踏み込むとコパイロットは影響範囲を拡大させます 単に質問に答えるだけでなく情報を取得し要約し参照元を追跡するからです

00:01:48.960 --> 00:01:56.160
設定によってはツールやワークフローをトリガーすることさえあります そのため信頼できないコンテンツがその連鎖に入り込むとモデルはその影響を機密性の高いアクションにまで持ち込んで

00:01:56.160 --> 00:02:00.140
しまう可能性があります だからこそ今間接的なプロンプとインジェクションが非常に重要視されているのです

00:02:00.140 --> 00:02:05.040
本番システムにおいて一般的な攻撃は常にユーザーがチャットボックスにルールを無視せよと打ち込むようなものとは限りません

00:02:05.040 --> 00:02:10.600
より危険なバージョンは取得されたコンテンツ内に潜んでおり誰かが気づくまでに数週間かかることもあります

00:02:10.600 --> 00:02:17.540
一見無害に見える文書メールホーム入力であっても実際にはモデルに向けた指示が含まれている可能性があります

00:02:17.540 --> 00:02:24.200
後でコパイロットがそのコンテンツを関連コンテキストとして取得し信頼できる資料と混ぜ合わせることでモデルは誤った指示に従ってしまいます

00:02:24.200 --> 00:02:31.080
攻撃の連鎖は単純でだからこそ危険なのです まず攻撃者がコパイロットの到達範囲内にコンテンツを仕込み

00:02:31.080 --> 00:02:36.260
取得プロセスでそれがセッションに取り込まれモデルがペイロードをデータではなく指示として扱います

00:02:36.260 --> 00:02:43.700
その後機密情報の準備や回答の誘導あるいはリンクやツール利用を通じたデータ流出へと進む可能性があります

00:02:43.700 --> 00:02:49.320
リーダーにとってこれは単なるAI衛生管理の問題ではなくアクセスガバナンスに直結するランタイム制御の問題です

00:02:49.320 --> 00:02:55.140
コパイロットがテナント全体に広くアクセスできモデルが厳格な分離なしに信頼性の異なるコンテキストを扱う場合

00:02:55.140 --> 00:02:58.400
実行前にフローに入るものを精査するセキュリティモデルが必要です

00:02:58.400 --> 00:03:00.780
その本質が見えれば解決策も変わります

00:03:00.780 --> 00:03:05.080
完璧なプロンプトにこだわるのをやめコンテキストが移動する場所に強制力のある対策を講じるのです

00:03:05.080 --> 00:03:07.760
なぜ基本的な防御策が本番環境で通用しないのか

00:03:07.760 --> 00:03:10.680
多くのチームが最初から根本的な間違いを犯しています

00:03:10.680 --> 00:03:15.520
長年アプリ開発で使ってきたセキュリティ対策がコパイロットにもそのまま通用すると思い込んでいるのです

00:03:15.520 --> 00:03:21.660
より強力なシステムプロンプトを書きユーザー入力を特殊文字で囲みガイドラインを公表すれば安心してしまうのです

00:03:21.660 --> 00:03:26.680
それらの対策が悪いとは言いませんしやめるべきだとも言いませんが真のセキュリティ協会を形成するものではありません

00:03:26.680 --> 00:03:31.420
それらは単にモデルを説得しようとしているだけでありセキュリティの世界では説得は強制とは異なるのです

00:03:31.420 --> 00:03:33.120
そこに大きな隔たりがあります

00:03:33.120 --> 00:03:41.060
システムプロンプトはモデルへの推奨事項に過ぎず悪意のあるファイルがワークスペースに取り込まれた時にモデルの注意を奪うことを防ぐことはできません

00:03:41.060 --> 00:03:46.140
区切り文字でテキストを構造化してもモデルにセキュリティクリアランスを確認させることはできません

00:03:46.140 --> 00:03:53.200
従業員向けガイドラインは単純ミスを防ぐには有効ですが取得データに潜む悪意のある文書やペイロードには全く無力です

00:03:53.200 --> 00:03:57.160
その管理策は提案レベルのものであり実行時に機能する厳格なルールではないからです

00:03:57.160 --> 00:03:59.460
リージェックス正規表現も同様の問題を抱えています

00:03:59.460 --> 00:04:02.460
高速で低コストなため最初の足切りとして使うフンには価値があります

00:04:02.460 --> 00:04:07.220
ユーザーが以前の指示を全て無視せよと入力した場合システムは数ミリ秒でそれを検知すべきです

00:04:07.220 --> 00:04:12.640
また明らかなプライバシー回避フレーズやツール引数に含まれるSQL形式の文字をフラグ立てするのにも使えます

00:04:12.640 --> 00:04:16.500
その部分はうまく機能しますが正規表現はあらかじめ定義したパターンしか認識できないため

00:04:16.500 --> 00:04:20.720
言い回しが少し変わったり特定の単語ではなく意味に基づいた攻撃が行われたりすると失敗します

00:04:20.720 --> 00:04:22.940
そのため分類レイヤーが必要なのです

00:04:22.940 --> 00:04:27.940
Azure iContent Safetyには直接的及び間接的なプロンプトインジェクション攻撃の両方を検出できるプロンプトシールドがあります

00:04:27.940 --> 00:04:31.800
ロジックアプリではモデルがプロンプトを確認する前にAPIを呼び出してチェックし

00:04:31.800 --> 00:04:34.820
攻撃が検出された場合にワークフローの経路を変更することができます

00:04:34.820 --> 00:04:38.500
これはプロンプトとドキュメント全体を通して単語の背後にある意図を探るため

00:04:38.500 --> 00:04:41.360
単純な文字列一致よりもはるかに強力な制御となります

00:04:41.360 --> 00:04:43.680
それでも検出だけでは不十分です

00:04:43.680 --> 00:04:47.280
リスクを見つけてもそれを阻止する方法がなければ意味がないからです

00:04:47.280 --> 00:04:51.320
セキュリティチームはプロセスのこの特定の側面を過小評価しがちです

00:04:51.320 --> 00:04:56.120
ログファイルの警告は封じ込めではなく見た目の良いダッシュボードのタイルも同様です

00:04:56.120 --> 00:04:59.040
たとえCM設定管理で優先度の高いアラートが出ても

00:04:59.040 --> 00:05:03.520
ペイロードがすでにコパイロットを通過しダウンストリームシステムでアクションをトリガーしてしまえばそれは失敗です

00:05:03.520 --> 00:05:08.860
事後の状況確認は調査には役立ちますが攻撃が数秒で発生する場合それだけでは不十分です

00:05:08.860 --> 00:05:13.180
組織がすでに信頼しているシステム内部で行動を起こせるモデルを扱っているのです

00:05:13.180 --> 00:05:16.800
多くの製品マーケティングが無視している議員制の問題もあります

00:05:16.800 --> 00:05:20.820
間接的な攻撃は現実世界で見逃される検出の大部分を占めています

00:05:20.820 --> 00:05:25.620
危険な指示はモデルがそれを会話の残りと組み合わせるまで完全に正常に見えるからです

00:05:25.620 --> 00:05:30.660
人間が出力を確認して何かがおかしいと気づく頃には悪意のある入力はその仕事を終えてしまっています

00:05:30.660 --> 00:05:32.920
ここでの実際的なミスは非常に単純です

00:05:32.920 --> 00:05:38.060
チームはコパイロットの発言を監視することに全ての時間を費やしていますが何を入力させるかについては同じレベルの規律で制御していません

00:05:38.060 --> 00:05:42.860
彼らは生成された後の回答を精査する一方で作業が始まる前に信頼できない素材が流れ込むのを許しています

00:05:42.860 --> 00:05:44.720
その順序は完全に逆です

00:05:44.720 --> 00:05:48.580
その欠陥に気づくとセキュリティ戦略の目標全体が変わります

00:05:48.580 --> 00:05:53.860
より安全なプロンプトの書き方を問うことをやめモデルが実行される前にどこでデータを傍受できるかを問い始めるのです

00:05:53.860 --> 00:05:56.000
それがロジックアプリファイアオールモデルです

00:05:56.000 --> 00:06:00.040
傍受が目標であればその制御が実際にはどのようなものになるのかを見る必要があります

00:06:00.040 --> 00:06:04.460
実行フェーズの前に配置されるポリシーレイヤーとしてAzure Logic Appsを使用すべきです

00:06:04.460 --> 00:06:08.320
それは被害が発生した後にレポートを送信するような受動的なツールであってはなりません

00:06:08.320 --> 00:06:13.880
ユーザー入力と取得データが通る経路に直接配置しモデルが動き出す前にそれらを検査できるようにする必要があります

00:06:13.880 --> 00:06:18.140
この転換はロジックアップスがオーケストレーションのために構築されているため非常に強力なのです

00:06:18.140 --> 00:06:23.780
特定のイベントをトリガーとして他のAPIを呼び出し複雑な条件に基づいて意思決定を行うことができます

00:06:23.780 --> 00:06:29.000
カスタムのセキュリティゲートウェイをゼロから構築することなくデータのルーティングやマイクロソフトセンチネルへのアラート送信

00:06:29.000 --> 00:06:31.180
外部情報によるプロセスの強化が可能です

00:06:31.180 --> 00:06:33.860
ここではコパイロットを置き換えようとしているわけではありません

00:06:33.860 --> 00:06:37.000
その周辺のフローに制御のレイヤーを挿入しているだけです

00:06:37.000 --> 00:06:39.620
このモデルの背後にあるロジックは意図的にシンプルにしています

00:06:39.620 --> 00:06:42.240
まずプロセスをトリガーし次にデータを正規化します

00:06:42.240 --> 00:06:46.320
それを検査しリスクをスコアリングして判断を下し最後に結果をルーティングまたは記録します

00:06:46.320 --> 00:06:47.840
パターンはこれで全てです

00:06:47.840 --> 00:06:52.920
リクエストやコンテンツがワークフローに入るとロジックアップがそのペイロードを取り込み標準化します

00:06:52.920 --> 00:06:57.360
コネクタごとにデータの扱い方が異なるため生の入力データは通常整理されていません

00:06:57.360 --> 00:07:03.080
メールとフォーム入力では見た目が異なりファイルの内容やツールの引数もそれぞれ異なるメタデータやフィールドを持っています

00:07:03.080 --> 00:07:08.420
データを正規化する前に検査を実行しようとすると検出システムは非常にノイズの多いものになってしまいます

00:07:08.420 --> 00:07:12.140
低ロードが一貫した形式にフラット化されたら最初の検査パスが始まります

00:07:12.140 --> 00:07:15.000
ここがカスタム正規表現がまだ役割を果たす場所です

00:07:15.000 --> 00:07:19.720
最終的な判断を下すものや魔法の解決策ではありませんがシステムのエッジで非常に高速なフィルターとして機能します

00:07:19.720 --> 00:07:26.700
基地のオーバーライド言語、エンコードのヒントまたはツールパラメータ内の不審なパターンを素早くスキャンし状況を即座にトリアージできます

00:07:26.700 --> 00:07:28.860
次に2回目の検査パスに進みます

00:07:28.860 --> 00:07:31.120
ここではコンテンツをさらに深く調べます

00:07:31.120 --> 00:07:34.480
ここでAzure iContent Safetyのプロンプトシールドを呼び出します

00:07:34.480 --> 00:07:40.640
ロジックアップはユーザープロンプトと取得したドキュメントをAPIに送信し攻撃が検出されたかどうかに基づいて処理を分岐させます

00:07:40.640 --> 00:07:45.440
プロンプトインジェクションは必ずしも一目でわかるコンピューターコードのように見えるとは限らないためこれが重要になります

00:07:45.440 --> 00:07:50.260
プロンプトとドキュメントを単一のユニットとして評価した時に初めて危険性が明らかになることもあるからです

00:07:50.260 --> 00:07:55.600
これを単なるフィルターから真のセキュリティ制御へと変えるもう一つのレイヤーそれが脅威インテリジェンスです

00:07:55.600 --> 00:08:01.800
もしコンテンツが基地の悪意のあるドメインやチームが依然確認した不審なURLを参照しているなら判断を変えるべきです

00:08:01.800 --> 00:08:07.740
ロジックアップスはディフェンダー脅威インテリジェンスや他のサードパーティフィードとイベントを称号しリスクに信頼スコアを付加できます

00:08:07.740 --> 00:08:15.380
つまり信頼できるソースからの奇妙なパターンは許可される可能性がありますが同じパターンでも悪意ある評判スコアが伴えば即座にブロックされます

00:08:15.380 --> 00:08:20.000
これにより意思決定ツリーは単なるはいかいいえの選択以上のものになります

00:08:20.000 --> 00:08:25.180
リスクスコアが低ければリクエストを許可しそうでなければ安全でない断片を除去してサニタイズすることができます

00:08:25.180 --> 00:08:28.840
ソースに手動確認が必要な場合はデータを隔離するという選択肢もあります

00:08:28.840 --> 00:08:33.240
機密データが関わる操作であれば処理を進める前に人の承認を必須にすることも可能です

00:08:33.240 --> 00:08:37.260
もちろんシグナルが十分に強力な場合はリクエストを単純にブロックしてアラートを発信します

00:08:37.260 --> 00:08:40.900
この幅広い選択肢こそがこのモデルをビジネスで機能させるための鍵となります

00:08:40.900 --> 00:08:48.400
少しでも不確実に見えるケースをすべて拒否するとセキュリティチームが導入を阻害してしまい統制が厳しすぎると人々はそれを回避する方法を見つけてしまいます

00:08:48.400 --> 00:08:53.000
スコアベースのワークフローならパニックに陥ることなく実際のリスクに基づいて対応する余地が生まれます

00:08:53.000 --> 00:08:56.900
これこそがバラバラなツールの寄せ集めよりもロジックアップスが適している理由です

00:08:56.900 --> 00:09:01.580
すでにマイクロソフトエコシステム全体と接続されておりセンチネルプレイブックとも完璧に連携します

00:09:01.580 --> 00:09:06.340
コンテンツの安全性チェックや脅威データの検索監査イベントのプッシュをすべて一元的に行えます

00:09:06.340 --> 00:09:11.740
攻撃者が表現を変えたり新しい侵入経路が出現したりするたびに長い開発サイクルを回す必要はありません

00:09:11.740 --> 00:09:14.420
これを機能させるためのルールは非常にシンプルです

00:09:14.420 --> 00:09:18.640
あらゆるコンテキストをスコアリングされるまでは信頼できないものとして扱う必要があります

00:09:18.640 --> 00:09:24.220
それはユーザーのプロンプトだけでなくメール本文アップロードされたファイルシェアポイントのホームフィールドも同様です

00:09:24.220 --> 00:09:28.560
コネクタのペイロード取得したドキュメントのチャンクさらにはツールの引数も含まれます

00:09:28.560 --> 00:09:30.500
そのすべてをチェックしなければなりません

00:09:30.500 --> 00:09:35.300
どれか一つのソースをデフォルトで安全だと想定した瞬間に攻撃者が利用できる新たな隙が生まれます

00:09:35.300 --> 00:09:37.660
ワークフローでこのルールを一貫して強制すれば

00:09:37.660 --> 00:09:42.080
コパイロットが単独で良質なデータと悪質なデータを分別することに頼る必要はなくなります

00:09:42.080 --> 00:09:44.700
プロセスは管理されたエントリーシステムへと変わります

00:09:44.700 --> 00:09:46.840
理論としては理想的に聞こえますが

00:09:46.840 --> 00:09:50.580
現実世界で危険なペイロードが実際にワークフローに到達したとき

00:09:50.580 --> 00:09:52.240
何が起こるかが重要です

00:09:52.240 --> 00:09:54.480
システム稼働時のランタイムにおいて

00:09:54.480 --> 00:09:57.740
ワークフローは単にテキストをスキャンするだけでなく

00:09:57.740 --> 00:10:01.300
決定を下す前にリクエストの全容を把握します

00:10:01.300 --> 00:10:07.540
フォーム送信、メールフロー、コパイロットプロセスに紐づくファイルアップロードなどのイベントがイングレスポイントに到達すると

00:10:07.540 --> 00:10:10.580
ロジックアップスは即座にメタデータでそのイベントをラップします

00:10:10.580 --> 00:10:14.200
誰がリクエストを送信し、どのアプリがそれに触れ、ファイルがどこから発生し

00:10:14.200 --> 00:10:16.460
次にシステムが何をしようとしているのかを追跡します

00:10:16.460 --> 00:10:21.860
この追加のコンテキストは同じ文章でもその主書によって意味が全く異なる可能性があるため非常に重要です

00:10:21.860 --> 00:10:25.520
データが取得されるとペイロードは特定の信頼ゾーンに分割されます

00:10:25.520 --> 00:10:27.720
この分離を明確に保つ必要があります

00:10:27.720 --> 00:10:33.760
ユーザーのプロンプト、取得されたドキュメント、そして会話履歴やツールパラメータはそれぞれ別の場所に格納します

00:10:33.760 --> 00:10:39.160
これらをあまりに早い段階で混在させてしまうと危険な指示がどこから始まったのかを特定できなくなり

00:10:39.160 --> 00:10:41.920
検証プロセスは完全な推測頼みになってしまいます

00:10:41.920 --> 00:10:45.740
多くのチームが全てを統合する方が早いと感じてこのステップを飛ばしますが

00:10:45.740 --> 00:10:48.340
実際には辿るべき道筋を隠しているにすぎません

00:10:48.340 --> 00:10:50.940
次にワークフローは正規化のフェーズに移ります

00:10:50.940 --> 00:10:55.240
これは退屈な作業ですが検出機能を実際に使い物にするために欠かせないプロセスです

00:10:55.240 --> 00:10:59.400
ノイズとなるマークアップを取り除きURLエンコードやベース64形式をデコードし

00:10:59.400 --> 00:11:03.180
ネストされたフィールドをフラット化することで安定した形式で検査を行えるようにします

00:11:03.180 --> 00:11:07.280
あるコネクタがリッチテキストを送信し別のコネクタがJSONフラグメントを送信する場合

00:11:07.280 --> 00:11:10.220
それらをすべて一貫して読み取れるフィールドに集約する必要があります

00:11:10.220 --> 00:11:12.880
これを行わないとロジックは実際の攻撃を見つけることよりも

00:11:12.880 --> 00:11:15.020
形式のフィッチへの対応に多くの時間を費やすことになります

00:11:15.020 --> 00:11:18.200
データがクリーンになったらまずは高速なパターンマッチングを実行します

00:11:18.200 --> 00:11:21.160
これは低コストで直接的かつ迅速に行う必要があります

00:11:21.160 --> 00:11:24.640
以前の指示をすべて無視せよやシステムオーバーライドのバリエーションなど

00:11:24.640 --> 00:11:27.560
システムの動作を上書きしようとするフレーズを探します

00:11:27.560 --> 00:11:30.300
また機密情報の開示やシークレットのダンプ

00:11:30.300 --> 00:11:34.100
プライバシー設定のバイパスを求めるような抽出を試みる言語も探します

00:11:34.100 --> 00:11:37.600
ロジックアップスでは単一のヒットで即座にリクエストをブロックするのではなく

00:11:37.600 --> 00:11:41.160
式や構成ステップを通じてフラグを設定することで対応するのが一般的です

00:11:41.160 --> 00:11:44.200
単一のフレーズが必ずしも悪意ある行動を意味するとは限らないため

00:11:44.200 --> 00:11:45.740
このフラグ立てが重要になります

00:11:45.740 --> 00:11:48.020
正当なセキュリティワークフローに従事する担当者が

00:11:48.020 --> 00:11:51.240
機密コンテンツの取り扱いの確認を求めているだけである可能性もあるからです

00:11:51.240 --> 00:11:54.160
これを解決するためワークフローはより詳細な分析を行うために

00:11:54.160 --> 00:11:56.860
Azure iContent Safetyのプロンプトシールドへペイロードを送信します

00:11:56.860 --> 00:12:00.700
API呼び出しにはユーザープロンプトと取得されたドキュメントの両方が含まれます

00:12:00.700 --> 00:12:04.360
両者の関係性の中にこそ真の問題が潜んでいることが多いからです

00:12:04.360 --> 00:12:06.500
サービスは単純なシグナルを返します

00:12:06.500 --> 00:12:10.400
攻撃が検出された場合ワークフローはモデルを呼び出す前にルートを切り替えます

00:12:10.400 --> 00:12:12.940
次に外部のコンテキストを追加する必要があります

00:12:12.940 --> 00:12:16.260
脅威インテリジェンスの検索はワークフローに別の視点を与えてくれます

00:12:16.260 --> 00:12:20.060
マイクロソフトディフェンダー脅威インテリジェンスや信頼できるTAXIIソースをクエリし

00:12:20.060 --> 00:12:23.560
悪用に関連するドメインURLソースインジケーターをチェックできます

00:12:23.560 --> 00:12:26.460
信頼スコアが利用可能な場合はそれを取り込むべきです

00:12:26.460 --> 00:12:28.860
ソースの評価は最終スコアに反映させるべきであり

00:12:28.860 --> 00:12:30.800
全面的に置き換えるべきではないからです

00:12:30.800 --> 00:12:32.700
リスクの高いソースからの弱いペイロードは

00:12:32.700 --> 00:12:36.480
十分に把握された内部プロセスからの同じペイロードよりも常に高く評価されるべきです

00:12:36.480 --> 00:12:38.960
最後にシステムは複合スコアを構築します

00:12:38.960 --> 00:12:44.440
パターン一致の強度、プロンプトシールドの結果、ソースの評価、そして要求されたアクションの機密性を考慮します

00:12:44.440 --> 00:12:46.720
公開記事の要約といった低リスクな要求は

00:12:46.720 --> 00:12:50.160
保護されたファイルを漏洩させる可能性のある要求と同じ重みではありません

00:12:50.160 --> 00:12:52.500
この統合スコアが分岐を決定付けます

00:12:52.500 --> 00:12:54.660
クリーンなイベントは予定通り実行されます

00:12:54.660 --> 00:12:58.220
中リスクのケースはサニタイズされるか安全な代替手段へとルーティングされます

00:12:58.220 --> 00:13:01.640
そして高リスクのケースはコパイロットが実行される前にブロックされます

00:13:01.640 --> 00:13:04.940
全ては決定経路が保存された監査証跡に書き込まれます

00:13:04.940 --> 00:13:07.520
これらのブロックされたイベントによってどこに負荷がかかっているか

00:13:07.520 --> 00:13:09.620
どのソースが問題を引き起こし続けているかがわかります

00:13:09.620 --> 00:13:13.160
ビジネスワークフローにどのようなパターンが入り込んでいるかを確認すれば

00:13:13.160 --> 00:13:15.560
次回のシステム調整に必要なデータが得られます

00:13:15.560 --> 00:13:18.780
ノイズを抑え実際のビジネス用途に合わせるための調整方法

00:13:18.780 --> 00:13:21.320
システムが稼働すると作業の性質が変わります

00:13:21.320 --> 00:13:23.840
フローの構築自体はむしろ簡単な作業です

00:13:23.840 --> 00:13:27.180
人々がシステムを信頼し回避策を探そうとしないように調整することこそが

00:13:27.180 --> 00:13:28.680
これが真のセキュリティ対策になるか

00:13:28.680 --> 00:13:30.520
単なる失敗した実験に終わるかを決定します

00:13:30.520 --> 00:13:34.140
システムが過度な摩擦を生むとユーザーは簡単に回避策を見つけてしまい

00:13:34.140 --> 00:13:35.760
プロジェクト全体が無意味になります

00:13:35.760 --> 00:13:37.400
まずは範囲を絞るべきです

00:13:37.400 --> 00:13:40.600
初日からコパイロットのすべてのタッチポイントを監視しようとしないでください

00:13:40.600 --> 00:13:43.740
その代わりにツールを使用したアクションや高価値なデータソースなど

00:13:43.740 --> 00:13:46.620
リスクが最も高く道筋が明確な場所を選んでください

00:13:46.620 --> 00:13:49.740
シェアポイントベースのプロセスや特定のホームワークフローから始めて

00:13:49.740 --> 00:13:51.680
読み取れるシグナルを得るのが良いでしょう

00:13:51.680 --> 00:13:55.300
範囲を小さくすることでデータに溺れることなく学習する余裕が生まれます

00:13:55.300 --> 00:13:58.140
初期チェックを設定する際は絶対的な確実性よりも

00:13:58.140 --> 00:14:00.040
再現性を重視して拒否設定を調整してください

00:14:00.040 --> 00:14:02.680
最初のパスは疑わしい言語を早期に検知するためのものであり

00:14:02.680 --> 00:14:05.320
合理的な疑いを超えて悪意を証明するためのものではありません

00:14:05.320 --> 00:14:07.980
パターンを完璧にしようとするとシステムは脆くなり

00:14:07.980 --> 00:14:10.120
本来ケアすべき対象を見逃すようになります

00:14:10.120 --> 00:14:12.420
最初は少しフラグを立てすぎたとしても

00:14:12.420 --> 00:14:15.720
その後のチェックでコンテキストを追加してノイズを減らす方が効果的です

00:14:15.720 --> 00:14:18.840
これが単一のヒットよりもスコアリングが重要な理由です

00:14:18.840 --> 00:14:21.600
フレーズ一致だけで要求を常に拒否すべきではありませんが

00:14:21.600 --> 00:14:23.480
その一致とプロンプトシールドのフラグ

00:14:23.480 --> 00:14:26.300
そして危険なソースが組み合わされれば状況は一変します

00:14:26.300 --> 00:14:28.300
弱いシグナルは積み重ねるべきであり

00:14:28.300 --> 00:14:30.840
強いシグナルはブロックを加速させるべきです

00:14:30.840 --> 00:14:33.220
これこそが硬直的で煩わしいフィルターと

00:14:33.220 --> 00:14:36.180
ビジネスに真に役立つポリシーモデルとの根本的な違いです

00:14:36.180 --> 00:14:38.620
また5検知の上限を設定する必要があります

00:14:38.620 --> 00:14:40.640
2%未満に抑えるよう努めてください

00:14:40.640 --> 00:14:42.600
制御が通常業務を妨げていると感じた途端

00:14:42.600 --> 00:14:44.140
ユーザーはシステムを信頼しなくなります

00:14:44.140 --> 00:14:46.040
そうなると回避策が始まります

00:14:46.040 --> 00:14:48.080
ユーザーは管理外のツールにテキストをコピーし

00:14:48.080 --> 00:14:49.580
チームは隠れたフローを構築し

00:14:49.580 --> 00:14:51.560
管理者は一括除外を要求し始めるでしょう

00:14:51.560 --> 00:14:53.280
制御は内部から崩壊します

00:14:53.280 --> 00:14:54.820
検知が失敗したからではなく

00:14:54.820 --> 00:14:56.960
摩擦が許容範囲を超えてしまうからです

00:14:56.960 --> 00:14:59.760
これを防ぐには適切な指標を監視する必要があります

00:14:59.760 --> 00:15:01.240
見栄えだけのダッシュボードは忘れ

00:15:01.240 --> 00:15:02.880
平均検知時間に注目してください

00:15:02.880 --> 00:15:04.480
手動レビューが必要なものについては

00:15:04.480 --> 00:15:06.500
これを15分未満に抑えるのが理想です

00:15:06.500 --> 00:15:08.820
また自動化された封じ込め時間も追跡し

00:15:08.820 --> 00:15:11.420
安全にブロックできる場合は5分未満を目指すべきです

00:15:11.420 --> 00:15:14.540
ワークフローが常に起動しても意思決定に影響を与えないなら

00:15:14.540 --> 00:15:15.880
それは単なるノイズです

00:15:15.880 --> 00:15:18.660
コストもまた絶えず調整が必要な要素です

00:15:18.660 --> 00:15:20.400
重量課金制のロジックアプリは

00:15:20.400 --> 00:15:21.960
実行した分だけ支払えば良いため

00:15:21.960 --> 00:15:24.540
突発的な負荷や小規模なパイロット運用に最適です

00:15:24.540 --> 00:15:26.520
しかしイベント量が予測可能になり

00:15:26.520 --> 00:15:28.440
実行ごとのコストが負担になってきたら

00:15:28.440 --> 00:15:30.140
標準プランの方が合理的です

00:15:30.140 --> 00:15:31.740
憶測で判断しないでください

00:15:31.740 --> 00:15:33.420
料金モデルを決定する前に

00:15:33.420 --> 00:15:35.680
実際のトリガー数とペイロードサイズを測定しましょう

00:15:35.680 --> 00:15:37.880
ストレージの扱いには注意が必要です

00:15:37.880 --> 00:15:39.620
インシデントレビューやガバナンスの証拠には

00:15:39.620 --> 00:15:41.180
十分な実行履歴が必要ですが

00:15:41.180 --> 00:15:43.540
機密情報が詰まった巨大なデータベースは不要です

00:15:43.540 --> 00:15:46.300
決定理由を説明する特定のフィールドは残し

00:15:46.300 --> 00:15:48.760
保持リスクとなる不要なデータは削除してください

00:15:48.760 --> 00:15:50.640
不要意にデータを保存しすぎると

00:15:50.640 --> 00:15:53.400
セキュリティツールがプライバシー上の負債になりかねません

00:15:53.400 --> 00:15:55.340
最後にこれらすべての調整をより

00:15:55.340 --> 00:15:56.820
広範なガバナンスに結びつけましょう

00:15:56.820 --> 00:16:00.980
ワークフローをNISTAやRMFの測定や管理機能にマッピングし

00:16:00.980 --> 00:16:02.760
パービューのデータ感ドラベルと関連付けてください

00:16:02.760 --> 00:16:05.300
最善の解決策はよりスマートな検知機ではなく

00:16:05.300 --> 00:16:07.700
問題になる前にワークフローから不要なアクセス範囲を

00:16:07.700 --> 00:16:08.740
単純に削除することです

00:16:08.740 --> 00:16:10.120
その段階に到達すれば

00:16:10.120 --> 00:16:13.200
もはやAIの安全性を抽象的に議論しているだけではありません

00:16:13.200 --> 00:16:14.920
ビジネスとして実際に管理可能な

00:16:14.920 --> 00:16:17.960
敷地とトレードオフを備えた現実的な運用モデルを実行しているのです

00:16:17.960 --> 00:16:20.800
リーダーやアーキテクトにとって何が変わるのでしょうか

00:16:20.800 --> 00:16:24.580
これを導入すればコパイロットは盲目的に信頼するシステムではなくなり

00:16:24.580 --> 00:16:26.120
そこに真の変化が生まれます

00:16:26.120 --> 00:16:29.120
この変更前モデルは混在したコンテキストを受け取るだけで

00:16:29.120 --> 00:16:31.860
チームは正しい指示が優先されることを願うしかありませんでした

00:16:31.860 --> 00:16:35.040
今ではモデルが触れる前にそのコンテキストがスクリーニング

00:16:35.040 --> 00:16:36.680
スコアリングルーティングされます

00:16:36.680 --> 00:16:39.240
セキュリティの成果はもはや抽象的な方針ではなく

00:16:39.240 --> 00:16:41.080
制御された実行として機能します

00:16:41.080 --> 00:16:44.880
アーキテクトにとってこれは設計におけるセキュリティの所在を変えることになります

00:16:44.880 --> 00:16:46.840
それはもはやテナント設定や権限

00:16:46.840 --> 00:16:49.160
プロンプトテンプレート内に止まるものではなく

00:16:49.160 --> 00:16:51.680
取引の経路そのものに直接組み込まれます

00:16:51.680 --> 00:16:54.260
重要なリクエストにはすべて防受ポイントが設けられ

00:16:54.260 --> 00:16:57.580
機密性の高い操作はすべて特定の決定経路に従うようになります

00:16:57.580 --> 00:17:01.540
つまり新しいコネクタ、エージェント、プラグインは単なる生産性向上機能ではなく

00:17:01.540 --> 00:17:03.680
入力経路として評価すべき対象となるのです

00:17:03.680 --> 00:17:06.880
アーキテクチャの乖離は往々にしてこうしたプログラムが失敗する原因となるため

00:17:06.880 --> 00:17:07.960
これは極めて重要です

00:17:07.960 --> 00:17:10.320
あるチームが単一のユースケースでコパイロットを展開し

00:17:10.320 --> 00:17:11.820
別のチームがホームを接続し

00:17:11.820 --> 00:17:13.460
やがて誰かがワークフローを追加したり

00:17:13.460 --> 00:17:15.240
エージェントにツールアクセス権を与えたりします

00:17:15.240 --> 00:17:16.940
個々の変更は小さく見えますが

00:17:16.940 --> 00:17:18.440
それらが組み合わさることで

00:17:18.440 --> 00:17:21.340
当初の想定を遥かに超える巨大な攻撃経路が生まれます

00:17:21.340 --> 00:17:23.840
運用モデルに防受の仕組みを組み込まなければ

00:17:23.840 --> 00:17:26.760
環境はコントロールが追いつかないほどの速さで拡大してしまいます

00:17:26.760 --> 00:17:27.780
セキュリティリーダーにとって

00:17:27.780 --> 00:17:30.900
このアプローチは多くの組織を悩ませてきた厄介な責任の所在という問題を

00:17:30.900 --> 00:17:32.180
最終的に解決するものです

00:17:32.180 --> 00:17:34.220
現在コパイロットのリスクは多くの場合

00:17:34.220 --> 00:17:36.140
各チーム間の隙間に埋もれてしまっています

00:17:36.140 --> 00:17:37.820
SoCはアラートを確認し

00:17:37.820 --> 00:17:40.540
マイクロソフト365管理者は設定を見守り

00:17:40.540 --> 00:17:42.840
AIオーナーは導入状況だけを気にしています

00:17:42.840 --> 00:17:44.820
ロジックアップスの制御経路を使用すれば

00:17:44.820 --> 00:17:48.200
これらのグループすべてが単一の対応モデルに基づいて連携できるようになります

00:17:48.200 --> 00:17:49.220
同じイベントトレイル

00:17:49.220 --> 00:17:50.500
同じスコアリングロジック

00:17:50.500 --> 00:17:52.140
同じブランチ履歴を使うことで

00:17:52.140 --> 00:17:55.160
本番環境で危険なプロンプトや有害なドキュメントが発生した際の

00:17:55.160 --> 00:17:56.420
混乱を大幅に軽減できます

00:17:56.420 --> 00:17:57.680
ビジネス面での影響は

00:17:57.680 --> 00:18:00.000
人々が考えるよりも遥かに直接的なものです

00:18:00.000 --> 00:18:01.420
脅威を早期にブロックすることは

00:18:01.420 --> 00:18:03.700
後から事後対応で解消するよりも常に低コストです

00:18:03.700 --> 00:18:04.860
事後対応には調査

00:18:04.860 --> 00:18:07.120
ホームレビューユーザーへの影響が伴い

00:18:07.120 --> 00:18:07.940
多くの場合

00:18:07.940 --> 00:18:11.560
本来導入前に済ませるべきだった面倒なアクセス権の見直しで終わることになります

00:18:11.560 --> 00:18:14.480
リーダー層はAI倫理の長い講義を必要としません

00:18:14.480 --> 00:18:15.840
彼らにとって重要なのは

00:18:15.840 --> 00:18:18.920
管理されていないリスクを日常業務システムに蔓延させるよりも

00:18:18.920 --> 00:18:21.680
ランタイム制御の方がコストを抑えられると理解することです

00:18:21.680 --> 00:18:22.540
経営層にとって

00:18:22.540 --> 00:18:25.740
これはリスクがどこに存在するのかという不都合な真実を突きつけるものです

00:18:25.740 --> 00:18:28.400
AIのリスクはもはやサンドボックスや実験室の中にはなく

00:18:28.400 --> 00:18:31.880
ワード、アウトルック、シェアポイント、そしてチームの中に存在しています

00:18:31.880 --> 00:18:35.340
人々はこれらの場所が十分に安全だと信じて高速に業務を進めていますが

00:18:35.340 --> 00:18:38.540
その借り物の信頼こそが企業のリスクを増大させているのです

00:18:38.540 --> 00:18:42.020
実験的なアプリでの不適切なワークフローは限定的な問題ですが

00:18:42.020 --> 00:18:45.980
日々の業務スタック内での不適切なワークフローは全く別次元の話となります

00:18:45.980 --> 00:18:49.100
展開の道のりは小さく非常に慎重なものにすべきです

00:18:49.100 --> 00:18:52.400
まずは一つのユースケース、一つのトリガー、そして一つのスコアリングモデルから始めましょう

00:18:52.400 --> 00:18:56.140
データが真に重要であり、その振る舞いを監視しやすい経路を選んでください

00:18:56.140 --> 00:18:59.240
ワークフローが危険な入力を補足し、安全なものを適切に振り分け

00:18:59.240 --> 00:19:02.720
レビューが必要な場合に人間に有用な情報を提供できることを証明する必要があります

00:19:02.720 --> 00:19:05.720
それが機能すると証明できれば拡張を開始できます

00:19:05.720 --> 00:19:09.240
その後、必要に応じて異常検知や出力制御を追加できます

00:19:09.240 --> 00:19:11.800
ツールの悪用に対する詳細な監視も追加できますが

00:19:11.800 --> 00:19:15.440
最初のゲートは必ず信頼できないコンテキストがシステムに入る場所に設置してください

00:19:15.440 --> 00:19:18.440
最初のゲートが脆弱なままだと、後から追加する制御はすべて

00:19:18.440 --> 00:19:20.580
出発点の悪さを補うだけのものになってしまいます

00:19:20.580 --> 00:19:23.120
ここでの転換は実際には非常にシンプルです

00:19:23.120 --> 00:19:26.260
プロンプとインジェクションを単なる言葉の表現の問題として扱うのをやめ

00:19:26.260 --> 00:19:30.120
コパイロット内を流れる信頼できないコンテキストに対する実行時制御として扱うのです

00:19:30.120 --> 00:19:32.040
今週、コパイロットのワークフローを一つ

00:19:32.040 --> 00:19:34.120
最初から最後までマッピングする時間を取ってください

00:19:34.120 --> 00:19:36.340
実行前の最後の安全な介入ポイントを見つけ

00:19:36.340 --> 00:19:40.440
その特定の経路をスコアリング、ブロック、ログ記録するロジックアプリを一つ構築してください

00:19:40.440 --> 00:19:43.340
不要な情報を省いたコパイロットセキュリティの詳細が必要な方は

00:19:43.340 --> 00:19:44.760
チャンネル登録とレビューをお願いします

00:19:44.760 --> 00:19:47.860
また、リンクトインで私、ミルコピーターズまで連絡し

00:19:47.860 --> 00:19:50.980
あなたが保護しようとしているテナントの具体的なシナリオを教えてください
