WEBVTT

00:00:00.000 --> 00:00:06.920
たった一度のマルチターンプロンプトインジェクションがセキュリティスタック全体を回避し100万ドルの不正送金を承認してしまうところを想像してみてください

00:00:06.920 --> 00:00:12.680
金融という高いリスクを伴う世界では従来のファイアウォールだけではもはや巧妙な敵対的攻撃を防ぐことはできません

00:00:12.680 --> 00:00:17.480
多くの金融機関は形式的なチェックを繰り返す一方でAIエージェントが乗っ取られる事態に陥っています

00:00:17.480 --> 00:00:29.420
手動テストという古いモデルはあらゆる人間とのやり取りを予測できるという前提に立っていますが実際には2026年はたった一度のマルチターンプロンプトインジェクションによって引き起こされる25万ドルの不正送金が象徴する年となるでしょう

00:00:29.420 --> 00:00:36.720
皆さんのレガシーファイアウォールは静的なデータのために構築されたものであり口座から少しずつ資金を抜き取るサラミ法による攻撃に対しては無力です

00:00:36.720 --> 00:00:41.940
このセッションが終わる頃には自律的なワークフローを保護するためのマルチモデルガントレットの青写真が手に入ります

00:00:41.940 --> 00:00:48.300
2026年8月の期限を前にエージェント時代のリスクを先取りするためにm365fmポッドキャストを公読してください

00:00:48.300 --> 00:00:56.600
私たちは基本的なコンプライアンスの枠を超え次世代の敵対的攻撃から機密性の高い取引を守るための強固なレッドチーミングフレームワークを構築しています

00:00:56.600 --> 00:00:59.420
自立型エージェントのアイデンティティ機器

00:00:59.420 --> 00:01:05.980
現在不正検知やach監視のためにエージェントを展開していますが責任の所在が断片化しており状況は混乱を極めています

00:01:05.980 --> 00:01:13.440
セキュリティチームは協会をitチームはインフラをaiチームはモデルを監視していますが誰もエージェンシー主体性を監視していません

00:01:13.440 --> 00:01:18.920
エージェントの行動を特定の人間によるスポンサーまで追跡できる組織はわずか28%です

00:01:18.920 --> 00:01:21.800
少し考えればこれは恐ろしい統計です

00:01:21.800 --> 00:01:27.960
エージェントが支払いを承認した場合4社中3社はその瞬間にその機会の論理に対して誰が責任を負っていたのかを説明できません

00:01:27.960 --> 00:01:31.920
商業的に妥当な監視で十分だと思われていますがもはやそうではありません

00:01:31.920 --> 00:01:37.760
2026年のナチャルールの変更によりaiによるあらゆる支払い判断に対して文書化された根拠が求められるようになったからです

00:01:37.760 --> 00:01:42.400
アルゴリズムがやったことだというだけでは不十分でありその都度正確な理由を証明しなければなりません

00:01:42.400 --> 00:01:48.120
エージェントを公開しapiアクセス権を与え機関銀行システムに接続したところで説明責任の糸が切れてしまっているのです

00:01:48.120 --> 00:01:50.760
これは技術的なバグではなくガバナンスの欠如です

00:01:50.760 --> 00:01:53.680
エージェントのアイデンティティは機械の中の亡霊となりつつあります

00:01:53.680 --> 00:01:59.920
私たちはこれらのシステムに金庫の鍵を渡し資金の移動やローンの承認を許可しておきながらそれを隔離されたスクリプトのように扱っています

00:01:59.920 --> 00:02:06.100
実際には彼らは自律的なアクターでありエージェントが失敗したときそれは単なるシステムエラーではなく甚大な法的責任問題となります

00:02:06.100 --> 00:02:08.360
2026年の状況は容赦ありません

00:02:08.360 --> 00:02:13.740
規制当局はもはやポリシーがあるかではなくそのポリシーが実行時に実際に機能しているかを問うているからです

00:02:13.740 --> 00:02:17.060
取引をスポンサーと紐付けられなければコンプライアンス違反です

00:02:17.060 --> 00:02:18.320
単純な話です

00:02:18.320 --> 00:02:24.920
多くの企業が依然としてエージェントに性的なAPIキーを使用していますがこれは見知らぬ人にマスターキーを渡し間違ったドアを開けないことを願うようなものです

00:02:24.920 --> 00:02:29.660
エージェントのプロトコルを把握しすべてのツール呼び出しを特定の認証情報に紐付ける必要があります

00:02:29.660 --> 00:02:31.480
しかし問題はここにあります

00:02:31.480 --> 00:02:37.360
ほとんどの組織は自分たちがいくつエージェントを抱えているのかさえ把握しておらずその結果シャドウAIが急増しています

00:02:37.360 --> 00:02:45.200
従業員は業務を自動化するために独自のエージェントを作成し社内データベースに接続して機密性の高い顧客データへのアクセス権まで与えています

00:02:45.200 --> 00:02:51.520
これらをすべて監視なしで言っており悪用されやすい巨大な攻撃対象領域を作り出しています

00:02:51.520 --> 00:02:59.720
攻撃者はファイアウォールを突破せずともセキュリティが不十分なエージェントを乗っ取るだけでデータの流出や不正な取引を実行できます

00:02:59.720 --> 00:03:06.600
それを使って社内の内部統制を回避し追跡可能性を確保できているのはわずか28%であるため痕跡を残さずに実行されてしまいます

00:03:06.600 --> 00:03:10.840
エージェントを単なるツールと考えるのはやめアイデンティティとして捉え直す必要があります

00:03:10.840 --> 00:03:15.920
推論を監査できなければ結果を信頼することはできずそれが2026年の新しい基準です

00:03:15.920 --> 00:03:23.240
NATHA全米決済協会のルールは有効性に基づいた基準への世界的なシフトの始まりに過ぎずもはやプロセスではなく結果が問われるのです

00:03:23.240 --> 00:03:29.220
エージェントが不正なACH送金を承認すればその責任は機関にありベンダーのブラックボックスを言い訳にすることはできません

00:03:29.220 --> 00:03:34.900
60分以内に意思決定の経路を再構成できなければなりませんが実際にはほとんどの企業がまだそれができていません

00:03:34.900 --> 00:03:43.200
この高速な環境下で盲目的に飛び回っており自立型エージェントのアイデンティティ機器は今後18ヶ月で金融の安定に対する最大のリスクとなります

00:03:43.200 --> 00:03:50.020
これは展開するものと実際に制御できるものの間のギャップですが問題は誰がエージェントを所有しているかという以上に根深いものです

00:03:50.020 --> 00:03:53.100
モデル自体がどのように感染しているかという問題です

00:03:53.100 --> 00:03:54.940
クロスモデル感染パターンです

00:03:54.940 --> 00:03:58.480
かつて私たちは複数のモデルを使用すれば自然な安全網になると考えていました

00:03:58.480 --> 00:03:59.620
論理は単純でした

00:03:59.620 --> 00:04:02.500
あるモデルに偏りや欠陥があっても他のモデルがそれを補うというものです

00:04:02.500 --> 00:04:04.440
私たちはそれをモデルの多様性と呼んでいました

00:04:04.440 --> 00:04:07.900
しかし2026年の状況下ではその前提は完全に崩壊しました

00:04:07.900 --> 00:04:10.840
新しい研究はさらに憂慮すべき事実を明らかにしています

00:04:10.840 --> 00:04:14.620
安全でないタスクで単一のモデルをファインチューニングしてもその影響はそのモデル内に止まりません

00:04:14.620 --> 00:04:17.480
実際にはチェーン内の無関係なモデルにまで感染が広がります

00:04:17.480 --> 00:04:18.860
これは理論ではありません

00:04:18.860 --> 00:04:24.460
GPT4の不整合がQWENやラマの派生モデルに50%の確率で複製されていることが確認されています

00:04:24.460 --> 00:04:27.880
これはエコシステム全体に広がる脆弱性のウイルス的拡散です

00:04:27.880 --> 00:04:31.780
異なるプロバイダーを使うことで冗長なシステムを構築しているとお考えでしょう

00:04:31.780 --> 00:04:35.360
しかし実際には同じ感染が通過する濃度を増やしているにすぎません

00:04:35.360 --> 00:04:38.920
これは手動のペネトレーションテストでは決して見つけられないサプライチェーンのバックドアです

00:04:38.920 --> 00:04:42.220
ほとんどのセキュリティチームは今なお従来のコードの脆弱性を探しています

00:04:42.220 --> 00:04:44.840
バッファオーバーフローやSQLインジェクションを探しているのです

00:04:44.840 --> 00:04:47.240
しかし新たな脅威は意味論的なものです

00:04:47.240 --> 00:04:49.320
それはモデル自体の重みに組み込まれています

00:04:49.320 --> 00:04:52.380
攻撃者は現在敵対的ハブネスと呼ばれる手法を用いています

00:04:52.380 --> 00:04:54.460
彼らはサーバーに侵入する必要すらありません

00:04:54.460 --> 00:04:57.340
ナレッジベースに悪意のあるドキュメントを一つ紛れ込ませるだけで良いのです

00:04:57.340 --> 00:05:00.940
ベクトル埋め込みの仕組みによりその一つのドキュメントが重力移動のように機能します

00:05:00.940 --> 00:05:03.440
それがラグクエリの84%を引き寄せてしまうのです

00:05:03.440 --> 00:05:05.760
あなたはベクトルデータベースをライブラリだと思っているかもしれません

00:05:05.760 --> 00:05:08.080
構造化された真実の宝庫だと思っていることでしょう

00:05:08.080 --> 00:05:11.420
しかし実際には自律的なワークフローを落とし入れる罠になりつつあります

00:05:11.420 --> 00:05:13.960
エージェントが送金処理のためにコンテキストを取得する際

00:05:13.960 --> 00:05:15.920
単なるデータ以上のものを取り込んでいます

00:05:15.920 --> 00:05:17.980
汚染された指示を取り込んでいるのです

00:05:17.980 --> 00:05:22.260
モデルは正当な請求書と隠されたプロンプとインジェクションの違いを判別できません

00:05:22.260 --> 00:05:24.580
ここでマルチモデル戦略が裏目に出ます

00:05:24.580 --> 00:05:27.260
プライマリモデルが汚染されたデータを取得すれば

00:05:27.260 --> 00:05:29.360
その推論がセカンダリモデルに引き継がれます

00:05:29.360 --> 00:05:33.700
これらのモデルは基礎的な学習データと類似のトランスフォーマーアーキテクチャを共有しているため

00:05:33.700 --> 00:05:35.100
同じ資格を持っています

00:05:35.100 --> 00:05:36.600
単線は複製されます

00:05:36.600 --> 00:05:38.860
2つ目のモデルも同じ論理の罠にかかりやすいため

00:05:38.860 --> 00:05:41.060
最初のモデルの誤りを正当化してしまいます

00:05:41.060 --> 00:05:46.140
金融環境においてこうしたロールプレイ型のインジェクションの成功率は90%近くに達しています

00:05:46.140 --> 00:05:49.660
モデルは互いに働きかけ実質的に不正を承認させているのです

00:05:49.660 --> 00:05:53.020
このモデル間での電波こそがAIセキュリティの静かなる殺し屋です

00:05:53.020 --> 00:05:55.400
たとえ世界最高のファイアウォールを備えていたとしても

00:05:55.400 --> 00:05:58.180
たとえデータベースを最高水準で暗号化していたとしても

00:05:58.180 --> 00:06:01.120
推論のロジック自体が侵害されていれば何の意味もありません

00:06:01.120 --> 00:06:03.460
攻撃者は暗号を破ろうとしているわけではありません

00:06:03.460 --> 00:06:06.100
彼らはモデルの現実認識を壊そうとしているのです

00:06:06.100 --> 00:06:09.940
彼らは従来のテキストフィルターを回避するエンコーディングのトリックや論理の罠を使っています

00:06:09.940 --> 00:06:13.700
レシート画像の中に低コントラストの管理者権限上書きコマンドが含まれていれば

00:06:13.700 --> 00:06:15.600
マルチモーダルシステムはそれを読み取ります

00:06:15.600 --> 00:06:17.760
それを処理し実行してしまうのです

00:06:17.760 --> 00:06:20.600
25万ドルの送金が実行されたのはこういったいきさつです

00:06:20.600 --> 00:06:22.500
これはネットワークのハッキングではありませんでした

00:06:22.500 --> 00:06:24.100
コンテキストのハッキングだったのです

00:06:24.100 --> 00:06:27.200
私たちはこれらのモデルが確率論的で予測不可能であることを受け入れなければなりません

00:06:27.200 --> 00:06:28.940
これらは決定論的なソフトウェアではないのです

00:06:28.940 --> 00:06:30.660
性的なルールでそれらを保護することはできません

00:06:30.660 --> 00:06:32.660
脆弱性はコードの中に存在しているわけではないのです

00:06:32.660 --> 00:06:34.360
それはアテンションメカニズムの中にあります

00:06:34.360 --> 00:06:37.260
モデルがデータと指示の境界を曖昧にする方法の中にあります

00:06:37.260 --> 00:06:40.220
敵対的なフレームワークなしで複数のモデルを積み重ねることは

00:06:40.220 --> 00:06:41.940
ガラスの層を重ねているにすぎません

00:06:41.940 --> 00:06:44.080
あなたは金庫を作っているわけではないのです

00:06:44.080 --> 00:06:47.600
一つの亀裂が構造全体を粉砕してしまう壊れやすい鎖を作っているのです

00:06:47.600 --> 00:06:50.540
これを止めるにはテストという考え方から脱却しなければなりません

00:06:50.540 --> 00:06:53.060
継続的な光線というモデルへ移行する必要があります

00:06:53.060 --> 00:06:54.660
モデルが安全かどうかを問うのはやめ

00:06:54.660 --> 00:06:56.280
それを破壊することを試みるべきです

00:06:56.280 --> 00:06:58.900
感染を止めるためにガントレットを構築しなければなりません

00:06:58.900 --> 00:07:00.920
マルチモーダルガントレットのアーキテクチャ

00:07:00.920 --> 00:07:02.600
手動テストはもはや異物です

00:07:02.600 --> 00:07:05.520
もしAIを騙そうと人間が部屋に座り続けることに頼っているなら

00:07:05.520 --> 00:07:06.800
その時点で敗北しています

00:07:06.800 --> 00:07:08.200
人間は遅すぎます

00:07:08.200 --> 00:07:09.720
モデルは確率的です

00:07:09.720 --> 00:07:11.560
スプレッドシートとコンサルタントチームで

00:07:11.560 --> 00:07:14.380
多段階攻撃のあらゆる変化を予測することなど不可能です

00:07:14.380 --> 00:07:16.660
レッドチームが一つの脆弱性を見つける頃には

00:07:16.660 --> 00:07:19.700
基盤モデルは更新され攻撃対象領域も変化しています

00:07:19.700 --> 00:07:21.680
これが古いモデルが失敗する理由です

00:07:21.680 --> 00:07:22.900
それは性的です

00:07:22.900 --> 00:07:24.140
それは受動的です

00:07:24.140 --> 00:07:26.400
2026年の金融という高リスクな世界では

00:07:26.400 --> 00:07:28.360
脅威と同じ速度で動くものが必要です

00:07:28.360 --> 00:07:30.620
私たちにはガントレットが必要です

00:07:30.620 --> 00:07:32.520
マルチモーダルガントレットのアーキテクチャは

00:07:32.520 --> 00:07:35.080
多様なLLMをゼロサムゲームで戦わせるという

00:07:35.080 --> 00:07:37.240
単純かつ冷酷な原則に基づいています

00:07:37.240 --> 00:07:39.500
単にシステムをテストしているだけではありません

00:07:39.500 --> 00:07:42.060
進化論的な圧力鍋を作り出しているのです

00:07:42.060 --> 00:07:44.360
専門化されたGPTの変種のような

00:07:44.360 --> 00:07:46.180
高性能な攻撃モデルを用意し

00:07:46.180 --> 00:07:47.640
ディフェンダーを突破せよという

00:07:47.640 --> 00:07:48.900
一つの目的を与えます

00:07:48.900 --> 00:07:49.860
ディフェンダーとは

00:07:49.860 --> 00:07:52.320
ACH送金やローン承認を処理する

00:07:52.320 --> 00:07:54.060
本番環境のエージェントのことです

00:07:54.060 --> 00:07:56.320
両者は継続的な自動ループに入ります

00:07:56.320 --> 00:07:59.180
攻撃者は高度な多段階プロンプトインジェクションを生成し

00:07:59.180 --> 00:08:01.320
防御者はそのアライメントを維持しようとします

00:08:01.320 --> 00:08:02.820
これは単なるシミュレーションではなく

00:08:07.240 --> 00:08:08.580
エージェントをファインチューニングする際

00:08:08.580 --> 00:08:10.160
機関銀行システムからのクリーンで

00:08:10.160 --> 00:08:11.700
完璧なデータだけを使ってはいけません

00:08:11.700 --> 00:08:13.680
それではモデルが脆弱になってしまいます

00:08:13.680 --> 00:08:15.920
代わりにトレーニングセットを飽和させるのです

00:08:15.920 --> 00:08:17.320
データの半分はクリーンですが

00:08:17.320 --> 00:08:19.560
残りの半分はガントレットセッションで生成された

00:08:19.560 --> 00:08:20.900
敵対的サンプルで構成します

00:08:20.900 --> 00:08:23.080
これにはサラミ戦術のような論理の罠から

00:08:23.080 --> 00:08:25.340
先ほど議論した隠れたマルチモーダルオーバーライドまで

00:08:25.340 --> 00:08:26.080
全てが含まれます

00:08:26.080 --> 00:08:28.900
その結果回復力は70%向上します

00:08:28.900 --> 00:08:30.840
あなたは現在ファイアウォールを回避している

00:08:30.840 --> 00:08:32.100
まさにそのエクスプロイトに対して

00:08:32.100 --> 00:08:33.700
AIにワクチンを接種しているのです

00:08:33.700 --> 00:08:35.840
しかしここが構造的な転換点です

00:08:35.840 --> 00:08:36.840
単にバグを探したり

00:08:36.840 --> 00:08:38.300
モデルを壊す特定の文字列を

00:08:38.300 --> 00:08:39.620
見つけようとしているわけではありません

00:08:39.620 --> 00:08:41.740
推論ロジックそのものを強化しているのです

00:08:41.740 --> 00:08:43.340
ガントレットでは強化された思考の連鎖

00:08:43.340 --> 00:08:44.880
チェイノフソートトレーニングを使用します

00:08:44.880 --> 00:08:46.940
防御側にそのプロセスを可視化させます

00:08:46.940 --> 00:08:48.900
攻撃者がロールプレイ形式のインジェクションで

00:08:48.900 --> 00:08:50.320
送金を承認させようとした場合

00:08:50.320 --> 00:08:52.420
防御側は各段階でその論理的根拠を

00:08:52.420 --> 00:08:53.420
説明しなければなりません

00:08:53.420 --> 00:08:55.960
推論が不正なアクションへと逸脱し始めると

00:08:55.960 --> 00:08:57.880
ガントレットは即座にフラグを立てます

00:08:57.880 --> 00:09:00.320
モデルに強要の試みを検知する方法を

00:09:00.320 --> 00:09:01.360
学習させているのです

00:09:01.360 --> 00:09:04.080
このアーキテクチャが多様性の問題を解決します

00:09:04.080 --> 00:09:05.420
異なるモデルファミリー

00:09:05.420 --> 00:09:07.000
例えば防御にアントロピック

00:09:07.000 --> 00:09:09.500
攻撃にメタのモデルを用いることで

00:09:09.500 --> 00:09:11.260
視覚が重ならないようにします

00:09:11.260 --> 00:09:13.380
一方のアーキテクチャの強みを利用して

00:09:13.380 --> 00:09:15.300
他方の弱点を露呈させるのです

00:09:15.300 --> 00:09:17.080
これは継続的なサイクルです

00:09:17.080 --> 00:09:18.640
攻撃者が賢くなればなるほど

00:09:18.640 --> 00:09:20.360
防御側もより強固になります

00:09:20.360 --> 00:09:22.000
これは眠らず疲れず

00:09:22.000 --> 00:09:23.860
人間のテスターが見逃すような

00:09:23.860 --> 00:09:25.300
微妙な意味の変化も捉える

00:09:25.300 --> 00:09:27.460
自己改善型のセキュリティレイヤーです

00:09:27.460 --> 00:09:28.620
金融機関にとって

00:09:28.620 --> 00:09:30.260
これこそが今後導入される

00:09:30.260 --> 00:09:32.840
有効性ベースの監査を満たす唯一の方法です

00:09:32.840 --> 00:09:35.240
何百万ものシミュレーション攻撃の履歴と

00:09:35.240 --> 00:09:36.940
システムがそれにどう耐えたかを

00:09:36.940 --> 00:09:38.540
規制当局に示すことができます

00:09:38.540 --> 00:09:40.420
安全であることを願う世界から

00:09:40.420 --> 00:09:43.140
自社のロジックがどの程度の圧力で崩壊するかを

00:09:43.140 --> 00:09:45.140
正確に把握する世界へと移行するのです

00:09:45.140 --> 00:09:46.700
これは受動的な防御から

00:09:46.700 --> 00:09:48.520
能動的な戦いへの転換です

00:09:48.520 --> 00:09:50.480
もはや単なる壁の構築ではなく

00:09:50.480 --> 00:09:52.220
兵士を訓練しているのです

00:09:52.220 --> 00:09:53.340
このガントレットは

00:09:53.340 --> 00:09:55.400
次世代の敵対的脅威に対する

00:09:55.400 --> 00:09:57.080
主要な防御メカニズムとなります

00:09:57.080 --> 00:09:59.440
セキュリティ体制を単なるルールのリストから

00:09:59.440 --> 00:10:01.880
動的に進化するシステムへと変革します

00:10:01.880 --> 00:10:03.380
ついにモデルの速度と

00:10:03.380 --> 00:10:05.320
防御の速度を一致させるのです

00:10:05.320 --> 00:10:08.620
脅威がシステムと同等に賢くなった現代において

00:10:08.620 --> 00:10:11.600
自律的なワークフローの体制を確保する

00:10:11.600 --> 00:10:12.920
唯一の方法です

00:10:12.920 --> 00:10:15.460
グラスボックス監査フレームワーク

00:10:15.460 --> 00:10:17.220
2026年8月は

00:10:17.220 --> 00:10:19.080
もはやコンプライアンスカレンダー上の

00:10:19.080 --> 00:10:20.080
単なる日付ではなく

00:10:20.080 --> 00:10:21.640
現実的な高い壁です

00:10:21.640 --> 00:10:22.360
この時期

00:10:22.360 --> 00:10:24.960
EUAI法の高リスク要件が

00:10:24.960 --> 00:10:27.360
理論から実際の執行へと移行します

00:10:27.360 --> 00:10:29.560
金融セクターで自律型エージェントを

00:10:29.560 --> 00:10:30.560
運用している場合

00:10:30.560 --> 00:10:32.700
今や厳しい監視下にありますが

00:10:32.700 --> 00:10:34.860
その審査の本質は変化しています

00:10:34.860 --> 00:10:37.160
規制当局はプロセスベースの基準から

00:10:37.160 --> 00:10:38.040
脱却しつつあり

00:10:38.040 --> 00:10:40.300
文書や意図はもはや重視されません

00:10:40.300 --> 00:10:42.980
彼らは有効性ベースの基準へと移行しています

00:10:42.980 --> 00:10:43.540
彼らは

00:10:43.540 --> 00:10:45.000
衝突の瞬間にセキュリティが

00:10:45.000 --> 00:10:46.720
実際に機能することを確認したいのです

00:10:46.720 --> 00:10:47.500
この転換には

00:10:47.500 --> 00:10:49.420
従来のAIのブラックボックスから

00:10:49.420 --> 00:10:51.200
グラスボックス監査フレームワークへの

00:10:51.200 --> 00:10:52.060
移行が必要です

00:10:52.060 --> 00:10:54.720
リアルタイムでロジックを見通す力が必要なのです

00:10:54.720 --> 00:10:56.900
この新時代において最も重要な指標は

00:10:56.900 --> 00:10:58.520
意思決定の再構築時間です

00:10:58.520 --> 00:10:59.940
エージェントが資金を移動させた場合

00:10:59.940 --> 00:11:01.200
なぜその処理が行われたのかを

00:11:01.200 --> 00:11:02.980
60分以内に正確に証明できなければなりません

00:11:02.980 --> 00:11:04.140
ほとんどの機関にとって

00:11:04.140 --> 00:11:05.760
現時点での答えはノーです

00:11:05.760 --> 00:11:06.780
ログはあっても

00:11:06.780 --> 00:11:08.780
推論のプロセスが記録されていないからです

00:11:08.780 --> 00:11:09.880
結果はあっても

00:11:09.880 --> 00:11:11.760
その理由が存在しないのです

00:11:11.760 --> 00:11:12.580
グラスボックス

00:11:12.580 --> 00:11:14.360
透明性のあるフレームワークでは

00:11:14.360 --> 00:11:15.840
全てのツール呼び出しを

00:11:15.840 --> 00:11:18.100
エージェント確認資格に紐付ける必要があります

00:11:18.100 --> 00:11:20.020
これは単なるAPIキーではなく

00:11:20.020 --> 00:11:22.140
人間のスポンサーの権限を伴う

00:11:22.140 --> 00:11:23.540
検証可能なアイデンティティです

00:11:23.540 --> 00:11:24.340
実質的に

00:11:24.340 --> 00:11:25.580
全ての決定に対して

00:11:25.580 --> 00:11:27.500
デジタルな管理の連鎖を作り出すことになります

00:11:27.500 --> 00:11:29.060
エージェントが手数料の免除や

00:11:29.060 --> 00:11:30.740
高リスクの送金を承認する場合

00:11:30.740 --> 00:11:31.620
その決定は

00:11:31.620 --> 00:11:33.380
人間が承認した特定のパラメーターに

00:11:33.380 --> 00:11:34.560
基づいている必要があります

00:11:34.560 --> 00:11:35.600
私たちはこれを

00:11:35.600 --> 00:11:38.080
限定的自立性というコンセプトで実装します

00:11:38.080 --> 00:11:39.720
エージェントが分析と実行という

00:11:39.720 --> 00:11:40.700
重い作業を担い

00:11:40.700 --> 00:11:42.940
人間が物理的なキルスイッチを保持します

00:11:42.940 --> 00:11:45.140
これは問題発生時に押すボタンではなく

00:11:45.140 --> 00:11:46.880
明示的な再検証なしでは

00:11:46.880 --> 00:11:49.220
エージェントが実行できない構造的な制限です

00:11:49.220 --> 00:11:52.320
リスク、価値、逸脱の敷地を設定することで

00:11:52.320 --> 00:11:54.160
グラスボックスの境界を定義します

00:11:54.160 --> 00:11:56.240
エージェントがその境界を超えようとすると

00:11:56.240 --> 00:11:57.920
システムは取引を凍結し

00:11:57.920 --> 00:11:59.920
人間による根拠の説明を求めます

00:11:59.920 --> 00:12:00.720
これにより

00:12:00.720 --> 00:12:02.960
自律的なワークフローの速度を犠牲にすることなく

00:12:02.960 --> 00:12:05.360
人間による監視という規制要件を満たせます

00:12:05.360 --> 00:12:07.180
エージェントに自由な活動の場を与えつつも

00:12:07.180 --> 00:12:09.020
目に見える形でリードを繋いでおくのです

00:12:09.020 --> 00:12:11.620
この監査に失敗した場合のリスクは壊滅的です

00:12:11.620 --> 00:12:14.860
世界売上高の7%という制裁金の話であり

00:12:14.860 --> 00:12:18.140
大手銀行にとっては組織の存続を脅かしかねない数字です

00:12:18.140 --> 00:12:19.320
監査人が来た時に

00:12:19.320 --> 00:12:21.560
多分という曖昧な答えは許されません

00:12:21.560 --> 00:12:23.920
エージェントのあらゆる行動の推論プロセスを示す

00:12:23.920 --> 00:12:26.240
改ざん防止機能付きの監査証跡が必要です

00:12:26.240 --> 00:12:29.220
つまり目標、取得したコンテキスト、ツール呼び出し

00:12:29.220 --> 00:12:30.400
そして最終結果を

00:12:30.400 --> 00:12:32.620
変更不可能な形で記録するということです

00:12:32.620 --> 00:12:35.100
論理そのもののための金庫を構築するのです

00:12:35.100 --> 00:12:38.220
これが2026年の規制環境を生き抜く唯一の道です

00:12:38.220 --> 00:12:39.860
箱を開けて内部のメカニズムを

00:12:39.860 --> 00:12:41.420
全て見せられるようにしておく必要があります

00:12:41.420 --> 00:12:42.460
このフレームワークは

00:12:42.460 --> 00:12:45.100
私たちが議論したサラミ法による攻撃からも保護します

00:12:45.100 --> 00:12:47.260
推論プロセスを継続的に監視することで

00:12:47.260 --> 00:12:48.840
グラスボックスはエージェントの論理が

00:12:48.840 --> 00:12:50.480
徐々に侵食されていることを検知できます

00:12:50.480 --> 00:12:52.720
ポリシーの矛盾や口調の変化を監視し

00:12:52.720 --> 00:12:55.580
段階的なインジェクション攻撃の兆候を見つけ出します

00:12:55.580 --> 00:12:57.960
侵害に繋がる前の兆候を捉えるために

00:12:57.960 --> 00:12:59.440
必要な可視性を提供します

00:12:59.440 --> 00:13:01.020
アラートに反応するだけではなく

00:13:01.020 --> 00:13:03.820
推論そのものの健全性を観察するようになるのです

00:13:03.820 --> 00:13:06.540
これを構築するのは高額で複雑に聞こえるでしょう

00:13:06.540 --> 00:13:08.320
データアーキテクチャとガバナンスモデルの

00:13:08.320 --> 00:13:10.200
根本的な見直しが必要になるからです

00:13:10.200 --> 00:13:11.940
しかし大体案を考えれば

00:13:11.940 --> 00:13:13.840
この透明性の高いシステムのコストは

00:13:13.840 --> 00:13:15.600
かつてない最高の投資となるはずです

00:13:15.600 --> 00:13:16.800
このモデルへの移行は

00:13:16.800 --> 00:13:17.880
無謀な自動化と

00:13:17.880 --> 00:13:20.660
回復力のある監査可能な金融との架け橋となります

00:13:20.660 --> 00:13:23.220
それは期待から照明への転換です

00:13:23.220 --> 00:13:24.080
投資収益率

00:13:27.960 --> 00:13:29.440
冷徹な計算を見てみましょう

00:13:29.440 --> 00:13:32.180
金融セクターにおけるデータ侵害の平均コストは

00:13:32.180 --> 00:13:34.440
現在580万ドルに迫っています

00:13:34.440 --> 00:13:36.440
この数字は単なる脅し文句ではなく

00:13:36.440 --> 00:13:37.620
デジタルフォレンジック

00:13:37.620 --> 00:13:38.560
弁護士費用

00:13:38.560 --> 00:13:41.640
規制当局による罰金といった実際の損失を表しています

00:13:41.640 --> 00:13:44.880
またデータがダークウェブに流出した瞬間に信頼を失う

00:13:44.880 --> 00:13:47.760
多価純資産顧客の大量離脱も考慮しなければなりません

00:13:47.760 --> 00:13:49.020
対借対象表を見れば

00:13:49.020 --> 00:13:50.160
事後対応型のクリーンアップが

00:13:50.160 --> 00:13:52.000
いかに銀行経営にとって高コストであるかがわかります

00:13:52.000 --> 00:13:54.640
あなたは失敗に対してプレミアムを支払っているのです

00:13:54.640 --> 00:13:58.100
一方で先制的な防御は6対1のコスト回避率をもたらします

00:13:58.100 --> 00:14:00.080
マルチモーダルな試練に1ドル投じるごとに

00:14:00.080 --> 00:14:02.580
クリーンアップ費用や罰金で6ドルを節約できるのです

00:14:02.580 --> 00:14:04.360
これは単なるセキュリティ指標ではなく

00:14:04.360 --> 00:14:07.360
現代の金融企業にとって根本的な効率化策です

00:14:07.360 --> 00:14:09.440
手動テストは埋没費用に過ぎません

00:14:09.440 --> 00:14:12.260
人の時間を買い表面的なバグをいくつか見つけて

00:14:12.260 --> 00:14:13.940
次のプロジェクトへ移るだけです

00:14:13.940 --> 00:14:15.100
その知識は静的であり

00:14:15.100 --> 00:14:18.480
時間の経過とともにモデルの革新的な論理や回復力を改善することはありません

00:14:18.480 --> 00:14:21.060
マルチモーダルなレッドチーミングは戦略的資産です

00:14:21.060 --> 00:14:24.200
あなたは福利で増える敵対的インテリジェンスのライブラリを構築しているのです

00:14:24.200 --> 00:14:26.440
あなたは自社の知的財産を強化しています

00:14:26.440 --> 00:14:28.120
強豪他社が到底及ばない

00:14:28.120 --> 00:14:30.980
自立型ワークフローを囲む掘りを築いているのです

00:14:30.980 --> 00:14:34.280
これがコストセンターと戦略的優位性の違いです

00:14:34.280 --> 00:14:36.100
彼らがチェックボックスを埋めている間に

00:14:36.100 --> 00:14:38.540
あなたはあらゆる攻撃から学ぶ要塞を築いています

00:14:38.540 --> 00:14:40.380
あなたはセキュリティ予算を単なる経費から

00:14:40.380 --> 00:14:42.380
長期的な資本改善へと変えているのです

00:14:42.380 --> 00:14:44.640
市場はすでにこれを価格に反映し始めています

00:14:44.640 --> 00:14:47.480
サイバー保険会社はもはや一律の料金を提示していません

00:14:47.480 --> 00:14:50.600
なぜならあなたの敵対的テストログを確認しているからです

00:14:50.600 --> 00:14:53.860
継続的なマルチモーダルレッドチーミングの証明書を提示できれば

00:14:53.860 --> 00:14:56.420
最大20%の保険料割引が実現しています

00:14:56.420 --> 00:14:59.700
保険会社は強化されたモデルほど賠償責任が低いことを知っています

00:14:59.700 --> 00:15:02.680
彼らは実質的にあなたのセキュリティアップグレードを補助しているのです

00:15:02.680 --> 00:15:04.900
それが彼らの巨額の支払いリスクを減らすからです

00:15:04.900 --> 00:15:07.580
これを行っていない場合あなたは毎月実質的に

00:15:07.580 --> 00:15:09.720
脆弱せいぜいお保険料として支払っていることになります

00:15:09.720 --> 00:15:12.620
あなたは利益をミスミス逃しながらリスクを増大させているのです

00:15:12.620 --> 00:15:15.960
保険料の問題以上に我々は被害の波及範囲について語らなければなりません

00:15:15.960 --> 00:15:20.020
受動的な姿勢は侵害発生後に封じ込めが可能だという前提に立っていますが

00:15:20.020 --> 00:15:22.140
エージェント環境においてそれは危険な幻想です

00:15:22.140 --> 00:15:26.440
一つの検索対象集合への感染が接続されたシステム全体に広がる恐れがあります

00:15:26.440 --> 00:15:30.140
ガントレッドを実装することでデータ構造を強制的に分離します

00:15:30.140 --> 00:15:32.960
埋め込みを暗号化し検索範囲を制限することで

00:15:32.960 --> 00:15:34.700
たとえ一つのエージェントが乗っ取られても

00:15:34.700 --> 00:15:36.720
残りの保管庫は密閉されたままとなります

00:15:36.720 --> 00:15:41.460
最も機密性の高い資産を根元から保護する多層防御戦略を構築するのです

00:15:41.460 --> 00:15:43.620
回復力を手に入れることになります

00:15:43.620 --> 00:15:48.620
一つの論理的な罠が金融業務全体のシステム崩壊を招かないようにするのです

00:15:48.620 --> 00:15:52.040
打撃を受けても前進し続けられるシステムを構築するのです

00:15:52.040 --> 00:15:54.220
自己修復型実装のロードマップ

00:15:54.220 --> 00:15:56.720
どのようにして自社環境で構築を始めるべきか

00:15:56.720 --> 00:15:59.480
このロードマップは新しいソフトウェアパッケージを購入することではありません

00:15:59.480 --> 00:16:01.380
可視性を再設計することが重要です

00:16:01.380 --> 00:16:03.260
第一段階はインベントリの把握です

00:16:03.260 --> 00:16:05.140
シャドウAIを見つけ出さなければなりません

00:16:05.140 --> 00:16:09.840
現在記者の環境にはセキュリティチームが把握していないAPIキーを持つエージェントが存在しています

00:16:13.620 --> 00:16:16.700
なので監視なしで本番データに接続されたままになっています

00:16:16.700 --> 00:16:18.200
問題は単純です

00:16:18.200 --> 00:16:20.140
見えないものを守ることはできません

00:16:20.140 --> 00:16:22.880
すべての自律的なワークフローを完全に監査し

00:16:22.880 --> 00:16:26.280
各責任者とあらゆる権限レベルを特定する必要があります

00:16:26.280 --> 00:16:30.540
このインベントリこそがデジタル協会の制御を取り戻すための第一歩です

00:16:30.540 --> 00:16:34.340
責任者がいないエージェントは不要であり直ちに停止すべきです

00:16:34.340 --> 00:16:37.840
第二段階は単純なログからインガトレースへの移行です

00:16:37.840 --> 00:16:41.960
従来のイベントログはトランザクションの発生は伝えますがその理由は教えてくれません

00:16:41.960 --> 00:16:45.100
代わりに多段階の推論スパンを展開する必要があります

00:16:45.100 --> 00:16:49.160
これにより実行チェーン全体を通じてエージェントの思考プロセスを追跡できます

00:16:49.160 --> 00:16:52.420
エージェントが失敗した時スタックトレースを見るべきではありません

00:16:52.420 --> 00:16:57.120
敵対的な入力によってどこで推論が歪められたかを正確に示すインガマップを見るべきです

00:16:57.120 --> 00:17:00.800
リスクを真に理解するには結果だけでなく論理を見る必要があります

00:17:00.800 --> 00:17:02.820
これこそがガントレットの基盤です

00:17:02.820 --> 00:17:09.280
インガトレースなしでは失敗の根本原因を推測するしかなく病そのものではなく症状を治療することになってしまいます

00:17:09.280 --> 00:17:12.740
第3段階はトレードオフの最適化の実装です

00:17:12.740 --> 00:17:15.420
ここで精度と堅牢性のバランスを取ります

00:17:15.420 --> 00:17:22.840
リスクの高い金融環境では精度が99%でもプロンプトインジェクションに対して0%の堅牢性しかないモデルは許されません

00:17:22.840 --> 00:17:27.180
ガントレットから得たデータを使用して代理損失最小化によりモデルを微調整します

00:17:27.180 --> 00:17:33.460
こうすることでプレッシャー化でも整合性を保つことが正しい回答を出すことと同じくらい重要だとモデルに明確に示すことができます

00:17:33.460 --> 00:17:37.600
ニューラルネットワークの重みに敵対的状況への認識を組み込むのです

00:17:37.600 --> 00:17:44.020
あなたの自立システムを悪用しようとする悪意ある攻撃者に操られていることをモデルが察知できるよう賢くするのです

00:17:44.020 --> 00:17:47.460
このロードマップはあなたのセキュリティオペレーションセンターを変革します

00:17:47.460 --> 00:17:53.180
人間が大量の低コンテキストな警告に溺れるアラート疲れから脱却し自立的なトリアージへと移行します

00:17:53.180 --> 00:17:58.520
あなたのアーキテクチャはシミュレーションですでに数百万回も経験しているため攻撃を予見し始めます

00:17:58.520 --> 00:18:01.300
あなたは単に今日の脅威に対応しているだけではありません

00:18:01.300 --> 00:18:04.020
明日の自立的なワークフローを安全に守っているのです

00:18:04.020 --> 00:18:08.000
リスクの中を飼いくぐる世界からあなたがコンテキストをコントロールする世界へと移行するのです

00:18:08.000 --> 00:18:09.480
これが最後の転換です

00:18:09.480 --> 00:18:13.380
エージェント時代において実際に機能する堅牢な財務上の要塞を築く方法はこれです

00:18:13.380 --> 00:18:17.100
あなたは願望ではなく現実の世界に向けて構築しているのです

00:18:17.100 --> 00:18:18.420
今すぐ始めましょう

00:18:18.420 --> 00:18:23.420
あなたには形式的な確認作業からデジタルの要塞構築へと移行するためのフレームワークが備わりました

00:18:23.420 --> 00:18:24.840
宿題は明確です

00:18:24.840 --> 00:18:28.660
今週一つの自立ワークフローについて責任者の追跡可能性を監査してください

00:18:28.660 --> 00:18:31.760
人間の所有者を見つけられないならそのエージェントは不採です

00:18:31.760 --> 00:18:36.080
この思考の転換が役立ったならM365FMポッドキャストにレビューを投稿してください

00:18:36.080 --> 00:18:39.020
それがより多くのリーダーがノイズの中からこのシグナルを見つける助けになります

00:18:39.020 --> 00:18:41.300
リンクトインで私ミルコピータースとつながりましょう

00:18:41.300 --> 00:18:43.640
あなたを悩ませているAIリスクについて教えてください

00:18:43.640 --> 00:18:45.260
手動テストの時代は終わりました

00:18:45.260 --> 00:18:48.040
これからの敵対的な現実に備えて構築する時が来たのです
