WEBVTT

00:00:00.000 --> 00:00:05.200
業界は私たちに神話を売りつけました 埋め込みがエンタープライズインテリジェンスの万能役だと彼らは言いました

00:00:05.200 --> 00:00:10.740
ベクトルデータベースを構築しドキュメントを取り込み予算を費やしたにも関わらず 幻覚は止まりませんでした

00:00:10.740 --> 00:00:16.940
実際には数学的な類似性とビジネス上の関連性は同じではありません 私たちはトップ系の罠にハマってしまいました

00:00:16.940 --> 00:00:24.280
これは副操縦士が高次元空間で最も類似したデータポイントを取得する瞬間ですが 2026年には近接性が真実の安価な代理となるため

00:00:24.280 --> 00:00:32.160
そのデータは目の前の特定のタスクに対して100%間違っています あなたのプロジェクトがパイロットフェーズで停滞しているならそれはAIが愚かだからではありません

00:00:32.160 --> 00:00:38.260
それはあなたの検索戦略が幻想に基づいているからです これは純粋なベクトルモデルの構造的な欠陥です

00:00:38.260 --> 00:00:47.000
ベクトル検索は現代のAIシステムのアーキテクチャにおけるコモディティレイヤーです それはスタックの地下室でありペントハウスではありませんが私たちはそれを脳のように扱ってきました

00:00:47.000 --> 00:00:56.100
高次元埋め込みの根本的な欠陥は設計上曖昧であることです 概念を座標として表現します雰囲気や一般的なトピックを探す場合にはうまく機能しますが

00:00:56.100 --> 00:01:02.300
仕事は雰囲気の領域では行われません 仕事は具体的な領域の領域で行われますそして純粋なベクトルモデルが破綻するのはまさにこの点です

00:01:02.300 --> 00:01:08.840
ベクトルは正確な用語を扱うのが苦手です 製品コード sku 法律用語社内プロジェクトコード名などを考えてみてください

00:01:08.840 --> 00:01:17.140
ベクトルモデルではプロジェクトフェニックスとプロジェクトファイアバードは意味的な クラスターを共有しているため数学的には同じように見えるかもしれませんが財務チームにとっては全く

00:01:17.140 --> 00:01:23.680
異なる2つの予算を表しています 密な埋め込みだけに頼ると基本的に ai に周辺情報に基づいて推測するように求めていることになります

00:01:23.680 --> 00:01:33.420
その結果ビジネス成果物で27%のエラー率が発生します これは単なる技術的な指標ではありませんこのエラー率は毎週1.8時間の従業員の時間の無駄に相当します

00:01:33.420 --> 00:01:40.040
人々はより早く作業するためにコパイロットを使用しているわけではありません 彼らはそれを使って下書きを作成し検索結果にノイズが多いため

00:01:40.040 --> 00:01:44.960
事実確認に2時間も費やさなければならない 精度機器に直面しているがこれはllmの問題ではない

00:01:44.960 --> 00:01:51.280
gpt4からgpt5に切り替えたりコンテキストウィンドウを大きくしたりしても解決できない これは検索エンジニアリングの問題だ

00:01:51.280 --> 00:01:55.520
私たちは大きな過程を立てていた 数学がコンテキストを処理してくれると想定していたのだ

00:01:55.520 --> 00:02:00.800
すべてのドキュメントを数値のリストに変換すれば関係性が浮かび上がると考えていたが コンテキストは構造的なものだ

00:02:00.800 --> 00:02:05.900
単なる確率的なものではない 企業環境ではドキュメントの意味は言葉だけではなく

00:02:05.900 --> 00:02:16.120
メタデータ権限そしてベクトルモデルが完全に無視する特定のバージョン情報にも含まれている 最新の旅行ポリシーを検索するとベクトル検索は旅行ポリシーに最も似ている

00:02:16.120 --> 00:02:24.500
ポリシーを見つける必ずしも機能承認されたものを見つけるわけではない 最も類似したものを見つけるのだそして最も類似しているものが説明文が多い

00:02:24.500 --> 00:02:29.540
2022年版であればllmはそれを取得します すると新しいポリシーではエコノミーのみとなっているにも関わらず

00:02:29.540 --> 00:02:34.420
aiは従業員にビジネスクラスを予約できると伝えます これは不適切なデータ基盤によって引き起こされる幻覚です

00:02:34.420 --> 00:02:41.860
モデルは嘘をついたのではなく間違った数字の山を要約しただけです これは発見用に設計されたモデルを精度のために使用しようとすると起こることです

00:02:41.860 --> 00:02:48.780
ベクトル検索はどの針が出てきても構わないのであれば 星草の山から針を見つけるのに優れていますが企業では正しい針は一つしかありません

00:02:48.780 --> 00:02:59.600
他の9つは不採です純粋な類似性でできることには限界があります 規制業界で要求される0.9%の精度指揮値を達成したいのであれば検索を数学の問題として扱うのを

00:02:59.600 --> 00:03:08.060
やめて編集の問題として扱う必要があります 経営幹部の意思決定を促進するはずのシステムにとって十分近いもので十分だという考え方から脱却する必要があります

00:03:08.060 --> 00:03:13.820
なぜなら現在副操縦士に与えている上位稽古の結果は数学的に関連するノイズの集まりに過ぎないからです

00:03:13.820 --> 00:03:19.600
推論エンジンに砂の土台の上に家を建てるように頼んでいるようなものです そしてなぜ屋根が雨漏りするのか不思議に思うのです

00:03:19.600 --> 00:03:26.120
2025年から2026年への移行は埋め込みが単なる出発点であるという認識です それは可能性のあるものの山です

00:03:26.120 --> 00:03:31.820
灰の山に到達するには別の種類の論理が必要です 埋め込みが置き換えると思っていたものを再導入する必要があります

00:03:31.820 --> 00:03:39.620
構造が必要です5位アンカーが必要です そして最も重要なのは類似した答えと正しい答えの違いを知っているスーパーバイザーが必要です

00:03:39.620 --> 00:03:45.760
それがなければあなたのガラクタプロジェクトは知能ツールではなく非常に高価で非常に早い間違いを犯す方法にすぎません

00:03:45.760 --> 00:03:52.360
しかし類似性は真実の安価な代理であるためここでモデルは破綻します 近所は危険な場所です

00:03:52.360 --> 00:03:57.460
私たちはベクトル空間で2つのものが互いに近い場合ビジネス上の意味で関連しているに違いないと想定して

00:03:57.460 --> 00:04:03.420
これらの密なクラスターに長く依存してきましたがそうではありません 類似性は単語の使用パターンを反映しているにすぎません

00:04:03.420 --> 00:04:10.260
それは真実の安価な代理であり2026年には関連するものを探すのをやめて検証済みのものが必要になったためこのモデルは破綻します

00:04:10.260 --> 00:04:15.520
パイロット環境から本番環境に移行するとリスクが変わります 代理ではもはや十分ではありません

00:04:15.520 --> 00:04:23.240
ai を組織の実際の言語に再び固定するものが必要です 埋め込みに全力を注いだ時に誤って捨ててしまった制度が必要です

00:04:23.240 --> 00:04:30.200
ハイブリッド標準 bm 25が依然として重要な理由 2026年の本番ベースラインを見ると状況は変化しています

00:04:30.200 --> 00:04:34.880
もはや実験的なベクトルストアについて話しているわけではありません ハイブリッド標準について話しているのです

00:04:34.880 --> 00:04:40.760
データは明確です成功したエンタープライズラックシステムの72%は純粋なベクトル検索から移行しています

00:04:40.760 --> 00:04:45.660
彼らはベクトルの意味とキーワードマッチングの精度を組み合わせたデュアルパスシステムを実装しました

00:04:45.660 --> 00:04:48.820
具体的には bm 25アルゴリズムを復活させました

00:04:48.820 --> 00:04:53.960
検索エンジニアリングに20年間携わっていない人のために説明すると bm 25は古典的なスパース検索手法です

00:04:53.960 --> 00:05:01.620
これは単語の完全な重複を探すロジックです 埋め込みによって駆逐されると思われていた古い手法ですが実際には新しい手法の公平性を保つ唯一の要素が古い手法であることが

00:05:01.620 --> 00:05:04.600
わかりました この2つを組み合わせると興味深いことが起こります

00:05:04.600 --> 00:05:14.160
データセット全体でリコール率が17%向上します この17%は従業員が10秒で答えを見つけるか3回の思考で失敗した後に諦めるかの違いです

00:05:14.160 --> 00:05:18.880
ユーザーが実際に入力した特定の単語を無視しなくなった時に何が起こるかを考えてみて ください

00:05:18.880 --> 00:05:27.560
純粋なベクトルシステムではユーザーがホーム10k2025と入力した場合雰囲気が似ているため モデルは財務報告に関する一般的な記事を優先する可能性がありますが

00:05:27.560 --> 00:05:36.660
bm 25が混ざるとシステムは特定の10kと2025という文字列を認識します これらは単なる概念ではなく語彙的なアンカーであると認識します

00:05:36.660 --> 00:05:43.460
ハイブリッド検索によりシステムは財務報告に興味があることはわかっていますが この特定の文書を具体的に要求したこともわかっていますということができます

00:05:43.460 --> 00:05:49.540
これによりドメイン外クエリの問題が解決されます これは事前学習済みの埋め込みモデルにとって最大の障害です

00:05:49.540 --> 00:05:57.580
ベクトルモデルはおそらくインターネットテキストの一般的なコーパスで学習されています 契約が何であるかは知っていますが業界特有の専門用語は知りません

00:05:57.580 --> 00:06:04.920
エンジニアリング部門で使用される独自の略語も理解していません 物流チームが配送遅延を説明するために使用する社内略語も見たことがありません

00:06:04.920 --> 00:06:12.340
一般的な埋め込みモデルにとってこれらの単語はノイズです ドメイン外ですしかしBM25にとってそれらの言葉はシグナルです

00:06:12.340 --> 00:06:20.380
ベクトル検索と並行してキーワード検索を実行することでセーフティネットが構築されます 埋め込みモデルが理解できない特定の用語をユーザーが入力した場合でも

00:06:20.380 --> 00:06:27.220
システムはテキストに基づいてドキュメントを見つけることができるようになります これが精度0.8の式位置に到達する方法です

00:06:27.220 --> 00:06:33.800
2025年にはaiがほぼ正しければ満足でした 2026年には80%の精度がエントリーの最低限です

00:06:33.800 --> 00:06:37.700
ハイブリッドはその目標への第一歩です それはaiを現実に根付かせることです

00:06:37.700 --> 00:06:40.940
二重チェックシステムと考えてください ベクトルパスは意図を処理します

00:06:40.940 --> 00:06:44.580
彼らは何をしようとしているのか キーワードパスは事実を処理します

00:06:44.580 --> 00:06:50.060
彼らは実際に何を言ったのか 両方のパスがドキュメントで一致すると高い信頼度を持つ候補が得られます

00:06:50.060 --> 00:06:55.640
一致しない場合はさらに処理が必要であるというシグナルが得られます しかしこのハイブリッドアプローチでもまだ問題があります

00:06:55.640 --> 00:07:00.400
可能性のあるパイルを改善しました リコールが78%から91%に上がりました

00:07:00.400 --> 00:07:04.780
正しい情報はより多く見つかるもののLLMには依然として大量の候補が提示されています

00:07:04.780 --> 00:07:09.040
検索結果を見たことがある方ならご存知でしょうが 上位10件の結果はしばしば混乱を招きます

00:07:09.040 --> 00:07:15.760
4位には完璧な答えがあるかもしれません しかし1位にはたまたまキーワードが20回繰り返されているだけの文書があったり

00:07:15.760 --> 00:07:24.840
数学的には似ているものの現在の年とは全く関係のない文書があったりします ハイブリッド検索はパズルのピースを与えてくれますが必ずしもパズルを完成させてくれるわけではありません

00:07:24.840 --> 00:07:32.700
上位5件の結果をLLMに与えればLLMは正しいものを選ぶほど賢いだろうと想定されます しかしLLMは紛らわしい文書に影響を受けやすいのです

00:07:32.700 --> 00:07:41.280
最初の結果が非常に長く自信満々に聞こえるものの実際には間違っている文書だった 場合LLMは3位にある正しい短い文書よりもその情報を優先してしまうことがよくあります

00:07:41.280 --> 00:07:46.200
これが中間で失われる現象です 情報の順序が答えの質を左右します

00:07:46.200 --> 00:07:51.200
つまりハイブリッド検索はベースラインではありますが最終的な答えではないのです これはフィルタリングシステムです

00:07:51.200 --> 00:07:57.520
100万件の文書から50件に絞り込みます しかし50件の文書は重大なビジネス上の意思決定にはまだノイズが多すぎます

00:07:57.520 --> 00:08:02.360
あなたはまだ候補者の山を見ているだけです 針を動かしましたがギャップは埋まっていません

00:08:02.360 --> 00:08:11.300
医療や金融で必要とされる0.9の精度を実際に達成するには検索だけで止まってはなりません データがLLMに触れる前に推論のレイヤーを追加する必要があります

00:08:11.300 --> 00:08:17.060
50件の候補者を見て頻度や座標だけでなく実際の論理に基づいてランク付けできる スーパーバイザーが必要です

00:08:17.060 --> 00:08:23.540
なぜなら現在ハイブリッド検索を使用してもあなたのコパイロットはまだ推測しているからです 以前よりも遥かに情報に基づいた推測をしているだけです

00:08:23.540 --> 00:08:30.120
私たちは検索問題を解決しました 次にランキング問題を解決する必要があります そしてそれは全く異なるアーキテクチャレイヤーを必要とします

00:08:30.120 --> 00:08:35.280
ハイブリッド検索を使用してもあなたはまだ候補者の山を見ているだけです スーパーバイザーが必要です

00:08:35.280 --> 00:08:43.380
ハイブリッドモデルの問題点は意見が欠けていることです これは実際には同じ言語を話さない2つの異なるスコアリングシステムに基づいてリストを生成します

00:08:43.380 --> 00:08:52.960
ベクトル空間からの座標とキーワードインデックスからの頻度スコアを統合しています 結果として技術的には以前よりも優れた上位50リストが生成されますが根本的な検証はまだ行われていません

00:08:52.960 --> 00:09:01.320
これは採用エージェンシーが実際に目を通さずに50通の履歴書を送ってくるようなものです キーワードと一般的な経験でフィルタリングはしていますがその人が実際に仕事をこなせるかどうかは確認していません

00:09:01.320 --> 00:09:07.240
ラグパイプラインではLLMは採用マネージャーです そのマネージャーに50通の履歴書を渡すと圧倒されてしまいます

00:09:07.240 --> 00:09:14.820
最初の3通に目を通し巧妙にフォーマットされた嘘に気を取られ間違った採用をしてしまうでしょう これを解決するには検索を1ステップのプロセスとして扱うのをやめる必要があります

00:09:14.820 --> 00:09:21.640
ゲートキーパーとして機能する第2のレイヤーを導入する必要があります なぜなら現状では答えを提供しているのではなく宿題を与えているからです

00:09:21.640 --> 00:09:28.080
そしてAIは宿題をするために作られたのではなく推論するために作られたのです 正しく推論させるには適切な開始点を与える必要があります

00:09:28.080 --> 00:09:35.880
上位50の候補を見て実際に真実を保持しているのはどれかを判断できるスーパーバイザーが必要です 意味ランキングは真実の最終フィルターです

00:09:35.880 --> 00:09:42.240
ここでL2リランカーを紹介します 2026アーキテクチャではこれは譲れないセカンダリレイヤーです

00:09:42.240 --> 00:09:47.040
検索結果のエディターとして機能します これまで構築してきたワークフローを考えてみてください

00:09:47.040 --> 00:09:54.400
まずハイブリッド検索は幅広い候補を取得します 高速で効率的で数百万のドキュメントをミリ秒単位でスキャンしますが浅いです

00:09:54.400 --> 00:09:59.860
L2リランカーはその逆です 数百万のドキュメントを見るのではなく上位50だけを見ますが

00:09:59.860 --> 00:10:07.960
最初の検索レイヤーでは決して達成できなかったレベルの深さでそれらを見ます 具体的にはマイクロソフトエコシステムではビング由来のモデルについて話しています

00:10:07.960 --> 00:10:15.600
これらはクロスアテンショントランスフォーマーです クエリを事前に計算されたドキュメント埋め込みと比較する最初のベクトル検索とは異なり

00:10:15.600 --> 00:10:21.460
リランカーはクエリとドキュメントを同時に調べます 実際のテキストの深い意味比較を実行します

00:10:21.460 --> 00:10:30.640
もはや高次元空間の座標だけを見ているわけではありません ドキュメントが実際に質問に対する答えを含んでいるかどうかを理解するために深い推論を実行します

00:10:30.640 --> 00:10:38.280
ここで広告検索リランカースコアが重要になります このスコアは最初のレイヤーで表示されるルイジドスコアとは異なります

00:10:38.280 --> 00:10:45.540
ルイジドスコアはこのドキュメントは数学的に近いことを示します リランカースコアはこのドキュメントはユーザーの意図に関連していることを示します

00:10:45.540 --> 00:10:53.400
目標が近いかから質問に答えているかへと変わります この違いを理解することが規制の厳しい業界で生き残る唯一の方法です

00:10:53.400 --> 00:11:03.040
金融医療法律の分野では精度0.8では失敗です 0.9以上が必要です単一ステージの検索プロセスではこのレベルの精度に到達することはできません

00:11:03.040 --> 00:11:11.960
リランカーはほぼ正しい結果からエンタープライズグレードの結果へとレベルアップさせるものです これは検索アルゴリズムラグで最も一般的な失敗モードである順序の誤りという問題を解決します

00:11:11.960 --> 00:11:19.860
標準的な検索では最適な回答が8位にあるかもしれませんがキーワード密度が適切でなかったり 埋め込みがやや曖昧だったりするため上位に表示されません

00:11:19.860 --> 00:11:28.160
LLMは怠惰なため最初の3つの結果に焦点を当てます 8位の真実を見逃し1位のノイズに基づいて誤った結果を生成します

00:11:28.160 --> 00:11:33.000
リランカーはこれを阻止します 8位の最適な回答を1位に昇格させます

00:11:33.000 --> 00:11:39.720
ドキュメント1にはより多くのキーワードが含まれていますが ドキュメント8にはクエリを満たすために必要な実際の意味内容が含まれていることを識別します

00:11:39.720 --> 00:11:48.220
この検索からランキングへの転換は今年実施できる最も重要なアーキテクチャ変更です どれだけの情報を見つけられるかにこだわるのはやめなければなりません

00:11:48.220 --> 00:11:57.860
情報の順序は情報の量よりも重要なので情報の提示順序にこだわる必要があります 正解が一番下にあるなら存在しないも同然です

00:11:57.860 --> 00:12:03.620
リランカーは常に正解が一番上にあるようにします しかしこれは単に文章を移動させるだけではありません

00:12:03.620 --> 00:12:10.820
l2レイヤーは意味的なキャプションとハイライトも提供します 文書内で最も関連性の高い特定の畜語的な文を識別します

00:12:10.820 --> 00:12:17.280
これによりllmにカンニングペーパーが与えられます モデルに10ページのpdfを読んで針を探すように指示する代わりに

00:12:17.280 --> 00:12:24.640
リランカーは針を直接指し示してこの3つの文を具体的に読んでくださいと言います これによりllmの認知負荷が軽減されます

00:12:24.640 --> 00:12:28.980
モデルが文書内の他の無関係なコンテキストに気を取られるリスクが最小限に抑えられ ます

00:12:28.980 --> 00:12:35.580
これは本を渡すのとハイライトされた段落を渡すのとの違いです どちらがより早くより正確な答えにつながると思いますか

00:12:35.580 --> 00:12:41.120
2026年にこれが信頼のギャップを解決する方法です ユーザーはコパイロットが3つの種類の答えを返し

00:12:41.120 --> 00:12:48.200
1つの確実な答えを見逃すとコパイロットを信頼しなくなります リランカーはユーザーが最初に目にするのが常に確実な回答であることを保証するツールです

00:12:48.200 --> 00:12:53.020
真実を最終的に絞り込むフィルターとして機能し 生データと実用的なインテリジェンスの間のギャップを埋めます

00:12:53.020 --> 00:12:58.000
しかしトレードオフについては正直に認めなければなりません このレベルの精度はただではありません

00:12:58.000 --> 00:13:05.580
単純な数学ベースの検索から推論ベースのランカーに移行するとシステムの経済性が変わります コンピューティングリソースが増えレイテンシも増加します

00:13:05.580 --> 00:13:14.720
アジュールのようなクラウド環境では直接的なコストも増加します このレイヤーを適切に管理しないと得られた精度は月末に受け取るインフラストラクチャの請求書によって

00:13:14.720 --> 00:13:22.300
相殺されてしまいます 企業では10ドルかかる完璧な回答よりも10セントで十分な回答が得られる場合の方が価値が高いことが多いため

00:13:22.300 --> 00:13:30.820
精度の経済性を理解する必要があります 2026年の課題は0.9の精度へのニーズと限られた予算という現実とのバランスを取ることです

00:13:30.820 --> 00:13:41.440
監督者は必要ですが監督者が建物内で最も高級な人物でないことを確認する必要もあります しかしこの精度にはコストがかかりインフラストラクチャを管理しないとロイは消滅します

00:13:41.440 --> 00:13:48.300
マルチステージ検索アーキテクチャへの移行は回答の質と予算の持続可能性の間に根本的な 緊張を生み出します

00:13:48.300 --> 00:13:58.460
0.9の精度の技術的な可能性は現実のものとなりましたが財務的な実現可能性はしばしば無視されています ラグの初期にはコンセプトが機能することを証明することに集中していました

00:13:58.460 --> 00:14:05.460
ボリュームが少なかったためクエリあたりのコストは気にしていませんでした しかしユーザーが10人から1万人にスケールすると計算が変わります

00:14:05.460 --> 00:14:11.400
システムを信頼できるものにする推論の二次レイヤーは同時に 崩壊なコストになる可能性のあるレイヤーでもあります

00:14:11.400 --> 00:14:22.800
企業では精度は贅沢品でありその贅沢品の重みを処理できるようにインフラストラクチャを設計していないと プロジェクトは測定可能な価値を1ドルも提供する前にロイを消費してしまいます

00:14:22.800 --> 00:14:31.680
精度パフォーマンスとコストの経済性 アジュール ai 検索の標準ティアの現実はセマンティックランキングは有料ゲームであるということです

00:14:31.680 --> 00:14:41.040
単にスイッチを切り替えるだけで既存の予算が維持されると期待することはできません アプリ検索の再ランキングスコア機能を有効にすると基本検索ユニットの固定コストの世界から

00:14:41.040 --> 00:14:45.360
クエリ時間に応じた変動課金の世界へと移行します 数字を見てみましょう

00:14:45.360 --> 00:14:52.760
中程度のクエリ量例えば20ギガバイトのデータセットで月間5万回の検索の場合 月額オーバーヘッドは300ドルから800ドルになります

00:14:52.760 --> 00:14:57.520
これは単一の部門にとっては管理可能なように聞こえるかもしれませんが これは検索レイヤーだけであり

00:14:57.520 --> 00:15:03.240
llm トークンと埋め込み生成の料金も支払う必要があることを考えると 総所有コストは急上昇し始めます

00:15:03.240 --> 00:15:11.100
組織がコパイロットパイロットを開始しユーザー満足度で大きな成功を収めた後 最初の本格的な請求書が届いた途端にすぐに中止するのを見てきました

00:15:11.100 --> 00:15:15.420
彼らはパフォーマンスにばかり気を取られ そのパフォーマンスのコストを確認するのを忘れていました

00:15:15.420 --> 00:15:22.000
これがラボから本番への移行でラグプロジェクトが失敗する主な理由です 正しいことのコストは間違っていることのコストよりも高いのです

00:15:22.000 --> 00:15:26.780
ではこれをどう解決すればいいのでしょうか IT部門を破産させることなく制度を維持するにはどうすればいいのでしょうか

00:15:26.780 --> 00:15:31.920
答えはセマンティックキャッシングにあります 2026年にはセマンティックキャッシングが企業のロイの救世主となるでしょう

00:15:31.920 --> 00:15:37.680
私たちが解決しようとしている問題は次の通りです 従業員は同じ質問を少しずつ異なる方法で尋ねる傾向があります

00:15:37.680 --> 00:15:43.100
休日ポリシーはどうなっていますか 休暇のルールを見せていただけますか 休暇は何日取れますか

00:15:43.100 --> 00:15:48.380
標準的なラグパイプラインではこれらの質問のそれぞれが完全な取得 セマンティックサイランクおよびLLM呼び出しをトリガーします

00:15:48.380 --> 00:15:52.740
同じ回答に3回も料金を支払っていることになります セマンティックキャッシングはこの無駄をなくします

00:15:52.740 --> 00:16:02.120
軽量埋め込みモデルを使用してこれら3つの質問が同じ意図を共有していることを識別します 高価な推論エンジンに戻る代わりにシステムは高速キャッシュから検証済みの回答を取得します

00:16:02.120 --> 00:16:08.420
これによりLLM呼び出しを60%から80%削減できます ユーザーエクスペリエンスの変化はさらに劇的です

00:16:08.420 --> 00:16:17.500
ライブGPT4推論の3秒の待ち時間から50ミリ秒未満のキャッシュヒットに変わります これは250倍の速度向上です突然コパイロットは瞬時に感じられます

00:16:17.500 --> 00:16:26.880
人々が我慢する遅いツールから人々が実際に使用することを楽しむ応答性の高いアシスタントに変わります しかしキャッシュは戦いの半分に過ぎませんもう半分は選択的有効化です

00:16:26.880 --> 00:16:35.160
アーキテクトが犯す最大のミスの一つはすべてのクエリにセマンティックランキングを適用することです 2025年の経費報告書テンプレートというタイトルのドキュメントを見つけるのに

00:16:35.160 --> 00:16:39.240
ディープ推論トランスフォーマーは必要ありません 基本的なキーワード一致で十分です

00:16:39.240 --> 00:16:48.060
2026年の戦略は単純なヒットを安価なレイヤーに保持することです L2リランカーは意図が曖昧な複雑な自然言語クエリに対してのみトリガーするべきです

00:16:48.060 --> 00:16:56.380
パイプラインの先頭にロジックゲートを実装することで実際に高い精度が必要なクエリに予算を割り当てることができます これはトリアージシステムのようなものだと考えてください

00:16:56.380 --> 00:17:03.340
低コストのレイヤーは定型的なリクエストの70%を処理します 高コストのセマンティックレイヤーは実際にビジネス価値を生み出す30%を処理します

00:17:03.340 --> 00:17:12.620
これが予算のバランスの取り方です 検索コストが回答の価値を超えないようにします クエリの生産性が10セントであればそれを解決するために1ドルのコンピューティングを費やすべきではありません

00:17:12.620 --> 00:17:18.060
データ自体の回想化も考慮する必要があります すべてのドキュメントが0.9の精度を必要とするわけではありません

00:17:18.060 --> 00:17:23.000
社内カフェテリアのメニューにはビング由来のリランカーは必要ありませんが 規制遵守文書には必要です

00:17:23.000 --> 00:17:30.920
検索インデックスを分割しそれぞれに異なるランキング戦略を適用することで 情報の重要度に基づいて支出を最適化できます

00:17:30.920 --> 00:17:37.780
これが価値ベースの検索です 重要なのは精度は2者卓一ではなく段階的に変化するものであるという認識です

00:17:37.780 --> 00:17:42.420
そしてアーキテクトとしてのあなたの仕事は事業部門の具体的なニーズに基づいてその段階を調整することです

00:17:42.420 --> 00:17:49.420
目標は可能な限り最も精度の高いシステムを構築することではありません 目標は企業が実際に運用できる範囲で最も精度の高いシステムを構築することです

00:17:49.420 --> 00:17:57.860
なぜなら使用コストが高すぎる完璧なaiはただの非常に洗練された文鎮に過ぎないからです 2026年に勝者となるのは最も高いベンチマークを達成した企業ではありません

00:17:57.860 --> 00:18:07.540
成長に合わせてコストが直線的に増加する中で0.85%の精度を実現する方法を見出した企業です インフラストラクチャを後回しにするのではなく制約として捉えた企業です

00:18:07.540 --> 00:18:13.920
コスト管理は方程式の技術的な側面です しかし経済的な側面を正しく理解したとしてもまだ人的な問題が残っています

00:18:13.920 --> 00:18:21.660
購入したライセンスとユーザーがシステムに抱く実際の信頼との間のギャップに対処する必要があります なぜならユーザーが回答を信頼しなければ生成コストがいくらかかろうとも意味がないからです

00:18:21.660 --> 00:18:25.680
彼らはただ古い方法で検索に戻るだけです そしてこれがガバナンスのギャップにつながります

00:18:25.680 --> 00:18:30.820
なぜなら信頼は技術的な正確さだけに関するものではないからです それはその正確さを取り巻くフレームワークに関するものです

00:18:30.820 --> 00:18:39.700
それは ai が正しいだけでなくそもそも正しいことが許されていると知ることです コスト管理は技術的な側面ですが経営側はガバナンスのギャップに関するものです

00:18:39.700 --> 00:18:48.620
インフラストラクチャを最適化することは法定式の一部しか解決しません 世界で最もコスト効率の高い精密エンジンを構築できますが経営人がそれが何を明らかにするか

00:18:48.620 --> 00:18:55.560
恐れている場合プロジェクトはサンドボックスから出ません ボトルネックはコンピューティング予算や再ランキングの0点子ではない段階に達しました

00:18:55.560 --> 00:19:01.440
本当の摩擦は割り当てたライセンスと ai が実際に操作できる権限との間のギャップです

00:19:01.440 --> 00:19:07.980
ガバナンスのギャップポリシーが使用に失敗する理由 現在エコシステムには1500万の有料シートがあります

00:19:07.980 --> 00:19:16.180
しかし職場のコンバージョン率は驚くべき35%で停滞しています これはライセンスユーザーの3人に2人が実質的にツールを無視していることを意味します

00:19:16.180 --> 00:19:23.880
3回目の幻覚の後使用をやめます 信頼はもろく不十分な検索はどんなトレーニングセッションで気づくよりも早く信頼を破壊します

00:19:23.880 --> 00:19:30.820
ガバナンスは単なる文書ではありません技術的な制御です それがなければラグプロジェクトは12週間で失敗します

00:19:30.820 --> 00:19:35.460
では新しいモデルは実際にはどのようなものですか それは統治されたエージェントへの移行です

00:19:35.460 --> 00:19:41.980
チャットボックスの時代は終わりを迎えています 質問をして数学が文書を見つけてくれることを期待する世界から離れつつあります

00:19:41.980 --> 00:19:48.820
新しいモデルは移任に関するものです 単に検索するシステムから検索プロセス自体について実際に推論するシステムへの移行です

00:19:48.820 --> 00:19:56.920
私たちは統治されたエージェントの時代に突入しています データを探すだけでなくエンジンを開始する前に家のルールを理解するシステムです

00:19:56.920 --> 00:20:04.820
検索から推論への2026年ロードマップ 今後24ヶ月間関連性を維持したいのであればロードマップをエージェント型ラグに移行する必要があります

00:20:04.820 --> 00:20:09.620
これが次のフロンティアです 標準的な設定ではシステムはクエリを受け取り単一の検索を実行します

00:20:09.620 --> 00:20:14.320
エージェント型の設定では ai が検索を計画します リクエストを見てベクトルストアにアクセスする必要があるか

00:20:14.320 --> 00:20:18.620
sql データベースにクエリを実行する必要があるか あるいはリアルタイム api を確認する必要があるかを判断します

00:20:18.620 --> 00:20:23.500
真実を見つけるために必要な手順を推論します ここでグラフラグがゴールドスタンダードになります

00:20:23.500 --> 00:20:29.000
99%の精度が求められる高リスク環境ではフラットなドキュメントの塊に頼ることはできません

00:20:29.000 --> 00:20:37.040
エンティティ人プロジェクトポリシー間の関係をマッピングするナレッジグラフが必要です これにより ai はリードエンジニアの予算について質問した場合

00:20:37.040 --> 00:20:43.560
まずその人を見つけ次にその人が率いるプロジェクトを見つけ 次にそのプロジェクトに関連付けられた特定の財務代帳を見つける必要があることを理解できます

00:20:43.560 --> 00:20:52.820
これはフラットなベクトル検索では実行できないマルチホップ推論チェーンです しかし厳しい現実があります ai の制限はライセンス数ではなくメタデータによって決まります

00:20:52.820 --> 00:21:00.620
シェアポイントサイトがドクメントね docx やファイナル部にリアリファイナル pdf の墓場になっている場合エージェント推論をどれだけ活用しても救うことはできません

00:21:00.620 --> 00:21:10.520
データ基盤を準備することこそが迫りくる競争の遅れを回避する唯一の方法です 検索レイヤーの修正を待つ組織は競合他社がワークフロー全体を自動化している一方で

00:21:10.520 --> 00:21:20.060
35%の導入率で立ち往生することになるでしょう 私たちはツールとしてのベクトル検索からコアビジネスコンピテンシーとしてのセマンティック戦略へと移行しています

00:21:20.060 --> 00:21:27.340
変革は検索監査から始まります ai の応答速度を測定するのをやめて実際に正しい頻度を測定し始めましょう

00:21:27.340 --> 00:21:36.020
精度が提案ではなく要件である最も複雑なユースケースの上位10%を特定し それらのパイプラインに l 2 リランカーを今すぐ実装してください

00:21:36.020 --> 00:21:42.240
このモデルの変化によってアーキテクチャに対する考え方が変わった場合はリンクトインで私 ミルコピータースをフォローしてさらに詳しい解説をご覧ください

00:21:42.240 --> 00:21:50.700
これがラグプロジェクトが現在失敗している理由の診断に役立った場合はレビューを 残してくださいこのポッドキャストは依然としてトップ系の罠に陥っている建築家の方々に届くのに役立ちます

00:21:50.700 --> 00:21:56.220
次のステップとしてエージェント型ワークフローに関する詳細な解説をご覧いただき この精密さが今後どのような方向へ向かうのかをご確認ください
