WEBVTT

00:00:00.000 --> 00:00:03.940
今日のトピックは誰もが耳にしたことはあるものの誰にでもわかるように説明できる人はほとんどいないものです

00:00:03.940 --> 00:00:06.920
ラグつまり検索拡張生成リトリーバルオーグメンテッドジェネレーションです

00:00:06.920 --> 00:00:12.200
マイクロソフトの発表やAIカンファレンスの講演ブログ記事など至るところでこの当事を目にするはずですが実際には何を意味するのでしょうか

00:00:12.200 --> 00:00:14.860
そして何より重要なのはなぜそれを知る必要があるのかということです

00:00:14.860 --> 00:00:15.980
実はこういうことです

00:00:15.980 --> 00:00:18.240
GPT法王のような大規模言語モデルは非常に強力です

00:00:18.240 --> 00:00:22.440
エッセイを書いたり文章を要約したりコードを生成したりできますが大きな問題を2つ抱えています

00:00:22.440 --> 00:00:24.880
第一にその知識は過去の時点で止まっていることです

00:00:24.880 --> 00:00:27.820
チャットGPTに昨日起きたことについて尋ねても何も知りません

00:00:27.820 --> 00:00:32.720
第二にこうしたモデルはあなたの会社の内部データポリシー製品詳細顧客メールなどを一切見ていません

00:00:32.720 --> 00:00:36.120
そのためビジネスに関する質問をLLMに投げかけてもそれは推測に過ぎないのです

00:00:36.120 --> 00:00:38.420
そこで登場するのが検索拡張生成ラグです

00:00:38.420 --> 00:00:39.820
ラグは新しいモデルではありません

00:00:39.820 --> 00:00:41.920
より大きくより優れたGPTというわけでもありません

00:00:41.920 --> 00:00:43.540
全く異なるアプローチなのです

00:00:43.540 --> 00:00:46.560
LLMに学習済みの記憶から答えを引き出させる代わりに

00:00:46.560 --> 00:00:49.560
ラグはまずあなた自身のデータから正しい情報を探し出し

00:00:49.560 --> 00:00:51.880
質問と一緒にその情報をモデルに渡します

00:00:51.880 --> 00:00:54.520
モデルはそのコンテキストを使って推測ではなく

00:00:54.520 --> 00:00:57.420
最新の実際のコンテンツに基づいた回答を提示します

00:00:57.420 --> 00:01:00.840
ラグがなければAIは数ヶ月や数年前の記憶を頼りに動きます

00:01:00.840 --> 00:01:04.060
ラグがあればAIは今まさに存在するあなたの文章を機に機能します

00:01:04.060 --> 00:01:06.420
自信満々に聞こえても間違っているかもしれないAIと

00:01:06.420 --> 00:01:08.980
回答の根拠を正確に示すAIとの違いはそこにあります

00:01:08.980 --> 00:01:11.200
本日は以下の内容について説明します

00:01:11.200 --> 00:01:13.840
まずラグを必要とする2つの問題点を見ていきます

00:01:13.840 --> 00:01:18.100
次にラグとは何なのかその検索拡張生成というプロセスを紐解いていきます

00:01:18.100 --> 00:01:20.520
続いて主要なAzureサービスであるAzure iSearch

00:01:20.520 --> 00:01:23.320
Azure OpenAIそしてAzure iFoundlyを紹介します

00:01:23.320 --> 00:01:26.640
最後は実際の例を通じて各要素がどのように組み合わさるのかを見ていきます

00:01:26.640 --> 00:01:28.500
まずは問題そのものから始めましょう

00:01:28.500 --> 00:01:30.900
それが見えれば解決策はおのずと明らかになります

00:01:30.900 --> 00:01:32.820
LLMが抱える2つの問題についてです

00:01:32.820 --> 00:01:34.940
では大規模言語モデルの何が問題なのでしょうか

00:01:34.940 --> 00:01:36.100
実は2つあります

00:01:36.100 --> 00:01:38.320
第一にその知識が固定されていることです

00:01:38.320 --> 00:01:39.420
考えてみてください

00:01:39.420 --> 00:01:43.660
GPT4Oが学習したのは数ヶ月から数年前のインターネットのスナップショットであるため

00:01:43.660 --> 00:01:46.900
新製品や最近の規制、機能のニュースについては何も知りません

00:01:46.900 --> 00:01:50.300
先週のポリシー変更について聞いても知る余地もありません

00:01:50.300 --> 00:01:53.440
その情報は学習データに含まれていないからです

00:01:53.440 --> 00:01:59.400
第二にLLMはあなたのプライベートなデータ、社内文書、顧客メール、独自のデータベースを一切見ていません

00:01:59.400 --> 00:02:02.020
モデルはそうした情報に一切アクセスできないのです

00:02:02.020 --> 00:02:05.260
従業員が特定の業務プロセスについて尋ねてもモデルは答えることができません

00:02:05.260 --> 00:02:07.040
モデルはあなたが知っていることを知らないからです

00:02:07.040 --> 00:02:09.460
ファインチューニング、微調整で解決できると考える人もいます

00:02:09.460 --> 00:02:12.160
ベースとなるモデルに自社のデータで追加学習を行うという方法です

00:02:12.160 --> 00:02:14.040
しかしファインチューニングには特有の問題があります

00:02:14.040 --> 00:02:15.300
コストがかかるということです

00:02:15.300 --> 00:02:17.260
GPUの時間やエンジニアの労力に費用がかかります

00:02:17.260 --> 00:02:19.340
情報の鮮度が保たれないという問題も解決しません

00:02:19.340 --> 00:02:22.580
ファインチューニングしてもモデルはその時点の状態に固定されたままです

00:02:22.580 --> 00:02:26.080
在庫レベルや価格のように頻繁に変わるデータには対応できません

00:02:26.080 --> 00:02:29.160
ファインチューニングは教科書を丸暗記させるようなものです

00:02:29.160 --> 00:02:32.040
役には立ちますが今日の新聞を調べることはできません

00:02:32.040 --> 00:02:34.080
真の解決策はもっとシンプルです

00:02:34.080 --> 00:02:36.040
すべてを記憶させようとするのではなく

00:02:36.040 --> 00:02:39.060
必要な時にモデルが知識にアクセスできるようにするのです

00:02:39.060 --> 00:02:40.920
すべてを暗記させる必要はありません

00:02:40.920 --> 00:02:43.400
実際のデータからリアルタイムで情報を検索させるのです

00:02:43.400 --> 00:02:44.800
それこそがラグの役割です

00:02:44.800 --> 00:02:47.020
単純なアイデアですがすべてを一変させます

00:02:47.020 --> 00:02:48.400
ラグとは一体何か

00:02:48.400 --> 00:02:50.340
ラグを一言で説明しましょう

00:02:50.340 --> 00:02:53.320
モデルの学習データから答えを引き出すのではなく

00:02:53.320 --> 00:02:55.300
関連情報を探し出し

00:02:55.300 --> 00:02:57.460
質問とともにモデルに渡すのです

00:02:57.460 --> 00:02:59.440
それが核となる考え方です

00:02:59.440 --> 00:03:02.780
検索、拡張、生成という3つのシンプルなステップです

00:03:02.780 --> 00:03:04.200
例え話をしましょう

00:03:04.200 --> 00:03:05.960
図書館員を想像してみてください

00:03:05.960 --> 00:03:07.900
図書館に行って質問をしたとします

00:03:07.900 --> 00:03:10.700
図書館員がすべての本を暗記しているとは期待しませんよね

00:03:10.700 --> 00:03:11.920
それは馬鹿げています

00:03:11.920 --> 00:03:13.760
代わりに適切な本を探し出し

00:03:13.760 --> 00:03:15.760
ページを開いて答えを読み上げてもらうはずです

00:03:15.760 --> 00:03:17.500
図書館員は何も暗記していません

00:03:17.500 --> 00:03:19.600
まず検索し次に読み上げるのです

00:03:19.600 --> 00:03:21.420
それこそがまさにラグの仕組みです

00:03:21.420 --> 00:03:23.220
検索が先、生成が後です

00:03:23.220 --> 00:03:25.420
では実際にどのように機能するのか見てみましょう

00:03:25.420 --> 00:03:26.820
ユーザーが質問をします

00:03:26.820 --> 00:03:30.900
システムがナレッジベース、ドキュメント、データ、プライベートな情報を検索します

00:03:30.900 --> 00:03:33.160
見つかった情報は大規模言語モデルに入力され

00:03:33.160 --> 00:03:35.460
モデルはその文脈に基づいて回答を生成します

00:03:35.460 --> 00:03:37.180
そしてここが重要な点です

00:03:37.180 --> 00:03:39.160
LLMはあなたの生のデータを見ることはありません

00:03:39.160 --> 00:03:40.880
検索システムが渡したものだけを見ます

00:03:40.880 --> 00:03:42.200
それは欠点ではありません

00:03:42.200 --> 00:03:43.920
むしろセキュリティ機能なのです

00:03:43.920 --> 00:03:46.300
機密文書はあなた自身のストレージに止まります

00:03:46.300 --> 00:03:50.480
問い合わせの際、モデルにはその質問に答えるために必要な関連情報だけが提供されます

00:03:50.480 --> 00:03:53.060
データによる学習も暗記も漏洩もありません

00:03:53.060 --> 00:03:54.680
データは適切な場所に止まります

00:03:54.680 --> 00:03:57.100
つまりラグは先ほど挙げた両方の問題を解決するのです

00:03:57.100 --> 00:03:57.980
古いデータですか?

00:04:03.160 --> 00:04:07.820
ベクトル埋め込みとセマンティック検索

00:04:07.820 --> 00:04:11.560
ベクトル埋め込みとセマンティック検索

00:04:11.560 --> 00:04:18.440
単にキーワードを称号したりドキュメント全体をコントロールプラスFで検索するような単純なものではありません

00:04:18.440 --> 00:04:22.640
それはセマンティック検索と呼ばれベクトル埋め込みによって実行されます

00:04:22.640 --> 00:04:24.420
埋め込みとは何かを説明しましょう

00:04:24.420 --> 00:04:28.860
ベクトル埋め込みとは地図上の座標のようにテキストの意味を捉えた長い数値のリストのことです

00:04:28.860 --> 00:04:32.180
全てのドキュメントはその意味の地図上に独自の座標を持ちます

00:04:32.180 --> 00:04:34.940
質問をするとシステムはその質問も座標に変換し

00:04:34.940 --> 00:04:36.940
そこから最も近いドキュメントを見つけ出します

00:04:36.940 --> 00:04:39.520
ここでの鍵はセマンティック意味論的という点です

00:04:39.520 --> 00:04:42.740
単語を正確に見つけることではなく概念を理解することが重要です

00:04:42.740 --> 00:04:44.080
格安ホテルと検索すれば

00:04:44.080 --> 00:04:46.200
たとえその言葉がドキュメント内に含まれていなくても

00:04:46.200 --> 00:04:48.880
手頃な宿泊施設に関するドキュメントを見つけることができます

00:04:48.880 --> 00:04:49.920
なぜでしょうか?

00:04:50.080 --> 00:04:51.240
意味が近いからです

00:04:51.240 --> 00:04:55.340
格安と手頃なの埋め込みはその地図上で隣り合っているのです

00:04:55.340 --> 00:04:58.640
Azureのテキストエンベディングスリーラージのような特別な小型モデルが

00:04:58.640 --> 00:04:59.940
これらの埋め込みを作成します

00:04:59.940 --> 00:05:01.440
巨大な言語モデルではないため

00:05:01.440 --> 00:05:03.500
一つの役割に特化したツールです

00:05:03.500 --> 00:05:06.040
つまりテキストを座標の数値に変換するツールです

00:05:06.040 --> 00:05:08.220
これこそがラグを強力なものにしている理由です

00:05:08.220 --> 00:05:11.280
ドキュメントはインデックス作成時に一度だけ埋め込みに変換されます

00:05:11.280 --> 00:05:12.860
その後クエリが入力されると

00:05:12.860 --> 00:05:15.820
ユーザーが使った正確な言葉がドキュメント内に全く含まれていなくても

00:05:15.820 --> 00:05:18.340
ミリ秒単位で最も関連性の高いコンテンツを見つけ出します

00:05:18.340 --> 00:05:20.160
入力されたキーワードだけでなく

00:05:20.160 --> 00:05:21.580
意図を理解するのです

00:05:21.580 --> 00:05:23.760
検索エンジンであるAzure iSearch

00:05:23.760 --> 00:05:26.000
さてこれで概念は理解できたはずです

00:05:26.000 --> 00:05:27.780
まず検索し次に生成する

00:05:27.780 --> 00:05:30.100
ではその検索は実際にどこで行われているのでしょうか

00:05:30.100 --> 00:05:32.140
そこで登場するのがAzure iSearchです

00:05:32.140 --> 00:05:33.960
Azure iSearchはコンテンツの保存

00:05:33.960 --> 00:05:34.840
インデックス作成

00:05:34.840 --> 00:05:36.160
検索を行うサービスです

00:05:36.160 --> 00:05:38.740
ラグアプリケーションのためのファイリングシステムだと考えてください

00:05:38.740 --> 00:05:40.700
このサービスは主に2つのタスクを処理します

00:05:40.700 --> 00:05:41.980
順を追ってみていきましょう

00:05:41.980 --> 00:05:43.400
1つ目はインデックス作成です

00:05:43.400 --> 00:05:45.360
これはデータが検索できるように準備する工程です

00:05:45.360 --> 00:05:46.460
2つ目は検索です

00:05:46.460 --> 00:05:49.480
これは誰かが質問した際に適切なコンテンツを実際に探し出す工程です

00:05:49.480 --> 00:05:51.700
まずはインデックス作成のプロセスから見ていきましょう

00:05:51.700 --> 00:05:54.840
まずAzure iSearchの接続先となるデータソースを指定します

00:05:54.840 --> 00:05:59.320
これにはPDFが詰まったブロブストレージコンテナや顧客レコードがあるSQLデータベース

00:05:59.320 --> 00:06:01.240
あるいは他の様々なソースが使えます

00:06:01.240 --> 00:06:05.400
このサービスはドキュメントを読み込みチャンクと呼ばれる小さな断片に分割し

00:06:05.400 --> 00:06:09.520
先ほど説明した埋め込みモデルを使って各チャンクのベクトル埋め込みを作成し

00:06:09.520 --> 00:06:11.560
すべてを検索インデックスに保存します

00:06:11.560 --> 00:06:15.160
インデックスとは巨大で高度に整理されたカタログだと考えてください

00:06:15.160 --> 00:06:20.420
すべてのコンテンツには1位のID、テキストのチャンク、そして意味の地図上の座標が割り当てられます

00:06:20.420 --> 00:06:22.760
次に検索プロセスについて説明します

00:06:22.760 --> 00:06:24.160
ユーザーが質問すると

00:06:24.160 --> 00:06:27.820
iSearchはその質問を同じ埋め込みモデルを使ってベクトルに変換し

00:06:27.820 --> 00:06:32.220
インデックスをスキャンして質問の座標に最も近い座標を持つチャンクを探し出します

00:06:32.220 --> 00:06:37.460
そして最も関連性の高い上位5から10件程度の検索結果をミリ秒単位で返します

00:06:37.460 --> 00:06:40.040
ここではいくつかの強力な選択肢が得られます

00:06:40.040 --> 00:06:42.500
純粋なベクトル検索は意味に基づいてコンテンツを探すため

00:06:42.500 --> 00:06:44.880
正確な単語が一致しなくても類似した概念が見つかります

00:06:44.880 --> 00:06:47.360
キーワード検索は従来の検索エンジンのように機能し

00:06:47.360 --> 00:06:48.900
完全に一致する単語を探します

00:06:48.900 --> 00:06:51.960
あるいは両方のアプローチを組み合わせたハイブリッド検索を使用することもでき

00:06:51.960 --> 00:06:53.700
通常はそれが最良の選択肢となります

00:06:53.700 --> 00:06:55.580
セマンティックリランキングという機能もあり

00:06:55.580 --> 00:06:59.660
これは最初の検索結果を質問に対する回答の精度に基づいて最順位付けします

00:06:59.660 --> 00:07:02.280
これは最初のパスでは見逃された可能性のあるものを見つけるための

00:07:02.280 --> 00:07:03.480
2度目の確認のようなものです

00:07:03.480 --> 00:07:04.740
一つ知っておくべきこととして

00:07:04.740 --> 00:07:06.820
Azure iSearchは高額になる可能性があります

00:07:06.820 --> 00:07:10.320
基本ティアは月額約75ドルから始まりそこから上がっていきます

00:07:10.320 --> 00:07:12.520
使用段階であれば無料ティアを使用するか

00:07:12.520 --> 00:07:14.900
終わったらリソースを必ず削除するようにしてください

00:07:14.900 --> 00:07:18.320
ただし本番環境での利用であればそのコストに見合う価値は十分にあります

00:07:18.320 --> 00:07:21.520
スピードと大規模な信頼性を購入しているようなものだからです

00:07:21.520 --> 00:07:23.460
Azure OpenAIとiFoundry

00:07:23.460 --> 00:07:25.440
生成とオーケストレーションについて

00:07:25.440 --> 00:07:28.380
さてデータがインデックス化され取得可能な状態になりましたが

00:07:28.380 --> 00:07:31.620
LLMが質問を理解し的確な回答を生成する必要があります

00:07:31.620 --> 00:07:34.960
そこで登場するのがAzure OpenAIとAzure iFoundryです

00:07:34.960 --> 00:07:38.860
Azure OpenAIはGPT4O、GPT4、1など

00:07:40.320 --> 00:07:42.600
提供しますこれが生成エンジンとなります

00:07:42.600 --> 00:07:44.800
モデルはユーザーからの元の質問と

00:07:44.800 --> 00:07:48.380
Azure iSearchが取得したコンテキストの両方を含むプロンプトを受け取ります

00:07:48.380 --> 00:07:50.180
モデルはそのコンテキストを読み込み

00:07:50.180 --> 00:07:52.280
見つかった内容に基づいて回答を生成します

00:07:52.280 --> 00:07:55.440
ただ全てを投げ込んでうまくいくことを願うだけでは不十分です

00:07:55.440 --> 00:07:57.160
システムプロンプトが必要です

00:07:57.160 --> 00:08:00.240
これはモデルの振る舞いについて事前に与える一連の指示です

00:08:00.240 --> 00:08:01.940
提供されたコンテキストのみを使用すること

00:08:01.940 --> 00:08:03.040
ソースを引用すること

00:08:03.040 --> 00:08:05.100
そして何より分かりませんと回答するように伝えます

00:08:05.100 --> 00:08:07.720
もし検索されたドキュメントの中に関連情報が含まれていない場合は

00:08:07.720 --> 00:08:08.880
そう答えるように指示するのです

00:08:08.880 --> 00:08:10.740
それがモデルの誠実さを保つことにつながります

00:08:10.740 --> 00:08:11.980
優れたシステムプロンプトがないと

00:08:11.980 --> 00:08:13.280
モデルはトレーニングデータに頼ったり

00:08:13.280 --> 00:08:15.400
最悪の場合回答を捏造したりする可能性があります

00:08:15.400 --> 00:08:17.980
ではこれらのパーツを実際にはどのように組み合わせるのでしょうか

00:08:17.980 --> 00:08:20.040
そこで登場するのがAzure iFoundryです

00:08:20.040 --> 00:08:22.840
ここはプロジェクトの作成、モデルのデプロイ、データソースの接続

00:08:22.840 --> 00:08:24.620
そしてエージェントのテストを行うためのポータルです

00:08:24.620 --> 00:08:27.320
ラグ環境全体のコントロールセンターだと考えてください

00:08:27.320 --> 00:08:30.500
Foundryを使えば基本的なセットアップのためにカスタムコードを書くことなく

00:08:30.500 --> 00:08:33.320
Azure iSearch Indexをエージェントの知識ソースとして追加できます

00:08:33.320 --> 00:08:35.620
接続を作成してインデックスを選択するだけで

00:08:35.620 --> 00:08:37.940
エージェントは自動的にクエリを実行できるようになります

00:08:37.940 --> 00:08:40.320
ポータルがオーケストレーションを処理してくれるのです

00:08:40.320 --> 00:08:43.140
ユーザーが質問するとエージェントはiSearchを呼び出し

00:08:43.140 --> 00:08:44.540
関連するチャンクを取得して

00:08:44.540 --> 00:08:47.440
元の質問と一緒にLLMに渡す方法を理解しています

00:08:47.440 --> 00:08:49.180
具体的な例を見てみましょう

00:08:49.180 --> 00:08:50.500
以前見かけたチュートリアルでは

00:08:50.500 --> 00:08:53.980
Netflixのデータセットを使って映画レコメンデーションエージェントを構築していました

00:08:53.980 --> 00:08:57.440
まず映画のタイトル、説明、キャスト情報を含むCSVファイルを

00:08:57.440 --> 00:08:58.860
Azure Blob Storageにアップロードし

00:08:58.860 --> 00:09:01.320
Azure iSearchを使ってそのデータをインデックス化しました

00:09:01.320 --> 00:09:04.960
そしてAzure iFoundryでGPT4Oを用いたエージェントを作成し

00:09:04.960 --> 00:09:06.920
そのiSearchインデックスを接続しました

00:09:06.920 --> 00:09:08.540
ユーザーがスリラー映画が好きなので

00:09:08.540 --> 00:09:10.140
おすすめを教えてと尋ねると

00:09:10.140 --> 00:09:11.720
エージェントはそのインデックスを検索し

00:09:11.720 --> 00:09:13.680
特定のデータセットからスリラー映画を見つけ出し

00:09:13.680 --> 00:09:14.560
おすすめを回答しました

00:09:14.560 --> 00:09:15.460
ここが重要ですが

00:09:15.460 --> 00:09:18.320
エージェントはデータセット内に実際に存在する映画のみを推薦しました

00:09:18.320 --> 00:09:19.580
勝手に作り話もしなければ

00:09:19.580 --> 00:09:21.040
学習データから引用することもなく

00:09:21.040 --> 00:09:23.160
提供されたコンテンツのみに基づいて回答したのです

00:09:23.160 --> 00:09:24.600
これこそがラグの力です

00:09:24.600 --> 00:09:26.300
クラシックラグとエージェント型ラグ

00:09:26.300 --> 00:09:28.260
ではこの設定方法についてお話ししましょう

00:09:28.260 --> 00:09:28.880
大きく分けて

00:09:28.880 --> 00:09:30.900
クラシックラグとエージェント型ラグという2つのパターンがあります

00:09:30.900 --> 00:09:31.740
どちらを選ぶかは

00:09:31.740 --> 00:09:33.040
何を構築するかによって決まります

00:09:33.040 --> 00:09:35.040
クラシックラグは非常にシンプルな手法です

00:09:35.040 --> 00:09:36.200
1つのクエリが入力されると

00:09:36.200 --> 00:09:38.120
1回の検索が実行され回答が返されます

00:09:38.120 --> 00:09:40.040
シンプルで拘束そして予測可能です

00:09:40.040 --> 00:09:41.200
オフィスビルの受付に行って

00:09:41.200 --> 00:09:43.820
特定のファイルを1つ要求するようなものだと考えてください

00:09:43.820 --> 00:09:45.820
受付係がそれを取り出して渡してくれれば

00:09:45.820 --> 00:09:46.640
それで完了です

00:09:46.640 --> 00:09:47.440
クラシックラグは

00:09:47.440 --> 00:09:49.500
会社のテレワークに関するポリシーは何ですか

00:09:49.500 --> 00:09:52.300
といった単一トピックの事実に基づくQ&Aに最適です

00:09:52.300 --> 00:09:54.740
あるいはこのエラーコードのトラブルシューティング手順を表示して

00:09:54.740 --> 00:09:55.500
といった場合です

00:09:55.500 --> 00:09:57.360
流れが直線的なので信頼性が高く

00:09:57.360 --> 00:09:59.800
安価で問題が発生した際も修正が容易です

00:09:59.800 --> 00:10:01.340
エージェント型ラグは異なります

00:10:01.340 --> 00:10:04.520
AIエージェントがどのように情報を取得するかを自分で決定します

00:10:04.520 --> 00:10:05.980
複数のサブクエリを作成し

00:10:05.980 --> 00:10:07.400
異なるインデックスを検索し

00:10:07.400 --> 00:10:08.780
結果を反復して精査し

00:10:08.780 --> 00:10:10.640
複数のソースを統合してから回答できます

00:10:10.640 --> 00:10:12.880
これは各部署と連携して必要な情報を

00:10:12.880 --> 00:10:14.760
全て集めてくれるビル管理人のような存在です

00:10:14.760 --> 00:10:16.940
単に一つのファイルを取ってくるだけではありません

00:10:16.940 --> 00:10:19.640
人事と話し記録を確認しポリシーを称号した上で

00:10:19.640 --> 00:10:21.320
完全な回答を持って戻ってきてくれるのです

00:10:21.320 --> 00:10:22.860
マイクロソフトが独自に実施したテストによると

00:10:22.860 --> 00:10:24.120
エージェント型ラグを使用することで

00:10:24.120 --> 00:10:25.660
複雑な質問に対する回答の関連性が

00:10:25.660 --> 00:10:27.040
約40%向上することが分かりました

00:10:27.040 --> 00:10:28.140
これは大きな改善ですが

00:10:28.140 --> 00:10:29.780
トークン消費量が3から10倍に増え

00:10:29.780 --> 00:10:30.700
0.4も増加します

00:10:30.700 --> 00:10:31.820
単純な質問に対しては

00:10:31.820 --> 00:10:33.360
その追加の作業は無駄になってしまいます

00:10:33.360 --> 00:10:35.200
従来のラグで十分に対応可能です

00:10:35.200 --> 00:10:37.140
ではそれぞれをいつ使い分ければ良いのでしょうか

00:10:37.140 --> 00:10:38.960
従来型はスピードとコストが最も重視される

00:10:38.960 --> 00:10:40.420
定型的な大量のクエリに適しています

00:10:40.420 --> 00:10:41.120
エージェント型は

00:10:41.120 --> 00:10:43.200
精度を重視するために追加の計算コストをかける価値がある

00:10:43.200 --> 00:10:45.460
多段階曖昧またはクロスドメインな質問に適しています

00:10:45.460 --> 00:10:46.640
接続セクション

00:10:46.640 --> 00:10:47.840
エンドツーエンドの例です

00:10:47.840 --> 00:10:49.340
これらの要素が実際の例で

00:10:49.340 --> 00:10:51.080
どのように組み合わさるのかを見てみましょう

00:10:51.080 --> 00:10:53.240
マリゴールドトラベルという旅行代理店の

00:10:53.240 --> 00:10:55.640
カスタマーサポートエージェントを構築していると想像してください

00:10:55.640 --> 00:10:57.680
組織内には旅行パンフレット

00:10:57.680 --> 00:10:58.660
ホテルレビュー

00:10:58.660 --> 00:11:00.680
ポリシー関連のドキュメントが散在しています

00:11:00.680 --> 00:11:02.880
顧客には一般的な推測ではなく

00:11:02.880 --> 00:11:06.240
実際のコンテンツに基づいた正確な回答を提供したいはずです

00:11:06.240 --> 00:11:06.960
ステップ1

00:11:06.960 --> 00:11:08.420
それらのコンテンツをすべて

00:11:08.420 --> 00:11:09.940
Azure Blob Storageに保存します

00:11:09.940 --> 00:11:10.580
パンフレット

00:11:10.580 --> 00:11:11.320
レビュー

00:11:11.320 --> 00:11:13.140
ポリシーをそれぞれ別のフォルダに分け

00:11:13.140 --> 00:11:15.040
コンテナ内にファイルを配置するだけです

00:11:15.040 --> 00:11:15.760
ステップ2

00:11:15.760 --> 00:11:17.420
Azure iSearchを使用して

00:11:17.420 --> 00:11:19.480
データインポートウィザードを実行し

00:11:19.480 --> 00:11:22.280
Blob Storageを指定してインデックスを作成させます

00:11:22.280 --> 00:11:24.200
サービスがすべてのドキュメントを読み込み

00:11:24.200 --> 00:11:25.040
チャンクに分割し

00:11:25.040 --> 00:11:26.340
ベクトル埋め込みを作成して

00:11:26.340 --> 00:11:28.040
検索可能なインデックスを構築します

00:11:28.040 --> 00:11:30.320
このプロセス全体は数分で完了します

00:11:30.320 --> 00:11:31.020
ステップ3

00:11:31.020 --> 00:11:32.720
Azure iFoundryにアクセスし

00:11:32.720 --> 00:11:33.820
エージェントを作成します

00:11:33.820 --> 00:11:35.940
モデルとしてGPT4Oをデプロイし

00:11:35.940 --> 00:11:37.780
提供されたコンテキストのみを使用して

00:11:37.780 --> 00:11:39.860
ソースを引用するようシステムプロンプトを設定し

00:11:39.860 --> 00:11:42.560
Azure iSearchインデックスをナレッジソースとして接続します

00:11:42.560 --> 00:11:44.520
数回クリックするだけで完了です

00:11:44.520 --> 00:11:45.280
ここで顧客が

00:11:45.280 --> 00:11:47.560
ドバイで300ドル以下の最も評価の高いホテルは?

00:11:47.660 --> 00:11:48.780
と質問したとします

00:11:48.780 --> 00:11:50.380
エージェントはその質問を受け取り

00:11:50.380 --> 00:11:51.960
Azure iSearchに送信します

00:11:51.960 --> 00:11:53.940
Azure iSearchが質問をベクトルに変換し

00:11:53.940 --> 00:11:56.760
レビューやパンフレットから最も関連性の高いチャンクを見つけ出します

00:11:56.760 --> 00:11:57.580
そのチャンクは

00:11:57.580 --> 00:12:00.340
元の質問と一緒にGPT4Oに渡されます

00:12:00.340 --> 00:12:01.740
モデルはそれらを読み込み

00:12:01.740 --> 00:12:02.840
最適な一致を見つけて

00:12:02.840 --> 00:12:05.320
ソースドキュメントへの引用を含めた回答を生成します

00:12:05.320 --> 00:12:06.300
ここで重要なのは

00:12:06.300 --> 00:12:08.600
LLMはそのデータを記憶していないということです

00:12:08.600 --> 00:12:10.620
ホテルのレビューで学習したわけではありません

00:12:10.620 --> 00:12:12.920
常に特定のコンテンツに基づいて動作しています

00:12:12.920 --> 00:12:14.380
明日新しいレビューを追加すれば

00:12:14.380 --> 00:12:15.780
回答も自動的に更新されます

00:12:15.780 --> 00:12:17.040
古いパンフレットを削除すれば

00:12:17.040 --> 00:12:18.100
それは表示されなくなります

00:12:18.100 --> 00:12:19.760
モデルのサイトレーニングは不要です

00:12:19.760 --> 00:12:21.620
適切な検索レイヤーさえあれば良いのです

00:12:21.620 --> 00:12:24.220
では実際にAzureでラグの構築を始めるにはどうすれば良いでしょうか

00:12:24.220 --> 00:12:25.920
3つのステップに分けて見ていきましょう

00:12:25.920 --> 00:12:28.360
まずは自分のデータを把握することから始めます

00:12:28.360 --> 00:12:29.580
サービスを選ぶ前に

00:12:29.580 --> 00:12:33.320
コンテンツの場所、構成方法、そして誰がアクセスすべきかを把握しましょう

00:12:33.320 --> 00:12:35.620
ラグの整備はデータの質にかかっています

00:12:35.620 --> 00:12:37.440
次にシンプルに保つことです

00:12:37.440 --> 00:12:39.160
設定を複雑にしすぎないでください

00:12:39.160 --> 00:12:41.040
Azure iSearchのデータインポートウィザードを使用して

00:12:41.040 --> 00:12:42.900
まずはドキュメントのセットを一つだけインデックス化します

00:12:42.900 --> 00:12:44.580
基本的なクエリでテストしてください

00:12:44.580 --> 00:12:45.960
LLMを追加する前に

00:12:45.960 --> 00:12:47.920
検索機能が完璧に動作することを確認しましょう

00:12:47.920 --> 00:12:50.380
ラグの失敗のほとんどはモデルの問題ではありません

00:12:50.380 --> 00:12:51.880
それは検索の問題です

00:12:51.880 --> 00:12:54.060
最後のステップとしてLLMを追加します

00:12:54.060 --> 00:12:55.940
検索で正しい結果が得られるようになって初めて

00:12:55.940 --> 00:12:57.200
生成のレイヤーを重ねます

00:12:57.200 --> 00:12:59.080
その段階でAzure OpenAIを接続し

00:12:59.080 --> 00:13:00.300
システムプロンプトを作成します

00:13:00.300 --> 00:13:01.300
重要なことですが

00:13:01.300 --> 00:13:02.840
ラグは購入するものではありません

00:13:02.840 --> 00:13:04.480
それは構築するパターンです

00:13:04.480 --> 00:13:05.800
Azureはストレージ検索

00:13:05.800 --> 00:13:07.140
モデルといった部品と

00:13:07.140 --> 00:13:09.180
それらを繋ぐ接着剤を提供します

00:13:09.180 --> 00:13:11.580
あとはそれらを正しく組み合わせるだけです

00:13:11.580 --> 00:13:13.180
全体像を把握するのに役立ちましたら

00:13:13.180 --> 00:13:14.020
チャンネル登録をして

00:13:14.020 --> 00:13:15.560
わかりやすい解説動画をチェックしてください

00:13:15.560 --> 00:13:17.660
あなたのラグの活用事例をコメント欄で教えてください

00:13:17.660 --> 00:13:18.880
あなたが何を作っているのか

00:13:18.880 --> 00:13:19.600
ぜひ知りたいです
