WEBVTT

00:00:00.280 --> 00:00:04.320
Сьогоднішня тема – це те, про що майже всі чули, але майже ніхто не може пояснити простими словами.

00:00:04.460 --> 00:00:06.780
RIG або генерація з доповненням пошуком.

00:00:06.920 --> 00:00:11.840
Ви бачили цю абревіатуру всюди в оголошеннях Microsoft, на конференціях ЩІ, у блогах, але що вона означає насправді.

00:00:11.920 --> 00:00:13.880
І, що важливіше, чому це має вас цікавити?

00:00:14.040 --> 00:00:15.000
Ось у чому справа.

00:00:15.140 --> 00:00:17.980
Великі мовні моделі, як-от GPT-4O, дуже потужні.

00:00:18.120 --> 00:00:22.540
Вони можуть писати есе, підсумовувати документи і навіть генерувати код, але вони мають дві великі проблеми.

00:00:22.540 --> 00:00:24.600
По-перше, їхні знання застигли в часі.

00:00:24.740 --> 00:00:27.860
Запитайте чат-GPT про те, що сталося вчора, і він нічого не знатиме.

00:00:27.980 --> 00:00:33.000
По-друге, ці моделі ніколи не бачили внутрішніх даних вашої компанії, ваших політик, деталей продуктів, листів клієнтів.

00:00:33.120 --> 00:00:36.220
Тож, коли ви ставите запитання про свій бізнес до LLM, вона просто вгадує.

00:00:36.380 --> 00:00:38.820
Ось тут і з'являється генерація з доповненням пошуком.

00:00:38.940 --> 00:00:41.600
RIG – це не нова модель, це не більший чи кращий GPT.

00:00:41.760 --> 00:00:43.080
Це зовсім інший підхід.

00:00:43.080 --> 00:00:46.520
Замість того, щоб просити LLM брати відповіді з пам'яті навчання,

00:00:46.660 --> 00:00:51.820
RIG спочатку шукає потрібну інформацію у ваших даних і подає її моделі разом із запитанням.

00:00:51.940 --> 00:00:57.480
Модель використовує цей контекст, щоб дати вам відповіді, які ґрунтуються на реальному актуальному контенті, а не на здогадках.

00:00:57.660 --> 00:01:00.840
Без RIG ваші працює на основі пам'яті, якій місяці або роки.

00:01:01.000 --> 00:01:04.060
З RIG він працює на основі ваших актуальних документів прямо зараз.

00:01:04.060 --> 00:01:09.320
Це різниця міщі, який звучить впевнено, але може помилятися, і тим, який показує, звідки він взяв відповідь.

00:01:09.400 --> 00:01:10.860
Ось що ми розглянемо сьогодні.

00:01:11.020 --> 00:01:14.020
Спочатку розберемо дві проблеми, через які RIG став необхідним.

00:01:14.180 --> 00:01:18.040
Потім розберемо, що таке RIG насправді пошук, доповнення та генерація.

00:01:18.220 --> 00:01:23.160
Далі ми пройдемося ключовими сервісами Azure, Azure AI Search, Azure OpenAI та Azure AI Foundry.

00:01:23.320 --> 00:01:26.900
І на завершення покажемо реальний приклад, щоб ви побачили, як усе це працює разом.

00:01:27.060 --> 00:01:28.440
Почнімо з самої проблеми.

00:01:28.440 --> 00:01:31.020
Щойно ви її зрозумієте, рішення стане очевидним.

00:01:31.180 --> 00:01:32.800
Дві проблеми, які мають ЛЛМ.

00:01:32.920 --> 00:01:34.820
То що не так із великими мовними моделями?

00:01:35.080 --> 00:01:36.060
Насправді дві речі.

00:01:36.200 --> 00:01:38.060
По-перше, їхні знання заморожені.

00:01:38.460 --> 00:01:39.240
Задумайтеся про це.

00:01:39.420 --> 00:01:43.580
Коли навчали GPT-4O, вона вивчала зріз інтернету, якому вже місяці чи роки,

00:01:43.660 --> 00:01:46.700
тому вона не знає про нові продукти, нещодавні правила чи вчорашні новини.

00:01:46.880 --> 00:01:50.420
Запитайте її про зміну політики минулого тижня, вона не матиме змоги дізнатися.

00:01:50.420 --> 00:01:53.400
Цієї інформації просто немає в даних для її навчання.

00:01:58.440 --> 00:02:01.920
Модель не має жодного доступу до всього цього.

00:02:02.080 --> 00:02:05.720
Отже, коли працівник запитує про специфічні бізнес-процеси, модель не може відповісти.

00:02:05.920 --> 00:02:07.440
Вона не знає того, що знаєте ви.

00:02:07.620 --> 00:02:09.400
Дехто вважає, що до навчання це вирішує.

00:02:09.560 --> 00:02:12.160
Ви берете базову модель і трохи до навчаєте її на власних даних.

00:02:12.240 --> 00:02:13.880
Але до навчання має свої проблеми.

00:02:14.000 --> 00:02:14.660
Це дорого.

00:02:14.860 --> 00:02:17.200
Ви платите за час роботи GPU та працю інженерів.

00:02:17.320 --> 00:02:19.080
Це не вирішує проблему застарілості.

00:02:19.080 --> 00:02:22.380
Після до навчання модель все одно залишається замороженою в тому часі.

00:02:22.380 --> 00:02:26.400
Вона не може працювати з даними, що часто змінюються, як от рівень запасів чи ціни.

00:02:26.600 --> 00:02:29.080
До навчання це як вивчити підручник на пам'ять.

00:02:29.200 --> 00:02:32.140
Корисно, але прочитати сьогоднішню газету вони не зможуть.

00:02:32.340 --> 00:02:33.820
Справжнє рішення простіше.

00:02:34.040 --> 00:02:36.640
Дайте моделі доступ до ваших знань у момент відповіді,

00:02:36.760 --> 00:02:39.000
замість того, щоб втискати все в її пам'ять.

00:02:39.140 --> 00:02:40.860
Не змушуйте її запам'ятовувати все.

00:02:41.040 --> 00:02:43.500
Дозвольте їй шукати дані в реальному часі з ваших актуальних джерел.

00:02:43.640 --> 00:02:44.740
Саме це робить R.A.G.

00:02:44.880 --> 00:02:46.640
Проста ідея, але вона змінює все.

00:02:46.640 --> 00:02:48.380
Що ж таке R.A.G. насправді?

00:02:48.480 --> 00:02:50.400
Отже, ось R.A.G. одним реченням.

00:02:50.480 --> 00:02:53.700
Замість того, щоб просити модель брати відповідь зі своїх навчальних даних,

00:02:53.780 --> 00:02:55.660
ми спершу знаходимо потрібну інформацію,

00:02:55.740 --> 00:02:58.100
а потім подаємо її моделі разом із запитанням.

00:02:58.200 --> 00:02:59.460
Це основна ідея.

00:02:59.580 --> 00:03:02.500
Три прості кроки – пошук, доповнення та генерація.

00:03:02.700 --> 00:03:04.240
Дозвольте навести аналогію.

00:03:04.360 --> 00:03:05.620
Уявіть бібліотекаря.

00:03:05.760 --> 00:03:07.860
Ви заходите в бібліотеку і ставите запитання.

00:03:07.860 --> 00:03:10.740
Ви ж не очікуєте, що бібліотекар вивчив на пам'ять кожну книжку, правда?

00:03:10.940 --> 00:03:12.000
Це було б безглуздо.

00:03:12.140 --> 00:03:14.640
Ви просите їх знайти потрібну книгу, відкрити на правильній сторінці

00:03:14.640 --> 00:03:15.700
і прочитати вам відповідь.

00:03:16.000 --> 00:03:17.560
Бібліотекар нічого не запам'ятовує.

00:03:17.760 --> 00:03:19.680
Вони спочатку знаходять, а потім читають.

00:03:19.820 --> 00:03:21.380
І це саме те, що робить R.A.G.

00:03:21.620 --> 00:03:23.360
Спочатку пошук, потім генерація.

00:03:23.520 --> 00:03:25.040
Ось як це працює на практиці.

00:03:25.320 --> 00:03:26.740
Користувач ставить запитання.

00:03:26.960 --> 00:03:30.980
Система шукає в базі знань, ваших документах, даних та конфіденційній інформації.

00:03:30.980 --> 00:03:33.180
Знайдене передається великій мовній моделі,

00:03:33.260 --> 00:03:35.740
і вона генерує відповідь на основі цього контексту.

00:03:35.860 --> 00:03:36.840
І ось що важливо.

00:03:37.020 --> 00:03:38.980
LLM ніколи не бачить ваших вихідних даних.

00:03:39.100 --> 00:03:41.120
Вона бачить лише те, що їй надає система пошуку.

00:03:41.260 --> 00:03:42.020
Це не недолік.

00:03:42.200 --> 00:03:43.740
Насправді, це функція безпеки.

00:03:43.920 --> 00:03:46.480
Ваші чутливі документи залишаються у вашому власному сховищі.

00:03:46.480 --> 00:03:48.700
Під час запиту модель отримує лише відповідні фрагменти,

00:03:48.800 --> 00:03:50.960
необхідні для відповіді жодного навчання на ваших даних,

00:03:51.060 --> 00:03:52.740
жодного запам'ятовування, жодного витоку.

00:03:52.740 --> 00:03:54.680
Ваші дані залишаються там, де їм і місце.

00:03:54.800 --> 00:03:57.160
Отже, Arrange вирішує обидві проблеми, про які ми говорили раніше.

00:03:57.400 --> 00:03:58.140
Застарілі дані.

00:03:58.280 --> 00:03:59.020
Це не проблема.

00:03:59.280 --> 00:04:01.000
Ваша база знань залишається актуальною.

00:04:01.380 --> 00:04:02.100
Конфіденційні дані.

00:04:02.300 --> 00:04:04.300
Модель бачить лише те, що ви вирішите отримати.

00:04:04.460 --> 00:04:06.460
Це як надати бібліотекарю доступ до вашої картотеки,

00:04:06.460 --> 00:04:08.120
але дозволити йому дістати лише одну папку,

00:04:08.260 --> 00:04:09.960
яка вам потрібна саме тоді, коли вона потрібна.

00:04:10.120 --> 00:04:12.060
Векторні ембединги та семантичний пошук.

00:04:12.060 --> 00:04:14.660
Тепер ви, мабуть, дивуєтесь, як насправді працює цей пошук.

00:04:14.780 --> 00:04:15.860
Справа не в порівнянні ключових слів

00:04:15.860 --> 00:04:18.020
чи натисканні комбінації Ctrl плюс F у ваших документах.

00:04:18.140 --> 00:04:19.480
Це дещо набагато розумніше.

00:04:19.620 --> 00:04:20.900
Це називається семантичним пошуком,

00:04:20.940 --> 00:04:22.520
і він працює на основі векторних ембедингів.

00:04:22.660 --> 00:04:24.380
Дозвольте пояснити, що таке ембединг.

00:04:24.540 --> 00:04:26.240
Векторний ембединг – це довгий список чисел,

00:04:26.240 --> 00:04:28.860
який фіксує значення фрагмента тексту, ніби координати на карті.

00:04:28.980 --> 00:04:32.040
Кожен документ отримує свою власну координату на цій карті значень.

00:04:32.040 --> 00:04:34.960
Коли ви ставите запитання, система також перетворює його на координати,

00:04:35.040 --> 00:04:37.340
а потім знаходить документи, які знаходяться найближче до них.

00:04:37.500 --> 00:04:39.120
Ключове слово тут – семантичний.

00:04:39.320 --> 00:04:41.000
Справа не в тому, щоб знайти точні слова,

00:04:41.140 --> 00:04:42.660
а в тому, щоб зрозуміти концепції.

00:04:42.840 --> 00:04:44.420
Якщо ви шукаєте бюджетні готелі,

00:04:44.560 --> 00:04:46.640
система може знайти документи про доступне житло,

00:04:46.640 --> 00:04:48.920
навіть якщо ці точні слова ніде не згадуються.

00:04:49.080 --> 00:04:51.400
Чому? Тому що їхні значення близькі.

00:04:51.580 --> 00:04:55.320
Ембединги для слів «бюджетний» і «доступний» розташовані поруч на цій карті.

00:04:55.320 --> 00:04:58.560
Спеціальна невелика модель, як от Azure Text Embedding – 3 Latch,

00:04:58.700 --> 00:04:59.640
створює ці ембединги.

00:04:59.800 --> 00:05:00.880
Це не гігантська мовна модель,

00:05:00.980 --> 00:05:03.980
це вузькоспеціалізований інструмент, який виконує одне завдання –

00:05:03.980 --> 00:05:06.000
перетворити текст на ці координатні числа.

00:05:06.200 --> 00:05:07.960
Саме це робить RIG таким потужним.

00:05:08.140 --> 00:05:11.240
Ваші документи перетворюються на ембединги один раз під час індексації.

00:05:11.240 --> 00:05:15.080
Потім, коли надходить запит, система за мілісекунди знаходить найбільш релевантний контент,

00:05:15.180 --> 00:05:18.220
навіть якщо точні слова користувача ніде в документах не зустрічаються.

00:05:18.220 --> 00:05:21.380
Вона розуміє намір, а не просто ключові слова, які ви вводите.

00:05:21.560 --> 00:05:24.160
Azure AI Search – механізм пошуку та отримання даних.

00:05:24.240 --> 00:05:25.960
Отже, тепер ви розумієте концепцію.

00:05:26.120 --> 00:05:27.880
Спочатку отримання, потім генерація.

00:05:28.000 --> 00:05:29.840
Але де насправді відбувається це отримання?

00:05:30.020 --> 00:05:32.120
Саме тут на допомогу приходить Azure AI Search.

00:05:32.120 --> 00:05:36.020
Azure AI Search – це служба, яка зберігає, індексує та отримує ваш контент.

00:05:36.180 --> 00:05:39.100
Уявіть це як систему зберігання файлів для вашої програми RIG.

00:05:39.380 --> 00:05:41.940
Вона виконує два основні завдання, давайте їх розглянемо.

00:05:42.020 --> 00:05:43.260
По-перше, індексація.

00:05:43.260 --> 00:05:45.140
Це підготовка ваших даних для пошуку.

00:05:45.280 --> 00:05:46.200
По-друге, пошук.

00:05:46.340 --> 00:05:49.520
Це безпосередньо знаходження потрібного контенту, коли хтось ставить запитання.

00:05:49.740 --> 00:05:51.740
Розглянемо спочатку процес індексації.

00:05:51.940 --> 00:05:55.100
Ви починаєте з того, що вказуєте Azure AI Search на джерело даних,

00:05:55.100 --> 00:05:57.700
яким може бути контейнер-блоб сховища з PDF-файлами,

00:05:57.840 --> 00:06:01.080
SQL-база даних із записами клієнтів або будь-яке інше джерело.

00:06:01.240 --> 00:06:04.900
Служба считує ці документи, розбиває їх на менші частини, звані чанками,

00:06:04.900 --> 00:06:08.500
створює векторні ембединги для кожного чанка за допомогою моделі ембедингу,

00:06:08.620 --> 00:06:11.840
про яку ми говорили раніше, і зберігає все це в пошуковому індексі.

00:06:11.980 --> 00:06:15.060
Уявіть індекс як величезний, добре впорядкований каталог.

00:06:15.060 --> 00:06:20.660
Кожен фрагмент контенту отримує унікальний ID, частину тексту та набір координат на цій карті значень.

00:06:20.800 --> 00:06:22.220
Тепер про процес пошуку.

00:06:22.360 --> 00:06:25.560
Коли користувач ставить запитання, AI Search перетворює його на вектор,

00:06:25.680 --> 00:06:28.700
використовуючи ту саму модель ембедингів, а потім сканує індекс,

00:06:28.700 --> 00:06:32.220
щоб знайти фрагменти, чиї координати найближчі до координат запитання.

00:06:32.420 --> 00:06:36.380
Система повертає найкращі результати, зазвичай від 5 до 10 найбільш релевантних,

00:06:36.460 --> 00:06:37.620
і робить це за мілісекунди.

00:06:37.620 --> 00:06:39.820
Тут ви отримуєте кілька потужних варіантів.

00:06:39.960 --> 00:06:41.860
Чистий векторний пошук знаходить контент за змістом,

00:06:41.940 --> 00:06:44.860
тому схожі концепції з'являються, навіть якщо точні слова не збігаються.

00:06:45.000 --> 00:06:47.640
Пошук за ключовими словами працює як традиційна пошукова система,

00:06:47.800 --> 00:06:49.000
знаходячи точні збіги слів.

00:06:49.000 --> 00:06:52.240
Або ви можете використати гібридний пошук, який поєднує обидва підходи,

00:06:52.300 --> 00:06:53.560
і це зазвичай найкращий вибір.

00:06:53.660 --> 00:06:56.640
Також існує семантичне переранжування, яке бере ці початкові результати

00:06:56.640 --> 00:06:59.960
та впорядковує їх на основі того, наскільки добре вони відповідають на запитання.

00:07:00.120 --> 00:07:03.360
Це як другий етап перевірки, що ловить те, що міг пропустити перший.

00:07:03.540 --> 00:07:06.620
Одне, що вам варто знати, Azure AI Search може бути дорогим.

00:07:06.800 --> 00:07:10.200
Базовий рівень коштує близько 75 доларів на місяць, і ціна зростає.

00:07:10.200 --> 00:07:12.840
Якщо ви лише експериментуєте, використовуйте безкоштовний рівень

00:07:12.840 --> 00:07:15.200
або переконайтеся, що видаляєте ресурси, коли закінчите.

00:07:15.320 --> 00:07:18.560
Проте для продуктивного використання ці витрати зазвичай виправдовують себе.

00:07:18.760 --> 00:07:21.140
Ви платите за швидкість та надійність у масштабі.

00:07:21.660 --> 00:07:25.240
Azure OpenAI плюс AI Foundry – генерація та оркестрація.

00:07:25.400 --> 00:07:27.740
Отже, ваші дані проіндексовані та готові до пошуку,

00:07:27.840 --> 00:07:31.680
але LLM все одно має зрозуміти ваше запитання та згенерувати ґрунтовну відповідь.

00:07:31.820 --> 00:07:34.820
Саме тут на допомогу приходять Azure OpenAI та Azure AI Foundry.

00:07:34.820 --> 00:07:40.820
Azure OpenAI надає безпосередньо мовну модель GPT-4O, GPT-4 або будь-яку іншу, яку ви оберете.

00:07:40.980 --> 00:07:42.580
Це і є генеративний рушій.

00:07:42.760 --> 00:07:46.180
Він отримує запит-промп, що містить як оригінальне запитання користувача,

00:07:46.260 --> 00:07:48.560
так і контекст, який знайшов Azure AI Search.

00:07:48.760 --> 00:07:52.120
Модель читає цей контекст і створює відповідь на основі знайденого.

00:07:52.300 --> 00:07:55.600
Однак не можна просто завантажити все підряд і сподіватися на найкращий результат.

00:07:55.760 --> 00:08:00.300
Вам потрібен системний промп, набір інструкцій, які ви надаєте моделі заздалегідь щодо того, як їй поводитися.

00:08:00.300 --> 00:08:05.100
Ви вказуєте їй використовувати лише наданий контекст, посилатися на джерела і, найголовніше, казати

00:08:05.100 --> 00:08:08.620
«Я не знаю, якщо релевантної інформації немає в отриманих документах».

00:08:08.620 --> 00:08:10.620
Це те, що змушує модель бути чесною.

00:08:10.740 --> 00:08:15.300
Без гарного системного промпту модель може звернутися до своїх тренувальних даних або, що гірше, вигадати щось від себе.

00:08:15.440 --> 00:08:17.760
Тож, як насправді поєднати всі ці елементи разом?

00:08:17.920 --> 00:08:19.840
Саме для цього існує Azure AI Foundry.

00:08:19.840 --> 00:08:24.420
Це портал, де ви створюєте проєкт, розгортаєте моделі, підключаєте джерела даних і тестуєте свого агента.

00:08:24.580 --> 00:08:27.460
Уявіть його як центр керування для всієї вашої системи RADG.

00:08:27.600 --> 00:08:33.300
У Foundry ви можете додати індекс Azure AI Search як джерело знань для свого агента без написання спеціального коду для базового налаштування.

00:08:33.460 --> 00:08:38.020
Ви просто створюєте підключення, вибираєте індекс, і агент може автоматично почати робити запити до нього.

00:08:38.200 --> 00:08:40.140
Портал бере на себе всю оркестрацію.

00:08:40.140 --> 00:08:47.660
Коли користувач ставить запитання, агент знає, що треба викликати AI Search, отримати відповідні фрагменти і передати їх до LLM разом із вихідним запитанням.

00:08:47.780 --> 00:08:48.940
Ось конкретний приклад.

00:08:49.120 --> 00:08:53.860
В одному посібнику, на який я натрапив, хтось створив агента для рекомендації фільмів, використовуючи набір даних Netflix.

00:08:54.120 --> 00:09:01.520
Вони завантажили CSV-файл із назвами фільмів, описами та інформацією про акторів у сховище Azure Blob, а потім використали Azure AI Search для індексації цих даних.

00:09:01.520 --> 00:09:06.680
В Azure AI Foundry вони створили агента з GPT-4O і підключили індекс AI Search.

00:09:06.680 --> 00:09:10.120
Коли користувач запитав «Я люблю трилери, порадьте щось цікаве».

00:09:10.120 --> 00:09:14.620
Агент здійснив пошук в індексі, знайшов трилери з цього конкретного набору даних і видав рекомендації.

00:09:14.800 --> 00:09:18.340
І ось головне, він рекомендував лише ті фільми, які насправді були в тому наборі даних.

00:09:18.480 --> 00:09:22.900
Він нічого не вигадував, не брав інформацію зі своїх тренувальних даних і працював виключно з наданим контентом.

00:09:23.020 --> 00:09:24.500
У цьому і полягає сила R.A.G.

00:09:24.680 --> 00:09:26.540
Класичний R.A.G. проти агентного R.A.G.

00:09:26.540 --> 00:09:28.320
Тепер давайте поговоримо про налаштування.

00:09:28.460 --> 00:09:30.840
Існує два основні підходи – класичний R.A.G. і агентний R.A.G.

00:09:30.980 --> 00:09:33.020
Який вибрати залежить від того, що саме ви створюєте.

00:09:33.160 --> 00:09:35.040
Класичний R.A.G. – це найпростіший підхід.

00:09:35.180 --> 00:09:38.080
Один запит надходить, один пошук виконується, одна відповідь виходить.

00:09:38.200 --> 00:09:39.820
Просто, швидко, передбачувано.

00:09:39.980 --> 00:09:44.020
Уявіть це як візит до стійки реєстрації в офісній будівлі з проханням надати один конкретний документ.

00:09:44.280 --> 00:09:46.660
Реєстратор бере його, віддає вам, і справу зроблено.

00:09:46.660 --> 00:09:50.380
Класичний R.A.G. чудово підходить для запитань і відповідей за однією темою, наприклад,

00:09:50.500 --> 00:09:52.420
яка політика компанії щодо віддаленої роботи.

00:09:52.520 --> 00:09:55.140
Або покажи мені кроки для вирішення цієї помилки.

00:09:55.300 --> 00:09:59.600
Це надійно, недорого і легко виправити, якщо щось піде не так, тому що процес лінійний.

00:09:59.760 --> 00:10:01.560
Агентний R.A.G. – інша справа.

00:10:01.700 --> 00:10:04.380
AI-агент сам вирішує, як отримувати інформацію.

00:10:04.520 --> 00:10:07.220
Він може ставити кілька підзапитань, шукати в різних індексах,

00:10:07.320 --> 00:10:10.560
опрацьовувати результати та синтезувати дані з різних джерел перед відповіддю.

00:10:16.660 --> 00:10:19.740
Він спілкується з відділом кадрів, перевіряє записи, порівнює політики,

00:10:19.820 --> 00:10:21.400
а потім повертається з повною відповіддю.

00:10:21.540 --> 00:10:24.500
Компанія Microsoft провела власні тести і виявила, що агентний R.A.G. покращує

00:10:24.500 --> 00:10:26.960
релевантність відповідей на складні запитання приблизно на 40%.

00:10:26.960 --> 00:10:30.760
Це суттєво, проте він використовує втричі в десятеро більше токенів і додає затримку.

00:10:30.940 --> 00:10:33.200
Для простих запитань ця додаткова робота є зайвою.

00:10:33.320 --> 00:10:35.260
Класичний R.A.G. чудово справляється з ними.

00:10:35.460 --> 00:10:36.840
Отже, коли що використовувати?

00:10:36.840 --> 00:10:40.480
Класичний для рутинних, масових запитів, де швидкість і вартість є найважливішими.

00:10:40.620 --> 00:10:43.820
Агентний для багатоетапних, неоднозначних або міждисциплінарних запитань,

00:10:43.920 --> 00:10:45.480
де точність варта додаткових обчислень.

00:10:45.620 --> 00:10:47.740
Розділ підключення – наскрізний приклад.

00:10:47.880 --> 00:10:50.940
Погляньмо, як усі ці частини поєднуються на реальному прикладі.

00:10:51.060 --> 00:10:54.600
Уявіть, що ви створюєте агента підтримки клієнтів для туристичного агентства

00:10:54.600 --> 00:10:55.680
Mary Bo Old Travels.

00:10:55.740 --> 00:10:59.060
У вас є брошури про подорожі, відгуки про готелі та документи з політикою,

00:10:59.060 --> 00:11:00.620
розкидані по всій організації.

00:11:00.780 --> 00:11:03.800
Ви хочете, щоб клієнти ставили запитання і отримували точні відповіді

00:11:03.800 --> 00:11:06.340
на основі вашого реального контенту, а не загальних припущень.

00:11:06.500 --> 00:11:10.060
Крок перший – збережіть весь цей контент у сховищі Azure Blob Storage.

00:11:10.260 --> 00:11:14.640
Брошури в одній папці, відгуки в іншій, політики в третій, просто файли в контейнері.

00:11:14.780 --> 00:11:18.100
Крок другий – використайте Azure AI Search для індексації цих даних,

00:11:18.100 --> 00:11:22.500
запустивши майстер імпорту даних, вказавши на сховище Blob і дозволивши системі працювати.

00:11:22.500 --> 00:11:28.200
Сервіс считує кожен документ, розбиває їх на частини, створює векторні вкладення та будує індекс для пошуку.

00:11:28.380 --> 00:11:30.200
Весь процес займає кілька хвилин.

00:11:30.340 --> 00:11:33.520
Крок третій – зайдіть в Azure AI Foundry і створіть агента.

00:11:33.700 --> 00:11:39.320
Розгорніть GPT-4O як свою модель, напишіть системний промп, який наказує використовувати лише наданий контекст

00:11:39.320 --> 00:11:42.960
і цитувати джерела, а потім підключіть індекс Azure AI Search як джерело знань.

00:11:43.080 --> 00:11:44.440
Кілька кліків і готово.

00:11:44.560 --> 00:11:48.740
Тепер клієнт запитує, який готель у Дубаї має найкращі відгуки та коштує менше, ніж 300 доларів.

00:11:48.740 --> 00:11:51.860
Агент отримує запитання і надсилає його до Azure AI Search.

00:11:52.000 --> 00:11:56.600
Azure AI Search перетворює його на вектор і знаходить найбільш релевантні фрагменти з ваших відгуків і брошур.

00:11:56.700 --> 00:12:00.480
Ці фрагменти передаються до GPT-4O разом із початковим запитанням.

00:12:00.640 --> 00:12:05.460
Модель вивчає їх, визначає найкращий збіг і генерує відповідь із посиланнями на ваші вихідні документи.

00:12:05.620 --> 00:12:06.260
Ось у чому річ.

00:12:06.400 --> 00:12:08.280
LLM ніколи не запам'ятовувала ці дані.

00:12:08.440 --> 00:12:10.640
Вона ніколи не навчалася на ваших відгуках про готелі.

00:12:10.760 --> 00:12:13.060
Вона щоразу працює саме з вашим конкретним контентом.

00:12:18.740 --> 00:12:19.760
Агент отримує перенавчання.

00:12:19.960 --> 00:12:21.960
Їй потрібен лише правильний рівень пошуку даних.

00:12:22.040 --> 00:12:24.000
Тож, як почати будувати RIG на Azure?

00:12:24.220 --> 00:12:25.920
Давайте розділимо це на три кроки.

00:12:26.220 --> 00:12:27.860
Найперше, вивчіть свої дані.

00:12:27.980 --> 00:12:33.200
Перш ніж обирати сервіс, визначте, де зберігається ваш контент, як він організований і хто повинен мати до нього доступ.

00:12:33.400 --> 00:12:35.920
Якість RIG залежить виключно від якості ваших даних.

00:12:36.080 --> 00:12:37.240
Далі, не ускладнюйте.

00:12:37.400 --> 00:12:39.100
Не робіть налаштування надто складними.

00:12:39.100 --> 00:12:43.000
Використовуйте майстер імпорту даних в Azure AI Search, щоб індексувати лише один набір документів.

00:12:43.120 --> 00:12:44.660
Протестуйте на базових запитах.

00:12:44.860 --> 00:12:48.000
Переконайтеся, що пошук працює ідеально, перш ніж додавати LLM.

00:12:48.200 --> 00:12:50.400
Більшість збоїв RIG – це не проблеми моделі.

00:12:50.540 --> 00:12:52.040
Це проблеми пошуку даних.

00:12:52.140 --> 00:12:53.820
Останній крок – додайте LLM.

00:12:53.960 --> 00:12:57.100
Коли пошук повертає правильні результати, тоді додавайте генерацію.

00:12:57.100 --> 00:13:00.180
Саме тоді ви підключаєте Azure OpenA и пишете системный промп.

00:13:00.320 --> 00:13:02.780
Справа в тому, що RIG – це не те, що можна купити.

00:13:02.780 --> 00:13:04.520
Це шаблон, який ви будуєте.

00:13:04.680 --> 00:13:09.020
Azure надає вам елементи сховище, пошук, моделі та клей, щоб їх поєднати.

00:13:09.200 --> 00:13:11.580
Вам просто потрібно правильно скласти все це разом.

00:13:11.760 --> 00:13:15.420
Якщо це допомогло вам побачити загальну картину, підпишіться на розбори простими словами.

00:13:15.580 --> 00:13:17.680
Напишіть у коментарях свій варіант використання RIG.

00:13:17.880 --> 00:13:19.560
Мені цікаво дізнатися, що ви створюєте.
