WEBVTT

00:00:00.260 --> 00:00:05.220
Індустрія продала нам міф. Нам казали, що ембеддінги – це панацея для корпоративного інтелекту.

00:00:05.340 --> 00:00:10.800
Ви побудували векторну базу даних, завантажили документи, витратили бюджет, але галюцинації не припинилися.

00:00:10.980 --> 00:00:14.660
Насправді математична схожість – це не те саме, що бізнес-релевантність.

00:00:14.820 --> 00:00:16.480
Ми потрапили в пастку ТОПК.

00:00:16.660 --> 00:00:21.060
Це той момент, коли ваш копілот витягує найбільш схожу точку даних у багатовимірному просторі,

00:00:21.160 --> 00:00:24.080
яка виявляється абсолютно помилковою для конкретного завдання,

00:00:24.240 --> 00:00:27.700
бо у 2026 році близькість – це дешевий замінник істини.

00:00:30.000 --> 00:00:35.400
Це не тому, що ЩІ дурний. Це тому, що ваша стратегія пошуку побудована на ілюзії.

00:00:35.580 --> 00:00:38.180
Це структурна невдача чистих векторних моделей.

00:00:38.440 --> 00:00:42.320
Векторний пошук – це базовий рівень в архітектурі сучасної системи ЩІ.

00:00:42.480 --> 00:00:46.440
Це фундамент стека, а не пентхаус, але ми ставилися до нього як до мозку.

00:00:46.820 --> 00:00:51.100
Фундаментальний недолік багатовимірних ембеддінгів у тому, що вони за своєю суттю є нечіткими.

00:00:51.320 --> 00:00:53.380
Вони відображають поняття як координати.

00:00:53.380 --> 00:00:58.040
Це чудово працює, коли ви шукаєте загальні теми або настрої, але робота не відбувається у світі абстракцій.

00:00:58.180 --> 00:01:00.000
Робота відбувається у світі конкретики.

00:01:00.160 --> 00:01:02.040
І саме тут чиста векторна модель ламається.

00:01:02.220 --> 00:01:04.280
Вектори погано справляються з точними термінами.

00:01:04.460 --> 00:01:08.700
Згадайте коди товарів, артикули, юридичну термінологію, назви внутрішніх проєктів.

00:01:08.880 --> 00:01:13.720
Для векторної моделі проєкт «Фенікс» і проєкт «Жар-птиця» можуть виглядати математично ідентичними,

00:01:13.720 --> 00:01:18.580
бо вони в одному семантичному кластері, але для вашого фінансового відділу це два абсолютно різні бюджети.

00:01:18.740 --> 00:01:23.820
Коли ви покладаєтеся лише на щільні ембеддінги, ви, по суті, просите ще вгадувати на основі сусідства.

00:01:24.000 --> 00:01:26.980
Результат – 27% помилок у бізнес-результатах.

00:01:27.100 --> 00:01:28.720
Це не просто технічний показник.

00:01:28.880 --> 00:01:33.680
Цей рівень помилок означає 1,8 години марно витраченого часу кожного працівника щотижня.

00:01:33.840 --> 00:01:36.600
Люди використовують копілот не для того, щоб працювати швидше.

00:01:36.600 --> 00:01:42.020
Вони використовують його для створення черниток на перевірку фактів, у яких потім витрачають 2 години, бо дані пошуку були шумними.

00:01:42.120 --> 00:01:44.860
У нас криза точності, і це не проблема великих мовних моделей.

00:01:45.040 --> 00:01:49.440
Ви не виправите це переходом з GPT-4 на GPT-5 або збільшенням вікна контексту.

00:01:49.560 --> 00:01:51.140
Це проблема інженерії пошуку.

00:01:51.320 --> 00:01:52.820
Ми зробили величезне припущення.

00:01:52.980 --> 00:01:55.200
Ми вважали, що математика впорається з контекстом.

00:01:55.340 --> 00:02:00.860
Ми думали, що якщо перетворити кожен документ на список чисел, зв'язки з'являться самі, але контекст структурний.

00:02:00.860 --> 00:02:02.500
Він не лише імовірнісний.

00:02:02.500 --> 00:02:11.120
У корпоративному середовищі значення документа полягає не лише у словах, а й у метаданих, дозволах та конкретних версіях, які векторна модель повністю ігнорує.

00:02:11.260 --> 00:02:16.880
Коли ви шукаєте новітню політику подорожей, векторний пошук знаходить той документ, який найбільше схожий на політику подорожей.

00:02:17.060 --> 00:02:19.860
Він не обов'язково знаходить той, що був затверджений учора.

00:02:20.040 --> 00:02:21.820
Він знаходить найбільш схожий варіант.

00:02:21.980 --> 00:02:27.060
І якщо найбільш схожим виявиться версія 2022 року через більш описовий текст, саме це отримає ваша ЛЛМ.

00:02:27.060 --> 00:02:31.580
Тоді ще скаже вашому працівнику, що можна бронювати бізнес-клас, хоча нова політика дозволяє лише економ.

00:02:31.760 --> 00:02:34.560
Це галюцинація, спричинена неякісним обґрунтуванням даних.

00:02:34.680 --> 00:02:37.380
Модель не збрехала, вона просто підсумувала не той набір чисел.

00:02:37.520 --> 00:02:42.040
Ось що стається, коли ви використовуєте модель, створену для пошуку, намагаючись застосувати її для точності.

00:02:42.160 --> 00:02:48.440
Векторний пошук чудово знаходить голку в стозі сіна, якщо вам байдуже, яку саме голку отримати, але в бізнесі є лише одна правильна голка.

00:02:48.440 --> 00:02:50.240
Інші 9 – це лише ризики.

00:02:50.420 --> 00:02:53.180
Ми досягли межі того, що може дати чиста схожість.

00:02:53.320 --> 00:02:57.860
Якщо ми хочемо досягти того порогу точності в 99%, якого вимагають регульовані галузі,

00:02:57.960 --> 00:03:02.060
ми повинні перестати сприймати пошук як математичну задачу і почати сприймати його як редакторську.

00:03:02.180 --> 00:03:08.140
Нам потрібно відійти від думки, що досить близько є прийнятним для системи, яка має підтримувати прийняття управлінських рішень.

00:03:08.300 --> 00:03:13.620
Бо зараз результати топкей, які ви згодовуєте своєму копілоту, це лише набір математично пов'язаного шуму.

00:03:13.620 --> 00:03:17.240
Ви просите механізм логічного виведення побудувати дім на піщаному фундаменті.

00:03:17.360 --> 00:03:19.280
А потім дивуємося, чому дах протікає.

00:03:19.400 --> 00:03:24.480
Перехід від 2025 до 2026 року – це усвідомлення того, що ембединги є лише відправною точкою.

00:03:24.620 --> 00:03:25.960
Вони – це стопка, можливо.

00:03:26.200 --> 00:03:28.720
Щоб перейти до стопки, так нам потрібна інша логіка.

00:03:28.880 --> 00:03:31.880
Нам потрібно повернути саме те, що, як ми думали, замінять ембединги.

00:03:32.040 --> 00:03:34.720
Нам потрібна структура, нам потрібні лексичні якірні точки.

00:03:34.720 --> 00:03:39.620
І найголовніше – нам потрібен наглядач, який розуміє різницю між схожою відповіддю і правильною.

00:03:39.760 --> 00:03:45.660
Без цього ваш RIG-проєкт – це не інтелектуальний інструмент, а просто дуже дорогий і дуже швидкий спосіб помилятися.

00:03:46.200 --> 00:03:49.960
Але тут модель ламається, бо схожість – це дешевий замінник істини.

00:03:50.260 --> 00:03:52.640
Це сусідство – небезпечне місце для життя.

00:03:52.820 --> 00:04:00.520
Ми занадто довго покладалися на ці щільні кластери, припускаючи, що якщо речі знаходяться поруч у векторному просторі, вони мають бути пов'язані бізнес-логікою, але це не так.

00:04:00.520 --> 00:04:03.280
Схожість – це лише відображення моделей, вживання слів.

00:04:03.400 --> 00:04:10.040
Це дешевий замінник істини, і у 2026 році модель ламається, бо ми перестали шукати схожі речі і почали потребувати перевірених.

00:04:10.160 --> 00:04:13.760
Коли ви переходите від пілотного проєкту до промислового середовища, ставки зростають.

00:04:13.960 --> 00:04:15.320
Замінника вже недостатньо.

00:04:15.460 --> 00:04:19.040
Вам потрібно щось, що повернеші до реальної мови вашої організації.

00:04:19.240 --> 00:04:23.300
Вам потрібна точність, яку ми випадково втратили, коли повністю перейшли на ембедінги.

00:04:23.480 --> 00:04:26.440
Гібридний стандарт, чому BM25 досі має значення.

00:04:26.440 --> 00:04:30.260
Якщо поглянути на виробничий стандарт 2026 року, ландшафт змінився.

00:04:30.400 --> 00:04:32.860
Ми більше не говоримо про експериментальні векторні сховища.

00:04:32.980 --> 00:04:34.560
Ми говоримо про гібридний стандарт.

00:04:34.760 --> 00:04:36.100
Дані говорять самі за себе.

00:04:36.300 --> 00:04:40.760
72% успішних корпоративних пошукових систем відмовилися від суто-векторного пошуку.

00:04:40.940 --> 00:04:45.780
Вони впровадили двоканальну систему, що поєднує зміст векторів із точністю зіставлення ключових слів.

00:04:45.940 --> 00:04:48.520
Зокрема, вони повернули алгоритм BM25.

00:04:48.520 --> 00:04:54.000
Для тих, хто не провів 20 років у розробці пошукових систем, BM25 – це класичний метод розрідженого пошуку.

00:04:54.140 --> 00:04:56.300
Це логіка, яка шукає точні збіги слів.

00:04:56.420 --> 00:05:01.780
Це старий підхід, який, як ми думали, в б'юті ембедінги, але виявилося, що старий спосіб єдине, що тримає новий у тонусі.

00:05:01.900 --> 00:05:04.400
Коли ви поєднуєте ці два методи, стається дещо цікаве.

00:05:04.520 --> 00:05:07.860
Ви отримуєте приріст повноти пошуку RACOL на 17% по всьому набору даних.

00:05:07.860 --> 00:05:13.860
Ці 17% – це різниця між тим, як співробітник знаходить відповідь за 10 секунд або, здається, після трьох невдалих запитів.

00:05:13.980 --> 00:05:18.920
Подумайте, що стається, коли ви перестаєте ігнорувати конкретні слова, які вводять ваші користувачі.

00:05:19.060 --> 00:05:26.820
У сутовекторній системі, якщо користувач вводить форма 10К 2025, модель може надати пріоритет загальній статті про фінансову звітність,

00:05:26.940 --> 00:05:32.440
бо загальний зміст схожий, але з BM25 система бачить саме цей рядок 10К і 2025.

00:05:33.020 --> 00:05:36.760
Вона розпізнає, що це не просто поняття. Це лексичні якорі.

00:05:36.760 --> 00:05:43.600
Гібридний пошук дозволяє системі сказати «Я розумію, що вас цікавлять фінансові звіти, але я також бачу, що ви шукали саме цей документ».

00:05:43.600 --> 00:05:46.160
Це вирішує проблему запитів поза межами знань моделі.

00:05:46.300 --> 00:05:49.420
Це найбільша перешкода для будь-якої попередньо навченої моделі ембедінгів.

00:05:49.580 --> 00:05:53.220
Ваша векторна модель, швидше за все, навчалася на загальному корпусі інтернет-текстів.

00:05:53.400 --> 00:05:57.200
Вона знає, що таке контракт, але не знає специфічного жаргону вашої галузі.

00:05:57.200 --> 00:06:01.000
Вона не розуміє внутрішніх абревіатур, які використовує ваш інженерний відділ.

00:06:01.140 --> 00:06:05.040
Вона не бачила внутрішніх скорочень, якими ваша логістична команда описує затримки поставок.

00:06:05.160 --> 00:06:07.640
Для загальної моделі ембедінгів ці слова – просто шум.

00:06:07.800 --> 00:06:09.300
Вони поза межами її знань.

00:06:09.440 --> 00:06:11.700
Але для BM25 ці слова – сигнали.

00:06:11.940 --> 00:06:16.460
Запускаючи пошук за ключовими словами разом із векторним пошуком, ви створюєте запобіжний механізм.

00:06:16.620 --> 00:06:20.880
Ви гарантуєте, що якщо користувач вводить специфічний термін, якого модель не розуміє,

00:06:20.880 --> 00:06:24.080
система все одно знайде документ на основі дослівного тексту.

00:06:24.220 --> 00:06:26.840
Саме так ви досягаєте порогу точності 0,8.

00:06:27.040 --> 00:06:30.440
У 2025 році ми були задоволені, якщо ші був правий здебільшого.

00:06:30.600 --> 00:06:33.800
У 2026 році 80% точності – це мінімальний поріг для входу.

00:06:33.920 --> 00:06:35.700
Гібридний підхід – перший крок до цієї мети.

00:06:35.860 --> 00:06:37.500
Йдеться про те, щоб закріпити ші в реальності.

00:06:37.640 --> 00:06:39.260
Сприймайте це як систему подвійної перевірки.

00:06:39.380 --> 00:06:40.880
Векторний шлях відповідає за намір.

00:06:41.040 --> 00:06:42.440
Що саме вони намагаються зробити.

00:06:42.440 --> 00:06:44.600
Шлях за ключовими словами відповідає за факти.

00:06:44.600 --> 00:06:46.320
Що саме вони насправді сказали.

00:06:46.480 --> 00:06:48.360
Коли обидва шляхи погоджуються щодо документа,

00:06:48.460 --> 00:06:50.160
ви маєте кандидата з високим рівнем довіри.

00:06:50.300 --> 00:06:52.980
Коли вони не згодні – це сигнал, що потрібна додаткова обробка.

00:06:53.140 --> 00:06:55.500
Але навіть з цим гібридним підходом у нас все ще є проблема.

00:06:55.680 --> 00:06:57.240
Ви покращили можливий список.

00:06:57.380 --> 00:07:00.540
Ви перейшли від 78% до 91% повноти пошуку.

00:07:00.700 --> 00:07:02.240
Ви знаходите більше правильних речей,

00:07:02.380 --> 00:07:04.520
але все ще передаєте ЛЛМ купу кандидатів.

00:07:04.520 --> 00:07:06.720
І якщо ви колись бачили набір результатів пошуку,

00:07:06.800 --> 00:07:08.800
то знаєте, що топ-10 часто є безладом.

00:07:08.800 --> 00:07:11.520
У вас може бути ідеальна відповідь на четвертій позиції.

00:07:11.720 --> 00:07:13.580
Але на першій позиції у вас документ,

00:07:13.680 --> 00:07:16.220
де ключове слово просто повторюється 20 разів.

00:07:16.340 --> 00:07:18.200
Або документ, який є математично схожим,

00:07:18.300 --> 00:07:20.360
але абсолютно неактуальним для поточного року.

00:07:20.540 --> 00:07:22.540
Гібридний пошук дає вам частини пазла.

00:07:22.720 --> 00:07:24.920
Він не обов'язково складає цей пазл докупи.

00:07:25.060 --> 00:07:27.700
Ми припускаємо, що якби ми дали ЛЛМ 5 найкращих результатів,

00:07:27.700 --> 00:07:29.760
вона була б достатньо розумною, щоб вибрати правильний.

00:07:29.860 --> 00:07:32.420
Але ЛЛМ вразливі до документів відволікачів.

00:07:32.420 --> 00:07:35.500
Якщо перший результат – це дуже довгий, впевнений на вигляд документ,

00:07:35.580 --> 00:07:36.740
який насправді помилковий,

00:07:36.840 --> 00:07:38.960
ЛЛМ часто надасть пріоритет цій інформації

00:07:38.960 --> 00:07:41.480
над правильною, коротшою відповіддю на третій позиції.

00:07:41.660 --> 00:07:43.700
Це феномен загубленого посередині.

00:07:43.820 --> 00:07:46.400
Порядок інформації визначає якість відповіді.

00:07:46.540 --> 00:07:49.640
Отже, хоча гібридний пошук – це база, це не остаточна відповідь.

00:07:49.760 --> 00:07:51.020
Це система фільтрації.

00:07:51.020 --> 00:07:53.600
Вона скорочує мільйон документів до 50-х.

00:07:53.700 --> 00:07:55.880
Але 50 документів – це все ще забагато шуму

00:07:55.880 --> 00:07:57.420
для прийняття важливих бізнес-рішень.

00:07:57.420 --> 00:07:59.680
Ви все ще просто дивитесь на купу кандидатів.

00:07:59.840 --> 00:08:02.220
Ви зрушили справу з місця, але не подолали прірву.

00:08:02.380 --> 00:08:04.020
Щоб досягти точності 0,9,

00:08:04.360 --> 00:08:06.100
необхідної в охороні здоров'я та фінансах,

00:08:06.220 --> 00:08:07.780
не можна зупинятися на етапі пошуку.

00:08:07.900 --> 00:08:09.360
Потрібно додати рівень міркувань,

00:08:09.460 --> 00:08:11.140
перш ніж дані потраплять до ЛЛМ.

00:08:11.300 --> 00:08:13.360
Вам потрібен наглядач, який зможе переглянути

00:08:13.360 --> 00:08:15.860
ці 50 кандидатів і ранжувати їх на основі логіки,

00:08:15.860 --> 00:08:17.400
а не просто частоти чи координат.

00:08:17.480 --> 00:08:19.140
Бо зараз навіть з гібридним пошуком

00:08:19.140 --> 00:08:20.580
ваш копілот все ще вгадує.

00:08:20.580 --> 00:08:23.000
Просто він робить значно більш обґрунтовані припущення,

00:08:23.160 --> 00:08:23.620
ніж раніше.

00:08:23.760 --> 00:08:25.200
Ми вирішили проблему пошуку.

00:08:25.340 --> 00:08:27.320
Тепер ми маємо вирішити проблему ранжування.

00:08:27.500 --> 00:08:30.080
І це вимагає абсолютно іншого архітектурного рівня.

00:08:30.280 --> 00:08:31.540
Навіть із гібридним пошуком

00:08:31.540 --> 00:08:33.520
ви все одно бачите лише купу кандидатів.

00:08:33.680 --> 00:08:34.940
Вам потрібен наглядач.

00:08:35.080 --> 00:08:36.600
Проблема гібридної моделі в тому,

00:08:36.760 --> 00:08:38.300
що вона не має власної думки.

00:08:38.300 --> 00:08:41.120
Вона створює список на основі двох різних систем оцінювання,

00:08:41.240 --> 00:08:43.180
які не зовсім розмовляють однією мовою.

00:08:43.180 --> 00:08:45.400
Ви поєднуєте координати векторного простору

00:08:45.400 --> 00:08:47.500
з частотними оцінками індексу ключових слів.

00:08:47.620 --> 00:08:50.060
Результатом є зведений список із 50 найкращих,

00:08:50.160 --> 00:08:51.620
який технічно кращий за попередній,

00:08:51.720 --> 00:08:52.940
але фундаментально не перевірений.

00:08:53.080 --> 00:08:54.260
Це як рекрутингова агенція,

00:08:54.360 --> 00:08:55.680
що нацилає вам 50 резюме,

00:08:55.800 --> 00:08:56.720
навіть не прочитавши їх.

00:08:56.880 --> 00:08:58.240
Вони відфільтрували за ключовими словами

00:08:58.240 --> 00:08:59.020
та загальним досвідом,

00:08:59.100 --> 00:08:59.680
але не перевірили,

00:08:59.740 --> 00:09:01.340
чи здатна людина насправді виконувати роботу.

00:09:01.340 --> 00:09:04.000
У конвоєрі RAD ваша LLM – це менеджер знайму.

00:09:04.000 --> 00:09:06.180
Якщо ви дасте цьому менеджеру 50 резюме,

00:09:06.300 --> 00:09:07.240
він буде перевантажений.

00:09:07.420 --> 00:09:08.520
Він кине оком на перші три,

00:09:08.640 --> 00:09:10.220
відволічиться на гарно оформлену брехню

00:09:10.220 --> 00:09:11.340
і зробить невдалий вибір.

00:09:11.500 --> 00:09:12.180
Щоб це виправити,

00:09:12.280 --> 00:09:13.720
ми маємо перестати сприймати пошук

00:09:13.720 --> 00:09:14.760
як одноетапний процес.

00:09:14.940 --> 00:09:16.740
Нам потрібно запровадити вторинний рівень,

00:09:16.900 --> 00:09:18.020
який діятиме як фільтр,

00:09:18.160 --> 00:09:19.780
бо зараз ви надаєте невідповідь.

00:09:19.920 --> 00:09:21.320
Ви даєте домашнє завдання,

00:09:21.320 --> 00:09:23.580
а ваш шість створений не для виконання домашніх завдань.

00:09:23.700 --> 00:09:24.920
Він створений для міркувань.

00:09:25.060 --> 00:09:26.660
Якщо ви хочете, щоб він міркував правильно,

00:09:34.000 --> 00:09:38.380
саме тут ми впроваджуємо переранжувальник L2.

00:09:38.580 --> 00:09:42.080
В архітектурі 2026 року це обов'язковий вторинний рівень.

00:09:42.260 --> 00:09:44.480
Він діє як редактор ваших результатів пошуку.

00:09:44.620 --> 00:09:47.020
Подумайте про робочий процес, який ми вже побудували.

00:09:47.180 --> 00:09:49.900
Спочатку гібридний пошук вибирає широке коло кандидатів.

00:09:49.900 --> 00:09:51.140
Він швидкий та ефективний,

00:09:51.260 --> 00:09:52.980
сканує мільйони документів за мілі секунди,

00:09:53.080 --> 00:09:54.160
але він також поверхневий.

00:09:54.440 --> 00:09:55.900
Переранжувальник L2 – це повна протилежність.

00:09:56.620 --> 00:09:57.900
Він не переглядає мільйони документів.

00:09:58.580 --> 00:10:00.400
Він дивиться лише на 50 найкращих,

00:10:00.400 --> 00:10:03.860
але з такою глибиною, якої початковий рівень пошуку ніколи не досягне.

00:10:04.000 --> 00:10:08.040
Зокрема, в екосистемі Microsoft ми говоримо про моделі «Похідні від бін».

00:10:08.040 --> 00:10:10.300
Це трансформери з механізмом крос-уваги.

00:10:10.420 --> 00:10:12.460
На відміну від початкового векторного пошуку,

00:10:12.580 --> 00:10:15.580
що порівнює запит із попередньо обчисленим вкладенням документа,

00:10:15.700 --> 00:10:18.360
переранжувальник розглядає запит і документ одночасно.

00:10:18.500 --> 00:10:21.500
Він проводить глибоке семантичне порівняння самого тексту.

00:10:21.680 --> 00:10:24.920
Він більше не дивиться просто на координати у багатовимірному просторі.

00:10:25.040 --> 00:10:26.660
Він виконує глибоке осмислення,

00:10:26.660 --> 00:10:30.380
щоб зрозуміти, чи справді документ містить відповідь на поставлене запитання.

00:10:30.540 --> 00:10:34.340
Саме тут ми бачимо, як вступає в гру оцінка переранжувальника пошуку.

00:10:34.540 --> 00:10:38.500
Ця оцінка відрізняється від показників подібності, які ви бачите на першому рівні.

00:10:38.640 --> 00:10:41.780
Оцінка подібності каже вам, цей документ математично близький.

00:10:41.920 --> 00:10:45.480
Оцінка переранжувальника каже, цей документ відповідає наміру користувача.

00:10:45.660 --> 00:10:47.800
Вона зміщує акцент з питання, чи це близько.

00:10:47.960 --> 00:10:50.000
На питання, чи відповідає це на запитання.

00:10:50.000 --> 00:10:52.860
Ця відмінність – єдиний спосіб вижити в регульованих галузях.

00:10:53.020 --> 00:10:56.780
Якщо ви у сфері фінансів, охорони здоров'я чи права, точність 0,8 – це провал.

00:10:56.900 --> 00:10:59.060
Вам потрібно 0,9 або вище.

00:10:59.240 --> 00:11:03.160
Ви не можете досягти такого рівня точності за допомогою одноступеневого процесу пошуку.

00:11:03.560 --> 00:11:07.740
Переранжувальник – це те, що дозволяє перейти від «майже правильно» до корпоративного рівня.

00:11:07.920 --> 00:11:11.680
Він вирішує найпоширенішу проблему в RIG – помилку неправильного порядку.

00:11:11.860 --> 00:11:15.180
У стандартному пошуку ідеальна відповідь може бути на восьмій позиції,

00:11:15.180 --> 00:11:19.880
але через недостатню щільність ключових слів або нечітке вбудовування вона не потрапила в топ.

00:11:19.980 --> 00:11:23.400
LLM, будучи лінивою, фокусується на перших трьох результатах.

00:11:23.580 --> 00:11:28.120
Вона пропускає істину на восьмій позиції і генерує галюцинацію на основі шуму з першої позиції.

00:11:28.520 --> 00:11:29.760
Переранжувальник це зупиняє.

00:11:29.940 --> 00:11:33.360
Він бере ту ідеальну відповідь з восьмої позиції та переносить її на першу.

00:11:33.500 --> 00:11:36.160
Він визначає, що хоча в першому документи більше ключових слів,

00:11:36.160 --> 00:11:39.640
восьмий документ містить справжню семантичну суть, необхідну для задоволення запиту.

00:11:39.640 --> 00:11:44.420
Цей перехід від пошуку до ранжування – найважливіша архітектурна зміна, яку ви можете зробити цього року.

00:11:44.560 --> 00:11:47.960
Ми повинні перестати бути одержимими кількістю інформації, яку можемо знайти.

00:11:48.120 --> 00:11:51.700
Ми повинні почати бути одержимими порядком, у якому ця інформація подається,

00:11:51.820 --> 00:11:54.380
тому що порядок інформації важливіший за її обсяг.

00:11:54.500 --> 00:11:58.300
Якщо правильна відповідь лежить на дні купи, її можна вважати такою, що не існує.

00:11:58.640 --> 00:12:01.100
Переранжувальник гарантує, що істина завжди буде нагорі.

00:12:01.220 --> 00:12:03.380
Але справа не лише в переміщенні документів.

00:12:03.380 --> 00:12:06.660
Рівень L2 також надає семантичні заголовки та виділення.

00:12:06.820 --> 00:12:11.240
Він визначає конкретні дослівні речення в документи, які є найбільш релевантними.

00:12:11.480 --> 00:12:13.220
Це дає LLM-шпаргалку.

00:12:13.460 --> 00:12:17.740
Замість того, щоб просити модель прочитати 10-сторінковий PDF і шукати голку,

00:12:17.880 --> 00:12:21.880
переранжувальник вказує прямо на голку і каже «Прочитай саме ці три речення».

00:12:21.880 --> 00:12:24.380
Це зменшує когнітивне навантаження на LLM.

00:12:24.520 --> 00:12:29.120
Це мінімізує ризик того, що модель відволікатиметься на нерелевантний контекст в інших частинах документа.

00:12:29.120 --> 00:12:32.500
Це різниця між тим, щоб дати комусь книжку або виділений абзац.

00:12:32.620 --> 00:12:35.620
Як ви думаєте, що призводить до швидшої та точнішої відповіді?

00:12:35.760 --> 00:12:38.640
У 2026 році саме так ми долаємо розрив у довірі.

00:12:38.760 --> 00:12:43.760
Користувачі перестають довіряти Coopilot, коли він дає їм три часткові відповіді та пропускає ту саму єдиноправильну.

00:12:43.900 --> 00:12:48.080
Реранкер – це інструмент, який гарантує, що найточніша відповідь завжди буде першою, яку бачить користувач.

00:12:48.240 --> 00:12:50.060
Він діє як фінальний фільтр істини.

00:12:50.240 --> 00:12:53.300
Він скорочує прірву між сирими даними та корисною аналітикою.

00:12:53.300 --> 00:12:55.700
Однак ми повинні чесно говорити про компроміси.

00:12:55.820 --> 00:12:57.780
Такий рівень точності не дається задарма.

00:12:57.920 --> 00:13:02.540
Коли ви переходите від простого математичного пошуку до ранжування на основі логічних висновків, економіка вашої системи змінюється.

00:13:02.720 --> 00:13:04.440
Ви додаєте обчислювальні потужності.

00:13:04.600 --> 00:13:05.780
Ви додаєте затримку.

00:13:05.900 --> 00:13:09.220
А в хмарному середовищі, як отежур, ви додаєте прямі витрати.

00:13:09.440 --> 00:13:15.780
Якщо ви не керуєте цим рівнем належним чином, здобута точність буде знівелювана рахунком за інфраструктуру в кінці місяця.

00:13:15.780 --> 00:13:24.460
Ми повинні розуміти економіку точності, бо в бізнесі ідеальна відповідь за 10 доларів часто менш цінна, ніж достатньо добра відповідь за 10 центів.

00:13:24.600 --> 00:13:30.880
Виклик 2026 року – це балансування між потребою в точності 0,9 та реальністю обмеженого бюджету.

00:13:31.080 --> 00:13:36.060
Вам потрібен наглядач, але ви також маєте переконатися, що він не є найдорожчим працівником у компанії.

00:13:36.220 --> 00:13:41.340
Але ця точність має ціну, і якщо ви не керуєте інфраструктурою, окупність інвестицій зникає.

00:13:41.340 --> 00:13:48.120
Перехід до багатоетапної архітектури пошуку створює фундаментальну напругу між якістю відповіді та сталістю бюджету.

00:13:48.340 --> 00:13:54.700
Ми досягли моменту, коли технічна можливість точності 0,9 є реальною, але про фінансову доцільність часто забувають.

00:13:54.840 --> 00:13:58.520
На початкових етапах RIG ми зосереджувалися на підтвердженні роботоздатності концепції.

00:13:58.720 --> 00:14:01.400
Ми не переймалися вартістю запиту, бо обсяги були низькими.

00:14:01.400 --> 00:14:05.560
Але коли ви маштабуєтеся від 10 до 10 тисяч користувачів, математика змінюється.

00:14:05.560 --> 00:14:11.120
Вторинний рівень логічних висновків, який робить систему надійною, також може зробити її надмірно дорогою.

00:14:11.260 --> 00:14:17.520
Оскільки в бізнесі точність – це предмет розкоші, і якщо ви не спроєктували інфраструктуру для підтримки цієї розкоші,

00:14:17.660 --> 00:14:22.600
ваш проєкт поглине власну окупність ще до того, як принесе, бодай, долар відчутної користі.

00:14:23.560 --> 00:14:26.220
Економіка точності, продуктивність проти витрат

00:14:26.220 --> 00:14:31.540
Реальність стандартного рівня вежу AI Search полягає в тому, що семантичне ранжування – це платна послуга.

00:14:31.720 --> 00:14:35.600
Ви не можете просто натиснути перемикач і очікувати, що ваш поточний бюджет залишиться незмінним.

00:14:35.760 --> 00:14:40.840
Коли ви вмикаєте функціонал оцінки переранжування, ви залишаєте світ фіксованих витрат на пошукові одиниці

00:14:40.840 --> 00:14:43.760
та переходите у світ виставлення рахунків залежно від запитів.

00:14:43.900 --> 00:14:45.340
Давайте подивимося на цифри.

00:14:45.340 --> 00:14:50.160
Для помірного обсягу запитів, скажімо, 50 тисяч пошуків на місяць для набору даних на 20 гігабайтів,

00:14:50.160 --> 00:14:52.800
ви отримаєте щомісячні витрати від 300 до 800 доларів.

00:14:52.920 --> 00:14:57.240
Це може здаватися прийнятним для одного відділу, але коли врахувати, що це лише рівень пошуку,

00:14:57.320 --> 00:15:02.840
а ви все ще платите за токени LLM та генерацію ембедингів, загальна вартість володіння починає стрімко зростати.

00:15:03.020 --> 00:15:05.660
Ми бачили, як організації запускають пілотний проєкт Копілота,

00:15:05.780 --> 00:15:08.120
досягають величезного успіху в задоволеності користувачів,

00:15:08.120 --> 00:15:11.360
а потім негайно згортають його, коли надходить перший рахунок у повному обсязі.

00:15:11.360 --> 00:15:15.240
Вони були настільки зосереджені на продуктивності, що забули перевірити її ціну.

00:15:15.400 --> 00:15:19.740
Це основна причина, чому RIG-проєкти гинуть під час переходу від лабораторії до виробництва.

00:15:19.880 --> 00:15:21.980
Ціна правоти вища, ніж ціна помилки.

00:15:22.160 --> 00:15:23.580
Отже, як нам це вирішити?

00:15:23.780 --> 00:15:26.380
Як зберегти точність, не збанкрутувавши IT-відділ?

00:15:26.520 --> 00:15:28.440
Відповідь криється в семантичному кешуванні.

00:15:28.440 --> 00:15:32.340
У 2026 році семантичне кешування – це рятівник окупності інвестицій для бізнесу.

00:15:32.460 --> 00:15:34.020
Ось проблема, яку ми вирішуємо.

00:15:34.020 --> 00:15:37.520
Співробітники схильні ставити однакові запитання дещо іншими способами.

00:15:37.700 --> 00:15:39.240
Яка політика щодо відпусток?

00:15:39.380 --> 00:15:41.460
Чи можете ви показати мені правила відгулів?

00:15:41.640 --> 00:15:43.280
Скільки днів відпустки я отримую?

00:15:43.460 --> 00:15:46.540
У стандартному RIG-конвейері кожний з цих запитань запускає повний пошук,

00:15:46.640 --> 00:15:48.460
семантичне переранжування та виклик LLM.

00:15:48.600 --> 00:15:50.560
Ви платите за одну і ту саму відповідь втричі.

00:15:50.720 --> 00:15:52.620
Семантичне кешування зупиняє ці витрати.

00:15:52.620 --> 00:15:57.200
Воно використовує легку модель амбеддингів, щоб визначити, що ці три запитання мають однаковий намір.

00:15:57.200 --> 00:16:02.140
Замість звернення до дорогого механізму міркувань, система витягує перевірену відповідь із високошвидкісного кешу.

00:16:02.260 --> 00:16:05.680
Це може зменшити кількість ваших викликів LLM на від 60 до 80%.

00:16:05.680 --> 00:16:08.360
А трансформація користувацького досвіду ще більш разюча.

00:16:08.480 --> 00:16:12.860
Ви переходите від трьохсекундного очікування нависновок GPT-4 до відповіді з кешу менш ніж за 50 мілісекунд.

00:16:13.000 --> 00:16:15.340
Це покращення швидкості у 250 разів.

00:16:15.340 --> 00:16:17.160
Раптом копілот стає миттєвим.

00:16:17.160 --> 00:16:22.740
Він перетворюється з повільного інструменту, який люди терплять, на чуйного асистента, яким люди справді насолоджуються.

00:16:22.880 --> 00:16:24.760
Але кешування – це лише пів справи.

00:16:24.920 --> 00:16:26.800
Інша половина – вибіркове ввімкнення.

00:16:27.000 --> 00:16:31.360
Одна з найбільших помилок архітекторів – застосування семантичного ранжування до кожного запиту.

00:16:31.540 --> 00:16:36.920
Вам не потрібен трансформер глибокого міркування, щоб знайти документ під назвою «Шаблон звіту про витрати 2025».

00:16:36.920 --> 00:16:39.460
Для цього цілком достатньо базового збігу за ключовими словами.

00:16:39.460 --> 00:16:43.240
Стратегія на 2026 рік полягає в тому, щоб залишити прості запити на дешевому рівні.

00:16:43.380 --> 00:16:48.100
Ви повинні запускати вторинний переранжувач лише для складних запитів природною мовою, де намір неоднозначний.

00:16:48.280 --> 00:16:54.260
Впроводивши логічний шлюз на вході у ваш конвейер, ви зможете зберегти бюджет для запитів, які дійсно потребують додаткової точності.

00:16:54.440 --> 00:16:56.320
Думайте про це як про систему сортування.

00:16:56.520 --> 00:16:59.240
Дешевий рівень обробляє 70% рутинних запитів.

00:16:59.420 --> 00:17:03.340
Дорогий семантичний рівень обробляє 30%, що справді створюють бізнес-цінність.

00:17:03.340 --> 00:17:04.940
Ось як збалансувати бюджет.

00:17:05.060 --> 00:17:08.200
Ви переконуєтесь, що вартість пошуку не перевищує цінність відповіді.

00:17:08.340 --> 00:17:12.320
Якщо запит дає 10 центів продуктивності, не витрачайте долар на його обчислення.

00:17:12.460 --> 00:17:15.000
Ми також повинні враховувати ієрархію самих даних.

00:17:15.140 --> 00:17:17.580
Не всі документи потребують точності 0,9.

00:17:18.060 --> 00:17:22.900
Ваше внутрішнє меню їдальні не потребує переранжувальника на базі бін, але нормативні документи – так.

00:17:23.060 --> 00:17:27.200
Розділяючи пошукові індекси та застосовуючи до них різні стратегії ранжування,

00:17:27.200 --> 00:17:30.500
ви оптимізуєте витрати залежно від важливості інформації.

00:17:33.340 --> 00:17:36.640
Це усвідомлення того, що точність – не бінарний вибір.

00:17:36.760 --> 00:17:37.800
Це рухома шкала.

00:17:37.980 --> 00:17:42.580
І як архітектор ви маєте переміщувати цей повзунок відповідно до потреб бізнес-підрозділу.

00:17:42.740 --> 00:17:45.300
Мета не в тому, щоб побудувати найточнішу систему.

00:17:45.480 --> 00:17:49.340
Мета – побудувати найточнішу систему, яку бізнес може дозволити собі підтримувати.

00:17:49.540 --> 00:17:53.760
Адже ідеальний щі, який занадто дорогий у використанні – це лише дуже вишуканий преспап'я.

00:17:53.760 --> 00:17:57.460
У 2026 році переможуть не ті, хто матиме найвищі показники,

00:17:57.460 --> 00:18:03.640
а ті, хто навчився забезпечувати точність 0,85 за ціною, що масштабується лінійно разом із зростанням.

00:18:03.740 --> 00:18:07.580
Вони ті, хто ставився до інфраструктури як до обмеження, а не як до чогось другорядного.

00:18:07.780 --> 00:18:10.160
Управління витратами – це технічний бік рівняння.

00:18:10.320 --> 00:18:13.880
Але навіть якщо ви правильно прорахуєте економіку, ви все одно зіткнетеся з людським фактором.

00:18:14.040 --> 00:18:18.240
Ви повинні подолати розрив між придбаними ліцензіями та реальною довірою користувачів до системи.

00:18:18.240 --> 00:18:21.620
Бо якщо вони не довіряють відповіді, немає значення, скільки коштувала її генерація.

00:18:21.740 --> 00:18:23.820
Вони просто повернуться до старого способу пошуку.

00:18:23.940 --> 00:18:25.860
І це підводить нас до прогалини в управлінні.

00:18:26.040 --> 00:18:28.080
Бо довіра – це не лише технічна точність.

00:18:28.240 --> 00:18:30.480
Це про структуру, що оточує цю точність.

00:18:30.620 --> 00:18:35.040
Це про впевненість, що ще не просто має рацію, а що йому взагалі дозволено мати рацію.

00:18:35.240 --> 00:18:39.840
Управління витратами – це технічний аспект, а керівний аспект стосується прогалини в управлінні.

00:18:39.840 --> 00:18:43.200
Оптимізація інфраструктури вирішує лише частину рівняння.

00:18:43.360 --> 00:18:46.060
Ви можете створити найефективніший двигун точності у світі,

00:18:46.160 --> 00:18:48.700
але якщо керівництво боїться того, що він може виявити,

00:18:48.800 --> 00:18:50.800
проєкт ніколи не вийде за межі пісочниці.

00:18:50.960 --> 00:18:55.660
Ми дійшли до моменту, де вузьким місцем є небюджет на обчислення чи затримки переранжувальника.

00:18:55.840 --> 00:19:01.320
Справжнє тертя – це розрив між призначеними ліцензіями та реальною владою, яку має щі для роботи.

00:19:01.460 --> 00:19:04.560
Прогалина в управлінні, чому політики стримують використання.

00:19:04.560 --> 00:19:08.000
Зараз у нас 15 мільйонів платних робочих місць в екосистемі.

00:19:08.100 --> 00:19:11.560
Проте рівень впровадження на робочих місцях застряг на приголомшливих 35%.

00:19:12.080 --> 00:19:15.920
Це означає, що двоє з трьох ліцензованих користувачів фактично ігнорують інструмент.

00:19:16.180 --> 00:19:18.920
Вони припиняють ним користуватися після третьої галюцинації.

00:19:19.140 --> 00:19:23.840
Довіра крихка і поганий пошук руйнує її швидше, ніж будь-який тренінг може її побудувати.

00:19:24.240 --> 00:19:25.560
Управління – це не просто документ.

00:19:26.260 --> 00:19:27.600
Це технічний контроль.

00:19:27.760 --> 00:19:30.800
Без нього ваш R.I.G. проєкт помре на 12-му тижні.

00:19:30.800 --> 00:19:33.160
Тож, як виглядає нова модель на практиці?

00:19:33.320 --> 00:19:35.300
Це перехід до керованих агентів.

00:19:35.500 --> 00:19:37.200
Ера чат-ботів закінчується.

00:19:37.380 --> 00:19:42.120
Ми відходимо від світу, де ви ставите запитання і сподіваєтеся, що математика знайде документ.

00:19:42.300 --> 00:19:43.780
Нова модель – це делегування.

00:19:44.000 --> 00:19:49.120
Йдеться про перехід від системи, яка лише витягує дані до тієї, що реально осмислює сам процес пошуку.

00:19:49.280 --> 00:19:51.380
Ми входимо в епоху керованого агента.

00:19:51.640 --> 00:19:56.700
Система, яка не просто шукає дані, а розуміє правила гри ще до того, як запустить механізм.

00:19:56.700 --> 00:20:00.060
Дорожня карта 2026 – від пошуку до міркування.

00:20:00.800 --> 00:20:05.020
Залишатися актуальними в наступні 24 місяці, ваша дорожня карта має зміститися до агентного RIG.

00:20:05.220 --> 00:20:06.320
Це наступний рубіж.

00:20:06.440 --> 00:20:09.780
У стандартному налаштуванні система бере ваш запит і виконує один пошук.

00:20:09.940 --> 00:20:12.060
В агентному налаштуванні ЩІ планує пошук.

00:20:12.260 --> 00:20:18.280
Він оцінює ваш запит і вирішує, чи потрібно звертатися до векторного сховища, SQL-бази чи, можливо, до RIG у реальному часі.

00:20:18.440 --> 00:20:20.900
Він обмірковує кроки, необхідні для пошуку істини.

00:20:21.040 --> 00:20:23.540
Саме тут графовій RIG стає золотим стандартом.

00:20:23.540 --> 00:20:28.980
Для важливих завдань, де потрібна 99% точність, не можна покладатися на прості фрагменти документів.

00:20:29.100 --> 00:20:33.960
Вам потрібен граф знань, який відображає зв'язки між сутностями, людьми, проєктами та політиками.

00:20:34.120 --> 00:20:37.700
Це дозволяє ще зрозуміти, що коли ви питаєте про бюджет провідного інженера,

00:20:37.860 --> 00:20:43.420
йому потрібно знайти людину, потім проєкт, яким вона керує, і лише тоді конкретний фінансовий реєстр цього проєкту.

00:20:43.580 --> 00:20:47.860
Це ланцюжок багатоступеневих міркувань, який звичайний векторний пошук просто не здатний виконати.

00:20:47.860 --> 00:20:52.260
Але ось гірка правда. Ваші обмежені мета-деними, а не кількістю ліцензій.

00:20:52.420 --> 00:20:56.640
Якщо ваші сайти SharePoint – це цвинтар файлів, документ 1, DocEx і фінальна нижнє підкреслення версія 2,

00:20:56.720 --> 00:21:00.720
нижнє підкреслення справді, нижнє підкреслення фінальна крапка, pdf, жодні агентні міркування вас не врятують.

00:21:00.800 --> 00:21:05.140
Підготовка фундаменту даних – це єдиний спосіб уникнути відставання від конкурентів, що насувається.

00:21:05.560 --> 00:21:10.960
Організації, які відкладають виправлення рівня пошуку, застрягнуть на 35% рівнів провадження,

00:21:17.860 --> 00:21:22.520
як ключової бізнес-компетенції. Ваша трансформація починається з аудиту пошуку.

00:21:22.660 --> 00:21:27.440
Перестаньте вимірювати, як швидко відповідає ЩІ, і почніть вимірювати, як часто він насправді має рацію.

00:21:27.620 --> 00:21:32.800
Визначте 10% найскладніших випадків використання, де точність є вимогою, а не побажанням,

00:21:32.840 --> 00:21:36.040
і впровадьте L2-переаранжувальник у ці конвейери вже сьогодні.

00:21:36.180 --> 00:21:42.180
Якщо ця зміна моделі змінила ваш погляд на архітектуру, підписуйтесь на мене, Мірко Петерса, у LinkedIn для глибшого вивчення теми.

00:21:42.180 --> 00:21:46.500
Якщо це допомогло вам діагностувати причини невдач вашого RAD-проєкту, залиште відгу.

00:21:46.620 --> 00:21:50.640
Це допоможе подкасту охопити архітекторів, які все ще опиняються в пастці TopKey.

00:21:50.780 --> 00:21:56.220
Ваш наступний крок – переглянути наш детальний розбір агентних робочих процесів, щоб побачити, куди саме рухається ця точність.
