WEBVTT

00:00:00.000 --> 00:00:14.740
Branża sprzedała nam pewien mit. Mówiono nam, że embeddingi to złoty środek dla inteligencji korporacyjnej. Zbudowałeś bazę wektorową, załadowałeś dokumenty, wydałeś budżet, a halucynacje nadal występują. W rzeczywistości podobieństwo matematyczne to nie to samo, co znaczenie biznesowe.

00:00:14.740 --> 00:00:38.060
Wpadliśmy w pułapkę TOP-K. To moment, w którym Twój kopilot pobiera najbardziej podobny punkt danych w przestrzeni wielowymiarowej, ale okazuje się on całkowicie błędny dla danego zadania, bo w 2026 roku bliskość jest marnym wyznacznikiem prawdy. Jeśli Twój projekt RAC utknął w fazie pilotażowej, to nie dlatego, że AI jest głupie. To dlatego, że Twoja strategia wyszukiwania opiera się na iluzji. To strukturalna porażka czystych modeli wektorowych.

00:00:38.060 --> 00:00:46.620
Wyszukiwanie wektorowe to podstawowa warstwa w architekturze nowoczesnego systemu AI. To piwnica całego stosu, a nie penthouse, ale traktowaliśmy ją jak mózg.

00:00:46.780 --> 00:01:01.940
Podstawową wadą wielowymiarowych embeddingów jest to, że z założenia są one rozmyte. Reprezentują one pojęcia jako współrzędne. Działa to świetnie, gdy szukasz ogólnych klimatów lub tematów, ale praca nie dzieje się w krainie klimatów. Praca dzieje się w krainie konkretów. I właśnie tutaj czysty model wektorowy zawodzi.

00:01:01.940 --> 00:01:08.840
Wektory mają trudności z dokładnymi terminami. Pomyśl o kodach produktów SKU, terminologii prawnej, wewnętrznych nazwach kodowych projektów.

00:01:09.040 --> 00:01:18.620
Dla modelu wektorowego projekt Phoenix i projekt Firebird mogą wyglądać matematycznie identycznie, bo dzielą ten sam klaster semantyczny, ale dla Twojego działu finansowego to dwa zupełnie różne budżety.

00:01:18.840 --> 00:01:23.580
Polegając wyłącznie na gęstych embeddingach, w zasadzie prosisz AI o zgadywanie na podstawie sąsiedztwa.

00:01:23.820 --> 00:01:26.960
Rezultat to 27% wskaźnik błędów w wynikach biznesowych.

00:01:26.960 --> 00:01:33.840
To nie jest tylko wskaźnik techniczny. Ten wskaźnik błędów przekłada się na 1,8 godziny czasu pracowników marnowanego każdego tygodnia.

00:01:34.060 --> 00:01:42.020
Ludzie nie używają kopilota, żeby pracować szybciej. Używają go do generowania szkiców, na których sprawdzanie faktów muszą potem poświęcić dwie godziny, bo zbiór wyszukiwania był zaszumiony.

00:01:42.240 --> 00:01:49.340
Mamy kryzys dokładności i nie jest to problem LLM. Nie naprawisz tego, przechodząc z GPT-4 na GPT-5 lub zwiększając okno kontekstowe.

00:01:49.340 --> 00:01:55.160
To problem inżynierii wyszukiwania. Przyjęliśmy błędne założenie. Założyliśmy, że matematyka poradzi sobie z kontekstem.

00:01:55.160 --> 00:02:00.700
Myśleliśmy, że jeśli zamienimy każdy dokument w listę liczb, relacje same się wyłonią, ale kontekst jest strukturalny.

00:02:00.900 --> 00:02:11.180
Nie jest on tylko probabilistyczny. W środowisku korporacyjnym znaczenie dokumentu nie tkwi tylko w słowach, ale w metadanych, uprawnieniach i konkretnym wersjonowaniu, które model wektorowy całkowicie ignoruje.

00:02:11.180 --> 00:02:16.940
Kiedy szukasz najnowszej polityki podróży, wyszukiwanie wektorowe znajduje te, która najbardziej przypomina politykę podróży.

00:02:17.160 --> 00:02:21.560
Niekoniecznie znajduje te, która została zatwierdzona wczoraj. Znajduje te najbardziej podobną.

00:02:21.720 --> 00:02:27.040
A jeśli tą najbardziej podobną jest wersja z 2022 roku, bo ma bardziej opisowy tekst, to właśnie to otrzymuje twój model LLM.

00:02:27.180 --> 00:02:31.840
Wtedy sztuczna inteligencja mówi pracownikowi, że może zarezerwować klasę biznes, mimo że nowa polityka dopuszcza tylko klasę ekonomiczną.

00:02:31.980 --> 00:02:34.360
To halucynacja spowodowana błędnym oparciem na danych.

00:02:34.360 --> 00:02:37.520
Model nie skłamał, po prostu podsumował niewłaściwy zestaw liczb.

00:02:37.540 --> 00:02:41.820
Oto co się dzieje, gdy używasz modelu zaprojektowanego do odkrywania i próbujesz go wykorzystać do precyzji.

00:02:42.020 --> 00:02:48.560
Wyszukiwanie wektorowe świetnie sprawdza się w szukaniu igły w stogu siana, jeśli nie zależy Ci na tym, którą igłę dostaniesz, ale w firmie jest tylko jedna właściwa igła.

00:02:48.740 --> 00:02:50.160
Pozostałe 9 to ryzyko.

00:02:50.480 --> 00:02:53.360
Osiągnęliśmy granicę tego, co może nam dać czyste podobieństwo.

00:02:53.560 --> 00:03:01.960
Jeśli chcemy osiągnąć próg precyzji 99% wymagany w regulowanych branżach, musimy przestać traktować wyszukiwanie jak problem matematyczny, a zacząć jak redakcyjny.

00:03:01.960 --> 00:03:08.140
Musimy odejść od przekonania, że wystarczająco blisko jest akceptowalne dla systemu, który ma wspierać decyzje kierownictwa.

00:03:08.300 --> 00:03:13.660
Ponieważ obecnie wyniki, które przekazujesz swojemu asystentowi, to tylko zbiór matematycznie powiązanego szumu.

00:03:13.860 --> 00:03:19.120
Prosisz silnik wnioskujący o zbudowanie domu na fundamencie z piasku, a potem dziwimy się, że dach przecieka.

00:03:19.300 --> 00:03:24.420
Przejście z 2025 do 2026 roku to zrozumienie, że osadzenia są tylko punktem wyjścia.

00:03:24.680 --> 00:03:25.480
Są one stosem?

00:03:25.600 --> 00:03:25.780
Może.

00:03:26.040 --> 00:03:28.720
Aby przejść do stosu, tak potrzebujemy innego rodzaju logiki.

00:03:28.720 --> 00:03:32.000
Musimy przywrócić dokładnie te rzeczy, które według nas miały zastąpić osadzenia.

00:03:32.180 --> 00:03:39.600
Potrzebujemy struktury, potrzebujemy kotwic leksykalnych, a co najważniejsze, potrzebujemy nadzorcy, który zna różnicę między podobną odpowiedzią a poprawną.

00:03:39.840 --> 00:03:45.420
Bez tego twój projekt RAC nie jest narzędziem wywiadu, to tylko bardzo drogi i bardzo szybki sposób na bycie w błędzie.

00:03:45.900 --> 00:03:50.100
Ale tutaj model zawodzi, ponieważ podobieństwo jest tanim zamiennikiem prawdy.

00:03:50.280 --> 00:03:52.680
To sąsiedztwo jest niebezpiecznym miejscem do życia.

00:03:52.680 --> 00:04:00.260
Zbyt długo polegaliśmy na tych gęstych klastrach, zakładając, że jeśli dwie rzeczy są blisko siebie w przestrzeni wektorowej, muszą być powiązane biznesowo, ale tak nie jest.

00:04:00.460 --> 00:04:03.400
Podobieństwo jest tylko odzwierciedleniem wzorców użycia słów.

00:04:03.520 --> 00:04:10.180
To tani zamiennik prawdy, a w 2026 roku model zawodzi, ponieważ przestaliśmy szukać rzeczy powiązanych, a zaczęliśmy potrzebować rzeczy zweryfikowanych.

00:04:10.300 --> 00:04:13.720
Kiedy przechodzisz z etapu pilotażowego do środowiska produkcyjnego, stawka się zmienia.

00:04:13.720 --> 00:04:19.080
Zamiennik to już za mało. Potrzebujesz czegoś, co zakotwiczy, a i w rzeczywistym języku Twojej organizacji.

00:04:19.260 --> 00:04:22.720
Potrzebujesz precyzji, którą przypadkowo odrzuciliśmy, stawiając wszystko na embeddingi.

00:04:23.460 --> 00:04:26.520
Standard hybrydowy, czyli dlaczego BM25 wciąż ma znaczenie.

00:04:26.760 --> 00:04:30.480
Jeśli spojrzysz na bazę produkcyjną na rok 2026, krajobraz uległ zmianie.

00:04:30.660 --> 00:04:32.920
Nie mówimy już o eksperymentalnych bazach wektorowych.

00:04:33.160 --> 00:04:34.680
Mówimy o standardzie hybrydowym.

00:04:34.940 --> 00:04:35.780
Dane są jasne.

00:04:36.020 --> 00:04:40.560
72% udanych systemów korporacyjnych odeszło od czystego wyszukiwania wektorowego.

00:04:40.560 --> 00:04:45.700
Wdrożyły system dwutorowy, który łączy znaczenie wektorów z precyzją dopasowania słów kluczowych.

00:04:45.900 --> 00:04:48.460
W szczególności przywróciły algorytm BM25.

00:04:48.880 --> 00:04:53.900
Dla tych, którzy nie spędzili 20 lat w inżynierii wyszukiwania, BM25 to klasyczna metoda rzadkiego wyszukiwania.

00:04:54.060 --> 00:04:56.360
To logika, która szuka dokładnych dopasowań słów.

00:04:56.460 --> 00:05:01.660
To stary sposób, który miał zostać wyparty przez embeddingi, ale okazuje się, że to jedyna rzecz, która dyscyplinuje nowy sposób.

00:05:01.900 --> 00:05:04.480
Kiedy połączysz te dwa elementy, dzieje się coś interesującego.

00:05:04.680 --> 00:05:07.760
Zyskujesz 17% wzrostu trafności w całym swoim zbiorze danych.

00:05:07.760 --> 00:05:13.980
Te 17% to różnica między pracownikiem znajdującym odpowiedź w 10 sekund, a rezygnacją po trzech nieudanych próbach.

00:05:14.120 --> 00:05:18.620
Pomyśl, co się dzieje, gdy przestajesz ignorować konkretne słowa, które wpisują użytkownicy.

00:05:18.840 --> 00:05:26.860
W systemie czysto wektorowym, jeśli użytkownik wpisze form 10K2025, model może nadać priorytet ogólnemu artykułowi o raportowaniu finansowym,

00:05:26.860 --> 00:05:32.860
bo klimat jest podobny, ale z BM25 system widzi ten konkretny ciąg 10K2025.

00:05:33.440 --> 00:05:36.700
Rozpoznaje, że to nie tylko pojęcia, to kotwice leksykalne.

00:05:36.920 --> 00:05:41.100
Wyszukiwanie hybrydowe pozwala systemowi powiedzieć, wiem, że interesują Cię raporty finansowe,

00:05:41.260 --> 00:05:43.620
ale widzę też, że poprosiłeś o ten konkretny dokument.

00:05:43.880 --> 00:05:45.960
Rozwiązuje to problem zapytań spoza domeny.

00:05:46.140 --> 00:05:48.860
To największa przeszkoda dla każdego wstępnie wytrenowanego modelu embeddingów.

00:05:48.860 --> 00:05:52.860
Twój model wektorowy prawdopodobnie był szkolony na ogólnym korpusie tekstów z internetu.

00:05:53.600 --> 00:05:57.180
Wie, czym jest umowa, ale nie zna specyficznego żargonu Twojej branży.

00:05:57.440 --> 00:06:00.660
Nie rozumie autorskich akronimów używanych w Twoim dziale inżynierii.

00:06:00.880 --> 00:06:05.300
Nie widział wewnętrznego skrótowego języka, którego Twój zespół logistyczny używa do opisywania opóźnień w dostawach.

00:06:05.480 --> 00:06:07.800
Dla ogólnego modelu embeddingów te słowa to szum.

00:06:08.040 --> 00:06:11.640
Są poza domeną, ale dla BM25 te słowa to sygnały.

00:06:11.880 --> 00:06:16.300
Uruchamiając wyszukiwanie słów kluczowych obok wyszukiwania wektorowego, tworzysz siatkę bezpieczeństwa.

00:06:16.300 --> 00:06:20.800
Zapewniasz, że jeśli użytkownik wpisze konkretny termin, którego model embeddingów nie rozumie,

00:06:20.940 --> 00:06:24.040
system nadal może znaleźć dokument na podstawie dosłownego tekstu.

00:06:24.200 --> 00:06:26.600
W ten sposób osiągasz próg precyzji 0,8.

00:06:27.080 --> 00:06:30.440
W 2025 roku cieszyliśmy się, jeśli a i miało w większości rację.

00:06:30.600 --> 00:06:33.780
W 2026 roku 80% dokładności to absolutne minimum, by liczyć się w grze.

00:06:33.920 --> 00:06:35.640
Podejście hybrydowe to pierwszy krok do tego celu.

00:06:35.820 --> 00:06:37.520
Chodzi o zakotwiczenie sztucznej inteligencji w rzeczywistości.

00:06:37.660 --> 00:06:39.220
Potraktuj to jako system podwójnej weryfikacji.

00:06:39.420 --> 00:06:42.560
Ścieżka wektorowa odpowiada za intencje, czyli co użytkownik próbuje osiągnąć.

00:06:42.560 --> 00:06:46.360
Ścieżka słów kluczowych odpowiada za fakty, czyli co dokładnie zostało powiedziane.

00:06:46.600 --> 00:06:50.080
Gdy obie ścieżki są zgodne co do dokumentu, masz kandydata wysokiej pewności.

00:06:50.340 --> 00:06:52.960
Gdy się nie zgadzają, masz sygnał, że potrzeba więcej przetwarzania.

00:06:53.200 --> 00:06:55.360
Jednak nawet przy tym hybrydowym podejściu mamy problem.

00:06:55.580 --> 00:06:57.180
Udało się poprawić zbiór niepewnych.

00:06:57.360 --> 00:07:00.480
Przeszliśmy z 78% do 91% skuteczności wyszukiwania.

00:07:00.720 --> 00:07:04.620
Znajdujesz więcej właściwych rzeczy, ale nadal podsuwasz modelowi LLM100 z kandydatów.

00:07:04.800 --> 00:07:08.940
Jeśli kiedykolwiek patrzyłeś na wyniki wyszukiwania, wiesz, że top 10 często jest bałaganem.

00:07:08.940 --> 00:07:15.880
Możesz mieć idealną odpowiedź na czwartej pozycji, ale na pierwszej masz dokument, w którym słowo kluczowe powtórzono 20 razy.

00:07:16.020 --> 00:07:20.260
Albo masz dokument, który jest matematycznie podobny, ale zupełnie nieistotny dla bieżącego roku.

00:07:20.540 --> 00:07:22.820
Wyszukiwanie hybrydowe daje Ci elementy układanki.

00:07:23.100 --> 00:07:24.620
Niekoniecznie układa ją w całość.

00:07:24.880 --> 00:07:29.480
Zakładamy, że jeśli damy modelowi LLM 5 najlepszych wyników, będzie na tyle mądry, by wybrać właściwy.

00:07:29.620 --> 00:07:32.660
Ale modele LLM są podatne na dokumenty rozpraszające.

00:07:32.660 --> 00:07:41.220
Jeśli pierwszy wynik to bardzo długi, brzmiący pewnie dokument, który jest błędny LLM, często uzna go za ważniejszy od poprawnej, krótszej odpowiedzi na trzeciej pozycji.

00:07:41.420 --> 00:07:43.680
To zjawisko nazywane zagubieniem w środku.

00:07:43.880 --> 00:07:46.320
Kolejność informacji decyduje o jakości odpowiedzi.

00:07:46.520 --> 00:07:49.840
Zatem choć wyszukiwanie hybrydowe jest podstawą, nie jest ostatecznym rozwiązaniem.

00:07:49.980 --> 00:07:51.140
To system filtracji.

00:07:51.380 --> 00:07:53.480
Redukuje milion dokumentów do pięćdziesięciu.

00:07:53.700 --> 00:07:57.480
Jednak pięćdziesiąt dokumentów to wciąż zbyt wiele szumu przy ważnych decyzjach biznesowych.

00:07:57.700 --> 00:07:59.700
Nadal patrzysz tylko na sto z kandydatów.

00:07:59.700 --> 00:08:02.040
Zrobiłeś postęp, ale nie wypełniłeś luki.

00:08:02.280 --> 00:08:07.580
Aby osiągnąć dziewięćdziesiąt procent precyzji, jakiej wymagają medycyna czy finanse, nie można poprzestać na wyszukiwaniu.

00:08:07.800 --> 00:08:11.260
Trzeba dodać warstwę rozumowania, zanim dane dotrą do modelu LLM.

00:08:11.460 --> 00:08:17.100
Potrzebujesz nadzorcy, który oceni te pięćdziesiąt wyników na podstawie logiki, a nie tylko częstotliwości czy współrzędnych.

00:08:17.220 --> 00:08:21.020
Ponieważ obecnie, nawet przy wyszukiwaniu hybrydowym, twój asystent AI wciąż zgaduje.

00:08:21.200 --> 00:08:23.280
Po prostu zgaduje znacznie lepiej niż wcześniej.

00:08:23.640 --> 00:08:25.120
Rozwiązaliśmy problem znajdowania.

00:08:25.120 --> 00:08:29.940
Teraz musimy rozwiązać problem rankingu, a to wymaga zupełnie innej warstwy architektonicznej.

00:08:30.140 --> 00:08:33.500
Nawet przy wyszukiwaniu hybrydowym wciąż patrzysz tylko na stertę kandydatów.

00:08:33.680 --> 00:08:34.960
Potrzebujesz przełożonego.

00:08:35.160 --> 00:08:38.560
Problem z modelem hybrydowym polega na tym, że brakuje mu własnej opinii.

00:08:38.740 --> 00:08:43.040
Generuje listę w oparciu o dwa różne systemy ocen, które nie do końca mówią tym samym językiem.

00:08:43.280 --> 00:08:47.340
Łączysz współrzędne z przestrzeni wektorowej z wynikami częstotliwości z indeksu słów kluczowych.

00:08:47.340 --> 00:08:53.020
Rezultatem jest zbiorcza lista 50 najlepszych wyników, która jest technicznie lepsza niż wcześniej, ale nadal fundamentalnie niezweryfikowana.

00:08:53.200 --> 00:08:56.700
To tak, jakby agencja rekrutacyjna wysłała ci 50 CV, w ogóle ich nie czytając.

00:08:56.800 --> 00:09:01.000
Przefiltrowali słowa kluczowe i ogólne doświadczenie, ale nie sprawdzili, czy ta osoba faktycznie potrafi wykonać pracę.

00:09:01.160 --> 00:09:03.460
W potoku RAK LLM jest twoim kierownikiem do spraw.

00:09:03.840 --> 00:09:04.280
Rekrutacji.

00:09:04.540 --> 00:09:07.280
Jeśli dasz takiemu menedżerowi 50 CV, poczuje się przytłoczony.

00:09:07.280 --> 00:09:11.360
Rzuci okiem na trzy pierwsze, rozproszy się dobrze sformatowanym kłamstwem i dokona złego wyboru.

00:09:11.360 --> 00:09:14.740
Aby to naprawić, musimy przestać traktować wyszukiwanie jako proces jednostopniowy.

00:09:14.960 --> 00:09:17.880
Musimy wprowadzić drugą warstwę, która pełni funkcję strażnika.

00:09:18.100 --> 00:09:19.840
Bo w tej chwili nie dostarczasz odpowiedzi.

00:09:20.080 --> 00:09:23.460
Dostarczasz zadanie domowe, a twoje AI nie zostało zbudowane do odrabiania lekcji.

00:09:23.700 --> 00:09:24.960
Zostało zbudowane do rozumowania.

00:09:25.220 --> 00:09:28.120
Jeśli chcesz, żeby rozumowało poprawnie, musisz dać mu właściwy punkt wyjścia.

00:09:28.320 --> 00:09:33.260
Potrzebujesz nadzorcy, który przejrzy 50 najlepszych kandydatów i zdecyduje, który z nich faktycznie zawiera prawdę.

00:09:33.440 --> 00:09:35.640
Ranking semantyczny, ostateczny filtr prawdy.

00:09:35.860 --> 00:09:38.340
W tym miejscu wprowadzamy mechanizm L2 Re-Ranker.

00:09:38.340 --> 00:09:42.160
W architekturze na rok 2026 jest to niepodważalna, dodatkowa warstwa.

00:09:42.400 --> 00:09:44.460
Działa jak redaktor twoich wyników wyszukiwania.

00:09:44.620 --> 00:09:46.940
Pomyśl o przepływie pracy, który do tej pory zbudowaliśmy.

00:09:47.200 --> 00:09:49.980
Najpierw wyszukiwanie hybrydowe pobiera szeroki zestaw kandydatów.

00:09:50.140 --> 00:09:54.460
Jest szybkie, wydajne, skanuje miliony dokumentów w milisekundy, ale jest też powierzchowne.

00:09:54.620 --> 00:09:56.320
L2 Re-Ranker działa odwrotnie.

00:09:56.540 --> 00:09:58.240
Nie patrzy na miliony dokumentów.

00:09:58.420 --> 00:10:03.800
Analizuje tylko 50 najlepszych, ale robi to z taką głębią, jakiej pierwsza warstwa nigdy nie osiągnie.

00:10:03.980 --> 00:10:07.920
Konkretnie w ekosystemie Microsoftu mówimy o modelach wywodzących się z Binga.

00:10:07.920 --> 00:10:10.040
To transformatory typu cross-attention.

00:10:10.280 --> 00:10:15.880
W przeciwieństwie do początkowego wyszukiwania wektorowego, które porównuje zapytanie z obliczonym wcześniej osadzeniem dokumentu,

00:10:15.940 --> 00:10:18.360
Re-Ranker patrzy na zapytanie i dokument jednocześnie.

00:10:18.600 --> 00:10:21.640
Wykonuje głębokie, semantyczne porównanie rzeczywistego tekstu.

00:10:21.820 --> 00:10:24.720
Nie patrzy już tylko na współrzędne w przestrzeni wielowymiarowej.

00:10:24.900 --> 00:10:30.340
Przeprowadza głębokie rozumowanie, aby zrozumieć, czy dokument rzeczywiście zawiera odpowiedź na konkretne zadane pytanie.

00:10:30.640 --> 00:10:34.060
W tym miejscu do gry wchodzi wynik Re-Rankera wyszukiwania reklamowego.

00:10:34.060 --> 00:10:38.360
Ten wynik różni się od wyników podobieństwa, które widzisz w pierwszej warstwie.

00:10:38.620 --> 00:10:41.820
Wynik podobieństwa mówi Ci, ten dokument jest matematycznie bliski.

00:10:42.080 --> 00:10:45.640
Wynik Re-Rankera mówi Ci, ten dokument jest zgodny z intencją użytkownika.

00:10:45.860 --> 00:10:49.540
Przesuwa punkt odniesienia z, czy to jest bliskie, na, czy to odpowiada na pytanie.

00:10:49.740 --> 00:10:52.840
To rozróżnienie to jedyny sposób na przetrwanie w regulowanych branżach.

00:10:52.840 --> 00:10:56.820
Jeśli działasz w finansach, ochronie zdrowia lub prawie, precyzja 0,8 to porażka.

00:10:56.980 --> 00:10:59.200
Potrzebujesz 0,9 lub wyższej.

00:10:59.400 --> 00:11:03.000
Nie osiągniesz takiego poziomu dokładności w jednostopniowym procesie wyszukiwania.

00:11:03.220 --> 00:11:07.700
Re-Ranker pozwala przejść od bycia w większości poprawnym do standardu korporacyjnego.

00:11:07.960 --> 00:11:11.460
Rozwiązuje najczęstszy problem w systemach rak, niewłaściwą kolejność.

00:11:11.700 --> 00:11:14.760
W standardowym wyszukiwaniu idealna odpowiedź może być na ósmej pozycji,

00:11:14.940 --> 00:11:19.080
ale ponieważ nie miała odpowiedniego zagęszczenia słów kluczowych lub embedding był nieco nieprecyzyjny,

00:11:19.080 --> 00:11:23.500
nie trafiła na szczyt. LLM, będąc leniwym, skupia się na pierwszych trzech wynikach.

00:11:23.660 --> 00:11:28.120
Pomija prawdę na ósmej pozycji i generuje halucynacje na podstawie szumu z pozycji pierwszej.

00:11:28.340 --> 00:11:29.660
Re-Ranker to powstrzymuje.

00:11:29.920 --> 00:11:33.160
Bierze tę idealną odpowiedź z ósmej pozycji i promuje ją na pierwszą.

00:11:33.380 --> 00:11:35.940
Identyfikuje, że chociaż dokument pierwszy ma więcej słów kluczowych,

00:11:36.080 --> 00:11:39.600
to dokument ósmy zawiera rzeczywistą treść semantyczną potrzebną do spełnienia zapytania.

00:11:39.760 --> 00:11:43.140
To przejście od wyszukiwania do rankinkowania to najważniejsza zmiana architektoniczna,

00:11:43.200 --> 00:11:44.440
jaką możesz wprowadzić w tym roku.

00:11:44.440 --> 00:11:48.120
Musimy przestać obsesyjnie myśleć o tym, jak dużo informacji potrafimy znaleźć.

00:11:48.260 --> 00:11:51.640
Musimy zacząć obsesyjnie dbać o kolejność prezentacji tych informacji,

00:11:51.760 --> 00:11:54.260
ponieważ kolejność jest ważniejsza niż ich ilość.

00:11:54.460 --> 00:11:58.300
Jeśli poprawna odpowiedź znajduje się na dnie stosu, równie dobrze mogłaby nie istnieć.

00:11:58.480 --> 00:12:01.060
Re-Ranker zapewnia, że prawda zawsze znajduje się na górze.

00:12:01.220 --> 00:12:03.340
Ale nie chodzi tylko o przesuwanie dokumentów.

00:12:03.500 --> 00:12:06.500
Warstwa L2 dostarcza również semantyczne napisy i wyróżnienia.

00:12:06.800 --> 00:12:11.020
Identyfikuje konkretne, dosłowne zdania wewnątrz dokumentu, które są najbardziej istotne.

00:12:11.020 --> 00:12:13.580
To daje modelowi LLM swoistą ściągę.

00:12:13.760 --> 00:12:17.740
Zamiast prosić model o przeczytanie 10-stronicowego PDF-a i znalezienie igły,

00:12:17.820 --> 00:12:21.700
Re-Ranker wskazuje bezpośrednio na igłę i mówi przeczytaj konkretnie te trzy zdania.

00:12:21.900 --> 00:12:24.460
To zmniejsza obciążenie poznawcze modelu LLM.

00:12:24.680 --> 00:12:28.960
Minimalizuje ryzyko rozproszenia się modelu przez nieistotny kontekst w pozostałej części dokumentu.

00:12:29.080 --> 00:12:32.620
To różnica między daniem komuś całej książki, a podaniem mu wyróżnionego akapitu.

00:12:32.840 --> 00:12:35.540
Która z tych opcji prowadzi do szybszej i dokładniejszej odpowiedzi?

00:12:35.540 --> 00:12:38.640
W 2026 roku w ten sposób wypełnimy lukę zaufania.

00:12:38.840 --> 00:12:43.680
Użytkownicy przestają ufać kopilotowi, gdy dostają trzy takie sobie odpowiedzi i tracą tę jedną, zdecydowaną.

00:12:43.860 --> 00:12:48.180
Re-Ranker to narzędzie, które zapewnia, że właściwa odpowiedź jest zawsze pierwszą rzeczą, jaką widzi użytkownik.

00:12:48.440 --> 00:12:50.020
Działa jak ostateczny filtr prawdy.

00:12:50.260 --> 00:12:53.240
Wypełnia lukę między surowymi danymi a użytecznymi informacjami.

00:12:53.460 --> 00:12:55.780
Musimy jednak uczciwie porozmawiać o kompromisach.

00:12:55.940 --> 00:12:57.740
Ten poziom precyzji nie jest darmowy.

00:12:57.980 --> 00:13:02.740
Gdy przechodzisz od prostego wyszukiwania matematycznego do Rankera opartego na wnioskowaniu, zmienia się ekonomia systemu.

00:13:02.740 --> 00:13:09.260
Zwiększasz moc obliczeniową, zwiększasz opóźnienia, a w środowisku chmurowym, takim jak Azjur, generujesz bezpośrednie koszty.

00:13:09.480 --> 00:13:15.620
Jeśli nie zarządzisz tą warstwą poprawnie, uzyskana precyzja zostanie wymazana przez rachunek za infrastrukturę na koniec miesiąca.

00:13:15.860 --> 00:13:24.560
Musimy rozumieć ekonomię dokładności, ponieważ w przedsiębiorstwie idealna odpowiedź kosztująca 10 dolarów jest często mniej warta niż wystarczająco dobra odpowiedź za 10 centów.

00:13:24.740 --> 00:13:31.100
Wyzwaniem roku 2026 jest zrównoważenie potrzeby precyzji na poziomie 0,9 z rzeczywistością ograniczonego budżetu.

00:13:31.100 --> 00:13:35.880
Potrzebujesz przełożonego, ale musisz też zadbać o to, by nie był on najdroższą osobą w firmie.

00:13:36.080 --> 00:13:41.360
Jednak ta precyzja wiąże się z kosztami i jeśli nie zarządzisz infrastrukturą, zwrot z inwestycji zniknie.

00:13:41.640 --> 00:13:48.100
Przejście na wieloetapową architekturę wyszukiwania tworzy fundamentalne napięcie między jakością odpowiedzi a stabilnością budżetu.

00:13:48.100 --> 00:13:54.920
Osiągnęliśmy punkt, w którym techniczna możliwość uzyskania precyzji 0,9 jest realna, ale opłacalność finansowa jest często ignorowana.

00:13:55.140 --> 00:13:58.260
W początkach RAC koncentrowaliśmy się na udowodnieniu, że ta koncepcja działa.

00:13:58.480 --> 00:14:05.460
Nie przejmowaliśmy się kosztem pojedynczego zapytania, ponieważ wolumeny były niskie, ale gdy skalujesz rozwiązanie z 10 do 10 tysięcy użytkowników, matematyka się zmienia.

00:14:05.720 --> 00:14:11.140
Dodatkowa warstwa wnioskowania, która czyni system wiarygodnym, jest również warstwą, która może uczynić go zaporowo drogim.

00:14:11.140 --> 00:14:22.640
Ponieważ w biznesie dokładność to towar luksusowy i jeśli nie zaprojektowałeś infrastruktury tak, by udźwignęła ciężar tego luksusu, projekt skonsumuje własny zwrot z inwestycji, zanim przyniesie choćby dolara wymiernej wartości.

00:14:26.280 --> 00:14:31.760
Rzeczywistość standardowego poziomu Azure i Search jest taka, że ranking semantyczny to gra, w której trzeba płacić, by brać udział.

00:14:31.940 --> 00:14:35.480
Nie możesz po prostu przełączyć przełącznika i oczekiwać, że obecny budżet wystarczy.

00:14:35.480 --> 00:14:43.900
Włączając funkcję oceny Rerankera w wyszukiwaniu aplikacji, odchodzisz od świata stałych kosztów jednostek wyszukiwania i wkraczasz w świat rozliczeń zmiennych opartych na czasie zapytania.

00:14:44.140 --> 00:14:45.060
Spójrzmy na liczby.

00:14:45.280 --> 00:14:52.780
Dla umiarkowanego wolumenu zapytań, powiedzmy 50 tysięcy wyszukiwań miesięcznie na zbiorze danych 20 GB, należy liczyć się z miesięcznym kosztem dodatkowym między 300 a 800 dolarów.

00:14:52.980 --> 00:15:03.040
Może to brzmieć rozsądnie w przypadku jednego działu, ale gdy weźmiesz pod uwagę, że to tylko warstwa wyszukiwania, a nadal musisz płacić za tokeny LLM i generowanie embeddingów, całkowity koszt posiadania zaczyna gwałtownie rosnąć.

00:15:03.040 --> 00:15:11.300
Widzieliśmy organizacje, które uruchamiały pilotaż kopilota, odnosiły ogromny sukces w zadowoleniu użytkowników, a potem natychmiast wycofywały się, gdy przychodziła pierwsza pełnowymiarowa faktura.

00:15:11.540 --> 00:15:15.020
Byli tak skupieni na wydajności, że zapomnieli sprawdzić cenę tej wydajności.

00:15:15.220 --> 00:15:19.400
To główny powód, dla którego projekty RAK umierają podczas przejścia z fazy laboratoryjnej do produkcyjnej.

00:15:19.580 --> 00:15:22.160
Koszt bycia w błędzie bywa niższy niż koszt bycia bezbłędnym.

00:15:22.340 --> 00:15:26.500
Więc jak możemy to rozwiązać? Jak zachować precyzję, nie doprowadzając działu IT do bankructwa?

00:15:26.660 --> 00:15:28.460
Odpowiedź kryje się w kaszowaniu semantycznym.

00:15:28.460 --> 00:15:32.440
W 2026 roku kaszowanie semantyczne to zbawienie dla zwrotu z inwestycji w przedsiębiorstwach.

00:15:32.620 --> 00:15:34.020
Oto problem, który rozwiązujemy.

00:15:34.240 --> 00:15:37.460
Pracownicy zazwyczaj zadają te same pytania na nieco różne sposoby.

00:15:37.680 --> 00:15:39.120
Jaka jest polityka urlopowa?

00:15:39.280 --> 00:15:41.440
Czy możesz pokazać mi zasady dotyczące wolnego?

00:15:41.660 --> 00:15:43.140
Ile dni urlopu mi przysługuje?

00:15:43.320 --> 00:15:48.480
W standardowym potoku RAK każde z tych pytań uruchamia pełne pobieranie, ponowne szeregowanie semantyczne i wywołanie LLM.

00:15:48.640 --> 00:15:50.460
Płacisz za tę samą odpowiedź trzy razy.

00:15:50.620 --> 00:15:52.700
Kaszowanie semantyczne powstrzymuje to marnotrawstwo.

00:15:52.940 --> 00:15:57.080
Wykorzystuje lekki model embeddingowy, aby zidentyfikować, że te trzy pytania mają ten sam cel.

00:15:57.260 --> 00:16:02.140
Zamiast wracać do kosztownego silnika wnioskującego, system pobiera zweryfikowaną odpowiedź z szybkiej pamięci podręcznej.

00:16:02.360 --> 00:16:05.620
Może to zredukować liczbę wywołań LLM o 60% do 80%.

00:16:05.620 --> 00:16:08.460
A transformacja doświadczenia użytkownika jest jeszcze bardziej spektakularna.

00:16:08.620 --> 00:16:12.940
Przechodzisz od 3-sekundowego oczekiwania na odpowiedź modelu GPT-4 do wyniku z kaszu w czasie poniżej 50 milisekund.

00:16:13.060 --> 00:16:15.180
To 250-krotna poprawa prędkości.

00:16:15.420 --> 00:16:17.200
Nagle kopilot staje się natychmiastowy.

00:16:17.200 --> 00:16:22.700
Zmienia się z powolnego narzędzia, które ludzie tolerują, w responsywnego asystenta, z którego faktycznie lubią korzystać.

00:16:22.780 --> 00:16:24.680
Ale kaszowanie to tylko połowa sukcesu.

00:16:24.840 --> 00:16:26.780
Druga połowa to selektywne włączanie funkcji.

00:16:27.000 --> 00:16:31.560
Jednym z największych błędów popełnianych przez architektów jest stosowanie rankingu semantycznego do każdego pojedynczego zapytania.

00:16:31.740 --> 00:16:36.240
Nie potrzebujesz głębokiego transformera wnioskującego, aby znaleźć dokument o tytule szablon raportu wydatków 2025.

00:16:36.800 --> 00:16:39.620
Podstawowe dopasowanie słów kluczowych jest do tego w zupełności wystarczające.

00:16:39.820 --> 00:16:43.080
Strategią na 2026 rok jest utrzymanie prostych zapytań na taniej warstwie.

00:16:43.080 --> 00:16:48.200
Powinieneś uruchamiać zaawansowany re-ranker tylko w przypadku złożonych pytań w języku naturalnym, gdzie intencja jest niejednoznaczna.

00:16:48.380 --> 00:16:54.140
Wdrażając bramkę logiczną na początku potoku możesz zarezerwować budżet na zapytania, które faktycznie wymagają dodatkowej precyzji.

00:16:54.280 --> 00:16:56.380
Pomyśl o tym jak o systemie segregacji medycznej.

00:16:56.540 --> 00:16:59.160
Tania warstwa obsługuje 70% rutynowych zapytań.

00:16:59.300 --> 00:17:03.280
Kosztowna warstwa semantyczna obsługuje 30% danych, które faktycznie generują wartość biznesową.

00:17:03.480 --> 00:17:04.980
W ten sposób równoważy się budżet.

00:17:05.120 --> 00:17:08.120
Upewniasz się, że koszt wyszukiwania nie przekracza wartości uzyskanej odpowiedzi.

00:17:08.120 --> 00:17:12.460
Jeśli zapytanie jest warte 10 centów produktywności, nie wydawaj dolara na moc obliczeniową, by je rozwiązać.

00:17:12.620 --> 00:17:14.880
Musimy również wziąć pod uwagę hierarchię samych danych.

00:17:15.080 --> 00:17:17.500
Nie wszystkie dokumenty wymagają precyzji na poziomie 0,9.

00:17:17.960 --> 00:17:22.980
Twoje wewnętrzne menu stołówkowe nie potrzebuje re-rankera opartego na bing, ale dokumenty dotyczące zgodności z przepisami tak.

00:17:23.180 --> 00:17:30.580
Dzieląc indeksy wyszukiwania i stosując różne strategie rankowania dla każdego z nich, możesz zoptymalizować wydatki w zależności od ważności informacji.

00:17:30.760 --> 00:17:33.400
To właśnie nazywamy wyszukiwaniem opartym na wartości.

00:17:33.600 --> 00:17:36.560
To zrozumienie, że dokładność nie jest wyborem binarnym.

00:17:36.560 --> 00:17:42.260
To płynna skala. Jako architekt masz za zadanie przesuwać ten suwak w oparciu o konkretne potrzeby działu biznesowego.

00:17:42.500 --> 00:17:45.460
Celem nie jest zbudowanie najdokładniejsego systemu, jaki jest możliwy.

00:17:45.640 --> 00:17:49.400
Celem jest zbudowanie najdokładniejsego systemu, na którego utrzymanie firma może sobie pozwolić.

00:17:49.480 --> 00:17:53.880
Ponieważ doskonała sztuczna inteligencja, która jest zbyt droga w użyciu, to tylko bardzo wyrafinowany przycisk do papieru.

00:17:54.020 --> 00:17:57.660
W 2026 roku zwycięzcami nie będą ci z najwyższymi wynikami w testach.

00:17:57.820 --> 00:18:03.560
Wygrają ci, którzy wymyślili, jak zapewnić 0,85 precyzji przy kosztach rosnących liniowo wraz z rozwojem.

00:18:03.560 --> 00:18:07.580
To ci, którzy potraktowali infrastrukturę jako ograniczenie, a nie sprawę drugorzędną.

00:18:07.840 --> 00:18:10.140
Zarządzanie kosztami to techniczna strona równania.

00:18:10.380 --> 00:18:13.740
Ale nawet jeśli dobrze dopasujesz ekonomię, wciąż masz problem natury ludzkiej.

00:18:13.960 --> 00:18:18.300
Musisz zniwelować różnicę między kupionymi licencjami a rzeczywistym zaufaniem użytkowników do systemu.

00:18:18.420 --> 00:18:21.600
Bo jeśli nie ufają odpowiedzi, to nie ma znaczenia, ile kosztowało jej wygenerowanie.

00:18:21.800 --> 00:18:23.720
Po prostu wrócą do szukania starymi metodami.

00:18:23.900 --> 00:18:25.600
I to prowadzi nas do luki w zarządzaniu.

00:18:25.760 --> 00:18:28.280
Ponieważ zaufanie nie dotyczy tylko dokładności technicznej.

00:18:28.500 --> 00:18:30.560
Chodzi o ramy, które otaczają tę dokładność.

00:18:30.560 --> 00:18:35.020
Chodzi o pewność, że C nie tylko ma rację, ale że ma przyzwolenie, by tę rację mieć.

00:18:35.260 --> 00:18:39.760
Zarządzanie kosztami to kwestia techniczna, ale zarządzanie wykonawcze dotyczy luki w nadzorze.

00:18:40.160 --> 00:18:43.100
Optymalizacja infrastruktury rozwiązuje tylko część równania.

00:18:43.380 --> 00:18:45.980
Możesz zbudować najwydajniejszy silnik precyzyjny na świecie,

00:18:46.120 --> 00:18:48.740
ale jeśli kierownictwo boi się tego, co może on ujawnić,

00:18:48.860 --> 00:18:50.780
projekt nigdy nie wyjdzie poza fazę testów.

00:18:50.980 --> 00:18:55.600
Dotarliśmy do punktu, w którym wąskim gardłem nie jest budżet obliczeniowy ani opóźnienia rerankera.

00:18:55.600 --> 00:19:01.140
Prawdziwym tarciem jest różnica między przyznanymi licencjami, a faktycznym zakresem uprawnień C do działania.

00:19:01.380 --> 00:19:04.700
Luka w nadzorze, czyli dlaczego polityki hamują wykorzystanie technologii.

00:19:04.860 --> 00:19:08.040
Obecnie mamy 15 milionów płatnych subskrypcji w naszym ekosystemie.

00:19:08.220 --> 00:19:12.240
Mimo to wskaźnik konwersji w miejscu pracy utknął na zatrważającym poziomie 35%.

00:19:12.240 --> 00:19:16.180
Oznacza to, że dwóch na trzech licencjonowanych użytkowników w praktyce ignoruje to narzędzie.

00:19:16.380 --> 00:19:18.660
Przestają z niego korzystać po trzeciej halucynacji.

00:19:18.940 --> 00:19:23.860
Zaufanie jest kruche, a słabe wyszukiwanie niszczy je szybciej, niż jakiekolwiek szkolenie zdoła je zbudować.

00:19:23.860 --> 00:19:27.540
Zarządzanie to nie tylko dokument, to techniczna kontrola.

00:19:28.080 --> 00:19:30.780
Bez niej Twój projekt RAC umiera w 12 tygodniu.

00:19:30.980 --> 00:19:32.940
Jak więc wygląda nowy model w praktyce?

00:19:33.100 --> 00:19:35.340
To przejście w stronę zarządzanych agentów.

00:19:35.580 --> 00:19:37.260
Era okna czatu dobiega końca.

00:19:37.500 --> 00:19:41.680
Odchodzimy od świata, w którym zadajesz pytanie i liczysz, że matematyka znajdzie dokument.

00:19:42.040 --> 00:19:44.020
Nowy model opiera się na delegowaniu zadań.

00:19:44.020 --> 00:19:49.160
Chodzi o przejście od systemu, który tylko wyszukuje, do takiego, który faktycznie analizuje sam proces wyszukiwania.

00:19:49.360 --> 00:19:51.300
Wkraczamy w erę zarządzanego agenta.

00:19:51.300 --> 00:19:56.760
Systemu, który nie tylko szuka danych, ale rozumie zasady działania firmy, zanim jeszcze uruchomi silnik.

00:19:56.920 --> 00:20:00.040
Plan na rok 2026, od wyszukiwania do rozumowania.

00:20:00.280 --> 00:20:04.820
Jeśli chcesz pozostać na rynku przez najbliższe 24 miesiące, Twój plan musi przesunąć się w stronę agentowego RAC.

00:20:04.960 --> 00:20:06.220
To nowa granica możliwości.

00:20:06.500 --> 00:20:09.760
W standardowej konfiguracji system przyjmuje Twoje zapytanie i wykonuje pojedyncze wyszukiwanie.

00:20:09.760 --> 00:20:12.340
W konfiguracji agentowej AI planuje proces wyszukiwania.

00:20:12.560 --> 00:20:18.440
Analizuje Twoją prośbę i decyduje, czy musi odwołać się do bazy wektorowej, zapytać bazę SQL, czy sprawdzić API w czasie rzeczywistym.

00:20:18.660 --> 00:20:20.780
Analizuje kroki wymagane do znalezienia prawdy.

00:20:21.020 --> 00:20:23.360
W tym miejscu graf RAC staje się złotym standardem.

00:20:23.540 --> 00:20:29.000
W środowiskach o wysokim ryzyku, gdzie potrzebujesz 99% dokładności, nie możesz polegać na płaskich fragmentach dokumentów.

00:20:29.160 --> 00:20:34.020
Potrzebujesz grafu wiedzy, który mapuje relacje między jednostkami, ludźmi, projektami i politykami firmy.

00:20:34.020 --> 00:20:43.440
Dzięki temu AI rozumie, że gdy pytasz o budżet głównego inżyniera, musi znaleźć osobę, potem projekt, którym kieruje, a następnie konkretny rejestr finansowy powiązany z tym projektem.

00:20:43.560 --> 00:20:47.700
To wieloetapowy łańcuch rozumowania, którego zwykłe wyszukiwanie wektorowe po prostu nie wykona.

00:20:47.860 --> 00:20:48.960
Ale oto gorzka prawda.

00:20:49.240 --> 00:20:52.620
Twoje AI jest ograniczone przez metadane, a nie przez liczbę licencji.

00:20:52.860 --> 00:21:00.520
Jeśli Twoje witryny SharePoint to cmentarzysko plików dokument pierwszy dos i ostateczna v2 naprawdę finalna.pdf, żadne agentowe rozumowanie Cię nie uratuje.

00:21:00.520 --> 00:21:04.520
Przygotowanie fundamentów danych to jedyny sposób, by uniknąć nadchodzącej utraty konkurencyjności.

00:21:05.320 --> 00:21:14.080
Organizacje, które zwlekają z naprawą warstwy wyszukiwania utkną na 35% poziomie adopcji, podczas gdy ich konkurenci zautomatyzują całe procesy pracy.

00:21:14.320 --> 00:21:19.780
Przechodzimy od wyszukiwania wektorowego jako narzędzia do strategii semantycznej jako kluczowej kompetencji biznesowej.

00:21:19.980 --> 00:21:22.600
Twoja transformacja zaczyna się od audytu wyszukiwania.

00:21:22.820 --> 00:21:27.220
Przestań mierzyć, jak szybko odpowiada AI, a zacznij mierzyć, jak często ma faktycznie rację.

00:21:27.220 --> 00:21:36.020
Zidentyfikuj 10% swoich najbardziej złożonych przypadków użycia, gdzie dokładność jest wymogiem, a nie sugestią i wdruż Reranker L2 w tych potokach już dziś.

00:21:36.180 --> 00:21:42.220
Jeśli ta zmiana modelu wpłynęła na sposób, w jaki myślisz o swojej architekturze, śledź mnie, Mirko Petersa, na LinkedIn, aby dowiedzieć się więcej.

00:21:42.460 --> 00:21:46.580
Jeśli pomogło Ci to zdiagnozować, dlaczego Twój projekt RAC obecnie zawodzi, zostaw recenzję.

00:21:46.760 --> 00:21:50.520
Pomaga to podcastowi dotrzeć do architektów, którzy wciąż zmagają się z pułapką topka.

00:21:50.520 --> 00:21:56.200
Twoim kolejnym krokiem jest sprawdzenie naszej szczegółowej analizy przepływów pracy agentów, aby zobaczyć, dokąd zmierza ta precyzja.
