Dzisiejszy temat to coś, o czym niemal każdy słyszał, ale prawie nikt nie potrafi wyjaśnić prostymi słowami. RAK, czyli generowanie z rozszerzeniem o wyszukiwanie. Ten skrót widzieliście wszędzie w ogłoszeniach Microsoftu, na konferencjach AI, we wpisach na blogach, ale co on właściwie oznacza? A co ważniejsze, dlaczego powinno Was to obchodzić? Oto w czym rzecz. Duże modele językowe, takie jak GPT-4O, są potężne. Potrafią pisać wypracowania, streszczać dokumenty, a nawet generować kod, ale mają dwa poważne problemy. Po pierwsze, ich wiedza jest zamrożona w czasie. Zapytaj Szapt o coś, co wydarzyło się wczoraj, a nie będzie miał pojęcia. Po drugie, te modele nigdy nie widziały wewnętrznych danych Twojej firmy, Twoich polityk, szczegółów produktów czy maili od klientów. Więc kiedy zadajesz modelowi LLM pytanie o swój biznes, on po prostu zgaduje. I właśnie tutaj pojawia się generowanie z rozszerzeniem o wyszukiwanie, czyli RAK. RAK to nie jest nowy model, to nie jest większy ani lepszy GPT. To zupełnie inne podejście. Zamiast prosić model LLM o wyciąganie odpowiedzi z pamięci treningowej, RAK najpierw wyszukuje odpowiednie informacje w Twoich własnych danych i przekazuje je modelowi wraz z pytaniem. Dzięki RAK działa w oparciu o Twoje aktualne dokumenty tu i teraz. Na tym polega różnica między AI, które brzmi pewnie, ale może się mylić, a takim, które wskazuje dokładnie, skąd wzięło odpowiedź. Oto co dzisiaj omówimy. Najpierw przyjrzymy się dwóm problemom, które sprawiają, że RAK jest niezbędny. Następnie rozłożymy RAK na czynniki pierwsze, wyszukiwanie, rozszerzanie i generowanie. Potem przejdziemy przez kluczowe usługi Azure, Azure AI Search, Azure OpenAI i Azure AI Foundry. A na koniec pokażemy realny przykład, żebyście zobaczyli, jak te elementy pasują do siebie. Zacznijmy od samego problemu. Gdy go zrozumiesz, rozwiązanie stanie się oczywiste. Dwa problemy, jakie mają modele LLM. Więc co jest nie tak z dużymi modelami językowymi? Właściwie dwie rzeczy. Po pierwsze, ich wiedza jest zamrożona. Pomyślcie o tym. Kiedy trenowano GPT-4O, uczył się on na migawce internetu sprzed miesięcy lub lat, więc nie wie nic o nowych produktach, świeżych przepisach czy wczorajszych wiadomościach. Zapytaj go o zmianę polityki z zeszłego tygodnia, a nie będzie miał jak o tym wiedzieć. Te informacje po prostu nie znajdują się w jego danych treningowych. Po drugie, modele LLM nigdy nie widziały Twoich prywatnych danych, dokumentów wewnętrznych, maili, klientów czy zastrzeżonych baz danych. Model nie ma żadnego dostępu do tych zasobów, więc kiedy pracownik pyta o konkretne procesy biznesowe, model nie zna odpowiedzi. Nie wie tego, co Ty wiesz. Niektórzy myślą, że rozwiązaniem jest dostrajanie. Bierzesz model bazowy i douczasz go na własnych danych. Ale dostrajanie ma swoje własne problemy. Jest kosztowne. Płacisz za czas GPU i pracę inżynierów. Nie rozwiązuje problemu nieaktualności. Po dostrojeniu model pozostaje zamrożony w danym punkcie w czasie i nie radzi sobie z danymi, które często się zmieniają, jak stany magazynowe czy ceny. Dostrajanie jest jak nauczenie kogoś podręcznika na pamięć. Przydatne, ale taka osoba nadal nie sprawdzi dzisiejszej gazety. Prawdziwe rozwiązanie jest prostsze. Daj modelowi dostęp do Twojej wiedzy w momencie, gdy musi odpowiedzieć, zamiast upychać wszystko w jego pamięci. Nie każ mu uczyć się wszystkiego na pamięć. Pozwól mu sprawdzać informacje w czasie rzeczywistym z Twoich faktycznych danych. Właśnie to robi rak. Prosty pomysł, który zmienia wszystko. Czym właściwie jest rak? Oto rak w jednym zdaniu. Zamiast prosić model o wyciągnięcie odpowiedzi z danych treningowych, najpierw wyszukujemy odpowiednie informacje, a potem przekazujemy je modelowi wraz z pytaniem. To jest główna idea. Trzy proste kroki. Wyszukiwanie, rozszerzanie i generowanie. Podam Ci analogię. Pomyśl o bibliotekarzu. Wchodzisz do biblioteki i zadajesz pytanie. Nie oczekiwałbyś, że bibliotekarz zna każdą książkę na pamięć, prawda? To byłoby niedorzeczne. Zamiast tego prosisz go o znalezienie odpowiedniej książki, otwarcie na właściwej stronie i przeczytanie odpowiedzi. Bibliotekarz nie zapamiętuje niczego. Najpierw wyszukuje, potem czyta. I właśnie to dokładnie robi rak. Najpierw wyszukiwanie, potem generowanie. Oto jak to działa w praktyce. Użytkownik zadaje pytanie. System przeszukuje bazę wiedzy, Twoje dokumenty, Twoje dane, Twoje prywatne informacje. Wszystko, co znajdzie, trafia do dużego modelu językowego, który generuje odpowiedź na podstawie tego kontekstu. I oto najważniejsza część. LLM nigdy nie widzi Twoich surowych danych. Widzi tylko to, co dostarczy mu system wyszukiwania. To nie jest wada. To funkcja bezpieczeństwa. Twoje poufne dokumenty pozostają w Twoim własnym magazynie danych. W momencie zapytania model otrzymuje tylko odpowiednie fragmenty potrzebne do udzielenia odpowiedzi bez uczenia się na Twoich danych, bez zapamiętywania i bez wycieków. Twoje dane pozostają tam, gdzie ich miejsce. Rak rozwiązuje oba problemy, o których mówiliśmy wcześniej. Nieaktualne dane? To już nie problem. Twoja baza wiedzy pozostaje aktualna. Prywatne dane? Model widzi tylko to, co zdecydujesz się pobrać. To jak danie bibliotekarzowi dostępu do Twojej szafki na dokumenty, ale pozwalanie mu wyciągnąć tylko ten jeden folder, którego potrzebujesz w danej chwili. Wektory osadzeń i wyszukiwanie semantyczne. Być może zastanawiasz się, jak to wyszukiwanie faktycznie działa. Nie chodzi o dopasowywanie słów kluczowych, ani używanie funkcji znajdź w dokumentach. To coś znacznie inteligentniejszego. Nazywa się to wyszukiwaniem semantycznym i opiera się na wektorach osadzeń. Wyjaśnię, czym jest osadzenie. Wektor osadzenia to długa lista liczb, która oddaje znaczenie tekstu niczym współrzędne na mapie. Każdy dokument otrzymuje swoją własną współrzędną na tej mapie znaczeń. Gdy zadajesz pytanie, system również zamienia je na współrzędne, a następnie znajduje dokumenty, które są do nich najbliżej. Kluczem jest tutaj semantyka. Nie chodzi o znajdowanie dokładnych słów, lecz o zrozumienie pojęć. Jeśli szukasz tanich hoteli, system znajdzie dokumenty o przystępnych cenowo noclegach, nawet jeśli te konkretne słowa w nich nie występują. Dlaczego? Ponieważ ich znaczenie jest bliskie. Osadzenia dla tanich i przystępnych znajdują się obok siebie na tej mapie. Specjalny, niewielki model, taki jak Azure Text Embedding 3 Large, tworzy te osadzenia. To nie jest gigantyczny model językowy, lecz wyspecjalizowane narzędzie do jednego zadania. Przekształcanie tekstów te liczbowe współrzędne. To właśnie czyni rak tak potężnym rozwiązaniem. Twoje dokumenty są zamieniane na osadzenia tylko raz podczas indeksowania. Gdy pojawia się zapytanie, system w milisekundach znajduje najbardziej odpowiednią treść, nawet jeśli dokładne słowa użytkownika nie występują w dokumentach. Rozumie intencje, a nie tylko wpisane słowa kluczowe. Azure AI Search – silnik wyszukiwania. Teraz rozumiesz już całą koncepcję. Najpierw pobierz, potem wygeneruj. Ale gdzie właściwie odbywa się to pobieranie? Tutaj do gry wkracza Azure AI Search. Azure AI Search to usługa, która przechowuje, indeksuje i pobiera Twoje treści. Potraktuj to jako system kartoteczny dla swojej aplikacji RAK. Obsługuje dwa główne zadania, omówmy je po kolei. Po pierwsze – indeksowanie, czyli przygotowanie danych do przeszukiwania. Po drugie – wyszukiwanie, czyli faktyczne znajdowanie odpowiednich treści, gdy ktoś zadaje pytanie. Zacznijmy od procesu indeksowania. Zaczynasz od wskazania usłudze Azure AI Search źródła danych, którym może być kontener Blob Storage z plikami PDF, baza SQL z danymi klientów lub wiele innych źródeł. Usługa odczytuje te dokumenty, dzieli je na mniejsze fragmenty zwane chunks, tworzy dla nich wektory osadzeń przy użyciu wspomnianego wcześniej modelu i zapisuje wszystko w indeksie wyszukiwania. Wyobraź sobie indeks jako ogromny, wysoce zorganizowany katalog. Każdy element treści otrzymuje unikalny identyfikator, fragment tekstu oraz zestaw współrzędnych na tej mapie znaczeń. A teraz proces wyszukiwania. Gdy użytkownik zadaje pytanie, AI Search konwertuje je na wektor przy użyciu tego samego modelu osadzania, a następnie skanuje indeks, aby znaleźć fragmenty, których współrzędne są najbliższe współrzędnym pytania. Zwraca najlepsze do pasowania, zazwyczaj od 5 do 10 najbardziej istotnych, a wszystko to w milisekundach. Masz tutaj kilka solidnych opcji. Czyste wyszukiwanie wektorowe znajduje treść na podstawie znaczenia, więc podobne koncepcje pojawiają się, nawet jeśli dokładne słowa się nie zgadzają. Wyszukiwanie słów kluczowych działa jak tradycyjna wyszukiwarka, znajdując dokładne dopasowania słów. Możesz też użyć wyszukiwania hybrydowego, które łączy oba podejścia i zazwyczaj jest to najlepszy wybór. Istnieje również tak zwane semantyczne przewartościowanie, które pobiera te początkowe wyniki i sortuje je ponownie na podstawie tego, jak dobrze faktycznie odpowiadają na pytanie. To jak drugie przejście, które wyłapuje rzeczy, które pierwsze mogło pominąć. Jedna rzecz, o której powinieneś wiedzieć Azure, a i Search może być kosztowne. Podstawowy poziom zaczyna się od około 75 dolarów miesięcznie i rośnie w górę. Jeśli tylko eksperymentujesz, użyj darmowego poziomu lub upewnij się, że usuniesz zasoby, gdy skończysz. W przypadku użycia produkcyjnego koszt ten zazwyczaj się zwraca. Kupujesz szybkość i niezawodność na dużą skalę. Azure OpenAI oraz AI Foundry. Generowanie i orkiestracja. Więc teraz twoje dane są zindeksowane i gotowe do pobrania, ale model LLM nadal musi zrozumieć twoje pytanie i wygenerować solidną odpowiedź. W tym miejscu wkraczają Azure OpenAI i Azure AI Foundry. Azure OpenAI dostarcza właściwy model językowy GPT-4O, GPT-4-1 lub dowolny model, który wybierzesz. To jest silnik generujący. Otrzymuje on monit, który zawiera zarówno oryginalne pytanie użytkownika, jak i kontekst pobrany przez Azure AI Search. Model czyta ten kontekst i tworzy odpowiedź w oparciu o to, co znajdzie. Nie możesz po prostu wrzucić wszystkiego i mieć nadzieję, że zadziała. Potrzebujesz systemowego monitu, zestawu instrukcji, które przekazujesz modelowi z góry dotyczących tego, jak ma się zachowywać. Mówisz mu, aby używał tylko dostarczonego kontekstu, cytował źródła, a co najważniejsze, mówił, nie wiem, jeśli odpowiednie informacje nie znajdują się w pobranych dokumentach. To właśnie sprawia, że model jest uczciwy. Bez dobrego systemowego monitu model może oprzeć się na swoich danych treningowych lub, co gorsza, zmyślić coś. Jak więc faktycznie połączyć te wszystkie elementy w całość? Tutaj właśnie przydaje się Azure AI Foundry. To portal, w którym tworzysz projekt, wdrażasz modele, łączysz źródła danych i testujesz swojego agenta. Pomyśl o tym, jak o centrum sterowania dla całej swojej konfiguracji RAC. Wewnątrz Foundry możesz dodać indeks Azure AI Search jako źródło wiedzy dla swojego agenta, bez pisania własnego kodu na potrzeby podstawowej konfiguracji. Wystarczy utworzyć połączenie, wybrać indeks, a agent może automatycznie zacząć go przeszukiwać. Portal zajmuje się całą orkiestracją. Gdy użytkownik zadaje pytanie, agent wie, że ma wywołać AI Search, pobrać odpowiednie fragmenty i przekazać je do modelu LLM wraz z oryginalnym pytaniem. Oto konkretny przykład. W jednym z samouczków, na które trafiłem, ktoś stworzył agenta rekomendacji filmowych przy użyciu zbioru danych Netflixa. Przesłali plik CSV z tytułami filmów, opisami i informacjami o obsadzie do Azure Blob Storage, a następnie użyli Azure AI Search do zindeksowania tych danych. W Azure AI Foundry stworzyli agenta opartego na GPT-4O i podłączyli do niego indeks AI Search. Kiedy użytkownik zapytał, lubię trillery, daj mi jakieś rekomendacje. Agent przeszukał indeks, znalazł trillery z tego konkretnego zbioru danych i zwrócił rekomendacje. I to jest kluczowe, polecił tylko te filmy, które faktycznie znajdowały się w tym zbiorze danych. Nic nie wymyślił, nie korzystał z własnych danych treningowych i pracował wyłącznie na udostępnionej mu treści. Na tym polega siła RAK. Klasyczny RAK kontra RAK agentowy. Teraz porozmawiajmy o konfiguracji. Istnieją dwa główne wzorce, klasyczny RAK i RAK agentowy. To, który wybierzesz, zależy od tego, co budujesz. Klasyczny RAK to bardzo bezpośrednie podejście. Jedno zapytanie wchodzi, jedno wyszukiwanie się wykonuje i otrzymujemy odpowiedź. Proste, szybkie, przewidywalne. Pomyśl o tym, jak o podejściu do recepcji w biurowcu i poproszeniu o jeden konkretny dokument. Recepcjonista bierze go, wręcza ci i gotowe. Klasyczny RAK świetnie sprawdza się w przypadku pytań o fakty na jeden temat, jak na przykład, jaka jest polityka firmy dotycząca pracy zdalnej? Albo, pokaż mi kroki rozwiązywania problemów dla tego kodu błędu. Jest niezawodny, tani i łatwy w naprawie, gdy coś pójdzie nie tak, ponieważ przepływ jest liniowy. Jak pobrać informacje? Potrafi zadawać wiele podpytań, przeszukiwać różne indeksy, iterować wyniki i syntetyzować informacje z różnych źródeł przed udzieleniem odpowiedzi. To jak posiadanie zarządcy budynku, który koordynuje pracę różnych działów, aby zebrać wszystkie potrzebne elementy. Nie bierze tylko jednego pliku, rozmawia z działem kadr, sprawdza dokumentację, porównuje zasady, a potem wraca z pełną odpowiedzią. Firma Microsoft przeprowadziła własne testy i odkryła, że agentowy RAK daje około 40% poprawy w trafności odpowiedzi na złożone pytania. To znacząca różnica, ale zużywa od 3 do 10 razy więcej tokenów i zwiększa opóźnienia. W przypadku prostych pytań ta dodatkowa praca jest zbędna. Klasyczny RAK radzi sobie z nimi wystarczająco dobrze. Kiedy więc użyć którego rozwiązania? Klasycznego do rutynowych, masowych zapytań, gdzie najważniejsze są szybkość i koszty. Agentowego do pytań wieloetapowych, niejednoznacznych lub międzybranżowych, gdzie dokładność jest warta dodatkowej mocy obliczeniowej. Sekcja połączenia, przykład kompleksowy. Zobaczmy, jak te wszystkie elementy łączą się w rzeczywistym przykładzie. Wyobraź sobie, że tworzysz agenta obsługi klienta dla biura podróży o nazwie Marigold Travels. Masz broszury wycieczek, opinie o hotelach i dokumenty z zasadami rozsiane po całej firmie. Chcesz, aby klienci zadawali pytania i otrzymywali dokładne odpowiedzi oparte na realnych treściach, a nie na ogólnych przypuszczeniach. Krok pierwszy – przechowuj wszystkie te treści w usłudze Azure Blob Storage. Broszury w jednym folderze, opinie w innym, zasady w trzecim po prostu pliki w kontenerze. Krok drugi – użyj Azure AI Search do indeksowania tych danych, uruchamiając kreator importu danych, wskazując na magazyn Blob i pozwalając mu działać. Usługa odczytuje każdy dokument, dzieli je na fragmenty, tworzy wektorowe osadzenia i buduje przeszukiwalny indeks. Cały proces zajmuje kilka minut. Krok trzeci – wejdź do Azure AI Foundry i utwórz agenta. Wdruż GPT-4O jako swój model, napisz systemowy prompt nakazujący używanie wyłącznie podanego kontekstu i cytowanie źródeł, a następnie podłącz swój indeks Azure AI Search jako źródło wiedzy. Kilka kliknięć i gotowe. Teraz klient pyta, jaki jest najlepiej oceniany hotel w Dubaju poniżej 300 dolarów. Agent przyjmuje to pytanie i wysyła je do Azure AI Search. Azure AI Search konwertuje je na wektor i znajduje najbardziej istotne fragmenty z Twoich opinii i broszur. Te fragmenty są przekazywane do GPT-4 o wraz z oryginalnym pytaniem. Model czyta je, identyfikuje najlepsze dopasowanie i generuje odpowiedź z cytatami wskazującymi na Twoje dokumenty źródłowe. Rzecz w tym, że model LLM nigdy nie zapamiętał tych danych. Nigdy nie był trenowany na Twoich opiniach o hotelach. Za każdym razem pracuje w oparciu o Twoje konkretne treści. Dodaj nowe opinie jutro, a odpowiedzi zaktualizują się automatycznie. Usuń przestarzałą broszurę, a przestanie się ona pojawiać. Model nie wymaga ponownego trenowania. Potrzebuje tylko odpowiedniej warstwy wyszukiwania. Jak więc faktycznie zacząć budować RAK na platformie Azure? Podzielmy to na trzy kroki. Najważniejsza sprawa – poznaj swoje dane. Zanim wybierzesz usługę, ustal gdzie znajdują się Twoje treści, jak są zorganizowane i kto powinien mieć do nich dostęp. Skuteczność RAK zależy bezpośrednio od jakości Twoich danych. Po drugie, postaw na prostotę. Nie komplikuj nadmiernie konfiguracji. Użyj kreatora importu danych w Azure AI Search, aby zindeksować tylko jeden zestaw dokumentów. Przetestuj go za pomocą prostych zapytań. Upewnij się, że wyszukiwanie działa idealnie, zanim dodasz LLM. Większość awarii RAK to nie problemy z modelem, to problemy z wyszukiwaniem. Ostatni krok – dodaj LLM. Gdy wyszukiwarka zwraca właściwe wyniki, dodaj warstwę generowania. To moment, w którym łączysz Azure OpenAI i tworzysz swój systemowy prompt. Rzecz w tym, że RAK nie jest czymś, co kupujesz. To wzorzec, który budujesz. Azure dostarcza części, pamięć, wyszukiwanie, modele oraz spoiwo, by to połączyć. Musisz tylko złożyć to wszystko we właściwy sposób. Jeśli pomogło Ci to spojrzeć szerzej, zasubskrybuj kanał po więcej wyjaśnień prostym językiem. Zostaw komentarz ze swoim zastosowaniem RAK. Chętnie dowiem się, co budujesz.