Het onderwerp van vandaag is iets waar bijna iedereen van gehoord heeft, maar wat bijna niemand in gewone mensentouw kan uitleggen. RAG, Retrieval Augmented Generation. Je hebt het acroniem overal gezien, in Microsoft-aankondigingen, AI-conferenties en blogposts. Maar wat betekent het eigenlijk? En nog belangrijker, waarom zou het je interesseren? Dit is het punt. Grote taalmodellen zoals GPT-4O zijn krachtig. Ze kunnen essays schrijven, documenten samenvatten en zelfs code genereren, maar ze hebben twee grote problemen. Ten eerste is hun kennis bevroren in de tijd. Vraagt chat GPT naar iets wat gisteren is gebeurd en het heeft geen idee. Ten tweede hebben deze modellen nooit de interne gegevens van jouw bedrijf gezien, je beleid, productdetails of klant-emails. Dus als je een LLM een vraag stelt over jouw bedrijf, is het aan het gokken. En dat is waar Retrieval Augmented Generation om de hoek komt kijken. RAG is geen nieuw model, het is geen grotere of betere GPT. Het is een totaal andere aanpak. In plaats van de LLM te vragen antwoorden uit zijn trainingsgeheugen te halen, zoekt RAG eerst de juiste informatie uit jouw eigen data en geeft die informatie samen met de vraag aan het model. Het model gebruikt die context vervolgens om antwoorden te geven die gebaseerd zijn op echte, actuele inhoud en niet op gokwerk. Zonder RAG werkt je AI vanuit een geheugen dat maanden of jaren oud is. Met RAG werkt het vanuit jouw eigen documenten van dit moment. Dat is het verschil tussen een AI die zelfverzekerd klinkt maar ongelijk kan hebben, en een AI die precies laat zien waar het antwoord vandaan komt. Dit gaan we vandaag behandelen. Eerst kijken we naar de twee problemen die RAG noodzakelijk maken. Daarna ontleden we wat RAG werkelijk is, de Retrieval, de Augmentation en de Generation. Vervolgens lopen we door de belangrijkste Azure services heen, Azure ISARG, Azure OpenAI en Azure AI Foundry. En we sluiten af met een echt voorbeeld zodat je kunt zien hoe de puzzelstukjes in elkaar passen. Laten we beginnen bij het probleem zelf. Zodra je dat ziet, wordt de oplossing duidelijk. De twee problemen die LLMs hebben. Dus, wat is er mis met grote taalmodellen? Twee dingen, eigenlijk. Ten eerste is hun kennis bevroren. Denk er maar eens over na. Toen GPT-4O werd getraind, leerde het van een momentopname van het internet die nu maanden of jaren oud is, dus het weet niets over nieuwe producten, recente regelgeving of het nieuws van gisteren. Vraag het naar een beleidswijziging van vorige week en het heeft geen manier om dat te weten. Die informatie zit simpelweg niet in de trainingsdata. Ten tweede hebben LLMs nooit jouw privégegevens gezien, je interne documenten, klantemails of bedrijfseigen databases. Het model heeft totaal geen toegang tot dat alles. Dus, wanneer een werknemer naar uw specifieke bedrijfsprocessen vraagt, kan het model geen antwoord geven. Het weet niet wat u weet. Sommige mensen denken dat fine-tuning dit oplost. U neemt het basismodel en traint het wat verder op uw eigen gegevens. Maar fine-tuning heeft zo zijn eigen problemen. Het is duur, u betaalt voor GPU-tijd en de inzet van technici. Het lost veroudering niet op. Zodra u fine-tunt, blijft het model bevroren op dat moment in de tijd. En het kan niet omgaan met gegevens die vaak veranderen, zoals voorraadniveaus of prijzen. Fine-tuning is als iemand een leerboek uit het hoofd laten leren. Nuttig, maar ze kunnen nog steeds de krant van vandaag niet opzoeken. De echte oplossing is eenvoudiger. Geef het model toegang tot uw kennis op het moment dat het moet antwoorden, in plaats van alles in zijn geheugen te proppen. Laat het niet alles uit het hoofd leren. Laat de dingen in real-time opzoeken in uw werkelijke gegevens. Dat is wat RAG doet. Een simpel idee, maar het verandert alles. Wat RAG eigenlijk is. Dus, hier is RAG in één zin. In plaats van het model te vragen een antwoord uit zijn trainingsdata te halen, zoeken we eerst de relevante informatie en voeren die samen met de vraag aan het model. Dat is het kern-idee. Drie eenvoudige stappen ophalen, aanvullen en genereren. Laat me een vergelijking geven. Denk aan een bibliothecaris. U loopt een bibliotheek binnen en stelt een vraag. U verwacht toch niet dat de bibliothecaris elk boek uit zijn hoofd heeft geleerd? Dat zou belachelijk zijn. In plaats daarvan vraagt u hen het juiste boek te vinden, naar de juiste pagina te openen en u het antwoord voor te lezen. De bibliothecaris onthoudt niets. Ze halen het eerst op en lezen het daarna voor. En dat is precies wat RAG doet. Eerst ophalen, daarna genereren. Dus, dit is hoe het in de praktijk werkt. Een gebruiker stelt een vraag. Het systeem doorzoekt vervolgens een kennisbank, uw documenten, uw gegevens, uw privéinformatie. Wat het ook vindt, wordt aan het grote taalmodel gevoerd en het model genereert een antwoord op basis van die context. En dit is het belangrijke deel. Het LLM ziet nooit uw ruwe data. Het ziet alleen wat het ophaalsysteem aanreikt. Dat is geen nadeel. Het is eigenlijk een beveiligingsfunctie. Uw gevoelige documenten blijven in uw eigen opslag. Op het moment van de vraag krijgt het model alleen de relevante fragmenten die nodig zijn om die specifieke vraag te beantwoorden. Geen training op uw data, geen memorisatie, geen lekken. Uw gegevens blijven waar ze horen. Dus, RAG lost beide problemen op waar we het eerder over hadden. Verouderde gegevens? Geen probleem. Uw kennisbank blijft actueel. Privé gegevens? Het model ziet alleen wat je besluit op te halen. Het is alsof je de bibliothecaris toegang geeft tot je archiefkast, maar hen alleen de ene map laat pakken die je nodig hebt. Precies wanneer je die nodig hebt. Vector embeddings en semantisch zoeken. Nu vraag je je misschien af hoe dat zoeken eigenlijk werkt. Het gaat niet om het matchen van trefwoorden of het uitvoeren van een Ctrl plus F in je documenten. Het is iets veel slimmers. Het heet semantisch zoeken en het draait op vector embeddings. Laat me uitleggen wat een embedding is. Een vector embedding is een lange lijst getallen die de betekenis van een stuk tekst vastlegt, als coördinaten op een kaart. Elk document krijgt zijn eigen coördinaat op die betekeniskaart. Wanneer je een vraag stelt, zet het systeem je vraag ook om in coördinaten en vindt vervolgens de documenten die daar het dichtst bij liggen. De sleutel hier is semantisch. Het gaat niet om het vinden van de exacte woorden, maar om het begrijpen van concepten. Als je zoekt naar budgethotels, kan het systeem documenten over betaalbare accommodaties vinden, zelfs als die exacte woorden nooit voorkomen. Waarom? Omdat de betekenis dicht bij elkaar ligt. De embeddings voor budget en betaalbaar staan vlak naast elkaar op die kaart. Een speciaal klein model, zoals Azure Text Embedding 3 Large, creëert deze embeddings. Het is geen gigantisch taalmodel, dus het is een gericht hulpmiddel dat één taak uitvoert. Text omzetten in die coördinaatgetallen. Dit is wat Rach zo krachtig maakt. Je documenten worden eenmalig geconverteerd naar embeddings tijdens het indexeren. Wanneer er vervolgens een zoekopdracht binnenkomt, vindt het systeem binnen milliseconden de meest relevante inhoud, zelfs als de exacte woorden van de gebruiker nergens in de documenten staan. Het begrijpt de intentie, niet alleen de trefwoorden die je typt. Azure Ise Arch, de retrieval engine. Dus, nu begrijp je het concept. Eerst ophalen, dan genereren. Maar waar gebeurt al dat ophalen eigenlijk? Dat is waar Azure Ise Arch in beeld komt. Azure Ise Arch is de service die je inhoud opslaat, indexeert en ophaalt. Zie het als het archiefsysteem voor je RAG-applicatie. Het verwerkt twee hoofdtaken en laten we die eens doornemen. Ten eerste, indexeren. Dat is je data gereedmaken om doorzocht te worden. Ten tweede, zoeken. Dat is het daadwerkelijk vinden van de juiste inhoud wanneer iemand een vraag stelt. Laten we eerst het indexeringsproces doorlopen. Je begint door Azure Ise Arch te koppelen aan je gegevensbron, wat een blob storage container vol PDF's kan zijn, een SQL database met klantgegevens of talloze andere bronnen. De service leest die documenten, verdeelt ze in kleinere stukken genaamd chunks, creëert vector embeddings voor elke chunk met behulp van dat embeddingmodel waar we het eerder over hadden en slaat alles op in een zoekindex. Zie de index als een gigantische, uiterst georganiseerde catalogus. Elk stukje content krijgt een uniek idee, een tekstblok en een set coördinaten op die betekeniskaart. Nu, het zoekproces. Wanneer een gebruiker een vraag stelt, zet Ise Arch die vraag om in een vector met hetzelfde embeddingmodel en scant dan de index om blokken te vinden waarvan de coördinaten het dichtst bij die van de vraag liggen. Het retourneert de beste matches, meestal de 5 tot 10 meest relevante en doet dit alles in milliseconden. Je krijgt hier een paar sterke opties. Pure vector zoekopdrachten vinden content op basis van betekenis, dus vergelijkbare concepten verschijnen zelfs als de exacte woorden niet overeenkomen. Zoeken op trefwoorden werkt als een traditionele zoekmachine en vindt exacte woordmatches. Of je kunt hybride zoeken gebruiken, wat beide benaderingen combineert en dat is meestal de beste keuze. Er is ook zoiets als semantische herrangerschikking die de eerste resultaten neemt en ze opnieuw sorteert op basis van hoe goed ze de vraag daadwerkelijk beantwoorden. Het is als een tweede ronde die zaken opvangt die de eerste ronde mogelijk heeft gemist. Eén ding dat je moet weten, Azure ISR kan duur worden. De basislaag begint bij ongeveer 75 dollar per maand en loopt vanaf daarop. Als je alleen aan het experimenteren bent, gebruik dan de gratis laag of zorg dat je je resources verwijdert als je klaar bent. Voor productiegebruik betaalt de kostprijs zich echter meestal terug. Je koopt snelheid en betrouwbaarheid op schaal. Azure Open AI plus AI Foundry, generatie en orkestratie. Dus nu is je data geïndexeerd en klaar voor ophalen, maar het LLM moet nog steeds je vraag begrijpen en een solide antwoord genereren. Dat is waar Azure Open AI en Azure AI Foundry om de hoek komen kijken. Azure Open AI levert het eigenlijke taalmodel, GPT-4O, GPT-4.1 of welk model je ook kiest. Dit is de generatie engine. Het ontvangt een prompt die zowel de oorspronkelijke vraag van de gebruiker bevat als de context die Azure ISR heeft opgehaald. Het model leest die context door en produceert een antwoord op basis van wat het vindt. Je kunt natuurlijk niet zomaar alles erin dumpen en hopen op het beste. Je hebt een systeemprompt nodig, een set instructies die je vooraf aan het model geeft over hoe het zich moet gedragen. Je vertelt het om alleen de geboden context te gebruiken, bronnen te vermelden en, het allerbelangrijkste, te zeggen, ik weet het niet. Als de relevante informatie niet in de opgehaalde documenten staat. Dat is wat het model eerlijk houdt. Zonder een goede systeemprompt kan het model terugvallen op zijn trainingsdata of, erger nog, dingen verzinnen. Dus, hoe verbind je al deze stukken daadwerkelijk met elkaar? Dat is waar Azure AI Foundry in beeld komt. Dit is de portal waar je een project aanmaakt, je modellen implementeert, je gegevensbronnen koppelt en je agent test. Zie het als het controlecentrum voor je volledige RACH opzet. In Foundry kun je je Azure AI Search Index als kennisbron aan je agent toevoegen zonder aangepaste code voor de basis opzet. Je maakt gewoon een verbinding, selecteert je index en de agent kan deze automatisch gaan bevragen. De portal regelt de orkestratie. Wanneer een gebruiker een vraag stelt, weet de agent dat hij AI Search moet aanroepen, de relevante fragmenten moet ophalen en deze samen met de oorspronkelijke vraag aan de LLM moet doorgeven. Hier is een concreet voorbeeld. In een tutorial die ik tegenkwam, bouwde iemand een aanbevelingsagent voor films met een Netflix dataset. Ze uploaden een CSV bestand met filmtitels, beschrijvingen en kastinformatie naar Azure Blob Storage en gebruikten vervolgens Azure AI Search om die gegevens te indexeren. In Azure AI Foundry maakten ze een agent met GPT-4O aan en koppelden ze de AI Search Index. Toen een gebruiker vroeg, ik hou van thrillers, geef me wat aanbevelingen. Doorzocht de agentenindex, vond thrillerfilms uit die specifieke dataset en gaf aanbevelingen terug. En dit is het cruciale punt, hij raadde alleen films aan die daadwerkelijk in die dataset stonden. Hij verzon niets, haalde niets uit zijn trainingsdata en werkte uitsluitend met de inhoud die zij verstrekte. Dat is de kracht van Ragh. Klassieke versus agentische Ragh. Laten we het nu hebben over het instellen hiervan. Er zijn twee hoofdpatronen, klassieke Ragh en agentische Ragh. Welke je kiest, angt af van wat je bouwt. Klassieke Ragh is de eenvoudige aanpak. Eén vraag gaat erin, één zoekopdracht wordt uitgevoerd en een antwoord komt eruit. Simpel, snel, voorspelbaar. Zie het als naar de receptie in een kantoorgebouw lopen en om één specifiek dossier vragen. De receptioniste pakt het, geeft het aan je, klaar. Klassieke Ragh werkt uitstekend voor feitelijke vragen over één onderwerp, zoals wat is het bedrijfsbeleid voor werken op afstand? Of toon me de probleemoplossing stappen voor deze foutcode. Het is betrouwbaar, goedkoop en makkelijk te herstellen als er iets misgaat omdat de stroom lineair is. Agentische Ragh is anders. De AI-agent beslist zelf hoe hij informatie ophaalt. Hij kan meerdere sub-vragen stellen, verschillende indexen doorzoeken, resultaten herhalen en bronnen samenvoegen voordat hij antwoord geeft. Het is alsof je een gebouwbeheerder hebt die afstemt met verschillende afdelingen om alle stukjes te verzamelen. Hij pakt niet zomaar één dossier. Hij spreekt met ouwer, controleert gegevens, vergelijkt beleidsregels en komt dan terug met een volledig antwoord. Microsoft heeft eigen tests uitgevoerd en ontdekte dat agentgebaseerde Ragh zorgt voor een verbetering van ongeveer 40% in relevantie van antwoorden bij complexe vragen. Dat is aanzienlijk, maar het verbruikt drie tot tien keer meer tokens en zorgt voor extra latentie. Bij eenvoudige vragen is dat extra werkverspilling. Klassieke Ragh handelt die prima af. Dus, wanneer gebruik je welke? Klassiek voor routinematige vragen met een hoog volume, waarbij snelheid en kosten het belangrijkst zijn. Agent gebaseerd voor vragen die uit meerdere stappen bestaan, ambigu zijn of over verschillende domeinen gaan, waar nauwkeurigheid de extra rekenkracht waard is. Verbindingssectie, end-to-end voorbeeld. Laten we kijken hoe al deze onderdelen samenkomen in een echt voorbeeld. Stel je voor dat je een klantenservice-agent bouwt voor een reisbureau genaamd Maribold Travels. Je hebt reisbrochures, hotelbeoordelingen en beleidsdocumenten verspreid over je organisatie. Je wilt dat klanten vragen stellen en nauwkeurige antwoorden krijgen op basis van je eigen inhoud, niet op basis van algemene gissingen. Stap 1. Sla al die inhoud op in Azure Blob Storage. Brochures in de ene map, beoordelingen in de andere, beleid in een derde, gewoon bestanden in een container. Stap 2. Gebruik Azure Isearch om die gegevens te indexeren door de wizard voor gegevensimport te draaien, deze naar je blob storage te wijzen en het werk te laten doen. De service leest elk document, hakt ze in stukken, creëert vector embeddings en bouwt een doorzoekbare index. Het hele proces duurt een paar minuten. Stap 3. Ga naar Azure AI Foundry en maak een agent aan. Zet GPT-4O in als je model, schrijf een systeemprompt die het instrueert om alleen de verstrekte context te gebruiken en bronnen te citeren en verbind vervolgens je Azure Isearch-index als kennisbron. Een paar klikken en het is klaar. Nu stelt een klant de vraag, wat is het best beoordeelde hotel in Dubai onder de 300 dollar? De agent neemt die vraag aan en stuurt deze naar Azure Isearch. Azure Isearch zet dit om naar een vector en vindt de meest relevante tekstfragmenten uit je beoordelingen en brochures. Die fragmenten worden samen met de oorspronkelijke vraag doorgegeven aan GPT-4O. Het model leest ze door, identificeert de beste match en genereert een antwoord met verwijzingen naar je brondocumenten. Het punt is, het LLM heeft die gegevens nooit uit het hoofd geleerd. Het is nooit getraind op jouw hotelbeoordelingen. Het werkt elke keer weer op basis van jouw specifieke inhoud. Voeg morgen nieuwe beoordelingen toe en de antwoorden worden automatisch bijgewerkt. Verwijder een verouderde brochure en deze verschijnt niet meer. Het model hoeft niet opnieuw getraind te worden. Het heeft alleen de juiste ophalaag nodig. Dus, hoe begin je nu echt met het bouwen van RAG op Azure? Laten we het opdelen in drie stappen. Allereerst, ken je data. Voordat je überhaupt een dienst kiest, moet je weten waar je content staat, hoe het is georganiseerd en wie toegang moet hebben. RAG valt of staat bij de kwaliteit van je data. Hou het daarna simpel. Maak de configuratie niet te ingewikkeld. Gebruik de import wizard in Azure ISARG om slechts één set documenten te indexeren. Test met eenvoudige zoekopdrachten. Zorg dat je retrieval perfect werkt voordat je het LLM toevoegt. De meeste RAG fouten zijn geen modelproblemen. Het zijn retrieval problemen. Laatste stap, voeg het LLM toe. Zodra je zoekfunctie de juiste resultaten geeft, voeg je de generatie toe. Dat is het moment om Azure OpenAI te verbinden en je systeem prompt te schrijven. Hier is het punt, RAG is niet iets wat je koopt. Het is een patroon dat je bouwt. Azure geeft je de onderdelen, opslag, zoekfunctie, modellen en de lijm om ze te verbinden. Je moet het alleen op de juiste manier samenvoegen. Als dit je hielp het grote geheel te zien, abonneer je dan voor meer uitleg in begrijpelijke taal. Laat een reactie achter met jouw RAG gebruikssituatie. Ik ben erg benieuwd wat je aan het bouwen bent.