AI-hallucinaties stoppen: RAG goed verankeren met Azure AI Search

Een multimodale demo ziet er op het podium foutloos uit: een nette prompt, een scherpe afbeelding en een model dat een perfecte samenvatting van een contract levert. In een echt bedrijf verdwijnt die glans snel. Dan komen er wazige scans, vijf keer gefaxte PDF's en foto's van facturen met een gebarsten telefooncamera binnen. De vraag is dan niet of je AI slim genoeg is, maar of je antwoorden gefundeerd blijven.

In dit artikel lees je hoe je AI-hallucinaties voorkomt met Retrieval Augmented Generation (RAG) en Azure AI Search. Ook komt aan bod waarom evaluatie, governance en een strakke afbakening van agents bepalen of Azure AI Foundry en Copilot Studio in productie standhouden.

Waarom multimodale AI-apps in productie falen

Demo's draaien op perfecte invoer, werkplekken draaien op rommel. Dat is de echte kloof. In productie levert niemand zorgvuldig geënsceneerde screenshots aan. HR voert wazige identiteitsbewijzen in, Inkoop sleept PDF's binnen die al meerdere keren zijn gefaxt en Finance fotografeert facturen onder slechte omstandigheden.

Multimodale modellen kunnen tekst, afbeeldingen, spraak en video verwerken. Om onder rommelige omstandigheden te presteren hebben ze wel goed geïndexeerde data en retrieval nodig. Anders laat je het model improviseren op basis van afval. Geen enkel GPU-budget lost garbage in, garbage out op.

Multimodaal faalt dus meestal niet omdat de AI te dom is. Het faalt omdat de data niet is voorbereid, geïndexeerd of gemonitord.

RAG met Azure AI Search: hybride zoeken en semantische herrangschikking

Het model kent jouw bedrijf niet. Met RAG koppel je het daarom aan een kennisbron: het haalt een stukje data op en bouwt het antwoord daaromheen. Is de match scherp, dan krijg je bruikbare, gefundeerde antwoorden. Is de match slordig, dan gaat het model freestylen en levert het zelfverzekerde onzin. Zo ontstaat een chatbot die zweert dat er een nieuw Q3-kortingsbeleid bestaat dat nergens is vastgelegd. Het model is niet bewust geworden, het heeft simpelweg de verkeerde data opgehaald.

Azure AI Studio en Azure AI Foundry leunen beide op dit patroon. Ze ondersteunen verschillende modaliteiten: taal, visie, spraak en zelfs video-retrieval. Maar RAG is slechts zo goed als de data die erin zit.

Eén retrievalmethode is niet genoeg

Wie maar één zoekmethode implementeert en denkt dat het klaar is, mist het addertje onder het gras. Voor consistente resultaten heb je nodig:

• Hybride zoeken: een combinatie van trefwoorden en vectoren.
• Een semantische herrangschikker, die in Azure AI Search is ingebouwd.

Zo balanceert het systeem letterlijke trefwoordresultaten met semantische betekenis. Daarna worden de resultaten opnieuw gerangschikt, zodat de juiste context bovenaan staat. In een multimodale opzet kan het model daardoor beter omgaan met scheve scans en wazige afbeeldingen, in plaats van een nalevingsbeleid uit het niets te verzinnen.

Evaluatie en observability: meten of antwoorden kloppen

Veel implementaties mislukken omdat organisaties vanaf dag één perfecte resultaten verwachten, maar niets begroten voor evaluatierondes. Zonder achtergrondcontroles op betrouwbaarheid (groundedness), relevantie en samenhang merk je afwijkingen pas op als de gebruiker al is afgehaakt. De output klinkt correct, maar niemand heeft hem getoetst aan de bronwaarheid.

Je zou nooit een nieuwe database in gebruik nemen zonder monitoring. Toch gaat multimodale AI vaak in productie alsof het een plug-and-play-toverdoos is.

Azure AI Foundry biedt hiervoor observability-functies en ingebouwde evaluators. Daarmee meet je onderbouwing, relevantie, samenhang en waarheidsgetrouwheid. Dat zijn geen optionele extra's, het is de gedocumenteerde manier om te bepalen of je agent slim is of gewoon beleefd uit zijn nek kletst.

Carvana is een van de klantverhalen die laat zien dat het anders kan. Het bedrijf maakte zijn self-service AI nuttig door retrieval te verfijnen, agents goed te funderen en te investeren in observability. Dat verschilt sterk van bedrijven die een generieke chatbot zonder fundering of evaluatie op hun supportpagina plakten. Daar belandden garantieclaims verkeerd, liepen supportwachtrijen vol en leed de geloofwaardigheid schade. Het was dezelfde Azure-stack met het tegenovergestelde resultaat.

Copilot, agent of autonome agent: waar de risico's zitten

Een agent coördineert modellen, data, triggers en acties, als een verkeersregelaar voor geautomatiseerde workflows. Soms regelt hij alles soepel, soms stuurt hij de verkeerde voertuigen naar binnen.

Het verschil tussen copilot en agent

Een copilot is een assistent voor je prompts: jij stelt de vraag en jij houdt de controle. Agents beslissen zonder op jou te wachten en volgen vage instructies tot op de letter, ook als de uitkomst nergens op slaat. Een functieomschrijving als "optimaliseer processen, bied inzichten, help mensen" klinkt als een verkiezingsbelofte en geeft de bot vrij spel.

Een voorbeeld uit ServiceNow laat het verschil zien. Strikt afgebakend maakt de AI alleen echte tickets aan voor werkelijke problemen. Losgelaten kan hij de helpdesk bedelven onder valse meldingen over kritieke printerstoringen op hardware die prima werkt.

Autonome agents: de preview-valkuil

Autonome agents zijn proactief: ze bewaken de status van services, verwerken beveiligingssignalen of voeren workflows automatisch uit. De belofte is reëel, maar autonome agents in Copilot Studio zijn momenteel nog in preview. Dat betekent niet dat ze kapot zijn, wel dat ze nog niet zijn beproefd in de complexe echte wereld. Zelfs Microsoft benadrukt dat governance voor de levenscyclus en beheer via de Copilot-console op orde moeten zijn voordat je breed uitrolt.

Neem een autonome helpdesk-agent die mag reageren op inlogafwijkingen. In een demo met vijf gebruikers werkt dat perfect. In productie kan dezelfde agent op basis van valse positieven honderden accounts massaal resetten en zo de operatie aan het eind van de maand platleggen.

In de Microsoft-stack zijn er twee bouwstenen. Copilot Studio is de low-code plek waar makers het gedrag van agents ontwerpen met flows, prompts en event triggers. De Agent Service in Azure AI Foundry is de bedrijfsmatige basis om agents met monitoring, logs en statistieken in productie te brengen, met ingebouwd menselijk toezicht.

Azure AI Foundry: fabriek of mijnenveld?

Azure AI Foundry is Microsoft's vlaggenschip voor alles wat met AI te maken heeft. Te veel teams behandelen het als een Ikea: ze grijpen een paar grote taalmodellen, voegen connectors toe en schroeven zonder handleiding iets in elkaar. Dat levert een speelgoeddemo op die omvalt zodra een gebruiker een rommelige PDF uploadt.

Wat Foundry daadwerkelijk biedt:

• een modelcatalogus met onder meer Microsoft, OpenAI, Meta, Mistral en DeepSeek;
• aanpassingsopties zoals RAG, fine-tuning en distillatie;
• een Agent Service voor orkestratie;
• tools zoals Prompt Flow voor evaluatie en debugging;
• beveiligingsbaselines, identiteits- en toegangsbeheer, contentfilters en observability-dashboards.

De gereedschapskist is dus niet leeg. Het probleem is dat teams denken dat ze alleen de GPT-4 Turbo-schakelaar hoeven om te zetten om productieklaar te zijn. Foundry is een fabrieksvloer, geen speeltuin voor je hackathon. Dat betekent identiteitsgrenzen instellen, contentbeveiliging aan elke pipeline toevoegen, observability gebruiken en de taak koppelen aan het juiste model in plaats van het grootste.

Veelgemaakte fouten en stolpersteine

Demo-data versus werkelijkheid

Een organisatie gebruikte GPT-4 Turbo om productfoto's te taggen. Met strakke studiofoto's was het in het lab een succes. In productie waren het wazige telefoonfoto's uit het magazijn en bestempelde de AI kinderwagens als bureaustoelen en maakte hij van UPC-labels valse serienummers.

Geen toegangsregels

Een Foundry-copilot op SharePoint deelde vertrouwelijke oude data met twintig stagiairs. Dat was een compliance-ramp die met ingebouwde toegangsregels te voorkomen was geweest. Ook een bot die direct op een HR-repository is aangesloten zonder tenantscoping kan salarisschalen in de chat publiceren. Eén lek van gevoelige gegevens doodt adoptie sneller dan slechte UX.

De factuurvalstrik

De prijzen van Foundry zijn verbruiksgebaseerd en gekoppeld aan de services die je gebruikt. Elk onderdeel heeft een eigen facturatiemodel. Wie de Azure-prijscalculator niet gebruikt en het verbruik niet bijhoudt, krijgt een onaangename verrassing op de rekening.

Van sandbox direct naar productie

In de sandbox voelt alles soepel: schone demogegevens, direct resultaat. Het wordt gevaarlijk als teams het prototype zonder evaluatiepijplijnen naar productie duwen. Dan zien gebruikers de afwijkingen, daalt het vertrouwen en wordt de financiering teruggeschroefd. Dat is geen falen van het platform, maar van governance.

Verantwoorde AI: governance als vangrail

Verantwoorde AI klinkt mooi op een keynote-slide, maar in de praktijk is het configuratie, audits, filters en governance. Het lijkt meer op serveronderhoud dan op innovatie. Het is de autogordel, niet de sportwagen.

Concreet gaat het om toegangsbeleid dat onder druk standhoudt, filters die schadelijke prompts echt blokkeren en logboeken die gedetailleerd genoeg zijn voor een toezichthouder. Bijvoorbeeld door HR-copilots te isoleren van financiële gegevens en te kunnen bewijzen hoe een antwoord tot stand kwam.

Tools én eigen verantwoordelijkheid

Azure AI Content Safety filtert gewelddadige en aanstootgevende prompts en antwoorden voordat ze gebruikers bereiken. Foundry en Copilot Studio voegen daar evaluatiepijplijnen aan toe, met controles op feitelijkheid, relevantiescores, transparantie, dashboards en uitlegbaarheid. Je kunt drempelwaarden aanpassen, input en output filteren en bots dwingen hun bronnen te tonen.

Microsoft zet hier zwaar op in, met 34.000 full-time ingenieurs voor beveiliging en 15.000 partners met diepgaande expertise. Toch zit geen van hen in jouw tenant. Identiteiten beveiligen, data isoleren, versleuteling toepassen en beleid configureren blijft jouw taak. Is je scoping slordig, dan ben jij verantwoordelijk voor het lek.

Lifecycle governance en human-in-the-loop

Modellen evolueren, prompts verschuiven en outputs dwalen af. Daarom werk je in cycli van testen, goedkeuren, releasen en itereren, met checkpoints per ronde. Teams die één keer releasen en daarna niet meer omkijken, gaan vroeg of laat de mist in. Daarbij hoort human-in-the-loop: de mens blijft de uiteindelijke veiligheidsmaatregel, zoals een automatische piloot altijd een handmatige override heeft.

Ook ethiek speelt mee. Een agent die medewerkers ten onrechte als riskant markeert, of betalingen aan leveranciers vasthoudt omdat hij ze als fraude classificeert, veroorzaakt fouten met menselijke en juridische gevolgen. Bias in trainingsdata of retrieval verdwijnt niet omdat je in preview draait.

Verantwoordelijkheid remt de snelheid niet, het voorkomt dat snelheid jou remt. Net als vangrails op een bergweg houden scopes, policies, filters en logs je niet tegen, maar uit het nieuws.

Praktische takeaways

• Bouw RAG nooit op één retrievalmethode: combineer hybride zoeken met semantische herrangschikking in Azure AI Search.
• Test met rommelige, realistische invoer, niet met nette demodata.
• Begroot evaluatierondes en meet groundedness, relevantie, coherentie en waarheidsgetrouwheid met de ingebouwde evaluators.
• Gebruik Foundry-observability en Prompt Flow vanaf de eerste dag.
• Geef agents een strakke afbakening, minimale rechten en geen algemene beheerdersrollen.
• Zorg dat elke actie een controleerbaar spoor achterlaat en dat serieuze acties terug te draaien zijn.
• Voeg content- en gedragsfilters toe, zoals Azure AI Content Safety.
• Houd een mens in de loop en laat autonome agents in preview eerst door staging-tests en goedkeuringsworkflows gaan.
• Kies het model dat bij de taak past, niet automatisch het grootste.
• Volg het verbruik met de Azure-prijscalculator om verrassingen te voorkomen.
• Onthoud de volgorde: governance eerst, experimenten daarna, productie als laatste.

Conclusie

AI-hallucinaties zijn zelden een kwestie van een te zwak model. Meestal ontbreken goede retrieval, evaluatie en governance. Met hybride zoeken en semantische herrangschikking in Azure AI Search, constante evaluatie van onderbouwing en relevantie en strak afgebakende agents blijven antwoorden in de realiteit in plaats van in fantasie. Azure AI Foundry en Copilot Studio leveren de benodigde onderdelen, maar het blijft jouw taak om ze als infrastructuur te behandelen en niet als plug-and-play-oplossing. Wie governance voorop zet, houdt AI-projecten niet alleen draaiende, maar ook houdbaar.