Prompt injection en AI-governance

Stel je voor: je zet een chatbot of planningsassistent in om medewerkers te helpen, en binnen enkele minuten doet die voorstellen die bevooroordeeld, misleidend of gewoon nutteloos zijn. Dat is geen sciencefiction. Het gebeurt wanneer de waarborgen voor verantwoorde AI ontbreken. Een assistent die vergaderingen zou moeten herschikken, kan ineens favorieten kiezen, collega's stilletjes van uitnodigingen verwijderen of een belangrijke boodschap van je manager onder de spam begraven.

In dit artikel lees je hoe prompt injection werkt, waarom AI-uitvoer onvoorspelbaar is, wat de EU-AI-wet van je verwacht en welke beschermingsmechanismen je in Microsoft 365 en Power Platform al tot je beschikking hebt. Ook komt aan bod hoe een governance board dit alles bij elkaar houdt.

Wat is prompt injection en waarom is het zo gevaarlijk?

Zie je AI-assistent als een schip op zee. Het schip kan glimmen en de motor kan krachtig zijn, maar zonder navigatiesysteem vaar je blind door de mist. AI zonder vangrails is beweging zonder richting. Gewone fouten zijn al vervelend, maar het echte gevaar ontstaat wanneer iemand bewust de touwtjes in handen neemt. Dat is prompt injection: een kwaadwillende kapitein die aan boord sluipt en een commando geeft dat officieel klinkt, maar het schip van koers brengt.

Aanvallers gebruiken zorgvuldig geformuleerde teksten om veiligheidsregels te omzeilen. Het systeem werkt gewoon mee, want de meeste basismodellen beschouwen elke goed geformuleerde instructie als geldig. Ze herkennen geen motief of intentie. Vraag je de AI om een vergadering samen te vatten en zit er ook een vertrouwelijk agendabestand in het verzoek, dan behandelt de AI beide gelijk. Ethiek wordt niet meegewogen en bedrog wordt niet vermoed. Het is alsof je met vervalste maar geautoriseerd ogende documenten door een controlepost glipt.

Waarom één poging soms genoeg is, en anders gewoon blijven proberen

Omdat de uitkomsten van een model niet deterministisch zijn, krijg je nooit twee keer precies hetzelfde antwoord. Een aanvaller kan daarom net zo lang blijven testen tot het model het gewenste antwoord geeft, zoals je met dobbelstenen gooit tot het raak is. Bovendien blijft de schade zelden beperkt tot één inbox. Slechte resultaten verspreiden zich sneller door workflows dan menselijke fouten: een foute suggestie leidt tot een kettingreactie, slecht advies beïnvloedt beslissingen en verkeerde labels verspreiden misinformatie en vooringenomenheid.

Gelaagde verdediging: observeren, testen, controleren, beheersen

Gelukkig is mitigatie mogelijk. Aanbieders en bedrijven gebruiken al gelaagde verdedigingsmechanismen: geautomatiseerde filters, reinforcement-learningregels en menselijke beoordelaars die controleren wat er toch doorheen glipt. Telus raadt bijvoorbeeld aan om nieuwe copilots te testen in afgeschermde, controleerbare omgevingen, zodat de impact beperkt blijft voordat echte gebruikers of data in beeld komen. Combineer dat met continue red teaming, waarbij mensen het systeem voortdurend op zwakke plekken onderzoeken. Geautomatiseerde maatregelen doen het zware werk, menselijke controle houdt het model op koers wanneer eenvoudige regels falen.

Deterministisch versus niet-deterministisch: de verborgen schakelaar

Typ je 2 plus 2 in een rekenmachine, dan verwacht je 4 en geen 42. Rekenmachines zijn gebouwd op ijzersterk determinisme: dezelfde invoer geeft altijd dezelfde uitvoer. Generatieve AI-tools werken anders. Hun output varieert door sampling, stochastische processen, model-updates en zelfs datadrift. Het lijkt op improvisatietheater: jij schrijft de scène, maar de acteur verzint de clou ter plekke. Soms werkt dat prachtig, soms slaat het de plank volledig mis.

Klassieke automatisering en regelgebaseerde workflows, zoals veel ingebouwde functionaliteit in Power Platform, neigen naar de deterministische kant. Je stelt een voorwaarde in en zodra de trigger afgaat, voert het systeem de regel precies uit. Daardoor blijven compliance, datastromen en audit trails stabiel. Generatieve copilots maken van elke input een open ruimte voor interpretatie. Ze vatten samen, combineren en herformuleren op een manier die menselijk aanvoelt. Die vloeiendheid is hun charme, maar ook hun risico in contexten waar consistentie nodig is. Deze schommelingen zijn geen ontwerpfout. Ze zitten in de manier waarop grote taalmodellen taal genereren, via vele paden in plaats van één.

Drift: als dezelfde input een andere uitkomst geeft

Denk aan een AI-gestuurde kredietcheck die een aanvrager vandaag goedkeurt en dezelfde gegevens morgen afwijst. De aanvrager voelt zich overrompeld en de toezichthouder ziet inconsistentie die naar discriminatie ruikt. Dat is drift: resultaten verschuiven zonder duidelijke reden. In tegenstelling tot bij een mens kun je het model niet zomaar vragen uit te leggen wat er is veranderd. Het vertrouwen brokkelt het snelst af wanneer de redenering verdwijnt achter ondoorzichtige uitkomsten. Kleine variaties tellen bovendien op tot overtredingen zodra ze over honderden gevallen worden uitvergroot.

Je kunt een copilot niet dwingen zich als een rekenmachine te gedragen. Wel kun je vangnetten eromheen bouwen: menselijk toezicht, monitoring, logboeken, verklaarbaarheidsmaatregelen en governancekaders. Governance fungeert als scheidsrechter in het improvisatiespel. Het smoort innovatie niet, maar houdt de willekeur binnen afgebakende kaders.

EU-AI-wet: risicocategorieën en wat ze voor je workflows betekenen

De EU-AI-wet werkt als een nieuw bestemmingsplan dat over je digitale stad wordt gelegd. Het is geen aanbeveling maar wetgeving. De kern is categorisatie: systemen worden ingedeeld als minimaal, beperkt, hoog of onaanvaardbaar risico.

• Minimaal risico: bijvoorbeeld een chatbot die klanten helpt met veelgestelde vragen.
• Hoog risico: onder meer wervingstools, kredietscores en werkplekmonitoring.
• Onaanvaardbaar risico: manipulatief of gevaarlijk gebruik, dat in feite volledig verboden is.

Die labels zijn niet vrijblijvend, ze brengen verplichtingen met zich mee. Bij een hoogrisicosysteem moet je transparantie en uitleg bieden, gedetailleerde logboeken voor audits bijhouden en menselijk toezicht inrichten. Transparantie betekent dus echte logboeken van hoe beslissingen worden genomen, geen vage opsomming in een presentatie. Controleerbaarheid vereist dat elk beslissingspad is opgeslagen en opvraagbaar. Menselijk toezicht betekent dat echte mensen het systeem in de gaten houden en kunnen ingrijpen als het model afwijkt.

Voor ontwikkelaars is dat een scherpe wending. Een wervingsapp die cv's rangschikt, was gisteren nog een handige tijdsbesparing en valt nu in de categorie hoog risico. De app is niet kapot, maar hij raakt mensen op een manier die de wet als gevoelig definieert. Snelle prototypes worden zo gecontroleerde implementaties met compliancegoedkeuring per stap. Zie de wet minder als bureaucratie en meer als de zuurstofregels aan boord van een ruimteschip: ze lijken overdreven bij een kalme hemel, maar tijdens turbulentie houden ze de bemanning in leven.

Naleving kun je niet uitstellen

De verplichtingen gelden nu. Logboeken, controles en toezicht achteraf inbouwen is duurder dan ze al in de ontwerpfase meenemen. Naast financiële gevolgen is er reputatieschade, en die is moeilijker te herstellen. Als klanten merken dat je tool een grens overschrijdt, kun je dat niet met een update goedmaken. De vraag is dus: weet je welke van je AI-functies als risicovol gelden? Een cv-sorteerder of een voorspellende productiviteitstool die werkgelegenheid of financiële vooruitzichten raakt, valt onder de wet, ook als je ze als onschuldige helpers ziet.

Ingebouwde vangrails in Microsoft 365 en Power Platform

Goed nieuws: veel beschermingsmechanismen zitten al in het Microsoft-ecosysteem. Je hoeft ze alleen aan te zetten. Microsoft 365 en Power Platform bevatten beheertools die vaak onopgemerkt blijven, alsof het optionele extra's zijn. Het zijn geen extraatjes, maar de structurele basis voor je systemen wanneer regelgeving en risico's zich aandienen.

Inzicht en verklaarbaarheid

Met de toezichtfuncties kun je traceren hoe modellen zich gedragen, beslissingen vastleggen en uitleg in duidelijke taal tonen. Zo krijg je een echte feedbackloop in plaats van een blackbox: een signaal wanneer een algoritme afwijkt. Waar andere leveranciers, zoals AWS, AI-servicekaarten gebruiken om modelgebruik en -limieten te documenteren, werkt Microsoft met de Responsible AI-standaard en tools zoals het Responsible AI-dashboard. Dat levert rapporten op over verklaarbaarheid, prestaties en verantwoorde ontwerpkeuzes. Je ziet welke variabelen de keuze van een model hebben beïnvloed en kunt beoordelen of de uitkomst eerlijk was. Auditors krijgen traceerbaar bewijs en gebruikers meer vertrouwen.

Beleidscontroles, dataverliespreventie en logboeken

Op modelniveau bieden alle leveranciers een vorm van vangrails. In de Microsoft-omgeving zijn dat beleidscontroles, dashboards voor uitlegbaarheid en auditlogboeken. Ze blokkeren pogingen tot kwaadwillende invoer en filteren resultaten voordat ze uit de hand lopen. Schakel daarnaast gegevensverliespreventie in, zodat gevoelige informatie niet in verkeerde handen komt, en bewaar logboeken en auditsporen. Samen zijn ze je blackbox-recorder: elke actie en afwijking is vastgelegd, zodat je fouten kunt herleiden.

Dat werkt in de praktijk. Een eenvoudige Power App met AI Builder verzamelde in de eerste versies meer persoonlijke gegevens dan een organisatie kon verantwoorden. Nadat de compliance-instellingen waren geactiveerd, stopte de overmatige gegevensstroom, werden de datagrenzen aangescherpt en bleef de app gewoon werken. De architectuur hoefde niet opnieuw te worden opgebouwd, alleen de bestaande beveiligingsmechanismen moesten worden ingeschakeld.

Sandbox en governance-dashboards

Test copilots eerst in een afgebakende, controleerbare sandbox, naar het voorbeeld van Telus. Onverwacht gedrag blijft dan in een veilige zone voordat je het loslaat op bedrijfskritische workflows. Governance-dashboards vormen de verbinding: leidinggevenden kunnen AI-uitvoer in realtime bevragen, goedkeuren of tegenhouden. Zo zitten mensen in de controlekamer, als luchtverkeersleiders in een druk luchtruim. Wie compliance vanaf het ontwerp meeneemt, bespaart op herwerk, kan toezichthouders direct de logs leveren die ze nodig hebben en werkt uiteindelijk sneller.

Governance boards: de laatste verdedigingslinie

Vangrails werken niet vanzelf. Ze vereisen configuratie, beoordeling en constante monitoring door mensen. Een governance board is de brugbemanning van je ruimteschip: het team dat de koers stabiel houdt. Zonder dat toezicht zijn zelfs de beste vangrails slechts metaal zonder oordeel, want ze interpreteren niets, stellen geen vragen en anticiperen niet.

Wie zit er in een governance board?

Een goed board is multidisciplinair. Het bestaat uit technologieleiders, eigenaren van data governance, juridische of compliance-adviseurs, een bedrijfsvertegenwoordiger en minstens één onafhankelijke beoordelaar. AI past niet netjes in een silo: een cv-screeningtool raakt HR, een voorspelalgoritme de financiën en een chatbot praat rechtstreeks met klanten. Eén functie kan niet alle gevolgen overzien.

Wat doet een board concreet?

• Regelmatig auditen op bias en eerlijkheid.
• De herkomst van gegevens bevestigen en nalevingsrapporten beoordelen.
• Volgen hoe niet-deterministische systemen improviseren, inclusief red teaming en het registreren van onverwachte resultaten.
• Modeldocumentatie beoordelen en risico-inventarisaties uitvoeren om gebruiksscenario's te classificeren.
• Menselijke controlepunten handhaven waar toezicht vereist is.
• Een vast ritme hanteren en KPI's definiëren voor eerlijkheid, nauwkeurigheid en afwijking, zodat monitoring meetbaar is in plaats van giswerk.

Het board werkt vanuit vijf principes: eerlijkheid, transparantie, verantwoording, veiligheid en privacy. Eerlijkheid voorkomt dat uitkomsten gebruikers benadelen op basis van demografische kenmerken. Transparantie betekent dat beslissingen duidelijk worden uitgelegd. Verantwoording betekent dat een aangewezen persoon verantwoordelijk is voor het resultaat, niet "de AI". Veiligheid voorkomt schade of misbruik van output, en privacy beschermt gevoelige gegevens.

Het verschil in de praktijk is groot. Organisaties met een effectief board ontdekken problemen al tijdens proefdraaien, bijvoorbeeld bias in een wervingsmodel, en lossen die rustig op. Zonder toezicht komt het verhaal eerst in de pers. Preventie kost tijd, herstel kost reputatie.

Veelgemaakte fouten en stolpersteine

• Dashboards negeren: teams kijken even naar de beheertools, halen hun schouders op en gaan door. Die tools zijn essentieel, geen decoratie.
• Vertrouwen op filters alleen: vangrails bestaan, maar zijn niet altijd voldoende. Slimme teksten kunnen ze omzeilen.
• Verwachten dat AI zich als een rekenmachine gedraagt: non-determinisme blijft bestaan en moet worden ingekaderd.
• Compliance uitstellen: achteraf logboeken en toezicht inbouwen is duurder dan het vanaf het ontwerp meenemen.
• Niet weten welke functies risicovol zijn: zonder inventarisatie weet je niet welke verplichtingen gelden.
• Toezicht als eenmalige afvinklijst zien: zonder vaste cadans voor KPI's en afwijkingscontroles verdwijnen waarborgen na de implementatie.
• Het board als decoratieve commissie behandelen: zonder echte controle en verantwoording blijft het bij slogans.

Praktische takeaways

• Inventariseer al je AI-gebruiksscenario's en voer een risicoanalyse uit: welke projecten zijn hoog risico, welke vereisen strikte governance en welke niet?
• Activeer de beveiligingen die al in je platform zitten: beleidscontroles, gegevensverliespreventie, logboeken en auditsporen.
• Test copilots eerst in een afgeschermde sandbox en combineer dat met continue red teaming.
• Bouw logboeken en verklaarbaarheid in vanaf het ontwerp, niet achteraf.
• Gebruik het Responsible AI-dashboard voor rapporten over verklaarbaarheid en prestaties.
• Richt een multidisciplinair governance board op met een vast ritme van audits en meetbare KPI's voor eerlijkheid, nauwkeurigheid en afwijking.
• Wijs een persoon aan die verantwoordelijk is voor de uitkomsten van elk AI-systeem.

Conclusie

Verantwoorde AI is geen optie die je voor de show aanzet, maar het veiligheidsmechanisme dat bepaalt of je de turbulentie overleeft. Prompt injection en onvoorspelbare output zijn reële risico's, de EU-AI-wet maakt toezicht verplicht en Microsoft 365 en Power Platform bieden de bouwstenen al. Met een inventarisatie, geactiveerde beveiligingen en een governance board bouw je vertrouwen op, verlaag je risico's en maak je je AI-projecten klaar voor succes op de lange termijn.