M365.FM · Nederlands
AI-red teaming in de financiële sector
waarom handmatig testen faalt en een multi-model-gauntlet beschermt
AI-agents & Copilot StudioMicrosoft 365 CopilotBeveiliging, identiteit & governanceAzure & ontwikkelingAI-red teamingprompt-injectieAI-agentsfinanciële sectorEU AI ActRAG-beveiligingAI-governance
Eén enkele multi-turn prompt-injectie kan een frauduleuze overboeking van 250.000 dollar in gang zetten – verborgen tekst in de afbeelding van een bonnetje is al genoeg. Deze aflevering laat zien waarom firewalls en handmatige tests falen tegen stochastische AI-agents in de financiële sector en hoe continue, geautomatiseerde red teaming met meerdere modellen ze vervangt.
Volg de podcastNieuwe afleveringen over Microsoft 365, Copilot en meer, gratis in je podcast-app.Spotify
▶ AI-red teaming in de financiële sector: waarom handmatig testen faalt en een multi-model-gauntlet beschermt (AI-nasynchronisatie)
Dit leer je:
- Waarom slechts 28% van de bedrijven de actie van een agent kan herleiden tot een menselijke sponsor, en hoe schaduw-AI en statische API-sleutels een enorm aanvalsoppervlak creëren
- Hoe kwetsbaarheden zich tussen modellen verspreiden (GPT-4-finetuning met 50% replicatie naar Qwen- en Llama-afgeleiden) en hoe adversarial hubness één vergiftigd document 84% van de RAG-zoekopdrachten laat aantrekken
- De multi-model-gauntlet: een aanvallend LLM tegen de verdedigende agent in een geautomatiseerde lus, met een 50/50-mix van schone en vijandige trainingsdata voor 70% meer weerbaarheid
- Het glass-box-auditframework voor de Europese AI Act vanaf augustus 2026: besluitreconstructie binnen 60 minuten, Know-Your-Agent-bewijzen en begrensde autonomie met een menselijke noodschakelaar
- Businesscase en roadmap: gemiddeld 5,8 miljoen dollar per datalek, kostenvermijding van 6:1, tot 20% lagere verzekeringspremies en drie stappen: inventarisatie, causale tracering en TRADES-optimalisatie
Deze aflevering is een met AI nagesynchroniseerde Nederlandse versie van de geanimeerde uitlegvideo uit de M365 Show van Microsoft MVP Mirko Peters.