M365Con 2027 – gratis online conferentie · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Nederlands

AI-red teaming in de financiële sector

waarom handmatig testen faalt en een multi-model-gauntlet beschermt

Eén enkele multi-turn prompt-injectie kan een frauduleuze overboeking van 250.000 dollar in gang zetten – verborgen tekst in de afbeelding van een bonnetje is al genoeg. Deze aflevering laat zien waarom firewalls en handmatige tests falen tegen stochastische AI-agents in de financiële sector en hoe continue, geautomatiseerde red teaming met meerdere modellen ze vervangt.

Volg de podcastNieuwe afleveringen over Microsoft 365, Copilot en meer, gratis in je podcast-app.Spotify

▶ AI-red teaming in de financiële sector: waarom handmatig testen faalt en een multi-model-gauntlet beschermt (AI-nasynchronisatie)

Dit leer je:

  1. Waarom slechts 28% van de bedrijven de actie van een agent kan herleiden tot een menselijke sponsor, en hoe schaduw-AI en statische API-sleutels een enorm aanvalsoppervlak creëren
  2. Hoe kwetsbaarheden zich tussen modellen verspreiden (GPT-4-finetuning met 50% replicatie naar Qwen- en Llama-afgeleiden) en hoe adversarial hubness één vergiftigd document 84% van de RAG-zoekopdrachten laat aantrekken
  3. De multi-model-gauntlet: een aanvallend LLM tegen de verdedigende agent in een geautomatiseerde lus, met een 50/50-mix van schone en vijandige trainingsdata voor 70% meer weerbaarheid
  4. Het glass-box-auditframework voor de Europese AI Act vanaf augustus 2026: besluitreconstructie binnen 60 minuten, Know-Your-Agent-bewijzen en begrensde autonomie met een menselijke noodschakelaar
  5. Businesscase en roadmap: gemiddeld 5,8 miljoen dollar per datalek, kostenvermijding van 6:1, tot 20% lagere verzekeringspremies en drie stappen: inventarisatie, causale tracering en TRADES-optimalisatie

Deze aflevering is een met AI nagesynchroniseerde Nederlandse versie van de geanimeerde uitlegvideo uit de M365 Show van Microsoft MVP Mirko Peters.

Meer afleveringen

Alle afleveringen →