2026-05-11

Geautomatiseerde Red Teaming voor Multi-Model AI in de Financiële Sector

In deze aflevering van de m365.fm podcast onderzoekt Mirko Peters waarom traditionele AI-beveiligingstests in moderne enterprise-omgevingen niet langer voldoende zijn. De discussie richt zich op “red teaming” voor multi-model AI-systemen, vooral in sterk gereguleerde sectoren zoals de financiële wereld, waar meerdere AI-modellen, copilots, API's en automatiseringslagen met elkaar interacteren. De aflevering legt uit hoe handmatige testmethoden tekortschieten, omdat AI-systemen zich anders gedragen afhankelijk van context, geketende prompts, integraties, geheugen en gebruikersgedrag. Een model dat in isolatie veilig lijkt, kan kwetsbaar worden zodra het aan andere systemen of autonome workflows is gekoppeld. Mirko benadrukt dat moderne aanvallen niet langer eenvoudige prompt-injecties zijn, maar meerstapsaanvallen die adaptief zijn en vaak pas zichtbaar worden wanneer de schade al is aangericht. Een belangrijk thema is dat organisaties AI niet langer als een chatbot moeten behandelen, maar als een

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)