2026-05-11

Red Teaming automatisé pour l'IA multi-modèles dans la finance

Dans cet épisode du podcast m365.fm, Mirko Peters explique pourquoi les tests de sécurité traditionnels de l'IA ne suffisent plus dans les environnements d'entreprise modernes. La discussion porte sur le « red teaming » appliqué aux systèmes d'IA multi-modèles, en particulier dans les secteurs hautement réglementés comme la finance, où plusieurs modèles d'IA, copilotes, API et couches d'automatisation interagissent entre eux. L'épisode montre comment les méthodes de test manuelles échouent, car les systèmes d'IA se comportent différemment selon le contexte, les enchaînements de requêtes, les intégrations, la mémoire et le comportement des utilisateurs. Un modèle qui semble sécurisé isolément peut devenir vulnérable une fois connecté à d'autres systèmes ou à des workflows autonomes. Mirko souligne que les attaques modernes ne se limitent plus à de simples injections de prompts : elles sont multi-étapes, adaptatives et souvent invisibles jusqu'à ce que les dégâts soient déjà causés. Un thème central est que les organisations doivent cesser de considérer l'IA comme un simple chatbot et commencer à la traiter comme...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)