2026-05-11

Red Teaming Automatizado para IA Multimodelo en Finanzas

En este episodio del podcast m365.fm, Mirko Peters explora por qué las pruebas tradicionales de seguridad en IA ya no son suficientes en los entornos empresariales modernos. La conversación se centra en el "red teaming" para sistemas de IA multimodelo, especialmente en industrias altamente reguladas como las finanzas, donde múltiples modelos de IA, copilots, APIs y capas de automatización interactúan entre sí. El episodio explica cómo los métodos de prueba manuales fallan porque los sistemas de IA se comportan de forma distinta según el contexto, las cadenas de instrucciones, las integraciones, la memoria y el comportamiento del usuario. Un modelo que parece seguro de forma aislada puede volverse vulnerable al conectarse con otros sistemas o flujos de trabajo autónomos. Mirko destaca que los ataques modernos ya no son simples inyecciones de instrucciones: son de varios pasos, adaptativos y a menudo invisibles hasta que el daño ya se ha producido. Un tema clave es que las organizaciones deben dejar de tratar la IA como un chatbot e, en su lugar, ...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)