M365Con 2027 – conferencia online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Español

Red teaming de IA en finanzas

por qué fallan las pruebas manuales y cómo protege un gauntlet multimodelo

Una sola inyección de prompt de varios turnos puede desencadenar una transferencia fraudulenta de 250.000 dólares: basta con texto oculto en la imagen de un recibo. Este episodio explica por qué los firewalls y las pruebas manuales fracasan frente a agentes de IA estocásticos en el sector financiero y cómo el red teaming continuo y automatizado con varios modelos los sustituye.

Seguir el podcastNuevos episodios sobre Microsoft 365, Copilot y más, gratis en tu app de podcasts.Spotify

▶ Red teaming de IA en finanzas: por qué fallan las pruebas manuales y cómo protege un gauntlet multimodelo (Doblaje IA)

Lo que aprenderás:

  1. Por qué solo el 28 % de las empresas puede vincular la acción de un agente con un patrocinador humano, y cómo la IA en la sombra y las claves de API estáticas crean una enorme superficie de ataque
  2. Cómo se propagan las vulnerabilidades entre modelos (ajustes de GPT-4 con una tasa de replicación del 50 % en derivados de Qwen y Llama) y cómo la adversarial hubness hace que un solo documento envenenado atraiga el 84 % de las consultas RAG
  3. El gauntlet multimodelo: un LLM atacante contra el agente defensor en un bucle automatizado, con una mezcla 50/50 de datos limpios y adversarios que aumenta la resiliencia un 70 %
  4. El marco de auditoría «caja de cristal» para la Ley de IA de la UE desde agosto de 2026: reconstrucción de decisiones en menos de 60 minutos, credenciales Know-Your-Agent y autonomía acotada con interruptor de emergencia humano
  5. Caso de negocio y hoja de ruta: 5,8 millones de dólares de coste medio por brecha, relación de ahorro 6:1, primas de seguro hasta un 20 % más bajas y tres pasos: inventario, trazabilidad causal y optimización TRADES

Este episodio es una versión en español doblada con IA del video explicativo animado del M365 Show del Microsoft MVP Mirko Peters.

Más episodios

Todos los episodios →