M365Con 2027 – conferência online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Português

Red teaming de IA em finanças

por que testes manuais falham e como um gauntlet multimodelo protege

Uma única injeção de prompt em vários turnos pode disparar uma transferência fraudulenta de 250 mil dólares – basta um texto oculto na imagem de um recibo. Este episódio mostra por que firewalls e testes manuais falham contra agentes de IA estocásticos no setor financeiro e como o red teaming contínuo e automatizado com vários modelos os substitui.

Seguir o podcastNovos episódios sobre Microsoft 365, Copilot e mais, grátis no seu app de podcasts.Spotify

▶ Red teaming de IA em finanças: por que testes manuais falham e como um gauntlet multimodelo protege (Dublagem IA)

O que você vai aprender:

  1. Por que apenas 28% das empresas conseguem vincular a ação de um agente a um patrocinador humano, e como a IA paralela (shadow AI) e chaves de API estáticas criam uma enorme superfície de ataque
  2. Como vulnerabilidades se espalham entre modelos (ajustes finos do GPT-4 com taxa de replicação de 50% em derivados de Qwen e Llama) e como a adversarial hubness faz um único documento envenenado atrair 84% das consultas RAG
  3. O gauntlet multimodelo: um LLM atacante contra o agente defensor em um loop automatizado, com mistura 50/50 de dados limpos e adversariais para 70% mais resiliência
  4. O framework de auditoria “caixa de vidro” para o AI Act da UE a partir de agosto de 2026: reconstrução de decisões em menos de 60 minutos, credenciais Know-Your-Agent e autonomia limitada com botão de desligamento humano
  5. Caso de negócio e roteiro: custo médio de US$ 5,8 milhões por violação, relação de economia de 6:1, prêmios de seguro até 20% menores e três passos: inventário, rastreamento causal e otimização TRADES

Este episódio é uma versão em português dublada por IA do vídeo explicativo animado do M365 Show, do Microsoft MVP Mirko Peters.

Mais episódios

Todos os episódios →