M365.FM · Português
Red teaming de IA em finanças
por que testes manuais falham e como um gauntlet multimodelo protege
Agentes de IA e Copilot StudioMicrosoft 365 CopilotSegurança, identidade e governançaAzure e desenvolvimentored teaming de IAinjeção de promptagentes de IAsetor financeiroEU AI Actsegurança RAGgovernança de IA
Uma única injeção de prompt em vários turnos pode disparar uma transferência fraudulenta de 250 mil dólares – basta um texto oculto na imagem de um recibo. Este episódio mostra por que firewalls e testes manuais falham contra agentes de IA estocásticos no setor financeiro e como o red teaming contínuo e automatizado com vários modelos os substitui.
Apple PodcastsSpotifyDeezerAmazon Music🎧 Ouvir agora▶ Assistir ao vídeo no YouTube📄 Ler a transcrição (TXT)VTT
M365.FM ▸ SpotifyAmazon MusicDeezeriHeartPodcast AddictPodchaser
Seguir o podcastNovos episódios sobre Microsoft 365, Copilot e mais, grátis no seu app de podcasts.Spotify
▶ Red teaming de IA em finanças: por que testes manuais falham e como um gauntlet multimodelo protege (Dublagem IA)
O que você vai aprender:
- Por que apenas 28% das empresas conseguem vincular a ação de um agente a um patrocinador humano, e como a IA paralela (shadow AI) e chaves de API estáticas criam uma enorme superfície de ataque
- Como vulnerabilidades se espalham entre modelos (ajustes finos do GPT-4 com taxa de replicação de 50% em derivados de Qwen e Llama) e como a adversarial hubness faz um único documento envenenado atrair 84% das consultas RAG
- O gauntlet multimodelo: um LLM atacante contra o agente defensor em um loop automatizado, com mistura 50/50 de dados limpos e adversariais para 70% mais resiliência
- O framework de auditoria “caixa de vidro” para o AI Act da UE a partir de agosto de 2026: reconstrução de decisões em menos de 60 minutos, credenciais Know-Your-Agent e autonomia limitada com botão de desligamento humano
- Caso de negócio e roteiro: custo médio de US$ 5,8 milhões por violação, relação de economia de 6:1, prêmios de seguro até 20% menores e três passos: inventário, rastreamento causal e otimização TRADES
Este episódio é uma versão em português dublada por IA do vídeo explicativo animado do M365 Show, do Microsoft MVP Mirko Peters.