2026-05-11

Red Team Automatizado para IA Multimodelo em Finanças

Neste episódio do podcast m365.fm, Mirko Peters explora por que os testes tradicionais de segurança em IA já não são suficientes em ambientes corporativos modernos. A discussão se concentra no "red teaming" para sistemas de IA multimodelo, especialmente em setores altamente regulados como o financeiro, onde vários modelos de IA, copilots, APIs e camadas de automação interagem entre si. O episódio explica como os métodos de teste manuais falham, já que os sistemas de IA se comportam de forma diferente conforme o contexto, os prompts encadeados, as integrações, a memória e o comportamento do usuário. Um modelo que parece seguro isoladamente pode se tornar vulnerável quando conectado a outros sistemas ou fluxos de trabalho autônomos. Mirko destaca que os ataques modernos já não são simples injeções de prompt; são de várias etapas, adaptativos e muitas vezes invisíveis até que o dano já tenha ocorrido. Um tema central é que as organizações devem deixar de tratar a IA como um simples chatbot e passar a

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)