M365.FM · Русский
Red teaming ИИ в финансах
почему ручное тестирование не работает и как защищает мультимодельный гантлет
ИИ-агенты и Copilot StudioMicrosoft 365 CopilotБезопасность, идентичность и governanceAzure и разработкаred teaming ИИprompt-инъекцииИИ-агентыфинансовый секторEU AI Actбезопасность RAGуправление ИИ
Всего одна многоходовая prompt-инъекция может запустить мошеннический перевод на 250 000 долларов — достаточно скрытого текста на изображении чека. В этом выпуске разбирается, почему файрволы и ручные тесты бессильны против стохастических ИИ-агентов в финансах и как их заменяет непрерывный автоматизированный red teaming с несколькими моделями.
Apple PodcastsSpotifyDeezerAmazon Music🎧 Слушать▶ Смотреть видео на YouTube📄 Читать расшифровку (TXT)VTT
M365.FM ▸ SpotifyAmazon MusicDeezeriHeartPodcast AddictPodchaser
Подписаться на подкастНовые выпуски о Microsoft 365, Copilot и не только, бесплатно в вашем приложении для подкастов.Spotify
▶ Red teaming ИИ в финансах: почему ручное тестирование не работает и как защищает мультимодельный гантлет (ИИ-дубляж)
Из выпуска вы узнаете:
- Почему лишь 28% компаний могут связать действие агента с конкретным ответственным человеком и как теневой ИИ и статические API-ключи создают огромную поверхность атаки
- Как уязвимости распространяются между моделями (дообучение GPT-4 с 50% репликацией на производные Qwen и Llama) и как adversarial hubness позволяет одному отравленному документу перехватывать 84% RAG-запросов
- Мультимодельный гантлет: атакующая LLM против агента-защитника в автоматическом цикле и смесь 50/50 чистых и состязательных данных, повышающая устойчивость на 70%
- Фреймворк аудита «стеклянный ящик» для EU AI Act с августа 2026 года: реконструкция решения менее чем за 60 минут, удостоверения Know-Your-Agent и ограниченная автономия с аварийным выключателем у человека
- Экономика и дорожная карта: в среднем 5,8 млн долларов ущерба от утечки, соотношение предотвращённых затрат 6:1, страховые премии ниже до 20% и три шага — инвентаризация, причинная трассировка и оптимизация TRADES
Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.