2026-05-11

Автоматизированное red teaming для мультимодельного ИИ в финансах

В этом выпуске подкаста m365.fm Mirko Peters рассматривает, почему традиционного тестирования безопасности ИИ уже недостаточно в современных корпоративных средах. Основное внимание уделено «red teaming» для мультимодельных систем ИИ, особенно в строго регулируемых отраслях, таких как финансы, где несколько моделей ИИ, copilot-ассистентов, API и слоёв автоматизации взаимодействуют друг с другом. В эпизоде объясняется, почему ручные методы тестирования не работают: системы ИИ ведут себя по-разному в зависимости от контекста, цепочек запросов, интеграций, памяти и поведения пользователей. Модель, которая выглядит защищённой в изоляции, может стать уязвимой после подключения к другим системам или автономным рабочим процессам. Mirko подчёркивает, что современные атаки уже не сводятся к простым prompt injection: они многоэтапные, адаптивные и часто остаются незамеченными до того, как наносят ущерб. Ключевая мысль выпуска заключается в том, что организациям следует перестать воспринимать ИИ как чат-бота и вместо этого

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)