M365Con 2027 – бесплатная онлайн-конференция · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Русский

Red teaming ИИ в финансах

почему ручное тестирование не работает и как защищает мультимодельный гантлет

Всего одна многоходовая prompt-инъекция может запустить мошеннический перевод на 250 000 долларов — достаточно скрытого текста на изображении чека. В этом выпуске разбирается, почему файрволы и ручные тесты бессильны против стохастических ИИ-агентов в финансах и как их заменяет непрерывный автоматизированный red teaming с несколькими моделями.

Подписаться на подкастНовые выпуски о Microsoft 365, Copilot и не только, бесплатно в вашем приложении для подкастов.Spotify

▶ Red teaming ИИ в финансах: почему ручное тестирование не работает и как защищает мультимодельный гантлет (ИИ-дубляж)

Из выпуска вы узнаете:

  1. Почему лишь 28% компаний могут связать действие агента с конкретным ответственным человеком и как теневой ИИ и статические API-ключи создают огромную поверхность атаки
  2. Как уязвимости распространяются между моделями (дообучение GPT-4 с 50% репликацией на производные Qwen и Llama) и как adversarial hubness позволяет одному отравленному документу перехватывать 84% RAG-запросов
  3. Мультимодельный гантлет: атакующая LLM против агента-защитника в автоматическом цикле и смесь 50/50 чистых и состязательных данных, повышающая устойчивость на 70%
  4. Фреймворк аудита «стеклянный ящик» для EU AI Act с августа 2026 года: реконструкция решения менее чем за 60 минут, удостоверения Know-Your-Agent и ограниченная автономия с аварийным выключателем у человека
  5. Экономика и дорожная карта: в среднем 5,8 млн долларов ущерба от утечки, соотношение предотвращённых затрат 6:1, страховые премии ниже до 20% и три шага — инвентаризация, причинная трассировка и оптимизация TRADES

Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.

Другие выпуски

Все выпуски →