2026-05-11

Автоматизоване червоне тестування багатомодельного ШІ у фінансах

У цьому епізоді подкасту m365.fm Мірко Пітерс досліджує, чому традиційного тестування безпеки ШІ вже недостатньо в сучасному корпоративному середовищі. Обговорення зосереджено на «червоному тестуванні» (red teaming) багатомодельних систем ШІ, особливо в суворо регульованих галузях, таких як фінанси, де кілька моделей ШІ, копілотів, API та рівнів автоматизації взаємодіють між собою. Епізод пояснює, чому ручні методи тестування не справляються із завданням: системи ШІ поводяться по-різному залежно від контексту, ланцюгів запитів, інтеграцій, пам'яті та поведінки користувачів. Модель, яка здається безпечною ізольовано, може стати вразливою після підключення до інших систем або автономних робочих процесів. Мірко наголошує, що сучасні атаки вже не є простими ін'єкціями запитів — вони багатоетапні, адаптивні і часто непомітні доти, доки шкода вже не завдана. Ключова тема: організаціям слід перестати розглядати ШІ як чат-бота і натомість

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)