M365Con 2027 – безкоштовна онлайн-конференція · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Українська

Red teaming ШІ у фінансах

чому ручне тестування не працює і як захищає мультимодельний гантлет

Лише одна багатокрокова prompt-ін’єкція може запустити шахрайський переказ на 250 000 доларів — досить прихованого тексту на зображенні чека. У цьому випуску пояснюється, чому файрволи й ручні тести безсилі проти стохастичних ШІ-агентів у фінансах і як їх замінює безперервний автоматизований red teaming із кількома моделями.

Підписатися на подкастНові випуски про Microsoft 365, Copilot та інше, безкоштовно у вашому застосунку для подкастів.Spotify

▶ Red teaming ШІ у фінансах: чому ручне тестування не працює і як захищає мультимодельний гантлет (ШІ-дубляж)

Що ви дізнаєтеся:

  1. Чому лише 28% компаній можуть пов’язати дію агента з конкретною відповідальною людиною і як тіньовий ШІ та статичні API-ключі створюють величезну поверхню атаки
  2. Як вразливості поширюються між моделями (донавчання GPT-4 з 50% реплікацією на похідні Qwen і Llama) і як adversarial hubness дає змогу одному отруєному документу перехоплювати 84% RAG-запитів
  3. Мультимодельний гантлет: атакувальна LLM проти агента-захисника в автоматичному циклі та суміш 50/50 чистих і змагальних даних, що підвищує стійкість на 70%
  4. Фреймворк аудиту «скляна скринька» для EU AI Act із серпня 2026 року: реконструкція рішення менш ніж за 60 хвилин, посвідчення Know-Your-Agent та обмежена автономія з аварійним вимикачем у людини
  5. Економіка й дорожня карта: у середньому 5,8 млн доларів збитків від витоку, співвідношення відвернених витрат 6:1, страхові премії нижчі до 20% і три кроки — інвентаризація, причинне трасування та оптимізація TRADES

Цей випуск — українська версія анімованого пояснювального відео з M365 Show від Microsoft MVP Мірко Петерса, озвучена за допомогою ШІ.

Інші випуски

Усі випуски →