M365Con 2027 – bezpłatna konferencja online · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Polski

Red teaming AI w finansach

dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli

Jedna wieloetapowa iniekcja promptu może wywołać oszukańczy przelew na 250 000 dolarów – wystarczy ukryty tekst na zdjęciu paragonu. Ten odcinek pokazuje, dlaczego zapory sieciowe i testy ręczne zawodzą wobec stochastycznych agentów AI w finansach i jak zastępuje je ciągły, zautomatyzowany red teaming z użyciem wielu modeli.

Obserwuj podcastNowe odcinki o Microsoft 365, Copilot i nie tylko, za darmo w Twojej aplikacji podcastowej.Spotify

▶ Red teaming AI w finansach: dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli (Dubbing AI)

Czego się dowiesz:

  1. Dlaczego tylko 28% firm potrafi powiązać działanie agenta z ludzkim sponsorem i jak shadow AI oraz statyczne klucze API tworzą ogromną powierzchnię ataku
  2. Jak podatności rozprzestrzeniają się między modelami (dostrajanie GPT-4 z 50-procentowym wskaźnikiem replikacji na pochodne Qwen i Llama) i jak adversarial hubness sprawia, że jeden zatruty dokument przyciąga 84% zapytań RAG
  3. Gauntlet wielu modeli: atakujący LLM przeciwko agentowi-obrońcy w zautomatyzowanej pętli, z mieszanką 50/50 czystych i adwersarialnych danych, która zwiększa odporność o 70%
  4. Framework audytu „szklanej skrzynki” pod unijny AI Act od sierpnia 2026: rekonstrukcja decyzji w mniej niż 60 minut, poświadczenia Know-Your-Agent i ograniczona autonomia z ludzkim wyłącznikiem awaryjnym
  5. Uzasadnienie biznesowe i plan działania: średnio 5,8 mln dolarów kosztu naruszenia danych, wskaźnik unikniętych kosztów 6:1, do 20% niższe składki ubezpieczeniowe oraz trzy kroki: inwentaryzacja, śledzenie przyczynowe i optymalizacja TRADES

Ten odcinek to polska wersja animowanego filmu objaśniającego z M365 Show autorstwa Microsoft MVP Mirko Petersa, zdubbingowana przez AI.

Więcej odcinków

Wszystkie odcinki →