M365.FM · Polski
Red teaming AI w finansach
dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli
Agenci AI i Copilot StudioMicrosoft 365 CopilotBezpieczeństwo, tożsamość i governanceAzure i programowaniered teaming AIiniekcja promptuagenci AIsektor finansowyEU AI Actbezpieczeństwo RAGzarządzanie AI
Jedna wieloetapowa iniekcja promptu może wywołać oszukańczy przelew na 250 000 dolarów – wystarczy ukryty tekst na zdjęciu paragonu. Ten odcinek pokazuje, dlaczego zapory sieciowe i testy ręczne zawodzą wobec stochastycznych agentów AI w finansach i jak zastępuje je ciągły, zautomatyzowany red teaming z użyciem wielu modeli.
Apple PodcastsSpotifyDeezerAmazon Music🎧 Posłuchaj teraz▶ Obejrzyj wideo na YouTube📄 Czytaj transkrypcję (TXT)VTT
M365.FM ▸ SpotifyAmazon MusicDeezeriHeartPodcast AddictPodchaser
Obserwuj podcastNowe odcinki o Microsoft 365, Copilot i nie tylko, za darmo w Twojej aplikacji podcastowej.Spotify
▶ Red teaming AI w finansach: dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli (Dubbing AI)
Czego się dowiesz:
- Dlaczego tylko 28% firm potrafi powiązać działanie agenta z ludzkim sponsorem i jak shadow AI oraz statyczne klucze API tworzą ogromną powierzchnię ataku
- Jak podatności rozprzestrzeniają się między modelami (dostrajanie GPT-4 z 50-procentowym wskaźnikiem replikacji na pochodne Qwen i Llama) i jak adversarial hubness sprawia, że jeden zatruty dokument przyciąga 84% zapytań RAG
- Gauntlet wielu modeli: atakujący LLM przeciwko agentowi-obrońcy w zautomatyzowanej pętli, z mieszanką 50/50 czystych i adwersarialnych danych, która zwiększa odporność o 70%
- Framework audytu „szklanej skrzynki” pod unijny AI Act od sierpnia 2026: rekonstrukcja decyzji w mniej niż 60 minut, poświadczenia Know-Your-Agent i ograniczona autonomia z ludzkim wyłącznikiem awaryjnym
- Uzasadnienie biznesowe i plan działania: średnio 5,8 mln dolarów kosztu naruszenia danych, wskaźnik unikniętych kosztów 6:1, do 20% niższe składki ubezpieczeniowe oraz trzy kroki: inwentaryzacja, śledzenie przyczynowe i optymalizacja TRADES
Ten odcinek to polska wersja animowanego filmu objaśniającego z M365 Show autorstwa Microsoft MVP Mirko Petersa, zdubbingowana przez AI.