2026-05-11

Automatyczne testy red teaming dla systemów AI wielomodelowych w finansach

W tym odcinku podcastu m365.fm Mirko Peters analizuje, dlaczego tradycyjne testy bezpieczeństwa AI nie wystarczają we współczesnych środowiskach korporacyjnych. Dyskusja koncentruje się na „red teamingu” dla wielomodelowych systemów AI, szczególnie w silnie regulowanych branżach, takich jak finanse, gdzie wiele modeli AI, copilotów, interfejsów API i warstw automatyzacji wchodzi ze sobą w interakcje. Odcinek wyjaśnia, dlaczego ręczne metody testowe zawodzą: systemy AI zachowują się inaczej w zależności od kontekstu, łańcuchów promptów, integracji, pamięci i zachowań użytkowników. Model, który wydaje się bezpieczny w izolacji, może stać się podatny na ataki po połączeniu z innymi systemami lub autonomicznymi procesami. Mirko podkreśla, że nowoczesne ataki nie są już prostymi wstrzyknięciami promptów — są wieloetapowe, adaptacyjne i często niewidoczne, dopóki szkoda nie zostanie wyrządzona. Kluczowym wątkiem jest to, że organizacje muszą przestać traktować AI jak chatbota i zamiast tego...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)