KI-Red-Teaming im Finanzwesen
Warum manuelle Tests scheitern und ein Multi-Modell-Gauntlet schützt
Eine einzige Multi-Turn-Prompt-Injektion kann eine betrügerische Überweisung über 250.000 Dollar auslösen – schon versteckter Text im Bild einer Quittung genügt. Diese Folge zeigt, warum Firewalls und manuelle Tests gegen stochastische KI-Agenten im Finanzwesen versagen und wie kontinuierliches, automatisiertes Red Teaming mit mehreren Modellen sie ersetzt.
M365.FM ▸ SpotifyAmazon MusicDeezeriHeartPodcast AddictPodchaser
▶ KI-Red-Teaming im Finanzwesen: Warum manuelle Tests scheitern und ein Multi-Modell-Gauntlet schützt (KI-Synchronfassung)
Das erfahren Sie:
- Warum nur 28 % der Unternehmen die Aktion eines Agenten einem menschlichen Sponsor zuordnen können – und wie Schatten-KI und statische API-Schlüssel eine riesige Angriffsfläche schaffen
- Wie sich Schwachstellen zwischen Modellen ausbreiten (GPT-4-Feinabstimmungen mit 50 % Replikationsrate auf Qwen- und Llama-Derivate) und wie Adversarial Hubness mit einem einzigen vergifteten Dokument 84 % der RAG-Abfragen anzieht
- Der Multi-Modell-Gauntlet: Angreifer-LLM gegen Verteidiger-Agent in einer automatisierten Endlosschleife, mit 50/50-Mix aus sauberen und gegnerischen Trainingsdaten für 70 % mehr Widerstandsfähigkeit
- Das Glassbox-Audit-Framework für das EU-KI-Gesetz ab August 2026: Entscheidungsrekonstruktion in unter 60 Minuten, Know-Your-Agent-Nachweise und Bounded Autonomy mit menschlichem Notausschalter
- Business Case und Fahrplan: 5,8 Mio. Dollar durchschnittliche Kosten einer Datenschutzverletzung, Kostenvermeidung 6:1, bis zu 20 % niedrigere Versicherungsprämien – und die drei Schritte Inventar, Ursachenverfolgung und TRADES-Optimierung
Diese Folge ist eine KI-synchronisierte deutsche Fassung des animierten Erklärvideos aus der M365 Show von Microsoft MVP Mirko Peters.