2026-05-11

Automatisiertes Red Teaming für Multi-Modell-KI im Finanzwesen

In dieser Folge des m365.fm-Podcasts untersucht Mirko Peters, warum herkömmliche KI-Sicherheitstests in modernen Unternehmensumgebungen nicht mehr ausreichen. Im Mittelpunkt steht das „Red Teaming“ für Multi-Modell-KI-Systeme, insbesondere in stark regulierten Branchen wie dem Finanzwesen, in denen mehrere KI-Modelle, Copilots, APIs und Automatisierungsebenen miteinander interagieren. Die Folge erklärt, warum manuelle Testmethoden versagen: KI-Systeme verhalten sich je nach Kontext, verketteten Prompts, Integrationen, Speicher und Nutzerverhalten unterschiedlich. Ein Modell, das isoliert sicher erscheint, kann verwundbar werden, sobald es mit anderen Systemen oder autonomen Workflows verbunden ist. Mirko hebt hervor, dass moderne Angriffe nicht mehr einfache Prompt-Injections sind, sondern mehrstufig, adaptiv und oft erst dann sichtbar, wenn der Schaden bereits eingetreten ist. Ein zentrales Thema ist, dass Organisationen KI nicht länger als Chatbot betrachten sollten, sondern als

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)