2026-05-11

Red Teaming Automatizzato per l'AI Multi-Modello nel Settore Finanziario

In questo episodio del podcast m365.fm, Mirko Peters esplora perché i tradizionali test di sicurezza sull'AI non sono più sufficienti negli ambienti aziendali moderni. La discussione si concentra sul "red teaming" per sistemi AI multi-modello, in particolare nei settori altamente regolamentati come la finanza, dove più modelli AI, copilot, API e livelli di automazione interagiscono tra loro. L'episodio spiega come i metodi di test manuali falliscano, poiché i sistemi AI si comportano in modo diverso a seconda del contesto, dei prompt concatenati, delle integrazioni, della memoria e del comportamento degli utenti. Un modello apparentemente sicuro se isolato può diventare vulnerabile una volta collegato ad altri sistemi o a flussi di lavoro autonomi. Mirko sottolinea che gli attacchi moderni non sono più semplici prompt injection, ma sono multi-fase, adattivi e spesso invisibili finché il danno non si è già verificato. Un tema centrale è che le organizzazioni devono smettere di trattare l'AI come un semplice chatbot e iniziare a considerarla

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)