2026-05-11

Red Teaming Otomatis untuk AI Multi-Model di Sektor Keuangan

Dalam episode podcast m365.fm ini, Mirko Peters membahas mengapa pengujian keamanan AI tradisional tidak lagi memadai di lingkungan perusahaan modern. Diskusi berfokus pada "red teaming" untuk sistem AI multi-model, terutama di industri yang sangat diatur seperti sektor keuangan, di mana beberapa model AI, copilot, API, dan lapisan otomatisasi saling berinteraksi. Episode ini menjelaskan bagaimana metode pengujian manual gagal karena sistem AI berperilaku berbeda tergantung pada konteks, rangkaian prompt, integrasi, memori, dan perilaku pengguna. Sebuah model yang tampak aman jika berdiri sendiri bisa menjadi rentan setelah terhubung dengan sistem lain atau alur kerja otonom. Mirko menyoroti bahwa serangan modern tidak lagi sekadar injeksi prompt sederhana, melainkan bersifat multi-langkah, adaptif, dan sering kali tidak terlihat hingga kerusakan sudah terjadi. Tema utamanya adalah bahwa organisasi harus berhenti memperlakukan AI sebagai chatbot dan mulai memperlakukannya sebagai...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)