M365Con 2027 – konferensi online gratis · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Bahasa Indonesia

Red teaming AI di sektor keuangan

mengapa pengujian manual gagal dan gauntlet multi-model melindungi

Satu prompt injection multi-giliran saja bisa memicu transfer palsu senilai 250.000 dolar – cukup dengan teks tersembunyi di gambar sebuah kuitansi. Episode ini menjelaskan mengapa firewall dan pengujian manual gagal menghadapi agen AI yang stokastik di sektor keuangan, dan bagaimana red teaming berkelanjutan dan otomatis dengan beberapa model menggantikannya.

Ikuti podcastEpisode baru tentang Microsoft 365, Copilot, dan lainnya, gratis di aplikasi podcast Anda.Spotify

▶ Red teaming AI di sektor keuangan: mengapa pengujian manual gagal dan gauntlet multi-model melindungi (Sulih Suara AI)

Yang akan Anda pelajari:

  1. Mengapa hanya 28% perusahaan yang dapat menelusuri tindakan agen ke sponsor manusia, dan bagaimana shadow AI serta kunci API statis menciptakan permukaan serangan yang sangat besar
  2. Bagaimana kerentanan menyebar antarmodel (fine-tuning GPT-4 dengan tingkat replikasi 50% ke turunan Qwen dan Llama) dan bagaimana adversarial hubness membuat satu dokumen beracun menarik 84% kueri RAG
  3. Gauntlet multi-model: LLM penyerang melawan agen pembela dalam loop otomatis, dengan campuran 50/50 data bersih dan adversarial untuk ketahanan 70% lebih tinggi
  4. Kerangka audit “kotak kaca” untuk EU AI Act mulai Agustus 2026: rekonstruksi keputusan dalam waktu kurang dari 60 menit, kredensial Know-Your-Agent, dan otonomi terbatas dengan tombol darurat manusia
  5. Kasus bisnis dan peta jalan: biaya rata-rata pelanggaran data 5,8 juta dolar, rasio penghindaran biaya 6:1, premi asuransi hingga 20% lebih rendah, serta tiga langkah: inventaris, penelusuran kausal, dan optimisasi TRADES

Episode ini adalah versi bahasa Indonesia dengan sulih suara AI dari video penjelasan animasi M365 Show karya Microsoft MVP Mirko Peters.

Episode lainnya

Semua episode →