M365.FM · Bahasa Indonesia
Lindungi Copilot dari Prompt Injection
Azure Logic Apps sebagai Firewall dengan Prompt Shields
Microsoft 365 CopilotKeamanan, identitas & tata kelolaAzure & pengembanganMicrosoft 365 Copilotprompt injectionAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelkeamanan AI
Penyerang tidak perlu membobol prompt Anda – cukup meracuni konteksnya dengan instruksi tersembunyi di email, file SharePoint, atau kolom formulir yang nantinya diperlakukan Copilot sebagai perintah. Episode ini menjelaskan mengapa system prompt dan filter bukan batas keamanan yang sesungguhnya, serta bagaimana Azure Logic Apps memeriksa, menilai, dan memblokir payload berbahaya sebelum Copilot dijalankan.
Ikuti podcastEpisode baru tentang Microsoft 365, Copilot, dan lainnya, gratis di aplikasi podcast Anda.Spotify
▶ Lindungi Copilot dari Prompt Injection: Azure Logic Apps sebagai Firewall dengan Prompt Shields (Sulih Suara AI)
Yang akan Anda pelajari:
- Mengapa prompt injection tidak langsung lewat konten yang diambil lebih berbahaya daripada serangan langsung di jendela chat, dan mengapa system prompt, pembatas, serta pedoman hanya membujuk alih-alih menegakkan aturan
- Model firewall Logic Apps: memicu, menormalkan, memeriksa, memberi skor, memutuskan, lalu meneruskan atau mencatat
- Dua tahap pemeriksaan: filter regex yang cepat dan Azure AI Content Safety Prompt Shields untuk prompt dan dokumen sekaligus, ditambah Microsoft Defender Threat Intelligence dengan skor kepercayaan
- Zona kepercayaan dan normalisasi (menghapus markup, mendekode URL dan Base64) serta keputusan bertingkat: izinkan, bersihkan, karantina, minta persetujuan manusia, atau blokir
- Penyetelan dalam operasi: positif palsu di bawah 2%, deteksi di bawah 15 menit dan penahanan di bawah 5 menit, paket konsumsi atau Standard, serta kaitan dengan NIST AI RMF dan label sensitivitas Purview
Episode ini adalah versi bahasa Indonesia dengan sulih suara AI dari video penjelasan animasi M365 Show karya Microsoft MVP Mirko Peters.