2026-01-03

Membangun Control Plane Agen AI Microsoft

Banyak tim berlomba-lomba memberi agen AI mereka wajah yang ramah dan suara yang meyakinkan, tetapi episode ini berargumen bahwa bahaya sebenarnya tersembunyi di balik kesan rapi tersebut. Yang tampak sebagai asisten percakapan yang membantu sebenarnya adalah mesin pengambil keputusan probabilistik yang cepat dan terhubung langsung ke alat-alat sensitif, dan cara sebagian besar organisasi menerapkannya justru menjamin kegagalan senyap, bukan pelanggaran keamanan yang dramatis. Pembicara menjelaskan mengapa kontrol saat ini berfokus pada momen yang keliru: identitas dan akses bersyarat memutuskan siapa yang mendapat token, sedangkan transkrip dan log menjelaskan apa yang terjadi kemudian, tetapi hampir tidak ada yang mengatur saat tepat ketika agen menjalankan tindakan dengan dampak besar. Studi kasus menunjukkan bagaimana agen yang berniat baik menghapus data yang salah, membocorkan informasi sensitif di tempat yang keliru, atau membocorkan pengetahuan internal ke publik, sambil tetap sepenuhnya "patuh" di dalam log. Masalah intinya

Apple Podcasts · Spotify · YouTube · YouTube Music

Build a Microsoft AI Agent Control Plane (English)