Menguasai Arsitektur Empat Lapisan Microsoft Agent 365
By Mirko Peters ·
Selamat datang kembali, para pendengar podcast dan penggemar teknologi! Jika Anda pernah merasa strategi AI perusahaan Anda terjebak dalam siklus tanpa akhir membangun chatbot prototipe dasar yang gagal menangani kompleksitas bisnis dunia nyata…
Automatically translated with AI from the original post. Read the English original
Selamat datang kembali, para pendengar podcast dan penggemar teknologi! Jika Anda pernah merasa strategi AI perusahaan Anda terjebak dalam siklus tanpa akhir membangun chatbot prototipe dasar yang gagal menangani kompleksitas bisnis dunia nyata, Anda pasti tidak sendirian. Untuk waktu yang lama, organisasi memperlakukan kecerdasan buatan hanya sebagai antarmuka baru, sebuah kotak Tanya Jawab sederhana yang ditempelkan pada situs SharePoint atau portal pelanggan. Namun, lanskap kerja modern telah berubah secara drastis. Kita tidak lagi sekadar berbincang dengan model bahasa statis; kita sedang merancang sistem bisnis otonom yang sadar akan kondisi, berskala perusahaan, yang mengoordinasikan tugas, menjalankan alur kerja multi-langkah, dan berinteraksi secara aman dengan basis data internal maupun eksternal. Agar hal ini dapat terwujud tanpa jatuh ke dalam kekacauan operasional, Anda memerlukan cetak biru yang terstruktur dan tangguh. Cetak biru itu adalah Microsoft Agent 365. Dalam artikel blog mendalam ini, kita akan membedah arsitektur yang membuat kecerdasan perusahaan yang dapat diskalakan menjadi mungkin, serta melihat bagaimana Anda dapat berhenti membangun bot yang terisolasi dan mulai membangun runtime yang tangguh dan siap produksi. Untuk mendengarkan perspektif audio dan pembahasan lapangan dunia nyata mengenai pergeseran paradigma ini, pastikan Anda menyimak episode podcast pendamping kami, Microsoft AI Agent Runtimes: Beyond Enterprise Chatbots.
Agent 365 dan Model Empat Lapisan

Apa Itu Agent 365
Agent 365 memberi Anda platform terpadu untuk membangun dan menjalankan agen AI dalam skala besar. Anda beranjak dari chatbot sederhana dan membuat agen yang berfungsi sebagai identitas aman dan terkelola di dalam organisasi Anda. Microsoft merancang Agent 365 untuk membantu Anda mengelola siklus hidup agen, menerapkan keamanan, dan memastikan kepatuhan. Anda dapat menggunakan alat low-code atau SDK pengembang untuk membuat agen yang sesuai dengan kebutuhan bisnis Anda. Platform ini terintegrasi dengan Microsoft Entra untuk identitas, Copilot untuk orkestrasi, dan Microsoft Foundry untuk eksekusi runtime.
Tips: Agent 365 memperlakukan setiap agen sebagai identitas kelas satu. Artinya, Anda dapat mengendalikan, mengaudit, dan mengelola agen sama seperti Anda mengelola pengguna.
Berikut tabel yang menunjukkan apa yang membedakan Agent 365 dari platform lain:
| Fitur | Deskripsi |
|---|---|
| Tata kelola | Tata kelola bawaan dengan fokus pada identitas agen, keamanan, dan perlindungan dari ancaman. |
| Orkestrasi | Lapisan koordinasi melalui Copilot, yang memungkinkan agen mengorkestrasi alur kerja di berbagai aplikasi. |
| Integrasi | Integrasi yang mulus dalam ekosistem Microsoft untuk pengelolaan agen AI yang komprehensif. |
| Demokratisasi Pembuatan | Alat low-code untuk tim bisnis dan extensibility mendalam untuk pengembang melalui SDK dan framework. |
Ikhtisar Empat Lapisan
Agent 365 menggunakan arsitektur empat lapisan untuk mengatur dan mengelola agen. Struktur ini membantu Anda menskalakan dan memelihara sistem agen Anda. Setiap lapisan memiliki peran yang jelas dalam arsitektur runtime.
Lapisan Pengalaman
Anda berinteraksi dengan agen melalui Lapisan Pengalaman. Lapisan ini menghubungkan agen dengan pengguna di aplikasi seperti Teams, Outlook, atau portal kustom. Lapisan ini menangani input pengguna dan menampilkan respons agen. Anda dapat menyesuaikan lapisan ini agar sesuai dengan alur kerja bisnis Anda.
Lapisan Agen
Lapisan Agen menyimpan kecerdasan setiap agen. Di sini, Anda menentukan apa yang diketahui agen dan bagaimana ia bertindak. Anda dapat menambahkan keterampilan, menghubungkan ke data, dan menyiapkan logika. Lapisan ini mendukung pendekatan low-code maupun pro-code, sehingga Anda dapat membangun agen yang memecahkan masalah bisnis nyata.
Lapisan Runtime
Lapisan Runtime mengelola cara agen berjalan dan mengoordinasikan tugas. Lapisan ini menyediakan arsitektur runtime yang memungkinkan agen menjalankan tindakan, mengelola state, dan pulih dari kesalahan. Anda memperoleh skalabilitas horizontal dan keandalan tinggi. Arsitektur dua lapis di dalam runtime memisahkan koordinasi dari eksekusi, sehingga pembaruan dan debugging menjadi lebih mudah.
Lapisan Tata Kelola
Lapisan Tata Kelola menjaga agar agen Anda tetap aman dan patuh. Anda mengendalikan akses, menetapkan kebijakan, dan melacak setiap tindakan. Microsoft menggunakan Entra dan Defender untuk menerapkan akses dengan hak istimewa minimum dan memantau aktivitas agen. Anda dapat melihat jejak audit dan menggunakan dasbor untuk memeriksa performa agen.
Catatan: Arsitektur empat lapis ini mendukung integrasi dengan sistem yang sudah ada, layanan eksternal, dan kemampuan kustom. Hal ini memberi Anda fleksibilitas dan kendali.
Peran Foundry Agent Service
Foundry Agent Service menjadi tulang punggung arsitektur runtime untuk agen Anda. Layanan ini menghubungkan agen sehingga mereka dapat mendelegasikan tugas dan bekerja sama. Anda dapat mengelola alur kerja yang kompleks, menangani state, dan pulih dari kesalahan. Microsoft Foundry memberi Anda fondasi yang kuat untuk membangun sistem agen yang andal dan dapat diskalakan.
| Peran Foundry Agent Service | Deskripsi |
|---|---|
| Connected Agents | Memungkinkan komunikasi langsung antaragen untuk delegasi tugas dan pemrosesan modular. |
| Alur Kerja Multi-Agen | Menyediakan lapisan orkestrasi terstruktur untuk mengelola alur kerja yang kompleks, termasuk manajemen state dan pemulihan dari kesalahan. |
Anda mendapatkan platform terpadu yang menggabungkan registry, kontrol akses, telemetri, dan interoperabilitas. Hal ini memudahkan Anda membangun, menerapkan, dan mengelola agen di seluruh organisasi.
Membangun Runtime dengan Agent Framework
Perencanaan dan Kebutuhan
Kasus Penggunaan dan Pemangku Kepentingan
Anda mulai membangun runtime dengan mengidentifikasi kasus penggunaan dan pemangku kepentingan. Anda perlu memahami perbedaan antara authoring dan operating agen. Authoring berarti Anda menulis kode, mendefinisikan agent definition, dan membuat dokumentasi. Operating berarti Anda menerapkan agen runtime untuk berinteraksi dengan pengguna dan menggunakan alat dalam alur kerja nyata.
- Tentukan masalah bisnis yang jelas yang akan diselesaikan oleh agen.
- Identifikasi pemangku kepentingan yang akan menggunakan, mengelola, atau memantau agen.
- Petakan alur kerja yang akan diotomatisasi atau dikoordinasikan oleh agen.
- Kumpulkan masukan validasi dari pemangku kepentingan untuk memastikan definisi agen sesuai dengan kebutuhan nyata.
Anda membangun agen dengan berfokus pada dampak yang akan dihasilkannya bagi organisasi Anda. Langkah ini menjadi fondasi bagi pengembangan agen dan operasi agen runtime.
Pemilihan Alat
Anda memilih alat yang sesuai dengan tujuan pengembangan agen Anda. Microsoft agent framework menawarkan berbagai pilihan untuk membangun runtime. Anda dapat menggunakan alat low-code untuk alur kerja sederhana atau SDK developer untuk definisi agen yang lebih lanjut.
- Pilih Microsoft agent framework untuk pengembangan agen yang dapat diskalakan.
- Gunakan Foundry Toolkit untuk orkestrasi dan penerapan agen runtime.
- Pilih alat yang mendukung alur kerja modular dan integrasi yang mudah.
- Pertimbangkan pilihan penerapan berdasarkan arsitektur dan kebutuhan bisnis Anda.
Tips: Microsoft agent framework terintegrasi dengan GitHub untuk version control dan kolaborasi. Hal ini membantu Anda mengelola artefak agen dan menjaga konsistensi di seluruh alur kerja.
Merancang Agen AI
Cetak Biru Berbasis Skill
Anda merancang agen menggunakan cetak biru berbasis skill. Pendekatan ini memungkinkan Anda membuat skill agen yang dapat digunakan ulang di beberapa agen. Ketika Anda memperbarui sebuah skill, semua agen yang menggunakan skill tersebut akan menerima pembaruan. Hal ini mengurangi convention drift dan meningkatkan kemudahan pemeliharaan.
Anda mendefinisikan skill agen sebagai komponen modular. Hal ini membuat definisi agen lebih konsisten dan mudah dikelola. Anda membangun alur kerja yang menyesuaikan diri dengan kebutuhan bisnis yang terus berubah.
Arsitektur Modular
Anda menggunakan arsitektur modular untuk memecah definisi agen menjadi komponen yang lebih kecil dan berorientasi peran. Hal ini meningkatkan skalabilitas dan membuat alur kerja lebih mudah dipahami. Anda mengintegrasikan alat observability sejak awal untuk memantau kinerja dan perilaku agen.
| Prinsip Desain | Deskripsi | Pentingnya |
|---|---|---|
| Desain Modular dan Berbasis Peran | Memecah sistem menjadi komponen yang lebih kecil dan berorientasi peran, masing-masing dengan peran yang jelas. | Meningkatkan skalabilitas, meningkatkan interpretabilitas, dan menghindari kompleksitas dalam sistem. |
| Deep Observability | Mengintegrasikan alat observability sejak awal untuk memantau kinerja dan perilaku agen. | Memungkinkan optimasi dan kepercayaan terhadap sistem dengan membuatnya transparan dan mudah di-debug. |
| Umpan Balik & Optimasi Iteratif | Menyertakan mekanisme untuk perbaikan dan adaptasi agen yang berkelanjutan seiring waktu. | Membedakan agen cerdas dari sistem statis, sehingga memungkinkan evolusi dan peningkatan. |
Anda membangun alur kerja yang mendukung umpan balik human-in-the-loop dan optimasi iteratif. Hal ini memastikan agen runtime terus berkembang dan membaik seiring waktu.
Coding dan Pengemasan Agen
Menggunakan SDK Agent Framework
Anda menggunakan SDK Microsoft agent framework untuk menulis kode dan mengemas agen. Ikuti praktik terbaik untuk memastikan keandalan, kemudahan pemeliharaan, dan skalabilitas dalam alur kerja Anda.
- Mulailah dengan skill OpenSpec propose untuk menghasilkan rencana implementasi.
- Delegasikan tugas coding kepada coding agent setelah rencana tersebut final.
- Uji kode secara fungsional dan tinjau jalur kode kritis secara mendalam.
- Gunakan komponen UI kustom sebagai dependensi eksternal, dengan fokus pada API publik.
- Manfaatkan keterampilan git dan GitHub untuk kontrol versi dan kolaborasi.
- Buat skill desain untuk menjaga gaya merek dan konsistensi komponen.
- Cegah penyimpangan dari desain keseluruhan untuk meningkatkan pengalaman pengguna.
- Pastikan pembuatan kode UI berkualitas tinggi yang selaras dengan arah desain.
Anda mengemas artefak agen untuk penerapan. Anda memelihara definisi dan alur kerja agen dalam repositori yang dikendalikan versinya.
Kontainerisasi untuk Foundry
Anda menggunakan kontainerisasi untuk menyederhanakan penerapan dan penskalaan agen runtime. Foundry mengelola infrastruktur yang mendasarinya, sehingga Anda dapat fokus pada logika dan alur kerja agen.
- Kontainerisasi memungkinkan Anda berfokus pada logika agen, bukan pada pengelolaan infrastruktur.
- Foundry mengotomatiskan penerapan, penskalaan, dan pengelolaan kontainer, sehingga meningkatkan efisiensi.
- Kemampuan penskalaan bawaan menyederhanakan alokasi sumber daya.
- Isolasi yang disediakan oleh kontainer meningkatkan keamanan untuk agen.
Anda memilih opsi penerapan berdasarkan arsitektur dan kebutuhan bisnis Anda. Microsoft Foundry memperlancar pembangunan runtime dan penerapan agen, sehingga lebih mudah mengelola alur kerja dan operasi agen runtime.
Pengujian dan Validasi
Pengujian dan validasi merupakan langkah penting saat Anda menggunakan agent framework untuk membangun runtime. Anda ingin memastikan agen Anda bekerja sebagaimana mestinya sebelum beralih ke penerapan. Proses ini membantu Anda menemukan masalah sejak dini dan memastikan agen Anda berkinerja baik dalam skenario dunia nyata.
Pengujian Unit dan Integrasi
Anda mulai dengan membuat unit test untuk setiap skill dan fungsi dalam agen Anda. Unit test memeriksa apakah bagian-bagian individual dari kode agent framework Anda berfungsi dengan benar. Integration test kemudian memverifikasi bahwa berbagai bagian agen Anda berinteraksi sebagaimana mestinya. Anda sebaiknya mengembangkan rangkaian pengujian yang komprehensif, yang mencakup kasus rutin maupun kasus tepi.
| Metode Pengujian | Deskripsi |
|---|---|
| Akurasi pemilihan alat | Memeriksa apakah agen memilih alat yang tepat untuk setiap tugas. |
| Koherensi perencanaan | Menilai apakah agen membuat langkah-langkah yang logis dan berurutan untuk menyelesaikan masalah. |
| Penanganan percakapan multi-giliran | Menguji apakah agen mempertahankan konteks di sepanjang beberapa interaksi. |
| Kemampuan pemulihan dari kesalahan | Menganalisis bagaimana agen merespons ketika pendekatan pertamanya gagal. |
| Dataset benchmark | Menggunakan dataset yang sudah dikenal untuk menemukan kelemahan dan mengukur kemajuan. |
| Simulasi dan pengujian | Membuat lingkungan terkendali untuk menguji agen dalam berbagai skenario tanpa risiko dunia nyata. |
| Evaluasi keamanan dan keselamatan | Memastikan kepatuhan dan keselamatan dalam operasi AI. |
| Evaluasi Agentik | Menggunakan pemeriksaan kualitas dan metrik otomatis sebelum penerapan. |
Anda juga dapat menggunakan dataset benchmark untuk mengukur kemajuan dan menemukan kelemahan. Simulasi memungkinkan Anda melacak keputusan dan hasil agen dalam lingkungan yang aman. Metrik keselamatan dan kepatuhan melindungi organisasi Anda dari risiko.
Tip: Selalu sertakan evaluasi agentik otomatis dalam alur kerja agent framework Anda. Pemeriksaan ini membantu Anda menjaga kualitas tinggi sebelum beralih ke tahap berikutnya.
Penerimaan Pengguna
User acceptance testing (UAT) merupakan langkah terakhir sebelum penerapan. Anda mengundang pengguna sungguhan untuk berinteraksi dengan agen Anda dalam lingkungan terkendali. UAT memastikan solusi agent framework Anda memenuhi kebutuhan pengguna dan berfungsi dengan baik dalam skenario dunia nyata.
- UAT memeriksa apakah agen Anda selaras dengan tujuan bisnis dan alur kerja pengguna.
- UAT memastikan bahwa semua alur kerja kritis berfungsi dengan benar dalam penggunaan normal.
- UAT membantu Anda memastikan antarmuka pengguna mudah dipahami dan responsif.
- Dengan mengidentifikasi masalah sebelum penerapan, UAT mengurangi risiko dan meningkatkan keandalan.
Anda sebaiknya selalu mengumpulkan umpan balik dari pengguna selama UAT. Umpan balik ini membantu Anda menyempurnakan agen dan memastikan agen memberikan nilai bagi organisasi Anda.
Penerapan dengan Foundry
Setelah Anda menyelesaikan pengujian dan validasi, Anda beralih ke penerapan menggunakan Microsoft Foundry. Agent framework dan Foundry bekerja sama untuk memperlancar proses ini, sehingga mudah mengelola pembangunan runtime dalam skala besar.
Integrasi CI/CD
Continuous Integration dan Continuous Deployment (CI/CD) merupakan bagian kunci dari alur kerja agent framework modern. Pipeline CI/CD mengotomatiskan proses membangun, menguji, dan merilis agen Anda. Pendekatan ini membantu Anda menemukan kesalahan sejak dini dan memastikan agen Anda selalu siap produksi.
- Integrasi CI/CD memvalidasi spesifikasi agen Anda sebelum perubahan digabungkan. Langkah ini mencegah kegagalan produksi akibat pelanggaran spesifikasi.
- Pipeline ini memeriksa bahwa kode yang dihasilkan AI sesuai dengan spesifikasi yang disepakati, sehingga mengurangi risiko gangguan di produksi.
- CI/CD mengelola asumsi infrastruktur, memastikan kode framework agent Anda berperilaku dengan benar di lingkungan produksi.
Anda dapat mengatur pipeline CI/CD agar terpicu saat ada perubahan kode. Pipeline membangun agent Anda, menjalankan pengujian, dan mengevaluasi performanya sebelum mempromosikannya ke lingkungan berikutnya.
Kesiapan Produksi
Saat Anda melakukan deployment dengan Foundry, Anda mengikuti pendekatan berlapis untuk memastikan agent Anda siap untuk produksi. Berikut tabel yang merangkum langkah-langkah yang direkomendasikan:
| Lapisan | Deskripsi |
|---|---|
| Lapisan Developer | Berisi kode agent, konfigurasi, dan infrastruktur sebagai kode. |
| Pipeline CI | Terpicu saat ada perubahan kode, mencakup pembangunan, pengujian, dan evaluasi. |
| Pipeline CD | Mempromosikan versi agent melalui lingkungan pengembangan, pengujian, dan produksi. |
| Microsoft Foundry Agent Service | Mengelola runtime dan operasi siklus hidup. |
| Pemantauan dan Tata Kelola | Memastikan kualitas dan kepatuhan berkelanjutan melalui observabilitas dan kontrol. |
Anda sebaiknya selalu memantau agent setelah deployment. Foundry menyediakan alat untuk observabilitas, sehingga Anda dapat melacak performa agent dan memastikan kepatuhan. Pendekatan berlapis ini membantu Anda menjaga standar kualitas dan keamanan yang tinggi.
Catatan: Dengan mengikuti langkah-langkah ini, Anda dapat membangun, menguji, dan men-deploy agent dengan percaya diri. Framework agent dan Microsoft Foundry memberi Anda alat yang dibutuhkan untuk membangun runtime dan deployment yang sukses di lingkungan perusahaan mana pun.
Operasi dan Manajemen Runtime Agent

Interaksi Pengguna
Integrasi Lapisan Pengalaman
Anda berinteraksi dengan runtime agent melalui lapisan pengalaman. Lapisan ini menghubungkan Anda ke agent menggunakan alat yang sudah familiar, seperti Microsoft Teams, Outlook, atau portal web kustom. Lapisan pengalaman menangkap input Anda dan menyampaikan respons secara real time. Lapisan ini mendukung banyak jenis interaksi, termasuk teks, suara, dan gambar. Fleksibilitas ini membantu Anda bekerja dengan agent sesuai kebutuhan Anda.
Lapisan pengalaman lebih dari sekadar meneruskan pesan. Lapisan ini memahami maksud Anda dan mengirimkannya ke lapisan agentik untuk ditindaklanjuti. Anda dapat melihat antarmuka pengguna dan visualisasi dinamis yang membantu Anda menyetujui tugas atau meneruskan masalah. Lapisan pengalaman juga memungkinkan agent memulai percakapan dengan Anda, menawarkan saran atau pengingat yang dipersonalisasi. Anda mendapatkan pengalaman yang konsisten di semua perangkat dan saluran Anda.
Berikut tabel yang menunjukkan kemampuan utama lapisan pengalaman:
| Fungsi | Deskripsi |
|---|---|
| Interaksi Multimodal | Menangkap input teks, suara, dan visual, serta menyampaikan respons yang relevan di perangkat apa pun. |
| Komunikasi Maksud Pengguna | Meneruskan maksud Anda ke lapisan agentik untuk diproses. |
| UI Dinamis dan Visualisasi | Menyediakan antarmuka untuk persetujuan dan eskalasi dalam alur kerja agent. |
| Interaksi Proaktif | Agent dapat memulai percakapan dan menawarkan rekomendasi secara real time. |
| Pengalaman Omnichannel | Menjaga pengalaman Anda tetap konsisten di semua saluran dan perangkat. |
| Kemampuan Multi-Modal | Memungkinkan Anda berinteraksi menggunakan teks, suara, atau gambar untuk berbagi informasi secara efisien. |
| Personalisasi Sadar Konteks | Memberikan pengalaman yang dipersonalisasi berdasarkan tindakan, lokasi, dan waktu Anda. |
Menangani Input
Saat Anda mengirim pesan atau membuat permintaan, runtime agent memproses input Anda menggunakan pola lanjutan. Anda mungkin melihat pola interaksi yang berbeda tergantung pada alur kerja Anda. Beberapa agent menggunakan pola supervisor, di mana satu agent mengelola beberapa agent pekerja. Yang lain menggunakan orkestrasi berurutan, meneruskan informasi dari satu agent ke agent berikutnya dalam urutan yang telah ditetapkan. Anda juga mungkin melihat orkestrasi konkuren, di mana beberapa agent mengerjakan tugas yang sama secara bersamaan.
Berikut tabel yang menunjukkan pola interaksi pengguna yang umum:
| Jenis Pola | Deskripsi |
|---|---|
| Pola Supervisor | Alur kerja pusat mengoordinasikan beberapa agent pekerja, mengelola interaksi dan keluarannya. |
| Orkestrasi Berurutan | Agent disusun dalam urutan tetap, meneruskan keluaran ke agent berikutnya secara linear. |
| Orkestrasi Konkuren | Beberapa agent beroperasi secara bersamaan pada tugas yang sama, dengan keluaran dikumpulkan untuk diproses. |
Pola-pola ini membantu runtime agent menangani tugas kompleks, mengoordinasikan tindakan, dan menyampaikan hasil dengan cepat. Anda mendapatkan interaksi yang lancar dan andal sesuai kebutuhan bisnis Anda.
Eksekusi Runtime Agent
Koordinasi Tugas
Agen runtime menggunakan mesin orkestrasi dan alur kerja yang canggih untuk mengelola tugas. Mesin ini mengoordinasikan loop agen, yang mencakup menerima masukan Anda, memanggil model, menggunakan alat, memperbarui status, dan mengambil keputusan. Agen dapat menangani tugas multi-langkah, alur kerja bercabang, dan bahkan meminta persetujuan manusia bila diperlukan.
Anda akan melihat proses utama berikut dalam koordinasi tugas:
- Agen menerima masukan Anda dan memutuskan tindakan yang akan dilakukan.
- Agen memanggil model atau alat untuk memproses informasi.
- Agen memperbarui statusnya dan mencatat keputusan.
- Agen mengelola alur kerja yang kompleks, termasuk langkah bercabang dan langkah human-in-the-loop.
- Agen mendukung eksekusi yang andal, dengan titik pemeriksaan (checkpoint) untuk pulih dari kegagalan.
- Agen dapat diskalakan untuk menangani banyak tugas sekaligus dan berkoordinasi dengan agen lain bila diperlukan.
- Agen terintegrasi dengan sistem eksternal, sekaligus memastikan eksekusi yang aman dan tahan lama.
Kemampuan-kemampuan ini menjadikan agen runtime bagian yang kuat dalam operasi bisnis Anda.
Manajemen State
Manajemen state sangat penting untuk setiap agen runtime. Anda ingin agen mengingat tindakan di masa lalu, melacak tugas yang sedang berjalan, dan menyimpan data penting. Agen menggunakan memori jangka pendek dan jangka panjang untuk mengelola konteks dan pengetahuan.
Anda dapat mengikuti langkah-langkah berikut untuk manajemen state yang efektif:
- Bangun kepercayaan terhadap perilaku agen dengan menambahkan instrumentasi, log keputusan, catatan pemanggilan alat, dan pelacakan biaya.
- Lakukan uji stres pada agen dalam kondisi nyata, dengan memeriksa cakupan izin dan jalur eskalasi.
- Jalankan agen terhadap sistem lama untuk menemukan masalah integrasi dan kesalahan konfigurasi.
- Pastikan data bersih dan terstruktur, termasuk log terperinci dan catatan biaya, untuk meningkatkan performa.
Agen menyimpan memori, riwayat eksekusi, dan data kerja di penyimpanan eksternal seperti basis data atau penyimpanan objek. Untuk setiap sesi, agen menggunakan lingkungan sementara (ephemeral) yang dihapus setelah digunakan. Hal ini mencegah kebocoran state dan menjaga keamanan data Anda. Ketika agen perlu melanjutkan sesi, agen membuat lingkungan baru dan memasang kembali state yang tersimpan.
Agen runtime menggunakan arsitektur memori berjenjang. Memori jangka pendek menyimpan tindakan terbaru, sedangkan memori jangka panjang memanfaatkan solusi seperti basis data vektor. Agen melacak interaksi pengguna dan membagikan state dengan agen lain agar alur kerja tetap konsisten. Pendekatan ini memastikan keandalan dan mencegah konflik dalam sistem multi-agen.
Pemantauan dan Diagnostik
Logging
Anda memerlukan logging yang kuat untuk memahami cara kerja agen runtime. Logging mencatat setiap keputusan, tindakan, dan perubahan state. Hal ini membantu Anda men-debug masalah, menganalisis perilaku agen, dan memastikan kepatuhan. Anda dapat melacak alur eksekusi agen untuk melihat bagaimana ia bernalar dan membuat pilihan. Pemantauan berkelanjutan memungkinkan Anda mendeteksi perilaku yang tidak terduga dan memperbaiki masalah sebelum berdampak pada pengguna.
Anda sebaiknya menggunakan dasbor terpusat untuk melihat log dan menganalisis performa agen. Dasbor ini membantu Anda menemukan pola, melacak tren operasional, dan mengelola risiko. Anda dapat menyiapkan peringatan agar langsung diberi tahu tentang masalah.
Metrik Performa
Metrik performa menunjukkan seberapa baik agen runtime beroperasi. Anda melacak metrik seperti waktu respons, tingkat penyelesaian tugas, dan penggunaan sumber daya. Metrik ini membantu Anda mengukur keandalan dan efisiensi. Anda dapat menggunakan platform seperti Fiddler AI Observability dan Rubrik Agent Cloud untuk mendapatkan analitik terpadu dan memantau interaksi antaragen.
Uji alat observabilitas di lingkungan staging sebelum penerapan. Langkah ini memastikan telemetri dan peringatan Anda berfungsi sebagaimana mestinya. Platform terpusat menghubungkan perilaku agen dengan sinyal risiko data, sehingga Anda memiliki pengawasan dan kendali yang lebih baik.
Tip: Pemantauan berkelanjutan, logging, dan metrik performa sangat penting untuk operasi agen runtime yang andal. Ketiganya membantu Anda menjaga standar tinggi dan merespons masalah dengan cepat.
Integrasi dan Ekstensibilitas
Layanan Eksternal
Anda dapat memperluas kemampuan agen runtime dengan menghubungkannya ke layanan eksternal. Pendekatan ini memungkinkan agen Anda mengakses data real-time, mengotomatiskan alur kerja, dan berinteraksi dengan platform pihak ketiga. Anda mungkin ingin agen mengambil informasi pelanggan dari sistem CRM, menganalisis data tidak terstruktur dari dokumen, atau memantau perangkat IoT untuk pembaruan langsung.
Berikut beberapa opsi integrasi umum untuk layanan eksternal:
- Terhubung ke sistem CRM untuk mengakses data pelanggan.
- Akses sumber data tidak terstruktur seperti PDF dan dokumen Word.
- Ambil data real-time dari perangkat IoT dan alat analitik.
- Gunakan API dari aplikasi pihak ketiga seperti gateway pembayaran dan platform logistik.
Anda memiliki beberapa metode untuk mengintegrasikan layanan eksternal dengan agen Anda. Setiap metode menawarkan keunggulan dan kompromi yang berbeda. Tabel di bawah ini menunjukkan jenis-jenis utamanya:
| Jenis Integrasi | Kelebihan | Kekurangan |
|---|---|---|
| Embedded iPaaS | Penerapan Cepat, Skalabilitas, Biaya Lebih Rendah | Kustomisasi Terbatas, Ketergantungan pada Platform, Biaya Berulang |
| Solusi Unified API | Kecepatan, Cakupan API Penuh, Kemudahan Penggunaan | Kustomisasi Terbatas, Ketergantungan pada Penyedia Unified API |
| Pengembangan Kustom | Solusi yang Sangat Disesuaikan, Kendali Penuh, Kasus Penggunaan Kompleks | Membutuhkan Banyak Sumber Daya, Memakan Waktu, Memerlukan Pemeliharaan |
Anda sebaiknya memilih metode yang sesuai dengan kebutuhan bisnis dan persyaratan teknis Anda. Embedded iPaaS cocok untuk penerapan yang cepat. Solusi Unified API membantu ketika Anda membutuhkan cakupan yang luas. Pengembangan kustom memberi Anda kendali penuh untuk skenario yang kompleks.
Tip: Uji integrasi di lingkungan yang terkontrol sebelum menerapkannya ke produksi. Ini membantu Anda menghindari masalah yang tidak terduga dan memastikan agen Anda berfungsi dengan lancar bersama layanan eksternal.
Manajemen API
Manajemen API memegang peranan penting dalam menghubungkan agen Anda ke sistem eksternal. Anda perlu merancang, mempublikasikan, mengamankan, memantau, dan menganalisis API agar agen Anda dapat berinteraksi secara aman dan efisien. Strategi manajemen API yang baik membantu Anda menskalakan solusi agen dan beradaptasi dengan perubahan kebutuhan.
Anda dapat meningkatkan efisiensi dan akurasi dengan menggunakan agentic AI untuk membuat API dengan cepat. Alat berbasis AI membuat pengalaman developer menjadi lebih lancar. API dapat diskalakan naik atau turun seiring perubahan kebutuhan Anda.
Berikut beberapa praktik terbaik untuk manajemen API yang aman:
- Gunakan OAuth 2.0 atau OpenID Connect untuk akses yang didelegasikan.
- Validasi JWT di gateway.
- Terapkan kunci API untuk alat internal.
- Terapkan kebijakan CORS untuk akses frontend.
Anda dapat menggunakan platform seperti Gravitee Agent Management untuk memperluas program API Anda dan mendukung agen AI. Pendekatan ini mengubah API tepercaya menjadi alat yang diatur tata kelolanya, sambil tetap menjaga keamanan, observabilitas, dan kontrol operasional.
Kutipan:
"Agen AI menjadi antarmuka yang semakin penting untuk perangkat lunak perusahaan, dan memungkinkannya beroperasi secara aman adalah bagian kunci dari strategi kami. Dengan Gravitee Agent Management, kami dapat memperluas program API yang sudah ada untuk mendukung agen AI, mengubah API tepercaya menjadi alat MCP yang diatur tata kelolanya, sekaligus mempertahankan keamanan, observabilitas, dan kontrol operasional yang diharapkan pelanggan kami dari Tealium."
Anda sebaiknya memantau penggunaan API dan menyiapkan peringatan untuk aktivitas yang tidak biasa. Ini membantu Anda melindungi data dan menjaga kepatuhan. Manajemen API memberi Anda fleksibilitas untuk menghubungkan agen ke berbagai layanan dan menskalakan solusi Anda seiring pertumbuhan bisnis.
Tata Kelola, Keamanan, dan Kepatuhan
Manajemen Identitas dan Akses
Integrasi Entra
Anda memerlukan manajemen identitas dan akses yang kuat untuk menjaga keamanan agen AI Anda. Microsoft Entra memungkinkan Anda mengelola setiap agen sebagai identitas unik. Artinya, Anda dapat menerapkan autentikasi yang aman sehingga hanya agen tepercaya yang dapat mengakses sistem Anda. Anda dapat menggunakan otorisasi terperinci untuk memberi setiap agen hanya izin yang dibutuhkannya. Entra juga membantu Anda memantau identitas agen serta menangguhkan atau mencabut akses jika terdeteksi perilaku berisiko. Anda tetap memegang kendali atas siklus hidup agen dan mengurangi kemungkinan akses tidak sah.
| Mekanisme | Deskripsi |
|---|---|
| Autentikasi Aman | Setiap agen memiliki identitas unik yang terikat pada kebijakan perusahaan. |
| Otorisasi Terperinci | Anda membatasi akses berdasarkan peran dan kebutuhan. |
| Mekanisme Perlindungan Identitas | Anda memantau dan mengelola kredensial agen. |
| Manajemen Siklus Hidup Identitas AI | Anda mengendalikan identitas agen dengan kerangka kerja berbasis kebijakan. |
| Kepatuhan Regulasi | Anda mendukung kemampuan audit dan memenuhi aturan perlindungan data. |
| Akuntabilitas AI | Anda melacak aktivitas agen untuk mencegah penyalahgunaan. |
Akses Hak Istimewa Minimum
Anda sebaiknya selalu menerapkan prinsip hak istimewa minimum (least-privilege). Berikan setiap agen hanya akses yang dibutuhkan untuk tugasnya. Ini membatasi risiko dan menjaga keamanan data sensitif. Anda dapat menetapkan izin dan pagar pengaman (guardrails) untuk setiap agen. Kontrol akses runtime memungkinkan Anda mengambil keputusan berdasarkan kondisi dan lingkungan agen. IAM dengan human-in-the-loop menambahkan pengawasan untuk tindakan sensitif. Anda dapat menggunakan analitik untuk mendeteksi perilaku agen yang tidak biasa dan merespons dengan cepat.
| Jenis Strategi | Deskripsi |
|---|---|
| Identitas Agen Unik yang Persisten | Tetapkan identitas unik untuk setiap agen berdasarkan tujuan dan tingkat risikonya. |
| Izin dan Pagar Pengaman | Sesuaikan izin dengan peran agen dan sensitivitas datanya. |
| Kontrol Akses Runtime | Ambil keputusan akses secara dinamis untuk setiap agen. |
| Human-in-the-Loop IAM | Tambahkan pengawasan manusia untuk tindakan agen yang sensitif. |
Kemampuan Audit dan Siklus Hidup
Jejak Audit
Anda perlu melacak setiap tindakan yang dilakukan agen Anda. Jejak audit memberi Anda log yang tidak dapat diubah untuk setiap keputusan dan peristiwa. Hal ini membantu Anda memenuhi aturan kepatuhan dan memudahkan peninjauan apa yang terjadi jika ada sesuatu yang salah. Anda dapat menggunakan log audit untuk menunjukkan kepada regulator bahwa Anda mengikuti proses yang benar. Tim jaminan kualitas dapat meninjau keluaran agen untuk memastikan keluaran tersebut memenuhi standar Anda.
| Fitur | Deskripsi |
|---|---|
| Log Audit | Simpan catatan lengkap aktivitas agen untuk menjamin transparansi. |
| Jejak Audit | Simpan log yang tidak dapat diubah untuk setiap tindakan guna memastikan akuntabilitas. |
| Pengawasan Manusia | Gunakan protokol persetujuan dan pemeriksaan berkala untuk kepatuhan. |
Akses Bersyarat
Akses bersyarat memungkinkan Anda menetapkan aturan tentang kapan dan bagaimana agen dapat menggunakan sumber daya. Anda dapat menentukan metode autentikasi, izin, dan kebijakan untuk setiap agen. Microsoft Entra memperlakukan agen sebagai identitas kelas satu dan menerapkan pemeriksaan Zero Trust. Anda dapat mengaitkan setiap agen dengan orang yang bertanggung jawab, yang disebut sponsor, untuk memastikan akuntabilitas. Jika sponsor keluar, Anda dapat mengalihkan atau menonaktifkan agen tersebut. Hal ini menjaga lingkungan Anda tetap aman dan patuh.
- Akses bersyarat menggunakan sinyal khusus agen untuk mengevaluasi permintaan.
- Pemeriksaan Zero Trust berlaku untuk agen sama seperti untuk pengguna.
- Alur kerja siklus hidup mengotomatiskan pengelolaan agen.
Praktik Terbaik Keamanan
Penegakan Kebijakan
Anda harus menegakkan kebijakan keamanan untuk setiap agen. Pantau aktivitas agen untuk memastikan mereka mengikuti aturan Anda. Gunakan jejak audit untuk mendeteksi pelanggaran sejak dini. Otomatiskan alur kerja untuk menandai risiko dan mendukung kepatuhan. Tinjauan berkala membantu Anda beradaptasi dengan undang-undang baru dan menjaga lingkungan runtime tetap aman.
Privasi Data
Melindungi data adalah prioritas utama. Berikan agen hanya data yang mereka butuhkan. Gunakan teknologi peningkat privasi seperti enkripsi dan anonimisasi. Selalu jelaskan bagaimana Anda menggunakan data pribadi. Dukung hak pengguna, seperti permintaan akses dan penghapusan. Simpan catatan terperinci tentang bagaimana agen menggunakan dan melindungi data. Langkah-langkah ini membantu Anda memenuhi undang-undang privasi dan membangun kepercayaan.
Tips: Gabungkan manajemen identitas yang kuat, kemampuan audit, dan penegakan kebijakan untuk menciptakan lingkungan agen yang aman dan patuh.
Praktik Terbaik dan Panduan Cepat
Tips yang Dapat Diterapkan
Anda dapat membangun fondasi yang kuat untuk proyek agen Anda dengan mengikuti langkah-langkah praktis. Mulailah dengan menentukan tujuan yang jelas untuk setiap agen. Pastikan Anda memahami apa yang ingin dicapai agen tersebut. Gunakan desain modular untuk memecah tugas menjadi bagian-bagian yang lebih kecil. Hal ini membuat agen Anda lebih mudah dikelola dan diperbarui. Uji setiap keterampilan sebelum Anda menambahkannya ke agen. Gunakan kontrol versi untuk melacak perubahan dan menjaga kode Anda tetap teratur.
Tips: Dokumentasikan setiap alur kerja dan keputusan. Dokumentasi yang baik membantu Anda memecahkan masalah dan meningkatkan kerja sama tim.
Anda sebaiknya memantau kinerja agen dengan dasbor. Atur peringatan untuk aktivitas yang tidak biasa. Tinjau log secara berkala untuk mendeteksi masalah sejak dini. Gunakan umpan balik dari pengguna untuk memperbaiki perilaku agen. Perbarui agen Anda secara rutin agar tetap andal dan aman.
Jebakan Umum
Anda mungkin menghadapi tantangan saat membangun dan menerapkan agen. Salah satu kesalahan umum adalah melewatkan pengujian. Jika Anda tidak menguji agen, Anda berisiko mengalami kesalahan di lingkungan produksi. Jebakan lainnya adalah memberikan terlalu banyak izin. Selalu patuhi prinsip hak akses minimum. Hindari penulisan informasi sensitif secara langsung (hardcoded) di kode agen Anda. Hal ini dapat menimbulkan risiko keamanan.
Beberapa tim lupa memantau aktivitas agen. Tanpa pemantauan, Anda tidak dapat mendeteksi masalah dengan cepat. Mengabaikan umpan balik pengguna dapat membuat agen Anda melewatkan kebutuhan penting. Gagal memperbarui agen membuatnya rentan terhadap ancaman baru.
| Jebakan | Cara Menghindari |
|---|---|
| Melewatkan Pengujian | Jalankan pengujian unit dan integrasi |
| Izin Berlebihan | Gunakan akses hak minimum |
| Rahasia Tertanam (Hardcoded) | Simpan rahasia secara aman |
| Tanpa Pemantauan | Atur dasbor dan peringatan |
| Mengabaikan Umpan Balik | Kumpulkan dan tindak lanjuti masukan pengguna |
| Agen Usang | Jadwalkan pembaruan berkala |
Panduan Mulai Cepat
Anda dapat meluncurkan agen pertama Anda dengan cepat dengan mengikuti daftar periksa berikut:
- Tentukan kasus penggunaan sederhana untuk agen Anda.
- Pilih kerangka kerja agen Microsoft dan toolkit Foundry.
- Rancang agen dengan keterampilan modular.
- Tulis dan uji setiap keterampilan secara terpisah.
- Kemas agen menggunakan kontainerisasi.
- Atur pipeline CI/CD untuk penerapan otomatis.
- Terapkan agen di lingkungan yang terkendali.
- Pantau aktivitas agen dan kumpulkan umpan balik pengguna.
- Perbarui agen berdasarkan kinerja dan umpan balik.
Catatan: Mulailah dari yang kecil dan tingkatkan skala seiring bertambahnya pengalaman Anda. Proyek agen yang direncanakan dengan baik akan berkembang dengan lancar dan memberikan nilai.
Sumber Daya Lanjutan
Anda dapat menemukan banyak sumber daya untuk membantu membangun, menyebarkan, dan mengelola agen dengan Microsoft Agent 365 dan Foundry. Alat dan panduan ini akan mendukung Anda di setiap tahap proyek. Jelajahi opsi berikut untuk memperdalam pengetahuan Anda dan mengatasi tantangan saat bekerja dengan agen AI perusahaan.
📚 Dokumentasi Resmi
- Dokumentasi Agent 365
Pelajari konsep inti, arsitektur, dan langkah pengaturan. - Dokumentasi Microsoft Foundry
Dapatkan detail tentang lingkungan runtime, penyebaran, dan orkestrasi. - Microsoft Entra Identity Platform
Pahami manajemen identitas dan akses untuk agen.
🛠️ Alat Pengembang dan SDK
- Agent Framework SDK
Akses contoh kode, referensi API, dan panduan memulai cepat. - Foundry Toolkit
Gunakan alat CLI untuk pengemasan, pengujian, dan penyebaran agen. - Microsoft Copilot Studio
Bangun dan orkestrasikan alur kerja agen dengan alat low-code.
🌐 Komunitas dan Dukungan
- Microsoft Tech Community: AI Agents
Ajukan pertanyaan, bagikan ide, dan terhubung dengan sesama pembangun. - Stack Overflow: Microsoft-Agent365
Temukan jawaban atas pertanyaan teknis dari komunitas pengembang. - GitHub Discussions
Ikut diskusi tentang praktik terbaik dan pemecahan masalah.
Tip: Ikuti webinar dan acara virtual untuk tetap mengikuti fitur dan kasus penggunaan baru. Anda dapat menemukan jadwal acara di blog AI Microsoft.
📈 Jalur Pembelajaran dan Tutorial
| Jenis Sumber Daya | Deskripsi | Tautan |
|---|---|---|
| Tutorial Terpandu | Proyek langkah demi langkah untuk pemula | Mulai di Sini |
| Panduan Video | Panduan visual untuk membangun dan menyebarkan | Tonton Sekarang |
| Proyek Contoh | Templat agen siap pakai | Telusuri Contoh |
📝 Panduan Praktik Terbaik
- Panduan Responsible AI
Ikuti aturan untuk pengembangan agen yang aman dan etis. - Security and Compliance Center
Tinjau daftar periksa untuk mengamankan lingkungan agen Anda.
Catatan: Tandai sumber daya ini untuk akses cepat selama proyek Anda. Anda dapat kembali kapan pun Anda membutuhkan bantuan atau ingin belajar lebih banyak.
Anda memiliki jaringan dukungan yang kuat saat membangun dengan Agent 365 dan Foundry. Gunakan sumber daya ini untuk memecahkan masalah, mempelajari keterampilan baru, dan menjaga agen Anda tetap aman dan efektif.
Sebagai penutup, membangun arsitektur AI tingkat perusahaan memerlukan pergeseran yang disengaja dari penyebaran bot coba-coba yang sederhana. Dengan menyusun sistem Anda di sekitar lapisan Experience, Agent, Runtime, dan Governance dari Microsoft Agent 365, Anda memastikan organisasi Anda tetap dapat diskalakan, sepenuhnya aman, dan patuh sepenuhnya. Ingatlah untuk mengutamakan modularitas yang berfokus pada keterampilan, pengelolaan state yang andal, serta tata kelola identitas yang ketat menggunakan Microsoft Entra. Jika Anda ingin pembahasan komprehensif tingkat eksekutif tentang prinsip-prinsip ini dan penerapannya dalam skenario perusahaan nyata, simak percakapan podcast lengkapnya di Microsoft AI Agent Runtimes: Beyond Enterprise Chatbots. Mulailah dari yang kecil, uji secara menyeluruh, manfaatkan pipeline CI/CD, dan saksikan operasi bisnis Anda bertransformasi melalui otomasi agentik yang sesungguhnya!
Pertanyaan Umum
Apa itu Microsoft Agent 365?
Agent 365 adalah platform dari Microsoft. Anda menggunakannya untuk membangun, mengelola, dan mengatur agen AI di organisasi Anda. Platform ini memberi setiap agen identitas unik dan kontrol keamanan yang kuat.
Bagaimana Foundry membantu penyebaran agen?
Foundry menyediakan lingkungan runtime untuk agen Anda. Anda menggunakannya untuk menyebarkan, menskalakan, dan mengelola agen tanpa perlu khawatir tentang infrastruktur. Foundry mengotomatiskan orkestrasi dan pemantauan.
Bisakah saya mengintegrasikan Agent 365 dengan alat Microsoft yang sudah ada?
Bisa, Anda dapat menghubungkan Agent 365 dengan Microsoft Teams, Outlook, dan aplikasi Microsoft 365 lainnya. Dengan begitu, agen Anda dapat berinteraksi dengan pengguna di lingkungan yang sudah familiar.
Bagaimana saya memastikan agen saya aman?
Anda menggunakan Microsoft Entra untuk manajemen identitas. Berikan akses dengan hak istimewa minimum, pantau aktivitas agen, dan terapkan kebijakan keamanan. Jejak audit dan akses bersyarat membantu Anda menjaga kepatuhan.
Keterampilan apa yang saya butuhkan untuk membangun agen?
Anda dapat menggunakan alat low-code untuk agen sederhana atau SDK pengembang untuk fitur lanjutan. Pengetahuan pemrograman dasar membantu, tetapi Anda tidak perlu menjadi ahli untuk memulai.
Bagaimana saya memantau performa agen?
Lacak metrik seperti waktu respons dan penyelesaian tugas. Gunakan dasbor dan log untuk memantau aktivitas agen. Atur peringatan untuk perilaku yang tidak biasa.
Bisakah saya menghubungkan agen ke layanan eksternal?
Ya! Anda dapat mengintegrasikan agen dengan API, sistem CRM, dan platform pihak ketiga lainnya. Pilih metode integrasi yang sesuai dengan kebutuhan Anda, misalnya iPaaS tersemat atau pengembangan kustom.
🎧 Dengarkan episode ini
Ingin penjelasan praktis tentang Microsoft AI Agent Runtimes? Episode ini membahas topik tersebut dengan bahasa yang jelas dan menunjukkan mengapa hal ini penting untuk Microsoft 365, Azure, Power Platform, keamanan, AI, dan dunia kerja modern.
Dengarkan episode ini jika Anda ingin:
- Memahami konsep utama di balik Microsoft AI Agent Runtimes
- Melihat bagaimana fitur ini berada dalam ekosistem teknologi Microsoft yang lebih luas
- Mempelajari di mana fitur ini dapat memberikan nilai praktis bagi organisasi Anda
Anda mungkin juga menyukai episode M365 FM terkait berikut:
- Enterprise AI Agent Fabric: Architecture Beyond Chatbots
- AI Agent Identity Security: Beyond Service Accounts
- Rekayasa Agen AI Enterprise dengan Karthikeyan VK [MVP]
- Dari Data ke Agen Cerdas: Membangun AI Enterprise yang Tepercaya dengan Microsoft AI Foundry bersama Shubhangi Goyal [MVP]
- Komunikasi Agent-to-Agent (A2A) - Dijelaskan Secara Sederhana
Temukan lebih banyak percakapan praktis tentang Microsoft di M365 FM.
Terakhir ditinjau: Juli 2026.
Siapa yang Sebaiknya Mendengarkan
Episode ini ditujukan bagi praktisi Microsoft, arsitek, pengembang, profesional keamanan, dan pemimpin TI yang sedang mengevaluasi topik ini dalam lingkungan dunia nyata.
🎧 Anda Juga Sebaiknya Mendengarkan
- AI Agents — Langkah lanjutan yang relevan dan menambahkan konteks praktis untuk topik ini.
- Model Context Protocol — Langkah lanjutan yang relevan dan menambahkan konteks praktis untuk topik ini.
- Microsoft AI Agent Harness — Langkah lanjutan yang relevan dan menambahkan konteks praktis untuk topik ini.