M365Con 2027 – konferensi online gratis · 11–22 Jan 2027 · 120 sessions m365con.net

Hosted agent

Concept

Jenis agen di Foundry Agent Service tempat Anda membawa kode dan framework sendiri, lalu Foundry menjalankannya dalam sesi yang terisolasi, melakukan penskalaan, dan memberinya identitasnya sendiri.

✦ CONCEPTHosted agentM365.FM
Title graphic: Hosted agent (Concept)

Description

Hosted agent adalah jenis agen di Foundry Agent Service yang mana pengembang menyediakan kode dan framework, dan platform yang menjalankannya. Microsoft Learn menjelaskan hosted agent sebagai aplikasi agentic AI yang dikemas dalam container dan berjalan di Foundry Agent Service. Berbeda dengan prompt agent, yang hanya didefinisikan melalui prompt dan pengaturan tool di portal, kode pada Hosted agent itu sendiri berupa container image. Pengembang memilih framework dan mengendalikan perilaku runtime, sementara model berasal dari katalog model Foundry dan kode kustom menangani orkestrasi.

Alasan utama memilih Hosted agent adalah kendali atas cara kerja agen. Pilihan yang disebutkan dalam dokumentasi antara lain Microsoft Agent Framework, LangChain dan LangGraph, atau kode kustom yang ditulis dalam Python dan C#. Platform mengambil alih pekerjaan lintas fungsi yang jika tidak akan menjadi tanggung jawab tim, yaitu containerization, pengaturan web server, keamanan, persistensi memori, penskalaan, instrumentasi, dan rollback versi. Pembagian ini memungkinkan pengembang berfokus pada logika agen, bukan pada infrastruktur hosting.

Dalam operasinya, setiap Hosted agent memperoleh identitas Microsoft Entra sendiri dan endpoint khusus. Setiap sesi berjalan dalam sandbox yang diisolasi di tingkat VM dengan file system yang persisten, dan layanan ini mendukung scale-to-zero. Versi bersifat immutable, dan sebuah endpoint hanya melayani satu versi pada satu waktu tanpa pembagian traffic. Untuk melakukan deployment, diperlukan container image di Azure Container Registry dan sebuah proyek Foundry. Penagihan mengikuti pemakaian CPU dan memori selama sesi aktif. Terkait secret, dokumentasi menyarankan agar secret tidak ditempatkan di dalam image atau environment variable, dan merekomendasikan managed identity serta Key Vault.

Keputusan yang umum terkait Hosted agent melibatkan pemilihan antara prompt agent dan hosted agent. Prompt agent cocok untuk kasus ketika prompt dan pengaturan tool yang dikonfigurasi di portal sudah memadai. Hosted agent cocok untuk kasus yang membutuhkan orkestrasi kustom, framework tertentu, atau kendali penuh atas runtime. Karena versi bersifat immutable dan sebuah endpoint menunjuk ke satu versi pada satu waktu, rollout dan rollback ditangani dengan berpindah versi, bukan dengan membagi traffic.

Episode M365.FM "Enterprise AI Agent Fabric: Architecture Beyond Chatbots" menempatkan Hosted agent dalam alur kerja Foundry yang lebih luas. Menurut episode tersebut, Foundry menghubungkan model, pengetahuan, dan tool ke dalam satu runtime tunggal serta mendukung alur kerja build-test-deploy-monitor untuk pengembangan agen. Dalam ikhtisar alur kerja tersebut, membuat agen dapat berarti mendefinisikan prompt agent di portal atau dengan SDK, atau menulis Hosted agent yang memanggil Responses API. Episode itu kemudian menyebutkan pengujian di agents playground atau secara lokal, pelacakan setiap pemanggilan model, pemanggilan tool, dan keputusan, menjalankan evaluasi untuk mendeteksi regresi, serta mengoptimalkan instruksi hosted agent dengan agent optimizer.

Singkatnya, Hosted agent menggabungkan kode yang dimiliki pengembang dengan runtime yang dikelola: container dan framework dipilih oleh tim, sementara isolasi, identitas, penskalaan, dan versioning disediakan oleh Foundry Agent Service.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeConcept

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

Apa perbedaan antara Hosted agent dan prompt agent? (AI)

Prompt agent hanya didefinisikan melalui prompt dan pengaturan tool di portal, sedangkan kode Hosted agent berupa container image yang framework dan perilaku runtimenya dikendalikan oleh pengembang.

Framework apa saja yang dapat digunakan oleh Hosted agent? (AI)

Microsoft Learn menyebutkan Microsoft Agent Framework, LangChain dan LangGraph, atau kode kustom dalam Python dan C#.

Bagaimana Hosted agent diisolasi dan diidentifikasi? (AI)

Setiap agen memperoleh identitas Microsoft Entra sendiri dan endpoint khusus, dan setiap sesi berjalan dalam sandbox yang diisolasi di tingkat VM dengan file system yang persisten.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Maintained by Mirko Peters (Microsoft MVP) · Last updated: