M365Con 2027 – безкоштовна онлайн-конференція · 11–22 Jan 2027 · 120 sessions m365con.net

Hosted agent

Concept

Тип агента у Foundry Agent Service, у якому ви приносите власний код і фреймворк, а Foundry запускає його в ізольованій сесії, масштабує та надає йому власну ідентичність.

✦ CONCEPTHosted agentM365.FM
Title graphic: Hosted agent (Concept)

Description

Hosted agent — це тип агента у Foundry Agent Service, у якому розробник надає код і фреймворк, а запуском займається платформа. Microsoft Learn описує hosted agents як контейнеризовані застосунки агентного ШІ, які працюють у Foundry Agent Service. На відміну від prompt-based агентів, що визначаються лише промптами та налаштуваннями інструментів на порталі, код Hosted agent сам є образом контейнера. Розробник обирає фреймворк і керує поведінкою виконання, моделі беруться з каталогу моделей Foundry, а користувацький код відповідає за оркестрацію.

Основна причина обрати Hosted agent — контроль над тим, як працює агент. Підтримувані варіанти, названі в документації, включають Microsoft Agent Framework, LangChain і LangGraph, а також користувацький код на Python і C#. Платформа бере на себе наскрізні завдання, які інакше лягли б на команду: containerization, налаштування веб-сервера, безпеку, збереження пам'яті, масштабування, інструментування та відкат версій. Такий поділ дозволяє розробникам зосередитися на логіці агента, а не на інфраструктурі хостингу.

У роботі кожен Hosted agent отримує власну ідентичність Microsoft Entra і окремий endpoint. Кожна сесія виконується в ізольованій VM-пісочниці з постійною файловою системою, а сервіс підтримує scale-to-zero. Версії незмінні, а endpoint обслуговує одну версію за раз без розподілу трафіку. Для розгортання потрібні образ контейнера в Azure Container Registry і проєкт Foundry. Оплата залежить від використання CPU і пам'яті під час активних сесій. Щодо секретів документація радить не розміщувати їх в образах чи змінних середовища, а натомість використовувати керовані ідентичності та Key Vault.

Типові рішення щодо Hosted agents стосуються вибору між prompt agent і hosted agent. Prompt agent підходить, коли достатньо промптів і налаштувань інструментів, заданих на порталі. Hosted agent доречний, коли потрібні власна оркестрація, конкретний фреймворк або повний контроль над runtime. Оскільки версії незмінні, а endpoint вказує на одну версію за раз, розгортання та відкати виконуються перемиканням версій, а не розподілом трафіку.

Епізод M365.FM «Enterprise AI Agent Fabric: Architecture Beyond Chatbots» розміщує Hosted agents у ширшому робочому процесі Foundry. За словами епізоду, Foundry об'єднує моделі, знання та інструменти в єдиний runtime і підтримує робочий процес build-test-deploy-monitor для розробки агентів. В огляді цього процесу створення агента може означати визначення prompt agent на порталі або через SDK, або написання Hosted agent, який викликає Responses API. Далі епізод перелічує тестування в agents playground або локально, трасування кожного виклику моделі, інструмента та рішення, запуск оцінювань для виявлення регресій і оптимізацію інструкцій hosted agent за допомогою agent optimizer.

Коротко кажучи, Hosted agent поєднує код, яким володіє розробник, з керованим runtime: контейнер і фреймворк обирає команда, а ізоляцію, ідентичність, масштабування та версіонування забезпечує Foundry Agent Service.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeConcept

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

У чому різниця між Hosted agent і prompt agent? (AI)

Prompt agent визначається лише промптами та налаштуваннями інструментів на порталі, тоді як код Hosted agent є образом контейнера, фреймворк і поведінку виконання якого контролює розробник.

Які фреймворки може використовувати Hosted agent? (AI)

Microsoft Learn називає Microsoft Agent Framework, LangChain і LangGraph, а також користувацький код на Python і C#.

Як ізолюються та ідентифікуються Hosted agents? (AI)

Кожен агент отримує власну ідентичність Microsoft Entra та окремий endpoint, а кожна сесія виконується в ізольованій VM-пісочниці з постійною файловою системою.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Maintained by Mirko Peters (Microsoft MVP) · Last updated: