Hosted agent
Concept
Тип агента у Foundry Agent Service, у якому ви приносите власний код і фреймворк, а Foundry запускає його в ізольованій сесії, масштабує та надає йому власну ідентичність.
Description
Hosted agent — це тип агента у Foundry Agent Service, у якому розробник надає код і фреймворк, а запуском займається платформа. Microsoft Learn описує hosted agents як контейнеризовані застосунки агентного ШІ, які працюють у Foundry Agent Service. На відміну від prompt-based агентів, що визначаються лише промптами та налаштуваннями інструментів на порталі, код Hosted agent сам є образом контейнера. Розробник обирає фреймворк і керує поведінкою виконання, моделі беруться з каталогу моделей Foundry, а користувацький код відповідає за оркестрацію.
Основна причина обрати Hosted agent — контроль над тим, як працює агент. Підтримувані варіанти, названі в документації, включають Microsoft Agent Framework, LangChain і LangGraph, а також користувацький код на Python і C#. Платформа бере на себе наскрізні завдання, які інакше лягли б на команду: containerization, налаштування веб-сервера, безпеку, збереження пам'яті, масштабування, інструментування та відкат версій. Такий поділ дозволяє розробникам зосередитися на логіці агента, а не на інфраструктурі хостингу.
У роботі кожен Hosted agent отримує власну ідентичність Microsoft Entra і окремий endpoint. Кожна сесія виконується в ізольованій VM-пісочниці з постійною файловою системою, а сервіс підтримує scale-to-zero. Версії незмінні, а endpoint обслуговує одну версію за раз без розподілу трафіку. Для розгортання потрібні образ контейнера в Azure Container Registry і проєкт Foundry. Оплата залежить від використання CPU і пам'яті під час активних сесій. Щодо секретів документація радить не розміщувати їх в образах чи змінних середовища, а натомість використовувати керовані ідентичності та Key Vault.
Типові рішення щодо Hosted agents стосуються вибору між prompt agent і hosted agent. Prompt agent підходить, коли достатньо промптів і налаштувань інструментів, заданих на порталі. Hosted agent доречний, коли потрібні власна оркестрація, конкретний фреймворк або повний контроль над runtime. Оскільки версії незмінні, а endpoint вказує на одну версію за раз, розгортання та відкати виконуються перемиканням версій, а не розподілом трафіку.
Епізод M365.FM «Enterprise AI Agent Fabric: Architecture Beyond Chatbots» розміщує Hosted agents у ширшому робочому процесі Foundry. За словами епізоду, Foundry об'єднує моделі, знання та інструменти в єдиний runtime і підтримує робочий процес build-test-deploy-monitor для розробки агентів. В огляді цього процесу створення агента може означати визначення prompt agent на порталі або через SDK, або написання Hosted agent, який викликає Responses API. Далі епізод перелічує тестування в agents playground або локально, трасування кожного виклику моделі, інструмента та рішення, запуск оцінювань для виявлення регресій і оптимізацію інструкцій hosted agent за допомогою agent optimizer.
Коротко кажучи, Hosted agent поєднує код, яким володіє розробник, з керованим runtime: контейнер і фреймворк обирає команда, а ізоляцію, ідентичність, масштабування та версіонування забезпечує Foundry Agent Service.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
У чому різниця між Hosted agent і prompt agent? (AI)
Prompt agent визначається лише промптами та налаштуваннями інструментів на порталі, тоді як код Hosted agent є образом контейнера, фреймворк і поведінку виконання якого контролює розробник.
Які фреймворки може використовувати Hosted agent? (AI)
Microsoft Learn називає Microsoft Agent Framework, LangChain і LangGraph, а також користувацький код на Python і C#.
Як ізолюються та ідентифікуються Hosted agents? (AI)
Кожен агент отримує власну ідентичність Microsoft Entra та окремий endpoint, а кожна сесія виконується в ізольованій VM-пісочниці з постійною файловою системою.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Maintained by Mirko Peters (Microsoft MVP) · Last updated: