Hosted agent
Concept
Foundry Agent Service에서 개발자가 자체 코드와 프레임워크를 가져와 사용하고, Foundry가 이를 격리된 세션에서 실행하며 확장하고 고유한 ID를 부여하는 에이전트 유형입니다.
Description
Hosted agent는 Foundry Agent Service의 에이전트 유형으로, 개발자가 코드와 프레임워크를 제공하고 플랫폼이 이를 실행합니다. Microsoft Learn은 Hosted agent를 Foundry Agent Service에서 실행되는 컨테이너화된 에이전틱 AI 애플리케이션이라고 설명합니다. 포털의 프롬프트와 도구 설정만으로 정의되는 프롬프트 기반 에이전트와 달리, Hosted agent의 코드 자체는 컨테이너 이미지입니다. 개발자는 프레임워크를 선택하고 런타임 동작을 제어하며, 모델은 Foundry 모델 카탈로그에서 가져오고, 오케스트레이션은 사용자 지정 코드가 담당합니다.
Hosted agent를 선택하는 주된 이유는 에이전트가 작동하는 방식을 제어할 수 있다는 점입니다. 문서에 명시된 지원 옵션에는 Microsoft Agent Framework, LangChain 및 LangGraph, 또는 Python과 C#으로 작성한 사용자 지정 코드가 포함됩니다. 플랫폼은 그렇지 않으면 팀이 맡아야 할 공통 작업, 즉 컨테이너화, 웹 서버 설정, 보안, 메모리 영속성, 확장, 계측 및 버전 롤백을 대신 처리합니다. 이러한 분담 덕분에 개발자는 호스팅 인프라보다 에이전트 로직에 집중할 수 있습니다.
운영 측면에서 각 Hosted agent는 고유한 Microsoft Entra ID와 전용 엔드포인트를 부여받습니다. 모든 세션은 지속적인 파일 시스템을 갖춘 VM 격리 샌드박스에서 실행되며, 서비스는 scale-to-zero를 지원합니다. 버전은 변경할 수 없으며, 엔드포인트는 트래픽 분할 없이 한 번에 하나의 버전만 제공합니다. 배포하려면 Azure Container Registry의 컨테이너 이미지와 Foundry 프로젝트가 필요합니다. 요금은 활성 세션 동안의 CPU 및 메모리 사용량에 따라 청구됩니다. 비밀 정보에 대해서는 문서가 이미지나 환경 변수에 넣지 말 것을 권장하며, 대신 관리 ID와 Key Vault를 사용하라고 안내합니다.
Hosted agent와 관련된 일반적인 결정은 프롬프트 에이전트와 호스팅 에이전트 중 무엇을 선택할지입니다. 프롬프트 에이전트는 포털에서 구성한 프롬프트와 도구 설정만으로 충분한 경우에 적합합니다. Hosted agent는 사용자 지정 오케스트레이션, 특정 프레임워크, 또는 런타임에 대한 전면적인 제어가 필요한 경우에 적합합니다. 버전이 변경할 수 없고 엔드포인트가 한 번에 한 버전만 가리키기 때문에, 출시와 롤백은 트래픽을 나누는 대신 버전을 전환하는 방식으로 처리됩니다.
M365.FM 에피소드 "Enterprise AI Agent Fabric: Architecture Beyond Chatbots"는 Hosted agent를 더 넓은 Foundry 워크플로 안에 배치합니다. 이 에피소드에 따르면 Foundry는 모델, 지식, 도구를 단일 런타임으로 연결하며, 에이전트 개발을 위한 build-test-deploy-monitor 워크플로를 지원합니다. 이 워크플로에 대한 개요에서는 에이전트를 만드는 방법으로 포털이나 SDK에서 프롬프트 에이전트를 정의하거나, Responses API를 호출하는 Hosted agent를 작성하는 방법을 제시합니다. 에피소드는 이어서 에이전트 플레이그라운드나 로컬에서의 테스트, 모든 모델 호출과 도구 호출 및 결정에 대한 추적, 회귀를 잡아내기 위한 평가 실행, 그리고 agent optimizer로 호스팅 에이전트의 지침을 최적화하는 방법을 소개합니다.
요약하면, Hosted agent는 개발자가 소유한 코드와 관리형 런타임을 결합합니다. 컨테이너와 프레임워크는 팀이 선택하고, 격리, ID, 확장, 버전 관리는 Foundry Agent Service가 제공합니다.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
Hosted agent와 프롬프트 에이전트의 차이는 무엇인가요? (AI)
프롬프트 에이전트는 포털의 프롬프트와 도구 설정만으로 정의되는 반면, Hosted agent의 코드는 컨테이너 이미지이며 개발자가 그 프레임워크와 런타임 동작을 제어합니다.
Hosted agent는 어떤 프레임워크를 사용할 수 있나요? (AI)
Microsoft Learn은 Microsoft Agent Framework, LangChain 및 LangGraph, 또는 Python과 C#으로 작성한 사용자 지정 코드를 명시합니다.
Hosted agent는 어떻게 격리되고 식별되나요? (AI)
각 에이전트는 고유한 Microsoft Entra ID와 전용 엔드포인트를 부여받으며, 모든 세션은 지속적인 파일 시스템을 갖춘 VM 격리 샌드박스에서 실행됩니다.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Maintained by Mirko Peters (Microsoft MVP) · Last updated: