M365.FM · 한국어
Microsoft AI Gateway 설명: AI 모델, 에이전트, MCP 도구를 위한 중앙 출입문
AI 에이전트와 Copilot Studio보안, ID 및 거버넌스Azure 및 개발Microsoft AI GatewayAzure API ManagementAI 거버넌스MCP토큰 한도Entra IDMicrosoft FoundryAI 에이전트
챗봇 하나가 금세 수십 개의 AI 도구로 늘어나고, 각자 키와 한도, 보안 규칙을 따로 가지며 비용은 추적하기 어렵고 에이전트는 보이지 않게 도구를 호출합니다. 이번 에피소드는 Azure API Management의 Microsoft AI Gateway가 이를 하나의 통제된 입구로 만드는 방법을 설명합니다.
▶ Microsoft AI Gateway 설명: AI 모델, 에이전트, MCP 도구를 위한 중앙 출입문 (AI 더빙)
이번 에피소드에서 배울 내용:
- AI Gateway가 무엇이고 무엇이 아닌지: Azure API Management 기능의 모음이며, 모델도 에이전트 빌더도 아니고 Microsoft Foundry를 대체하지도 않음
- 하나의 엔드포인트, 여러 모델: 라우팅, 부하 분산, 대체 경로, 그리고 Azure OpenAI, Foundry, Anthropic, Gemini, Bedrock용 Unified Model API(미리 보기)
- 에이전트와 도구 보호: 범위를 좁힌 MCP 도구, 에이전트별 Entra ID, 제로 트러스트, 콘텐츠 검사, 카탈로그로서의 API Center
- 토큰 비용 관리: 앱·팀·프로젝트·사용자별 한도와 할당량, 로깅, 시맨틱 캐싱
- HR 도우미 예시로 보는 요청 하나의 흐름과 단일 워크로드로 작게 시작하는 방법
이 에피소드는 Microsoft MVP 미르코 피터스의 M365 Show 애니메이션 영상을 AI로 더빙한 한국어 버전입니다.