M365Con 2027 – 무료 온라인 컨퍼런스 · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · 한국어

Microsoft AI Gateway 설명: AI 모델, 에이전트, MCP 도구를 위한 중앙 출입문

챗봇 하나가 금세 수십 개의 AI 도구로 늘어나고, 각자 키와 한도, 보안 규칙을 따로 가지며 비용은 추적하기 어렵고 에이전트는 보이지 않게 도구를 호출합니다. 이번 에피소드는 Azure API Management의 Microsoft AI Gateway가 이를 하나의 통제된 입구로 만드는 방법을 설명합니다.

쇼 팔로우하기Microsoft 365, Copilot 등에 관한 새 에피소드를 팟캐스트 앱에서 무료로 만나보세요.Spotify

▶ Microsoft AI Gateway 설명: AI 모델, 에이전트, MCP 도구를 위한 중앙 출입문 (AI 더빙)

이번 에피소드에서 배울 내용:

  1. AI Gateway가 무엇이고 무엇이 아닌지: Azure API Management 기능의 모음이며, 모델도 에이전트 빌더도 아니고 Microsoft Foundry를 대체하지도 않음
  2. 하나의 엔드포인트, 여러 모델: 라우팅, 부하 분산, 대체 경로, 그리고 Azure OpenAI, Foundry, Anthropic, Gemini, Bedrock용 Unified Model API(미리 보기)
  3. 에이전트와 도구 보호: 범위를 좁힌 MCP 도구, 에이전트별 Entra ID, 제로 트러스트, 콘텐츠 검사, 카탈로그로서의 API Center
  4. 토큰 비용 관리: 앱·팀·프로젝트·사용자별 한도와 할당량, 로깅, 시맨틱 캐싱
  5. HR 도우미 예시로 보는 요청 하나의 흐름과 단일 워크로드로 작게 시작하는 방법

이 에피소드는 Microsoft MVP 미르코 피터스의 M365 Show 애니메이션 영상을 AI로 더빙한 한국어 버전입니다.

다른 에피소드

모든 에피소드 →