WEBVTT

00:00:00.000 --> 00:00:01.720
에이저 AI 파운드리란 정확히 무엇일까요?

00:00:01.840 --> 00:00:03.640
단순히 마이크로소프트가 추가한 또 다른 서비스일까요?

00:00:03.880 --> 00:00:04.920
아니면 더 큰 의미가 있는 것일까요?

00:00:05.080 --> 00:00:07.960
지난 1년간 마이크로소프트는 쉴 새 없이 AI 관련 발표를 쏟아냈습니다.

00:00:08.100 --> 00:00:09.780
길을 잃은 듯한 느낌이 드는 것도 당연합니다.

00:00:09.960 --> 00:00:12.020
저는 마이크로소프트 날리지 너게츠 위 미르코 피터스입니다.

00:00:12.180 --> 00:00:13.920
이번 에피소드가 끝날 때 쯤이면 파운드리 가 무엇인지

00:00:13.920 --> 00:00:15.320
왜 중요한지 확실히 알게 되실 겁니다.

00:00:15.520 --> 00:00:16.820
마케팅용 수식어는 뺏니다.

00:00:17.020 --> 00:00:19.400
무엇인지, 무엇이 들어있는지, 그리고 어떻게 연결되는지

00:00:19.400 --> 00:00:20.600
명확하게 나누어 설명해드리겠습니다.

00:00:20.880 --> 00:00:22.780
왜 다들 이름 때문에 혼란스러워 할까요?

00:00:22.780 --> 00:00:24.380
혼란은 이름에서 시작됩니다.

00:00:24.560 --> 00:00:27.180
파운드리는 셀 수 없을 만큼 많은 이름 변경을 거쳤습니다.

00:00:27.360 --> 00:00:28.600
처음에는 카그너티브 서비시즈였고,

00:00:28.820 --> 00:00:29.920
그 다음은 에이저 AI 서비시즈,

00:00:30.160 --> 00:00:31.160
그 다음은 에이저 AI 스튜디오,

00:00:31.480 --> 00:00:32.500
그 다음은 에이저 AI 파운드리,

00:00:32.760 --> 00:00:34.980
그리고 작년 말부터는 공식적으로 마이크로소프트 파운드리 가되었습니다.

00:00:35.220 --> 00:00:37.700
동일한 제품인데 3년 동안 이름이 4-5번이나 바뀐 셈이죠.

00:00:37.880 --> 00:00:40.320
그것만으로도 혼란스럽지만 상황은 더 복잡합니다.

00:00:40.520 --> 00:00:42.840
현재 두 버전의 플랫폼이 나란히 운영되고 있습니다.

00:00:43.140 --> 00:00:45.560
클래식한 허브 기반 아키텍처가 이전 방식입니다.

00:00:45.560 --> 00:00:48.280
새로운 파운드리 프로젝트 모델이 현대적인 버전입니다.

00:00:48.460 --> 00:00:51.680
둘 다 같은 URL인 AI.azure.com에서 제공됩니다.

00:00:51.880 --> 00:00:55.680
그곳에 접속하면 완전히 다른 두 아키텍처를 전환할 수 있는 토글 버튼을 보게 됩니다.

00:00:55.920 --> 00:00:57.200
단순히 디자인만 바뀐 것이 아니라,

00:00:57.560 --> 00:00:59.560
그 내부의 모든 것을 구성하는 방식 자체가 다릅니다.

00:00:59.760 --> 00:01:01.080
초보자들이 혼란을 겪는 이유는,

00:01:01.160 --> 00:01:04.360
도음마를 검색할 때 허브나 클래식 프로젝트에 대한 문서가 나오기 때문입니다.

00:01:04.560 --> 00:01:06.540
물론 그 문서들의 내용은 여전히 정확합니다.

00:01:06.800 --> 00:01:08.500
마이크로소프트는 두 버전 모두 지원하지만,

00:01:08.900 --> 00:01:11.840
새로운 기능, 에이전트 역량 등 마이크로소프트가 투자하는 모든 것은

00:01:11.840 --> 00:01:13.380
파운드리 프로젝트에만 적용됩니다.

00:01:13.540 --> 00:01:15.060
오래된 튜토리얼을 따라 허브를 설정했다가,

00:01:15.340 --> 00:01:17.260
최신 도구를 사용할 수 없다는 사실을 알게 될 수도 있습니다.

00:01:17.480 --> 00:01:18.560
정말 골치 아픈 일이죠.

00:01:18.760 --> 00:01:19.980
그래서 제 조언은 이렇습니다.

00:01:20.200 --> 00:01:21.120
그 버전은 무시하세요.

00:01:21.380 --> 00:01:23.700
마이크로소프트는 모든 역량을 현대적인 파운드리에 집중하고 있습니다.

00:01:23.940 --> 00:01:24.840
오늘 처음 시작하신다면,

00:01:25.160 --> 00:01:27.160
허브는 건너뛰고 바로 파운드리 프로젝트로 가십시오.

00:01:27.300 --> 00:01:28.580
그곳에 새로운 기능들이 있습니다.

00:01:28.920 --> 00:01:31.100
그렇다면 에이저 AI 파운드리란 무엇일까요?

00:01:31.300 --> 00:01:32.500
처음부터 다시 시작하겠습니다.

00:01:32.800 --> 00:01:34.500
에이저 AI 파운드리란 무엇일까요?

00:01:34.500 --> 00:01:38.700
AI 애플리케이션을 빌드, 테스트, 배포하기 위한 통화 플랫폼을 한 곳에 모아둔 것입니다.

00:01:38.840 --> 00:01:40.360
이것이 가장 간단한 정의입니다.

00:01:40.560 --> 00:01:42.120
공장이라고 생각하면 쉽습니다.

00:01:42.300 --> 00:01:48.060
원자재인 모델, 데이터, 도구가 들어오면 책봇, 코파일럿, 자동화 에이전트 같은 완성된 애플리케이션이 나옵니다.

00:01:48.240 --> 00:01:49.660
공장을 직접 지을 필요는 없습니다.

00:01:50.200 --> 00:01:51.480
마이크로소프트가 운영하니까요.

00:01:51.600 --> 00:01:53.860
그저 들어가서 필요한 것을 가져와 빌드를 시작하기만 하면 됩니다.

00:01:54.120 --> 00:01:56.340
이것은 워드나 엑셀처럼 단일 제품이 아닙니다.

00:01:56.520 --> 00:02:00.160
파운드리는 모델, 도구, 프로젝트, 보안을 담는 컨테이너입니다.

00:02:00.160 --> 00:02:04.360
파운드리 리소스를 하나 생성하면 수천 개의 모델이 담긴 전체 모델 카탈로그를 이용할 수 있습니다.

00:02:04.560 --> 00:02:08.980
에이전트 구축 도구, 테스트 플레이 그라운드, 평가 도구, 보안 기능이 모두 하나로 통합되어 제공됩니다.

00:02:09.160 --> 00:02:10.860
이제 중요한 차이점을 말씀드리겠습니다.

00:02:11.140 --> 00:02:12.800
파운드리는 개발자를 위한 것입니다.

00:02:13.000 --> 00:02:17.940
파이썬이나 C샵을 사용하거나 코드로 맞춤형 AI 솔루션을 구축하고 싶다면 이 플랫폼이 적합합니다.

00:02:18.120 --> 00:02:20.580
로우 코드 방식의 드래그 앤 드롭 환경을 찾으시나요?

00:02:20.860 --> 00:02:24.180
그건 다른 사용자를 위한 다른 도구인 코파일럿 스튜디오입니다.

00:02:24.400 --> 00:02:25.760
둘 다 훌륭한 도구입니다.

00:02:25.760 --> 00:02:30.940
파운드리 이전에는 에이저에서 AI 애플리케이션을 구축하려면 각각 별도의 서비스를 프로비저닝해야 했습니다.

00:02:31.220 --> 00:02:36.820
에이저 오픈 아이 카그너티브 서비시즈, 에이저 머신러닝, 에이저 AI 서치를 설정한 다음 이들을 연결하는 맞춤형 코드를 작성해야 했죠.

00:02:36.940 --> 00:02:38.160
정말 많은 작업이 필요했습니다.

00:02:38.420 --> 00:02:39.860
파운드리는 그 모든 것을 대체합니다.

00:02:40.100 --> 00:02:42.100
리소스 하나만 생성하면 모든 것이 이미 연결되어 있습니다.

00:02:42.360 --> 00:02:44.360
모델, 도구, 보안 기능이 내장되어 있습니다.

00:02:44.620 --> 00:02:46.060
바로 구축을 시작하기만 하면 됩니다.

00:02:46.360 --> 00:02:47.200
그것이 핵심입니다.

00:02:47.200 --> 00:02:51.500
새로운 도구를 추가하는 것이 아니라 여러 개의 개별 서비스를 관리하는 번거로움을 없애는 것이 목표입니다.

00:02:51.620 --> 00:02:53.780
핵심 조직 단위인 파운드리 프로젝트에 대해 알아보겠습니다.

00:02:54.020 --> 00:02:55.700
이제 여러분에게는 AI 공장이 생겼습니다.

00:02:55.880 --> 00:02:57.300
하지만 공장에는 체계가 필요합니다.

00:02:57.460 --> 00:02:59.320
그 역할을 하는 것이 바로 파운드리 프로젝트입니다.

00:02:59.480 --> 00:03:02.640
파운드리 프로젝트는 특정 AI 솔루션을 위한 독립된 작업 공간입니다.

00:03:02.840 --> 00:03:06.020
파운드리 가 공장이라면 프로젝트는 개별 작업대라고 할 수 있습니다.

00:03:06.260 --> 00:03:09.980
각 작업대에는 서로 간섭하지 않는 고유한 도구와 재료, 작업자가 배치됩니다.

00:03:09.980 --> 00:03:14.280
고객 지원 챗봇을 만드는 팀이 실수로 인사 담당 어시스턴트 프로젝트를 망칠 일은 없습니다.

00:03:14.520 --> 00:03:16.080
프로젝트 안에는 무엇이 있을까요?

00:03:16.280 --> 00:03:19.840
자체 모델 배포, 에이전트, 지식 저장소, 평가 및 모니터링 기능이 포함됩니다.

00:03:20.000 --> 00:03:22.280
하나의 솔루션에 필요한 모든 것이 한 곳에 모여 있습니다.

00:03:22.580 --> 00:03:23.780
핵심 구조는 다음과 같습니다.

00:03:24.120 --> 00:03:26.040
프로젝트는 파운드리 리소스 안에 위치합니다.

00:03:26.280 --> 00:03:28.820
리소스는 청구 및 보안의 경계이자 건물 그 자체입니다.

00:03:29.000 --> 00:03:30.660
프로젝트는 그 건물 내부의 방들입니다.

00:03:30.860 --> 00:03:33.560
건물 하나, 출입구 하나, 보안 데스크 하나, 청구서 하나입니다.

00:03:33.740 --> 00:03:35.840
하지만 각 방은 고유한 목적과 팀을 가지고 있습니다.

00:03:35.840 --> 00:03:39.300
예를 들어 컨토소라는 회사가 세 가지 AI 솔루션을 만든다고 가정해보겠습니다.

00:03:39.560 --> 00:03:43.200
고객 지원 에이전트, 인사 담당 어시스턴트, 그리고 문서 처리 시스템입니다.

00:03:43.380 --> 00:03:45.860
파운드리를 사용하면 회사 전체를 위한 리소스를 하나 만들고

00:03:45.860 --> 00:03:47.640
그 안에 세 개의 프로젝트를 생성하면 됩니다.

00:03:47.840 --> 00:03:50.840
각 프로젝트는 고유한 모델, 에이전트, 지식 저장소를 가집니다.

00:03:51.000 --> 00:03:53.340
팀들은 서로 방해하지 않고 독립적으로 작업합니다.

00:03:53.540 --> 00:03:56.260
팀마다 필요한 접근 권한이 다르기 때문에 이것은 매우 중요합니다.

00:03:56.440 --> 00:03:59.060
고객 지원 팀이 인사 관련 문서를 볼 필요는 없으니까요.

00:03:59.200 --> 00:04:01.300
문서 처리 팀 역시 환불 정책을 볼 필요는 없습니다.

00:04:01.620 --> 00:04:03.460
프로젝트는 이러한 격리 환경을 제공합니다.

00:04:03.460 --> 00:04:08.780
동시에 IT 부서는 하나의 리소스, 하나의 보안 정책, 하나의 예산을 관리하며 중앙 통제권을 유지합니다.

00:04:08.900 --> 00:04:11.340
중앙의 거버넌스 아래 팀의 자율성을 보장하는 것입니다.

00:04:11.520 --> 00:04:13.800
파운드리 위 심장인 모델 카탈로그를 소개합니다.

00:04:14.000 --> 00:04:14.960
이렇게 생각해보세요.

00:04:15.220 --> 00:04:16.980
모든 프로젝트에는 두뇌가 필요합니다.

00:04:17.180 --> 00:04:19.440
파운드리에서 그 두뇌는 모델 카탈로그 안에 있습니다.

00:04:19.740 --> 00:04:21.980
1만 1천 개가 넘는 모델, 오타가 아닙니다.

00:04:22.160 --> 00:04:24.480
오픈아이 위 GPT-45 및 GPT-4.1,

00:04:24.480 --> 00:04:33.280
메타 위 라마 제품군, 미스트럴, 딥시크, 마이크로소프트 위 P모델, 엔스로픽 위 클라우드, 코이어 등 텍스트, 이미지, 코드, 인베딩을 위한 다양한 모델을 이용할 수 있습니다.

00:04:33.440 --> 00:04:37.280
현재의 카탈로그는 모든 클라우드 플랫폼 중 가장 방대한 모델 규모를 자랑합니다.

00:04:37.480 --> 00:04:41.120
이 모델들을 거대 언어모델과 소형 언어모델이라는 두 가지 기본 유형으로 나누어 보겠습니다.

00:04:41.380 --> 00:04:43.580
거대 모델은 수십억 개의 맥의 변수를 가집니다.

00:04:43.760 --> 00:04:49.660
GPT-4는 1조 개가 넘는 맥의 변수를 보유하여 복잡한 추론, 창의적인 글쓰기, 미묘한 대화 처리가 가능합니다.

00:04:49.660 --> 00:04:54.400
하지만 비용이 많이 들고 속도가 느립니다. 소형 모델은 훨씬 적은 맥의 변수를 가집니다.

00:04:54.580 --> 00:04:59.920
마이크로소프트 위 P3는 약 38억 개의 맥의 변수로 GPT-4에 비하면 매우 작지만 빠르고 저렴합니다.

00:05:00.100 --> 00:05:04.560
양식에서 데이터를 추출하거나 간단한 질문에 답하는 등의 집중적인 작업에 매우 효과적입니다.

00:05:04.820 --> 00:05:06.240
실질적인 이점은 다음과 같습니다.

00:05:06.580 --> 00:05:08.140
몇 초 만에 모델을 배포할 수 있습니다.

00:05:08.400 --> 00:05:10.980
카탈로그에서 하나를 선택하고 배포를 클릭하면 바로 준비가 됩니다.

00:05:11.220 --> 00:05:15.420
하드웨어를 프로비저닝하거나 네트워크를 구성할 필요도 설치를 위해 몇 시간씩 기다릴 필요도 없이 단 몇 초면 충분합니다.

00:05:15.600 --> 00:05:18.120
결정하기 전에 플레이 그라운드에서 먼저 테스트해볼 수 있습니다.

00:05:18.120 --> 00:05:22.780
다양한 프롬프트를 시도하고 온도나 최대 토큰 같은 설정을 조정하며 즉각적인 응답을 확인할 수 있습니다.

00:05:22.980 --> 00:05:24.960
마치 차를 사기 전 시승하는 것과 같습니다.

00:05:25.280 --> 00:05:29.820
한 모델에 묶이지 않는다는 점은 오픈아이 API를 직접 사용하는 것보다 큰 장점입니다.

00:05:30.000 --> 00:05:36.020
파운드리를 사용하면 품질이 중요한 복잡한 추론에는 GPT-45를, 속도와 비용이 중요한 단순 분류에는 P를,

00:05:36.420 --> 00:05:41.000
자체 데이터 센터에서 모델을 실행해야 하는 규정 준수 상황에는 메타 위 라마를 사용할 수 있습니다.

00:05:41.240 --> 00:05:43.260
작업에 따라 모델을 자유롭게 전환하세요.

00:05:43.480 --> 00:05:47.060
파운드리에는 모델을 나란히 놓고 평가할 수 있는 비교 도구도 포함되어 있습니다.

00:05:47.060 --> 00:05:49.740
품질별로 비교하여 응답의 정확도를 확인하세요.

00:05:49.900 --> 00:05:52.800
안전성 면에서 프롬프트 주입 공격을 얼마나 잘 방어하는지 확인하세요.

00:05:52.980 --> 00:05:55.220
비용 측면에서는 100만 토큰 반가격을 확인하세요.

00:05:55.440 --> 00:05:57.560
속도 면에서는 출력 생성 속도를 비교해보세요.

00:05:57.820 --> 00:06:00.920
이를 통해 모델 선택은 찍기 게임이 아닌 정보에 기반한 결정이 됩니다.

00:06:01.200 --> 00:06:04.800
모두가 말하는 모델이 아닌 특정 작업에 가장 적합한 도구를 선택하는 것입니다.

00:06:05.000 --> 00:06:07.900
파운드리 위 핵심 기능인 AI 에이전트 구축에 대해 알아보겠습니다.

00:06:08.200 --> 00:06:10.040
모델만으로는 활용도가 높지 않습니다.

00:06:10.440 --> 00:06:13.060
플레이그라운드에서 대화하고 질문하며 결과를 볼 수 있지만,

00:06:13.060 --> 00:06:14.840
그것은 단순한 대화일 뿐입니다.

00:06:15.000 --> 00:06:17.880
진정한 마법은 실제로 무언가를 수행할 수 있는 것을 만들 때 일어나며,

00:06:18.200 --> 00:06:19.440
바로 이때 에이전트가 등장합니다.

00:06:19.640 --> 00:06:21.180
에이전트는 책봇 그 이상입니다.

00:06:21.420 --> 00:06:22.720
책봇은 질문에 답합니다.

00:06:23.000 --> 00:06:24.340
에이전트는 행동을 취합니다.

00:06:24.660 --> 00:06:27.320
웹을 검색하고, 파일을 읽고, 계산을 수행하고,

00:06:27.700 --> 00:06:30.260
지난주에 한 말을 기억하며, 일련의 지침을 따를 수 있습니다.

00:06:30.500 --> 00:06:33.420
말만 하는 것이 아니라 실제로 이를 처리하는 비서를 두는 것과 같습니다.

00:06:33.740 --> 00:06:36.380
파운드리는 에이전트를 구축하기 위한 5가지 구성 요소를 제공합니다.

00:06:36.540 --> 00:06:37.780
각 요소를 하나씩 살펴보겠습니다.

00:06:37.780 --> 00:06:39.220
첫 번째는 지침입니다.

00:06:39.400 --> 00:06:42.160
에이전트가 무엇을 해야 하고, 어떻게 행동해야 하는지 알려주는 단계입니다.

00:06:42.500 --> 00:06:43.740
직무기술서라고 생각하면 됩니다.

00:06:44.000 --> 00:06:45.940
예를 들어, 당신은 고객지원 에이전트입니다.

00:06:46.100 --> 00:06:47.740
친절하고 전문적인 태도를 유지하세요.

00:06:47.900 --> 00:06:49.620
반품 정책에 관한 질문에만 답변하세요.

00:06:49.800 --> 00:06:52.000
답을 모르면 모른다고 말하고, 담당자에게 연결하세요.

00:06:52.160 --> 00:06:52.940
라고 할 수 있죠.

00:06:53.160 --> 00:06:55.640
지침이 없으면 에이전트는 모델이 원하는 대로 행동합니다.

00:06:55.840 --> 00:06:57.980
지침이 있으면 에이전트에게 명확한 목적이 생깁니다.

00:06:58.120 --> 00:06:59.120
두 번째는 모델입니다.

00:06:59.360 --> 00:07:00.800
이는 에이전트의 두뇌에 해당합니다.

00:07:01.020 --> 00:07:03.060
모든 요청을 처리하고, 응답을 생성합니다.

00:07:03.060 --> 00:07:07.940
복잡한 추론을 위한 gpt-45, 단순한 작업을 위한 5등 상황에 맞는 모델을 선택할 수 있습니다.

00:07:08.140 --> 00:07:10.760
모델은 에이전트를 똑똑하게 만들지만, 이는 하나의 요소일 뿐입니다.

00:07:10.920 --> 00:07:11.900
세 번째는 도구입니다.

00:07:12.100 --> 00:07:13.840
에이전트에게 손과 발이 되어주는 부분입니다.

00:07:14.000 --> 00:07:16.160
도구는 에이전트가 작업을 수행하는 데 사용하는 기능입니다.

00:07:16.340 --> 00:07:18.220
웹검색을 통해 최신 정보를 찾아볼 수 있습니다.

00:07:18.420 --> 00:07:20.860
코드 인터프리터로 수학 문제를 풀고 계산을 수행할 수 있습니다.

00:07:21.060 --> 00:07:23.160
파일 검색을 통해 업로드한 문서를 읽을 수 있습니다.

00:07:23.400 --> 00:07:25.480
도구가 없으면 에이전트는 텍스트만 생성할 수 있습니다.

00:07:25.700 --> 00:07:27.580
도구가 있으면 세상과 상호작용할 수 있습니다.

00:07:27.580 --> 00:07:28.880
네 번째는 지식입니다.

00:07:29.060 --> 00:07:30.920
에이전트가 참조할 수 있는 정보입니다.

00:07:31.080 --> 00:07:35.980
에이전트가 질문에 정확히 답변하도록 문서, pdf, json 파일 등 필요한 데이터를 업로드합니다.

00:07:36.160 --> 00:07:40.340
파운드리는 내부적으로 에이저 AI 서치를 사용하여 데이터를 색인화하고 검색 가능하게 만듭니다.

00:07:40.500 --> 00:07:43.220
고객이 특정 정책을 물어보면 에이전트는 추측하지 않습니다.

00:07:43.440 --> 00:07:45.160
실제 문서를 찾아 내용을 확인합니다.

00:07:45.360 --> 00:07:46.620
다섯 번째는 메모리입니다.

00:07:46.860 --> 00:07:48.780
에이전트가 대화 내용을 기억하게 해줍니다.

00:07:49.000 --> 00:07:51.400
오늘 대화하면 에이전트가 사용자의 선호도를 기억합니다.

00:07:51.620 --> 00:07:54.080
내일 다시 돌아와도 중단했던 부분부터 대화를 이어갑니다.

00:07:54.080 --> 00:07:57.960
대화 요약과 사용자 선호도를 저장하여 개인화된 연속적인 경험을 제공합니다.

00:07:58.100 --> 00:08:00.140
제가 조사한 구체적인 사례를 하나 들어보겠습니다.

00:08:00.480 --> 00:08:02.820
누군가 파운드리로 선물 추적 에이전트를 만들었습니다.

00:08:03.100 --> 00:08:04.280
아이디어는 간단합니다.

00:08:04.480 --> 00:08:09.860
가족에게 준 선물, 과거에 준 선물, 그들이 좋아하는 것과 싫어하는 것, 지출 비용 등을 기록하고 싶어합니다.

00:08:10.080 --> 00:08:12.660
그래서 에이전트에는 선물 계획을 돕는 역할입니다.

00:08:12.880 --> 00:08:14.700
이미 받은 선물은 절대 추천하지 마세요.

00:08:14.840 --> 00:08:16.120
라는 지침이 포함되어 있습니다.

00:08:16.480 --> 00:08:20.200
이것은 gpt4를 두뇌로 사용하고, 웹범색으로 온라인에서 선물 아이디어를 찾으며,

00:08:20.200 --> 00:08:22.960
가족 구성원 별 프로필, 취향, 싫어하는 것.

00:08:22.960 --> 00:08:28.760
지난 3년간의 선물 이력이 담긴 파일 검색 기능과 예산 및 합계를 계산하는 코드 인터프리터, 그리고 메모리 기능을 갖추고 있습니다.

00:08:28.980 --> 00:08:33.640
따라서 다음에 대화를 시작하면, 당신이 아들 아담의 생일 선물을 찾고 있었다는 사실을 기억합니다.

00:08:33.860 --> 00:08:36.740
이 모든 것은 에이전트 플레이 그라운드에서 구축하고 테스트합니다.

00:08:36.960 --> 00:08:39.420
이는 각 구성 요소를 설정하고, 에이전트의 응답을 테스트하며,

00:08:39.660 --> 00:08:42.380
어떤 도구를 왜 사용했는지 정확히 확인할 수 있는 시각적 인터페이스입니다.

00:08:42.560 --> 00:08:44.460
작동이 확인되면 바로 배포할 수 있습니다.

00:08:44.460 --> 00:08:48.020
파운드리는 모든 애플리케이션에서 호출할 수 있는 API 엔드포인트를 제공하거나,

00:08:48.020 --> 00:08:51.200
마이크로소프트 팀즈 에코파일럿 에이전트로 직접 게시할 수도 있습니다.

00:08:51.400 --> 00:08:54.200
어떤 방법을 사용하든, 인프라 코드를 단 한 줄도 작성하지 않고,

00:08:54.380 --> 00:08:56.700
아이디어에서 프로덕션까지 에이전트를 완성할 수 있습니다.

00:08:56.880 --> 00:08:58.740
내부 구조는 간단하게 설계되었습니다.

00:08:59.040 --> 00:09:02.220
표면적으로는 그렇지만, 실제로 내부에서는 어떤 일이 일어날까요?

00:09:02.420 --> 00:09:04.460
여기 아키텍처를 알기 쉽게 설명해드립니다.

00:09:04.680 --> 00:09:07.800
파운드리 리소스를 생성하면, 에이저가 전체 인프라를 자동으로 설정함으로,

00:09:07.800 --> 00:09:10.420
직접 스토리지를 프로비저닝하거나 로깅을 구성하고,

00:09:10.540 --> 00:09:11.860
보안 그룹을 설정할 필요가 없습니다.

00:09:11.860 --> 00:09:18.000
파일과 로그를 위한 스토리지 계정 생성, 모니터링 설정, 아이디 구성 등 모든 과정이 백그라운드에서 자동으로 진행됩니다.

00:09:18.140 --> 00:09:20.980
따라서 리소스를 생성하고, 바로 빌드를 시작하기만 하면 됩니다.

00:09:21.180 --> 00:09:25.680
현재 파운드리는 에이저 오픈아이 및 비전, 스피치와 같은 기존 AI 서비스에서 사용하는 것과,

00:09:25.800 --> 00:09:28.140
동일한 카그너티브 서비시즈 리소스 유형을 사용합니다.

00:09:28.300 --> 00:09:31.200
과거의 허브 기반 아키텍처는 머신러닝 서비시즈를 사용했는데,

00:09:31.640 --> 00:09:35.220
이는 청구, 네트워킹, 거버넌스가 완전히 다른 별개의 공급자였습니다.

00:09:35.220 --> 00:09:39.840
파운드리는 더 단순하고 통합된 에이저 인프라 영역에 위치하기 때문에 이 점이 중요합니다.

00:09:40.020 --> 00:09:42.500
프로젝트는 파운드리 리소스의 하위 리소스임으로,

00:09:42.660 --> 00:09:44.520
동일한 아이디 및 보안 경계를 공유합니다.

00:09:44.720 --> 00:09:48.520
파운드리 수준에서 액세스 제어를 설정하면 모든 프로젝트에 자동으로 적용되므로,

00:09:48.960 --> 00:09:50.740
각각 보안을 별도로 구성할 필요가 없습니다.

00:09:51.040 --> 00:09:54.120
하지만 프로젝트별로 특정 권한이 필요하다면 추가할 수도 있습니다.

00:09:54.400 --> 00:09:56.460
파운드리는 단독으로 작동하지 않습니다.

00:09:56.680 --> 00:09:58.260
다른 에이저 서비스와 연결되며,

00:09:58.700 --> 00:10:02.940
그 중 가장 중요한 에이저 AI 서치를 통해 에이전트가 지식을 찾고 검색합니다.

00:10:02.940 --> 00:10:05.820
키볼트는 비밀과 API 키를 안전하게 저장하고,

00:10:06.300 --> 00:10:09.400
스토리지 계정은 파일, 로그, 벡터 인덱스를 보관합니다.

00:10:09.580 --> 00:10:12.360
이러한 연결은 파운드리 위 커넥션 기능을 통해 관리되는데,

00:10:12.780 --> 00:10:15.200
이는 에이전트가 자격 증명을 수동으로 관리할 필요 없이

00:10:15.200 --> 00:10:17.860
리소스에 액세스할 수 있도록 하는 사전 구성된 링크입니다.

00:10:18.000 --> 00:10:21.580
파운드리 에이전트 서비스는 에이전트를 실제로 호스팅하는 넌타임입니다.

00:10:21.780 --> 00:10:23.400
엔진 룸이라고 생각하시면 됩니다.

00:10:23.760 --> 00:10:28.980
사용자가 요청을 보내면 에이전트 서비스, 에이전트 서비스가 조율을 담당하여 요청을 수신하고,

00:10:28.980 --> 00:10:34.660
지침을 확인하며, 모델을 호출하고, 적절한 도구를 실행하고, 지식을 검색한 뒤 응답을 생성합니다.

00:10:34.820 --> 00:10:38.740
또한 유해한 콘텐츠를 포착하고 확장성을 처리하기 위해 안전필터를 실행합니다.

00:10:38.920 --> 00:10:42.780
따라서 천명의 사용자가 동시에 에이전트에 접속해도 자동으로 용량이 확장됩니다.

00:10:43.000 --> 00:10:45.680
모든 것은 에이저 위 엔터프라이즈 급보안 환경 내에서 실행되며,

00:10:46.060 --> 00:10:49.720
엔트라 아이디가 인증을 처리하고, 관리형 네트워크가 트래픽을 비공개로 유지하며,

00:10:50.120 --> 00:10:53.020
역할 기반 액세스 제어를 통해 승인된 사람만 에이전트를 수정할 수 있습니다.

00:10:53.020 --> 00:10:55.840
콘텐츠 안전필터가 부적절한 응답을 차단합니다.

00:10:56.020 --> 00:10:59.740
이는 마이크로소프트 위 자체 서비스를 운영하는 것과 동일한 보안 인프라입니다.

00:10:59.940 --> 00:11:03.160
한 가지 더, 기존의 허브 및 프로젝트 아키텍처는 여전히 존재합니다.

00:11:03.360 --> 00:11:06.200
에이저 AI 파운드리를 오랫동안 사용해 오셨다면 허브가 설정되어 있을 수 있으며,

00:11:06.500 --> 00:11:08.440
해당 환경은 여전히 마이크로소프트 지원을 통해 작동합니다.

00:11:08.600 --> 00:11:11.940
하지만 그 환경에서는 에이전트 플레이 그라운드, 에이전트 플레이 그라운드, 에이전트 서비스,

00:11:12.180 --> 00:11:14.020
메모리 기능과 같은 새로운 에이전트 기능을 사용할 수 없습니다.

00:11:14.020 --> 00:11:16.480
이 모든 기능은 새로운 파운드리 프로젝트에서만 제공됩니다.

00:11:16.640 --> 00:11:19.680
그러니 새로 시작하거나 에이전트를 구축하려는 경우, 새로운 프로젝트를 사용하세요.

00:11:19.860 --> 00:11:21.420
구형 기반 위에 구축하지 마십시오.

00:11:21.560 --> 00:11:23.940
모든 것이 어떻게 연결되는지 전체적인 그림을 살펴보겠습니다.

00:11:24.260 --> 00:11:26.980
그렇다면 누군가 파운드리 애플리케이션을 사용할 때 실제로 어떤 일이 벌어질까요?

00:11:27.140 --> 00:11:30.180
사용자가 질문을 입력하고 그 질문이 에이전트에 도달한다고 가정해봅시다.

00:11:30.360 --> 00:11:33.900
에이전트는 지침을 확인하고 적절한 모델을 선택한 뒤 처리를 시작합니다.

00:11:34.100 --> 00:11:36.320
하지만 단순히 답변을 추측하는 것이 아닙니다.

00:11:36.540 --> 00:11:39.340
에이저 AI 서치에 접근하여 문서에서 관련 지식을 찾고,

00:11:39.340 --> 00:11:42.240
웹검색과 같은 도구를 호출하여 최신 정보를 가져온 다음,

00:11:42.620 --> 00:11:44.560
그 모든 문맥을 처리하여 응답을 생성합니다.

00:11:44.720 --> 00:11:48.080
그런 다음, 대화 내용을 메모리에 저장하여 다음에 사용자가 다시 방문했을 때 누구인지,

00:11:48.380 --> 00:11:49.420
무엇을 논의했는지 기억합니다.

00:11:49.580 --> 00:11:51.060
이것이 엔드투엔드 흐름입니다.

00:11:51.280 --> 00:11:56.000
파운드리 이전에는 이를 구현하기 위해 5개의 개별 에이저 서비스와 사용자 지정 코드가 필요했습니다.

00:11:56.320 --> 00:11:59.040
모델을 위한 에이저 오픈아이, 지식검색을 위한 AI 서치,

00:11:59.380 --> 00:12:02.460
웹검색을 위한 별도의 서비스, 로그 및 파일 저장을 위한 스토리지,

00:12:02.800 --> 00:12:04.380
보안 정보를 위한 키볼트가 필요했죠.

00:12:04.380 --> 00:12:09.500
또한 이 모든 것을 연결하고, 인증을 처리하며, 오류를 관리하고, 모니터링을 설정하기 위한 코드를 직접 작성해야 했습니다.

00:12:09.740 --> 00:12:11.960
파운드리는 이 모든 것을 즉시 사용할 수 있도록 제공합니다.

00:12:12.140 --> 00:12:14.220
구성 요소만 설정하면 바로 에이전트가 실행됩니다.

00:12:14.420 --> 00:12:16.400
중요한 점은 모든 것이 상호작용한다는 것입니다.

00:12:16.600 --> 00:12:19.340
모델을 변경하면 모든 응답의 비용과 정확도가 달라집니다.

00:12:19.500 --> 00:12:22.120
더 나은 지식 소스를 추가하면 답변이 더 정확해집니다.

00:12:22.300 --> 00:12:25.760
메모리 기능을 활성화하면 로봇처럼 느껴지지 않고 개인화된 경험을 제공합니다.

00:12:26.020 --> 00:12:27.780
이것들은 독립적인 결정이 아닙니다.

00:12:27.780 --> 00:12:32.120
하나의 시스템이며, 파운드리는 사용자가 특정 요구사항에 맞게 시스템을 조정할 수 있는 제어 기능을 제공합니다.

00:12:32.240 --> 00:12:35.140
이것이 바로 기업들이 파일럿 단계에서 프로덕션 단계로 나아가는 이유입니다.

00:12:35.260 --> 00:12:38.560
파운드리는 신뢰할 수 있는 AI 애플리케이션을 구축하기 위한 기반을 제공합니다.

00:12:38.740 --> 00:12:41.220
보안, 모니터링, 평가 기능이 내장되어 있습니다.

00:12:41.520 --> 00:12:43.100
처음부터 다시 시작할 필요가 없습니다.

00:12:43.420 --> 00:12:47.100
어려운 작업은 플랫폼이 처리함으로, 여러분은 애플리케이션 개발에만 집중할 수 있습니다.

00:12:47.340 --> 00:12:49.120
시작하기, 첫 번째 단계입니다.

00:12:49.360 --> 00:12:50.900
그럼, 어디서부터 시작할까요?

00:12:50.900 --> 00:12:54.840
ai-zure.com에 접속하여 첫 번째 파운드리 리소스를 만드세요.

00:12:55.000 --> 00:12:59.600
에이저 구독이 필요하지만, 없다면 무료 계정을 신청하여 제공되는 크레딧으로 시작해보세요.

00:12:59.900 --> 00:13:01.840
전체 설정은 약 1분이면 충분합니다.

00:13:02.040 --> 00:13:05.940
다음으로, 해당 리소스 내에 프로젝트를 만들고 개발할 내용에 맞는 이름을 지정하세요.

00:13:06.160 --> 00:13:08.180
그 다음, 카탈로그에서 모델을 선택하세요.

00:13:08.380 --> 00:13:11.240
대부분의 실험에 충분히 강력한 모델로 시작하는 것을 추천합니다.

00:13:11.460 --> 00:13:13.020
클릭 한 번으로 배포할 수 있습니다.

00:13:13.340 --> 00:13:17.280
그런 다음, 에이전트 플레이 그라운드를 열고 간단한 에이전트를 빌드하세요.

00:13:17.280 --> 00:13:21.020
당신은 회사 정책에 관해 답변하는 유용한 비서입니다.

00:13:21.320 --> 00:13:22.940
와 같은 지침을 입력하세요.

00:13:23.760 --> 00:13:25.820
그리고 도구로 웹검색을 추가하세요.

00:13:26.080 --> 00:13:30.240
질문을 던져 테스트해보고, 추적 기능을 통해 어떤 도구를 왜 사용했는지 확인하세요.

00:13:30.500 --> 00:13:32.540
처음부터 모든 것을 만들려고 하지 마세요.

00:13:32.760 --> 00:13:37.020
사내 핸드북에 대해 답변하는 문서 Q&A보처럼 한 가지 사례를 골라잡게 시작하세요.

00:13:37.260 --> 00:13:39.540
작동하게 만든 뒤, 거기서부터 확장해나가세요.

00:13:39.760 --> 00:13:42.400
실제 문서를 활용한 파일 검색, 사용자를 기억하는 메모리,

00:13:42.740 --> 00:13:44.600
계산이 필요할 경우 코드 인터프리터를 추가하세요.

00:13:44.600 --> 00:13:45.740
중요한 점이 있습니다.

00:13:45.740 --> 00:13:49.120
파운드리에는 플랫폼 자체에 대한 질문에 답해주는 AI 책봇이 내장되어 있습니다.

00:13:49.340 --> 00:13:51.800
막히는 부분이 있으면, 내 지역에서 어떤 모델을 사용할 수 있나요?

00:13:51.900 --> 00:13:52.760
와 같이 물어보세요.

00:13:52.980 --> 00:13:55.040
또는 에이전트에 메모리를 추가하려면 어떻게 하나요?

00:13:55.120 --> 00:13:55.880
라고 물어보세요.

00:13:56.160 --> 00:13:58.060
문서를 검색하여 즉시 답변을 주는데,

00:13:58.500 --> 00:14:00.700
마치 포털 안에 지원 엔지니어가 있는 것과 같습니다.

00:14:01.040 --> 00:14:02.320
이것이 바로 시스템입니다.

00:14:02.580 --> 00:14:08.100
모델, 프로젝트, 에이전트, 지식, 보안을 하나로 묶어 유기적으로 작동하게 하는 통합 플랫폼이죠.

00:14:08.320 --> 00:14:11.380
모든 것이 어떻게 통합되는지 알게 되면, 혼란은 사라질 것입니다.

00:14:11.380 --> 00:14:15.220
파운드리는 단순한 도구가 아니라 AI 애플리케이션을 만드는 작업장입니다.

00:14:15.400 --> 00:14:16.280
결론은 이렇습니다.

00:14:16.540 --> 00:14:18.500
오늘 여러분이 얻을 수 있는 가장 큰 성과는 간단합니다.

00:14:18.620 --> 00:14:20.920
파운드리 프로젝트를 생성하고 에이전트를 하나만 만들어보는 것입니다.

00:14:21.100 --> 00:14:22.020
그것으로 충분합니다.

00:14:22.020 --> 00:14:24.600
이 내용이 도움이 되었다면 구독하여 더 쉬운 설명을 확인하고,

00:14:24.940 --> 00:14:28.120
마이크로소프트의 AI 제품군에 대해 혼란스러워하는 지인과의 영상을 공유하세요.

00:14:28.300 --> 00:14:29.420
분명 고마워할 것입니다.