WEBVTT

00:00:00.000 --> 00:00:05.160
오늘의 주제는 거의 모든 사람이 드러낸 받지만 실제로 설명할 수 있는 사람은 드문 AI 에이전트 하네스입니다.

00:00:05.360 --> 00:00:09.280
아마 블로그 게시물이나 컨퍼런스 강연에서 보셨겠지만 이게 정확히 무엇을 의미할까요?

00:00:09.440 --> 00:00:17.520
핵심은 이렇습니다. 대부분의 사람들은 AI 에이전트를 만드는 것이 완벽한 프롬프트, 즉 모델이 원하는 대로 정확히 작동하게 만드는 마법같은 지시어를 작성하는 것이라고 생각합니다.

00:00:17.720 --> 00:00:20.560
하지만 그것은 마치 자동차를 그저 엔진이라고 생각하는 것과 같습니다.

00:00:20.860 --> 00:00:25.680
물론 엔진은 중요하지만, 바퀴, 핸들, 브레이크, 차체가 없다면 어디로도 갈 수 없죠.

00:00:25.680 --> 00:00:31.700
이번 에피소드가 끝날 때 틈이면 여러분은 에이전트 하네스가 무엇인지, 왜 이것이 프롬프트 엔지니어링을 넘어선 다음 단계의 진화인지,

00:00:32.160 --> 00:00:36.520
그리고 마이크로소프트 AI 파운드리가 이를 어떻게 실제 비즈니스에 구현하는지 이해하게 될 것입니다.

00:00:36.660 --> 00:00:42.340
커피 한 잔 들고 본격적으로 시작해봅시다. 왜 이제 프롬프팅만으로는 부족한가? 초창기로 돌아가보죠.

00:00:42.520 --> 00:00:47.180
2022년에서 2024년 무렵 AI를 다루는 것은 간단했습니다. 프롬프트를 작성하면 답변이 나왔죠.

00:00:47.320 --> 00:00:52.360
이메일 초안이 필요하신가요? 프롬프트를 작성하세요. 기사 요약이 필요하신가요? 프롬프트를 작성하세요.

00:00:52.360 --> 00:00:57.380
단순한 일회성 작업에는 아주 잘 작동했습니다. 무엇을 요청하든 모델이 합리적인 답변을 내놓았으니까요.

00:00:57.520 --> 00:01:01.860
하지만 사람들은 더 야심차게 변했습니다. 이 모델들에게 진짜 일을 시키기 시작한 거죠.

00:01:02.060 --> 00:01:09.000
주제를 조사하고 보고서를 작성하거나 코드베이스를 분석해 버그를 수정하거나 다단계 고객 지원 상담을 처음부터 끝까지 처리하는 식입니다.

00:01:09.200 --> 00:01:13.220
그러자 갑자기 하나의 프롬프트로는 감당이 안 되기 시작했습니다. 무슨 일이 일어났는지 아시나요?

00:01:13.440 --> 00:01:18.860
모델의 컨텍스트 윈도우가 꽉 차서 이전 지시사항을 잊어버리고 사실을 지어내거나 불안전한 결과를 내놓기 시작했습니다.

00:01:18.860 --> 00:01:24.620
작업이 길어질수록 출력 결과는 점점 더 신뢰할 수 없게 되었습니다. 여러분도 아마 직접 경험해보셨을 겁니다.

00:01:24.920 --> 00:01:30.100
AI에게 복잡한 작업을 시키면 마지막에는 처음에 무엇을 시켰는지 조차 잊어버리는 경우 말이죠.

00:01:30.300 --> 00:01:35.760
한 사람에게 처음부터 끝까지 집 한 채를 쉬지 않고 다 지으라고 시키면서 중간점검조차 하지 않는 상황을 상상해보세요.

00:01:36.020 --> 00:01:39.460
우리가 모델들에게 바로 그런 일을 시키고 있었던 겁니다. 결과는 뻔했습니다.

00:01:39.800 --> 00:01:42.760
벽은 빠져있고 문은 열리지 않는 미완성된 집이 나오는 거죠.

00:01:42.760 --> 00:01:53.240
해결책은 더 나은 프롬프트가 아니었습니다. 표현을 다듬고 예시를 추가하고 지시사항을 정교화하는데 몇 시간을 써도 근본적인 문제가 프롬프트에 있는 것이 아니었기에 길고 복잡한 작업에서는 여전히 실패할 수밖에 없었습니다.

00:01:53.500 --> 00:01:58.880
문제는 모델을 둘러싼 시스템의 부재였습니다. 모델에게 필요했던 것은 더 좋은 문장이 아니라 더 나은 지원체계였습니다.

00:01:59.280 --> 00:02:02.920
거기서부터 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로의 진화가 시작되었습니다.

00:02:03.180 --> 00:02:06.960
AI 진화의 3단계 AI 위 진화에 대한 재관점은 이렇습니다.

00:02:07.200 --> 00:02:10.040
3단계로 나뉘며 각 단계마다 엔지니어들의 초점이 바뀝니다.

00:02:10.040 --> 00:02:14.360
1단계는 프롬프트 엔지니어링이었습니다. 대략 2022년부터 2024년까지였죠.

00:02:14.460 --> 00:02:20.300
핵심 질문은 간단했습니다. 모델에게 무엇을 말해야 할까? 하나의 명령을 입력하고 하나의 답변을 얻는 것이 전부였습니다.

00:02:20.640 --> 00:02:24.820
모든 기술은 단어 선택과 어조에 집중되어 있었죠. 기본적인 작업에는 그것으로 충분했습니다.

00:02:25.080 --> 00:02:28.860
다음으로 2단계. 2024년부터 2025년까지의 컨텍스트 엔지니어링이 왔습니다.

00:02:29.060 --> 00:02:32.580
질문이 무엇을 말해야 할까 해서 모델이 무엇을 봐야 할까로 바뀌었죠.

00:02:32.760 --> 00:02:36.480
엔지니어들은 어떻게 질문하느냐 보다 무엇을 제공하느냐가 더 중요하다는 것을 깨달았습니다.

00:02:36.480 --> 00:02:42.000
그래서 도구 호출, 검색 증강 생성, RAG, 모델 컨텍스트 프로토콜, MCP 같은 시스템을 구축했습니다.

00:02:42.220 --> 00:02:45.080
이를 통해 모델은 필요한 정보를 즉석에서 가져올 수 있게 되었습니다.

00:02:45.360 --> 00:02:49.880
모든 것을 하나의 프롬프트에 넣는 대신 모델이 필요할 때마다 필요한 정보를 가져올 수 있게 된 것이죠.

00:02:50.060 --> 00:02:52.740
지금 우리가 있는 3단계는 바로 하니스 엔지니어링입니다.

00:02:53.340 --> 00:02:55.340
2026년경부터 시작된 질문은 이렇습니다.

00:02:55.560 --> 00:02:57.860
모델 주변에 어떤 시스템을 구축해야 할까?

00:02:58.020 --> 00:03:04.540
신뢰성, 메모리, 오케스트레이션, 가이드레일은 모델 자체가 아니라 주변에 구축하는 시스템에서 나오기 때문에 흥미로운 지점이죠.

00:03:04.540 --> 00:03:06.760
가장 간단하게 생각하는 방법은 이렇습니다.

00:03:06.960 --> 00:03:08.760
에이전트는 모델과 하니스를 합친 것입니다.

00:03:08.940 --> 00:03:10.460
하니스는 그 외의 모든 것을 의미합니다.

00:03:10.640 --> 00:03:12.740
모델은 사고를 담당하고 하니스는 나머지를 담당하죠.

00:03:12.900 --> 00:03:15.400
그리고 그 하니스가 전체를 작동하게 만드는 핵심 비결입니다.

00:03:15.580 --> 00:03:16.460
이렇게 생각해보세요.

00:03:16.760 --> 00:03:19.460
모델은 숙련된 작업자이지만 재능은 뛰어나도 한계가 있습니다.

00:03:19.720 --> 00:03:23.360
하니스는 작업장, 도구, 체크리스트, 감독관, 그리고 브레이크와 같습니다.

00:03:23.660 --> 00:03:25.600
작업장이 없으면 작업자는 일할 곳이 없습니다.

00:03:25.900 --> 00:03:27.680
도구가 없으면 아무것도 만들 수 없죠.

00:03:27.840 --> 00:03:29.480
체크리스트가 없으면 단계를 잊어버립니다.

00:03:29.740 --> 00:03:31.160
감독관이 없으면 실수를 하게 됩니다.

00:03:31.160 --> 00:03:32.920
그리고 브레이크가 없으면 번아웃이 오죠.

00:03:33.060 --> 00:03:34.400
하니스는 그 모든 구조를 제공합니다.

00:03:34.560 --> 00:03:36.440
그렇다면 이 하니스 내부에는 정확히 무엇이 있을까요?

00:03:36.580 --> 00:03:37.320
한번 열어보죠.

00:03:37.480 --> 00:03:39.080
하니스가 실제로 포함하고 있는 것들입니다.

00:03:39.260 --> 00:03:40.840
그럼 하니스에는 무엇이 들어갈까요?

00:03:41.000 --> 00:03:42.280
하나씩 차근차근 살펴보겠습니다.

00:03:42.640 --> 00:03:43.980
첫째, 에이전트 루프입니다.

00:03:44.180 --> 00:03:46.100
이것이 에이전트를 계속 작동하게 만드는 순환구조입니다.

00:03:46.280 --> 00:03:48.180
모델이 생각하고 도구를 호출하기로 결정합니다.

00:03:48.360 --> 00:03:50.120
도구가 실행되고 결과 값을 돌려줍니다.

00:03:50.340 --> 00:03:51.780
모델은 그것을 보고 다시 생각한 뒤,

00:03:52.120 --> 00:03:53.260
어쩌면 또 다른 도구를 호출합니다.

00:03:53.260 --> 00:03:56.280
에이전트가 목표에 도달할 때까지 루프는 계속됩니다.

00:03:56.460 --> 00:03:59.660
이 루프가 없다면 단 하나의 질문과 답변만 얻을 뿐입니다.

00:03:59.840 --> 00:04:03.320
이 루프가 있으면 문제를 단계별로 해결하는 시스템을 갖추게 됩니다.

00:04:03.560 --> 00:04:05.120
다음은 컨텍스트 관리입니다.

00:04:05.380 --> 00:04:08.000
모델은 주의력에 한계가 있기 때문에 이는 매우 중요합니다.

00:04:08.200 --> 00:04:11.080
컨텍스트 윈도우는 일정량을 넘어 서면 데이터를 처리할 수 없게 됩니다.

00:04:11.300 --> 00:04:12.620
여기서 하니스가 개입합니다.

00:04:12.860 --> 00:04:17.060
하니스는 대화를 압축하고 모든 메시지를 요약하며 중요한 내용을 우선순위로 둡니다.

00:04:17.240 --> 00:04:19.360
대화를 위한 정리 시스템이라고 생각하면 됩니다.

00:04:19.360 --> 00:04:22.280
하니스는 모델이 관련 정보만 볼 수 있도록 대화 내용을 정리합니다.

00:04:22.420 --> 00:04:25.340
이 기능이 없으면 모델이 흐름을 놓쳐 긴 대화 세션은 무너지게 됩니다.

00:04:25.560 --> 00:04:26.840
다음은 도구와 기술입니다.

00:04:27.080 --> 00:04:28.440
이것들은 에이전트의 손과 같습니다.

00:04:28.780 --> 00:04:30.720
모델 자체는 텍스트를 생성하는 것만 가능합니다.

00:04:30.880 --> 00:04:33.820
파일을 읽거나 웹을 검색하거나 코드를 실행하거나 데이터베이스를 조회할 수 없습니다.

00:04:34.060 --> 00:04:35.760
하니스가 그런 기능들을 제공합니다.

00:04:35.980 --> 00:04:41.300
파일 접근, 웹 검색, 코드 실행, 데이터베이스 커리 등 모든 것이 하니스가 제공하는 도구입니다.

00:04:41.520 --> 00:04:44.700
모델은 도구 사용 시점을 결정하고 하니스는 실제로 작동하게 만듭니다.

00:04:44.700 --> 00:04:47.140
메모리와 세션 지속성도 매우 중요한 부분입니다.

00:04:47.280 --> 00:04:49.040
하니스는 과거의 세션을 기억합니다.

00:04:49.240 --> 00:04:52.080
따라서 내일 에이전트에 다시 접속해도 처음부터 시작하지 않습니다.

00:04:52.280 --> 00:04:55.360
사용자의 선호도, 프로젝트 맥락, 내린 결정들을 기억합니다.

00:04:55.540 --> 00:04:58.580
하니스가 기록을 유지하기 때문에 에이전트는 시간이 지날수록 학습합니다.

00:04:58.780 --> 00:05:01.900
가드레일은 안전계층으로 에이전트의 행동에 제한을 두는 것입니다.

00:05:02.080 --> 00:05:03.980
에이전트의 규칙집이라고 생각하세요.

00:05:04.220 --> 00:05:10.980
최대 단계 설정, 허용되지 않는 동작, 파일 작성이나 이메일 전송 같은 위험 작업에 필요한 사람의 승인 절차 등이 포함됩니다.

00:05:10.980 --> 00:05:15.140
가드레일이 없으면 에이전트가 무한히 작동하거나 위도치 않은 행동을 할 수 있습니다.

00:05:15.340 --> 00:05:16.580
하니스가 이를 제어합니다.

00:05:16.840 --> 00:05:18.460
마지막으로 오케스트레이션입니다.

00:05:18.700 --> 00:05:21.720
하니스는 작업에 따라 특화된 하위 에이전트를 생성할 수 있습니다.

00:05:21.980 --> 00:05:25.780
하나는 조사를, 다른 하나는 작성을, 세 번째는 검증을 담당합니다.

00:05:25.980 --> 00:05:28.400
마치 건설 현장의 전문가 팀처럼 협력합니다.

00:05:28.660 --> 00:05:32.580
각자 가장 잘하는 일을 수행하며 하니스는 서로 방해가 되지 않도록 조율합니다.

00:05:32.800 --> 00:05:35.140
자, 이러한 구성 요소들은 단순한 이론이 아닙니다.

00:05:35.320 --> 00:05:38.520
마이크로소프트는 이 모든 것을 실제로 구현하는 통화 플랫폼을 구축했습니다.

00:05:38.520 --> 00:05:41.860
바로 기업용 하니스인 마이크로소프트 AI 파운드리입니다.

00:05:42.040 --> 00:05:44.640
그 플랫폼이 바로 마이크로소프트 AI 파운드리입니다.

00:05:44.840 --> 00:05:48.800
규모에 맞게 AI 에이전트를 구축하고 운영하기 위한 완벽한 작업장이라고 생각하세요.

00:05:49.020 --> 00:05:52.460
여기서 말하는 규모는 실험실 수준이 아닌 실제 비즈니스 규모를 의미합니다.

00:05:52.640 --> 00:05:55.580
현재 파운드리는 7만 개 이상의 고객사를 지원하며,

00:05:56.020 --> 00:05:58.400
지난 분기 에만 100조 개의 토큰을 처리했습니다.

00:05:58.700 --> 00:05:59.580
100조가 맞습니다.

00:06:00.080 --> 00:06:00.940
오타가 아닙니다.

00:06:01.160 --> 00:06:03.680
매일 20억 건의 기업용 검색 쿼리를 처리합니다.

00:06:04.000 --> 00:06:07.300
이는 세계에서 가장 방대한 워크로드를 처리하는 운영 플랫폼입니다.

00:06:07.300 --> 00:06:10.660
파운드리는 실제로 하니스를 관리형 서비스 형태로 제공합니다.

00:06:10.820 --> 00:06:15.620
컨텍스트 관리, 메모리, 가드레일, 조정 기능을 처음부터 구축할 필요 없이 모두 내장되어 있기 때문입니다.

00:06:15.760 --> 00:06:17.140
여러분은 에이전트를 준비하세요.

00:06:17.320 --> 00:06:19.020
파운드리가 그 주변의 작업 환경을 제공합니다.

00:06:19.200 --> 00:06:20.680
이제 정체성에 대해 이야기해봅시다.

00:06:20.840 --> 00:06:21.980
이는 매우 중요한 문제입니다.

00:06:22.120 --> 00:06:24.760
파운드리의 모든 에이전트는 고유한 엔트라 에이전트 아이디를 부여받습니다.

00:06:24.960 --> 00:06:26.680
기본적으로 디지털 신원인 셈이죠.

00:06:26.880 --> 00:06:29.460
안내데스크에서 발급하는 사원증이라고 생각하면 됩니다.

00:06:29.760 --> 00:06:31.760
에이전트는 인간 직원처럼 서비스에 로그인하고,

00:06:31.760 --> 00:06:34.760
데이터에 접근하며 조직을 대신해 업무를 수행할 수 있습니다.

00:06:34.940 --> 00:06:38.300
모든 활동이 그 정체성과 연결됨으로 완벽하게 감사추적이 가능합니다.

00:06:38.460 --> 00:06:39.420
왜 이게 중요할까요?

00:06:39.600 --> 00:06:41.860
기업에서는 누가 무엇을 했는지 파악해야 하기 때문입니다.

00:06:42.040 --> 00:06:43.880
모든 행동은 기록되며 추적할 수 있습니다.

00:06:44.100 --> 00:06:46.900
파운드리는 시어포인트와 다이나믹스 365부터 세일즈포스,

00:06:47.260 --> 00:06:50.100
맞춤형 데이터베이스까지 1400개 이상의 기업 데이터 소스에 연결합니다.

00:06:50.280 --> 00:06:53.320
귀사가 사용하는 서비스라면 파운드리에 이미 커넥터가 있을 가능성이 높습니다.

00:06:53.480 --> 00:06:55.660
따라서 에이전트는 추측하거나 지어내지 않습니다.

00:06:55.900 --> 00:06:57.640
실제 시스템에서 실제 데이터를 가져오므로,

00:06:57.640 --> 00:07:00.060
답변은 여러분의 실제 비즈니스 데이터에 기반합니다.

00:07:00.180 --> 00:07:01.240
다음은 메모리입니다.

00:07:01.420 --> 00:07:03.300
파운드리는 내장형 메모리 유형을 포함합니다.

00:07:03.500 --> 00:07:06.100
절차적 메모리는 에이전트가 과거 작업으로부터 학습하도록 돕습니다.

00:07:06.340 --> 00:07:08.640
마치 직무 교육처럼 시간이 지날수록 더 나아집니다.

00:07:08.800 --> 00:07:10.540
세션 지속성은 이전 대화를 기억한다는 의미로,

00:07:10.800 --> 00:07:12.920
매번 대화할 때마다 처음부터 다시 시작하지 않아도 됩니다.

00:07:13.140 --> 00:07:15.540
덕분에 상호작용이 연속적이고 지능적으로 느껴집니다.

00:07:15.720 --> 00:07:17.600
그럼, 이것은 실제로 어떻게 작동할까요?

00:07:17.780 --> 00:07:20.800
마이크로소프트가 제공하는 맞춤형 하니스 구축 구성 요소를 살펴보겠습니다.

00:07:20.800 --> 00:07:23.880
에이전트 프레임워크, 맞춤형 하니스 구축에 대하여

00:07:23.880 --> 00:07:26.160
그렇다면 하니스는 어떻게 구축할까요?

00:07:26.340 --> 00:07:29.500
마이크로소프트는 시멘틱 커널, 시멘틱 커널이라는 이전 이름으로 알려진

00:07:29.500 --> 00:07:32.500
전용 SDK인 마이크로소프트 에이전트 프레임워크를 제공합니다.

00:07:32.660 --> 00:07:34.580
재설계되었지만 개념은 그대로입니다.

00:07:34.760 --> 00:07:37.980
개발자들은 이를 통해 파이썬과 C샵으로 맞춤형 에이전트 하니스를 구축할 수 있습니다.

00:07:38.180 --> 00:07:40.140
이 프레임워크는 3개의 계층으로 구성됩니다.

00:07:40.340 --> 00:07:42.480
가장 아래에는 모델이 생각하고, 도구를 호출하고,

00:07:42.480 --> 00:07:45.580
결과를 얻은 뒤 다시 생각하는 핵심 추론주기인 에이전트 루프 가 있습니다.

00:07:45.820 --> 00:07:49.360
그 위에는 여러 에이전트를 관리하는 조정 패턴인 워크플로우 가자리아입니다.

00:07:49.520 --> 00:07:53.580
그리고 모든 것을 감싸는 것은 이 모든 것을 하나로 묶어주는 껍데기인 하니스 계층 자체입니다.

00:07:54.000 --> 00:07:56.340
마이크로소프트는 5가지 내장 조정 패턴을 제공합니다.

00:07:56.540 --> 00:07:59.740
순차, 시퀀셜, 방식은 정해진 순서대로 에이전트를 하나씩 실행합니다.

00:07:59.920 --> 00:08:02.260
동시, 컨커런트, 방식은 모든 에이전트를 병렬로 실행합니다.

00:08:02.260 --> 00:08:05.520
인객, 핸드오프, 방식은 필요에 따라 한 에이전트에서 다른 에이전트로 제어권을 넘깁니다.

00:08:05.660 --> 00:08:08.720
그룹채팅, 그룹챗은 여러 에이전트가 공유 대화방에서 소통하게 합니다.

00:08:08.900 --> 00:08:12.140
그리고 마이크로소프트 리서치에서 만든 관리자인 메이전틱이 있습니다.

00:08:12.460 --> 00:08:14.640
여기서는 감독관 에이전트가 계획을 세우고,

00:08:14.760 --> 00:08:17.140
프로젝트 관리자가 팀원들에게 업무를 할당하듯,

00:08:17.240 --> 00:08:19.340
전문 하위 에이전트들에게 업무를 위임합니다.

00:08:19.520 --> 00:08:21.720
각 패턴은 서로 다른 조정 문제를 해결합니다.

00:08:21.960 --> 00:08:23.220
가장 좋은 점은 이것입니다.

00:08:23.440 --> 00:08:25.360
이 프레임워크는 확장 가능하다는 점입니다.

00:08:25.360 --> 00:08:28.580
오픈아이, 엔스로픽, 구글 재미나이부터 아마존 베드락,

00:08:28.940 --> 00:08:31.900
심지어 오라마의 로컬 모델까지 원하는 모든 모델을 연결할 수 있습니다.

00:08:32.080 --> 00:08:33.260
도구도 마찬가지입니다.

00:08:33.460 --> 00:08:37.100
오픈아이, 모델 컨텍스트 프로토콜, MCP, 또는 직접 코딩을 통해 연결하면 됩니다.

00:08:37.320 --> 00:08:40.800
일부 사람들은 마이크로소프트의 프레임워크를 사용하면 그들의 생태계에 갇히게 될까 봐 걱정합니다.

00:08:40.980 --> 00:08:41.740
그렇지 않습니다.

00:08:41.960 --> 00:08:44.800
이 프레임워크는 여러분이 이미 사용 중인 어떤 스택과도 잘 작동합니다.

00:08:44.800 --> 00:08:49.540
하니스, 하니스, 계층은 파일 액세스, 코드 실행, 계획 미드웨어, 텔레메트리 같은 기능을 추가해줍니다.

00:08:49.680 --> 00:08:52.580
따라서 이 프레임워크로 에이전트를 구축한다는 것은 파일을 읽고, 코드를 작성하고,

00:08:52.840 --> 00:08:56.200
바단계 작업을 계획하며, 디버깅을 위해 모든 것을 기록하는 완전한 시스템을 만드는 것을 의미합니다.

00:08:56.360 --> 00:08:58.060
단순한 채팅 인터페이스 그 이상입니다.

00:08:58.280 --> 00:08:59.520
어떤 모습인지 보여드리겠습니다.

00:08:59.840 --> 00:09:02.000
이 프레임워크로 구축된 코딩 에이전트를 상상해보세요.

00:09:02.240 --> 00:09:05.520
예를 들어, 기존 코드 베이스에 새로운 기능을 추가하라는 작업을 준다고 가정해봅시다.

00:09:05.520 --> 00:09:08.600
에이전트는 먼저 문서를 탐색하여 API를 이해하는 것으로 시작합니다.

00:09:08.780 --> 00:09:10.060
그런 다음 코드를 작성합니다.

00:09:10.280 --> 00:09:12.360
그리고 테스트를 실행하여 문제가 없는지 확인합니다.

00:09:12.540 --> 00:09:15.340
테스트가 실패하면 에러를 읽고 버그를 수정하여 다시 테스트를 실행하는데,

00:09:15.760 --> 00:09:19.620
이 모든 과정이 동일한 하니스 내에서 이루어지며 작업이 완료될 때까지 생각행동 확인 주기를 반복합니다.

00:09:19.780 --> 00:09:22.280
하니스가 없다면 각 단계를 수동으로 입력해야 할 것입니다.

00:09:22.500 --> 00:09:25.200
하니스가 있으면 에이전트가 전체 워크플로우를 스스로 처리합니다.

00:09:25.400 --> 00:09:28.300
하니스가 실제로 작동하는 유명한 사례 중 하나는 클로, 클라우, 패턴입니다.

00:09:28.300 --> 00:09:30.440
마이크로소프트는 이를 파운드리에서 사용할 수 있게 만들어두며,

00:09:30.680 --> 00:09:32.720
이 구성 요소들이 어떻게 결합되는지 보여주는 훌륭한 예시입니다.

00:09:32.840 --> 00:09:36.940
클로스타일 에이전트와 헤르메스, 헤르메스, 클로스타일 에이전트에 대해 이야기해보죠.

00:09:37.100 --> 00:09:39.700
이 이름은 오픈클로와 같은 오픈소스 프로젝트에서 유래했습니다.

00:09:39.980 --> 00:09:44.160
이 에이전트들은 여러분의 기기에서 상주하며 지시를 기다렸다가 장기작업을 스스로 수행합니다.

00:09:44.300 --> 00:09:46.760
필요할 때 언제든 즉시 투입될 준비가 되어 있습니다.

00:09:47.080 --> 00:09:49.400
쉬는 날이 없는 개인 비서라고 생각하면 됩니다.

00:09:49.880 --> 00:09:51.940
마이크로소프트의 버전은 헤르메스라고 불립니다.

00:09:51.940 --> 00:09:56.480
이것은 파운드리 위 호스팅된 에이전트 샌드박스 안에서 실행되며 인상적인 기능들을 갖추고 있습니다.

00:09:56.680 --> 00:10:00.080
헤르메스는 자체 파일 시스템, 자체 메모리, 자체 도구 세트를 가지고 있습니다.

00:10:00.280 --> 00:10:04.100
스스로 유지관리 루틴을 설정하여 오래된 파일을 정리하고 작업 공간을 구성할 수 있습니다.

00:10:04.320 --> 00:10:07.480
그리고 자신에게 필요한 새로운 기술이 없다는 것을 깨달으면 즉석에서 바로 만들 수도 있습니다.

00:10:07.660 --> 00:10:09.300
자, 클로 에이전트에는 이런 직증이 있습니다.

00:10:09.500 --> 00:10:12.620
클라우드 아키텍트들은 이들을 가축, 캣틀, 이 아닌 반려동물, 패츠, 이라고 부릅니다.

00:10:12.820 --> 00:10:13.720
반려동물은 고유합니다.

00:10:13.720 --> 00:10:15.980
이름을 붙여주고 돌봐주며 쉽게 대체할 수 없습니다.

00:10:16.160 --> 00:10:17.420
가축은 서로 교체 가능합니다.

00:10:17.580 --> 00:10:19.620
그래서 하나가 문제가 생기면 다른 하나를 새로 띄우면 됩니다.

00:10:19.780 --> 00:10:21.400
클로 에이전트는 분명 반려동물입니다.

00:10:21.580 --> 00:10:24.580
각 에이전트는 저마다의 상태와 기록, 그리고 학습된 행동양식을 가지고 있기 때문입니다.

00:10:24.740 --> 00:10:28.280
그런 고유함은 강력한 힘을 발휘하지만 복구와 확장도 어렵게 만듭니다.

00:10:28.460 --> 00:10:33.420
문제가 생겨도 인스턴스를 버리고 새로 시작할 수 없는데, 그렇게 되면 축적된 모든 지식을 잃게 되기 때문입니다.

00:10:33.620 --> 00:10:36.480
마이크로소프트 위 해결책은 루틴, 루틴, 이라고 불리는 기능입니다.

00:10:36.480 --> 00:10:41.140
이는 에이전트가 깨어나 유지관리 작업을 수행하고 다시 잠들 수 있도록 하는 예약된 작업입니다.

00:10:41.300 --> 00:10:47.200
비용이 드는 샌드박스를 24시간 내내 실행하는 대신, 에이전트는 일정 시간 활동이 없으면 종료됩니다.

00:10:47.420 --> 00:10:53.480
루틴 시스템은 오래된 기술 정리, 백업 실행, 새로운 작업 확인 등 무언가를 해야 할 때 에이전트를 깨웁니다.

00:10:53.660 --> 00:10:55.100
그러고 나서 다시 잠듭니다.

00:10:55.300 --> 00:10:58.620
이렇게 하면 비용을 절감하면서도 필요할 때 에이전트를 사용할 수 있습니다.

00:10:58.900 --> 00:11:00.820
샌드박스는 각 세션을 격리합니다.

00:11:01.080 --> 00:11:05.120
에이전트의 파일, 메모리, 구성은 모두 자체 환경 내에 포함됩니다.

00:11:05.120 --> 00:11:11.100
또한 하니스는 세션 전반에 걸쳐 해당 상태를 관리함으로 한 에이전트의 데이터가 다른 에이전트로 유출될까 걱정할 필요가 없습니다.

00:11:11.340 --> 00:11:15.060
직접 하니스를 구축할 수도 있지만 대부분의 기업에게는 그럴 필요가 없습니다.

00:11:15.340 --> 00:11:18.520
파운드리는 이러한 모든 기능이 내장된 기성 플랫폼을 제공합니다.

00:11:18.740 --> 00:11:22.040
진정한 질문은 여러분의 에이전트가 무엇을 하길 원하느냐는 것입니다.

00:11:22.240 --> 00:11:24.820
게시와 협업, 즉 하니스와 사람이 만나는 지점입니다.

00:11:25.040 --> 00:11:28.280
이제 에이전트를 구축하고 도구, 메모리, 오케스트레이션, 샌드박스를 제공했습니다.

00:11:28.520 --> 00:11:30.380
그럼 사람들은 실제로 어떻게 사용할까요?

00:11:30.540 --> 00:11:32.420
여기서 파운드리가 이를 쉽게 만들어줍니다.

00:11:32.420 --> 00:11:37.820
에이전트가 구축 및 배포되면 클릭 한 번으로 마이크로소프트 팀 제휘 마이크로소프트 365 코파일러 4개씩 할 수 있습니다.

00:11:38.020 --> 00:11:41.420
10번 클릭하거나 3일 동안 배포 파이프 라인을 거칠 필요 없이 클릭 한 번이면 됩니다.

00:11:41.640 --> 00:11:45.660
그러면 에이전트는 사람들이 이미 작업 중인 이메일, 채팅, 문서 등 바로 그곳에 나타납니다.

00:11:45.840 --> 00:11:47.740
파운드리는 두 가지 배포 모드를 지원합니다.

00:11:47.960 --> 00:11:49.520
첫째, 지원형 에이전트입니다.

00:11:49.760 --> 00:11:53.420
이들은 사용자를 대신해 이메일을 작성하거나 회의를 예약하거나 문서를 불러오는 작업을 합니다.

00:11:53.620 --> 00:11:57.760
마치 요청하는 일을 처리해주는 매우 빠른 비서처럼 사용자의 확장된 기능으로서 작동합니다.

00:11:57.760 --> 00:11:59.680
둘째, 자동화 에이전트입니다.

00:11:59.860 --> 00:12:01.580
이것은 더 새롭고 흥미로운 방식입니다.

00:12:01.740 --> 00:12:04.460
이들은 자체 이메일 주소와 고유한 신원을 가지고 스스로의 이름으로 행동합니다.

00:12:04.620 --> 00:12:06.200
매번 프롬프트를 입력할 필요가 없습니다.

00:12:06.500 --> 00:12:07.740
그들은 주도적으로 행동합니다.

00:12:07.920 --> 00:12:10.020
자동화 에이전트는 완전한 사용자 계정을 가지고 있습니다.

00:12:10.200 --> 00:12:13.200
동료를 추가하는 것과 똑같이 팀 제 그룹 채팅에 에이전트를 추가할 수 있습니다.

00:12:13.420 --> 00:12:17.060
에이전트는 대화를 따라가다가 도움이 필요할 때 개입하여 미결 항목을 추적하고

00:12:17.060 --> 00:12:18.860
팀이 무엇을 작업 중인지에 답하며

00:12:18.860 --> 00:12:23.380
심지어 적절한 문서를 보내거나 올바른 사람을 소개해 팀에 합류하는 신규 멤버를 온 보딩하기도 합니다.

00:12:23.500 --> 00:12:24.780
구체적인 예를 들어보겠습니다.

00:12:25.140 --> 00:12:27.300
워크스트림 관리자 에이전트가 있다고 가정해보죠.

00:12:27.440 --> 00:12:29.060
팀즈 그룹 채팅에 에이전트를 추가합니다.

00:12:29.260 --> 00:12:31.880
누군가 3분기 보고서를 금요일까지 끝내야 해요 라고 말합니다.

00:12:32.080 --> 00:12:33.920
에이전트는 이것이 실행 항목임을 알아차립니다.

00:12:34.220 --> 00:12:36.340
에이전트는 작업을 생성하고 담당자를 지정하며

00:12:36.340 --> 00:12:38.340
목요일에 진행 상황을 확인하도록 알림을 추가합니다.

00:12:38.520 --> 00:12:40.200
아무도 그렇게 하라고 시키지 않았습니다.

00:12:40.380 --> 00:12:42.380
해야 할 일을 스스로 파악하고 처리한 것입니다.

00:12:42.580 --> 00:12:45.100
하네스, 하니스, 가 배후에서 모든 권한을 관리합니다.

00:12:45.280 --> 00:12:48.000
승인된 사용자만이 그룹 채팅에서 에이전트와 상호작용할 수 있습니다.

00:12:48.000 --> 00:12:50.800
에이전트는 허용된 메시지만 확인하고 나머지는 무시합니다.

00:12:50.960 --> 00:12:53.260
사람 팀원과 동일한 액세스 제어 원칙을 따릅니다.

00:12:53.480 --> 00:12:55.940
이것이 바로 하네스 엔지니어링이 진가를 발휘하는 이유입니다.

00:12:56.100 --> 00:12:58.580
에이전트는 브라우저 탭에서 여는 책봇을 넘어섭니다.

00:12:58.740 --> 00:13:00.240
생산적인 팀의 일원이 됩니다.

00:13:00.540 --> 00:13:03.900
여러분이 있는 곳에서 함께 일하며 팀의 방식대로 업무를 수행합니다.

00:13:04.120 --> 00:13:09.020
이 모든 것은 모델을 둘러싼 시스템인 하네스가 아이디, 권한, 배포, 통합을 관리하기 때문에 가능합니다.

00:13:09.160 --> 00:13:11.880
하네스가 없다면 그저 확인해야 할 또 하나의 채팅창에 불과했을 것입니다.

00:13:12.080 --> 00:13:14.120
하지만 강력한 도구에는 반드시 안전장치가 필요합니다.

00:13:14.300 --> 00:13:16.480
이 모든 과정을 안전하게 만드는 가드레일에 대해 이야기해보겠습니다.

00:13:16.780 --> 00:13:18.800
하네스에서의 책임 있는 AI와 거버넌스입니다.

00:13:19.000 --> 00:13:20.040
중요한 점은 이것입니다.

00:13:20.040 --> 00:13:22.860
하네스 엔지니어링은 단순히 에이전트의 능력을 키우는 것만이 아닙니다.

00:13:23.000 --> 00:13:25.380
안전하고 신뢰할 수 있는 에이전트를 만드는 것이 핵심입니다.

00:13:25.560 --> 00:13:30.300
이메일을 보내고 파일을 수정하며 그룹 채팅에서 활동하는 에이전트는 강력하지만 그만큼 통제가 필요합니다.

00:13:30.440 --> 00:13:33.020
직원에게 건물 출입 열쇠를 주는 상황을 생각해보십시오.

00:13:33.160 --> 00:13:37.120
업무를 수행하길 바라면서도 무엇을 언제 접근할 수 있는지 규칙을 정하는 것과 같습니다.

00:13:37.440 --> 00:13:41.000
마이크로소프트 위 접근 방식은 책임 있는 AI 표준을 기반으로 합니다.

00:13:41.080 --> 00:13:49.040
공정성, 신뢰성 및 안전성, 개인정보 보호 및 보안, 포용성, 투명성, 책임성이라는 6가지 원칙이 모든 것을 이끕�니다.

00:13:49.200 --> 00:13:52.120
이것들은 단순히 포스터에 적힌 좋은 문구가 아닙니다.

00:13:52.300 --> 00:13:55.020
전체 플랫폼을 설계하는 근본적인 토대입니다.

00:13:55.020 --> 00:13:58.260
하네스는 이러한 원칙들이 실제 코드로 구현되는 공간입니다.

00:13:58.440 --> 00:14:00.520
가드레일은 에이전트의 활동 범위를 제한합니다.

00:14:00.700 --> 00:14:04.660
수명주기 훅, 라이프사이클, 후크스, 물통의 에이전트 실행의 모든 단계에서 정책을 적용할 수 있습니다.

00:14:04.840 --> 00:14:10.380
에이전트 실행 전후, 도구 호출 전, 결과 도출 후에 이르기까지 모든 지점에서 고요한 검사를 추가할 수 있습니다.

00:14:10.580 --> 00:14:14.380
특정 데이터베이스에 에이전트가 접근하지 못하게 하고 싶으신가요? 그렇게 할 수 있습니다.

00:14:14.660 --> 00:14:18.280
에이전트가 이메일을 보내기 전 사람의 수인을 받도록 하고 싶으신가요? 그 역시 가능합니다.

00:14:18.480 --> 00:14:20.200
두 가지 모두 설정이 매우 간단합니다.

00:14:20.200 --> 00:14:23.860
에이전이 웰 아키텍티드 프레임워크에는 AI 워크로드를 위한 전용 지침이 포함되어 있습니다.

00:14:24.100 --> 00:14:26.840
데이터 암호화부터 사고 대응까지 모든 내용을 다룹니다.

00:14:27.040 --> 00:14:31.540
핵심은 AI 시스템 구축이 다른 엔터프라이즈 시스템 구축과 근본적으로 다르지 않다는 것입니다.

00:14:31.760 --> 00:14:34.580
여전히 보안, 신뢰성, 그리고 운영 우수성이 필요합니다.

00:14:34.760 --> 00:14:38.820
웰 아키텍티드 프레임워크 능기를 잃지 않고 이 모든 것을 고려할 수 있는 체계적인 방법을 제공합니다.

00:14:39.020 --> 00:14:41.020
그 외에도 클라우드 어댑션 프레임워크 가 있습니다.

00:14:41.020 --> 00:14:43.500
이는 AI 거버넌스를 위한 4단계 프로세스를 제공합니다.

00:14:43.640 --> 00:14:45.100
첫째, 위험을 식별하십시오.

00:14:45.220 --> 00:14:46.300
무엇이 잘못될 수 있을까요?

00:14:46.440 --> 00:14:47.800
둘째, 영향력을 측정하십시오.

00:14:47.920 --> 00:14:48.720
얼마나 심각할까요?

00:14:48.880 --> 00:14:50.320
셋째, 제어장치로 완화하십시오.

00:14:50.440 --> 00:14:52.020
이를 방지하기 위해 무엇을 도입할 수 있을까요?

00:14:52.180 --> 00:14:53.800
넷째, 모니터링을 통해 운영하십시오.

00:14:53.920 --> 00:14:55.820
문제가 발생했을 때 어떻게 포착할 수 있을까요?

00:14:55.980 --> 00:14:59.740
이는 추상적인 고민을 실질적인 행동으로 전환하는 단계별 실용적 접근 방식입니다.

00:14:59.940 --> 00:15:03.320
특히 에이전트 하네스, 에이전트 하니시즈 위 경우 몇 가지 핵심 사항을 의미합니다.

00:15:03.320 --> 00:15:06.240
최대 단계 제한을 두어 에이전트가 무한정 실행되지 않게 합니다.

00:15:06.400 --> 00:15:08.900
도구 사용을 제한하여 허용된 기능에만 접근하게 합니다.

00:15:09.080 --> 00:15:11.180
고위험 작업에는 인간의 승인 절차를 도입합니다.

00:15:11.360 --> 00:15:14.140
감사추적을 통해 모든 결정을 기록하고 검토 가능하게 합니다.

00:15:14.320 --> 00:15:17.440
콘텐츠 안전 필터를 통해 문제가 있는 출력을 사전에 차단합니다.

00:15:17.680 --> 00:15:20.340
모든 요소가 조화를 이루어 에이전트를 철저히 통제합니다.

00:15:20.600 --> 00:15:24.060
마이크로소프트는 파운드리 내에 내장된 콘텐츠 안전 기능과 평가 도구를 제공합니다.

00:15:24.260 --> 00:15:26.940
에이전트를 배포하기 전에 1년의 기준에 따라 테스트할 수 있습니다.

00:15:27.180 --> 00:15:28.420
주제에서 벗어나지 않나요?

00:15:28.420 --> 00:15:30.420
민감한 데이터를 적절하게 처리하나요?

00:15:30.580 --> 00:15:32.460
수행에서는 안 될 요청을 거부하나요?

00:15:32.640 --> 00:15:37.220
팀의 에이전트를 공개하기 전에 이러한 평가를 자동으로 실행하고 점수를 얻을 수 있습니다.

00:15:37.460 --> 00:15:40.740
그렇게 하면 문제가 발생한 후가 아니라 사전에 문제를 포착할 수 있습니다.

00:15:40.980 --> 00:15:45.140
이것이 단순한 프롬프트에서 프로덕션급의 안전한 자율 에이전트까지의 전체 모습입니다.

00:15:45.360 --> 00:15:51.420
모델은 사고를 담당하고 하네스는 조점, 가드레일, 거버넌스 등 신뢰성을 만드는 나머지 모든 일을 담당합니다.

00:15:51.620 --> 00:15:53.300
그럼 변화 과정을 요약해보겠습니다.

00:15:53.700 --> 00:15:55.300
우리는 원샷 프롬프팅으로 시작했습니다.

00:15:55.300 --> 00:15:57.380
프롬프트를 작성하고 답변을 얻는 방식입니다.

00:15:57.380 --> 00:15:59.040
단순한 작업에는 효과적이었습니다.

00:15:59.160 --> 00:16:01.060
그 다음에는 컨텍스트 엔지니어링으로 넘어갔습니다.

00:16:01.200 --> 00:16:03.700
모델이 보는 것을 관리하고 적절한 정보를 적시에 로드합니다.

00:16:03.880 --> 00:16:05.840
더 복잡한 작업에는 이것이 효과적이었습니다.

00:16:06.000 --> 00:16:08.280
그리고 이제 우리는 완전한 하네스 엔지니어링 단계에 도달했습니다.

00:16:08.540 --> 00:16:12.540
메모리, 도구, 조점, 가드레일, 거버넌스를 갖춘 완전한 시스템을 모델 주위에 구축하십시오.

00:16:12.640 --> 00:16:13.660
핵심은 다음과 같습니다.

00:16:14.000 --> 00:16:16.640
에이전트의 신뢰성은 그 시스템의 견고함에 달려있습니다.

00:16:16.820 --> 00:16:20.300
물론 모델도 중요하지만 프로덕션의 성공 여부는 하네스에 달려있습니다.

00:16:20.300 --> 00:16:24.780
세계 최고의 모델이 있더라도 좋은 하네스가 없으면 실제 작업에서 실패할 것입니다.

00:16:24.940 --> 00:16:29.560
반면 괜찮은 모델이라도 뛰어난 하네스가 있다면 매번 기대 이상의 성과를 낼 것입니다.

00:16:29.760 --> 00:16:31.240
이제 여러분의 도전 과제입니다.

00:16:31.460 --> 00:16:34.480
다음 AI 프로젝트에서는 프롬프트를 넘어 그 이상을 생각하십시오.

00:16:34.620 --> 00:16:38.400
모델에게 무엇을 말할지 묻지 말고 모델 주변에 어떤 시스템을 구축해야 할지 자문해보세요.

00:16:38.640 --> 00:16:41.660
이러한 사고의 전환이 데모와 실제 프로덕션 시스템을 구분짓는 요소입니다.

00:16:41.860 --> 00:16:45.100
다음 에피소드에서는 시스템의 한 구성 요소인 메모리에 대해 더 깊이 다뤄보겠습니다.

00:16:45.100 --> 00:16:50.360
에이전트가 시간이 지나며 어떻게 학습하고 수행한 일을 어떻게 기억하며 그것이 성과를 어떻게 변화시키는지 알아봅니다.

00:16:50.520 --> 00:16:51.940
놓치지 않으려면 구독하세요.
