WEBVTT

00:00:00.000 --> 00:00:03.960
오늘의 주제는 거의 모든 사람이 들어봤지만, 누구도 쉽게 설명하기 어려운 내용입니다.

00:00:04.100 --> 00:00:07.060
바로 RAG, 검색 증강 생성, 리트리블 아규먼티드 제너레이션, 입니다.

00:00:07.220 --> 00:00:11.800
마이크로소프트 발표나 AI 컨퍼런스, 블로그 게시물 등 어디서나의 약어를 보셨을 텐데, 정확히 무슨 뜻일까요?

00:00:11.960 --> 00:00:13.880
더 중요한 건, 왜 이 개념이 중요할까요?

00:00:14.020 --> 00:00:14.960
핵심은 이렇습니다.

00:00:15.200 --> 00:00:17.780
GPT-4O 같은 거대 언어 모델은 매우 강력합니다.

00:00:18.020 --> 00:00:22.220
에세이를 쓰고, 문서를 요약하며, 코드를 생성할 수도 있지만, 두 가지 큰 문제가 있습니다.

00:00:22.500 --> 00:00:24.760
첫째, 지식이 특정 시점에 멈춰있다는 것입니다.

00:00:24.760 --> 00:00:27.760
채 GPT에게 어제 일어난 일을 물어보면 전혀 알지 못합니다.

00:00:27.880 --> 00:00:32.840
둘째, 이런 모델은 기업 내부 데이터, 정책, 제품 상세 정보, 고객 이메일을 본 적이 없습니다.

00:00:33.080 --> 00:00:36.080
그래서 LLM에게 비즈니스 관련 질문을 하면 추측해서 답하는 것입니다.

00:00:36.280 --> 00:00:38.640
여기서 바로 검색 증강 생성, RAG, 이 등장합니다.

00:00:38.840 --> 00:00:41.600
RAG는 새로운 모델이 아니면, 더 크거나 개선된 GPT도 아닙니다.

00:00:41.760 --> 00:00:43.240
완전히 다른 접근 방식입니다.

00:00:43.500 --> 00:00:46.300
LLM에게 학습된 기억에서 답을 찾으라고 하는 대신,

00:00:46.800 --> 00:00:51.780
RAG는 먼저 여러분의 데이터에서 올바른 정보를 찾아 질문과 함께 모델에게 전달합니다.

00:00:51.780 --> 00:00:57.200
그러면 모델은 그 맥락을 사용해 추측이 아닌, 실제 최신 콘텐츠에 기반한 답변을 제공합니다.

00:00:57.420 --> 00:01:00.840
RAG가 없으면 AI는 수개월 또는 수년 전 기억을 바탕으로 작동합니다.

00:01:01.000 --> 00:01:04.020
RAG가 있으면 지금 바로 여러분의 실제 문서를 바탕으로 작동합니다.

00:01:04.200 --> 00:01:09.200
그것이 자신감 있게 말하지만 틀릴 수도 있는 AI와 답변의 출처를 정확히 보여주는 AI 위 차이입니다.

00:01:09.380 --> 00:01:10.780
오늘 다룰 내용은 다음과 같습니다.

00:01:11.120 --> 00:01:13.700
먼저 RAG가 필요한 두 가지 문제를 살펴보겠습니다.

00:01:14.080 --> 00:01:17.760
그런 다음 RAG 위 본질인 검색, 증강, 생성에 대해 분석하겠습니다.

00:01:17.760 --> 00:01:23.200
다음으로 주요 에이저 서비스인 에이저 AI 서치, 에이저 오픈아이, 에이저 AI 파운드리를 살펴보겠습니다.

00:01:23.500 --> 00:01:26.540
마지막으로 실제 사례를 통해 요소들이 어떻게 결합하는지 확인하겠습니다.

00:01:26.860 --> 00:01:28.400
문제 자체부터 시작해봅시다.

00:01:28.580 --> 00:01:30.860
문제를 이해하면 해결책은 자연스럽게 알게 됩니다.

00:01:31.080 --> 00:01:32.640
LLM 이 가진 두 가지 문제점이죠.

00:01:32.860 --> 00:01:34.900
그렇다면 거대 언어모델의 문제점은 무엇일까요?

00:01:35.060 --> 00:01:36.020
사실 두 가지입니다.

00:01:36.260 --> 00:01:38.220
첫째, 지식이 고정되어 있다는 것입니다.

00:01:38.580 --> 00:01:39.180
생각해보세요.

00:01:39.440 --> 00:01:46.800
GPT-45는 이미 몇 달 또는 몇 년 지난 인터넷 스냅샷으로 학습되었기 때문에 새로운 제품, 최근 규정, 어제의 뉴스는 알지 못합니다.

00:01:46.800 --> 00:01:49.980
지난주 정책 변경에 대해 물어보면 알 방법이 없습니다.

00:01:50.300 --> 00:01:53.380
그 정보는 학습 데이터에 단순히 포함되어 있지 않으니까요.

00:01:53.500 --> 00:01:59.320
둘째, LLM은 여러분의 개인 데이터, 내부 문서, 고객 이메일, 독점 데이터베이스를 본 적이 없습니다.

00:01:59.620 --> 00:02:01.980
모델은 그 어떤 데이터에도 전혀 접근할 수 없습니다.

00:02:02.260 --> 00:02:05.460
직원이 귀사의 특정 업무 프로세스에 대해 질문하면 모델은 답변할 수 없습니다.

00:02:05.700 --> 00:02:07.480
모델은 당신이 아는 것을 알지 못하기 때문입니다.

00:02:07.660 --> 00:02:09.440
어떤 이들은 파인튜닝이 이를 해결한다고 생각합니다.

00:02:09.620 --> 00:02:11.860
기본 모델을 가져와서 자체 데이터로 조금 더 학습시키는 것이죠.

00:02:12.020 --> 00:02:13.700
하지만 파인튜닝에는 고요한 문제들이 있습니다.

00:02:13.700 --> 00:02:14.800
비용이 많이 듭니다.

00:02:14.960 --> 00:02:17.400
gpu 사용 시간과 엔지니어링 노력을 위해 비용을 지불해야 하니까요.

00:02:17.500 --> 00:02:19.240
데이터 노후화 문제도 해결하지 못합니다.

00:02:19.440 --> 00:02:22.240
파인튜닝을 마쳐도 모델은 그 시점에 고정되어 버립니다.

00:02:22.540 --> 00:02:25.880
재고 수준이나 가격처럼 자주 변하는 데이터는 다룰 수 없죠.

00:02:26.020 --> 00:02:29.040
파인튜닝은 누군가에게 교과서를 통째로 외우게 하는 것과 같습니다.

00:02:29.340 --> 00:02:32.020
유용하긴 하지만 여전히 오늘 자신문은 찾아볼 수 없죠.

00:02:32.220 --> 00:02:33.920
진정한 해결책은 더 간단합니다.

00:02:34.180 --> 00:02:35.820
모든 것을 기억시키려 애쓰는 대신,

00:02:36.260 --> 00:02:39.080
답변이 필요할 때 모델이 귀사의 지식에 접근하게 하세요.

00:02:39.280 --> 00:02:40.800
모든 것을 암기하게 하지 마세요.

00:02:40.800 --> 00:02:43.140
실시간으로 귀사의 실제 데이터를 찾아보게 하세요.

00:02:43.300 --> 00:02:44.720
그것이 바로 아레이지가 하는 일입니다.

00:02:44.880 --> 00:02:46.700
간단한 아이디어지만 모든 것을 바꿉니다.

00:02:46.840 --> 00:02:48.260
아레이지 위 실체는 무엇일까요?

00:02:48.460 --> 00:02:50.680
자, 아레이지를 한 문장으로 정의하면 이렇습니다.

00:02:50.880 --> 00:02:53.580
모델에게 학습 데이터에서 답변을 찾으라고 하는 대신,

00:02:54.020 --> 00:02:57.580
먼저 관련 정보를 찾은 뒤 질문과 함께 모델에게 전달하는 것입니다.

00:02:57.820 --> 00:02:59.060
그것이 핵심 개념입니다.

00:02:59.260 --> 00:03:01.780
검색, 리트리브, 보강, 아규먼트, 생성, 제너레이트

00:03:01.780 --> 00:03:02.940
이라는 세 가지 간단한 단계죠.

00:03:03.080 --> 00:03:04.220
비유를 하나 들어보겠습니다.

00:03:04.620 --> 00:03:05.720
사서를 생각해보세요.

00:03:05.960 --> 00:03:07.620
도서관에 들어가서 질문을 합니다.

00:03:07.620 --> 00:03:10.460
사서가 모든 책을 외우고 있을 거라고 기대하진 않겠죠.

00:03:10.640 --> 00:03:12.100
그건 말도 안 되는 일이니까요.

00:03:12.220 --> 00:03:14.300
대신 적절한 책을 찾아서 필요한 페이지를 펼치고

00:03:14.300 --> 00:03:15.660
답변을 읽어달라고 요청할 겁니다.

00:03:15.880 --> 00:03:17.440
사서는 아무것도 외우지 않습니다.

00:03:17.680 --> 00:03:19.440
먼저 찾고, 그 다음에 읽는 것이죠.

00:03:19.640 --> 00:03:21.240
아레이지도 정확히 그렇게 작동합니다.

00:03:21.420 --> 00:03:23.200
검색이 먼저이고, 생성이 그 다음입니다.

00:03:23.400 --> 00:03:25.180
실제로는 어떻게 작동하는지 보여드리겠습니다.

00:03:25.500 --> 00:03:26.700
사용자가 질문을 합니다.

00:03:26.940 --> 00:03:30.960
그러면 시스템이 지식 베이스, 문서, 데이터, 비공개 정보를 검색합니다.

00:03:31.180 --> 00:03:33.100
찾아낸 정보는 거대 언어 모델에 전달되고,

00:03:33.440 --> 00:03:35.440
모델은 그 문맥을 바탕으로 답변을 생성합니다.

00:03:35.440 --> 00:03:36.960
여기서 중요한 부분이 있습니다.

00:03:36.960 --> 00:03:39.100
LLM은 귀사의 원본 데이터를 직접 보지 않습니다.

00:03:39.260 --> 00:03:40.920
검색 시스템이 건네주는 정보만 봅니다.

00:03:41.140 --> 00:03:42.240
이것은 단점이 아닙니다.

00:03:42.440 --> 00:03:43.520
오히려 보안 기능이죠.

00:03:43.760 --> 00:03:46.320
민감한 문서는 귀사의 저장소에 안전하게 유지됩니다.

00:03:46.560 --> 00:03:49.620
질문 시점에 모델은 답변에 필요한 관련 정보 조각만 받습니다.

00:03:49.920 --> 00:03:52.640
데이터로 학습하거나 암기하거나 유출될 염려가 없죠.

00:03:52.800 --> 00:03:54.640
귀사의 데이터는 원래 있던 자리에 그대로 남습니다.

00:03:54.860 --> 00:03:57.040
결국 아레이지는 우리가 앞서 언급한 두 가지 문제를 모두 해결합니다.

00:03:57.200 --> 00:03:58.240
데이터가 오래되었나요?

00:03:58.380 --> 00:03:58.940
문제 없습니다.

00:03:59.280 --> 00:04:01.100
지식 베이스는 항상 최신 상태를 유지하니까요.

00:04:01.100 --> 00:04:02.060
개인 데이터는요.

00:04:02.220 --> 00:04:04.440
모델은 여러분이 검색하기로 선택한 것만 볼 수 있습니다.

00:04:04.640 --> 00:04:06.820
마치 사서에게 파일 캐비닛에 접근할 권한을 주되

00:04:06.820 --> 00:04:09.820
필요한 순간에 딱 필요한 폴더 하나만 꺼내 도록하는 것과 같습니다.

00:04:10.100 --> 00:04:11.940
벡터 임베딩과 의미체계 검색.

00:04:12.060 --> 00:04:14.480
이제 이 검색이 실제로 어떻게 작동하는지 궁금하실 겁니다.

00:04:14.720 --> 00:04:16.300
단순히 키워드를 일치시키거나 문서 전체에서

00:04:16.300 --> 00:04:18.000
컨트롤 플러스 F를 실행하는 방식이 아닙니다.

00:04:18.140 --> 00:04:19.420
훨씬 더 똑똑한 방식이죠.

00:04:19.600 --> 00:04:21.280
이를 의미체계 검색, 시멘틱 서치 이라 하며

00:04:21.280 --> 00:04:22.560
벡터 임베딩을 기반으로 작동합니다.

00:04:22.700 --> 00:04:24.340
임베딩이 무엇인지 설명해드리겠습니다.

00:04:24.340 --> 00:04:28.780
벡터 임베딩은 지도의 자표처럼 텍스트의 의미를 포착하는 긴 숫자 목록입니다.

00:04:28.960 --> 00:04:31.980
모든 문서는 의미 지도상이 고유한 자표를 갖게 됩니다.

00:04:32.240 --> 00:04:35.060
질문을 입력하면 시스템은 질문도 자표로 변환한 다음

00:04:35.060 --> 00:04:37.360
가장 가까운 위치에 있는 문서를 찾습니다.

00:04:37.620 --> 00:04:38.940
여기서 핵심은 의미입니다.

00:04:39.180 --> 00:04:42.440
정확한 단어를 찾는 것이 아니라 개념을 이해하는 것이 중요합니다.

00:04:42.640 --> 00:04:46.100
저렴한 호텔을 검색하면 시스템은 그 정확한 단어가 나타나지 않더라도

00:04:46.100 --> 00:04:48.700
합리적인 가격의 숙소에 관한 문서를 찾을 수 있습니다.

00:04:48.960 --> 00:04:49.640
왜 그럴까요?

00:04:49.860 --> 00:04:51.280
의미가 비슷하기 때문입니다.

00:04:51.280 --> 00:04:55.440
저렴한과 합리적인 이라는 단어의 임베딩은 지도상에서 서로 바로 옆에 위치합니다.

00:04:55.640 --> 00:04:59.720
에이저 위 텍스트의 임베딩 삼라지와 같은 특수한 소형 모델이 이러한 임베딩을 생성합니다.

00:04:59.900 --> 00:05:03.680
거대 언어 모델이 아니기 때문에 한 가지 작업에 집중하는 특화된 도구입니다.

00:05:03.880 --> 00:05:05.900
텍스트를 자표 숫자로 변환하는 일이죠.

00:05:06.120 --> 00:05:08.160
이것이 RAG를 강력하게 만드는 이유입니다.

00:05:08.360 --> 00:05:11.100
문서는 인덱싱 과정에서 한 번 임베딩으로 변환됩니다.

00:05:11.300 --> 00:05:15.280
그 후 커리가 들어오면 시스템은 사용자가 입력한 정확한 단어가 문서에 없더라도

00:05:15.280 --> 00:05:18.260
밀리초 단위로 가장 관련성 높은 콘텐츠를 찾아냅니다.

00:05:18.260 --> 00:05:21.460
단순히 입력한 키워드가 아닌 위도를 파악하는 것입니다.

00:05:21.680 --> 00:05:23.920
에이저 AI 서치, 검색 엔진.

00:05:24.160 --> 00:05:25.580
이제 개념을 이해하셨을 겁니다.

00:05:25.900 --> 00:05:27.660
먼저 검색하고 그 다음에 생성합니다.

00:05:27.880 --> 00:05:29.900
하지만 그 모든 검색은 실제로 어디서 일어날까요?

00:05:30.100 --> 00:05:32.060
거기서 에이저 AI 서치가 역할을 합니다.

00:05:32.300 --> 00:05:35.920
에이저 AI 서치는 콘텐츠를 저장, 인덱싱, 검색하는 서비스입니다.

00:05:36.160 --> 00:05:39.020
여러분의 RAG 애플리케이션을 위한 파일 시스템이라고 생각하면 됩니다.

00:05:39.280 --> 00:05:41.520
두 가지의 주요 작업을 처리하는데 하나씩 살펴보겠습니다.

00:05:41.880 --> 00:05:43.060
첫째, 인덱싱입니다.

00:05:43.260 --> 00:05:45.080
데이터를 검색 가능한 상태로 만드는 과정입니다.

00:05:45.260 --> 00:05:46.380
둘째, 검색입니다.

00:05:46.380 --> 00:05:49.480
누군가 질문했을 때 실제로 올바른 콘텐츠를 찾아내는 과정입니다.

00:05:49.640 --> 00:05:51.200
인덱싱 과정부터 살펴보겠습니다.

00:05:51.640 --> 00:05:54.580
에이저 AI 서치를 데이터 소스에 연결하는 것으로 시작합니다.

00:05:54.800 --> 00:05:57.420
데이터 소스는 PDF로 가득 찬 블랍 저장소 컨테이너,

00:05:57.820 --> 00:06:01.260
고객 기록이 있는 SQL 데이터베이스, 또는 다른 여러 소스가 될 수 있습니다.

00:06:01.480 --> 00:06:05.040
서비스는 문서를 읽고, 청크라는 더 작은 조각으로 나눈 뒤,

00:06:05.460 --> 00:06:07.300
앞서 언급한 인베딩 모델을 사용하여,

00:06:07.380 --> 00:06:09.440
각 청크에 대한 벡터 인베딩을 생성하고,

00:06:09.640 --> 00:06:11.440
모든 것을 검색 인덱스에 저장합니다.

00:06:11.700 --> 00:06:15.120
인덱스를 거대하고 체계적으로 정리된 카탈로그라고 생각하세요.

00:06:15.120 --> 00:06:20.480
모든 콘텐츠에는 고유 아이디, 텍스트 청크, 그리고 의미 지도 상위 자표가 부여됩니다.

00:06:20.660 --> 00:06:22.200
이제 검색 과정을 살펴보겠습니다.

00:06:22.680 --> 00:06:23.700
사용자가 질문하면,

00:06:24.060 --> 00:06:27.820
AI 서치는 동일한 인베딩 모델을 사용해 질문을 벡터로 변환한 뒤,

00:06:28.300 --> 00:06:32.020
인덱스를 스캔하여 질문 자표와 가장 가까운 자표의 청크를 찾습니다.

00:06:32.280 --> 00:06:35.140
가장 관련성이 높은 5에서 10개의 상위 결과를 반환하며,

00:06:35.520 --> 00:06:37.500
이 모든 과정은 밀리초 단위로 이루어집니다.

00:06:37.700 --> 00:06:39.840
여기서 몇 가지 강력한 옵션을 선택할 수 있습니다.

00:06:40.080 --> 00:06:42.280
순수 벡터 검색은 의미를 기반으로 콘텐츠를 찾음으로,

00:06:42.280 --> 00:06:44.860
정확한 단어가 일치하지 않아도 유사한 개념이 나타납니다.

00:06:45.020 --> 00:06:48.880
키워드 검색은 기존 검색 엔진처럼 작동하여 정확한 단어가 일치하는 결과를 찾습니다.

00:06:49.060 --> 00:06:51.640
또는 두 가지 방식을 결합한 하이브리드 검색을 사용할 수 있는데,

00:06:52.080 --> 00:06:53.500
보통 이것이 가장 좋은 선택입니다.

00:06:53.660 --> 00:06:56.080
시멘틱 리랭킹, 시멘틱 내란킹 이라는 기능도 있는데,

00:06:56.460 --> 00:06:59.760
이는 초기 결과를 가져와 질문에 대한 답변 정확도를 기준으로 결과를 다시 정렬합니다.

00:06:59.920 --> 00:07:03.200
첫 번째 단계에서 놓쳤을 지도 모르는 부분을 잡아내는 두 번째 검토 과정과 같습니다.

00:07:03.500 --> 00:07:06.780
한 가지 알아두어야 할 점은 에이저 AI 서치가 비용이 많이 들 수 있다는 것입니다.

00:07:06.780 --> 00:07:10.440
기본 티어는 월 75달러 정도부터 시작하며 그 이상으로 올라갑니다.

00:07:10.600 --> 00:07:14.840
단순 실험 중에 라면 무료 티어를 사용하거나 작업부 리소스를 반드시 삭제하세요.

00:07:15.040 --> 00:07:18.360
하지만 프로덕션 환경에서 사용한다면 비용을 지불할 가치가 충분합니다.

00:07:18.540 --> 00:07:21.260
규모에 맞는 속도와 신뢰성을 구매하는 셈이니까요.

00:07:21.460 --> 00:07:25.520
에이저 오픈아이와 AI 파운드리, 생성 및 오케스트레이션 단계입니다.

00:07:25.740 --> 00:07:28.140
이제 데이터가 인덱싱 되어 검색 준비는 되었지만,

00:07:28.660 --> 00:07:31.440
LLM 이 질문을 이해하고 확실한 답변을 생성해야 합니다.

00:07:31.700 --> 00:07:34.840
여기서 에이저 오픈아이와 에이저 AI 파운드리 가 필요합니다.

00:07:34.840 --> 00:07:40.760
에이저 오픈아이는 gpt-45, gpt-4.1 등 선택한 실제 언어 모델을 제공합니다.

00:07:40.960 --> 00:07:42.520
이것이 바로 생성 엔진입니다.

00:07:42.760 --> 00:07:48.240
모델은 사용자의 원래 질문과 에이저 AI 서치가 검색한 컨텍스트가 포함된 프롬프트를 받습니다.

00:07:48.520 --> 00:07:52.300
모델은 그 컨텍스트를 읽고 발견한 내용을 바탕으로 답변을 생성합니다.

00:07:52.540 --> 00:07:55.400
그렇다고 모든 정보를 그냥 넣고 잘 되길 바랄 수는 없습니다.

00:07:55.740 --> 00:07:59.960
모델이 어떻게 행동해야 하는지 미리 알려주는 일련의 지침인 시스템 프롬프트가 필요합니다.

00:07:59.960 --> 00:08:05.660
제공된 컨텍스트만 사용하고 출처를 밝히며 가장 중요하게는 모르겠습니다 라고 말하도록 지시합니다.

00:08:05.800 --> 00:08:08.360
관련 정보가 검색된 문서에 없을 경우 말이죠.

00:08:08.620 --> 00:08:10.680
그것이 모델을 정직하게 유지하는 방법입니다.

00:08:10.900 --> 00:08:15.180
적절한 시스템 프롬프트가 없으면 모델은 학습 데이터에 위존하거나 더 나쁘게는 없는 내용을 지어낼 수도 있습니다.

00:08:15.380 --> 00:08:17.620
그렇다면 이 모든 요소를 실제로 어떻게 연결할까요?

00:08:17.780 --> 00:08:20.000
그 역할을 바로 에이저 AI 파운드리가 수행합니다.

00:08:20.200 --> 00:08:24.500
이곳은 프로젝트를 생성하고 모델을 배포하며 데이터 소스를 연결하고 에이전트를 테스트하는 포털입니다.

00:08:24.500 --> 00:08:27.380
전체 RAG 설정을 위한 관제센터라고 생각하면 됩니다.

00:08:27.600 --> 00:08:33.340
파운드리 내에서는 별도의 코드를 작성하지 않고도 에이저 AI 검색 인덱스를 에이전트의 지식 소스로 추가할 수 있습니다.

00:08:33.560 --> 00:08:37.800
연결을 생성하고 인덱스를 선택하기만 하면 에이전트가 자동으로 커리를 시작합니다.

00:08:37.980 --> 00:08:40.200
포터리 오케스트레이션을 처리하기 때문이죠.

00:08:40.440 --> 00:08:44.680
사용자가 질문하면 에이전트는 AI 검색을 호출하여 관련 청크를 가져오고

00:08:44.680 --> 00:08:47.360
원래 질문과 함께 LLM에 전달하는 방법을 알고 있습니다.

00:08:47.600 --> 00:08:48.860
구체적인 예를 들어보겠습니다.

00:08:49.320 --> 00:08:53.840
어떤 튜토리얼에서 넷플릭스 데이터셋을 사용하여 영화 추천 에이전트를 만든 사례를 본 적이 있습니다.

00:08:53.840 --> 00:09:01.160
그들은 영화 제목, 설명, 출현진 정보가 담긴 csv 파일을 에이저 블랍 스토리지에 업로드하고 에이저 AI 검색으로 인덱싱했습니다.

00:09:01.360 --> 00:09:06.680
에이저 AI 파운드리에서 gpt-45를 사용하는 에이전트를 만들고 AI 검색 인덱스를 연결했죠.

00:09:06.820 --> 00:09:14.660
사용자가 스릴러 영화를 좋아하는데 추천 좀 해줘 라고 물었을 때 에이전트는 인덱스를 검색해 해당 데이터셋에서 스릴러 영화를 찾아 추천 결과를 반환했습니다.

00:09:14.940 --> 00:09:18.160
여기서 핵심은 데이터셋에 실제로 포함된 영화만 추천했다는 점입니다.

00:09:18.380 --> 00:09:22.740
없는 내용을 지어내거나 학습 데이터에서 가져오지 않고 오직 제공된 콘텐츠만을 기반으로 작동했습니다.

00:09:22.740 --> 00:09:24.540
그것이 바로 RAG 위 힘입니다.

00:09:24.720 --> 00:09:26.520
클래식 RAG 대 에이전트형 RAG.

00:09:26.680 --> 00:09:28.260
이제 설정 방법에 대해 이야기해보죠.

00:09:28.400 --> 00:09:30.740
클래식 RAG와 에이전트형 RAG 두 가지 주요 패턴이 있습니다.

00:09:30.980 --> 00:09:33.000
어떤 것을 선택할지는 무엇을 만들고 있느냐에 따라 달라집니다.

00:09:33.140 --> 00:09:35.100
클래식 RAG는 직관적인 접근 방식입니다.

00:09:35.280 --> 00:09:38.080
커리가 입력되고 검색이 한 번 실행된 후 답변이 나옵니다.

00:09:38.260 --> 00:09:39.900
간단하고 빠르며 예측 가능하죠.

00:09:40.140 --> 00:09:43.620
사무실 안내 데스크에 가서 특정 서류 하나를 요청하는 상황과 비슷합니다.

00:09:43.920 --> 00:09:46.420
접수원이 서류를 찾아 건네주면 끝나는 것과 같죠.

00:09:46.580 --> 00:09:49.200
클래식 RAG는 재택근무에 관한 회사 규정이 뭐야.

00:09:49.200 --> 00:09:51.860
같은 단일 주제의 사실적 Q&A에 아주 효과적입니다.

00:09:52.040 --> 00:09:54.260
혹은 이 오류 코드에 대한 문제 해결 단계를 알려줘.

00:09:54.380 --> 00:09:55.620
같은 경우도 마찬가지죠.

00:09:55.780 --> 00:09:59.700
흐름이 선형적이라 신뢰할 수 있고 저렴하며 문제가 발생했을 때 수정하기도 쉽습니다.

00:09:59.900 --> 00:10:01.380
에이전트형 RAG는 다릅니다.

00:10:01.660 --> 00:10:04.480
AI 에이전트가 정보를 검색할 방법을 스스로 결정하죠.

00:10:04.680 --> 00:10:08.700
여러 하위 질문을 던지고 다양한 인덱스를 검색하며 결과를 반복 확인하고

00:10:08.700 --> 00:10:10.620
여러 소스를 종합한 뒤 답변합니다.

00:10:10.800 --> 00:10:14.640
건물 관리자가 각 부서와 협력하여 필요한 모든 정보를 수집하는 것과 비슷합니다.

00:10:14.640 --> 00:10:16.820
단순히 서류 하나만 가져오는 게 아닙니다.

00:10:16.980 --> 00:10:21.460
인사팀과 이야기하고 기록을 확인하고 규정을 대조하여 완전한 답변을 가지고 돌아오는 것이죠.

00:10:21.640 --> 00:10:26.760
마이크로소프트는 자체 테스트를 통해 에이전트형 RAG가 복잡한 질문에 대한 답변 관련성을 약 40% 개선한다는 사실을 확인했습니다.

00:10:26.980 --> 00:10:30.720
이는 상당한 수치지만 3배에서 10배 더 많은 토큰을 사용하며 지연 시간이 추가됩니다.

00:10:30.920 --> 00:10:33.060
단순한 질문에는 그러한 추가 작업이 낭비입니다.

00:10:33.260 --> 00:10:35.180
기존 방식의 RAG로도 충분히 처리할 수 있습니다.

00:10:35.400 --> 00:10:37.040
그렇다면 각각은 언제 사용해야 할까요?

00:10:37.200 --> 00:10:40.400
속도와 비용이 가장 중요한 일상적이고 대량의 쿼리에는 기존 RAG를 사용하세요.

00:10:40.400 --> 00:10:45.360
정확도가 추가적인 연산 비용을 상쇄하는 바단계, 모호하거나 도메인을 넘나드는 질문에는 에이전트형 RAG를 사용하세요.

00:10:45.500 --> 00:10:47.640
연결 섹션, 엔드투엔드 예제입니다.

00:10:47.860 --> 00:10:50.780
이 모든 요소가 실제 예제에서 어떻게 결합되는지 살펴보겠습니다.

00:10:51.120 --> 00:10:55.880
메리골드 트래블즈, 마리골드 트래블즈 라는 여행사를 위한 고객 지원 에이전트를 구축한다고 가정해봅시다.

00:10:56.040 --> 00:11:00.420
조직 곳곳에 흩어진 여행 브로쉬워, 호텔 리뷰, 정책 문서들이 있습니다.

00:11:00.740 --> 00:11:05.980
고객이 질문했을 때 일반적인 추측이 아닌 실제 콘텐츠를 기반으로 정확한 답변을 얻길 원하실 겁니다.

00:11:05.980 --> 00:11:09.800
첫 번째 단계는 모든 콘텐츠를 에이저 블랍 스토리지에 저장하는 것입니다.

00:11:10.000 --> 00:11:14.840
브로쉬워는 한 폴더에, 리뷰는 다른 폴더에, 정책은 또 다른 폴더에 넣고 컨테이너 안에 파일을 정리하세요.

00:11:15.020 --> 00:11:18.160
두 번째 단계는 에이저 AI 서치를 사용하여 데이터를 인덱싱하는 것인데,

00:11:18.580 --> 00:11:22.420
데이터 가져오기 마법사를 실행하고 블랍 스토리지를 지정한 후 작업이 완료되길 기다리면 됩니다.

00:11:22.660 --> 00:11:28.000
서비스가 모든 문서를 읽고, 조각으로 나누고, 벡터 인베딩을 생성하여 검색 가능한 인덱스를 구축합니다.

00:11:28.260 --> 00:11:30.020
전체 과정은 몇 분이면 완료됩니다.

00:11:30.020 --> 00:11:33.820
세 번째 단계는 에이저 AI 파운드리로 이동하여 에이전트를 생성하는 것입니다.

00:11:34.000 --> 00:11:39.720
gpt-45를 모델로 배포하고, 제공된 컨텍스트만 사용하고, 출처를 표기하라는 시스템 프롬프트를 작성한 다음,

00:11:40.260 --> 00:11:42.660
에이저 AI 서치 인덱스를 지식 소스로 연결하세요.

00:11:42.860 --> 00:11:44.240
몇 번이 클릭만으로 끝납니다.

00:11:44.500 --> 00:11:48.760
이제 고객이, 두바이에서 300달러 미만인 호텔 중 가장 평점이 좋은 곳은 어디인가요? 라고 묻습니다.

00:11:49.020 --> 00:11:51.840
에이전트는 해당 질문을 받아 에이저 AI 서치로 보냅니다.

00:11:52.100 --> 00:11:56.720
에이저 AI 서치는 질문을 벡터로 변환하여 리뷰와 브로쉬워에서 가장 관련성 높은 조각을 찾아 냅니다.

00:11:56.720 --> 00:12:00.160
이 조각들은 원래 질문과 함께 gpt-45로 전달됩니다.

00:12:00.340 --> 00:12:02.520
모델은 이를 읽고 최적의 일치 항목을 확인한 다음,

00:12:02.860 --> 00:12:05.380
원본 문서를 가리키는 인용문과 함께 응답을 생성합니다.

00:12:05.580 --> 00:12:08.400
중요한 점은 LLM 이 해당 데이터를 암기하지 않았다는 것입니다.

00:12:08.620 --> 00:12:10.360
여러분의 호텔 리뷰로 학습한 적이 없습니다.

00:12:10.680 --> 00:12:13.020
모델은 매번 여러분의 특정 콘텐츠를 기반으로 작동합니다.

00:12:13.220 --> 00:12:15.580
내일 새로운 리뷰를 추가하면 답변도 자동으로 업데이트됩니다.

00:12:15.780 --> 00:12:18.120
오래된 브로쉬워를 삭제하면 더 이상 검색 결과에 나타나지 않습니다.

00:12:18.300 --> 00:12:19.560
모델은 재학습이 필요 없습니다.

00:12:19.880 --> 00:12:21.480
단지 올바른 검색계층만 있으면 됩니다.

00:12:21.480 --> 00:12:24.220
그렇다면 에이저에서 아레이지 구축을 시작하려면 어떻게 해야 할까요?

00:12:24.340 --> 00:12:25.700
세 가지 단계로 나누어 보겠습니다.

00:12:26.000 --> 00:12:28.120
무엇보다 먼저 자신의 데이터를 파악하세요.

00:12:28.340 --> 00:12:30.180
서비스를 선택하기 전에 콘텐츠가 어디에 있고,

00:12:30.540 --> 00:12:33.240
어떻게 구성되어 있으며, 누가 액세스해야 하는지 먼저 파악하세요.

00:12:33.440 --> 00:12:35.480
아레이지 위 성패는 데이터의 품질에 달려 있습니다.

00:12:35.780 --> 00:12:37.320
다음으로 단순하게 유지하세요.

00:12:37.520 --> 00:12:39.200
설정을 너무 복잡하게 만들지 마세요.

00:12:39.380 --> 00:12:42.940
에이저 AI 서치 위 데이터 가져오기 마법사를 사용하여 문서 한 세트만 인덱싱 해보세요.

00:12:43.180 --> 00:12:44.440
기본 쿼리로 테스트하세요.

00:12:44.660 --> 00:12:47.860
LLM을 추가하기 전에 검색 기능이 완벽하게 작동하는지 확인하세요.

00:12:47.860 --> 00:12:50.380
대부분의 아레이지 실패는 모델 문제가 아닙니다.

00:12:50.540 --> 00:12:51.840
검색 단계의 문제입니다.

00:12:52.100 --> 00:12:53.780
마지막 단계로 LLM을 추가합니다.

00:12:54.000 --> 00:12:56.900
검색 결과가 제대로 나오기 시작하면 그때 생성 기능을 더하세요.

00:12:57.140 --> 00:13:00.140
그때가 바로 에이저 오픈하이를 연결하고 시스템 프롬프트를 작성할 시점입니다.

00:13:00.340 --> 00:13:02.620
중요한 점은 아레이지는 구매하는 제품이 아니라는 것입니다.

00:13:02.800 --> 00:13:04.520
아레이지는 직접 구축하는 패턴입니다.

00:13:04.720 --> 00:13:09.060
에이저는 스토리지, 검색, 모델, 그리고 이들을 연결하는 접착제 같은 구성 요소를 제공합니다.

00:13:09.280 --> 00:13:11.580
여러분은 그저 올바른 방식으로 조합하기만 하면 됩니다.

00:13:11.860 --> 00:13:13.480
전체적인 그림을 이해하는 데 도움이 되었다면,

00:13:13.860 --> 00:13:15.440
구독을 눌러 더 쉬운 설명을 계속 확인하세요.

00:13:15.440 --> 00:13:17.640
댓글로 여러분의 아레이지 사용 사례를 공유해주세요.

00:13:17.780 --> 00:13:19.520
여러분이 무엇을 만들고 있는지 정말 궁금합니다.
