오늘의 주제는 거의 모든 사람이 들어봤지만, 누구도 쉽게 설명하기 어려운 내용입니다.바로 RAG, 검색 증강 생성, 리트리블 아규먼티드 제너레이션, 입니다.마이크로소프트 발표나 AI 컨퍼런스, 블로그 게시물 등 어디서나의 약어를 보셨을 텐데, 정확히 무슨 뜻일까요?더 중요한 건, 왜 이 개념이 중요할까요?핵심은 이렇습니다. GPT-4O 같은 거대 언어 모델은 매우 강력합니다.에세이를 쓰고, 문서를 요약하며, 코드를 생성할 수도 있지만, 두 가지 큰 문제가 있습니다.첫째, 지식이 특정 시점에 멈춰있다는 것입니다.채 GPT에게 어제 일어난 일을 물어보면 전혀 알지 못합니다.둘째, 이런 모델은 기업 내부 데이터, 정책, 제품 상세 정보, 고객 이메일을 본 적이 없습니다.그래서 LLM에게 비즈니스 관련 질문을 하면 추측해서 답하는 것입니다.여기서 바로 검색 증강 생성, RAG, 이 등장합니다. RAG는 새로운 모델이 아니면, 더 크거나 개선된 GPT도 아닙니다.완전히 다른 접근 방식입니다. LLM에게 학습된 기억에서 답을 찾으라고 하는 대신, RAG는 먼저 여러분의 데이터에서 올바른 정보를 찾아 질문과 함께 모델에게 전달합니다.그러면 모델은 그 맥락을 사용해 추측이 아닌, 실제 최신 콘텐츠에 기반한 답변을 제공합니다. RAG가 없으면 AI는 수개월 또는 수년 전 기억을 바탕으로 작동합니다. RAG가 있으면 지금 바로 여러분의 실제 문서를 바탕으로 작동합니다.그것이 자신감 있게 말하지만 틀릴 수도 있는 AI와 답변의 출처를 정확히 보여주는 AI 위 차이입니다.오늘 다룰 내용은 다음과 같습니다.먼저 RAG가 필요한 두 가지 문제를 살펴보겠습니다.그런 다음 RAG 위 본질인 검색, 증강, 생성에 대해 분석하겠습니다.다음으로 주요 에이저 서비스인 에이저 AI 서치, 에이저 오픈아이, 에이저 AI 파운드리를 살펴보겠습니다. 마지막으로 실제 사례를 통해 요소들이 어떻게 결합하는지 확인하겠습니다.문제 자체부터 시작해봅시다.문제를 이해하면 해결책은 자연스럽게 알게 됩니다. LLM 이 가진 두 가지 문제점이죠.그렇다면 거대 언어모델의 문제점은 무엇일까요?사실 두 가지입니다.첫째, 지식이 고정되어 있다는 것입니다.생각해보세요. GPT-45는 이미 몇 달 또는 몇 년 지난 인터넷 스냅샷으로 학습되었기 때문에 새로운 제품, 최근 규정, 어제의 뉴스는 알지 못합니다.지난주 정책 변경에 대해 물어보면 알 방법이 없습니다.그 정보는 학습 데이터에 단순히 포함되어 있지 않으니까요.둘째, LLM은 여러분의 개인 데이터, 내부 문서, 고객 이메일, 독점 데이터베이스를 본 적이 없습니다.모델은 그 어떤 데이터에도 전혀 접근할 수 없습니다.직원이 귀사의 특정 업무 프로세스에 대해 질문하면 모델은 답변할 수 없습니다.모델은 당신이 아는 것을 알지 못하기 때문입니다.어떤 이들은 파인튜닝이 이를 해결한다고 생각합니다.기본 모델을 가져와서 자체 데이터로 조금 더 학습시키는 것이죠.하지만 파인튜닝에는 고요한 문제들이 있습니다.비용이 많이 듭니다. gpu 사용 시간과 엔지니어링 노력을 위해 비용을 지불해야 하니까요.데이터 노후화 문제도 해결하지 못합니다.파인튜닝을 마쳐도 모델은 그 시점에 고정되어 버립니다.재고 수준이나 가격처럼 자주 변하는 데이터는 다룰 수 없죠.파인튜닝은 누군가에게 교과서를 통째로 외우게 하는 것과 같습니다.유용하긴 하지만 여전히 오늘 자신문은 찾아볼 수 없죠.진정한 해결책은 더 간단합니다.모든 것을 기억시키려 애쓰는 대신,답변이 필요할 때 모델이 귀사의 지식에 접근하게 하세요.모든 것을 암기하게 하지 마세요.실시간으로 귀사의 실제 데이터를 찾아보게 하세요.그것이 바로 아레이지가 하는 일입니다.간단한 아이디어지만 모든 것을 바꿉니다. 아레이지 위 실체는 무엇일까요?자, 아레이지를 한 문장으로 정의하면 이렇습니다.모델에게 학습 데이터에서 답변을 찾으라고 하는 대신,먼저 관련 정보를 찾은 뒤 질문과 함께 모델에게 전달하는 것입니다.그것이 핵심 개념입니다.검색, 리트리브, 보강, 아규먼트, 생성, 제너레이트이라는 세 가지 간단한 단계죠.비유를 하나 들어보겠습니다.사서를 생각해보세요.도서관에 들어가서 질문을 합니다.사서가 모든 책을 외우고 있을 거라고 기대하진 않겠죠.그건 말도 안 되는 일이니까요.대신 적절한 책을 찾아서 필요한 페이지를 펼치고답변을 읽어달라고 요청할 겁니다.사서는 아무것도 외우지 않습니다.먼저 찾고, 그 다음에 읽는 것이죠.아레이지도 정확히 그렇게 작동합니다.검색이 먼저이고, 생성이 그 다음입니다.실제로는 어떻게 작동하는지 보여드리겠습니다.사용자가 질문을 합니다.그러면 시스템이 지식 베이스, 문서, 데이터, 비공개 정보를 검색합니다.찾아낸 정보는 거대 언어 모델에 전달되고,모델은 그 문맥을 바탕으로 답변을 생성합니다.여기서 중요한 부분이 있습니다. LLM은 귀사의 원본 데이터를 직접 보지 않습니다.검색 시스템이 건네주는 정보만 봅니다.이것은 단점이 아닙니다.오히려 보안 기능이죠.민감한 문서는 귀사의 저장소에 안전하게 유지됩니다.질문 시점에 모델은 답변에 필요한 관련 정보 조각만 받습니다.데이터로 학습하거나 암기하거나 유출될 염려가 없죠.귀사의 데이터는 원래 있던 자리에 그대로 남습니다.결국 아레이지는 우리가 앞서 언급한 두 가지 문제를 모두 해결합니다.데이터가 오래되었나요?문제 없습니다.지식 베이스는 항상 최신 상태를 유지하니까요.개인 데이터는요.모델은 여러분이 검색하기로 선택한 것만 볼 수 있습니다.마치 사서에게 파일 캐비닛에 접근할 권한을 주되필요한 순간에 딱 필요한 폴더 하나만 꺼내 도록하는 것과 같습니다. 벡터 임베딩과 의미체계 검색.이제 이 검색이 실제로 어떻게 작동하는지 궁금하실 겁니다.단순히 키워드를 일치시키거나 문서 전체에서컨트롤 플러스 F를 실행하는 방식이 아닙니다.훨씬 더 똑똑한 방식이죠.이를 의미체계 검색, 시멘틱 서치 이라 하며벡터 임베딩을 기반으로 작동합니다.임베딩이 무엇인지 설명해드리겠습니다.벡터 임베딩은 지도의 자표처럼 텍스트의 의미를 포착하는 긴 숫자 목록입니다.모든 문서는 의미 지도상이 고유한 자표를 갖게 됩니다.질문을 입력하면 시스템은 질문도 자표로 변환한 다음가장 가까운 위치에 있는 문서를 찾습니다.여기서 핵심은 의미입니다.정확한 단어를 찾는 것이 아니라 개념을 이해하는 것이 중요합니다.저렴한 호텔을 검색하면 시스템은 그 정확한 단어가 나타나지 않더라도합리적인 가격의 숙소에 관한 문서를 찾을 수 있습니다.왜 그럴까요?의미가 비슷하기 때문입니다.저렴한과 합리적인 이라는 단어의 임베딩은 지도상에서 서로 바로 옆에 위치합니다.에이저 위 텍스트의 임베딩 삼라지와 같은 특수한 소형 모델이 이러한 임베딩을 생성합니다.거대 언어 모델이 아니기 때문에 한 가지 작업에 집중하는 특화된 도구입니다.텍스트를 자표 숫자로 변환하는 일이죠.이것이 RAG를 강력하게 만드는 이유입니다.문서는 인덱싱 과정에서 한 번 임베딩으로 변환됩니다.그 후 커리가 들어오면 시스템은 사용자가 입력한 정확한 단어가 문서에 없더라도밀리초 단위로 가장 관련성 높은 콘텐츠를 찾아냅니다.단순히 입력한 키워드가 아닌 위도를 파악하는 것입니다.에이저 AI 서치, 검색 엔진.이제 개념을 이해하셨을 겁니다.먼저 검색하고 그 다음에 생성합니다.하지만 그 모든 검색은 실제로 어디서 일어날까요?거기서 에이저 AI 서치가 역할을 합니다.에이저 AI 서치는 콘텐츠를 저장, 인덱싱, 검색하는 서비스입니다.여러분의 RAG 애플리케이션을 위한 파일 시스템이라고 생각하면 됩니다. 두 가지의 주요 작업을 처리하는데 하나씩 살펴보겠습니다.첫째, 인덱싱입니다.데이터를 검색 가능한 상태로 만드는 과정입니다.둘째, 검색입니다.누군가 질문했을 때 실제로 올바른 콘텐츠를 찾아내는 과정입니다.인덱싱 과정부터 살펴보겠습니다.에이저 AI 서치를 데이터 소스에 연결하는 것으로 시작합니다.데이터 소스는 PDF로 가득 찬 블랍 저장소 컨테이너,고객 기록이 있는 SQL 데이터베이스, 또는 다른 여러 소스가 될 수 있습니다.서비스는 문서를 읽고, 청크라는 더 작은 조각으로 나눈 뒤,앞서 언급한 인베딩 모델을 사용하여,각 청크에 대한 벡터 인베딩을 생성하고,모든 것을 검색 인덱스에 저장합니다.인덱스를 거대하고 체계적으로 정리된 카탈로그라고 생각하세요.모든 콘텐츠에는 고유 아이디, 텍스트 청크, 그리고 의미 지도 상위 자표가 부여됩니다.이제 검색 과정을 살펴보겠습니다.사용자가 질문하면, AI 서치는 동일한 인베딩 모델을 사용해 질문을 벡터로 변환한 뒤,인덱스를 스캔하여 질문 자표와 가장 가까운 자표의 청크를 찾습니다.가장 관련성이 높은 5에서 10개의 상위 결과를 반환하며,이 모든 과정은 밀리초 단위로 이루어집니다.여기서 몇 가지 강력한 옵션을 선택할 수 있습니다.순수 벡터 검색은 의미를 기반으로 콘텐츠를 찾음으로,정확한 단어가 일치하지 않아도 유사한 개념이 나타납니다.키워드 검색은 기존 검색 엔진처럼 작동하여 정확한 단어가 일치하는 결과를 찾습니다.또는 두 가지 방식을 결합한 하이브리드 검색을 사용할 수 있는데,보통 이것이 가장 좋은 선택입니다.시멘틱 리랭킹, 시멘틱 내란킹 이라는 기능도 있는데,이는 초기 결과를 가져와 질문에 대한 답변 정확도를 기준으로 결과를 다시 정렬합니다.첫 번째 단계에서 놓쳤을 지도 모르는 부분을 잡아내는 두 번째 검토 과정과 같습니다.한 가지 알아두어야 할 점은 에이저 AI 서치가 비용이 많이 들 수 있다는 것입니다. 기본 티어는 월 75달러 정도부터 시작하며 그 이상으로 올라갑니다.단순 실험 중에 라면 무료 티어를 사용하거나 작업부 리소스를 반드시 삭제하세요.하지만 프로덕션 환경에서 사용한다면 비용을 지불할 가치가 충분합니다.규모에 맞는 속도와 신뢰성을 구매하는 셈이니까요.에이저 오픈아이와 AI 파운드리, 생성 및 오케스트레이션 단계입니다.이제 데이터가 인덱싱 되어 검색 준비는 되었지만, LLM 이 질문을 이해하고 확실한 답변을 생성해야 합니다.여기서 에이저 오픈아이와 에이저 AI 파운드리 가 필요합니다.에이저 오픈아이는 gpt-45, gpt-4.1 등 선택한 실제 언어 모델을 제공합니다.이것이 바로 생성 엔진입니다.모델은 사용자의 원래 질문과 에이저 AI 서치가 검색한 컨텍스트가 포함된 프롬프트를 받습니다.모델은 그 컨텍스트를 읽고 발견한 내용을 바탕으로 답변을 생성합니다.그렇다고 모든 정보를 그냥 넣고 잘 되길 바랄 수는 없습니다.모델이 어떻게 행동해야 하는지 미리 알려주는 일련의 지침인 시스템 프롬프트가 필요합니다.제공된 컨텍스트만 사용하고 출처를 밝히며 가장 중요하게는 모르겠습니다 라고 말하도록 지시합니다.관련 정보가 검색된 문서에 없을 경우 말이죠.그것이 모델을 정직하게 유지하는 방법입니다.적절한 시스템 프롬프트가 없으면 모델은 학습 데이터에 위존하거나 더 나쁘게는 없는 내용을 지어낼 수도 있습니다.그렇다면 이 모든 요소를 실제로 어떻게 연결할까요?그 역할을 바로 에이저 AI 파운드리가 수행합니다.이곳은 프로젝트를 생성하고 모델을 배포하며 데이터 소스를 연결하고 에이전트를 테스트하는 포털입니다.전체 RAG 설정을 위한 관제센터라고 생각하면 됩니다.파운드리 내에서는 별도의 코드를 작성하지 않고도 에이저 AI 검색 인덱스를 에이전트의 지식 소스로 추가할 수 있습니다.연결을 생성하고 인덱스를 선택하기만 하면 에이전트가 자동으로 커리를 시작합니다. 포터리 오케스트레이션을 처리하기 때문이죠.사용자가 질문하면 에이전트는 AI 검색을 호출하여 관련 청크를 가져오고원래 질문과 함께 LLM에 전달하는 방법을 알고 있습니다.구체적인 예를 들어보겠습니다.어떤 튜토리얼에서 넷플릭스 데이터셋을 사용하여 영화 추천 에이전트를 만든 사례를 본 적이 있습니다.그들은 영화 제목, 설명, 출현진 정보가 담긴 csv 파일을 에이저 블랍 스토리지에 업로드하고 에이저 AI 검색으로 인덱싱했습니다.에이저 AI 파운드리에서 gpt-45를 사용하는 에이전트를 만들고 AI 검색 인덱스를 연결했죠.사용자가 스릴러 영화를 좋아하는데 추천 좀 해줘 라고 물었을 때 에이전트는 인덱스를 검색해 해당 데이터셋에서 스릴러 영화를 찾아 추천 결과를 반환했습니다.여기서 핵심은 데이터셋에 실제로 포함된 영화만 추천했다는 점입니다.없는 내용을 지어내거나 학습 데이터에서 가져오지 않고 오직 제공된 콘텐츠만을 기반으로 작동했습니다.그것이 바로 RAG 위 힘입니다.클래식 RAG 대 에이전트형 RAG.이제 설정 방법에 대해 이야기해보죠.클래식 RAG와 에이전트형 RAG 두 가지 주요 패턴이 있습니다.어떤 것을 선택할지는 무엇을 만들고 있느냐에 따라 달라집니다.클래식 RAG는 직관적인 접근 방식입니다.커리가 입력되고 검색이 한 번 실행된 후 답변이 나옵니다.간단하고 빠르며 예측 가능하죠.사무실 안내 데스크에 가서 특정 서류 하나를 요청하는 상황과 비슷합니다.접수원이 서류를 찾아 건네주면 끝나는 것과 같죠.클래식 RAG는 재택근무에 관한 회사 규정이 뭐야.같은 단일 주제의 사실적 Q&A에 아주 효과적입니다.혹은 이 오류 코드에 대한 문제 해결 단계를 알려줘.같은 경우도 마찬가지죠.흐름이 선형적이라 신뢰할 수 있고 저렴하며 문제가 발생했을 때 수정하기도 쉽습니다.에이전트형 RAG는 다릅니다. AI 에이전트가 정보를 검색할 방법을 스스로 결정하죠. 여러 하위 질문을 던지고 다양한 인덱스를 검색하며 결과를 반복 확인하고여러 소스를 종합한 뒤 답변합니다.건물 관리자가 각 부서와 협력하여 필요한 모든 정보를 수집하는 것과 비슷합니다.단순히 서류 하나만 가져오는 게 아닙니다.인사팀과 이야기하고 기록을 확인하고 규정을 대조하여 완전한 답변을 가지고 돌아오는 것이죠.마이크로소프트는 자체 테스트를 통해 에이전트형 RAG가 복잡한 질문에 대한 답변 관련성을 약 40% 개선한다는 사실을 확인했습니다.이는 상당한 수치지만 3배에서 10배 더 많은 토큰을 사용하며 지연 시간이 추가됩니다.단순한 질문에는 그러한 추가 작업이 낭비입니다.기존 방식의 RAG로도 충분히 처리할 수 있습니다.그렇다면 각각은 언제 사용해야 할까요?속도와 비용이 가장 중요한 일상적이고 대량의 쿼리에는 기존 RAG를 사용하세요.정확도가 추가적인 연산 비용을 상쇄하는 바단계, 모호하거나 도메인을 넘나드는 질문에는 에이전트형 RAG를 사용하세요.연결 섹션, 엔드투엔드 예제입니다.이 모든 요소가 실제 예제에서 어떻게 결합되는지 살펴보겠습니다.메리골드 트래블즈, 마리골드 트래블즈 라는 여행사를 위한 고객 지원 에이전트를 구축한다고 가정해봅시다.조직 곳곳에 흩어진 여행 브로쉬워, 호텔 리뷰, 정책 문서들이 있습니다.고객이 질문했을 때 일반적인 추측이 아닌 실제 콘텐츠를 기반으로 정확한 답변을 얻길 원하실 겁니다.첫 번째 단계는 모든 콘텐츠를 에이저 블랍 스토리지에 저장하는 것입니다.브로쉬워는 한 폴더에, 리뷰는 다른 폴더에, 정책은 또 다른 폴더에 넣고 컨테이너 안에 파일을 정리하세요.두 번째 단계는 에이저 AI 서치를 사용하여 데이터를 인덱싱하는 것인데,데이터 가져오기 마법사를 실행하고 블랍 스토리지를 지정한 후 작업이 완료되길 기다리면 됩니다.서비스가 모든 문서를 읽고, 조각으로 나누고, 벡터 인베딩을 생성하여 검색 가능한 인덱스를 구축합니다. 전체 과정은 몇 분이면 완료됩니다.세 번째 단계는 에이저 AI 파운드리로 이동하여 에이전트를 생성하는 것입니다. gpt-45를 모델로 배포하고, 제공된 컨텍스트만 사용하고, 출처를 표기하라는 시스템 프롬프트를 작성한 다음,에이저 AI 서치 인덱스를 지식 소스로 연결하세요.몇 번이 클릭만으로 끝납니다.이제 고객이, 두바이에서 300달러 미만인 호텔 중 가장 평점이 좋은 곳은 어디인가요? 라고 묻습니다.에이전트는 해당 질문을 받아 에이저 AI 서치로 보냅니다.에이저 AI 서치는 질문을 벡터로 변환하여 리뷰와 브로쉬워에서 가장 관련성 높은 조각을 찾아 냅니다.이 조각들은 원래 질문과 함께 gpt-45로 전달됩니다.모델은 이를 읽고 최적의 일치 항목을 확인한 다음,원본 문서를 가리키는 인용문과 함께 응답을 생성합니다.중요한 점은 LLM 이 해당 데이터를 암기하지 않았다는 것입니다.여러분의 호텔 리뷰로 학습한 적이 없습니다.모델은 매번 여러분의 특정 콘텐츠를 기반으로 작동합니다.내일 새로운 리뷰를 추가하면 답변도 자동으로 업데이트됩니다.오래된 브로쉬워를 삭제하면 더 이상 검색 결과에 나타나지 않습니다.모델은 재학습이 필요 없습니다.단지 올바른 검색계층만 있으면 됩니다.그렇다면 에이저에서 아레이지 구축을 시작하려면 어떻게 해야 할까요?세 가지 단계로 나누어 보겠습니다.무엇보다 먼저 자신의 데이터를 파악하세요.서비스를 선택하기 전에 콘텐츠가 어디에 있고,어떻게 구성되어 있으며, 누가 액세스해야 하는지 먼저 파악하세요.아레이지 위 성패는 데이터의 품질에 달려 있습니다.다음으로 단순하게 유지하세요.설정을 너무 복잡하게 만들지 마세요.에이저 AI 서치 위 데이터 가져오기 마법사를 사용하여 문서 한 세트만 인덱싱 해보세요.기본 쿼리로 테스트하세요. LLM을 추가하기 전에 검색 기능이 완벽하게 작동하는지 확인하세요. 대부분의 아레이지 실패는 모델 문제가 아닙니다.검색 단계의 문제입니다.마지막 단계로 LLM을 추가합니다.검색 결과가 제대로 나오기 시작하면 그때 생성 기능을 더하세요.그때가 바로 에이저 오픈하이를 연결하고 시스템 프롬프트를 작성할 시점입니다.중요한 점은 아레이지는 구매하는 제품이 아니라는 것입니다.아레이지는 직접 구축하는 패턴입니다.에이저는 스토리지, 검색, 모델, 그리고 이들을 연결하는 접착제 같은 구성 요소를 제공합니다.여러분은 그저 올바른 방식으로 조합하기만 하면 됩니다.전체적인 그림을 이해하는 데 도움이 되었다면,구독을 눌러 더 쉬운 설명을 계속 확인하세요.댓글로 여러분의 아레이지 사용 사례를 공유해주세요.여러분이 무엇을 만들고 있는지 정말 궁금합니다.