여러분 안녕하세요. M365 FM 위 마이크로소프트 지식 나눔 시간에 오신 것을 환영합니다.진행을 맡은 미르코 피터스입니다.오늘의 주제는 누구나 한 번쯤 들어봤지만 실제로 이해하는 사람은 거의 없는 내용입니다.바로 벡터 데이터베이스입니다. AI 관련 기사 나코파일럿, 채찌피티에 관한 대화에서의 용어를 접해보셨을 겁니다.하지만 벡터 데이터베이스란 정확히 무엇일까요?그저 이름만 근사하게 바꾼 일반 데이터베이스일까요?아니면 완전히 다른 무언가일까요?전자상거래 사이트에서 빨간 재킷을 검색했는데진홍색 코트나 버건디 새꺼돗 이 결과로 나온다고 상상해보세요.컴퓨터는 어떻게 이것들이 같은 것임을 알까요?키워드를 일치시키는 방식이 아닙니다.진홍색은 빨간색이 아니고 코트는 재킷이 아니니까요.하지만 검색엔지는 이들이 관련되어 있음을 이해합니다.이것이 바로 벡터 검색이 작동하는 방식입니다.이번 에피소드가 끝날 때 쯤이면 여러분은 벡터 데이터베이스의 실체, AI 검색과 코파일럿을 구동하는 이유,그리고 마이크로소프트 클라우드에서의 역할을 이해하게 될 것입니다.최대한 쉬운 용어로 설명하겠습니다.수학도 전문 용어도 없이 명확한 구성 요소 위주로 살펴보겠습니다.도대체 벡터란 무엇일까요?핵심 질문부터 시작해봅시다.벡터란 정확히 무엇일까요?보통 벡터라는 말을 들으면 물리시간에 배운 방향과 크기를 가진 화살표를 떠올립니다.컴퓨팅 분야에서는 훨씬 간단합니다.벡터는 사실 숫자의 목록일 뿐입니다.컴퓨터가 처리할 수 있는 형식으로 무언가를 나타내는 1차원 배열인 셈이죠.이해를 돕기 위한 실용적인 예를 들어보겠습니다.만약 제가 3층 비동 12호에서 만나자고 한다면, 3개의 숫자가 특정 위치를 설명하는 것이 됩니다.이것이 바로 건물 내 위치를 정확히 알려주는 3차원 벡터입니다.이제 세부 정보를 더 추가한다고 상상해보세요.문의 색상, 방의 크기, 평당 가격 같은 것들 말이죠. 새로운 세부 정보가 추가될 때마다 하나의 차원이 늘어납니다.즉, 차원을 많이 쌓을수록 대상에 대해 더 많은 정보를 담을 수 있습니다.자동차는 속도, 주행거리, 가격, 무게, 안전 등급으로 설명할 수 있습니다.이것은 5차원 벡터가 됩니다.제품은 수백 가지 특징으로 설명될 수 있으며,이는 고차원 벡터를 만들어냅니다.핵심은이 겁니다.벡터를 사용하면 사물을 컴퓨터가 비교 가능한 숫자로 변환할 수 있습니다.단어, 이미지, 소리, 문서 등 무엇이든 숫자의 목록이 될 수 있습니다.모든 것이 숫자로 바뀌면 두 사물이 실제로 얼마나 유사한지 측정할 수 있습니다.같은 층에 있고 문 색깔이 비슷한 두 방은 벡터 공간에서 서로 가깝게 위치합니다.유사한 특징을 가진 두 제품도 마찬가지로 서로 가깝게 그룹화됩니다.이 간단한 아이디어가 바로 현대 AI 검색을 가능하게 합니다.벡터에서 인베딩까지 모든 벡터가 동일한 것은 아닙니다.인베딩이라고 불리는 특별한 종류가 있는데, 바로 거기서 진정한 힘이 나옵니다.그렇다면 인베딩이란 정확히 무엇일까요? 인베딩은 의미를 나타내는 벡터입니다.에이저 오픈아이 위 텍스트 인베딩 3-SMAL과 같은 머신러닝 모델은 텍스트를 읽고 이를 고차원 공간에 배치합니다.이 모델은 수십억 개의 예시를 학습했기에 단어 간의 관계를 이해합니다.왕, 킹과 여왕, 퀸은 유사한 맥락을 공유하기 때문에 서로 가깝게 위치합니다.완과 커피는 그렇지 않기 때문에 서로 멀리 떨어져 있습니다.이를 쉬운 말로 풀이하면 다음과 같습니다.빨간 재킷을 검색하면 시스템은 진홍색 코트를 찾아 냅니다.인베딩 모델은 빨간색과 진홍색이 의미상 가깝고 재킷과 코트도 가깝다는 것을 인식합니다.그 두 구절에 대한 인베딩은 벡터 공간에서 이웃이 됩니다.컴퓨터는 더 이상 글자를 맞추는 것이 아닙니다.의미를 맞추는 것이죠.자, 고전적인 예시를 하나 들어보겠습니다. 왕의 벡터에서 남자의 벡터를 빼고 여자의 벡터를 더해보세요.그 결과는 여왕의 벡터와 매우 가깝습니다.왕 빼기 남자 더하기 여자는 여왕입니다.마법처럼 들릴지 모르지만 사실 모델이 관계를 숫자로 녹여내는 방식입니다.모델은 왕과 여왕이 남자와 여자와 유사한 관계를 공유한다는 것을 배웠고그 관계가 자표에 인코딩되어 있습니다.즉, 인베딩 모델은 텍스트, 이미지, 오디오 등 원시 데이터를 가져와그 의미를 나타내는 숫자 목록으로 변환합니다.그 숫자들은 고차원 공간의 자표가 됩니다.그러고 나서 검색을 하면 귀하의 쿼리도 같은 종류의 자표로 변환됩니다.그저 그 사이의 거리를 측정하기만 하면 됩니다.그게 핵심 아이디어입니다.왜 전통적인 데이터베이스가 부족한지 알아봅니다.인베딩이 그렇게 강력하다면 왜 그냥 일반 데이터베이스를 사용할 수 없을까요?그 질문에 답해보겠습니다.전통적인 SQL 데이터베이스는 정확한 일치를 위해 구축되었습니다.색상이 빨간색인 조건을 작성하면 색상 여리문자 그대로 빨간색인 모든 행을 찾아 냅니다.고객 이름, 주문 날짜, 제품 가격 같은 정형 데이터에는 훌륭하지만모호한 의미가 필요할 때는 완전히 무너집니다.데이터에는 버건디 재킷 뿐인데진홍색 코트를 찾는 SQL 커리를 작성해보세요. SQL은 개념을 이해하지 못하기 때문에 할 수 없습니다.전통적인 데이터베이스는 데이터를 행과 열에 저장합니다.이들은 조인, 집계 및 정확한 조회에 최적화되어 있습니다.이들은 자동차, 카, 와 자동차, 오토모빌, 가 같은 것임을 알지 못합니다.이들은 흥분한, 익사이티드, 과 매우 기쁜, 스릴드, 이 비슷한 감정임을 알지 못합니다.반지 문자열만 일치시킬 뿐입니다.그리고 PDF, 이미지, 오디오 녹음 또는 긴 문서와 같은 비정형 데이터라면전통적인 데이터베이스는 이를 블록, 블락으로 저장할 수는 있지만그 내용을 제대로 검색할 수는 없습니다. 여전히 키워드 일치에 의존하는 전체 텍스트 검색이 필요할 것입니다.사용자가 예산보고서라고 입력했는데 문서에는 재무요약이라고 되어 있다면키워드 검색은 이를 완전히 놓치게 됩니다.이렇게 한번 생각해보세요.일반 데이터베이스는 서류 캐비닉과 같습니다.찾고 있는 것을 찾으려면 정확한 파일 이름을 알아야 합니다.벡터 데이터베이스는 여러분의 의도를 이해하는 사서와 같습니다.지난 분기 지출에 관한 그 문서가 필요해요 라고 말할 수 있죠.그러면 사서는 해당 폴더가 3분기 재무요약으로 라벨이 붙어있더라도정확히 어떤 폴더를 꺼내야 할지 알고 있습니다.사서는 라벨뿐만 아니라 위도까지 이해하니까요.벡터 데이터베이스가 존재하는 이유가 바로 그것입니다.벡터 데이터베이스는 의미를 담고 있는 벡터인 인베딩을 저장하고유사도 검색을 빠르게 만드는 방식으로 인덱싱합니다.그렇다고 전통적인 데이터베이스를 대체하는 것은 아닙니다.데이터베이스 위에 이해의 층을 더하는 것이며그 층이 모든 것을 바꿉니다.데이터베이스 위에 이해의 층을 더하는 것이며그 층이 모든 것을 바꿉니다.벡터 데이터베이스의 작동 방식그렇다면 이 모든 과정은 내부적으로 어떻게 작동할까요?데이터 수집과 커리라는 두 가지 주요 단계를 살펴보겠습니다.수집은 설정 단계입니다.제품 설명, 지원 티켓, 내부 문서 등 원시 데이터를 가져와서각 조각을 인베딩 모델이라는 것에 통과시킵니다.그 모델은 텍스트를 의미를 담은 숫자 목록인 벡터로 변환합니다.그런 다음 그 벡터를 메타 데이터, 원본 텍스트, 타임 스탬프, 카테고리또는 소스 URL 등과 함께 데이터베이스에 저장합니다.이제 여기서부터가 영리한 부분입니다.만약 문서가 100만 개라면 모든 벡터를 하나하나 확인하는데 영원히걸릴 것입니다.그래서 벡터 데이터베이스는 인덱싱이라는 것을 사용합니다.인덱싱이란 모든 문을 일일이 두드리는 대신벡터 공간의 지도를 만드는 것과 같다고 생각하면 됩니다. 두 가지 흔한 방법으로 IVF와 HNSW 가 있습니다. IVF는 인버티드 파일 인덱스, 역파일 인덱스 위 약자입니다.유사한 벡터들을 클러스터로 그룹화하여 작동합니다.검색할 때 모든 100만 개의 벡터를 훑어보는 대신가장 유망한 클러스터만 확인합니다.도서관에서 책을 찾는 것과 비슷합니다.모든 서가를 울른 대신 올바른 섹션으로 바로 향하는 것이죠. HNSW는 하이어라키컬 내비게이블 스몰 월드,계층적 탐색가능 소규모 세계, 위 약자입니다.이 아이디어는 상당히 우아합니다.벡터의 다층 지도를 구축하는 방식입니다.최상위 계층은 데이터의 위치를 대략적으로 파악할 수 있는몇 개의 대표 벡터를 담고 있습니다.아래로 내려갈수록 각계층은 더 상세해집니다.검색할 때는 최상위에서 시작해 대략 적인 범위를 찾은 다음정확히 일치하는 것을 찾을 때까지 계층을 따라 내려갑니다.마치 도시 지도를 먼저 보고그 다음 동네 지도, 마지막으로 거리 지도를 사용하는 것과 같습니다.하나씩 단계마다 더 가까워집니다.그 결과 수백만 개의 벡터를 밀리초 단위로 검색할 수 있습니다.그것이 실시간 AI 기능을 구동하는 원동력입니다.코파일럿의 질문을 입력하고 몇 초 만에 답변을 받을 때어딘가에서는 벡터 데이터베이스가수천 또는 수백만 개의 문서를 대상으로유사도 검색을 수행한 것입니다.커리 단계도 이와 같은 방식으로 역순으로 작동합니다.질문을 입력합니다.해당 질문은 정확히 동일한 인베딩 모델을 사용하여벡터로 변환됩니다.그런 다음 데이터베이스는 인덱스를 사용하여커리 벡터와 가장 가까운 이웃을 찾습니다.거리에 따라 순위가 매겨진 가장 유사한 결과를 반환합니다.벡터가 가까울 수록 결과는 더 관련성이 높습니다.벡터가 존재하는 마이크로소프트 생태계그렇다면 마이크로소프트 환경에서의 모든 것이 어디에 있을까요?간단히 말해 어디에나 있습니다.마이크로소프트는 별도의 전문 데이터베이스를 사용하도록 강요하는 대신여러분이 이미 사용 중인 데이터 플랫폼의 벡터 기능을 추가하고 있습니다. 주요 플랫폼들을 살펴보겠습니다.에이저 AI 서치는 엔터프라이즈 RAG를 위한가장 일반적인 벡터 저장소입니다. RAG는 검색 증강 생성을 의미합니다.하이브리드 검색을 지원하는데이는 기존의 키워드 일치와 벡터 유사성을 결합한다는 뜻입니다.그게 왜 중요할까요?어떤 검색은 키워드, 정확한 제품 코드, 이름, 날짜가 가장 효과적이지만다른 검색은 의미론적 이해가 필요하기 때문입니다.하이브리드 검색은 이 두 가지를 모두 제공합니다.에이저 AI 서치에는 통합 벡터와 기능도 포함되어 있어별도의 코드를 작성하지 않고도 문서를 자동으로 분할하고인베딩을 생성하며 인덱싱하는 파이프라인을 설정할 수 있습니다.코스모스 DB는 이제 디스크 앤 인덱싱을 통한 기본 벡터 검색을 제공합니다.디스크 앤은 디스크 기반 근사 최근적 이웃을 의미하며대규모 환경에서도 20mm 초 미만의 지연 시간을 구현하도록 설계되었습니다.이는 이미 코스모스 DB에 저장된 운영 데이터에 매우 유용합니다.코스모스 DB를 백엔드로 사용하는 전자상거래 앱을 구축한다고 가정해보겠습니다.이제 데이터를 별도의 서비스로 옮길 필요 없이제품 카탈로그에 벡터 검색을 직접 추가할 수 있습니다.고객이 가벼운 여름 신발을 검색하면앱이 기존 데이터베이스 내에서 유사한 설명의 제품을 찾아줍니다.에이저 SQL 서버 2025와 에이저 SQL 데이터베이스도 이에 합류했습니다.이제 기본 벡터 데이터 형식과 벡터 검색과 같은 기능을 포함합니다.즉 관계형 데이터와 함께 인베딩을 바로 저장할 수 있습니다.고객 선호도를 나타내는 벡터를 가진 고객 기록,벡터 설명이 포함된 재고 항목,콘텐츠의 벡터 인베딩이 포함된 지원 티켓 등을 말이죠.별도의 벡터 데이터베이스가 필요 없습니다.기존의 SQL 기술을 그대로 활용할 수 있습니다.벡터열을 추가하고 인덱스를 생성한 뒤유사도 검색을 시작하기만 하면 됩니다. 코파일럿이 내부적으로 이 기능을 사용하는 방식은 다음과 같습니다.작년 3분기 매출 보고서 보여줘 라고 질문하면코파일럿은 3분기 매출 보고서라는 정확한 구문을 검색하지 않습니다.질문을 벡터로 변환하여 인덱싱된 문서, 이메일,시어포인트 파일, 온드라이브 문서, 팀즈 대화 등을 검색한 뒤질문과 인베딩 값이 가장 가까운 문서를 찾아냅니다.정확한 단어가 일치하지 않더라도 의미가 통하면2024년 3분기 재무 요약과 같은 파일을 찾아낼 수 있습니다.이것이 바로 벡터 검색이 작동하는 방식입니다.여기서 핵심은 마이크로소프트의 전략입니다.전문 벡터 데이터베이스를 새로 구매하라 고하는 대신이미 사용 중인 도구에 벡터 기능을 추가하는 것입니다.에이저 AI 서치, 코스모스의 DB, SQL 서버 모두 이제 벡터를 지원합니다.새로운 시스템을 배울 필요가 없습니다.개념만 이해하면 나머지는 마이크로소프트가 알아서 처리해줍니다. AI 위 실제 활용 사례입니다.그렇다면 오늘날 벡터 데이터베이스는 실제로 어디에 쓰이고 있을까요?실제 현장에서 어떻게 활용되는지 보여드리겠습니다.가장 대표적인 것이 RAG입니다. RAG는 검색 증강 생성의 약자로현재 대부분의 기업용 AI가 작동하는 방식입니다.책보색에 질문할 때 AI는 학습 데이터로만 추측하지 않습니다.대신 벡터 데이터베이스에서 관련 문서를 검색하고가장 근접한 자료를 찾아 언어 모델의 문맥으로 제공합니다.그러면 모델은 그 실제 문서들을 바탕으로 답변을 구성합니다.즉, 우리 회사의 정책, 제품, 데이터에 대해 정확한 답변을 얻을 수 있다는 뜻입니다.벡터 데이터베이스가 없다면 AI는 인터넷의 일반적인 지식으로 추측해야 했을 것입니다.하지만 데이터베이스를 사용하면 실제 파일에서 직접 정보를 가져옵니다.추천 엔진도 매우 큰 활용 사례 중 하나입니다.넷플릭스, 아마존, 유튜브 모두 같은 방식으로 작동합니다. 사용자의 행동, 즉 시청하거나 구매하거나 클릭하는 기록을 바탕으로 사용자를 벡터로 변환합니다.또한 상품의 설명, 리뷰, 특성을 기반으로 상품을 벡터로 변환합니다.그런 다음 가장 가까운 이웃을 찾기만 하면 됩니다.사용자의 벡터가 특정 영화의 벡터와 가까우면 그 영화를 추천하는 식입니다.이는 대규모로 수행되는 유사도 검색이며 모든 사용자에게 초당 수백 번씩 실행됩니다.의미 론적 검색은 세 번째 주요 사례입니다.이는 키워드가 아닌 의미로 검색하는 방식입니다.지원 담당자가 고객이 비밀번호 재설정 후 로그인을 못합니다. 라고 입력하면자격 증명 업데이트 후 인증 실패 문제 해결 이라는 문서를 찾아줍니다.단어는 일치하지 않지만 의미는 일치하는 것이죠.이것이 바로 벡터 검색이 가능하게 하는 기능입니다.하루에 수백 건의 티켓을 처리하는 팀에게는 해결 시간을 획기적으로 줄여줍니다.다음은 이상 징후 탐지입니다.덜 분명해 보이지만 매우 강력합니다.정상적인 행동, 일반적인 거래 패턴, 평소 시스템 지표, 표준 사용자 동작 등을 인베딩합니다.이 벡터들을 저장한 뒤 데이터 군집에서 멀리 떨어진 것을 탐지해냅니다.평소와 전혀 다른 거래가 발생하면 그것이 바로 사기인 것입니다.서버 지표가 평소 범위를 크게 벗어났다면 사고가 발생할 징조입니다.벡터 데이터베이스는 이를 실시간으로 처리할 만큼 충분히 빠릅니다.마이크로소프트의 세계에서 이는 어디에나 존재합니다.파워 앱스는 폼을 만들 때 AI 제안을 위해 벡터 검색을 사용합니다.다이나믹스 365는 고객 기록 전반의 지능형 검색에 이를 활용합니다.팀지 회의 녹취록은 벡터로 변환되므로예산에 대해 무엇을 결정했지? 라고 검색하면녹화본에서 정확한 순간을 찾아낼 수 있습니다.코파일럿 4 마이크로소프트 365는 본질적으로 개인 및 회사 데이터 위에서 실행되는 거대한 RAG 시스템이며모두 벡터 검색을 기반으로 합니다. 이 모든 것을 동기화하는 것, 바로 벡터 ETL입니다.이제 현실적인 과제를 살펴보겠습니다.데이터는 변하고 문서는 업데이트되며 새 제품이 추가되고 오래된 정책은 보관처리됩니다.원본 데이터가 변경될 때마다 벡터도 변경되어야 합니다.그 지점에서 벡터 ETL이 필요합니다. ETL은 추출, 엑스트랙트, 변환, 트랜스폼, 적재, 로드를 의미합니다.벡터 데이터베이스의 경우 과정은 다음과 같습니다.먼저, 블랍 저장소 컨테이너, 시어포인트 라이브러리, SQL 데이터베이스 등 원본에서 새 문서 나 변경된 문서를 추출합니다.그런 다음 텍스트를 관리 가능한 조각으로 나누고, 각 조각을 인베딩 모델에 통과시켜 변환합니다.마지막으로, 생성된 벡터를 원본 소스 URL, 타임스탬프, 사용된 모델 버전과 같은 메타데이터와 함께 벡터 저장소에 적재합니다.여기서의 모범 사례는 증분 처리입니다.무언가 바뀔 때마다 전체 코퍼스를 다시 인베딩하지 마세요.실제로 변경된 문서만 처리하십시오.각 인베딩을 생성한 모델 버전을 추적하세요.모델을 업그레이드하면 이전 벡터는 새 벡터와 일관성을 잃게 됩니다.그리고 비용을 확인하세요.인베딩 API는 토큰 단위로 과금됨으로 수백만 개의 문서를 처리하면 비용이 빠르게 증가합니다.에이저에서의 일반적인 워크플로는 간단합니다.문서를 블랍 저장소에 저장하세요.그런 다음, 청킹과 인베딩을 자동으로 처리하는 통합 스킬 세트를 갖춘 에이저 AI 서치 인벡서를 설정하세요.마이크로소프트는 청킹을 위한 텍스트 분할 스킬과 벡터 생성을 위한 에이저 오픈 아이 인베딩 모델 스킬을 제공합니다.인벡서는 일정에 따라 실행되며 새 파일을 가져와 처리하고 벡터를 인벡스에 업서트, 업서트 합니다.별도의 사용자 지정 파이프라인 코드는 필요 없습니다.흔히 하는 실수로 메타 데이터를 무시하는 경우가 있습니다.모든 벡터에는 소스 참조, 인베딩 모델 이름과 버전, 생성 타임 스탬프가 필요합니다. 그렇지 않으면 결과의 출처를 추적할 수 없고, 모델 변경 시 재인베딩 할 수 없으며, 규정 준수 감사에 어려움을 겪게 됩니다.벡터를 다른 비즈니스 데이터처럼 취급하고, 그 계보를 추적하세요.다음 단계입니다.자, 직접 시도해볼 준비가 되셨나요?간단하게 시작하세요.에이저 포털을 열고 에이저 AI 서치 리소스를 만드세요.그런 다음 기존 인벡스에서 벡터 검색을 활성화하세요.문서 몇 개를 업로드하고, 인베딩 모델을 선택한 후, 유사도 커리를 실행해보세요. 1시간 안에 작동하는 것을 확인할 수 있습니다.개발자라면 파이썬 SDK를 사용하여 에이저 오픈 아이 로 문서를 인베딩하고,코스모스 DB 벡터 검색에 저장한 뒤, 가장 유사한 결과를 찾는 커리를 작성해보세요.벡터 샘플과 문서가 여러분을 안내할 것입니다.벡터 데이터베이스를 사용하기 위해 데이터 과학자가 될 필요는 없습니다.마이크로소프트 위 도구가 인베딩 생성, 인덱싱, 커리 로직을 모두 처리합니다.여러분은 개념을 이해하고, 도구를 자신의 데이터에 연결하기만 하면 됩니다.여기 도전 과제가 있습니다.오늘 여러분이 해결해야 할 검색 문제를 생각해보세요.사내 문서 찾기, 제품 카탈로그 검색, 혹은 지식 기반에서 고객 질문에 답변하는 일일 수 있습니다.벡터 검색이 키워드 매칭보다 더 나은 결과를 낼 수 있을까요?작은 데이터 세트, 예를 들어 문서 100개만 골라서 한번 시도해보세요.즉시 그 차이를 느끼실 수 있을 겁니다.이제 벡터 데이터베이스가 무엇인지 확실히 이해하셨을 겁니다.그것은 신비한 AI 기술이 아니라, 단순히 단어 자체가 아닌 데이터의 의미를 저장하고 검색하는 방식입니다.이 기술은 마이크로소프트 365, A저, 코파일럿 위 스마트 검색 및 AI 기능을 뒷받침합니다.질문을 던지고 관련 답변을 얻을 때마다,어딘가에 있는 벡터 데이터베이스가 여러분의 커리에 가장 가까운 결과를 찾아낸 것입니다. 구조화된 사실, 고객 이름, 주문 금액, 재고 수량 등은 여전히 기존 데이터베이스에 저장됩니다.벡터 데이터베이스는 여기에 이해라는 계층을 더해줍니다.이를 통해 애플리케이션이 의미, 위도, 맥락에 따라 검색할 수 있게 됩니다.전체적인 그림은 이렇습니다.마이크로소프트 기술에 대한 쉬운 설명을 더 보고 싶다면 구독하세요.다음 시간에는 RAG 파이프라인의 실제 작동 원리와 오후 시간 동안 이를 구축하는 방법을 살펴보겠습니다.시청해주셔서 감사합니다.