M365Con 2027 – 무료 온라인 컨퍼런스 · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · 한국어

Embeddings만으로는 부족한 이유: BM25, Reranker, 시맨틱 캐싱으로 구현하는 Hybrid RAG

벡터 데이터베이스를 구축하고 문서를 수집하고 예산도 썼지만, Copilot의 환각은 여전히 멈추지 않습니다. 원인은 대개 모델이 아니라 검색 전략입니다. Embeddings는 비슷한 것을 찾을 뿐, 정답을 찾지는 않습니다. 이번 에피소드에서는 BM25, 벡터 검색, 시맨틱 재순위를 결합한 하이브리드 RAG 아키텍처로 기업에 필요한 정확도를 달성하는 방법을 살펴봅니다.

쇼 팔로우하기Microsoft 365, Copilot 등에 관한 새 에피소드를 팟캐스트 앱에서 무료로 만나보세요.Spotify

▶ Embeddings만으로는 부족한 이유: BM25, Reranker, 시맨틱 캐싱으로 구현하는 Hybrid RAG (AI 더빙)

이번 에피소드에서 배울 내용:

  1. Top-K 함정: 수학적 유사성이 왜 비즈니스 관련성이 아닌지, 순수 벡터 검색이 왜 제품 코드, SKU, 내부 프로젝트 이름에서 실패하는지
  2. 하이브리드 표준: BM25 키워드 검색과 벡터 검색을 함께 사용해 재현율을 17% 높이고 전문 용어도 정확히 찾는 방법
  3. Azure AI Search의 L2 Reranker를 통한 시맨틱 순위: Bing 기반 크로스 어텐션 모델이 정답을 8위에서 1위로 끌어올리는 원리
  4. 감당할 수 있는 정확도: 시맨틱 캐싱으로 LLM 호출을 60~80% 줄이고, Reranker는 복잡한 쿼리에만 적용
  5. 거버넌스 격차와 2026 로드맵: 에이전트형 RAG, GraphRAG, 그리고 첫 단계로서의 검색 감사

이 에피소드는 Microsoft MVP 미르코 피터스의 M365 Show 애니메이션 영상을 AI로 더빙한 한국어 버전입니다.

다른 에피소드

모든 에피소드 →