WEBVTT

00:00:00.000 --> 00:00:01.820
업계는 우리에게 신화를 팔았습니다.

00:00:02.160 --> 00:00:05.100
인베딩이 기업 지능을 위한 만병통치약이라고 했죠.

00:00:05.240 --> 00:00:10.740
벡터 데이터베이스를 구축하고 문서를 입력하고 예산을 썼지만 환각현상은 여전합니다.

00:00:10.940 --> 00:00:14.400
현실에서 수학적 유사성은 비즈니스 관련성과 같지 않습니다.

00:00:14.700 --> 00:00:16.660
우리는 탑 K위 함정에 빠졌습니다.

00:00:16.880 --> 00:00:20.500
코파일럿이 고차원 공간에서 가장 유사한 데이터 포인트를 검색하지만

00:00:20.500 --> 00:00:24.300
2026년에는 근접성이 진실을 대체하는 저렴한 수단이기에

00:00:24.300 --> 00:00:27.340
특정 작업에 완전히 잘못된 데이터를 가져오는 순간입니다.

00:00:27.340 --> 00:00:30.240
RAG 프로젝트가 파일럿 단계에서 정체 중이라면

00:00:30.240 --> 00:00:32.580
그건 AI 가멍청해서가 아닙니다.

00:00:32.760 --> 00:00:35.340
검색 전략이 환상 위에 세워졌기 때문입니다.

00:00:35.560 --> 00:00:37.800
순수 벡터 모델의 구조적 실패입니다.

00:00:38.020 --> 00:00:42.340
벡터 검색은 현대 AI 시스템 아키텍처에서 기본계층에 불과합니다.

00:00:42.600 --> 00:00:46.920
스택의 지하실 2집 펜트하우스가 아닌데 우리는 그걸 뇌처럼 다뤄왔습니다.

00:00:47.120 --> 00:00:50.940
고차원 인베딩의 근본적인 결함은 설계상 모호하다는 점입니다.

00:00:51.180 --> 00:00:53.120
개념을 자표로 나타내기 때문이죠.

00:00:53.340 --> 00:00:55.380
분위기나 일반적인 주제를 찾을 때는 훌륭하지만

00:00:55.380 --> 00:00:57.880
실제 업무는 분위기 속에서 이루어지지 않습니다.

00:00:58.080 --> 00:00:59.980
업무는 구체적인 사실 속에서 이루어집니다.

00:01:00.160 --> 00:01:01.960
바로 여기서 순수 벡터 모델이 무너집니다.

00:01:02.120 --> 00:01:04.280
벡터는 정확한 용어를 처리하는 데 어려움을 겪습니다.

00:01:04.500 --> 00:01:08.700
제품 코드, SKO, 법률 용어, 내부 프로젝트 코드명을 생각해보세요.

00:01:08.960 --> 00:01:12.160
벡터 모델에게 프로젝트 피닉스와 프로젝트 파이어버드

00:01:12.160 --> 00:01:15.380
는 의미적 군집을 공유하기에 수학적으로 동일해 보일 수 있지만

00:01:15.380 --> 00:01:18.500
재무팀에게는 완전히 다른 두 개의 예산을 의미합니다.

00:01:18.720 --> 00:01:21.980
밀집 인베딩에만 의존하면 사실상 AI에게 근처에 있는 데이터를

00:01:21.980 --> 00:01:23.660
기반으로 추측하라고 시키는 셈입니다.

00:01:23.860 --> 00:01:27.120
그 결과 비즈니스 산출물에서 27% 위 오류율이 발생합니다.

00:01:27.340 --> 00:01:29.140
단순한 기술적 지표가 아닙니다.

00:01:29.360 --> 00:01:33.140
그 오류율은 매주 1.8시간의 직원 시간 낭비로 이어집니다.

00:01:33.400 --> 00:01:36.640
사람들은 더 빠르게 일하려고 코파일럿을 사용하는 게 아닙니다.

00:01:36.860 --> 00:01:40.000
검색 결과에 노이즈가 많아 팩트체크에 2시간을 허비해야 하는

00:01:40.000 --> 00:01:41.640
추안을 만드는데 사용하고 있죠.

00:01:41.640 --> 00:01:44.880
우리에게는 정확성 위기가 있으며 이는 LLM이 문제가 아닙니다.

00:01:45.060 --> 00:01:48.360
GPT4에서 GPT5로 바꾸거나 더 큰 컨텍스트 윈도우로 이동한다고

00:01:48.360 --> 00:01:49.360
해결될 문제가 아닙니다.

00:01:49.520 --> 00:01:51.220
이것은 검색 엔지니어링의 문제입니다.

00:01:51.220 --> 00:01:52.720
우리는 거대한 가정을 했습니다.

00:01:53.020 --> 00:01:55.140
수학이 컨텍스트를 다룰 것이라고 가정했죠.

00:01:55.320 --> 00:01:58.640
모든 문서를 숫자 리스트로 바꾸면 관계가 드러날 것이라 생각했지만

00:01:58.640 --> 00:02:00.620
컨텍스트는 구조적인 것입니다.

00:02:00.860 --> 00:02:02.600
단순히 확률적인 것이 아니죠.

00:02:02.800 --> 00:02:05.700
기업 환경에서 문서의 의미는 단어에만 있는 것이 아니라

00:02:05.700 --> 00:02:09.740
메타 데이터, 권한, 그리고 벡터 모델이 완전히 무시하는

00:02:09.740 --> 00:02:11.160
특정 버전 관리에 있습니다.

00:02:11.500 --> 00:02:13.240
최신 출장 규정을 검색할 때

00:02:13.240 --> 00:02:16.800
벡터 검색은 출장 규정처럼 들리는 문서를 찾아 냅니다.

00:02:17.040 --> 00:02:19.720
반드시 어제 승인된 문서를 찾는 것은 아닙니다.

00:02:19.720 --> 00:02:21.680
가장 유사한 문서를 찾을 뿐이죠.

00:02:21.880 --> 00:02:25.420
만약 가장 유사한 문서가 2022년 버전이라서 더 상세한 텍스트를 담고 있다면

00:02:25.420 --> 00:02:26.920
LLM은 그것을 가져옵니다.

00:02:27.080 --> 00:02:29.640
그러면 AI는 직원에게 비즈니스석 예약이 가능하다고 말할 것이고

00:02:29.640 --> 00:02:31.640
정작 세 규정은 이코노미성만 허용하고 있죠.

00:02:31.800 --> 00:02:34.360
이는 잘못된 데이터 기반으로 인해 발생하는 환각 현상입니다.

00:02:34.560 --> 00:02:37.620
모델이 거짓말을 한 게 아니라 잘못된 데이터 뭉치를 요약했을 뿐입니다.

00:02:37.800 --> 00:02:40.720
탐색용으로 설계된 모델을 정확도가 필요한 곳에 사용하려 할 때

00:02:40.720 --> 00:02:41.720
이런 일이 발생합니다.

00:02:41.960 --> 00:02:43.720
벡터 검색은 어떤 바늘 이든 상관없다면

00:02:43.720 --> 00:02:45.460
건초 더미에서 바늘을 찾는 데 뛰어나지만

00:02:45.460 --> 00:02:48.240
기업 환경에서는 오직 하나의 정확한 바늘만 필요합니다.

00:02:48.400 --> 00:02:50.240
나머지 9개는 오히려 위험 요소입니다.

00:02:50.460 --> 00:02:53.520
우리는 순수하게 유사성에만 의존하는 방식의 한계에 도달했습니다.

00:02:53.800 --> 00:02:57.400
규제 산업에서 요구하는 99% 위 정확도에 도달하려면

00:02:57.400 --> 00:03:01.760
검색을 수학 문제로 다루는 것을 멈추고 편집 문제로 접근해야 합니다.

00:03:01.960 --> 00:03:04.240
경영진의 의사결정을 지원해야 할 시스템에

00:03:04.240 --> 00:03:05.860
대충 비슷하면 괜찮다.

00:03:06.040 --> 00:03:07.960
는식의 사고 방식은 이제 버려야 합니다.

00:03:08.180 --> 00:03:10.960
현재 여러분이 코파일럿에 제공하는 상위 K계의 결과는

00:03:10.960 --> 00:03:13.800
수학적으로 연관된 노이즈의 집합에 불과하기 때문입니다.

00:03:13.980 --> 00:03:16.860
추론 엔진에게 모래 위에 집을 지으라고 시키는 꼴입니다.

00:03:17.080 --> 00:03:19.340
그러고는 왜 지붕에서 물이 새는지 위하해하죠.

00:03:19.600 --> 00:03:21.940
2025년에서 2026년으로 넘어가는 변화의 핵심은

00:03:21.940 --> 00:03:24.000
인베딩이 단지 출발점이라는 사실을 깨닫는 것입니다.

00:03:24.160 --> 00:03:26.140
인베딩은 아마도 단계의 묶음일 뿐입니다.

00:03:26.320 --> 00:03:28.920
확실한 단계로 나아가려면 우리는 다른 종류의 논리가 필요합니다.

00:03:29.100 --> 00:03:32.080
인베딩이 대체할 것이라 믿었던 바로 그 요소들을 다시 도입해야 합니다.

00:03:32.280 --> 00:03:34.700
구조가 필요하고 어휘적 앵커가 필요합니다.

00:03:34.960 --> 00:03:39.100
그리고 무엇보다 유사한 답변과 정답의 차이를 아는 감독자가 필요합니다.

00:03:39.100 --> 00:03:42.200
그것 없이는 여러분의 아레이지 프로젝트는 지능형 도구가 아니라

00:03:42.200 --> 00:03:45.640
그저 매우 비싸고 빠르게 틀린 답을 내놓는 수단에 불과합니다.

00:03:45.840 --> 00:03:48.760
하지만 유사성이 진실을 대신하는 값싼 대리자이기 때문에

00:03:48.760 --> 00:03:50.160
여기서 모델은 무너집니다.

00:03:50.340 --> 00:03:52.460
유사성의 세계는 살기에 위험한 곳입니다.

00:03:52.720 --> 00:03:55.440
우리는 너무 오랫동안 밀집된 클러스터에 위존해 왔습니다.

00:03:55.640 --> 00:03:59.040
벡터 공간에서 서로 가까우면 비즈니스 적으로도 관련이 있을 것이라 가정했지만

00:03:59.040 --> 00:04:00.400
실제로는 그렇지 않습니다.

00:04:00.600 --> 00:04:03.100
유사성은 단지 단어 사용 패턴의 반영일 뿐입니다.

00:04:03.340 --> 00:04:05.160
그것은 진실을 대신하는 값싼 대리자이며

00:04:05.160 --> 00:04:07.080
2026년에는 모델이 무너집니다.

00:04:07.080 --> 00:04:10.160
이제는 관련된 것이 아니라 검증된 것이 필요하기 때문입니다.

00:04:10.280 --> 00:04:13.500
파일럿 환경에서 운영 환경으로 전환하면 위험의 수준이 달라집니다.

00:04:13.640 --> 00:04:15.460
이제 대리자만으로는 충분하지 않습니다.

00:04:15.700 --> 00:04:19.220
AI가 조직의 실제 언어에 기반을 두도록 하는 무언가가 필요합니다.

00:04:19.420 --> 00:04:23.260
인베딩에만 몰두하느라 무심코 버렸던 정확성이 다시 필요해졌습니다.

00:04:23.480 --> 00:04:24.360
하이브리드 표준

00:04:24.360 --> 00:04:26.500
왜 bm25가 여전히 중요한가

00:04:26.500 --> 00:04:29.960
2026년의 프로덕션 기준을 보면 환경이 완전히 바뀌었습니다.

00:04:30.260 --> 00:04:32.780
더 이상 실험적인 벡터 저장소를 이야기하는 것이 아닙니다.

00:04:32.960 --> 00:04:34.660
이제는 하이브리드 표준을 이야기합니다.

00:04:34.660 --> 00:04:40.660
데이터는 명확합니다. 성공적인 엔터프라이즈 RAG 시스템의 72%가 순수 벡터 검색에서 벗어났습니다.

00:04:40.860 --> 00:04:45.740
벡터의 의미 론적 접근과 키워드 매칭의 정확성을 결합한 이중 경로 시스템을 구현한 것입니다.

00:04:45.940 --> 00:04:48.560
구체적으로는 bm25 알고리즘을 다시 도입했습니다.

00:04:48.880 --> 00:04:51.640
검색 엔지니어링에 20년을 바치지 않은 분들을 위해 설명하자면

00:04:51.640 --> 00:04:54.060
bm25는 고전적인 희소 검색 방식입니다.

00:04:54.260 --> 00:04:56.100
정확한 단어 일치를 찾는 논리입니다.

00:04:56.320 --> 00:04:58.440
인베딩이 대체할 줄 알았던 과거의 방식이지만

00:04:58.440 --> 00:05:01.940
알고보니 구식이 신식을 올바르게 유지해주는 유일한 방법이었습니다.

00:05:01.940 --> 00:05:04.340
이 둘을 결합하면 흥미로운 일이 벌어집니다.

00:05:04.500 --> 00:05:07.680
전체 데이터셋에서 17% 위 재현률 향상을 얻게 됩니다.

00:05:07.900 --> 00:05:10.760
그 17%가 직원이 10초 만에 답을 찾는 것과

00:05:10.760 --> 00:05:13.740
3번이 질문 실패 후 포기하는 것의 차이를 만듭니다.

00:05:13.920 --> 00:05:16.880
사용자가 실제로 입력하는 특정 단어를 무시하지 않을 때

00:05:16.880 --> 00:05:18.700
어떤 일이 일어나는지 생각해보세요.

00:05:18.700 --> 00:05:22.760
순수 벡터 시스템에서 사용자가 2025년 10k 양식을 입력하면

00:05:22.760 --> 00:05:24.600
모델은 분위기가 비슷하다는 이유로

00:05:24.600 --> 00:05:26.920
재무보고 관련 일반 기사를 우선시할 수 있지만

00:05:26.920 --> 00:05:32.640
bm25가 포함되면 시스템은 10k와 2025라는 특정 문자열을 포착합니다.

00:05:32.900 --> 00:05:34.960
이것이 단순한 개념이 아님을 인식합니다.

00:05:35.220 --> 00:05:37.040
이들은 어휘 적닷 앵커즈입니다.

00:05:37.240 --> 00:05:38.560
하이브리드 검색을 통해 시스템은

00:05:38.560 --> 00:05:40.020
재무보고서에 관심이 있다는 건 알지만

00:05:40.020 --> 00:05:42.740
당신이 특정 문서를 구체적으로 요청했다는 점도 이해합니다.

00:05:42.880 --> 00:05:43.720
라고 말할 수 있게 됩니다.

00:05:43.920 --> 00:05:46.020
도메인 밖에 질문 문제를 해결하는 것입니다.

00:05:46.020 --> 00:05:49.280
이것이 모든 사전 학습된 인베딩 모델의 가장 큰 난관입니다.

00:05:49.460 --> 00:05:53.140
귀하의 벡터 모델은 아마도 일반적인 인터넷 텍스트 말뭉치로 학습되었을 것입니다.

00:05:53.340 --> 00:05:54.740
계약서가 무엇인지는 알지만

00:05:54.740 --> 00:05:57.260
귀하 업계의 구체적인 전문 용어는 모릅니다.

00:05:57.500 --> 00:06:00.800
엔지니어링 부서에서 사용하는 고유한 약어도 이해하지 못합니다.

00:06:01.040 --> 00:06:04.640
물류팀이 배송 지연을 설명하기 위해 사용하는 내부 약어도 학습하지 못했습니다.

00:06:04.940 --> 00:06:07.440
일반 인베딩 모델에게 그런 단어는 노이즈일 뿐입니다.

00:06:07.620 --> 00:06:09.320
도메인 밖에 데이터이기 때문입니다.

00:06:09.520 --> 00:06:12.000
하지만 bm25에게는 그러한 단어가 신호입니다.

00:06:12.000 --> 00:06:14.840
벡터 검색과 함께 키워드 검색을 실행함으로써

00:06:14.840 --> 00:06:16.180
안전망을 만드는 것입니다.

00:06:16.340 --> 00:06:19.700
사용자가 인베딩 모델이 이해하지 못하는 특정 용어를 입력하더라도

00:06:19.700 --> 00:06:23.860
시스템이 문자 그대로의 텍스트를 기반으로 문서를 찾을 수 있도록 보장합니다.

00:06:24.100 --> 00:06:27.120
이것이 바로 0.8위 정밀도 인계값에 도달하는 방법입니다.

00:06:27.480 --> 00:06:30.260
2025년에는 ai가 대체로 맞기만 해도 만족했었습니다.

00:06:30.600 --> 00:06:33.640
2026년 80%위 정확도는 진입을 위한 최소한의 기준입니다.

00:06:33.820 --> 00:06:35.620
하이브리드 방식은 그 목표를 향한 첫 단계입니다.

00:06:35.800 --> 00:06:37.440
ai를 현실에 고정하는 것이 핵심입니다.

00:06:37.620 --> 00:06:39.040
이 중 확인 시스템이라고 생각하십시오.

00:06:39.040 --> 00:06:40.460
벡터 경로는 위도를 처리합니다.

00:06:40.620 --> 00:06:42.480
즉 무엇을 하려고 하는가 하는 점이죠.

00:06:42.640 --> 00:06:44.260
키워드 경로는 사실 관계를 처리합니다.

00:06:44.440 --> 00:06:46.720
즉 실제로 무엇을 말했는가 하는 점입니다.

00:06:46.920 --> 00:06:50.080
두 경로가 하나의 문서에 동의하면 신뢰도가 높은 후보가 됩니다.

00:06:50.340 --> 00:06:52.780
위견이 다르면 추가 처리가 필요하다는 신호입니다.

00:06:53.000 --> 00:06:55.340
하지만 이런 하이브리드 접근법에도 여전히 문제는 있습니다.

00:06:55.640 --> 00:06:57.340
아마도 반개의 결과물은 개선되었습니다.

00:06:57.640 --> 00:07:00.320
재현율이 78%에서 91%로 높아졌죠.

00:07:00.480 --> 00:07:02.040
올바른 정보를 더 많이 찾긴 하지만

00:07:02.040 --> 00:07:04.480
여전히 LLM의 후보군을 던져주는 수준입니다.

00:07:04.480 --> 00:07:06.140
검색 결과 세트를 확인해보셨다면

00:07:06.140 --> 00:07:08.840
상위 10개 결과가 종종 엉망이라는 걸 아실 겁니다.

00:07:09.040 --> 00:07:11.580
네 번째 위치에 완벽한 답변이 있을 수도 있습니다.

00:07:11.840 --> 00:07:15.900
하지만 첫 번째 위치에는 키워드가 20번 반복된 문서가 있을 뿐입니다.

00:07:16.140 --> 00:07:17.540
아니면 수학적으로는 유사하지만

00:07:17.540 --> 00:07:20.180
현재 연도와는 전혀 관련 없는 문서일 수도 있죠.

00:07:20.400 --> 00:07:22.660
하이브리드 검색은 퍼즐 조각을 제공할 뿐입니다.

00:07:22.880 --> 00:07:25.040
반드시 퍼즐을 완성해주는 것은 아닙니다.

00:07:25.260 --> 00:07:26.880
LLM의 상위 5개 결과를 주면

00:07:26.880 --> 00:07:29.560
알아서 올바른 것을 선택할 것이라 가정하곤 합니다.

00:07:29.560 --> 00:07:32.120
하지만 LLM은 방해문서에 취약합니다.

00:07:32.360 --> 00:07:35.960
첫 번째 결과가 매우 길고 확신에 찬 어조이지만 사실은 틀린 문서라면

00:07:35.960 --> 00:07:39.000
LLM은 세 번째 위치에 짧고 정확한 답변보다

00:07:39.000 --> 00:07:40.920
그 정보를 우선시하는 경우가 많습니다.

00:07:41.140 --> 00:07:43.940
이것이 바로 중간 소실 로스트인 더미들 현상입니다.

00:07:44.160 --> 00:07:46.280
정보의 순서가 답변의 품질을 결정합니다.

00:07:46.500 --> 00:07:49.500
따라서 하이브리드 검색은 기본일 뿐 최종적인 답은 아닙니다.

00:07:49.680 --> 00:07:51.140
일종의 여과 장치일 뿐이죠.

00:07:51.320 --> 00:07:53.540
100만 개의 문서를 50개로 줄여주는 역할입니다.

00:07:53.780 --> 00:07:56.280
하지만 50개의 문서는 중요한 비즈니스 의사 결정을 내리기에는

00:07:56.280 --> 00:07:57.320
여전히 노이즈가 많습니다.

00:07:57.320 --> 00:07:59.620
여전히 후보군 더미를 보고 있는 셈이니까요.

00:07:59.740 --> 00:08:02.400
변화는 만들었지만 격차를 완전히 메우지는 못했습니다.

00:08:02.640 --> 00:08:05.800
의료나 금융 분야에서 요구하는 0.9위 정밀도를 달성하려면

00:08:05.800 --> 00:08:07.560
검색 단계에서 멈춰서는 안 됩니다.

00:08:07.840 --> 00:08:11.120
데이터가 LLM 매도달하기 전에 추론계층을 추가해야 합니다.

00:08:11.340 --> 00:08:14.160
50개의 후보를 살펴보고 단순히 빈도나 좌표가 아닌

00:08:14.160 --> 00:08:16.940
실제 논리에 기반하여 순위를 매길 감독관이 필요합니다.

00:08:17.180 --> 00:08:18.560
지금은 하이브리드 검색을 사용해도

00:08:18.560 --> 00:08:20.880
여러분의 코파일럿은 여전히 추측하고 있기 때문입니다.

00:08:21.060 --> 00:08:23.420
그저 이전보다 훨씬 더 근거 있는 추측을 할 뿐이죠.

00:08:23.420 --> 00:08:25.040
우리는 찾기 문제를 해결했습니다.

00:08:25.380 --> 00:08:27.220
이제는 순위 매기기 문제를 해결해야 합니다.

00:08:27.420 --> 00:08:30.000
그리고 그것은 완전히 다른 아키텍처 계층을 필요로 합니다.

00:08:30.220 --> 00:08:31.620
하이브리드 검색을 사용하더라도

00:08:31.620 --> 00:08:33.660
여전히 후보군 더미를 보고 있을 뿐입니다.

00:08:33.840 --> 00:08:34.980
관리자가 필요합니다.

00:08:35.460 --> 00:08:38.200
하이브리드 모델의 문제는 의견이 없다는 것입니다.

00:08:38.480 --> 00:08:41.060
서로 다른 언어를 사용하는 두 가지 점수 체계에

00:08:41.060 --> 00:08:43.060
기반 해목록을 생성하기 때문입니다.

00:08:43.280 --> 00:08:45.340
벡터 공간의 좌표와 키워드 인덱스에

00:08:45.340 --> 00:08:47.260
빈도 점수를 결합하는 방식이죠.

00:08:47.260 --> 00:08:49.340
그 결과로 상위 50개 목록이 나오는데

00:08:49.340 --> 00:08:51.280
기술적으로는 이전보다 낫지만

00:08:51.280 --> 00:08:53.020
근본적으로 검증되지 않았습니다.

00:08:53.180 --> 00:08:54.980
채용대행사가 이력서를 읽어보지도 않고

00:08:54.980 --> 00:08:56.500
50장을 보내주는 것과 같습니다.

00:08:56.800 --> 00:08:58.600
키워드와 일반적인 경력은 필터링 했지만

00:08:58.600 --> 00:09:01.260
실제로 그 일을 할 수 있는지는 검증하지 않은 상태죠.

00:09:01.420 --> 00:09:03.880
RAG 파이프라인에서 LLM은 채용 담당자입니다.

00:09:04.100 --> 00:09:05.980
그 담당자에게 이력서 50장을 넘겨주면

00:09:05.980 --> 00:09:07.200
과부하가 걸리고 맙니다.

00:09:07.400 --> 00:09:08.460
앞에 세 장만 대충 훑어보고

00:09:08.460 --> 00:09:10.000
잘 꾸며진 거짓말에 현혹되어

00:09:10.000 --> 00:09:11.340
잘못된 사람을 채용하게 되겠죠.

00:09:11.520 --> 00:09:13.440
이를 해결하려면 검색을 단일 단계 과정으로

00:09:13.440 --> 00:09:14.760
처리하는 방식을 멈춰야 합니다.

00:09:14.960 --> 00:09:17.440
게이트 키퍼 역할을 할 보조계층을 도입해야 합니다.

00:09:17.680 --> 00:09:19.820
지금은 정답을 제공하는 것이 아니기 때문입니다.

00:09:20.040 --> 00:09:21.380
숙제만 던져주고 있는 셈이죠.

00:09:21.580 --> 00:09:23.660
그런데 여러분의 AI는 숙제를 하려고 만들어진 게 아닙니다.

00:09:23.800 --> 00:09:25.040
추론을 하려고 만들어졌죠.

00:09:25.200 --> 00:09:26.680
AI가 올바르게 추론하게 하려면

00:09:26.680 --> 00:09:28.260
올바른 출발점을 제공해야 합니다.

00:09:28.460 --> 00:09:29.440
상위 50개 후보를 검토하고

00:09:29.980 --> 00:09:32.560
무엇이 진실인지 판단할 관리자가 필요합니다.

00:09:32.780 --> 00:09:34.520
위미적 순위 지정, 시멘틱 랭킹

00:09:34.520 --> 00:09:35.980
그것이 진실을 위한 최종 필터입니다.

00:09:36.180 --> 00:09:38.580
여기서 L2E 랭커, 레랑커를 도입합니다.

00:09:38.580 --> 00:09:42.140
2026년 아키텍처에서 이것은 필수적인 보조계층입니다.

00:09:42.300 --> 00:09:44.260
검색 결과에 편집자 역할을 하죠.

00:09:44.440 --> 00:09:46.840
우리가 지금까지 구축한 워크플로우를 생각해보세요.

00:09:47.140 --> 00:09:49.820
먼저 하이브리드 검색이 광범위한 후보군을 가져옵니다.

00:09:50.000 --> 00:09:53.140
빠르고 효율적이며 수백만 개의 문서를 밀리초 단위로 스캔하지만

00:09:53.140 --> 00:09:54.240
깊이는 얕습니다.

00:09:54.480 --> 00:09:56.240
L2E 랭커는 그 정반대입니다.

00:09:56.500 --> 00:09:58.240
수백만 개의 문서를 보지 않습니다.

00:09:58.520 --> 00:09:59.900
오직 상위 50개만 보지만

00:09:59.900 --> 00:10:03.660
초기 검색계층은 결코 도달할 수 없는 수준의 깊이로 분석합니다.

00:10:03.920 --> 00:10:06.040
구체적으로 마이크로소프트 생태계에서는

00:10:06.040 --> 00:10:07.560
빙 파생 모델을 의미합니다.

00:10:07.560 --> 00:10:10.720
이들은 교차주의, 크로스 어텐션, 트랜스포머입니다.

00:10:10.900 --> 00:10:15.060
사전 계산된 문서 임베딩과 쿼리를 비교하는 초기 벡터 검색과 달리

00:10:15.060 --> 00:10:18.140
리 랭커는 쿼리와 문서를 동시에 함께 봅니다.

00:10:18.400 --> 00:10:21.440
실제 텍스트에 대한 심층적인 의미 비교를 수행하죠.

00:10:21.700 --> 00:10:24.740
더 이상 고차원 공간의 자표만 보고 있는 것이 아닙니다.

00:10:24.980 --> 00:10:28.900
문서가 특정 질문에 대한 정답을 실제로 담고 있는지 이해하기 위해

00:10:28.900 --> 00:10:30.540
깊이 있는 추론을 수행합니다.

00:10:30.780 --> 00:10:33.580
여기서 광고 검색 리 랭커 점수가 등장합니다.

00:10:33.580 --> 00:10:38.100
이 점수는 첫 번째 계층에서 보던 유사도 점수와는 다릅니다.

00:10:38.360 --> 00:10:41.720
유사도 점수는 이 문서는 수학적으로 가깝다는 것을 알려줍니다.

00:10:41.920 --> 00:10:45.380
리 랭커 점수는 이 문서는 사용자의 의도와 관련이 있다는 것을 알려줍니다.

00:10:45.540 --> 00:10:49.400
이는 목표 지점을 이게 가까운가에서 이게 질문에 대한 답이 되는가 로

00:10:49.400 --> 00:10:50.020
옮겨줍니다.

00:10:50.260 --> 00:10:53.160
이러한 구분만이 규제 산업에서 살아남을 수 있는 유일한 방법입니다.

00:10:53.160 --> 00:10:56.940
금융, 위료, 법률 분야 라면 0.8위 정확도는 실패를 의미합니다.

00:10:57.080 --> 00:10:58.980
0.9 이상의 정확도가 필요합니다.

00:10:59.160 --> 00:11:02.860
단일 단계 검색 프로세스로는 그 수준의 정확도에 도달할 수 없습니다.

00:11:03.180 --> 00:11:07.620
리 랭커는 거의 맞는 수준에서 엔터프라이즈급으로 도약하게 해줍니다.

00:11:07.840 --> 00:11:11.600
이는 아레이지에서 가장 흔한 실패 유형인 순서 오류 문제를 해결합니다.

00:11:11.820 --> 00:11:15.520
표준 검색에서는 완벽한 답변이 여덟 번째에 있을 수 있지만 키워드

00:11:15.520 --> 00:11:19.760
밀도가 적절하지 않거나 인베딩이 다소 모호해서 상위권에 오르지 못할 수 있습니다.

00:11:19.760 --> 00:11:23.480
LLM은 게으르기 때문에 처음 세 가지 결과에만 집중합니다.

00:11:23.620 --> 00:11:28.040
8번째에 있는 진실을 놓치고 첫 번째에 있는 노이즈를 바탕으로 한각을 생성합니다.

00:11:28.260 --> 00:11:29.760
리 랭커가 이를 막아줍니다.

00:11:30.000 --> 00:11:33.180
8번째에 있는 완벽한 답변을 찾아 첫 번째로 끌어올립니다.

00:11:33.500 --> 00:11:38.180
1번 문서에 키워드가 더 많더라도 8번 문서에 질의를 충족할 실제 의미론적

00:11:38.180 --> 00:11:39.440
내용이 있음을 식별합니다.

00:11:39.680 --> 00:11:43.180
검색에서 랭킹으로의 이러한 전환은 올해 여러분이 할 수 있는 가장 중요한

00:11:43.180 --> 00:11:44.340
아키텍처 변경입니다.

00:11:44.560 --> 00:11:47.900
이제는 얼마나 많은 정보를 찾을 수 있는지에 집착하는 것을 멈춰야 합니다.

00:11:47.900 --> 00:11:52.000
정보의 양보다 제시되는 정보의 순서가 더 중요하기 때문에 정보가

00:11:52.000 --> 00:11:54.260
제공되는 순서에 집착하기 시작해야 합니다.

00:11:54.420 --> 00:11:58.220
올바른 답변이 더미 맨 아래에 있다면 그 답변은 없는 것이나 다름없습니다.

00:11:58.400 --> 00:12:00.720
리 랭커는 진실이 항상 맨 위에 있도록 보장합니다.

00:12:00.940 --> 00:12:03.580
하지만 이것은 단순히 문서를 옮기는 것에 관한 이야기가 아닙니다.

00:12:03.740 --> 00:12:06.580
L2계층은 의미론적 캡션과 하이라이트도 제공합니다.

00:12:06.800 --> 00:12:10.800
문서 내에서 가장 관련성이 높은 구체적인 문장을 그대로 식별해냅니다.

00:12:11.040 --> 00:12:13.540
이것은 LLM에게 컨닝페이퍼를 주는 것과 같습니다.

00:12:13.540 --> 00:12:17.340
모델에게 10페이지짜리 pdf를 읽고 바늘을 찾으라고 하는 대신

00:12:17.340 --> 00:12:19.400
리 랭커는 바늘을 직접 가리키며

00:12:19.400 --> 00:12:21.880
2세 문장을 특별히 읽어라 라고 말합니다.

00:12:22.060 --> 00:12:24.300
이는 LLM의 인지적 부담을 줄여줍니다.

00:12:24.540 --> 00:12:28.700
모델이 문서의 다른 곳에 있는 관련 없는 맥락 때문에 산만해질 위험을 최소화합니다.

00:12:28.940 --> 00:12:32.560
이는 누군가에게 책 전체를 주는 것과 하이라이트된 단락 하나를 주는 것의 차이입니다.

00:12:32.780 --> 00:12:35.600
어느 쪽이 더 빠르고 정확한 답변으로 이어진다고 생각하시나요?

00:12:35.860 --> 00:12:38.760
2026년 이것이 우리가 신뢰 격차를 해결하는 방식입니다.

00:12:38.760 --> 00:12:43.580
사용자는 코파일럿이 모호한 답변 3개만 주고 확실한 답변 하나를 놓치면 신뢰를 잃습니다.

00:12:43.800 --> 00:12:47.800
리 랭커는 사용자가 가장 확실한 답변을 항상 가장 먼저 볼 수 있도록 보장하는 도구입니다.

00:12:47.980 --> 00:12:50.040
이는 진실을 가려내는 최종 필터 역할을 합니다.

00:12:50.240 --> 00:12:53.180
또한 원시 데이터와 실행 가능한 인텔리전스 사이의 간극을 메워줍니다.

00:12:53.360 --> 00:12:55.540
하지만 우리는 상충관계에 대해 솔직해져야 합니다.

00:12:55.740 --> 00:12:58.160
이 정도 수준의 정밀함에는 반드시 대가가 따르기 때문입니다.

00:12:58.360 --> 00:13:02.540
단순한 수학기반 검색에서 추론기반 순위 지정 방식으로 전환하면 시스템의 경제성이 달라집니다.

00:13:02.700 --> 00:13:04.120
연산 리소스가 추가됩니다.

00:13:04.120 --> 00:13:05.620
지연 시간도 추가됩니다.

00:13:05.800 --> 00:13:09.380
에이저와 같은 클라우드 호스팅 환경에서는 직접적인 비용이 발생합니다.

00:13:09.560 --> 00:13:15.600
이 계층을 올바르게 관리하지 않으면 얻게 된 정밀함은 월말에 받는 인프라 비용 청구서에 위해 상쇄되고 말 것입니다.

00:13:15.840 --> 00:13:18.160
우리는 정확성의 경제학을 이해해야 합니다.

00:13:18.400 --> 00:13:24.660
기업에서는 10달러짜리 완벽한 답변, 보다 10센트짜리 충분히 좋은 답변이 더 가치 있을 때가 많기 때문입니다.

00:13:24.660 --> 00:13:30.940
2026년의 과제는 0.9 수준의 정밀도에 대한 요구와 유한한 예산이라는 현실 사이에서 균형을 잡는 것입니다.

00:13:31.100 --> 00:13:35.700
감독자가 필요하지만 그 감독자가 회사에서 가장 비싼 인력이 되어서는 안 됩니다.

00:13:36.000 --> 00:13:41.540
그러나 이 정밀함에는 비용이 따르며 인프라를 관리하지 않으면 투자 수익률, ROI은 사라집니다.

00:13:41.720 --> 00:13:48.140
4단계 검색 아키텍처로의 전환은 답변의 품질과 예산의 지속 가능성 사이에 근본적인 긴장을 유발합니다.

00:13:48.140 --> 00:13:54.740
우리는 0.9 수준의 정밀도가 기술적으로 실현 가능한 지점에 도달했지만 재무적 타당성은 종종 간과되고 있습니다.

00:13:55.000 --> 00:13:58.260
RAG 도입 초기에는 개념이 작동함을 증명하는 데 집중했습니다.

00:13:58.520 --> 00:14:01.560
데이터 양이 적었기에 쿼리 당비용은 크게 신경 쓰지 않았습니다.

00:14:01.760 --> 00:14:05.360
하지만 사용자 규모가 10명에서 1만 명으로 늘어나면 계산법은 달라집니다.

00:14:05.560 --> 00:14:11.220
시스템을 신뢰할 수 있게 만드는 2차 추론계층은 시스템을 엄청나게 비싸게 만들 수도 있는 계층이기도 합니다.

00:14:11.220 --> 00:14:22.520
기업 환경에서 정확성은 사치제와 같아서 그 무게를 감당하도록 인프라를 설계하지 않으면 프로젝트는 가시적인 가치를 창출하기도 전에 스스로의 ROI를 갉아먹게 될 것입니다.

00:14:23.240 --> 00:14:26.260
정확성의 경제학, 성능 대비용의 문제입니다.

00:14:26.460 --> 00:14:31.680
에이저 AI 검색 표준계층의 혀실은 시멘틱 랭킹이 비용을 지불해야 사용할 수 있는 기능이라는 점입니다.

00:14:31.880 --> 00:14:35.440
단순히 스위치를 켰다고 기존 예산이 유지될 것이라 기대해서는 안 됩니다.

00:14:35.440 --> 00:14:43.500
앱 검색 리 랭커 점수 기능을 활성화하면 기본 검색 단위의 고정 비용 체계에서 벗어나 퍼리 시간 기준의 변동 비용 체계로 진입하게 됩니다.

00:14:43.700 --> 00:14:45.200
구체적인 수치를 살펴보겠습니다.

00:14:45.640 --> 00:14:52.740
20GB 데이터 세트에서 월 5만 회 정도의 중간 수준 퍼리를 처리할 경우 내월 300달러에서 800달러 사이에 추가 비용이 발생합니다.

00:14:52.920 --> 00:15:02.800
단일 부서라면 감당할 수 있다고 생각할지 모르지만 이것은 단지 검색계층일 뿐이며 LLM 토큰과 인베딩 생성 비용까지 고려하면 총 소유비용은 급격히 치솟기 시작합니다.

00:15:02.800 --> 00:15:07.020
우리는 기업들이 코파일럿 파일럿을 시작해 사용자 만족도에서 큰 성공을 거두고도

00:15:07.020 --> 00:15:11.200
첫 번째 전체 청구서가 도착하자마자 즉시 프로젝트를 중단하는 사례를 봐왔습니다.

00:15:11.380 --> 00:15:14.980
그들은 성능에만 너무 집중한 나머지 그 성능의 대가를 확인하는 것을 잊었습니다.

00:15:15.300 --> 00:15:19.380
이것이 바로 RAG 프로젝트가 연구실에서 운영 환경으로 전환되는 과정에서 자초되는 주된 이유입니다.

00:15:19.540 --> 00:15:21.840
정답을 얻는 비용이 틀리는 비용보다 더 비싸기 때문이죠.

00:15:22.000 --> 00:15:23.740
그렇다면 이 문제를 어떻게 해결해야 할까요?

00:15:23.880 --> 00:15:26.500
IT 부서의 예산을 탕진하지 않으면 서도 정확도를 유지하는 방법은 무엇일까요?

00:15:26.500 --> 00:15:28.660
그 해답은 위미론적 캐싱 시멘티 캐싱 에이스입니다.

00:15:28.820 --> 00:15:32.280
2026년 위미론적 캐싱은 기업을 위한 투자 대비 효과 ROI 위 구세주가 될 것입니다.

00:15:32.440 --> 00:15:34.120
우리가 해결하려는 문제는 다음과 같습니다.

00:15:34.440 --> 00:15:37.580
직원들은 종종 같은 질문을 조금씩 다른 방식으로 묻곤 합니다.

00:15:37.740 --> 00:15:39.160
휴가 정책이 어떻게 되나요?

00:15:39.340 --> 00:15:40.500
휴가 관련 규정을 알려주시겠어요?

00:15:41.420 --> 00:15:43.160
저는 며칠간 휴가를 갈 수 있나요?

00:15:43.320 --> 00:15:45.740
표준 RAG 파이프라인에서는 이러한 각 질문이 전체 검색,

00:15:46.000 --> 00:15:48.260
위미론적 재순위화, 그리고 LLM 후출을 발생시킵니다.

00:15:48.400 --> 00:15:50.640
동일한 답변에 대해 3번 인하 비용을 지불하고 있는 셈입니다.

00:15:50.640 --> 00:15:52.800
위미론적 캐싱은 이러한 낭비를 막아줍니다.

00:15:52.940 --> 00:15:57.060
경량 임베딩 모델을 사용하여 세 질문이 모두 같은 의도를 가지고 있음을 식별합니다.

00:15:57.260 --> 00:15:58.920
비싼 추론 엔진을 다시 거치는 대신,

00:15:59.300 --> 00:16:02.100
시스템은 고속 캐시에서 검증된 답변을 바로 가져옵니다.

00:16:02.280 --> 00:16:05.820
이를 통해 LLM 후출 횟수를 60%에서 80%까지 줄일 수 있습니다.

00:16:06.080 --> 00:16:08.080
사용자 경험의 변화는 더욱 극적입니다.

00:16:08.340 --> 00:16:12.820
GPT-4 실시간 추론을 위해 3초를 기다리던 것이 50mm초 미만의 캐시 적중으로 바뀝니다.

00:16:12.980 --> 00:16:14.700
이는 250배의 속도 향상입니다.

00:16:14.940 --> 00:16:17.400
순식간에 코파일럿이 즉각적으로 느껴지게 됩니다.

00:16:17.400 --> 00:16:22.440
사람들이 억지로 견뎌야 했던 느린 도구에서 실제로 즐겨 사용하는 반응형 비서로 변모하는 것입니다.

00:16:22.580 --> 00:16:24.780
하지만 캐싱만으로는 절반의 해결책일 뿐입니다.

00:16:24.980 --> 00:16:26.780
나머지 절반은 선택적 활성화에 있습니다.

00:16:27.100 --> 00:16:31.520
설계자들이 저지르는 가장 큰 실수 중 하나는 모든 쿼리의 의미, 론적 순위 지정을 적용하는 것입니다.

00:16:31.720 --> 00:16:36.820
2025년 경비보고서 템플릿이라는 제목의 문서를 찾기 위해 신층 추론 트랜스포머까지 사용할 필요는 없습니다.

00:16:37.100 --> 00:16:39.220
기본적인 키워드 일치만으로도 충분합니다.

00:16:39.480 --> 00:16:43.240
2026년의 전략은 단순한 검색은 저비용 계층에서 처리하도록 유지하는 것입니다.

00:16:43.240 --> 00:16:47.940
위도가 모호한 복잡한 자연어 쿼리에 대해서만 L2제 순위화 엔진을 실행해야 합니다.

00:16:48.100 --> 00:16:53.880
파이프라인의 앞단에 논리 게이트를 구현함으로써 추가적인 정확도가 꼭 필요한 쿼리를 위해 예산을 아낄 수 있습니다.

00:16:54.140 --> 00:16:56.320
마치 분류, 트리하지, 시스템처럼 생각해보세요.

00:16:56.560 --> 00:16:59.240
저비용 계층이 일상적인 요청의 70%를 처리하는 것입니다.

00:16:59.420 --> 00:17:03.060
비용이 많이 드는 시멘틱 계층은 실제 비즈니스 가치를 창출하는 30%를 담당합니다.

00:17:03.260 --> 00:17:05.240
이것이 바로 예산의 균형을 맞추는 방법입니다.

00:17:05.460 --> 00:17:07.920
검색 비용이 답변의 가치를 넘지 않도록 해야 합니다.

00:17:07.920 --> 00:17:12.600
질문의 가치가 생산성 10센트라면 이를 해결하는데 1달러의 컴퓨팅 비용을 쓰지 마십시오.

00:17:12.680 --> 00:17:14.780
데이터 자체의 계층화도 고려해야 합니다.

00:17:14.980 --> 00:17:17.780
모든 문서가 0.9위 정확도를 요구하는 것은 아닙니다.

00:17:17.980 --> 00:17:23.060
사내 식당 메뉴에는 빙빙 기반의 재순위 화기가 필요 없지만 규제 준수 문서에는 필요합니다.

00:17:23.240 --> 00:17:30.160
검색 인덱스를 분할하고 각각의 다른 순위 전략을 적용함으로써 정보의 중요도에 따라 지출을 최적화할 수 있습니다.

00:17:30.500 --> 00:17:33.180
이것이 바로 우리가 가치 기반 검색이라 부르는 것입니다.

00:17:33.420 --> 00:17:36.360
정확도는 이분법적 선택이 아니라는 사실을 깨닫는 것입니다.

00:17:36.360 --> 00:17:37.980
이는 가변적 인척도입니다.

00:17:38.200 --> 00:17:42.580
아키텍트로서 당신의 임무는 비즈니스 부서의 특정 요구사항에 따라 그 척도를 조절하는 것입니다.

00:17:42.780 --> 00:17:45.360
목표는 가장 정확한 시스템을 만드는 것이 아닙니다.

00:17:45.540 --> 00:17:49.240
목표는 비즈니스가 실제로 운영할 수 있는 가장 정확한 시스템을 만드는 것입니다.

00:17:49.440 --> 00:17:53.860
왜냐하면 너무 비싸서 사용할 수 없는 완벽한 ai는 그저 정교한 종이 누름돌일 뿐이기 때문입니다.

00:17:54.100 --> 00:17:57.520
2026년의 승자는 가장 높은 벤치마크를 기록한 기업이 아닐 것입니다.

00:17:57.760 --> 00:18:03.540
성장에 비례하여 확장 가능한 비용으로 0.85위 정확도를 제공하는 방법을 알아낸 기업이 승자가 될 것입니다.

00:18:03.540 --> 00:18:07.420
이들은 인프라를 나중에 문제가 아닌 제약 조건으로 다룬 기업들입니다.

00:18:07.580 --> 00:18:10.140
비용관리는 방정식의 기술적인 측면입니다.

00:18:10.340 --> 00:18:13.760
하지만 경제성을 올바르게 확보하더라도 여전히 사람과 관련된 문제가 남습니다.

00:18:13.960 --> 00:18:17.840
구매한 라이선스와 사용자가 시스템에 갖는 실제 신뢰 사이의 격차를 해결해야 합니다.

00:18:18.040 --> 00:18:21.660
사용자가 답변을 신뢰하지 않는다면 그 답변을 생성하는데 얼마가 들었는지는 중요하지 않기 때문입니다.

00:18:21.840 --> 00:18:23.640
그들은 그저 예전의 검색 방식으로 돌아갈 것입니다.

00:18:23.840 --> 00:18:25.720
그리고 그것이 우리를 거버넌스 격차로 이끕니다.

00:18:25.920 --> 00:18:28.280
신뢰는 단지 기술적 정확성만을 의미하지 않기 때문입니다.

00:18:28.280 --> 00:18:30.540
그것은 정확성을 둘러싼 체계에 관한 것입니다.

00:18:30.740 --> 00:18:35.100
AI가 오른 것뿐만 아니라 애초에 오라도 되는 권한이 있음을 아는 것이 중요합니다.

00:18:35.280 --> 00:18:39.960
비용관리는 기술적 측면이지만 경영진의 측면은 거버넌스 격차에 관한 것입니다.

00:18:40.180 --> 00:18:42.980
인프라 최적화는 방정식의 일부만 해결할 뿐입니다.

00:18:43.200 --> 00:18:45.860
세계에서 가장 비용 효율적인 정밀 엔진을 만들 수 있지만

00:18:45.860 --> 00:18:50.740
경영진이 그 결과물을 두려워한다면 프로젝트는 절대 샌드박스를 벗어나지 못할 것입니다.

00:18:50.740 --> 00:18:55.460
이제 병목 현상은 컴퓨팅 예산이나 재순이 화기의 지연 시간이 아닌 시점에 도달했습니다.

00:18:55.780 --> 00:19:00.980
진정한 마찰은 할당된 나이선스와 AI가 실제로 운영할 수 있는 권한 사이의 격차입니다.

00:19:01.200 --> 00:19:04.880
거버넌스 격차, 왜 정책이 실제 사용을 따라 가지 못하는가에 대한 이야기입니다.

00:19:05.060 --> 00:19:07.840
현재 우리 생태계에는 1500만 개의 유료 자석이 있습니다.

00:19:08.140 --> 00:19:11.900
하지만 업무 현장의 전환율은 35%라는 충격적인 수치에 머물러 있습니다.

00:19:12.220 --> 00:19:16.020
즉 나이선스를 가진 사용자 3명 중 2명은 사실상 도구를 외면하고 있다는 뜻입니다.

00:19:16.240 --> 00:19:18.680
그들은 세 번째 환각을 경험한 뒤 사용을 중단합니다.

00:19:18.680 --> 00:19:23.700
신뢰는 깨지기 쉬우며 잘못된 검색은 교육 세션이 쌓아올리는 것보다 훨씬 빠르게 신뢰를 파괴합니다.

00:19:23.860 --> 00:19:25.780
거버넌스는 단순한 문서가 아닙니다.

00:19:26.000 --> 00:19:27.640
그것은 기술적 인통제 수단입니다.

00:19:27.880 --> 00:19:30.760
그것 없이는 귀하의 RAG 프로젝트도 12주차에 실패하고 맙니다.

00:19:30.940 --> 00:19:33.020
그렇다면 새로운 모델은 실제로 어떤 모습일까요?

00:19:33.220 --> 00:19:35.600
그것은 거버넌스가 적용된 에이전트로의 전환입니다.

00:19:35.800 --> 00:19:37.280
책보세 시대는 저물고 있습니다.

00:19:37.640 --> 00:19:41.980
우리는 질문을 던지고 수학적 알고리즘이 문서를 찾아주길 바라는 세상에서 벗어나고 있습니다.

00:19:42.320 --> 00:19:43.920
새로운 모델의 핵심은 위임입니다.

00:19:43.920 --> 00:19:48.540
단순히 검색만 하는 시스템에서 검색 과정 자체를 추론하는 시스템으로 나아가는 것입니다.

00:19:48.720 --> 00:19:51.640
우리는 거버넌스가 적용된 에이전트의 시대로 진입하고 있습니다.

00:19:51.920 --> 00:19:57.060
단순히 데이터를 찾는 것이 아니라 엔진을 가동하기 전에 사내 규칙을 먼저 이해하는 시스템이죠.

00:19:57.340 --> 00:19:59.920
2026년 로드맵, 검색에서 추론으로

00:19:59.920 --> 00:20:04.780
앞으로 24개월 동안 경쟁력을 유지하려면 로드맵을 에이전트형 RAG로 전환해야 합니다.

00:20:05.020 --> 00:20:06.320
이것이 다음 개척지입니다.

00:20:06.560 --> 00:20:09.500
표준 설정에서 시스템은 쿼리를 받아 단일 검색을 수행합니다.

00:20:09.720 --> 00:20:12.180
에이전트 설정에서 AI는 검색을 계획합니다.

00:20:12.180 --> 00:20:18.240
요청을 분석하고 벡터 저장소를 조회할지, SQL 데이터베이스를 커리할지, 아니면 실시간 API를 확인할지 결정합니다.

00:20:18.400 --> 00:20:20.840
진실을 찾기 위해 필요한 단계를 논리적으로 추론합니다.

00:20:21.040 --> 00:20:23.680
이 지점이 바로 그래프 RAG 가업계 표준이 되는 이유입니다.

00:20:23.840 --> 00:20:28.720
99% 위 정확도가 필요한 중요한 환경에서는 평면적인 문서 조각에만 의존할 수 없습니다.

00:20:29.020 --> 00:20:34.060
엔티티, 사람, 프로젝트, 정책 간의 관계를 맵핑하는 지식 그래프가 필요합니다.

00:20:34.280 --> 00:20:37.760
그래야 AI가 수석 엔지니어의 예산을 묻는 질문을 이해하고,

00:20:37.760 --> 00:20:43.180
해당 인물을 찾은 뒤 담당 프로젝트와 관련된 구체적인 재무원장을 파악할 수 있습니다.

00:20:43.440 --> 00:20:47.160
이는 일반적인 벡터 검색으로는 결코 수행할 수 없는 다단계 추론체인입니다.

00:20:47.340 --> 00:20:49.140
하지만 냉혹한 진실을 말씀드리겠습니다.

00:20:49.420 --> 00:20:52.860
비하의 AI는 라이선스 수가 아니라 데이터 메타데이터에 위해 가로막혀 있습니다.

00:20:52.860 --> 00:20:58.380
셰어포인트 사이트가 문서 1, 도크엑세나 최종 밑줄, 진짜 최종 v, e.pdf 같은 파일들의 무덤이라면

00:20:58.380 --> 00:21:00.700
그 어떤 에이전트 추론으로도 해결할 수 없습니다.

00:21:00.900 --> 00:21:05.060
다가올 경쟁 지체를 피하는 유일한 방법은 데이터 기반을 미리 정비하는 것입니다.

00:21:05.280 --> 00:21:09.980
검색계층을 고치는 것을 미루는 조직은 35% 위 도입률에 갇혀있는 동안

00:21:09.980 --> 00:21:13.880
경쟁사들은 전체 워크플로우를 자동화하고 있을 것입니다.

00:21:14.140 --> 00:21:19.740
우리는 단순한 도구로서의 벡터 검색에서 핵심 비즈니스 역량으로서의 의미론적 전략으로 나아가고 있습니다.

00:21:20.000 --> 00:21:22.300
비하의 혁신은 검색감사에서 시작됩니다.

00:21:22.300 --> 00:21:24.900
AI가 얼마나 빨리 응답하는지 측정하는 것을 멈추고

00:21:24.900 --> 00:21:27.200
얼마나 자주 정답을 맞추는지 측정하기 시작하세요.

00:21:27.360 --> 00:21:30.300
가장 복잡한 사용 사례 중 상위 10%를 식별하세요.

00:21:30.520 --> 00:21:32.700
정확도가 제한이 아닌 필수인 경우를 찾아

00:21:32.700 --> 00:21:36.040
지금 바로 해당 파이프라인의 L2 리랭커를 구현하십시오.

00:21:36.180 --> 00:21:38.560
이 모델의 변화가 여러분의 아키텍처에 대한 생각을 바꾸었다면

00:21:38.560 --> 00:21:42.080
링크딘에서 저 미루코 피터스를 팔로우하고 더 심층적 이 내용을 확인하세요.

00:21:42.260 --> 00:21:45.500
이번 내용이 여러분의 RAG 프로젝트가 현재 실패하는 이유를 진단하는 데 도움이 되었다면

00:21:45.500 --> 00:21:46.400
리뷰를 남겨주세요.

00:21:46.400 --> 00:21:48.640
여러분의 리뷰는 이 팟캐스트가 여전히 탑 K위 덫에서

00:21:48.640 --> 00:21:50.720
고군분투하는 아키텍트들에게 닿을 수 있도록 돕습니다.

00:21:50.920 --> 00:21:51.400
다음 단계로

00:21:51.400 --> 00:21:53.600
이 정밀함이 향후 어디로 향할지 확인하기 위해

00:21:53.600 --> 00:21:56.100
에이전트 워크플로우에 대한 신층 분석 영상을 확인해보세요.
