Тема сегодняшнего разговора знакома почти всем, но мало кто может объяснить ее простыми словами. RAG или генерация с дополнением выборкой. Вы встречали эту аббревиатуру повсюду, в анонсах Microsoft, на конференциях по E, в блогах. Но что она означает на самом деле? И, что более важно, почему вам стоит об этом знать? Дело вот в чем. Большие языковые модели, такие как GPT-4O, очень мощные. Они могут писать эссе, обобщать документы и даже создавать код. Но у них есть две большие проблемы. Во-первых, их знания ограничены определенным моментом времени. Спросите чат GPT о том, что произошло вчера, и он ничего об этом не знает. Во-вторых, эти модели никогда не видели внутренних данных вашей компании, ваших политик, сведений о продуктах и писем клиентов. Поэтому, когда вы задаете LLM вопрос о вашем бизнесе, она просто гадает. И вот здесь на помощь приходит генерация с дополнением выборкой. RAG — это не новая модель, не более крупная или продвинутая версия GPT. Это совершенно другой подход. Вместо того, чтобы просить LLM искать ответы в своей обучающей памяти, RAG сначала находит нужную информацию в ваших собственных данных и передает ее модели вместе с вопросом. Затем модель использует этот контекст, чтобы дать вам ответы, основанные на реальном, актуальном контенте, а не на догадках. Без RAG ваш и работает на основе данных, устаревших на месяцы или годы. С RAG он работает с вашими актуальными документами прямо сейчас. В этом разница между И, который звучит уверенно, но может ошибаться, и И, который точно показывает, откуда он взял ответ. Вот что мы сегодня обсудим. Сначала мы рассмотрим две проблемы, которые делают RAG необходимым. Затем мы разберем, что такое RAG на самом деле — выборка, дополнение, генерация. Далее мы пройдемся по ключевым сервисам Azure, Azure AI Search, Azure Open AI и Azure iPhone 3. И закончим реальным примером, чтобы вы увидели, как все эти части работают вместе. Начнем с самой проблемы. Когда вы поймете ее, решение станет очевидным. Две проблемы, которые есть у LLM. Итак, что же не так с большими языковыми моделями? На самом деле, две вещи. Во-первых, их знания заморожены. Подумайте об этом. При обучении GPT-4O использовался снимок интернета, который сейчас устарел на месяцы или годы, поэтому модель не знает о новых продуктах, недавних законах или вчерашних новостях. Спросите ее об изменении политики на прошлой неделе, и она никак не сможет это узнать. Этой информации просто нет в ее обучающих данных. Во-вторых, LLM никогда не видели ваших частных данных, внутренних документов, писем клиентов и закрытых баз данных. У модели нет никакого доступа к этой информации. Поэтому, когда сотрудник спрашивает о специфике ваших бизнес-процессов, модель не может ответить. Она не знает того, что знаете вы. Некоторые считают, что дообучение решает эту проблему. Вы берете базовую модель и немного дообучаете ее на своих данных. Но у дообучения есть свои минусы. Это дорого. Вы платите за время работы GPU и труд инженеров. Оно не решает проблему устаревания данных. После дообучения модель остается зафиксированной на том моменте времени. И она не может работать с данными, которые часто меняются, например, с уровнем запасов или ценами. Дообучение похоже на заучивание учебника наизусть. Полезно, но человек все равно не может узнать новости из сегодняшней газеты. Настоящее решение проще. Дайте модели доступ к вашим знаниям в момент ответа, вместо того, чтобы пытаться втиснуть все в ее память. Не заставляйте ее все запоминать. Пусть она ищет информацию в реальном времени в ваших актуальных данных. Именно это делает RAG. Простая идея, но она меняет все. Что такое RAG на самом деле? Итак, вот RAG в одном предложении. Вместо того, чтобы просить модель найти ответ в обучающих данных, мы сначала находим нужную информацию, а затем передаем ее модели вместе с вопросом. В этом суть идеи. Три простых шага. Поиск, дополнение и генерация. Позвольте привести аналогию. Представьте библиотекаря. Вы заходите в библиотеку и задаете вопрос. Вы же не ожидаете, что библиотекарь выучил наизусть все книги? Верно? Это было бы нелепо. Вместо этого вы просите его найти нужную книгу, открыть нужную страницу и прочитать вам ответ. Библиотекарь ничего не заучивает. Сначала он ищет, а затем читает. И это именно то, что делает RAG. Сначала поиск, потом генерация. Вот как это работает на практике. Пользователь задает вопрос. Система ищет в базе знаний, в ваших документах, ваших данных, вашей конфиденциальной информации. Найденное передается большой языковой модели, и та генерирует ответ на основе этого контекста. И вот здесь важный момент. LLM никогда не видит ваши необработанные данные целиком. Она видит только то, что передала ей поисковая система. Это не недостаток. Это функция безопасности. Ваши конфиденциальные документы остаются в вашем хранилище. Во время запроса модель получает лишь фрагменты, необходимые для ответа на конкретный вопрос. Никакого обучения на ваших данных, никакого запоминания, никаких утечек. Ваши данные остаются там, где им и положено быть. Таким образом, RAG решает обе проблемы, о которых мы говорили ранее. Устаревшие данные. Больше не проблема. Ваша база знаний всегда актуальна. Приватные данные. Модель видит только то, что вы решили извлечь. Это как дать библиотекарю доступ к вашему архиву, но позволить достать лишь ту папку, которая нужна вам прямо сейчас. Векторные представления и семантический поиск. Возможно, вам интересно, как именно работает этот поиск. Дело не в подборе ключевых слов или функции «Поиск по вашим документам». Это нечто гораздо более умное. Это называется семантический поиск, и он работает на векторных представлениях. Позвольте объяснить, что такое векторное представление. Это длинный список чисел, который отражает смысл текста, словно координаты на карте. У каждого документа есть свои координаты на этой карте смыслов. Когда вы задаете вопрос, система превращает его в координаты и находит документы, которые находятся ближе всего к ним. Ключевое слово здесь – семантический. Суть не в поиске точных слов, а в понимании концепций. Если вы ищете бюджетные отели, система найдет документы о недорогом жилье, даже если этих слов там нет. Почему? Потому что их смысл близок. Векторные представления для слов «бюджетный» и «недорогой» расположены на карте рядом друг с другом. Специальная компактная модель, такая как Azure Text Embedding 3 Large, создает эти представления. Это не огромная языковая модель, а узкоспециализированный инструмент для одной задачи – превращать текст в эти числовые координаты. Вот что делает RAG таким мощным. Ваши документы преобразуются в представление один раз при индексации. Затем, когда поступает запрос, система за миллисекунды находит наиболее релевантный контент, даже если точные слова пользователя не встречаются в документах. Она понимает намерения, а не просто введенные ключевые слова. Azure AI Search – поисковый движок. Итак, теперь вы понимаете концепцию. Сначала извлечение, затем генерация. Но где именно происходит это извлечение? Здесь в игру вступает Azure AI Search. Azure AI Search – это сервис, который хранит, индексирует и извлекает ваш контент. Представьте его как систему хранения данных для вашего RAG приложения. Он выполняет две основные задачи. Давайте разберем их. Во-первых, индексация – это подготовка ваших данных к поиску. Во-вторых, поиск – это непосредственно нахождение нужного контента, когда кто-то задает вопрос. Давайте сначала рассмотрим процесс индексации. Вы указываете Azure AI Search на источник данных. Это может быть хранилище био-лобби объектов с PDF-файлами, SQL-база данных, записями клиентов или многие другие источники. Сервис считывает эти документы, разбивает их на небольшие фрагменты, создает векторные представления для каждого из них с помощью модели, о которой мы говорили ранее, и сохраняет все в поисковом индексе. Представьте индекс как гигантский, тщательно упорядоченный каталог. Каждый фрагмент контента получает уникальный ID, текст и набор координат на этой карте смыслов. Теперь о процессе поиска. Когда пользователь задает вопрос, AI Search преобразует его в вектор с помощью той же модели имбиддингов, а затем сканирует индекс, чтобы найти фрагменты, чьи координаты ближе всего к координатам вопроса. Система возвращает лучшие совпадения, обычно от 5 до 10 наиболее релевантных, и делает это за миллисекунды. Здесь у вас есть несколько отличных вариантов. Чисто векторный поиск находит контент по смыслу, поэтому похожие концепции появляются, даже если слова не совпадают. Поиск по ключевым словам работает как обычная поисковая система, находя точные совпадения словарей. Или можно использовать гибридный поиск, объединяющий оба подхода, и это обычно лучший выбор. Есть также семантическое переранжирование, которое берет первоначальные результаты и сортирует их по тому, насколько точно они отвечают на вопрос. Это как второй проход, который позволяет заметить то, что могло быть упущено в первый раз. Стоит знать, что Azure AI Search может стоить недешево. Базовый тариф начинается примерно от 75 долларов в месяц и растет дальше. Если вы только экспериментируете, используйте бесплатный уровень или не забывайте удалять ресурсы, когда закончите. Однако для промышленного использования затраты обычно окупаются. Вы платите за скорость и надежность при масштабировании. Azure OpenAI и iPhone 3 генерация и оркестрация Итак, данные проиндексированы и готовы к поиску, но LLM все еще должна понять ваш вопрос и дать качественный ответ. Здесь на помощь приходят Azure OpenAI и Azure iPhone 3. Azure OpenAI предоставляет саму языковую модель GPT-4O, GPT-4, один или любую другую модель на ваш выбор. Это механизм генерации. Он получает промп, включающий исходный вопрос пользователя и контекст, полученный от Azure AI Search. Модель изучает этот контекст и формирует ответ на основе найденной информации. Нельзя просто загрузить все подряд и надеяться на удачу. Вам нужен системный промп, набор инструкций, которые вы заранее даете модели, чтобы определить правила ее поведения. Вы указываете ей использовать только предоставленный контекст, ссылаться на источники и, что самое важное, говорить «я не знаю», если релевантной информации нет в найденных документах. Это заставляет модель быть честной. Без хорошего системного промпта модель может обратиться к своим обучающим данным или, что еще хуже, выдумать ответ. Так как же объединить все эти компоненты воедино? Именно для этого и нужен Azure iPhone 3. Это портал, где вы создаете проект, развертываете модели, подключаете источники данных и тестируете своего агента. Думайте об этом как о центре управления для всей вашей системы R&G. В Phone 3 можно добавить индекс Azure AI Search в качестве источника знаний для вашего агента, не написав при этом ни строчки кода для базовой настройки. Вы просто создаете подключение, выбираете индекс, и агент начинает автоматически выполнять к нему запросы. Портал берет на себя всю оркестрацию. Когда пользователь задает вопрос, агент знает, что нужно обратиться к iSearch, получить нужные фрагменты данных и передать их в LLM вместе с исходным вопросом. Вот конкретный пример. В одном руководстве я видел, как кто-то создал агента для рекомендаций фильмов, используя набор данных Netflix. Они загрузили CSV-файл с названиями фильмов, описаниями и данными об актерах в Azure Blob Storage, а затем использовали Azure AI Search для индексации этих данных. В Azure AI Phone 3 они создали агента на базе GPT-4O и подключили к нему индекс iSearch. Когда пользователь спросил «Я люблю три лиры, порекомендуй мне что-нибудь», агент выполнил поиск по индексу, нашел три лиры из этого конкретного набора данных и выдал рекомендации. И вот что самое важное, он рекомендовал только те фильмы, которые действительно были в этом наборе данных. Он ничего не выдумал, не использовал свои тренировочные данные и работал исключительно с предоставленным контентом. В этом и заключается сила RAG. Классический RAG против агентного RAG. Теперь давайте поговорим о настройке. Существует два основных шаблона – классический RAG и агентный RAG. Выбор зависит от того, что именно вы создаете. Классический RAG – это прямолинейный подход. Один запрос поступает, один поиск выполняется, один ответ возвращается. Просто, быстро, предсказуемо. Представьте, что вы подходите к стойке регистрации в офисном здании и просите один конкретный документ. Секретарь берет его, отдает вам – готово. Классический RAG отлично подходит для ответов на фактические вопросы по одной теме. Например, «Какова политика компании по удаленной работе?» или «Покажи мне шаги по устранению неполадок для этого кода ошибки». Это надежно, недорого и легко исправить, если что-то идет не так, потому что процесс линейный. Агентный RAG – это другое. iAgent сам решает, как извлекать информацию. Он может задавать несколько уточняющих вопросов, искать по разным индексам, уточнять результаты и обобщать данные из разных источников перед ответом. Это как иметь управляющего зданием, который координирует работу разных отделов, чтобы собрать все части воедино. Он не просто берет один файл. Он общается с отделом кадров, проверяет записи, сверяет политики и возвращается с полным ответом. Компания Microsoft провела собственные тесты и выяснила, что агентный RAG повышает релевантность ответов на сложные вопросы примерно на 40%. Это значительный показатель, однако он требует в 3-10 раз больше токенов и увеличивает задержку. Для простых вопросов эта дополнительная работа избыточна. Классический RAG отлично с ними справляется. Так когда и что использовать? Классический подход для рутинных массовых запросов, где важнее всего скорость и стоимость. Агентный подход для многоэтапных, неоднозначных или междисциплинарных вопросов, где точность оправдывает дополнительные вычисления. Раздел «Подключение. Комплексный пример». Давайте посмотрим, как все эти элементы работают вместе на реальном примере. Представьте, что вы создаете агента поддержки клиентов для туристического агентства Marigold Travels. У вас есть брошюры о поездках, отзывы об отелях и документы с правилами, разбросанные по всей компании. Вы хотите, чтобы клиенты задавали вопросы и получали точные ответы на основе реального контента, а не общих догадок. Шаг 1. Сохраните весь этот контент в Azure Blobs Storage. Брошюры в одной папке, отзывы в другой, правила в третьей, просто файлы в контейнере. Шаг 2. Используйте Azure и iSearch для индексации этих данных, запустив мастер импорта данных, указав на хранилище био-лобби объектов и позволив системе выполнить работу. Сервис считывает каждый документ, разбивает его на фрагменты, создает векторные имбидинги и строит индекс для поиска. Весь процесс занимает всего несколько минут. Шаг 3. Перейдите в Azure iPhone 3 и создайте агента. Разверните GPT-4O в качестве модели, напишите системный промп, требующий использовать только предоставленный контекст и ссылаться на источники, а затем подключите индекс Azure AI и Search как источник знаний. Несколько кликов и готово. Теперь клиент спрашивает, какой отель в Дубае с лучшими отзывами стоит до 300 долларов. Агент получает этот вопрос, и отправляет его в Azure AI Search. Azure AI Search преобразует его в вектор и находят наиболее релевантные фрагменты из ваших отзывов и брошюр. Эти фрагменты вместе с исходным вопросом передаются в GPT-4O. Модель анализирует их, определяет лучший вариант и формирует ответ со ссылками на ваши исходные документы. Важный момент, LLM никогда не запоминала эти данные. Она никогда не обучалась на ваших отзывах об отелях. Она каждый раз работает с вашим конкретным контентом. Добавьте завтра новые отзывы, и ответы обновятся автоматически. Удалите устаревшую брошюру, и она перестанет появляться в выдаче. Модель не нужно переобучать. Ей просто нужен правильный уровень поиска информации. Итак, как же на самом деле начать создание RAG в Azure? Давайте разобьем это на три этапа. Прежде всего, изучите свои данные. Прежде чем выбирать сервис, определитесь, где хранятся ваши данные, как они организованы и у кого должен быть к ним доступ. Успех RAG полностью зависит от качества ваших данных. Затем не усложняйте, не перегружайте настройку. Используйте мастер импорта данных в Azure AI Search, чтобы проиндексировать только один набор документов. Протестируйте систему базовыми запросами. Убедитесь, что поиск работает идеально, прежде чем добавлять LLM. Большинство сбоев RAG – это не проблемы модели. Это проблемы поиска. Последний шаг – добавление LLM. Когда поиск начнет выдавать верные результаты, тогда подключайте генерацию. Именно в этот момент вы подключаете Azure OpenAI и пишете системный пром. Суть в том, что RAG – это не готовый продукт. Это шаблон, который вы создаете сами. Azure предоставляет компоненты, хранилища, поиск, модели и связующие звенья для них. Вам лишь нужно правильно все это соединить. Если это помогло вам увидеть общую картину, подписывайтесь на простые разборы сложных тем. Напишите в комментариях, для чего вы используете RAG. Мне интересно узнать, что вы создаете.