Итак, что именно меняется, когда компания переходит от одного и чат-бота к десяткам E-инструментов? Поначалу все кажется простым. Одна команда добавляет чат-бота для службы поддержки, другая использует и для поиска по корпоративным документам, а заметки со встреч создаются автоматически. Рабочий процесс может прочитать письмо, выделить запрос и отправить его в нужную систему. Вскоре у компании появляется несколько моделей – агентов, способных действовать, и инструментов, работающих с бизнес-данными. Каждая команда часто подключается напрямую к разным ИИ-провайдерам, используя свои ключи, лимиты и правила безопасности. Расходы становится трудно отследить. Ключ доступа может оказаться не в тех руках. А когда агент вызывает инструмент, никто может не знать точно, что именно он пытался сделать. Здесь на помощь приходит Microsoft IG2. К концу этого выпуска вы поймете, что это такое, как работают его компоненты и когда это становится полезным для вашего бизнеса. Представьте себе офисные здания со множеством боковых дверей. Можно оставить все двери открытыми в надежде, что ими пользуются правильно, а можно направить всех через один контролируемый вход. Одна главная дверь для ИИ. Microsoft IG2 – это набор функций управления Azure API, который дает вам единую точку контроля для всего ИИ-трафика. Давайте разберемся на простом языке. Представьте, что ИИ-инфраструктура вашей компании – это современные офисные здания. ИИ-модели – это кабинеты, где происходят вычисления. Ваши агенты – это сотрудники, перемещающиеся по зданию и решающие, какую одобренную задачу выполнить следующий. Инструменты – это служебные входы, ведущие в отделы кадров, финансов, к данным клиентов и внутренним файлам. AIG2 – это стойка регистрации и пост охраны при входе. Он проверяет входящих, применяет правила и фиксирует путь запросов до того, как они попадут вглубь здания. Запрос следует по простому маршруту. Приложение – Капайлот или агент отправляет запрос на шлюз. Шлюз проверяет правила, применимые к этому отправителю, а затем направляет запрос к одобренной модели, инструменту, агенту или бизнес-апи. А когда приходит ответ, он снова проходит через шлюз, прежде чем попасть к пользователю. Этот единственный путь позволяет бизнесу управлять доступом, лимитами, проверками безопасности и логированием, не внедряя эти элементы в каждое приложение отдельно. Это также разделяет две задачи, которые часто смешиваются. Команды разработки приложений могут сосредоточиться на опыте конечного пользователя. Они создают помощника поддержки, интерфейс поиска по документам или рабочий процесс, экономящий время. Тем временем команда платформы управляет общими правилами за кулисами, решая, какие сервисы одобрены, кто имеет право их использовать, какой объем трафика может передавать проект и что именно подлежит логированию. Вам не нужно, чтобы каждая команда придумывала новый план безопасности для каждого чат-бота. Microsoft IG2A может быть установлен перед различными типами ИИ-трафика. Он может управлять вызовами моделей ИИ и вызовами инструментов по протоколу MCP, моделл контекст протокол. Он также может управлять трафиком между агентами, А2И и бизнес-апи, которые ваша компания уже использует, например, апи для проверки заказа, чтения кадровой политики или открытия этикета в поддержку. Это важно, поскольку большинству компаний не нужно отказываться от существующих систем, чтобы начать использовать ИИ. Им просто нужен безопасный способ взаимодействия ИИ с этими системами, и шлюз помогает установить контроль над этим соединением. Итак, Microsoft IG2A — это не модель. Он не пишет ответы самостоятельно. Это также не конструктор агентов, поэтому вы не используете его для создания кадрового ассистента или обучения финансового агента тому, что нужно делать. И он не заменяет Microsoft Foundry, где команды могут создавать, тестировать и управлять, и проектами. Вместо этого он располагается посередине. Foundry помогает работать с моделями ИИ-агентами, в то время как Azure API Management IG2A помогает контролировать трафик, который создают эти модели, агенты и инструменты. Вы уже знакомы с Azure API Management как со средством управления обычными API. API — это просто способ для одной программы запросить что-либо у другой программы. AIG2A расширяет эту идею для работы с ИИ, потому что запросы к ИИ порождают новые вопросы. Кто использовал какую модель? Сколько токенов было затрачено? Может ли этот агент вызвать этот инструмент? Должен ли этот промп вообще доходить до модели? Размещение шлюза посередине дает вам единое место для ответов на эти вопросы. И первая точка напряжения появляется, когда каждое приложение начинает выбирать свою собственную конечную точку модели. Одна точка входа — множество моделей. Когда ваше приложение подключается напрямую к одной конечной точке модели, этот выбор оказывается зашитым в сам код. Часто код привязан к одному провайдеру, одному конкретному развертыванию, одному региону Azure и фиксированному набору ограничений. Это отлично работает, пока проект невелик. Но представьте, что ваша система поддержки работает на одной модели в одном регионе. Спустя месяцы эта модель достигает предела мощности. Появляется более совершенная модель за меньшие деньги, или вашему бизнесу нужно переехать в другой регион. Без общего уровня каждой команде приложение приходится менять свой код, тестировать его заново и развертывать обновления. Это приводит к медленным и проблемным изменениям. Microsoft iGitway обеспечивает вашим приложением надежный централизованный вход. Они отправляют запросы туда, а выбор модели может меняться за кулисами, без необходимости обновлять само приложение. Представьте это как единый номер телефона компании. Клиенты звонят по одному номеру, даже если вызов переключают на другой отдел или офис. Им не нужно знать, как именно обрабатывается их звонок. С iGitway ваше приложение обращается к одной утвержденной конечной точке, а шлюз перенаправляет запрос к модели, подходящей для этой задачи. У Microsoft также появился новый подход под названием Unified Model API. Проще говоря, он позволяет приложению использовать привычный стиль запросов OpenAI, в то время как шлюз связывает этот запрос с различными поставщиками моделей. Таким образом, приложение отправляет один и тот же тип запроса, а шлюз берет на себя все нюансы работы с провайдерами. В зависимости от ваших настроек, запрос может быть направлен в развертывание Azure OpenAI, модель в Microsoft Foundry, Anthropik, Google Gemini или Amazon Bedrock. Маршрутизация следует заданным вами правилам, а не жестко закодированным параметрам внутри приложения. Это дает команде платформы возможность вносить изменения, не затрагивая пользователей приложения. Допустим, в вашей компании работает и ассистент для поддержки клиентов. Большинство вопросов простые. Где мой заказ? Как мне сбросить пароль? На них может быстро ответить небольшая и недорогая модель, что позволяет избежать лишних расходов. Но вот клиент задает длинный, сложный вопрос, требующий рассуждения или знания о продукте. Шлюз направляет такой запрос к более мощной модели. Приложение поддержки по-прежнему отправляет запросы одним и тем же способом, поэтому команде не нужно знать, какая модель обработала вопрос. А разработчикам не нужно настраивать отдельные подключения для каждого варианта. А как насчет емкости? У конечных точек и моделей есть свои лимиты. Они могут обрабатывать только определенный объем трафика за заданный период времени. Если все запросы направляются в одно развертывание, один час пиковой нагрузки может замедлить или полностью заблокировать работу системы. Шлюз может распределять трафик между несколькими развертываниями, перенаправляя его в другой регион при перегрузке или используя резервный маршрут, если конечная точка перестает работать. Это не значит, что запросы должны перемещаться хаотично. Правила все равно устанавливаете вы. Например, трафик клиентов получает приоритет на основной модели, для внутреннего тестирования используется другой путь, или один регион обслуживает локальных пользователей, пока другой служит резервным. Суть проста. Ваши приложения подключаются к единому контролируемому входу, а за ним платформа может менять модели, регионы или поставщиков с минимальными перебоями. Это важно, потому что сфера и развивается быстро. Модель, которая эффективна сегодня, может оказаться не лучшим выбором уже в следующем месяце. Если каждое приложение обращается к поставщику напрямую, смена модели становится отдельным проектом для каждой команды. Благодаря шлюзу, решение о выборе модели сосредоточено в одном общем месте. Краткое замечание об унифицированном API моделей. Microsoft указывает его как общедоступную предварительную версию. Предварительные функции могут меняться и не всегда подходят для промышленной эксплуатации. Тем не менее, общая архитектура не зависит от этой конкретной функции. Ведь ваше API управление уже может стоять перед конечными точками моделей, применять правила маршрутизации и помогать управлять несколькими бэкендами. Унифицированные API моделей призваны упростить работу с разными поставщиками для приложений. Выбор нужной модели – это лишь полдела, ведь модель может ответить на вопрос. Но агент способен принять решение о действии, затрагивающем реальные корпоративные системы. Управление агентами и инструментами. Агент расширяет возможности и, выходя за рамки простых ответов на вопросы. Это программное обеспечение, которое оценивает задачу, выбирает из утвержденных вариантов и вызывает инструмент или сервис для выполнения работы. HR-агент может найти политику отпусков, агент поддержки – проверить заказ, а финансовый агент – подготовить запрос на оплату. Эта способность полезна, но она также меняет профиль рисков. Неверный ответ модели лишь сбивает с толку, но агент, использующий не тот инструмент, может раскрыть данные, изменить запись или запустить процесс, к которому не должен прикасаться. Вот почему для инструментов нужны собственные правила. Вы услышите термин MCP или протокол контекста модели. Представьте это как стандартный разъем, который дает агенту понятный способ найти и использовать корпоративный инструмент, например, поиск по документам или API для проверки заказов. Вместо создания разных соединений для каждого агента и системы, MCP предлагает командам общий шаблон. Затем есть А2А – агент-агент, стандартный способ взаимодействия агентов друг с другом. Например, агент поддержки запрашивает у агента доставки сведения о заказе, вместо того, чтобы самостоятельно разбираться в системе доставки. На бумаге это выглядит аккуратно, но цепочка агентов усложняется, когда каждое соединение имеет свои правила доступа, скрытые учетные данные и неизвестные инструменты. Представьте финансового агента, который отвечает на вопросы по счетам. Ему следует использовать только одобренный инструмент поиска счетов, но кто-то дает ему широкий доступ к финансовой системе, потому что это быстрее, чем настраивать узкий инструмент. Пользователь отправляет безобидный запрос, но скрытые инструкции во вложенном документе подталкивают агента к недопустимому действию. Если у агента слишком много прав доступа, он может запросить лишние данные или запустить рабочий процесс, требующий одобрения человеком. Агент не действует злонамеренно, он просто получил слишком много свободы при обработке недоверенных входных данных. Microsoft iG2A позволяет вам внедрять средства контроля перед MCP-серверами и бизнес-апи. Вместо прямого пути от E-приложения к базе данных вы предоставляете небольшой контролируемый инструмент для одной конкретной задачи. Например, агент запрашивает «Проверь статус этого заказа». Инструмент возвращает только статус, а не все заказы или полную карточку клиента. Это узкоспециализированная задача, и шлюз проверяет, кто делает запрос, прежде чем разрешить вызов. Идентификация находится в центре этой структуры. С Microsoft IntraID приложения входят в систему через управляемое удостоверение, а не путем передачи ключей провайдера. Управляемое удостоверение подтверждает личность без необходимости копирования разработчикам секретного ключа в код. У каждого агента должно быть собственное удостоверение. Таким образом, вы можете видеть, какой агент вызвал инструмент, отозвать доступ для одного агента, не затрагивая другие, и применять разные правила. HR-агент не должен наследовать права финансового агента только потому, что оба используют E. Это соответствует принципу нулевого доверия. Проверяйте каждый запрос, предоставляйте доступ только для текущей задачи и исходите из того, что любой промп или ответ инструмента может быть небезопасным. На практике агент получает разрешение на один конкретный инструмент и действие. Он может прочитать остаток отпуска, но не скачать файл с ведомостью зарплат. Он может создать черновик тикета в поддержку, но не закрыть обращение. Шлюз также применяет проверки безопасности к промптам и трафику инструментов. Если запрос содержит вредоносный контент или данные, которые не должны покидать систему, политика безопасности блокирует его до того, как он достигнет бэкенда. Никакой фильтр не ловит все, но проверка трафика в общей точке гораздо безопаснее, чем надежда на то, что каждый разработчик агента добавит такую же защиту. Вам также нужен каталог одобренных инструментов. API Center выступает в качестве частного каталога для API и сервисов MCP, чтобы команды находили нужный инструмент, не просматривая старые документы и не копируя непроверенные веб-адреса. Инструментов для агентов контролируемое бизнес-решение Средства безопасности защищают путь, но они также создают новый вопрос. Какие команды используют этот путь и какой объем использования и они генерируют? Стоимость токенов, лимиты и прозрачность. Расходы на И работают иначе, чем обычная лицензия на ПА. Счетчик работает на основе токенов. Что такое токен? Это небольшой фрагмент текста. Короткое слово может использовать один токен. Длинное слово использует больше. Модель учитывает все, что вы отправляете. Ваш вопрос, добавленные инструкции, любые прикрепленные документы и ответ, который она выдает. Поэтому простой вопрос требует совсем немного, но агент, который читает длинный документ с политиками, задает уточняющие вопросы, вызывает инструмент и затем создает детальный ответ, может использовать гораздо больше, чем вы ожидаете. Вы наверняка видели это на примере расшифровки совещания. Вы видите несколько страниц заметок. Система И также обрабатывает системные инструкции, транскрипт, извлеченные корпоративные данные, результаты работы инструментов и финальный ответ. Каждая часть увеличивает объем потребления. Вот почему один активный агент может на удивление быстро исчерпать лимит общей модели. Представьте, что команда тестирует нового маркетингового помощника в пятницу днем. Кто-то дает ему большой набор файлов компании и просит сравнивать, переписывать и резюмировать их в цикле. Тем временем служба поддержки зависит от тех же мощностей модели, помогая людям, которые обращаются за помощью. Если тестовая нагрузка использует общую квоту, помощник поддержки может замедлиться или отказать, когда он нужен клиентам. Проблема не только в том, что компания потратила деньги. Ненужная нагрузка забрала мощности у задачи, которая была важнее. iSchlus Azure API Management позволяет применять ограничения до того, как это произойдет. Вы можете устанавливать лимиты запросов, лимиты токенов и квоты для приложения, команды, проекта или потребителя. Квота может охватывать короткий интервал, токены в минуту или более длительный период, например, дневной или месячный лимит. Это задает границы для каждой рабочей нагрузки. Маркетинговый помощник может иметь бюджет, соответствующий его задачам. Служба поддержки может иметь свой собственный лимит и более высокий приоритет. Когда маркетинговый помощник достигает лимита, шлюз может отклонять или замедлять его последующие запросы. Служба поддержки продолжает работать, так как один тестовый проект не может использовать все доступные ресурсы. Это также меняет подход к обсуждению ежемесячных расходов. Без единого обзора финансовый отдел может получить один большой счет за и и спросить, кто все это потратил. Ответ найти сложно, когда команды подключаются напрямую к разным сервисам с помощью общих ключей. Шлюз может записывать данные о вызывающем объекте, модели использования токенов, статусе ответа и вызовах инструментов, связанных с запросом. Это дает вам более четкую картину. Вы можете увидеть, возникли ли расходы из-за HR-ассистента, среды тестирования разработчиков, чат-бота для клиентов или агента, который постоянно повторял попытки после ошибки. Вы также можете заметить необычные шаблоны, например, когда приложение отправляет гораздо более крупные промпты, чем обычно. Если ваша команда начинает работу в Microsoft Foundry, шлюз может подключиться и к этой работе. Проекты Foundry могут использовать лимиты токенов на уровне проекта, пока шлюз применяет к ним правила трафика. Это дает разработчикам и более простую отправную точку, в то время как у платформенной команды остается общее место для управления лимитами и мониторинга. Есть также полезная функция под названием «семантическое кэширование». Скажем, один сотрудник спрашивает, где я могу найти политику командировок. Через несколько секунд другой спрашивает, где у нас политика по деловым поездкам. Слова различаются, но смысл может быть достаточно близким, чтобы шлюз использовал подходящий готовый ответ, вместо того, чтобы снова обращаться к модели. Это позволяет сократить расходы и ускорить получение ответа. Это подходит только для тех вопросов, где повторное использование оправдано. Вы не станете кэшировать запрос об остатке отпуска или статусе заказа, поскольку эти данные могут измениться. Маршрутизация также помогает оптимизировать затраты. Компания может направлять подходящие задачи менее дорогим моделям, использовать уже зарезервированные мощности до оплаты дополнительных объемов и переключаться на резервный путь при достижении лимитов. И все же шлюз не снимает необходимости в управлении. Командам нужны бюджеты. Кто-то должен проверять ответы модели. Кто-то должен решать, нужен ли агент в принципе. Шлюз предоставляет вам счетчик, ограничители и журнал трафика. Он не принимает за вас бизнес-решения. Когда вы видите трафик и можете им управлять, всю систему становится проще представить на повседневном примере. Простой путь запроса. Представьте HR-ассистента в компании. Сотрудник спрашивает, сколько дней отпуска по уходу за ребенком мне положено и можете ли вы оформить запрос. Цель проста – дать сотруднику быстрый и полезный ответ, а затем помочь с дальнейшим согласованным шагом. При этом HR-ассистент не должен разглашать данные о зарплате, открывать любые кадровые файлы или хранить ключ доступа к модели в своем коде. Запрос начинается, когда сотрудник входит в систему. Прежде чем ассистент отправит что-либо модели или инструменту, шлюз проверяет личность сотрудника, право доступа к HR-ассистенту и установленные для этого приложения лимиты. Сотрудник видит лишь простое окно чата, пока эти проверки происходят в фоновом режиме. Затем ассистенту нужен ответ. Базовый вопрос по политике компании может быть направлен на одобренные корпоративные API-модели. Если этот узел занят или достиг лимита, шлюз может использовать резервный маршрут, заранее одобренный компанией. Сотрудник все равно получает ответ через того же HR-ассистента, а не сообщение об ошибке из-за перегрузки одной из моделей. Затем сотрудник просит оформить запрос на отпуск. На этом этапе агенту уже недостаточно одной модели. Ему нужен инструмент, который проверит данные сотрудника и создаст нужный запрос. Агент запрашивает использование одобренного MCP-инструмента для управления отпусками. Шлюз проверяет и этот запрос тоже. Может ли этот HR-агент вызывать данный инструмент? Разрешено ли этому сотруднику начинать такой тип запроса? Соответствует ли действие правам, назначенным агенту? Только после этого инструмент получает вызов. Инструмент не возвращает огромный список записей о сотрудниках. Он возвращает только то, что необходимо для задачи, доступный остаток отпуска сотрудника, применимую политику и подтверждение того, что запрос создан как черновид. Этот узкий ответ имеет значение. У агента достаточно информации для помощи, но он не получает широкого доступа только потому, что задал вопрос на обычном языке. Теперь представьте, что сотрудник вставляет в чат текст из стороннего документа. Текст содержит инструкции, которые пытаются заставить помощника игнорировать правила или запросить конфиденциальную информацию. Шлюз может применять проверки безопасности до того, как запрос достигнет модели или инструмент получит запрос. Если запрос нарушает правила, его можно остановить на этом этапе. Такая же проверка может проанализировать ответ до того, как он поступит к сотруднику. Не каждая проблема возникает из-за плохого запроса. Модель может выдать ответ, содержащий информацию, которую она не должна возвращать. Общая точка контроля дает компании возможность отслеживать этот путь и реагировать на него. Тем временем запрос создает запись. Компания может связать используемый токен с проектом HR-помощника. Она может видеть, какая модель обработала вопрос, успешно ли был выполнен вызов инструмента, был ли заблокирован запрос и сколько времени занял процесс. Это значительно упрощает поддержку и аудит. Если HR-отдел сообщает, что сотрудники не могут создавать запросы на отпуск, операционная команда может найти неудачные вызовы инструментов. Если правила безопасности блокируют корректные вопросы, они могут увидеть закономерность и улучшить политику. Если один агент внезапно начинает использовать гораздо больше ресурсов и, чем обычно, это изменение становится заметным. И если компания обновляет правила, например, требуя дополнительную проверку перед определенными запросами на отпуск, она может обновить политику шлюза один раз. Не нужно ждать отдельных обновлений кода для каждого HR-приложения, чат-бота и рабочего процесса, использующего один и тот же контролируемый путь. Тот же шаблон запроса продолжает работать, когда компания добавляет другую модель, новый регион, больше внутренних инструментов или еще одного агента для HR-задач. Но начните с малого. Шлюз становится полезным, когда и трафик начинает становиться общим. С чего начать? Итак, с чего же на самом деле начать? Начните с выбора одной реальной рабочей нагрузки, возможно, помощника поддержки, который уже обращается к модели, или агента для HR, финансов или поиска по внутренним документам. Не пытайтесь охватить все модели и инструменты сразу. Это кратчайший путь к хаосу. Вместо того, чтобы выдавать ключи провайдера напрямую каждому приложению, поместите конечную точку модели за шлюзом Azurapi Management Eye. Представьте это как единый пункт проверки безопасности для всего вашего и трафика. Затем настройте основы. Назначьте четкого владельца для рабочей нагрузки. Используйте доступ через интро, чтобы только нужные люди или сервисы могли получить к ней доступ. Установите лимит токенов соответствующей задачи, не больше и не меньше. Включите логирование, чтобы можно было видеть, что происходит. Добавьте одно правило безопасности контента, которое ваша команда сможет протестировать и проверить. Начните с простого. Когда путь к модели и границы доступа заработают, добавляйте одобренные инструменты MCP по одному. У каждого инструмента должна быть узкая задача и ясная причина для агента его использовать. Никаких лишних дополнений. После этого вы перейдете от одной контролируемой нагрузки к общим моделям, инструментам и агентам. Без этой начальной точки контроля каждое новое и приложение создает неконтролируемый путь к данным компании и лишнюю строку в счете за и. Для получения новых знаний посмотрите Azure API Management. Простое объяснение. Именно на этом фундаменте строится Microsoft iGitway. Субтитры создавал DimaTorzok