Автономные, но подотчётные: создание управляемых агентных систем на базе Agent Runtime в Azure AI Foundry

By Mirko Peters · 2025-11-21 · Updated 2025-11-26

Автономные, но подотчётные агентные системы на базе Azure AI Foundry обеспечивают управляемость, прослеживаемость и соответствие требованиям, делая ИИ-решения пригодными для корпоративного использования и ответственными.

Automatically translated with AI from the original post. Read the English original

Azure AI Foundry даёт вам не только сильную модель. Вы получаете управляемую среду выполнения агентов, которая поддерживает порядок в работе. Она помогает видеть, что происходит в каждом ИИ-процессе. В вашей компании нужны не случайные чат-боты, а системы, которые отслеживают действия и объясняют принятые решения. Такие системы также следуют правилам. Компании, которые используют проверяемые агентные системы, добиваются заметно лучших результатов. Они привлекают больше пользователей и получают больше успехов, чем при работе с простыми чат-ботами. Многие группы говорят о результатах до 60% лучше. Кроме того, они начинают работать быстрее уже через несколько месяцев после запуска таких систем. Управляемые агенты каждый день решают реальные задачи. Они помогают с клиентскими обращениями, обработкой счетов и наблюдением за множеством систем. Принцип «Autonomous but Accountable» определяет каждый шаг: он гарантирует, что ваш ИИ умён и действует ответственно.

Главное

• Azure AI Foundry позволяет создавать агентов, которые работают самостоятельно. Эти агенты могут принимать решения и выполнять задачи без постоянного участия человека. Это помогает бизнесу быстрее и качественнее завершать работу.

• Подотчётность имеет очень большое значение. У каждого агента есть собственный уникальный идентификатор. Это позволяет отслеживать действия агентов и проверять, соблюдают ли они правила.

• В агентных системах модели, инструкции и инструменты работают вместе. Это делает агентов сильными и способными адаптироваться к разным задачам. При выполнении работы агенты остаются безопасными.

• Логирование на всех этапах жизненного цикла ведёт понятную запись действий агентов. Это помогает компаниям быстро устранять проблемы и легко соблюдать требования.

• Microsoft Entra помогает управлять идентификацией агентов. Он обеспечивает строгие разрешения для агентов. Это сохраняет безопасность и контроль.

Автономные, но подотчётные агенты

Что делает агентов автономными

Вы хотите, чтобы ваш ИИ делал больше, чем просто выполнял шаги по инструкции. В Azure AI Foundry агенты могут сами принимать решения. Они выбирают инструменты и планируют следующие действия. Вы ставите задачу, а агент сам определяет, как её выполнить. Агенту не нужно, чтобы вы подсказывали каждое его действие. Он может наблюдать, принимать решения и действовать самостоятельно.

Агентам для работы нужны три основные части:

Вы можете менять модель, обновлять инструкции или добавлять инструменты. Так ваш агент будет готов к новым задачам. Например, можно использовать Agent Service в Azure AI Foundry вместе с Azure OpenAI Service или подключить Azure AI Search. Также можно применять Microsoft Copilot Studio, Azure API Management, Azure Functions или Azure Container Apps. Эти варианты помогают агенту учиться, планировать и выполнять действия разными способами.

Агенты в Azure AI Foundry делают больше, чем просто реагируют. Они действуют первыми. Они могут отслеживать изменения, выбирать инструменты и устранять проблемы, не дожидаясь вас. Поэтому они не похожи на простые скрипты.

Обеспечение подотчётности в ИИ-системах

Автономность важна, но вы должны доверять своему ИИ. Вы хотите знать, что сделал агент, когда и почему. Azure AI Foundry обеспечивает отслеживание каждого агента. При создании каждому агенту присваивается Microsoft Entra Agent ID. Этот идентификатор показывает, кому принадлежит агент, кто может им пользоваться и что он делает.

Вы можете видеть каждое действие агента. Система записывает каждый шаг, поэтому вы можете проверить, что произошло. Если что-то пошло не так, можно вернуться назад и посмотреть детали. Инструменты безопасности Microsoft помогают поддерживать безопасность. Вы можете настраивать оповещения, проверять журналы и при необходимости менять работу агента.

Вот способы, которыми Azure AI Foundry обеспечивает подотчётность агентов:

• Каждый агент имеет специальный Entra Agent ID для отслеживания.

• Службы безопасности могут следить за агентами так же, как за другими важными ресурсами.

• Вы можете реагировать на оповещения и изменять действия агентов, промпты или инструменты.

• Система сохраняет каждое действие для проверок и ревизий.

Для бизнес-ИИ нужны одновременно автономность и подотчётность. Автономность помогает агентам устранять проблемы и быстро действовать. Подотчётность даёт вам контроль и доверие.

Давайте разберём, чем агенты отличаются от скриптов:

Скрипты следуют заданному пути. Они делают то, что вы говорите, шаг за шагом. Агенты в Azure AI Foundry работают самостоятельно. Они планируют, действуют и фиксируют каждое действие. Это делает вашу ИИ-систему автономной, но подотчётной. Вы получаете умные действия и понятный контроль.

Структура агента: модель, инструкции, инструменты

Агенты Azure AI Foundry используют чёткую структуру, которая помогает создавать надёжные и безопасные ИИ-системы. Вы работаете с тремя основными частями: моделью, инструкциями и инструментами. У каждой части своя задача. При их сочетании получаются агенты, которые умеют планировать, действовать и учиться, при этом они достаточно мощные и легко поддаются проверке.

Роль модели

Модель — это «мозг» вашего агента. Она помогает агенту понимать язык, принимать решения и решать задачи. Вы можете выбирать из разных моделей, например GPT-4o или открытые решения. Такой выбор позволяет подобрать модель под ваши задачи. Если вы захотите сменить модель позже, это можно сделать без изменения остальной части агента. Такая гибкость помогает стабильно получать одинаковые результаты. Когда вы контролируете модель и среду, ваш агент становится надёжнее и его легче доверить работе.

Агенты используют модель, чтобы разбивать сложные задачи, собирать информацию и запоминать полученные знания. Например, некоторые научные агенты используют модели для планирования шагов, анализа данных и действий на основе полученных результатов. Такой подход полезен в таких областях, как медицина, где агентам приходится решать сложные задачи.

Инструкции как ограничители

Инструкции определяют, что должен делать ваш агент и как ему себя вести. Они работают как правила или ограничители. Вы задаёте эти инструкции, чтобы агент оставался в рамках задачи и не допускал ошибок. Например, можно использовать фильтры, чтобы блокировать небезопасные вопросы или не допустить передачи агентом личной информации. Также можно задать правила проверки ответов агента до их отправки.

Разрешённые инструменты и возможности

Инструменты дают вашему агенту возможность действовать. Вы решаете, какими инструментами может пользоваться агент. Это могут быть поиск по данным, запуск кода или подключение к бизнес-приложениям. Вы контролируете доступ к каждому инструменту, поэтому агент использует только то, что вы разрешили. Такая настройка делает систему безопасной и удобной в управлении.

Агенты в реальных научных задачах используют инструменты для анализа данных, прогнозирования результатов и взаимодействия с другими системами. Например:

• CellAgent использует модели для разбиения сложных биологических задач.

• DrugAgent прогнозирует действие лекарств с помощью специальных инструментов.

• BioMANIA подключается к инструментам Python для глубокого анализа данных.

Когда вы используете модель, инструкции и инструменты вместе, вы создаёте агентов, которые автономны, но подотчётны. Вы получаете умные системы, которые следуют вашим правилам и оставляют понятную запись о каждом действии.

Логирование жизненного цикла: потоки, запуски, шаги запусков

Постоянные потоки для аудита

Важно понимать, что делает ваш агент. Azure AI Foundry использует постоянные потоки (persistent threads), чтобы помочь с этим. Каждый поток объединяет диалоги и задачи. Вы можете посмотреть назад и увидеть, что происходило раньше. Это очень полезно для компаний со строгими правилами, например в здравоохранении или финансах. Когда вы можете показать каждый шаг, люди больше доверяют вашей системе.

• Структуры управления помогают доверять вашим ИИ-агентам.

• Вы должны фиксировать взаимодействия и вести журналы аудита, особенно в регулируемых отраслях.

• Грамотное управление помогает масштабировать ИИ и выполнять требования соответствия.

Запуски и состояния выполнения

Запуски (runs) показывают, как работает ваш агент в каждом потоке. Когда вы запускаете задачу, система создает запуск. Вы можете увидеть, ожидает ли запуск, выполняется он или уже завершен. Это помогает понять, что сейчас делает ваш агент. Azure AI Foundry берет на себя работу с объектами диалогов и их состояниями.

Вы можете повторно использовать диалоги и сохранять контекст между сеансами. Это значит, что важные детали не теряются, даже если вы меняете каналы или устройства.

Шаги запуска для прослеживаемости

Шаги запуска позволяют увидеть каждое действие вашего агента. Вы можете проверить каждый вызов инструмента и выбор модели. Это упрощает поиск и исправление проблем. Шаги запуска также помогают быстро реагировать, когда что-то идет не так. Система предоставляет оповещения, панели мониторинга и руководства для разных сбоев.

Вы получаете систему, которая является автономной, но подотчетной. Вы можете проверять, аудировать и повторять каждое действие вашего агента. Это помогает создавать безопасный и надежный ИИ для вашего бизнеса.

Управление, безопасность и наблюдаемость

Идентификация и разрешения с Entra

Чтобы ваши ИИ-агенты оставались в безопасности, нужны строгие правила. Azure AI Foundry использует Microsoft Entra для управления тем, кто что может делать. Каждый агент получает собственную корпоративную идентичность. Вы выбираете, что может делать каждый агент и какими API он может пользоваться. Вы настраиваете управление доступом на основе ролей (RBAC), чтобы агенты получали только необходимые разрешения. Большинство начинает с роли Reader. Роль Contributor назначайте только при необходимости. Так система остается безопасной и соблюдается принцип наименьших привилегий.

Автоматизированное управление идентификацией помогает добавлять, обновлять и удалять агентов с меньшим риском. Также вы можете использовать правила доступа на основе рисков, чтобы агенты получали только те данные и инструменты, которые им нужны.

Наблюдаемые вызовы инструментов

Вы хотите постоянно знать, что делают ваши агенты. Azure AI Foundry ведет журнал каждого вызова инструмента и каждого действия. Вы можете отслеживать поведение агентов и быстро находить проблемы. Система отслеживает частоту запросов и их закономерности. Если происходит что-то необычное, вы получаете оповещения. Вы задаете защитные ограничения (guardrails), чтобы агенты соблюдали правила безопасности до и после каждого действия.

Журналы доказательств для соответствия требованиям

В таких сферах, как здравоохранение, финансы и другие, действуют строгие правила. Azure AI Foundry помогает собирать доказательства для аудитов. Вы видите свои данные, проверяете их качество и контролируете, кто имеет к ним доступ. Система управляет метаданными, поэтому вы можете показать свою подотчётность. Сбор доказательств можно автоматизировать, чтобы аудиты проходили легче.

• GDPR обязывает защищать персональные данные.

• HIPAA регулирует работу с медицинской информацией.

• SOX требует журналов аудита для финансовых данных.

• Закон ЕС об ИИ (EU AI Act) требует безопасности, прозрачности и прослеживаемости.

Модель Zero Trust и облачные возможности помогают соблюдать требования. Вы можете отслеживать важные метрики и использовать инструменты RegTech, чтобы следить за новыми законами.

Вы создаёте агентные системы, которые работают самостоятельно, но всегда оставляют понятный след. Это делает ваш ИИ заслуживающим доверия и готовым к работе в условиях строгих требований.

Опыт разработчика и быстрый старт

Создание первого управляемого агента

Сначала вы определяете, что должен делать агент. Затем выбираете модель и пишете простые инструкции. После этого подбираете инструменты, которые будет использовать агент. Azure AI Foundry упрощает настройку каждой части. Вы используете Agent Service, чтобы подключить агента к вашему бизнесу. Этот сервис помогает добавлять агентов с надёжной безопасностью и правилами. Вы можете внедрять агентов в работу, не меняя всё целиком. Многие разработчики считают, что управлять множеством агентов сложно. Agent Service даёт вам надёжную основу, чтобы контролировать агентов и запускать их.

Совет: начните с небольшого агента, который решает одну задачу. Добавляйте новые возможности по мере накопления опыта.

Просмотр журналов и жизненного цикла

Нужно видеть, что делает агент на каждом шаге. Azure AI Foundry сохраняет запись каждого действия. Вы можете просмотреть потоки, запуски и шаги запусков, чтобы увидеть полную картину. Каждый агент получает особый артефакт SBOM. Этот артефакт позволяет отслеживать каждое изменение и проверять, кем является агент. Вы видите, какие инструменты использовал агент и когда он принимал решения. Панели мониторинга помогают быстро находить проблемы и устранять их. Так вы поддерживаете безопасность и стабильную работу системы.

Интеграция Logic Apps и инструментов MCP

Вы можете сделать агента умнее, связав его с Logic Apps и инструментами MCP. Logic Apps позволяют агенту подключаться ко многим бизнес-системам. Вы можете связать агента с CRM, ERP или ИТ-инструментами. Инструменты MCP дают агенту новые навыки, например поиск данных или запуск кода. Вы решаете, какими инструментами может пользоваться агент. Вы задаёте правила, чтобы агент действовал только там, где нужно. Такая настройка помогает расширять навыки агента, сохраняя безопасность и контроль.

Примечание: начните с простых инструментов и добавляйте новые по мере необходимости. Всегда проверяйте журналы, чтобы убедиться, что агент следует вашим правилам.

Агенты Azure AI Foundry позволяют работать самостоятельно, но при этом соблюдать правила. Вы можете видеть и проверять каждое действие по понятным журналам. Хорошие правила и отслеживание помогают снижать риски и быстрее получать одобрения. Это также помогает людям доверять вашей системе.

• Автоматические правила и мониторинг обеспечивают безопасность вашего ИИ.

• Отслеживание и сохранение версий упрощают проверку.

• Работа выполняется быстрее, а проблем возникает меньше. Клиенты становятся довольнее.

Автоматизацию агентов можно начинать уже сейчас. Журналы, фиксирующие каждый шаг, и инструменты с заданными разрешениями помогают решать бизнес-задачи и готовиться к будущему.

Часто задаваемые вопросы

В чём главное различие между агентом и чат-ботом?

С агентом у вас больше контроля. Агенты умеют планировать, действовать и использовать инструменты. Чат-боты только отвечают на вопросы. Агенты ведут журнал каждого действия. Вы можете в любой момент проверить, что они сделали.

Как Azure AI Foundry помогает отслеживать действия агентов?

Вы видите каждый шаг, который делает ваш агент. Система журналирует потоки (threads), запуски (runs) и шаги запусков (run steps). Вы можете просмотреть эти журналы, чтобы понять, что произошло, когда и почему. Это помогает доверять вашему ИИ.

Можно ли изменить модель или инструменты после создания агента?

Да! Вы можете заменить модели или добавить новые инструменты без повторного создания. Так вы можете обновлять агента под новые задачи или добиваться лучших результатов. Ваши инструкции и история при этом сохраняются.

Как обеспечить безопасность агентов и соблюдение правил компании?

Вы задаёте разрешения для каждого агента с помощью Microsoft Entra. Вы решаете, какие данные и инструменты может использовать каждый агент. Система проверяет каждое действие и ведёт журналы для аудита.

Зачем нужно журналирование жизненного цикла в корпоративном ИИ?

Журналирование жизненного цикла даёт вам подтверждение каждого действия. Вы можете отлаживать проблемы, выполнять требования соответствия и показывать, как ваш ИИ принимал решения. Это укрепляет доверие и защищает ваш бизнес.