M365Con 2027 – бесплатная онлайн-конференция · 11–22 Jan 2027 · 120 sessions→ m365con.net

Блог · Mirko Peters

Как тестировать AI-агентов и расширения Copilot воспроизводимым способом

By · · Updated

Как тестировать AI-агентов воспроизводимым способом: составить набор тест-кейсов, выбрать граудеры, оценивать вызовы инструментов и отслеживать регрессии, с примером в Copilot Studio для QA-руководителей.

Automatically translated with AI from the original post. Read the English original

Как тестировать AI-агентов — практический вопрос для любого QA-руководителя, которого попросили его одобрить: один и тот же ввод может давать разные ответы, поэтому старая привычка сравнивать вывод с одним ожидаемым значением больше не работает. Это руководство для QA-руководителей, которым нужен воспроизводимый метод для агентов, созданных в Copilot Studio или других инструментах. Вы узнаете, что делает агентов трудными для тестирования, какой многоуровневый подход применять, как составить набор тест-кейсов, какие граудеры использовать и как сохранять сопоставимость результатов со временем. Разобранный пример с условными цифрами показывает, как небольшая команда собирает всё это воедино.

Ключевые выводы

  • AI-агент даёт разные ответы на один и тот же ввод, поэтому воспроизводимое тестирование означает оценку по согласованным критериям и пороговым значениям, а не сопоставление с одной точной строкой.
  • Разделяйте тесты агента на уровни: обычные модульные тесты для маршрутизации и парсинга, оценку качества вывода языковой модели и сквозные сценарии для многошаговых процессов.
  • Хороший набор тестов начинается с небольшого объёма, покрывает реальные задачи пользователей, известные сбои, граничные случаи и поведение с высоким уровнем риска и хранится под контролем версий рядом с промптами.
  • Проверяйте путь, а не только ответ: правдоподобно звучащий ответ, в котором пропущен обязательный вызов инструмента, всё равно считается ошибкой.
  • Запускайте каждый кейс несколько раз, сравнивайте долю сбоев с базовым уровнем и сохраняйте обязательные к прохождению кейсы и запрещённые действия как жёсткие ограничения.

Что делает AI-агентов трудными для тестирования

Классическое приложение ведёт себя предсказуемо: один и тот же ввод приводит к одному и тому же результату. AI-агент работает на основе большой языковой модели, поэтому его ответы варьируются, а ещё он сам решает, какие инструменты вызвать и в каком порядке. Значит, нужно проверять две вещи: итоговый ответ и путь, который агент прошёл, чтобы до него добраться.

Языковые модели могут галлюцинировать, то есть уверенно выдавать неверные факты, поэтому каждая поставляемая вами AI-система нуждается в проверках на этот случай. Риск растёт в агентных сценариях, где AI-агент вызывает API, читает файл или меняет запись от имени пользователя. Тестирование такого AI-агента охватывает не только слова, которые он пишет.

Статья SitePoint о тестировании AI-агентов в недетерминированном мире отвергает точное сопоставление строк для вывода модели, поскольку правильные ответы можно сформулировать многими способами. Она заменяет вопрос «совпадает ли это полностью?» вопросом «достаточно ли это хорошо?». Этот сдвиг лежит в основе тестирования AI-агентов и влияет на то, как вы пишете ожидаемые результаты, устанавливаете проходные пороги и сообщаете о рисках.

Вариативность не делает тестирование невозможным. Она означает, что тестирование агентов опирается на диапазоны, пороговые значения и повторные запуски, а обычный код по-прежнему проверяется обычными тестами.

Как тестировать AI-агентов на четырёх уровнях

В той же статье SitePoint тестирование агентов делится на три уровня, а руководство LangChain о тестировании LLM и AI-агентов добавляет четвёртую идею — контрольные ворота перед выпуском. Вместе они дают рабочий план:

  1. Простая логика. Маршрутизация инструментов, разбор входных данных, форматирование и изменения состояния — это обычный код. Здесь хорошо работают обычные модульные тесты с точными проверками, и SitePoint советует запускать их при каждом коммите.
  2. Качество ответов. Оценивайте ответы языковой модели на достоверность, релевантность и галлюцинации. Такие проверки медленнее и стоят денег, если задействована модель-судья, поэтому SitePoint советует запускать их при слиянии изменений или по расписанию.
  3. Сквозные сценарии. Проводите многоходовые диалоги и многошаговое использование инструментов — от первого сообщения пользователя до итогового результата. Это версия сквозного тестирования для ИИ-агентов, и именно этот уровень находит проблемы на стыках между компонентами.
  4. Релизные ворота. LangChain рекомендует запускать проверки в конвейере поставки для каждого кандидата на изменение, с согласованными пороговыми значениями качества, поведения и производительности, например задержки и стоимости.

Не пропускайте первый уровень только потому, что ИИ-агент кажется магией. Многие сбои ИИ-агентов — это обычные ошибки в том, как разбираются входные данные или как выбирается инструмент, и их дёшево выявить.

Создайте набор тестов, который остаётся полезным

Набор тестов, который часто называют eval-набором, — центральный элемент работы по оценке ИИ. Совет LangChain: начинать с небольшого количества качественных кейсов, которые покрывают реальные задачи пользователей, известные сбои и поведение с высоким риском, а затем расширять набор по мере того, как реальные диалоги выявляют новые проблемы. Включайте типовые запросы, враждебные входные данные, граничные случаи и примеры, исправленные экспертами предметной области. Каждый кейс может содержать входные данные, эталонный результат, критерии оценки, обязательные или запрещённые шаги и метаданные для фильтрации.

SitePoint добавляет привычку, которая делает результаты прослеживаемыми: храните набор данных в системе контроля версий и ведите его версии рядом с шаблонами промптов, чтобы изменение оценок можно было связать с конкретным изменением агента.

Стартовый набор для QA-лида может выглядеть так:

  • Типовые вопросы в тех формулировках, которые люди реально используют.
  • Известные сбои из предыдущих инцидентов или жалоб, которые сохраняются как постоянные регрессионные кейсы.
  • Граничные случаи, например расплывчатые вопросы, смешение языков, недостающая информация и запросы, которые ИИ-агент должен отклонять.
  • Рискованные запросы, включая попытки prompt injection, вопросы о данных, которые пользователь не должен видеть, и запросы на действия за пределами полномочий агента.
  • Обязательные к прохождению кейсы, при провале которых выпуск блокируется.

Формулируйте ожидаемый результат как можно точнее. Расплывчатые ожидания дают шумные оценки, независимо от того, какой инструмент выполняет проверку.

Выберите проверяющих: код, модель-судья или человека

LangChain описывает три типа проверяющих, и у каждого есть своё место:

  • Проверки кодом подходят для детерминированных правил: валидный JSON, обязательный идентификатор учётной записи, конкретный вызов инструмента. Они дешёвые и повторяемые.
  • Модель-судья оценивает качества, требующие суждения, например обоснованность, следование инструкциям и выполнение задачи. LangChain советует сверять оценки модели-судьи с примерами, проверенными людьми, прежде чем на них полагаться.
  • Проверка человеком охватывает неоднозначные или рискованные случаи. Рецензенты размечают сбои, и эти случаи могут войти в набор тестов как будущие регрессионные тесты.

Проверяйте путь, а не только ответ. LangChain называет это оценкой траектории: порядок вызовов инструментов, аргументы, шаги одобрения и циклы. Его пример — агент возвратов, который должен сначала запросить политику, а затем отвечать. Правдоподобно звучащий ответ, в котором запрос политики пропущен, всё равно является сбоем. Поэтому каждый тестовый кейс должен фиксировать ожидаемый вызов инструмента, а не только ожидаемый текст.

Оценкам нужны пороги. SitePoint предлагает минимальное значение для каждой метрики вместо одной точной цели; в его примерах фигурируют 0,85 для достоверности и 0,7 для релевантности ответа. Относитесь к этим числам как к примерам и задавайте собственные, исходя из своих рисков.

Тестирование агента Copilot Studio

В Copilot Studio есть встроенная оценка, а на странице Microsoft о создании набора тестов перечислены подробности, которые нужны QA-лиду.

  • Наборы тестов: один набор тестов с единственным ответом содержит до 100 тестовых случаев. Можно быстро сгенерировать набор из десяти вопросов по описанию агента, создать больше вопросов на основе источника знаний или тем, повторно использовать вопросы из тестового чата, импортировать файл CSV или TXT либо написать случаи вручную.
  • Методы тестирования: общее качество, безопасность содержимого, сравнение смысла, использование инструментов, сопоставление ключевых слов, сходство текста, точное совпадение и пользовательские критерии. Все методы, кроме общего качества, требуют для каждого случая ожидаемого ответа, ключевых слов или возможностей.
  • Идентификация: автоматическое тестирование использует аутентификацию вошедшего пользователя для доступа к источникам знаний и инструментам. Запускайте тесты от имени одного и того же пользователя каждый раз, чтобы результаты оставались сопоставимыми, и убедитесь, что этот пользователь имеет доступ ко всем источникам, которые нужны агенту.
  • Ограничения: сгенерированные наборы не могут выявить пробелы в информации, поскольку они берут данные только из того, что агент уже знает. Результаты хранятся 89 дней, поэтому экспортируйте их в CSV, чтобы сохранить базовый уровень.

Из этой страницы следуют два предостережения. Сгенерированные тестовые случаи могут содержать конфиденциальные данные, доступные подключенной учетной записи, а другие создатели с доступом к агенту могут просматривать связанные наборы тестов, поэтому проверяйте их перед тем, как делиться. Кроме того, сгенерированный набор — это отправная точка, а не готовый набор. Добавляйте вручную собственные известные сбои и рискованные запросы.

Добейтесь повторяемости результатов

Повторяемость обеспечивают привычки в процессе тестирования, а не функция:

  1. Запускайте каждый случай более одного раза. SitePoint рекомендует не менее трёх запусков и усреднение. LangChain советует сравнивать частоту сбоев для вариативных результатов.
  2. Сравнивайте с базовым уровнем. Запускайте кандидатную и текущую версии на одном и том же наборе тестов. LangChain предупреждает, что лучшее среднее значение может скрывать регресс в одном критически важном случае, поэтому следите за примерами, которые обязаны проходить.
  3. Используйте жёсткие ограничения для запрещённых действий. LangChain рекомендует детерминированные проверки с порогом нулевого числа сбоев для действий, которые агент никогда не должен выполнять.
  4. Повторяйте тесты после каждого изменения и автоматизируйте их. Автоматизация в конвейере поддерживает привычку. Изменение промпта считается изменением кода, как и изменение моделей, извлечения данных, определений инструментов, памяти или маршрутизации.
  5. Сохраняйте доказательства. Экспортируйте результаты и храните их вместе с версией набора тестов и версией агента.

Пример: агент по политике отпусков

Цифры условные.

Команда создаёт агента Copilot Studio, который отвечает на вопросы о политике отпусков. Руководитель QA создаёт 40 тестовых случаев. Двадцать два — типовые вопросы, восемь — известные сбои из пилотного проекта, шесть используют необычные формулировки, например неясные даты, а четыре — рискованные запросы, включая вопрос об отпуске другого сотрудника. Шесть отмечены как обязательные к прохождению.

Руководитель использует сопоставление ключевых слов для фиксированных фактов, например количества дней отпуска, сравнение смысла для объяснений и проверку использования инструментов, которая убеждается, что агент вызывает поиск по политике перед ответом. Каждый случай запускается три раза.

При первом полном запуске 34 из 40 случаев проходят во всех трёх запусках. Из шести сбоев два связаны с обязательным случаем, и в одном из них агент ответил, не вызвав поиск по политике. Команда исправляет инструкцию, повторяет запуск и получает 38 из 40 при зелёных всех обязательных случаях. Руководитель экспортирует результаты как базовый уровень и устанавливает правило: любое изменение промпта или модели повторяет все 40 случаев, а падение любого обязательного случая блокирует выпуск в конвейере поставки.

Распространённые ошибки

  • Точное сопоставление текста. Правильные ответы могут различаться, поэтому точное совпадение даёт ложные сбои.
  • Оценка только ответа. Агент может получить внешне хороший ответ, пропустив обязательный шаг.
  • Однократный запуск каждого случая. Один удачный запуск мало что доказывает.
  • Доверие только сгенерированному набору тестов. Он не может найти пробелы в том, о чём агенту никогда не сообщали.
  • Слепое доверие модели-судье. Проверяйте её оценки на примерах, проверенных людьми.
  • Тестирование только основного сценария. Включайте необычные формулировки, рискованные запросы и известные сбои.

Как может помочь программное обеспечение

Начните с того, что предлагает ваша платформа агентов. В Copilot Studio есть встроенная оценка, а для пользовательских ИИ-агентов существуют открытые и коммерческие фреймворки оценки. Выбирайте инструмент тестирования, который позволяет версионировать наборы тестов, запускать каждый случай несколько раз, проверять вызовы инструментов и экспортировать результаты. Добавьте свой конвейер поставки в качестве шлюза и используйте таблицу или систему управления тестированием, чтобы отслеживать случаи и их владельцев. Проведите пилот на одном ИИ-агенте, прежде чем стандартизировать процесс.

Следующий шаг

Напишите десять тест-кейсов для одного ИИ-агента, который вы уже используете. Включите три известных сбоя и два рискованных запроса, оцените каждый кейс трижды и сохраните результаты как базовый уровень. Так тестирование ИИ-агентов в вашей команде станет рутинным шагом, а не предметом бесконечных споров.

Entities in this article

AI agent AI evaluation Copilot Studio End-to-end testing

Related articles

RSS