Responsible AI dashboard
Product
Панель Responsible AI в Azure Machine Learning объединяет такие инструменты, как объяснения моделей и анализ ошибок, чтобы помочь оценивать и отлаживать модели с точки зрения ответственного ИИ.
Description
Панель Responsible AI — это единый интерфейс в Azure Machine Learning, который объединяет несколько инструментов ответственного ИИ. Она используется для оценки и отладки моделей машинного обучения и для поддержки решений о них, основанных на данных. Вместо того чтобы работать с отдельными инструментами для оценки справедливости, шаблонов ошибок, объяснений и причинно-следственных вопросов, команда может открыть одну панель и переходить между этими представлениями для одной и той же модели и набора данных.
Согласно документации Azure Machine Learning, панель состоит из нескольких компонентов. Анализ данных помогает изучить набор данных. Обзор модели включает оценку справедливости на основе Fairlearn. Анализ ошибок используется для поиска когорт, то есть подмножеств данных, на которых модель ошибается. Интерпретируемость модели предоставляет глобальную и локальную важность признаков. Анализ «что, если» с контрфактическими сценариями позволяет пользователям исследовать, как изменения входных данных повлияли бы на прогнозы, а причинно-следственный анализ рассматривает влияние признаков-воздействий. Панель можно настроить так, чтобы в нее входили только инструменты, относящиеся к конкретному сценарию использования, а также она сопровождается PDF-отчетом, который экспортирует метаданные и выводы по ответственному ИИ.
Панель можно создать с помощью CLI Azure Machine Learning v2, Python SDK v2 или студии. Компоненты рассчитаны на совместное использование в типичных сценариях. Один из примеров — переход от обзора модели к анализу ошибок и затем к анализу данных, что помогает проследить, где и почему модель работает плохо. Другой — переход от анализа данных к причинно-следственному выводу, что помогает отличать корреляцию от причинно-следственной связи. В документации в числе целевой аудитории указаны специалисты по данным и руководители по рискам, что отражает использование панели как для технической отладки, так и для проверки и контроля.
В документации также перечислены ограничения. Панель поддерживает регрессию и классификацию табличных данных. Она работает только с зарегистрированными моделями в стиле MLflow scikit-learn и с наборами данных pandas в формате parquet. Количество точек, которые можно визуализировать, ограничено, а модели AutoML не поддерживаются. Устранение выявленных проблем выполняется отдельными инструментами, поэтому панель ориентирована на оценку и отладку, а не на самостоятельное исправление проблем.
Эпизод M365.FM «Secure and Govern Microsoft 365 Copilot» упоминает Microsoft Responsible AI Dashboard в контексте управления. В эпизоде описывается организация, которая может разработать Стандарт ответственного ИИ, охватывающий справедливость, надежность, конфиденциальность и инклюзивность, при этом Office of Responsible AI контролирует эту работу и проверяет соблюдение правил. В этой картине Responsible AI Dashboard назван инструментом, который может использоваться для мониторинга систем ИИ и управления. В эпизоде также подчеркивается важность обучения этическим принципам использования ИИ и наличия простых способов сообщать о проблемах, связанных с Copilot или использованием ИИ.
Вместе документация продукта и эпизод показывают две стороны темы. Документация описывает конкретный набор инструментов уровня моделей внутри Azure Machine Learning с определенными компонентами и заданными ограничениями. Эпизод помещает такие инструменты в более широкую организационную структуру стандартов, контроля, обучения и каналов отчетности. Команды, которые рассматривают использование панели, должны сначала проверить, соответствуют ли их модели поддерживаемым типам моделей и данных, прежде чем планировать работу с ней.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Product |
|---|---|
| Documentation | Responsible AI dashboard – Microsoft Learn learn.microsoft.com |
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
Что такое панель Responsible AI? (AI)
Это единый интерфейс в Azure Machine Learning, который объединяет инструменты ответственного ИИ, такие как анализ ошибок, интерпретируемость модели и оценка справедливости, для оценки и отладки моделей.
Какие типы моделей и данных поддерживает панель Responsible AI? (AI)
Она поддерживает регрессию и классификацию табличных данных, зарегистрированные модели в стиле MLflow scikit-learn и наборы данных pandas в формате parquet. Модели AutoML не поддерживаются, а количество визуализируемых точек ограничено.
Исправляет ли панель Responsible AI найденные проблемы? (AI)
Нет. Согласно документации, она используется для оценки и отладки, а устранение проблем выполняется отдельными инструментами.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Responsible AI dashboard – Microsoft Learn learn.microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: