Responsible AI dashboard
Producto
El panel de IA responsable en Azure Machine Learning reúne herramientas como las explicaciones de modelos y el análisis de errores para ayudar a evaluar y depurar modelos de IA responsable.
Descripción
El panel de IA responsable es una interfaz única en Azure Machine Learning que reúne varias herramientas de IA responsable. Se utiliza para evaluar y depurar modelos de aprendizaje automático y para respaldar decisiones basadas en datos sobre ellos. En lugar de trabajar con herramientas separadas para la equidad, los patrones de error, las explicaciones y las preguntas causales, un equipo puede abrir un único panel y moverse entre estas vistas para el mismo modelo y conjunto de datos.
Según la documentación de Azure Machine Learning, el panel está formado por varios componentes. El análisis de datos ayuda a examinar el conjunto de datos. La descripción general del modelo incluye una evaluación de equidad basada en Fairlearn. El análisis de errores se utiliza para localizar cohortes, es decir, subconjuntos de datos en los que un modelo falla. La interpretabilidad del modelo proporciona la importancia de las características globales y locales. El análisis contrafactual de tipo «what-if» permite explorar cómo los cambios en las entradas afectarían a las predicciones, y el análisis causal examina el efecto de las características de tratamiento. El panel puede personalizarse para incluir solo las herramientas relevantes para un caso de uso específico, y va acompañado de una tarjeta de puntuación en PDF que exporta los metadatos y los hallazgos de IA responsable.
El panel puede crearse mediante la CLI v2 de Azure Machine Learning, el SDK v2 de Python o el studio. Los componentes están diseñados para combinarse en flujos habituales. Un ejemplo es pasar de la descripción general del modelo al análisis de errores y después al análisis de datos, lo que ayuda a rastrear dónde y por qué un modelo tiene un mal rendimiento. Otro es pasar del análisis de datos a la inferencia causal, lo que ayuda a distinguir la correlación de la causalidad. La documentación menciona a los científicos de datos y a los responsables de riesgos como público previsto, lo que refleja su uso tanto para la depuración técnica como para la revisión y la supervisión.
La documentación también enumera sus límites. El panel admite regresión y clasificación en datos tabulares. Solo funciona con modelos registrados de estilo MLflow y scikit-learn y con conjuntos de datos pandas en formato parquet. El número de puntos que pueden visualizarse tiene un límite, y no se admiten los modelos de AutoML. La mitigación de los problemas que revela se gestiona con herramientas independientes, por lo que el panel está orientado a la evaluación y la depuración, y no a corregir los problemas por sí mismo.
El episodio de M365.FM «Secure and Govern Microsoft 365 Copilot» menciona el Panel de IA responsable de Microsoft en un contexto de gobernanza. El episodio describe una organización que podría desarrollar un Estándar de IA responsable que abarque la equidad, la fiabilidad, la privacidad y la inclusión, con una Oficina de IA responsable que supervise estos esfuerzos y compruebe que se cumplen las normas. En ese planteamiento, el Panel de IA responsable se menciona como una herramienta que podría usarse para supervisar los sistemas de IA y gestionar la gobernanza. El episodio también subraya la formación sobre los principios éticos para el uso de la IA y la importancia de disponer de vías sencillas para notificar inquietudes sobre Copilot o el uso de la IA.
En conjunto, la documentación del producto y el episodio muestran dos caras del tema. La documentación describe un conjunto de herramientas concreto, a nivel de modelo, dentro de Azure Machine Learning, con componentes y límites definidos. El episodio sitúa este tipo de herramientas dentro de un marco organizativo más amplio de normas, supervisión, formación y canales de notificación. Los equipos que estén considerando el panel deberían comprobar si sus modelos encajan en los tipos de modelo y de datos admitidos antes de planificar su uso.
Resumen generado con IA a partir de los episodios de M365.FM y los datos de esta página. Puedes mejorarlo con el botón de edición de abajo.
| Tipo | Producto |
|---|---|
| Documentación | Responsible AI dashboard – Microsoft Learn learn.microsoft.com |
Preguntas frecuentes
Las preguntas marcadas con IA se escribieron con IA a partir de los datos de esta página.
¿Qué es el panel de IA responsable? (IA)
Es una interfaz única en Azure Machine Learning que combina herramientas de IA responsable, como el análisis de errores, la interpretabilidad del modelo y la evaluación de equidad, para evaluar y depurar modelos.
¿Qué tipos de modelos y datos admite el panel de IA responsable? (IA)
Admite regresión y clasificación en datos tabulares, modelos registrados de estilo MLflow y scikit-learn y conjuntos de datos pandas en formato parquet. No se admiten los modelos de AutoML, y el número de puntos visualizados tiene un límite.
¿El panel de IA responsable corrige los problemas que detecta? (IA)
No. Según la documentación, se utiliza para la evaluación y la depuración, mientras que la mitigación corre a cargo de herramientas independientes.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Expertos y empresas para este tema
Nadie ha indicado aún este tema. Añádelo a tu perfil.
Fuentes
- Responsible AI dashboard – Microsoft Learn learn.microsoft.com
Mantenido por Mirko Peters (Microsoft MVP) · Última actualización: