Responsible AI dashboard
Product
Dasbor Responsible AI di Azure Machine Learning menggabungkan alat-alat seperti penjelasan model dan analisis kesalahan untuk membantu menilai dan men-debug model secara bertanggung jawab.
Description
Dasbor Responsible AI adalah antarmuka tunggal di Azure Machine Learning yang menggabungkan beberapa alat responsible AI. Dasbor ini digunakan untuk mengevaluasi dan men-debug model machine learning serta untuk mendukung keputusan berbasis data mengenai model tersebut. Alih-alih bekerja dengan alat terpisah untuk keadilan, pola kesalahan, penjelasan, dan pertanyaan kausal, sebuah tim dapat membuka satu dasbor dan berpindah di antara tampilan-tampilan ini untuk model dan dataset yang sama.
Menurut dokumentasi Azure Machine Learning, dasbor ini terdiri dari beberapa komponen. Analisis data membantu memeriksa dataset. Ikhtisar model mencakup penilaian keadilan berdasarkan Fairlearn. Analisis kesalahan digunakan untuk menemukan kohort, yaitu subset data, tempat model gagal. Interpretabilitas model menyediakan pentingnya fitur secara global dan lokal. Analisis what-if kontrafaktual memungkinkan pengguna mengeksplorasi bagaimana perubahan pada input akan memengaruhi prediksi, dan analisis kausal melihat efek fitur perlakuan. Dasbor ini dapat disesuaikan sehingga hanya alat yang relevan dengan kasus penggunaan tertentu yang disertakan, dan dilengkapi dengan scorecard PDF yang mengekspor metadata dan temuan responsible AI.
Dasbor ini dapat dibuat melalui Azure Machine Learning CLI v2, Python SDK v2, atau studio. Komponen-komponennya dirancang untuk dikombinasikan dalam alur kerja yang umum. Salah satu contohnya adalah berpindah dari ikhtisar model ke analisis kesalahan lalu ke analisis data, yang membantu melacak di mana model berkinerja buruk dan alasannya. Contoh lainnya adalah berpindah dari analisis data ke inferensi kausal, yang membantu memisahkan korelasi dari sebab-akibat. Dokumentasi menyebut ilmuwan data dan petugas risiko sebagai audiens yang dituju, yang mencerminkan penggunaannya baik untuk debugging teknis maupun untuk peninjauan dan pengawasan.
Dokumentasi juga mencantumkan batasan-batasannya. Dasbor ini mendukung regresi dan klasifikasi pada data tabular. Dasbor ini hanya bekerja dengan model bergaya scikit-learn MLflow yang terdaftar dan dataset parquet pandas. Jumlah titik yang dapat divisualisasikan dibatasi, dan model AutoML tidak didukung. Mitigasi terhadap masalah yang ditampilkan ditangani oleh alat terpisah, sehingga dasbor ini berorientasi pada penilaian dan debugging, bukan memperbaiki masalah itu sendiri.
Episode M365.FM "Secure and Govern Microsoft 365 Copilot" menyebut Microsoft Responsible AI Dashboard dalam konteks tata kelola. Episode tersebut menggambarkan sebuah organisasi yang mungkin mengembangkan Responsible AI Standard yang mencakup keadilan, keandalan, privasi, dan inklusivitas, dengan Office of Responsible AI yang mengawasi upaya tersebut dan memeriksa kepatuhan terhadap aturan. Dalam gambaran itu, Responsible AI Dashboard disebut sebagai alat yang mungkin digunakan untuk memantau sistem AI dan mengelola tata kelola. Episode ini juga menekankan pelatihan tentang prinsip etika dalam penggunaan AI serta pentingnya memiliki cara yang mudah untuk melaporkan kekhawatiran tentang Copilot atau penggunaan AI.
Jika digabungkan, dokumentasi produk dan episode tersebut menunjukkan dua sisi dari topik ini. Dokumentasi menggambarkan perangkat model-level yang konkret di dalam Azure Machine Learning dengan komponen dan batasan yang jelas. Episode ini menempatkan perangkat semacam itu dalam kerangka organisasi yang lebih luas, yaitu standar, pengawasan, pelatihan, dan saluran pelaporan. Tim yang mempertimbangkan dasbor ini perlu memeriksa apakah model dan jenis data mereka sesuai dengan model dan jenis data yang didukung sebelum merencanakan penggunaannya.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Product |
|---|---|
| Documentation | Responsible AI dashboard – Microsoft Learn learn.microsoft.com |
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
Apa itu dasbor Responsible AI? (AI)
Ini adalah antarmuka tunggal di Azure Machine Learning yang menggabungkan alat responsible AI, seperti analisis kesalahan, interpretabilitas model, dan penilaian keadilan, untuk mengevaluasi dan men-debug model.
Jenis model dan data apa saja yang didukung oleh dasbor Responsible AI? (AI)
Dasbor ini mendukung regresi dan klasifikasi pada data tabular, model bergaya scikit-learn MLflow yang terdaftar, dan dataset parquet pandas. Model AutoML tidak didukung, dan jumlah titik yang divisualisasikan dibatasi.
Apakah dasbor Responsible AI memperbaiki masalah yang ditemukannya? (AI)
Tidak. Menurut dokumentasi, dasbor ini digunakan untuk penilaian dan debugging, sedangkan mitigasi ditangani oleh alat terpisah.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Responsible AI dashboard – Microsoft Learn learn.microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: