Responsible AI dashboard
Product
Pulpit Responsible AI w Azure Machine Learning łączy narzędzia takie jak objaśnienia modeli i analiza błędów, pomagając oceniać modele pod kątem odpowiedzialnej AI i diagnozować ich problemy.
Opis
Pulpit Responsible AI to pojedynczy interfejs w Azure Machine Learning, który łączy kilka narzędzi odpowiedzialnej AI. Służy do oceny i debugowania modeli uczenia maszynowego oraz do wspierania opartych na danych decyzji dotyczących tych modeli. Zamiast korzystać z osobnych narzędzi do oceny sprawiedliwości, wzorców błędów, objaśnień i pytań przyczynowych, zespół może otworzyć jeden pulpit i przechodzić między tymi widokami dla tego samego modelu i zbioru danych.
Według dokumentacji Azure Machine Learning pulpit składa się z kilku komponentów. Analiza danych pomaga zbadać zbiór danych. Przegląd modelu obejmuje ocenę sprawiedliwości opartą na Fairlearn. Analiza błędów służy do lokalizowania kohort, czyli podzbiorów danych, w których model zawodzi. Interpretowalność modelu zapewnia globalne i lokalne ważności cech. Analiza kontrfaktyczna typu co-jeśli pozwala użytkownikom badać, jak zmiany danych wejściowych wpłynęłyby na przewidywania, a analiza przyczynowa bada wpływ cech traktowania. Pulpit można dostosować tak, aby zawierał wyłącznie narzędzia istotne dla konkretnego przypadku użycia, a towarzyszy mu raport PDF, który eksportuje metadane i wnioski dotyczące odpowiedzialnej AI.
Pulpit można utworzyć za pomocą interfejsu wiersza poleceń Azure Machine Learning CLI v2, zestawu Python SDK v2 lub w studio. Komponenty zaprojektowano tak, aby można je było łączyć w typowe przepływy pracy. Jednym z przykładów jest przejście od przeglądu modelu do analizy błędów, a następnie do analizy danych, co pomaga ustalić, gdzie i dlaczego model działa słabo. Innym jest przejście od analizy danych do wnioskowania przyczynowego, co pomaga odróżnić korelację od przyczynowości. Dokumentacja jako odbiorców docelowych wymienia data scientists oraz risk officers, co odzwierciedla zastosowanie zarówno do technicznego debugowania, jak i do przeglądu oraz nadzoru.
Dokumentacja wskazuje też ograniczenia. Pulpit obsługuje regresję i klasyfikację na danych tabelarycznych. Działa wyłącznie z zarejestrowanymi modelami w stylu MLflow scikit-learn oraz z zbiorami danych pandas w formacie parquet. Liczba punktów, które można wizualizować, jest ograniczona, a modeli AutoML nie obsługuje się. Łagodzeniem problemów, które pulpit ujawnia, zajmują się odrębne narzędzia, więc pulpit jest nastawiony na ocenę i debugowanie, a nie na samodzielne naprawianie problemów.
Odcinek M365.FM "Secure and Govern Microsoft 365 Copilot" wspomina Microsoft Responsible AI Dashboard w kontekście zarządzania. Odcinek opisuje organizację, która może opracować Responsible AI Standard obejmujący sprawiedliwość, niezawodność, prywatność i włączanie, przy czym Office of Responsible AI nadzoruje te działania i sprawdza przestrzeganie zasad. W tym ujęciu Responsible AI Dashboard jest wymieniony jako narzędzie, które może służyć do monitorowania systemów AI i zarządzania ich nadzorem. Odcinek podkreśla też szkolenia z zasad etycznych dotyczących użycia AI oraz znaczenie łatwych sposobów zgłaszania obaw dotyczących Copilot lub użycia AI.
Razem dokumentacja produktu i odcinek ukazują dwa aspekty tematu. Dokumentacja opisuje konkretny, działający na poziomie modelu zestaw narzędzi w Azure Machine Learning, z określonymi komponentami i określonymi ograniczeniami. Odcinek umieszcza takie narzędzia w szerszych ramach organizacyjnych obejmujących standardy, nadzór, szkolenia i kanały zgłaszania. Zespoły rozważające pulpit powinny sprawdzić, czy ich modele odpowiadają obsługiwanym typom modeli i danych, zanim zaplanują wykorzystanie tego narzędzia.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Typ | Product |
|---|---|
| Dokumentacja | Responsible AI dashboard – Microsoft Learn learn.microsoft.com |
Często zadawane pytania
Questions marked with AI were written with AI from the facts on this page.
Czym jest Pulpit Responsible AI? (AI)
To pojedynczy interfejs w Azure Machine Learning, który łączy narzędzia odpowiedzialnej AI, takie jak analiza błędów, interpretowalność modelu i ocena sprawiedliwości, w celu oceny i debugowania modeli.
Jakie typy modeli i danych obsługuje Pulpit Responsible AI? (AI)
Obsługuje regresję i klasyfikację na danych tabelarycznych, zarejestrowane modele w stylu MLflow scikit-learn oraz zbiory danych pandas w formacie parquet. Modeli AutoML nie obsługuje się, a liczba wizualizowanych punktów jest ograniczona.
Czy Pulpit Responsible AI naprawia problemy, które wykrywa? (AI)
Nie. Według dokumentacji służy on do oceny i debugowania, a łagodzeniem problemów zajmują się odrębne narzędzia.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Eksperci i firmy w tym temacie
Nikt jeszcze nie wskazał tego tematu. Dodaj go do swojego profilu.
Sources
- Responsible AI dashboard – Microsoft Learn learn.microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: