M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions m365con.net

Responsible AI dashboard

Product

לוח הבקרה של Responsible AI ב-Azure Machine Learning מרכז כלים כמו הסברי מודל וניתוח שגיאות, כדי לסייע בהערכה ובניפוי שגיאות של מודלים מבחינת אחריות בבינה מלאכותית.

◆ PRODUCTResponsible AI dashboardM365.FM
Title graphic: Responsible AI dashboard (Product)

Description

לוח הבקרה של Responsible AI הוא ממשק יחיד ב-Azure Machine Learning שמרכז מספר כלים של בינה מלאכותית אחראית. הוא משמש להערכה ולניפוי שגיאות של מודלים של למידת מכונה ולתמיכה בהחלטות מבוססות נתונים לגביהם. במקום לעבוד עם כלים נפרדים להוגנות, לדפוסי שגיאות, להסברים ולשאלות סיבתיות, צוות יכול לפתוח לוח בקרה אחד ולעבור בין התצוגות האלה עבור אותו מודל ואותו מערך נתונים.

לפי התיעוד של Azure Machine Learning, לוח הבקרה מורכב from כמה רכיבים. ניתוח נתונים עוזר לבחון את מערך הנתונים. סקירת המודל כוללת הערכת הוגנות המבוססת על Fairlearn. ניתוח שגיאות משמש לאיתור קבוצות משנה של נתונים, הנקראות cohorts, שבהן המודל נכשל. פרשנות מודל מספקת חשיבות תכונות גלובלית ומקומית. ניתוח מה-אם נגדי מאפשר למשתמשים לבחון כיצד שינויים בקלט ישפיעו על התחזיות, וניתוח סיבתי בוחן את ההשפעה של תכונות טיפול. ניתן להתאים אישית את לוח הבקרה כך שייכללו בו רק הכלים הרלוונטיים לשימוש מסוים, והוא מלווה בכרטיס ציונים בפורמט PDF המייצא מטא-נתונים וממצאים של בינה מלאכותית אחראית.

ניתן ליצור את לוח הבקרה באמצעות ממשק שורת הפקודה של Azure Machine Learning CLI v2, ערכת ה-SDK של Python v2 או הסטודיו. הרכיבים מתוכננים להישלב בתהליכים טיפוסיים. דוגמה אחת היא מעבר מסקירת המודל לניתוח שגיאות ואז לניתוח נתונים, מה שעוזר לאתר היכן המודל מתפקד בצורה גרועה ומדוע. דוגמה אחרת היא מעבר מניתוח נתונים להסקה סיבתית, שעוזר להבחין בין מתאם לסיבתיות. התיעוד מונה מדעני נתונים ומנהלי סיכונים בין הקהלים המיועדים, מה שמשקף את השימוש בו הן לניפוי שגיאות טכני והן לבדיקה ולפיקוח.

התיעוד מונה גם מגבלות. לוח הבקרה תומך ברגרסיה ובסיווג על נתונים טבלאיים. הוא פועל רק עם מודלים רשומים מסוג MLflow בסגנון scikit-learn ועם מערכי נתונים בפורמט parquet של pandas. מספר הנקודות שניתן להציג בהדמיה מוגבל, ומודלים של AutoML אינם נתמכים. הפתרון לבעיות שהוא מעלה מטופל בכלים נפרדים, ולכן לוח הבקרה מכוון להערכה ולניפוי שגיאות ולא לתיקון הבעיות בעצמו.

פרק M365.FM "Secure and Govern Microsoft 365 Copilot" מזכיר את לוח הבקרה של Microsoft Responsible AI בהקשר של ממשל. הפרק מתאר ארגון שעשוי לפתח תקן Responsible AI הכולל הוגנות, אמינות, פרטיות והכללה, כאשר משרד Responsible AI מפקח על המאמצים האלה ובודק שהכללים נשמרים. בתמונה הזו, לוח הבקרה של Responsible AI מוזכרככלי שעשוי לשמש לניטור מערכות בינה מלאכותית ולניהול ממשל. הפרק מדגיש גם הדרכה על עקרונות אתיים לשימוש בבינה מלאכותית והחשיבות של דרכים פשוטות לדווח על חששות בנוגע ל-Copilot או לשימוש בבינה מלאכותית.

יחד, התיעוד של המוצר והפרק מציגים שני צדדים של הנושא. התיעוד מתאר ערכת כלים קונקרטית ברמת המודל בתוך Azure Machine Learning, עם רכיבים מוגדרים ומגבלות מוגדרות. הפרק ממקם כלי כזה במסגרת ארגונית רחבה יותר של תקנים, פיקוח, הדרכה וערוצי דיווח. צוותים ששוקלים להשתמש בלוח הבקרה צריכים לבדוק אם המודלים שלהם מתאימים לסוגי המודלים והנתונים הנתמכים לפני שהם מתכננים סביבו.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeProduct
DocumentationResponsible AI dashboard – Microsoft Learn learn.microsoft.com

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

מהו לוח הבקרה של Responsible AI? (AI)

זהו ממשק יחיד ב-Azure Machine Learning המשלב כלים של בינה מלאכותית אחראית, כגון ניתוח שגיאות, פרשנות מודל והערכת הוגנות, להערכה ולניפוי שגיאות של מודלים.

אילו סוגי מודלים ונתונים לוח הבקרה של Responsible AI תומך בהם? (AI)

הוא תומך ברגרסיה ובסיווג על נתונים טבלאיים, במודלים רשומים מסוג MLflow בסגנון scikit-learn ובמערכי נתונים בפורמט parquet של pandas. מודלים של AutoML אינם נתמכים, ומספר הנקודות שניתן להציג בהדמיה מוגבל.

האם לוח הבקרה של Responsible AI מתקן את הבעיות שהוא מוצא? (AI)

לא. לפי התיעוד, הוא משמש להערכה ולניפוי שגיאות, ואילו הפתרון מטופל בכלים נפרדים.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Sources

Maintained by Mirko Peters (Microsoft MVP) · Last updated: