אבטחת סוכני AI עם Trio Gate: בדיקת חוזה לפני כל הפעלת כלי
הנושאים של הפרק הזה:
סוכני AI חכמים גורמים נזק כשהם מפעילים כלים בלי בדיקה. הפרק מסביר את Trio Gate: אימות לפני ביצוע שבודק יכולת, הרשאה ותוצאה ניתנת לאימות – ואחרת מסרב עם נימוק.
M365.FM עברית ב-Apple Podcasts M365.FM עברית ב-Spotify M365.FM עברית ב-Amazon Music M365.FM עברית ב-Deezer M365.FM עברית ב-iHeart M365.FM עברית ב-Podcast Addict M365.FM עברית ב-Podchaser
▶ אבטחת סוכני AI עם Trio Gate: בדיקת חוזה לפני כל הפעלת כלי (דיבוב AI)
תקציר
הסרטון מסביר את Trio Gate, בדיקת חוזה שרצה לפני שסוכן AI מבצע כל כלי. המאמת בודק שלושה דברים לפי הסדר: שהכוונה תואמת יכולת ותבנית אמיתיות, שלמבקש יש הרשאה לפי מדיניות והיקפי Entra ID, ושהתוצאה ישימה וניתנת לאימות. אם בדיקה אחת נכשלת, דבר לא רץ, והסוכן מסרב ומנמק ומציע חלופות בטוחות. הסרטון מכסה גם מבצעים, גרפי זרימת עבודה, אימות סטטי וזמן ריצה, הגדרת Microsoft 365 Graph, Azure OpenAI ו-Copilot Studio, ומדדים של דיוק, זמן תגובה ועלות.
פרקים
מה תלמדו:
- התאמת יכולות: שמות כלים קנוניים, גרסת סכימה, שדות חובה וסוגים – בלי כלים מומצאים
- עמידה במדיניות: רשימות היתר, RBAC/ABAC עם claims של Entra ID, סיווג נתונים והיקפי טוקן שנבדקים במדויק
- היתכנות תנאי הסיום: מזהים קבועים או ETag ופעולות פיצוי במקרה כשל
- מסלול הסירוב: נימוקים, חלופות בטוחות או הסלמה לאדם – בדוגמה של מסמכי משאבי אנוש שנשלחים למחלקה המשפטית
- אימות גרף, מעקב לפי מזהה הרצה ומדדים כמו השהיית P95, טוקנים למשימה והצלחה בניסיון הראשון
הפרק הזה הוא גרסה עברית בדיבוב AI של הסרטון המונפש מתוך M365 Show של Microsoft MVP מירקו פטרס.