M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions m365con.net
M365.FM · עברית

אבטחת סוכני AI עם Trio Gate: בדיקת חוזה לפני כל הפעלת כלי

הנושאים של הפרק הזה:

סוכני AI חכמים גורמים נזק כשהם מפעילים כלים בלי בדיקה. הפרק מסביר את Trio Gate: אימות לפני ביצוע שבודק יכולת, הרשאה ותוצאה ניתנת לאימות – ואחרת מסרב עם נימוק.

עקבו אחרי הפודקאסטפרקים חדשים על Microsoft 365, ‏Copilot ועוד, בחינם באפליקציית הפודקאסטים שלכם.Apple PodcastsSpotify

▶ אבטחת סוכני AI עם Trio Gate: בדיקת חוזה לפני כל הפעלת כלי (דיבוב AI)

תקציר

הסרטון מסביר את Trio Gate, בדיקת חוזה שרצה לפני שסוכן AI מבצע כל כלי. המאמת בודק שלושה דברים לפי הסדר: שהכוונה תואמת יכולת ותבנית אמיתיות, שלמבקש יש הרשאה לפי מדיניות והיקפי Entra ID, ושהתוצאה ישימה וניתנת לאימות. אם בדיקה אחת נכשלת, דבר לא רץ, והסוכן מסרב ומנמק ומציע חלופות בטוחות. הסרטון מכסה גם מבצעים, גרפי זרימת עבודה, אימות סטטי וזמן ריצה, הגדרת Microsoft 365 Graph, Azure OpenAI ו-Copilot Studio, ומדדים של דיוק, זמן תגובה ועלות.

פרקים

  1. בדיקת Trio Gate לפני הביצוע
  2. בדיקות התאמה למדיניות
  3. ישימות התוצאה ומסלול סירוב
  4. סיפור קצר ורכיבי היישום
  5. מדוע פרומפטים נכשלים ומבצעים מצליחים
  6. יסודות גרף זרימת העבודה: צמתים, קשתות, מצב
  7. אימות הגרף: בדיקות סטטיות ומגני זמן ריצה
  8. Microsoft 365 Graph, Azure OpenAI, Copilot Studio
  9. מדדים לפני ואחרי

מה תלמדו:

  1. התאמת יכולות: שמות כלים קנוניים, גרסת סכימה, שדות חובה וסוגים – בלי כלים מומצאים
  2. עמידה במדיניות: רשימות היתר, RBAC/ABAC עם claims של Entra ID, סיווג נתונים והיקפי טוקן שנבדקים במדויק
  3. היתכנות תנאי הסיום: מזהים קבועים או ETag ופעולות פיצוי במקרה כשל
  4. מסלול הסירוב: נימוקים, חלופות בטוחות או הסלמה לאדם – בדוגמה של מסמכי משאבי אנוש שנשלחים למחלקה המשפטית
  5. אימות גרף, מעקב לפי מזהה הרצה ומדדים כמו השהיית P95, טוקנים למשימה והצלחה בניסיון הראשון

הפרק הזה הוא גרסה עברית בדיבוב AI של הסרטון המונפש מתוך M365 Show של Microsoft MVP מירקו פטרס.

פרקים נוספים

פרקים נוספים על אבטחה, זהות וממשל:

כל הפרקים