M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · עברית

הגנה על Copilot מפני הזרקת פרומפטים

Azure Logic Apps כחומת אש עם Prompt Shields

תוקפים לא צריכים לפרוץ את הפרומפט שלכם – מספיק להרעיל את ההקשר בהוראה נסתרת בדוא"ל, בקובץ SharePoint או בשדה טופס, ש-Copilot יתייחס אליה בהמשך כאל פקודה. הפרק מסביר מדוע פרומפטים של מערכת ומסננים אינם גבול אבטחה אמיתי, וכיצד Azure Logic Apps בודק, מדרג וחוסם מטענים זדוניים עוד לפני ש-Copilot רץ.

עקבו אחרי הפודקאסטפרקים חדשים על Microsoft 365, ‏Copilot ועוד, בחינם באפליקציית הפודקאסטים שלכם.Spotify

▶ הגנה על Copilot מפני הזרקת פרומפטים: Azure Logic Apps כחומת אש עם Prompt Shields (דיבוב AI)

מה תלמדו:

  1. מדוע הזרקת פרומפטים עקיפה דרך תוכן מאוחזר מסוכנת יותר מתקיפות ישירות בחלון הצ'אט, ומדוע פרומפטים של מערכת, תווי הפרדה והנחיות רק משכנעים במקום לאכוף
  2. מודל חומת האש ב-Logic Apps: הפעלה, נרמול, בדיקה, ניקוד, החלטה ולאחר מכן ניתוב או רישום
  3. שני שלבי בדיקה: מסנן regex מהיר ו-Azure AI Content Safety Prompt Shields על הפרומפט והמסמכים יחד, בתוספת Microsoft Defender Threat Intelligence עם ציוני ביטחון
  4. אזורי אמון ונרמול (הסרת סימון, פענוח קידודי URL ו-Base64) והחלטות מדורגות: לאשר, לנקות, להעביר להסגר, לדרוש אישור אנושי או לחסום
  5. כוונון בתפעול: פחות מ-2% התראות שווא, זיהוי תוך פחות מ-15 דקות ובלימה תוך פחות מ-5, תוכנית צריכה מול Standard, וחיבור ל-NIST AI RMF ולתוויות הרגישות של Purview

פרק זה הוא גרסה עברית בדיבוב AI של סרטון ההסבר המונפש מתוך M365 Show של Microsoft MVP מירקו פטרס.

פרקים נוספים

כל הפרקים →