M365.FM · עברית
הגנה על Copilot מפני הזרקת פרומפטים
Azure Logic Apps כחומת אש עם Prompt Shields
Microsoft 365 Copilotאבטחה, זהות וממשלAzure ופיתוחMicrosoft 365 Copilotהזרקת פרומפטיםAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelאבטחת AI
תוקפים לא צריכים לפרוץ את הפרומפט שלכם – מספיק להרעיל את ההקשר בהוראה נסתרת בדוא"ל, בקובץ SharePoint או בשדה טופס, ש-Copilot יתייחס אליה בהמשך כאל פקודה. הפרק מסביר מדוע פרומפטים של מערכת ומסננים אינם גבול אבטחה אמיתי, וכיצד Azure Logic Apps בודק, מדרג וחוסם מטענים זדוניים עוד לפני ש-Copilot רץ.
עקבו אחרי הפודקאסטפרקים חדשים על Microsoft 365, Copilot ועוד, בחינם באפליקציית הפודקאסטים שלכם.Spotify
▶ הגנה על Copilot מפני הזרקת פרומפטים: Azure Logic Apps כחומת אש עם Prompt Shields (דיבוב AI)
מה תלמדו:
- מדוע הזרקת פרומפטים עקיפה דרך תוכן מאוחזר מסוכנת יותר מתקיפות ישירות בחלון הצ'אט, ומדוע פרומפטים של מערכת, תווי הפרדה והנחיות רק משכנעים במקום לאכוף
- מודל חומת האש ב-Logic Apps: הפעלה, נרמול, בדיקה, ניקוד, החלטה ולאחר מכן ניתוב או רישום
- שני שלבי בדיקה: מסנן regex מהיר ו-Azure AI Content Safety Prompt Shields על הפרומפט והמסמכים יחד, בתוספת Microsoft Defender Threat Intelligence עם ציוני ביטחון
- אזורי אמון ונרמול (הסרת סימון, פענוח קידודי URL ו-Base64) והחלטות מדורגות: לאשר, לנקות, להעביר להסגר, לדרוש אישור אנושי או לחסום
- כוונון בתפעול: פחות מ-2% התראות שווא, זיהוי תוך פחות מ-15 דקות ובלימה תוך פחות מ-5, תוכנית צריכה מול Standard, וחיבור ל-NIST AI RMF ולתוויות הרגישות של Purview
פרק זה הוא גרסה עברית בדיבוב AI של סרטון ההסבר המונפש מתוך M365 Show של Microsoft MVP מירקו פטרס.