M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions m365con.net

בלוג · Mirko Peters

אבטחת הפרטיות ב-Microsoft Copilot: תוויות רגישות, הרשאות, DLP ויומני ביקורת

By ·

אמצעי הפרטיות שחלים על Microsoft Copilot: הרשאות, תוויות רגישות עם זכויות שימוש, מיקום ה-DLP של Copilot, רשומות ביקורת ושמירה, לפי Microsoft Learn.

Automatically translated with AI from the original post. Read the English original

מודל הפרטיות של Copilot נשען על כלל אחד: הוא פועל במסגרת מה שהמשתמש המחובר כבר יכול לגשת אליו. כל השאר הם שכבות נוספות מעל הכלל הזה. תוויות רגישות, מניעת אובדן מידע (DLP), ביקורת, שמירה ו-eDiscovery קובעים עד כמה ההרשאה הזו מבוקרת, ועד כמה אפשר לבדוק אותה בדיעבד. Microsoft Learn קוראת כעת למוצר Microsoft Copilot. דפים ישנים יותר מכנים אותו Microsoft 365 Copilot.

עיקרי הדברים

  • Copilot מציג רק נתוני ארגון שלמשתמש יש לפחות הרשאות צפייה אליהם. הנחיות ותשובות אינן משמשות לאימון מודלי LLM בסיסיים.
  • עבור תוויות שמבצעות הצפנה, המשתמשים צריכים את זכות השימוש EXTRACT וגם את VIEW לפני שאפליקציות AI יחזירו את הנתונים.
  • מיקום ה-DLP עבור Copilot יכול לחסום הנחיות רגישות, חיפוש רשת עבור אותן הנחיות, וקבצים ומיילים מתויגים מלהיות מעובדים.
  • אינטראקציות Copilot נכתבות ליומן הביקורת המאוחד כרשומות CopilotInteraction, הכוללות משאבים שנגישים ומזהי תוויות.
  • מדיניות שמירה יכולה לשמר או למחוק הנחיות ותשובות. eDiscovery יכול לחפש אותן בתיבת הדואר של המשתמש.

שכבה 1: הרשאות ושימוש בנתונים

דף הפרטיות של Microsoft קובע ש-Copilot "מציג רק נתוני ארגון שלמשתמשים בודדים יש לפחות הרשאות צפייה אליהם". האינדקס הסמנטי מכבד את אותו גבול גישה מבוסס זהות משתמש. Copilot מציג נתונים באמצעות אותם בקרות גישה בסיסיות כמו שירותי Microsoft 365 אחרים.

שתי התחייבויות מאותו דף:

  • הנחיות, תשובות והנתונים שנגישים דרך Microsoft Graph אינם משמשים לאימון מודלי LLM בסיסיים.
  • נתוני אינטראקציה שנשמרים (ההנחיה, התשובה והציטוטים) מוצפנים בזמן האחסון.

עבור משתמשים באיחוד האירופי, Microsoft מציינת שתעבורה מהאיחוד נשארת בתוך גבול הנתונים של האיחוד האירופי, בעוד שתעבורה גלובלית עשויה להישלח לאיחוד האירופי ולאזורים אחרים לעיבוד LLM. הדף מוסיף כי מודלים של Anthropic כמעבד משנה מוחרגים כרגע מגבול הנתונים של האיחוד האירופי. יש לבדוק נקודה זו מול הדף העדכני אם מקום אחסון הנתונים חשוב לארגון שלכם.

המשמעות המעשית: היגיינת הרשאות היא אמצעי הפרטיות הראשון. סקירת האבטחה של Microsoft מציינת שתוכן עם שיתוף יתר או ניהול לקוי עלול להשפיע על תוצאות Copilot ולהגביר את הסיכון.

שכבה 2: תוויות רגישות והצפנה

התיעוד של Purview קובע שאפליקציות AI משתמשות בבקרות הקיימות, כך שנתונים בדייר לא יוחזרו למשתמש, ולא ישמשו LLM, אם למשתמש אין אליהם גישה. תוויות מוסיפות הגנה:

  • כאשר תווית מחילה הצפנה, המשתמשים צריכים את זכות השימוש EXTRACT וגם את VIEW, כדי שאפליקציות ה-AI יחזירו את הנתונים.
  • הגנה זו חלה גם על נתונים המאוחסנים מחוץ לדייר, כאשר הם פתוחים באפליקציית Office.
  • Microsoft ממליצה להפעיל תוויות רגישות עבור SharePoint ו-OneDrive.

הצפנה ללא תוויות מטופלת אחרת. הצפנת Azure Rights Management (Purview Message Encryption, IRM, מחבר RMS וערכת ה-SDK של RMS) עדיין עוברת בדיקות VIEW ו-EXTRACT, אך פריטים חדשים אינם יורשים הגנה באופן אוטומטי. Microsoft מונה גם את המקרים הבאים:

  • מיילים המוגנים ב-S/MIME אינם מוחזרים על ידי Copilot.
  • מסמכים מוגנים בסיסמה אינם נגישים לאפליקציות AI, אלא אם הם כבר פתוחים באותה אפליקציה.
  • פריטים המוצפנים באמצעות Customer Key או BYOK זכאים להיות מוחזרים על ידי Copilot.

עבור סוכנים, דף הפרטיות מציין שהצפנה עשויה להוציא גישה programmatic, וזה מגביל את הגישה של סוכן לתוכן.

שכבה 3: DLP עבור Copilot

ל-Purview DLP יש מיקום מדיניות בשם Microsoft Copilot, Copilot Chat, and Copilot Cowork. לפי Microsoft Learn, הוא יכול:

  • להגביל חיפוש ברשת החיצונית כאשר פרומפטים מכילים נתונים רגישים.
  • להגביל עיבוד של פרומפטים רגישים.
  • להגביל עיבוד של קבצים ומיילים רגישים.
  • להגביל עיבוד של מייל חיצוני (preview).

| תנאי | מה קורה | |---|---| | התוכן מכיל תווית רגישות | הפריט לא ייכלל בעיבוד או בשימוש בסיכום התשובה. ייתכן שהוא עדיין יהיה זמין בציטוטים. | | התוכן מכיל סוג מידע רגיש (עיבוד פרומפטים) | החוויה לא תגיב לפרומפט. | | התוכן מכיל סוג מידע רגיש (חיפושי רשת) | חיפוש ברשת החיצונית לא ישמש כמקור עיגון לאותו פרומפט. |

דברים שכדאי לדעת לפני בניית המדיניות:

  • המיקום זמין רק בתבנית המדיניות Custom, ובחירתו מבטלת את שאר המיקומים עבור אותה מדיניות.
  • לא ניתן לשלב תוויות וסוגי מידע רגיש באותו כלל. השתמשו בכלל נפרד לכל אחד מהם.
  • DLP לא יכול לסרוק קבצים שהועלו ישירות לפרומפטים. הוא בודק רק את טקסט הפרומפט שהוקלד.
  • חסימת פרומפטים לפי סוג מידע רגיש מתועדת כ-preview.
  • עדכוני מדיניות עשויים להימשך עד ארבע שעות עד שייכנסו לתוקף.
  • הזמנות ליומן אינן נתמכות לחסימה מבוססת תוויות, ומיילים חייבים להיות שנשלחו ב-1 בינואר 2025 או לאחריו.

שכבה 4: יומני ביקורת

אינטראקציות של Copilot נרשמות ביומן הביקורת המאוחד. Microsoft Learn מתאר את הרשומות הבאות:

  • CopilotInteraction (workload Copilot) מכסה Copilot שפותחו על ידי Microsoft.
  • ConnectedAIAppInteraction מכסה אפליקציות AI מותאמות אישית או של צד שלישי שנפרסו ונרשמו בארגון.
  • AIAppInteraction מכסה אפליקציות AI של צד שלישי שאינן פרוסות בארגון.

מאפיינים שימושיים כוללים את AppIdentity, AppHost ו-AccessedResources. האחרון מפרט את המשאבים ש-Copilot השתמש בהם, עם הפעולה, הסטטוס ופרטי המדיניות כאשר הגישה נחסמה או הוגבלה. לכל משאב מצורף גם SensitivityLabelId. הדף מתעד רק את המזהה, לא את שם התווית. דגלים נוספים כוללים את XPIADetected (cross prompt injection attack) ו-JailbreakDetected.

לחיפוש: היכנסו לפורטל Microsoft Purview, בחרו Audit, וסננו את השדה Activities – operation names לפי פעולה, סוג רשומה או workload. הביקורת חייבת להיות מופעלת בארגון. יומני ביקורת עבור אפליקציות AI שאינן של Microsoft משתמשים בחיוב pay-as-you-go ונשמרים 180 יום. הדף אינו מציין את שמירת ברירת המחדל עבור Audit (Standard), ואינו מפרט את תפקידי הניהול הנדרשים לחיפוש.

שכבה 5: שמירה, eDiscovery ופיקוח

  • שמירה. מדיניות שמירה יכולה לשמור או למחוק פרומפטים ותשובות של משתמשים. אם חלים מספר מדיניות או מעצרי eDiscovery, המידע נשמר למשך הארוך ביותר.
  • eDiscovery. פרומפטים ותשובות נשמרים בתיבת הדואר של המשתמש. חפשו בה עם התנאי Type > Contains any of > Copilot activity.
  • Communication compliance. הוא יכול לזהות הפרות התנהגות בפרומפטים ובתשובות של AI, כאשר שמות המשתמשים מוסווים בפסבדונימים.
  • Insider Risk Management. התבנית Risky AI usage מזהה שימוש מסוכן, כולל מתקפות prompt injection וגישה לחומר מוגן.

מאיפה להתחיל

  1. תקנו קודם את החשיפה היתרה, כי ההרשאות קובעות אל מה Copilot יכול להגיע.
  2. סווגו תוכן רגיש ואשרו אילו תוויות מצפינות.
  3. צרו כלל DLP למיקום Copilot עבור התוויות או סוגי המידע שאסור לעבד לעולם.
  4. ודאו שהביקורת פעילה, ובצעו חיפוש ניסיון לרשומות CopilotInteraction.
  5. החליטו כמה זמן יש לשמור פרומפטים ותשובות.

קישורים קשורים

מקורות

FAQ

האם Copilot מכבד תוויות רגישות?

כן, אבל בתנאי. לפי Microsoft Learn, כאשר תווית מחילה הצפנה, המשתמשים צריכים לקבל גם את זכות השימוש EXTRACT וגם את VIEW, כדי שאפליקציות AI יחזירו את הנתונים. Copilot מכבד את זכויות השימוש שהוענקו למשתמש.

האם הנחיות Copilot משמשות לאימון המודל?

לא. לפי דף הפרטיות של Microsoft ב-Copilot, הנחיות, תשובות והנתונים שנגישים דרך Microsoft Graph אינם משמשים לאימון מודלי LLM בסיסיים, כולל אלה שבהם משתמש Microsoft Copilot.

היכן מנהלים יכולים לראות לאילו נתונים Copilot ניגש?

בפורטל Microsoft Purview, תחת Audit. לפי Microsoft Learn, אינטראקציות Copilot יוצרות רשומות מסוג CopilotInteraction שמפנות לקבצים, לאתרים ולמשאבים אחרים שנגישים אליהם, כולל מזהה תווית רגישות לכל משאב. יש לאפשר ביקורת בארגון.

האם DLP יכול למנוע מ-Copilot להשתמש בקובץ מתויג?

כן. מיקום מדיניות ה-DLP עבור Microsoft Copilot, Copilot Chat ו-Copilot Cowork יכול למנוע עיבוד של קבצים ומיילים עם תוויות רגישות נבחרות. Microsoft מציינת שהפריט עשוי עדיין להופיע בציטוטים של התשובה.

Entities in this article

הנושאים של המאמר הזה:

Microsoft 365 Copilot – עוזר בינה מלאכותית של Microsoft תוויות רגישות – חלק מ-Microsoft Purview Microsoft Purview Audit – חלק מ-Microsoft Purview מניעת אובדן נתונים (DLP) – חלק מ-Microsoft Purview

Related articles

מאמרים נוספים על Microsoft 365 Copilot:

RSS