הבעיה בקופילות שלכם היא לא באמת בעיה של תכונות, זוהי בעיית אמון במודל שעומד מאחוריו. רוב הצוותים עדיין חושבים שהבטיחות תמונה בהנחיות, בהרשאות ובכמה פילטרים בקצה. אבל העניין הוא שתוקפים לא צריכים לנצח את ההנחיה שלכם, הם רק צריכים להראיל את ההקשר סביבה, ושם דברים משתבשים. פילטרים בסיסיים יכולים לתפוס. ברור, אבל הם מפספסים את המטען החבוי בתוך אימייל, קובץ SharePoint או שדה תופס. התוכן שנשלף יושב שם בשקט עד שקופילות מושך אותו ומתייחס אליו כאל הוראה ישירה. כבר ראינו את סימני ההזהרה עם דליפת אקו במיקרוסופט 365 קופיילוט ודליפת Share בקופילות סטודיו, והמציאות היא שעדכוני אבטחה לא סיימו את התופעה. מכיוון שקופילות יכול לחפש, לסכם ולפעול בכל סביבת המיקרוסופט 365 שלכם, נתיב הוראה אחד רע יכול להתפשט מהר. אז זה לא עניין של להוסיף עוד לוח מכוונים למערכת, אלא להציב Azure Logic Apps בנתיב כדי לבדוק, לדרג ולחסום מתענים זדוניים לפני שקופילות בכלל פועל. הסכנה האמיתית היא בארכיטקטורה, לא בהנחיה. המודל הישן מניח שאפשר לשמור על המערכת בטוחה על ידי כתיבת הנחיות טובות יותר סביב המודל. אתם נותנים לו הנחיית מערכת חזקה, מוסיפים מפרידים ואומרים למשתמשים מה לא לעשות. זה נשמע הגיוני על הנייר, אבל במציאות, המודל לא אוכף גבולות אמון כפי שמערכת הבטחה הייתה עושה, כי הוא קורא שפה בערוץ משותף אחד שבו הוראות ונתונים מתחרים על תשומת הלב. ההנחה הזו היא הפגם. אם מודל לא יכול להבחין בצורה אמינה בין משתמש שמבקש עזרה לבין מסמך שאומר לו בשקט להתעלם מהוראות קודמות, אז נקודת הבקרה לא יכולה לשבת רק בשכבת ההנחיה. אתם מנסים להבטח התנהגות בקצה בזמן שהסיכון האמיתי יושב בזרימת ההקשר שנכנסת למודל. זה נפל להסימון של הרבה צוותים ברגע שהופיעו אומסי עבודה של קופה אילות מבוססי שליפת נתונים. ברגע שקופילות מתחיל למשוך אימיילים, קבצים והיסטוריית שט ממיקרוסופט גראפ, שטח התקיפה משתנה לחלוטין. אתם כבר לא מאבטחים רק שיחה, אתם מאבטחים זרם חי של קלטים ברמות אמון מעורבות. ורמה אחת עמוק יותר, קופה אילות, מגדיל את טווח ההגעה. הוא לא רק עונה על שאלות, הוא שולף, מסכם ועוקב אחרי הפניות. בהגדרות מסוימות, הוא יכול אפילו להפעיל כלים או תהליכי עבודה. אז כשתוכן לא מהימן נכנס לשרשרת הזו, המודל יכול לשאת את ההשפעה הזו הלאה לתוך פעולות רגישות. זו הסיבה שהזרקת הנחיות עקיפה כל כך חשובה כרגע. במערכות ייצור, ההתקפה הנפוצה היא לא תמיד משתמש שמקליד תתעלם מהחוקים שלך בתיבת הצ'ה. הגירסה המסוכנת יותר נמצאת בתוך תוכן שנשלף, לעתים קרובות שבועות לפני שמישהו בכלל מבחין שהיא שם. מסמך מורעל, אימייל מתוחכם או הזנת תופס עשויים להיראות תמימים לבני אדם, אך הם מכילים שפת הוראות המופנית ישירות למודל. מאוחר יותר, קופא אילוט שולף את התוכן הזה כהקשר רלוונטי, מערבב אותו עם חומר מהימן, והמודל עוקב אחר הדבר הלא נכון. שרשרת התקיפה פשוטה, וזה מה שהופך אותה לי מסוכנת. ראשית, התוקף שוטל תוכן במקום שקופא אילוט יוכל להגיע אליו מאוחר יותר, לאחר מכן השליפה מביאה את התוכן הזה לסשן, ואז המודל מתייחס למטען כאל הוראה במקום כאל נתונים. אחרי זה, הוא יכול להתחיל להכין מידע רגיש, לעצב תגובות, או לדחוף נתונים לעבר נתיב זליגה באמצעות קישורים או שימוש בחלים. לכן, עבור מנהיגים, זו לא רק היגיינה של AI, אלא בקרת זמן ריצה הקשורה ישירות לממשל גישה. אם לקופילות יש טווח הגעה רחב ברחבי הדייר, והמודל צורך הקשר של אמון מעורב ללא הפרדה קשיחה, מודל ההבטחה שלכם חייב לקחת בחשבון מה נכנס לזרימה לפני הביצוע. ברגע שמבינים זאת, גם הפתרון משתנה. מפסיקים להיות אובססיביים לגבי פרומפטים מושלמים ומתחילים להציב אכיפה במקום שבו ההקשרנה. מדוע הגנות בסיסיות נכשלות בסביבת הייצור? רוב הצוותים עושים טעות בסיסית כבר בהתחלה. הם מניחים שביקרות ההבטחה ששימשו אותם במשך שנים בפיתוח אפליקציות יעבדו באותה מידה עבור קופיילוט. הם כותבים פרומפט מערכת חזק יותר, עוטפים כלת משתמש בתווים מיוחדים ומפרסמים הנחיות לעובדים, ואז הם מרגישים בטוחים. הצעדים האלה אינם רעים, ולא הייתי אומר לכם להפסיק לעשות אותם, אבל הם לא יוצרים גבול הבטחה אמיתי. הם רק מנסים לשכנע את המודל להתנהג, ובאבטחה שכנוע אינו זהה לאכיפה. שם נמצא הפער. פרומפט מערכת אומר למודל מה הייתם מעדיפים שיעשה, אבל הוא לא יכול למנוע מקובץ דוני להתחרות על תשומת הלב של המודל ברגע שהקובץ נמשך לסביבת העבודה. שימוש במפרידים עשוי לעזור במבנה הטקסט, אך הוא לא נותן למודל דרך לבדוק סיווגים ביטחוניים. הנחיות לעובדים מצוינות להצירת טעויות בתום לב, אך הן לא עושות דבר נגד מסמך מורעל או מטען חבלה חבוי בנתונים שנשלפו. הבקרה קיימת כהצעה, לא ככלל נוקשה שרץ בזמן הביצוע. ל-regex יש בעיה דומה, הוא מהיר וזול, לכן כדאי להשתמש בו כמעבר ראשוני מהיר. אם משתמש מקליד, התעלם מכל ההוראות הקודמות, המערכת שלכם צריכה לתפוס זאת בתוך כמה מילי שניות. ניתן גם להשתמש בו כדי לסמן ביטויי עקיפת פרטיות ברורים או תווים בסגנון סיקוואל בארגומנטים של הכלים שלכם. החלק הזה עובד בסדר, אבל regex מזהה רק תפוסים שהגדרת מראש, לכן הוא נכשל כשהניסוח משתנה מעט או כשהמתקפה מבוססת על משמעות ולא על מילים ספציפיות. זו הסיבה שאתם צריכים שכבות סיווג. ל-Azure AI Content Safety יש מגיני הנחיות שיכולים לזהות התקפות הזרקה ישירות והקיפות כאחד. בתוך Logic App אפשר לקרוא לה API כדי לבדוק את ההנחיה לפני שהמודל רואה אותה ואז לשנות את נתיב זרימת העבודה אם מזוהה מתקפה. זהו מנגנון בקרה חזק הרבה יותר מהתאמת מחרוזות פשוטה כי הוא מחפש את הכוונה שמאחורי המילים בהנחיה ובמסמכים יחד. גם אז, זיהוי לבדו אינו מספיק, כי לראות סיכון זה לא משנה אם אין לך דרך לעצור אותו. צוותי הבטחה ממיתים לעיתים קרובות בחשיבותו של החלק הספציפי הזה בתהליך. הזהרה בקובץ יומן רישום אינה בלימה וגם אריח יפה בלוח הבקרה אינו בלימה. אפילו התראה בעדיפות גבוהה ב-CM שלך נכשלת אם המטען כבר עבר דרך קופה אילות והפעיל פעולה במערכת במורד הזרם. בדיקת מה שקרה בדיעבד מועילה על החקירה, אבל היא לא מספיק טובה כשמתקפה מתרחשת בשניות. אתם מתמודדים עם מודל שיכול לפעול בתוך מערכות שהארגון שלכם כבר סומך עליהן. ישנה גם בעיה אם תוצאות שליליות כוזבות שרוב שיווק המוצרים מתעלם ממנה. מתקפות עקיפות גורמות לחלק גדול מהזיהויים המוחמצים בעולם האמיתי, כי ההוראה המסוכנת נראית תקינה לחלוטין עד שהמודל משלב אותה עם שאר השיחה. עד שאדם סוקר את הפלט ומבין שמשהו לא קשורה, הכלט הרע כבר סיים את עבודתו. הטעות המעשית כאן היא פשוטה מאוד. צוותים מבלים את כל זמנם בצפייה במה שקופילות אומר, אבל הם לא שולטים במה שנכנס אליו באותה רמת משמעת. הם בוחנים את התשובה לאחר שהיא נוצרה, תוך מתן אפשרות לחומר לא מהימן להיכנס לפני שהעבודה מתחילה. הסדר הזה הפוך לחלוטין. ברגע שמזהים את הפגם הזה, כל המטרה של אסטרטגיית ההבטחה שלכם משתנה. אתם מפסיקים לשאול איך לכתוב הנחיה בטוחה יותר ומתחילים לשאול איפה אפשר ליראת את הנתונים לפני שהמודל מבצע. מודל חומת האש של לוגיק אפ. אם ירות הוא המטרה, עלינו לבחון איך בקרה כזו נראית בפועל. עליכם להשתמש ב-Azure Logic Apps כשכבת מדיניות שיושבת לפני שלב הביצוע. זה לא אמור להיות קלי פסיבי ששולח דוח אחרי שהנזק כבר נעשה. עליכם להציב אותו ישירות בנתיב שבו כלת המשתמש ושליפת הנתונים מתרחשים, כך שניתן יהיה לבדוק אותם לפני שהמודל ניגש לעבודה. השינוי הזה עוצמתי כי האפליקציות בנויות עבור תזמור. הוא יכול להפעיל אירועים ספציפיים, לקרוא לאפיס אחרים ולקבל החלטות על סמך תנאים מורכבים. ניתן לנתב נתונים, לשלוח התראות למיקרוסופט סנטינר ולהעשיר את התהליך במידע חיצוני בלי לבנות שער הבטחה מותאם אישית מאפס. אתם לא מנסים להחליף את כל פעילות כאן, אתם רק מוסיפים שכבת בקרה לזרימת העבודה סביבו. ההיגיון מאחורי המודל הזה פשוט בכוונה. תחילה מפעילים את התהליך ואז מנרמלים את הנתונים, בודקים אותם, מדרגים את הסיכון, מקבלים החלטה ולבסוף מנתבים או מתעדים את התוצאה. זה כל הדפוס. כאשר בקשה או תוכן נכנסים לזרימת העבודה, הלוג'יק אפ מושך את הפעילות ומבצע לו סטנדרטיזציה. כלת גולמי הוא לרוב מבולגן כי מחברים שונים מטפלים בנתונים בדרכים שונות. דואר אלקטרוני נראה אחרת מהזנת תופס, ותוכן קובץ או ארגומנטים של כלים מגיעים עם מטה דאטה ושדות שונים. אם תנסו להריץ בדיקה לפני שתנרמלו את הנתונים, מערכת הזיהוי שלכם תהיה רועשת מאוד. ברגע שהפעילות מיושר לפורמט עקבי, מתחיל סבב הבדיקה הראשון. כאן לריג'קס המותאם אישית שלכם עדיין יש תפקיד. זה לא השופט הסופי או פתרון קסם, אבל זה עובד כי מסנן מהיר מאוד בקצה המערכת שלכם. ניתן לסרוק במהירות אחר שפת עקיפה מוכרת, רמזי כידוד או דפוסים חשודים בפרמטרים של כלים כדי לקבל הערכה מידית של המצב. לאחר מכן עוברים לסבב הבדיקה השני שצולל עמוק יותר לתוך התוכן. כאן אתם מפעילים את מגיני הפרומפט של Azure Eye Content Safety. ה-Logic App שולח את הפרומפט של המשתמש ומסמכים שנשלפו ל-API, ואז מתפצל בהתאם לשאלה אם זוהתה התקפה. זה חשוב כי הזרקות פרומפט לא תמיד נראות כמו קוד מחשב ברור. לפעמים הסכנה מתבהרת רק כאשר הפרומפט והמסמך מוערכים כיחידה אחת. יש שכבה נוספת שהופכת את זה ממסנן פשוט לבקרת הבטחה אמיתית, וזו מודיעין איומים. אם תוכן מתייחס לדומיין סדוני מוכר או ל-URL חשוד שהצוות שלכם ראה בעבר, זה אמור לשנות את החלטתכם. Logic Apps יכולים לבדוק את האירוע מול מודיעין האיומים של Defender או עדכונים מצד שלישי כדי להוסיף ציון מהימנות לסיכון. זה אומר שדפוס מוזר ממקור מהימן עשוי לעבור, בעוד שאותו דפוס בדיוק עם ציון מוניטין או יין יחסם מיד. זה הופך את עץ ההחלטות שלכם למה שהוא מעבר לבחירה פשוטה של כן או לא. ניתן לאשר את הבקשה עם ציון הסיכון נמוך או לחלופין לבצע ניקוי של מקטעים לא בטוחים. ייתכן שתבחר להכניס את הנתונים להסגר אם המקור דורש בדיקה ידנית. אם הפעולה כוללת נתונים רגישים, ניתן אפילו לדרוש אישור אנושי לפני שהיא ממשיכה. כמובן, אם האות חזק מספיק, פשוט חוסמים את הבקשה ומפעילים התראה. מגוון האפשרויות הזה הוא מה שגורם למודל הזה לעבוד עבור העסק. צוותי הבטחה לעיתים קרובות פוגעים באימוץ כשהם דוחים כל מקרה שנראה מעט לא ודאי. וכשהבקרות קשיחות מדי, אנשים מוצאים דרכים לעקוף אותן. תהליך עבודה מבוסס ציונים מעניק לך את המרחב להגיב על סמך סיכון אמיתי במקום מתוך פאניקה. זו בדיוק הסיבה של לוג'יק אפס מתאים יותר מאשר אוסף של כלים נפרדים. הוא כבר מתחבר לשאר המערכת האקולוגית של מייקרוסופט ועובד בצורה מושלמת עם הפלייבוקס של סנטינר. ניתן לבצע בדיקת בטיחות תוכן, לחפש נתוני איומים ולדחוף אירועי ביקורת במקום אחד. אין צורך במחזור פיתוח ארוך בכל פעם שתוקף משנה את הניסוח שלו או שמופיעה דרך חדשה להיכנס למערכת. הכלל שגורם לכל זה לעבוד הוא פשוט מאוד. עליך להתייחס לכל פיסת הקשר כאל לא מהימנה עד שהיא מקבלת ציון. זה לא אומר רק את הנחיית המשתמש, אלא גם את גוף האימייל, הקובץ שהוא עלה ושדה הטופס בשארפוינט. זה כולל את מתען הקונקטר, מקטעי המסמכים שנשלפו ואפילו את ארגומנטי הכלים. יש לבדוק את הכל. ברגע שאתה מניח שאחד מהמקורות האלה בטוח כברירת מחדל, יצרת פרצה חדשה עבור תוקף. ברגע שתהליך העבודה שלך רוכף כלל זה בעקביות, אינך צריך עוד להסתמך על כל פעילות שיפריד לבדו נתונים טובים מנתונים רעים. התהליך הופך למערכת כניסה מבוקרת. על הנייר, זו נשמעת תיאוריה נהדרת. אבל מה שאנשים באמת דואגים לגביו הוא מה קורה כשמטען מסוכן פוגע בתהליך העבודה בעולם האמיתי. מה שתהליך העבודה עושה בזמן אמת כשהמערכת פועלת הוא לא רק שריקת טקסט למילים רעות, הוא בונה תמונה מלאה של הבקשה לפני קבלת החלטה. אירוע פוגע בנקודת הכניסה שלך, אולי הגשת תופס, זרימת אימייל או העלאת מסמך הקשורים לתהליך קופה אילות, ולוגיק אפס עוטפת האירוע מיד עם מטה נתונים. הוא עוקב אחרי מי שלח את הבקשה, איזו אפליקציה נגעה בה, מהו מקור הקובץ ומה המערכת עומדת לעשות הלאה. ההקשר הנוסף הזה חיוני, כיוון שאוטומשפט יכול לקבל משמעות שונה אל החלוטין בהתאם למקור ממנו הוא מגיע. ברגע שהנתונים נלכדים, המטען מפוצל לעזורי אמון ספציפיים. עליכם להקפיד על הפרדה ברורה. הנחיית המשתמש נכנסת לקטגוריה אחת, מסמכים שנשלפו לאחרת, והיסטוריית שיחה או פרמטרים של כלים מקבלים מרחב משלהם. אם מערבבים את כל אלו מוקדם מדי, מאבדים את היכולת לזהות היכן התחיל ההנחיה המסוכנת, ותהליך הבדיקה הופך לניחוש אחד גדול. צוותים רבים מדלגים על השלב הזה כי נראה ששילוב הכל מהיר יותר, אך במציאות זה רק מסתיר את הנתיב שצריך לעקוב אחריו. בשלב הבא, זרימת העבודה עוברת לנרימול. זה החלק המשעמם בעבודה, אבל הוא גם זה שהופך את הזיהוי שלכם ליישים באמת. מכוננים כדי שהבדיקה תרוץ מול מבנה יציב. אם מחבר אחד שולח טקסט עשיר ואחר שולח מקטעי ג'ייסן, תרצו שכולם יצומצמו לשדות שהבדיקות שלכם יכולות לקרוא באופן עקבי. ללא זאת, הלוגיקה שלכם מבלה יותר זמן במאבק בסכיפת פורמטים מאשר במציאת התקפות אמיתיות. אחרי שהנתונים נקיים, מעבר דפוסי הזיהוי המהיר רץ ראשון. זה צריך להיות זול, ישיר ומהיר. אתם מחפשים ביטויים שמנסים לעקוף את התנהגות המערכת, כמו וריאציות של התעלם מכל ההנחיות הקודמות או עקיפת מערכת. אתם מחפשים גם שפת חילוץ שבה מישהו מבקש לחשוף חומר סודי, להוציא סודות או לעקוף הגדרות פרטיות. בלוגיק אפס, צוותים בדרך כלל מטפלים בזה באמצעות ביטויים או שלבי הרכבה שמגדירים דגלים, במקום לחשום את הבקשה מיד בכל התאמה. הסימון הזה חשוב כי ביטוי בודד לא תמיד מעיד על כך שמישהו פועל באופן סדוני. אדם שעובד במסגרת תהליך הבטחה תקין עשוי פשוט לשאול על סקירת טיפול בתוכן רגיש. כדי לפתור זאת, זרימת העבודה שולחת את המטען העשיר יותר למגן ההנחיות של Azure Eye Content Safety לבדיקה מעמיקה. קריאת ה-API כוללת גם את הנחיית המשתמש וגם את המסמכים שנשלפו, כי הקשר ביניהם הוא לרוב המקום שבו מסתתרת הבעיה האמיתית. השירות מחזיר עוד פשוט, ואם מזוהה התקפה, זרימת העבודה פשוט משנה את הנתיב לפני שקריאת המודל מתרחשת. לאחר מכן עליכם להוסיף הקשר חיצוני. בדיקות מודיעין איומים נותנות לזרימת העבודה עדשה נוספת להסתכל דרכה. ניתן לשאול את Microsoft Defender Threat Intelligence או כל מקור TXII מהימן כדי לבדוק דומיינים, כתובות URL או אינדיקטורים למקורות הקשורים לשימוש לרעה. כדאי לשלב ציוני ביטחון היכן שהם זמינים, כי המוניטין של מקור אמור להשפיע על הציון הסופי, לא להחליף אותו לחלוטין. מטען חלש ממקור מסוכן תמיד צריך להיות מדורג גבוה יותר מאותו מטען שמגיע מתהליך פנימי מוכר. לבסוף, המערכת בונה ציון משוקלל. היא בוחנת את עוצמת ההתאמה לדפוס, תוצאות הפרומפט שירדס, מוניטין המקור ורמת הרגישות של הפעולה המבוקשת. בקשה בסיכון נמוך לסיכום מאמר ציבורי אינה בעלת משקל זהה לבקשה שעלולה לחשוף קבצים מוגנים. הציון המשולב הזה הוא מה שמניע את הפיצול. אירועים תקינים ממשיכים כמתוכנן. מקרים בסיכון בינוני עוברים ניקוי או מנותבים לחלופה בטוחה. ומקרים בסיכון גבוה נחסמים לפני שקופילות בכלל פועל. הכל נכתב ליומן ביקורת, תוך שמירה על נתיב קבלת ההחלטות. האירועים החסומים הללו הם שמלמדים עוד חייכה נבנה הלחץ ואילו מקורות ממשיכים לעורר בעיות. כשאתה רואה אילו דפוסים חודרים לתהליכי העבודה העסקיים שלך, יש לך סוף סוף את הנתונים הדרושים לכיוונון המערכת לסבב הבא. כיצד לכוונן להפחתת רעשים ולשימוש עסקי אמיתי. ברגע שהמערכת פועלת, אופי העבודה משתנה. בניית הזרימה היא למעשה החלק הקל. כיוונון המערכת כך שאנשים יבטחו בה ולא ינסו לעקוף אותה, ומה שיקבע אם היא תהפוך לבקרת הבטחה אמיתית או לעוד ניסוי כושל. אם המערכת יוצרת יותר מדי חיכוך, משתמשים פשוט ימצאו דרך לעקוף אותה, מה שיהפוך את הפרויקט כולו לחסר תועלת. עליך להתחיל בהיקף מצומצם. אל תנסה לעקוב אחר כל נקודת ממשק של קופ העילות ביום הראשון. במקום זאת, בחר את המקומות שבהם הסיכון הוא הגבוה ביותר והנתיב ברור, כמו פעולות מבוססות כלים או מקורות מידע בעלי ערך רב. אתה יכול להתחיל עם תהליך אחד המגובה בשורפוינט או עם זרימת עבודה ספציפית, כדי לקבל אות שניתן באמת לקרוא. היקף קטן נותן לך את המרחב ללמוד מבלי לטבוע בנתונים. כאשר אתה מגדיר את הבדיקות הראשוניות, כוונן את הסינונים לזיהוי רחב ולא לוודאות מוחלטת. המעבר הראשון אמור לטפוס שפה חשודה בשלב מוקדם, לא להוכיח כוונה הזדונית מעבר לכל ספק סביר. אם תיעלץ את הדפוסים שלך להיות מושלמים, הם יהפכו לשבירים ויתחילו לפספס את הדברים שבאמת חשובים לך. עדיף לתת למערכת לסמן קצת יותר מדי בהתחלה, ולאחר מכן לאפשר לבדיקות מאוחרות יותר להוסיף הקשר כדי להפחית את הרעש. זו הסיבה שציון משוקלל חשוב יותר מהתאמות בודדות. התאמת ביטוי כשלעוצמה לא תמיד צריכה לחסום בקשה, אך כשמשלבים אותה עם סימון של פרומפט שירד ומקור מסוכן, התמונה משתנה. אותות חלשים צריכים להצטבר זה על גבי זה, ואותות חזקים צריכים להעיץ את החסימה. זהו ההבדל המהותי בין מסנן קשיח ומעצבן לבין מודל מדיניות שעובד באמת עבור העסק. עליך גם להגדיר תקרא לזיהויים שגועיים. נסו לשמור על זה מתחת למד מינוס שני אחוזים, כי ברגע שאנשים מרגישים שהבקרה חושמת את עבודתם השוטפת, הם יפסיקו לתת אמון במערכת. זה השלב שבו מתחילים לעקוף את הנהלים. משתמשים יעתיקו טקסט לחילים לא מנוהלים, צוותים יבנו תהליכי צל, ומנהלים יתחילו לבקש פטורים גורפים. הבקרה תקרוס מבפנים, לא בגלל שהזיהוי נכשל, אלא בגלל שהחיכוך הפך להיות גדול מכדי להכילו. כדי למנוע זאת, עליכם לעקוב אחר המדדים הנכונים. שכחו מילוחות מכוונים למראית עין, והתמקדו בזמן הממוצע לזיהוי. אתם רוצים לשמור עליו מתחת למד מינוס 15 דקות, לכל דבר שדורש סקירה ידנית. כדאי גם לעקוב אחר זמן ההכלה האוטומטי, ולשאוף לפחות ממינוס 5 דקות, במקרים שבהם חסימה יכולה להתבצע בביטחה. אם תהליך העבודה מופעל ללא הרף, אך לעולם לא משפיע בפועל על החלטה, הוא סתם רעש רקע. עלות היא גורם נוסף שדורש כבנון מתמיד. אפליקציות לוגיקה מבוססות צריכה הן מצוינות לאומסים משתנים, או לפרויקטי פיילוט, כי משלמים רק על מה שמריצים. עם זאת, התוכנית הסטנדרטית הגיונית יותר ברגע שנפח האירועים שלכם צפוי, וגבוה מספיק כך שעלויות לפי הרצה מתחילות להכאיב. אל תנחשו בנושא הזה. מידדו את כמויות ההפעלה וגידלי המטען בפועל, לפני שאתם מתחייבים למודל תמכור. היזהרו באופן שבו אתם מטפלים ביחסון. אתם צריכים מספיק היסטוריית הרצות לזכירת אירועים וראיות ממשל, אך אין צורך במסד נתונים עצום מלא בתוכן רגיש. שימרו את השדות הספציפיים שמסבירים מדוע התקבלה, החלטה והסירו את העומס שיוצר סיכון בשמירת נתונים. איחסון עודף נתונים עלול להפוך את כלי ההבטחה שלכם למטרד פרטיות אם לא תיזהרו. לסיום, חברו את כל הכבנון הזה בחזרה לממשל הרחב שלכם. מפו את תהליך העבודה לפונקציות ה-AIRMF של ניסט, כמו מדידה וניהול, וקישרו אותו לטביות רגישות המידע בפרוויו. לפעמים הפתרון הטוב ביותר אינו גליי חכם יותר, אלא פשוט הסרת גישה מיותרת מתהליך העבודה לפני שהיא הופכת לבעיה. כשמגיעים לשלב הזה, אתם כבר לא רק מתווכחים על בטיחות בינה מלאכותית באופן תיאורטי. אתם מנהלים מודל תפעולי אמיתי עם ספים ופשרות שעשה ככל באמת לנהל. מה זה משנה עבור מנהיגים וארכיטקטים? ברגע שמיישמים זאת, קופה אילוט מפסיק לפעול כמערכת של אמון עיוור, וזה השינוי האמיתי. לפני השינוי הזה, המודל פשוט קיבל בלגן של הקשרים מעורבים בזמן שהצוות שלכם קיבה שההנחיות הנכונות ינצחו. כעת, ההקשר הזה עובר סינון, ניקוד וניתוב לפני שהמודל אי פעם מקבל הזדמנות לגעת בו. התוצאה הביטחונית היא כבר לא רק מדיניות מופשטת, כי כעת היא מתפקדת כביצוע מבוקר. עבור ארכיטקטים, זה מעביר את המיקום שבו האבטחה באמת חיה בתוך התכנון שלכם. הוא כבר לא יושב רק בהגדרות הדייר, בהרשאות או בתבניות הנחיה, אלא יושב ישירות בנתיב הטרנזקציה. כל בקשה שחשובה מקבלת נקודת ירות, וכל פעולה רגישה עוקבת אחר נתיב החלטה ספציפי. משמעות הדבר היא שכל מחבר, סוכן או תוסף חדש הופך למשהו שאתה מעריך כנתיב קלט ולא רק כעוד תכונת פרודוקטיביות. זה חיוני מכיוון שסטיית ארכיטקטורה היא בדרך כלל הסיבה לכך שהתוכניות האלה נכשלות. צוות אחד משיק את קופ העילות למקרה שימוש בודד, צוות אחר מחבר תופס, ובסוף מישהו מוסיף זרימת עבודה או נותן לסוכן גישה לכלי. כל אחד מהשינויים האלה נראה קטן בפני עצמו, אבל יחד הם יוצרים נתיב תקיפה גדול בהרבה ממה שמישהו תכנן אי פעם. אם לא תבנה ירות לתוך המודל התפעולי שלך, הסביבה תתרחב הרבה יותר מהר מכפי שהבקרות שלך יוכלו לעמוד בקצב. עבור מובילי הבטחה, הגישה הזו סוף סוף פותרת בעיית בעלות מבולגנת שמטרידה את רוב הארגונים. כרגע, סיכוני קופ העילות נופלים בדרך כלל בין הכיסאות שבין הצוותים השונים. מרכז בקרת ההבטחה, SOC, רואה את ההתראות, מנהלי מייקרוסופט 365 רואים את הקונפיגורציה ובעל ה-AI דואג רק לאימוץ. כשאתה משתמש בנתיב בקרה של Logic Apps, כל הקבוצות האלה יכולות סוף סוף לעבוד לפי מודל תגובה מאוחד. הן משתמשות באותו תיעוד אירועים, באותה לוגיקת ניקוד ובאותה היסטוריית ענפים, מה שמפחית את הבלבול כשמופיעה הנחיה מסוכנת או מסמך רעיל בזרימת עבודה חיה. ההיבט העסקי של זה ישיר הרבה יותר ממה שאנשים מצפים. חסימת איום בשלב מוקדם תמיד זולה יותר מניסיון לנקות אותו מאוחר יותר. ניקוי כולל חקירות, סקירות משפטיות והפרעות למשתמשים, ובדרך כלל מסתיים בסבב לא נעים של ביקורות גישה שהיו אמורות לקרות לפני הפריסה. מנהיגים לא צריכים הרצאה ארוכה לתיקה של בינה מלאכותית כדי להבין זאת, שכן הם רק צריכים לראות שבקרה בזמן ריצה עולה פחות ממתן אפשרות לסיכון לא מנוהל להתפשט במערכות שהצוות שלהם משתמש בהן מדי יום. עבור מנהלים, זה מעלה נקודה לא נוחה לגבי המקום שבו נמצא הסיכון. סיכון AI כבר לא יושב בארגז חול או בפיילות מעבדה, אלא יושב כעת ב-Word, Outlook, SharePoint ו-Teams. אנשים כבר מניחים שהמקומות האלה בטוחים מספיק כדי להתקדם מהר, והאמון המושאל הזה הוא בדיוק מה שמעלה את הסיכונים עבור החברה. זרימת עבודה גרועה באפליקציה הניסיונית היא בעיה מוגבלת, אבל זרימת עבודה גרועה בתוך חבילת הפרודוקטיביות היומית שלך היא סיפור שונה לחלוטין. נתיב הפריסה שלך צריך להישאר קטן ומחושב מאוד. התחל עם מקרי שימוש אחד, טריגר אחד ומודל ניקוד אחד. בחר נתיב שבו הנתונים באמת חשובים וההתנהגות קלה עבורך לצפייה. עליך להוכיח שזרימת העבודה מזהה קלטים מסוכנים ומנתבת את התקינים תוך מתן מידע שימושי לבני אדם כשנדרשת בדיקה. ברגע שתוכיח שזה עובד, תוכל להתחיל להתרחב. בהמשך, תוכל להוסיף זיהוי חריגות או בקרות פלט היכן שהם מתאימים. אתה יכול אפילו להוסיף ניטור מעמיק לשימוש לרעה בכלים, אך עליך להשאיר את השער הראשון בדיוק איפה שהקשר לא מהימן נכנס למערכת. אם השער הראשון נשאר חלש, כל בקרה שתוסיף לאחר מכן רק תנסה לפצות על נקודת פתיחה גרועה. השינוי כאן הוא למעשה פשוט מאוד. תפסיק להתייחס להזרקת הנחיות כאל בעיית ניסוח בלבד, והתחיל להתייחס אליה כאל בקרת זמן ריצה על הקשר לא מהימן שעובר דרך קופאילוט. פנה זמן כדי למפות זרימת עבודה אחת של קופאילוט מקצה לקצה השבוע. מצא את נקודת הירות הבטוחה האחרונה לפני הביצוע ובני אפליקציית לוגיקה אחת שמדרגת, חוסמת ומתעדת את הנתיב הספציפי הזה. אם אתה רוצה עוד על הבטחת קופאילוט ללא תוספות מיותרות, הרשם והשאר ביקורת. אתה יכול גם להתחבר אליי מרקו פיטרס בלנקדין כדי לספר לי על תרחיש הטננט הספציפי שאתה מנסה להבטח.