M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions m365con.net

בלוג · Mirko Peters

אבטחת סוכני בינה מלאכותית וכלי MCP בארגון

By ·

ברוכים השבים לסדרת הדיונים המתמשכת שלנו על טכנולוגיות ארגוניות מודרניות, אבטחת ענן ושילוב בינה מלאכותית. בזמן שארגונים ברחבי העולם מירוץ להטמיע בינה מלאכותית generative, מתרחש שינוי עמוק באופן שבו מבוצעת העבודה הדיגיטלית. אנחנו עוזבים במהירות את התקופה של צ'אטבוטים סטטיים פשוטים, שרק עונים על שאלות בתוך חלון צ'אט מבודד. כיום חברות פורסות סוכני בינה מלאכותית אוטונומיים, שמסוגלים לחשוב, לתכנן, להריץ

Automatically translated with AI from the original post. Read the English original

עטיפה: שער ה-AI של Microsoft - הסבר פשוט

ברוכים השבים לסדרת הדיונים המתמשכת שלנו על טכנולוגיות ארגוניות מודרניות, אבטחת ענן ושילוב בינה מלאכותית. בזמן שארגונים ברחבי העולם מירוץ להטמיע בינה מלאכותית generative, מתרחש שינוי עמוק באופן שבו מבוצעת העבודה הדיגיטלית. אנחנו עוזבים במהירות את התקופה של צ'אטבוטים סטטיים פשוטים, שרק עונים על שאלות בתוך חלון צ'אט מבודד. כיום חברות פורסות סוכני בינה מלאכותית אוטונומיים, שמסוגלים לחשוב, לתכנן, להריץ תהליכי עבודה מרובי שלבים ולקיים אינטראקציה ישירה עם מסדי נתונים עסקיים רגישים, מערכות משאבי אנוש ופנקסי חשבונות. היכולת הזו פותחת רמות חסרות precedent של פרודוקטיביות וחדשנות עסקית, אך במקביל היא מציבה אתגרים משמעותיים בתחומי האבטחה, הממשל והארכיטקטורה.

אם אתם רוצים להעמיק בנושא האופן שבו ארגונים מודרניים מתמודדים עם השינוי הזה, כדאי לכם להאזין לפרק הפודקאסט הקשור, Microsoft AI Gateway - Simply Explained. בפרק הזה אנחנו מפרקים איך כלים כמו Microsoft AI Gateway ו-Azure API Management מספקים כניסה מאובטחת לכל תעבורת ה-AI הארגונית. בפוסט הבלוג המקיף הזה נרחיב משמעותית על המושגים המרכזיים האלה, ונבחן איך עקרונות Zero Trust, Microsoft Entra ID, זהויות מנוהלות ו-Model Context Protocol (MCP) משתלבים יחד כדי לאבטח סוכנים חכמים בקנה מידה גדול.

היכרות עם אתגר האבטחה של בינה מלאכותית בארגון

אבטחת AI ארגוני היא אתגר שאין לו תקדים עבור מחלקות IT ואבטחת סייבר. בארכיטקטורת תוכנה מסורתית, אפליקציות מתקשרות עם מסדי נתונים ו-APIs בצד השרת דרך נתיבי קוד דטרמיניסטיים. בקרות גישה, אימות משתמשים וטוקני API מנוהלים בהדוק על ידי מערכות ניהול זהויות מבוססות. כל עסקה צפויה, וכל זרימת נתונים ממופה בקפדנות במהלך מחזור פיתוח התוכנה.

AI גנרטיבי שובר את הצפיות הזו. מודלי שפה גדולים (LLMs) וסוכנים אוטונומיים פועלים באמצעות הסקה הסתברותית. הם מקבלים קלט בשפה טבעית, מפרשים כוונה, ומחליטים באופן דינמי אילו כלים להפעיל, אילו מסדי נתונים לשאול ואילו פעולות לבצע. כאשר לסוכן AI ניתנת גישה לכלים ארגוניים פנימיים, הוא הופך למשתתף פעיל במערכת ה-IT שלכם. ללא מעקות בטיחות ארכיטקטוניים הדוקים, סוכן AI עלול בשוגג להריץ שאילתות מסד נתונים לא מורשות, לחלץ מידע אישי מזהה (PII) של עובדים ממערכות משאבי אנוש, או לצבור חשבונות עתק של צריכת טוקנים בשל לולאות אוטומטיות שאינן נשלטות.

יתרה מכך, ארגונים רבים מפעילים בתחילה מודלי AI באופן מבוזר. צוותי פיתוח בודדים מחברים את האפליקציות המותאמות שלהם ישירות לספקי AI חיצוניים ופנימיים שונים. כך נוצר מה שבתעשייה מכונה כאוס ארכיטקטוני, שידוע בשם shadow AI. צוותי האבטחה מאבדים נראות לגבי האפליקציות שקוראות לאילו מודלים, אילו נתונים מועברים ברשת, וכיצד מנוהלים טוקני הגישה. התמודדות עם האתגר הזה דורשת מעבר מאינטגרציות אד-הוק לארכיטקטורה מרכזית, מאובטחת ומונעת מדיניות.

הבנת סוכנים חכמים וכלי MCP בסביבת העבודה

כדי לאבטח מערכות AI מודרניות, עלינו קודם להבין את הרכיבים שהופכים אותן לכל כך חזקות. מחסנית ה-AI הארגונית המודרנית אינה עוד רק נקודת קצה של מודל; היא כוללת שכבות תזמור, סוכנים אוטונומיים וכלי אינטגרציה מתמחים. בחזית ההתפתחות הזו נמצאים Model Context Protocol (MCP) ומסגרות תקשורת מתקדמות בין סוכנים (Agent-to-Agent, A2A).

סוכנים חכמים הם ישויות תוכנה שנועדו להשיג מטרות מסוימות על ידי תפיסת הסביבה שלהם ונקיטת פעולות אוטונומיות. בסביבת עבודה, סוכן עשוי להיות אחראי על קליטה של עובד חדש. כדי לבצע זאת, הסוכן צריך לקרוא את מדיניות החברה, לתקשר עם מערכת משאבי האנוש כדי ליצור חוזה העסקה, לספק חשבון משתמש חדש ב-Microsoft Entra ID, ולהגיש בקשה לציוד חומרה למאגר הרכש של ה-IT.

כאן כלי Model Context Protocol (MCP) הופכים לחיוניים. MCP מספק דרך סטנדרטית שבאמצעותה מודלים של AI וסוכנים יכולים להתחבר באופן מאובטח למקורות נתונים חיצוניים ולכלי פיתוח. במקום לכתוב אינטגרציות מותאמות אישית לכל מודל ולכל מקור נתונים, מפתחים בונים שרתי MCP סטנדרטיים. שרתים אלה חושפים לסוכן ה-AI יכולות ומבני נתונים מסוימים. עם זאת, מכיוון שכלי MCP אלה מגשרים בין הנמקה מופשטת של AI לפעולות ארגוניות ממשיות, הם מהווים משטח תקיפה קריטי. אם משתמש לא מורשה מתמרן את הנחיית ה-AI באמצעות התקפת prompt injection, כלי MCP שאינו מאובטח היטב עלול לאפשר לסוכן להריץ פקודות לא מורשות או לגשת למסדי נתונים מוגבלים. אבטחת מסלולים אלה היא הדרישה היסודית בהטמעת AI בארגון.

מדוע Zero Trust חשוב למערכות AI אוטונומיות

במשך שנים קידמה תעשיית הסייבר את מודל האבטחה Zero Trust. המודל מבוסס על העיקרון "לעולם אל תסמוך, תמיד אמת", ו-Zero Trust דורש אימות מפורש ומתמשך של כל בקשה של כל משתמש, מכשיר ויישום לפני מתן גישה למשאבי הארגון. למרות ש-Zero Trust תוכנן במקור עבור משתמשים אנושיים ומכשירים מסורתיים, העקרונות שלו הפכו כעת לחיוניים לחלוטין עבור מערכות AI אוטונומיות וסוכנים חכמים.

בארכיטקטורת AI מבוססת Zero Trust, אף מודל AI, יישום לקוח, סוכן חכם או כלי MCP אינו נחשב מהימן באופן מובנה רק מכיוון שהוא פועל בתוך גבולות רשת הארגון. כל בקשה שמגיעה מסוכן AI חייבת לעבור אימות, הרשאה ואימות קריפטוגרפי. אם סוכן מבקש גישה למסד נתונים פיננסי, שכבת האבטחה צריכה לוודא לא רק את זהות היישום הקורא, אלא גם את ההקשר הספציפי של הבקשה, את המשתמש שיזם את ההנחיה, והאם אותו סוכן ספציפי מורשה לבצע את הפעולה המסוימת הזו על מערך הנתונים המסוים הזה.

אבטחת היקף מסורתית נכשלת בעידן ה-AI הגנרטיבי, כי ההיקף כבר אינו חומת אש פיזית; הוא הגבול של חלון ההקשר של מודל ה-AI ושל נקודות הקצה של ה-API שהוא פונה אליהן. סוכנים אוטונומיים מטשטשים את הגבול בין כוונת המשתמש לביצוע אוטומטי. על ידי החלת עקרונות Zero Trust על שערי AI, הארגונים מבטיחים שההרשאות המינימליות נאכפות באופן קפדני. אם סוכן נפרץ או מתעתע באמצעות התקפת prompt injection, גבול ה-Zero Trust מגביל את רדיוס הנזק שלו ומונע תנועה רוחבית לא מורשית בין מערכות הארגון הפנימיות.

כיצד Microsoft AI Gateway אוכף גבולות הרשאה קפדניים

הטמעת Zero Trust בנוף AI ארגוני נרחב דורשת רכיב ארכיטקטוני ייעודי – שער מאובטח הנמצא בין יישומי הלקוח לספקי מודלי ה-AI. זו בדיוק הבעיה שפותרת Microsoft AI Gateway, שנבנה על גבי Azure API Management.

Microsoft AI Gateway פועל כדלת כניסה מאובטחת ומרכזית לכל תעבורת ה-AI הארגונית. במקום לאפשר למאות יישומים, copilots וסוכנים חכמים לתקשר ישירות עם נקודות קצה שונות של מודלי AI ב-Azure OpenAI, Microsoft Foundry, Anthropic, Google Gemini או Amazon Bedrock, כל התעבורה מנותבת דרך השער. נקודת יירוט מרכזית זו מאפשרת לצוותי הפלטפורמה והאבטחה לאכוף הרשאות, מגבלות קצב ומדיניות אבטחה עקביות בכל הארגון.

בתוך השער, מנהלים יכולים להגדיר מדיניות מקיפה הבודקת הנחיות נכנסות, מאמתת את זהות המשתמש, אוכפת מסנני בטיחות תוכן ומסדירה גישה לכלי MCP מסוימים. אם יישום מנסה להפעיל מודל AI או כלי ללא הרשאה מתאימה, השער חוסם את הבקשה מיד, לפני שהיא מגיעה למערכת העורפית. יתר על כן, השער מאפשר איזון עומסים חלק, מטמון סמנטי ומעבר כשל בין מודלים, מה שמבטיח זמינות גבוהה ועמידות מבלי לוותר על עמידה בדרישות האבטחה.

שימוש ב-Microsoft Entra ID ובזהויות מנוהלות לניהול גישה

ההסתמכות על אכיפת מדיניות מרכזית תקפה רק כשהיא נשענת על ספק זהויות חזק. כדי לאבטח סוכני AI וכלי MCP בצורה אפקטיבית, ארגונים חייבים לבטל מפתחות API קשיחים בקוד, סודות משותפים וסיסמאות סטטיות. אישורי גישה מוטמעים בקוד הם חולשת אבטחה מוכרת: אם מאגר קוד המקור של אפליקציה נחשף, מפתחות API מוטמעים עלולים להעניק לגורמים זדוניים גישה בלתי מוגבלת למודלים יקרים של AI ולמערכות backend רגישות.

כאן Microsoft Entra ID וזהויות מנוהלות של Azure ממלאות תפקיד משנה מהותי. על ידי שילוב Microsoft AI Gateway עם Microsoft Entra ID, ארגונים יכולים לאמת כל בקשת AI באמצעות אסימוני זהות ברמת ארגונית. אפליקציות וסוכנים חכמים מאמתים את עצמם מול ה-Gateway באמצעות אסימונים מאובטחים הניתנים לאימות קריפטוגרפי, שמונפקים על ידי Entra ID.

והחשוב מכך, שירותים הפועלים בתוך Azure יכולים להשתמש בזהויות מנוהלות. זהות מנוהלת מבטלת את הצורך של מפתחים לנהל אישורי גישה בקוד. Azure מנהל אוטומטית את הזהות של שירות ה-AI או של הסוכן, ומאפשר לו לאמת את עצמו בצורה מאובטחת מול ה-AI Gateway וכלי ה-MCP במורד הזרם, מבלי לאחסן סודות בשום מקום. בשילוב עם Role-Based Access Control (RBAC), מנהלי אבטחה יכולים להקצות הרשאות מדויקות לכל סוכן. לדוגמה, לסוכן תמיכת לקוחות ניתן להקצות זהות Entra ID שמתירה גישה רק לכלי ה-MCP של בסיס הידע הציבורי, ובאופן קריפטוגרפי חוסמת כל ניסיון לשאול מערכות פיננסיות או משאבי אנוש.

ריכוז הממשל על פני תהליכי AI ומערכות עסקיות

ככל שאימוץ ה-AI מתרחב בתוך הארגון, ניהול מבוזר מוביל במהירות לכאוס תפעולי. יחידות עסקיות שונות מתחילות לפרוס פתרונות AI שונים זה מזה, להשתמש במודלים שונים ולקבוע סטנדרטים אבטחתיים לא עקביים. ריכוז הממשל על פני כל תהליכי ה-AI והמערכות העסקיות המשולבות הוא הדרך היחידה לשמור על עמידה בדרישות הרגולציה, לשלוט בעלויות ולהגן על נתוני הארגון.

Microsoft AI Gateway מספק מישור בקרה מאוחד שבו מנהלי IT, אנשי אבטחה וצוותי ציות יכולים לנטר ולנהל את כל היקף השימוש בAI. באמצעות האינטגרציה עם Azure API Center ולוחות בקרה מקיפים לניטור, הארגון מקבל נראות מקצה לקצה לכל עסקת AI. מנהלים יכולים לעקוב אחר מדדי צריכת טוקנים, לנטר זמני השהיה, לנתח דפוסי prompts ולזהות התנהגות חריגה בזמן אמת.

ריכוז הממשל מבטיח גם שמדיניות מניעת אובדן מידע (DLP) ומדיניות בטיחות התוכן יחולו באופן אחיד. בין אם עובד מתקשר עם סוכן AI דרך אפליקציית רשת פנימית מותאמת אישית, דרך Microsoft Copilot Studio או דרך תהליך עבודה אוטומטי ב-backend, כל prompt ותגובה עוברים דרך אותם מסנני אבטחה. כך נמנעת דליפה בשוגג של קניין רוחני, סודות מסחריים או נתוני לקוחות מוסדרים לתוך מאגרי אימון של מודלים ציבוריים, ומובטח יישור מלא למסגרות הציות הארגוניות כגון GDPR, HIPAA ו-SOC 2.

שיטות עבודה מומלצות לאבטחת יוזמות AI ארגוניות בקנה מידה גדול

אבטחת סוכנים חכמים וכלי MCP היא מסע תפעולי מתמשך, ולא משימת הגדרה חד-פעמית. כדי לסייע לארגונים לבנות בסיס AI עמיד, ניתן להרחיב ומאובטח, צוותי הנדסת הפלטפורמה וצוותי האבטחה צריכים לפעול לפי מערך שיטות עבודה מוכחות:

  • התחילו בקטן עם עומסי עבודה מנוהלים: התחילו את מסע ה-AI הארגוני שלכם בניתוב של אפליקציית פיילוט אחת או עומס עבודה מנוהל אחד דרך Microsoft AI Gateway. אמתו את תהליכי האימות שלכם, בדקו את מדיניות Entra ID וחדדו את הניטור לפני שמרחיבים למערכות קריטיות.
  • אכפו הרשאות מינימליות לכל הסוכנים: התייחסו לכל סוכן חכם כזהות ארגונית נפרדת. הקצו הרשאות מדויקות באמצעות Microsoft Entra ID, וודאו שכלי MCP חושפים רק את סכמות הנתונים והפונקציות המדויקות שהסוכן צריך כדי לבצע את המשימה הספציפית שלו.
  • בטלו סודות קשיחים: אסרו לחלוטין על שימוש במפתחות API סטטיים ובאישורי גישה משותפים בקוד האפליקציה. עברו לגמרי לזהויות מנוהלות של Azure ולאימות מבוסס אסימונים לכל תקשורת שירות-לשירות ב-AI.
  • יישום בקרות עלות והגבלת קצב חזקות: צריכת טוקנים של בינה מלאכותית יוצרת עלולה לצאת משליטה במהירות. הגדירו מגבלות קצב, תקציבי טוקנים, מכסות בקשות ומטמון סמנטי בתוך שער ה-AI שלכם, כדי להגן על הארגון מפני זינוקים בלתי צפויים בעלויות ומפני פגיעויות של מניעת שירות (DoS).
  • שמירה על נראות מלאה ורישום ביקורת: ודאו שכל בקשת AI, כל תגובת מודל וכל הרצת כלי נרשמים עם מטא-נתונים מפורטים. בדקו באופן קבוע את לוחות הבקרה של התצפיתיות של ה-AI כדי לזהות דפוסי שימוש חריגים, פרומפטים לא יעילים ופריצות אבטחה אפשריות.

בעקבות שיטות העבודה המומלצות האלה ובאמצעות תשתית ענן מודרנית כמו Microsoft AI Gateway, Microsoft Entra ID ו-Azure API Management, ארגונים יכולים לאמץ בביטחון את הכוח הטרנספורמטיבי של בינה מלאכותית אוטונומית, מבלי לפגוע באבטחה, בציות לרגולציה או בשליטה פיננסית. כדי לשמוע הסבר תמציתי וברור על המושגים האלה ולגלות כיצד ליישם אותם בסביבה שלכם, הקשיבו בהחלט לפרק הפודקאסט שלנו, Microsoft AI Gateway - Simply Explained.

עקבו אחרי הפודקאסטApple PodcastsSpotify

Entities in this article

הנושאים של המאמר הזה:

Model Context Protocol (MCP) – מושג Zero Trust – מושג Microsoft Entra ID – כלי זהות ואבטחה של Microsoft בינה מלאכותית יוצרת – מושג סוכן בינה מלאכותית – נושא משנה של עוזר בינה מלאכותית Microsoft – ארגון Microsoft Azure – פלטפורמת ענן של Microsoft Azure API Management – כלי למפתחים של Microsoft Personally identifiable information (PII) – מושג Prompt injection – מושג

Related articles

מאמרים נוספים בנושאים קשורים:

RSS