M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions→ m365con.net

בלוג · Mirko Peters

ארכיטקטורה של מערכות רב-סוכנים: מתי להשתמש ב-Copilot Studio לעומת Azure AI Foundry

By ·

ברוכים השבים לפיד הפודקאסט, כולם! היום אנחנו צוללים לעומק נושא ששלט בשיחות שלי עם אדריכלי ארגוניים, מנהלי טכנולוגיה (CTO) ומהנדסי בינה מלאכותית במהלך החודשים האחרונים: מערכות רב-סוכנים. אם האזנתם לפרק האחרון שלנו על התפתחות תזמור של בינה מלאכותית generative, אתם יודעים שרק גרדנו את פני השטח של האופן שבו ארגונים עוברים מיישומי מודל שפה מונוליתיים לצוותים מתואמים ומתמחים של סוכני בינה מלאכותית אוטונ

Automatically translated with AI from the original post. Read the English original

▶ BLOGArchitecting Multi-AgentSystems: When to Use…M365.FM
Titelbild: Architecting Multi-Agent Systems: When to Use Copilot Studio vs. Azure AI Foundry

ברוכים השבים לפיד הפודקאסט, כולם! היום אנחנו צוללים לעומק נושא ששלט בשיחות שלי עם אדריכלי ארגוניים, מנהלי טכנולוגיה (CTO) ומהנדסי בינה מלאכותית במהלך החודשים האחרונים: מערכות רב-סוכנים. אם האזנתם לפרק האחרון שלנו על התפתחות תזמור של בינה מלאכותית generative, אתם יודעים שרק גרדנו את פני השטח של האופן שבו ארגונים עוברים מיישומי מודל שפה מונוליתיים לצוותים מתואמים ומתמחים של סוכני בינה מלאכותית אוטונומיים.

בניית ארכיטקטורות רב-סוכנים מתקדמות כאלה דורשת פלטפורמות חזקות. בתוך מערכת האקולוגיה של Microsoft, שני כלים בולטים תופסים מיד את תשומת ליבנו: Microsoft Copilot Studio ו-Azure AI Foundry. הבחירה ביניהם אינה רק פרט יישומי; זו החלטה ארכיטקטונית מהותית שתשפיע על הזריזות, יכולת ההרחבה, תנוחת האבטחה והתקציב של הארגון שלכם לשנים רבות. בפוסט הבלוג המלווה הזה נפרט את המתווה שבו השתמשנו לפרק של היום, ונרחיב על ההבדלים הארכיטקטוניים המרכזיים, מקרי השימוש ומסגרות ההחלטה האסטרטגיות שחשוב לכם להכיר בעת תכנון פתרונות בינה מלאכותית ברמת ארגון.

מבוא למערכות רב-סוכנים ארגוניות

כדי להבין מדוע אנחנו זקוקים לפלטפורמות כמו Copilot Studio ו-Azure AI Foundry, עלינו קודם להגדיר מהי בדיוק מערכת רב-סוכנים ארגונית. הימים שבהם פרומפט מונוליתי יחיד ניסה לפתור כל בעיה עסקית כבר חלפו. בין שמדובר במיון פניות של שירות לקוחות, באופטימיזציה של שרשרת אספקה או בתחזיות פיננסיות מורכבות, הדרישה ממודל שפה גדול אחד לדעת הכול, לגשת לכל מסד נתונים ולבצע כל פעולה באופן אמין היא תבנית בעייתית (anti-pattern).

במקום זאת, ארכיטקטורה ארגונית מודרנית מעדיפה פירוק. אנחנו מפרקים תהליכים מורכבים למשימות ספציפיות לתחום ומקצים אותן לסוכנים מתמחים. ייתכן שיהיה לכם סוכן RAG (Retrieval-Augmented Generation) שמתמחה בניתוח מדיניות משאבי אנוש פנימית, סוכן transactional שמתממשק ישירות ל-SAP כדי לבדוק יתרות חופשה, וסוכן מפקח שמנהל את השיחה, מנתב את הכוונה ומוודא שהנחיות הבטיחות נשמרות. חלוקת העבודה הזו מאפשרת לנו להשתמש במודלים קטנים ומותאמים יותר למשימות ספציפיות, להפחית השהיה ועלויות, ולשפר משמעותית את דיוק מערכות הבינה המלאכותית שלנו.

עם זאת, תזמור הסוכנים האלה באופן מאובטח, אמין ובקנה מידה רחב הוא מאתגר. לסוכנים נדרש זיכרון, עליהם לתקשר זה עם זה באופן אסינכרוני, הם זקוקים למנגנוני הגנה מפני prompt injection והזיות, והם חייבים לעמוד בתקני ממשל נתונים ארגוניים מחמירים. כאן נכנסת לתמונה אסטרטגיית הבינה המלאכותית הדו-מסלולית של Microsoft, שמציעה שתי סביבות נפרדות אך משלימות: Copilot Studio ו-Azure AI Foundry.

הבנת Microsoft Copilot Studio: תכונות ומקרי שימוש

בואו נתחיל בהסתכלות על Microsoft Copilot Studio. אם Azure AI Foundry הוא הסדנה של מכונאי המנועים המומחים, Copilot Studio הוא קו הייצור המלוטש שנועד להוציא רכבים לכביש במהירות. Copilot Studio היא פלטפורמת בינה מלאכותית שיחתית מקצה לקצה, שמעניקה כוח הן למפתחים מקצועיים והן למפתחים אזרחיים (citizen developers), שנקראים לעיתים קרובות מומחי תחום עסקי, לבנות, לבדוק ולפרסם copilots מותאמים אישית.

זריזות Low-Code ושילוב עסקי

התכונה הבולטת של Copilot Studio היא הגישה שלה מסוג low-code/no-code, המשולבת לעומק עם Microsoft Power Platform. אם הארגון שלכם already משתמש ב-Microsoft Teams, SharePoint, Dynamics 365 ובמערכת האקולוגית הרחבה של Power, Copilot Studio משמש כצומת הטבעי לחוויות שיחתיות. הוא מספק ממשק גרפי אינטואיטיבי להגדרת נושאים (topics), התנהגויות גיבוי (fallback) וחילוץ ישויות (entity extraction), ללא צורך בהתמחות עמוקה בהנדסת תוכנה.

אינטגרציה בתוספים (Plug-and-Play)

בהקשר של מערכות רב-סוכניות, Copilot Studio בולטת כשכבת התזמור וכשכבה הפונה למשתמש. היא מאפשרת לחבר Copilot מוכנים מראש, נושאים מותאמים אישית ו-API של צד שרת, באמצעות תצורות הצהרתיות. ניתן לשלב בקלות מודלים של Azure OpenAI כמנוע הנמקה, ולהשתמש ב-Copilot Studio לניהול זרימת השיחה, לאימות משתמשים ולפרסום רב-ערוצי בצ'אט באינטרנט, ב-Teams, ב-WhatsApp וב-Facebook Messenger.

מקרי שימוש אידיאליים

Copilot Studio מתאימה ביותר כאשר המיקוד העיקרי הוא חוויית המשתמש, אב-טיפוס מהיר ואוטומציה של תהליכים עסקיים הנוגעים ליישומי SaaS ארגוניים סטנדרטיים. חשבו על עוזרים לתמיכה טכנית (Helpdesk), בוטים לקליטת עובדים חדשים במשאבי אנוש, מערכות לניהול ידע פנימי וסוכני שירות הפונים ללקוחות, שבהם מהירות הכניסה לשוק והשילוב החלק עם מחברי הנתונים הקיימים של Microsoft 365 הם בעלי חשיבות עליונה.

צלילה לתוך Azure AI Foundry: יכולות מתקדמות וגמישות

עכשיו, בואו נעבור לצד השני של המגרש: Azure AI Foundry. בחוגים רבים הפלטפורמה הייתה ידועה בעבר דרך הרכיבים הבסיסיים שלה, כמו Azure AI Studio. Azure AI Foundry היא פלטפורמה ברמה ארגונית, שנועדה למפתחים, מדעני נתונים ומהנדסי AI שדורשים שליטה מלאה, יכולת התאמה אישית וכוח חישוב.

התאמה אישית ללא פשרות ושליטה מבוססת קוד

אם אתם צריכים לבנות מסגרות סוכנים מותאמות אישית מאפס, למשל באמצעות ספריות תזמור בקוד פתוח כמו Semantic Kernel, LangChain או AutoGen, Azure AI Foundry היא הסביבה הטבעית שלכם. היא מספקת גישה לקטלוג מודלים מקיף הכולל מודלים בסיסיים של OpenAI, Meta, Mistral, Cohere ו-Hugging Face, לצד כלים מתקדמים לכוונון עדין, להערכה ולפריסה בטוחה.

תזמור מתקדם וניהול משאבי חישוב

Azure AI Foundry מאפשרת לנהל אשכולות חישוב, לפרוס נקודות קצה מנוהלות ולהקים ארכיטקטורות אסינכרוניות מורכבות המונעות על ידי אירועים. כשמערכת הרב-סוכנית שלכם דורשת הרצת קוד מותאם אישית, מודלים מתמטיים מורכבים, מסדי נתונים וקטוריים עם מיליוני הטמעות בממדים גבוהים, ופרוטוקולי תקשורת מותאמים אישית בין סוכנים, Foundry מספקת את התשתית שמאפשרת לממש זאת, בלי להגביל את השאיפות הטכניות שלכם.

מקרי שימוש אידיאליים

בחרו ב-Azure AI Foundry כשאתם בונים פתרונות AI קנייניים בעומק, מבוססי קניין רוחני. כאן נכללים מנועי הנמקה ייעודיים לתחום, למשל לגילוי תרופות, בוטים למסחר אלגוריתמי, סימולציות מורכבות מרובות שלבים של שרשרות אספקה, או תרחישים שבהם צריך לכוונן מודלים בקוד פתוח על נתונים רגישים הנמצאים ברשת מבודדת לפני הפריסה לייצור.

השוואה ארכיטקטונית: Copilot Studio מול Azure AI Foundry

כדי לבצע את הבחירה הארכיטקטונית הנכונה, נשים את Copilot Studio ואת Azure AI Foundry זו לצד זו ונעריך אותן לפי כמה ממדים מרכזיים: פרופיל המפתח, עומק ההתאמה האישית, עלות השילוב ומנגנוני ההרחבה.

פרופיל המפתח וכישורים נדרשים

Copilot Studio נבנתה לקהל מעורב. אנליסטים עסקיים, בעלי מוצר ומפתחים יכולים לעבוד יחד באותה סביבת עבודה. לעומת זאת, Azure AI Foundry מיועדת בבירור למפתחים ולמדעני נתונים. היא מניחה שליטה ב-Python, ב-C#, בקונטיינרים, ב-REST APIs ובניהול תשתיות ענן.

התאמה אישית מול מהירות

ב-Copilot Studio מוותרים על התאמה ארכיטקטונית עמוקה תמורת מהירות פיתוח גבוהה. עובדים בתוך המסגרות שמספקת ממשק הפלטפורמה ובתוך לולאות ניהול השיחה המוגדרות מראש. ב-Azure AI Foundry יש לכם דף חלק לגמרי. אפשר לכתוב מכונות מצבים מותאמות אישית, לנהל זיכרון של סוכנים באמצעות אשכולות Redis ולממש דפוסי שיתוף פעולה חדשניים בין סוכנים שטרם נוסו, במחיר של כתיבה ותחזוקה של הרבה יותר קוד מותאם אישית.

גמישות מודלים

בעוד ש-Copilot Studio מאפשרת להביא מודלי LLM חזקים שיניעו את ההנמקה שלה, Azure AI Foundry מציעה חופש ללא תחרות בבחירת מודלים. ניתן להחליף במהירות בין מודלים מתקדמים שונים, להעריך את הביצועים שלהם באמצעות כלי בנצ'מרקינג אוטומטיים המובנים בפלטפורמה, ולפרוס מודלים בעלי משקולות פתוחות ישירות על תשתית Azure מנוהלת.

תזמור זרימות עבודה רב-סוכניות בקנה מידה

שיקול ארכיטקטוני קריטי בתכנון מערכות רב-סוכנים הוא האופן שבו הסוכנים מתקשרים ביניהם. בסביבת ייצור אי אפשר להסתמך על קריאות API סינכרוניות ופשוטות שמשורשרות זו לזו באופן אקראי. רשתות עלולות להתנתק, סוכנים עלולים להיכנס ללולאות אינסופיות, ואפשר לחרוג ממגבלות הטוקנים.

כאשר מתזמרים תהליכי עבודה בהיקף גדול, על הארכיטקטים לבחור בין דפוס מפקח מרכזי לבין מודל שיתוף פעולה מבוזר של עמית-לעמית.

דפוס המפקח

בדפוס מפקח – שניתן ליישם בקלות הן ב-Copilot Studio (באמצעות נושאי תזמור) והן ב-Azure AI Foundry (באמצעות קוד סוכן מותאם אישית) – סוכן ראשי מרכזי מנתח את בקשת המשתמש, מפרק אותה לתת-משימות, מאציל את אותן תת-משימות לסוכני עבודה מתמחים, אוסף את התוצאות ומרכיב את התשובה הסופית. דפוס זה מציע צפיות, בקרה חזקה ודיבוג קל יותר, ולכן הוא אידיאלי לתהליכי עבודה עסקיים.

דפוס העמית-לעמית האוטונומי

בדפוס עמית-לעמית, הסוכנים משוחחים ביניהם ישירות בסביבת עבודה משותפת או בערוץ הודעות, מתאמים משימות ופותרים בעיות בשיתוף פעולה. מדובר בדפוס מורכב בהרבה, והוא נבנה בדרך כלל באמצעות Azure AI Foundry לצד מסגרות כמו AutoGen. למרות עוצמתו בעיון סיעורי מוחות מורכב, מחקר מדעי או יצירת קוד, הוא דורש מעקות בטיחות קפדניים כדי למנוע מלולאות הזיה של סוכנים לצרוך אלפי דולרים של קרדיטים לחישוב API תוך דקות.

אבטחה, ממשל וציות בבינה מלאכותית ארגונית

אין דיון בארכיטקטורת בינה מלאכותית ארגונית שהוא שלם בלי לדבר על אבטחה, ממשל וציות. בעולם הארגוני, פריסת סוכן בינה מלאכותית ללא מעקות בטיחות היא אחריות שממתינה להתממש. שתי הפלטפורמות נשענות על יסוד האבטחה המוביל בעולם של Azure, אך הן מטפלות בממשל באופנים שונים.

פרטיות נתונים ומיקום אחסון

גם Copilot Studio וגם Azure AI Foundry יורשים את תקני הציות הארגוניים המחמירים של Azure. הנתונים שלכם מוצפנים הן בתעבורה והן במנוחה, ונתונים ארגוניים לעולם אינם משמשים לאימון מודלי יסוד ללא הסכמה מפורשת שלכם. עם זאת, Azure AI Foundry מאפשרת שליטה גרנולרית מאוד ברשתות וירטואליות (VNets), בנקודות קצה פרטיות (private endpoints), בזהויות מנוהלות ובמדיניות מניעת אובדן נתונים (DLP), וכך היא עונה על הדרישות המחמירות של תעשיות מפוקחות במיוחד כמו פיננסים, בריאות וביטחון.

בטיחות תוכן ומעקות בטיחות

Azure AI Content Safety משולבת לעומק ב-Azure AI Foundry, ומאפשרת לסנן דברי שנאה, תוכן מיני, פגיעה עצמית ואלימות, וכן לזהות בזמן אמת ניסיונות jailbreak והזרקות פרומפט. גם Copilot Studio כוללת יכולות מתקדמות של ניטור תוכן, והן מבטיחות שהבוטים הפונים ללקוחות או לעובדים שלכם ישמרו על בטיחות המותג ועל ציות, בלי מאמץ מיותר.

מסגרת החלטה: מתי לבחור באיזו פלטפורמה

אז איך מקבלים את ההחלטה הסופית? בואו נגדיר מסגרת החלטה ברורה שתנחה את הדיון הבא של ועדת הארכיטקטורה שלכם.

בחרו ב-Microsoft Copilot Studio אם:

  • שימוש העיקרי שלכם הוא חוויות משתמש שיחתיות, שירות לקוחות ו-helpdesk פנימי לעובדים.
  • אתם רוצים לאפשר למפתחים אזרחיים ולמומחי תחום עסקיים לבנות ולתחזק חלקים מתהליך העבודה של הבינה המלאכותית.
  • הארגון שלכם מושקע מאוד באקוסיסטמים של Microsoft 365, Power Platform ו-Dynamics 365.
  • אתם צריכים לפרוס copilot רב-סוכנים פונקציונלי ומאובטח בתוך שבועות ולא בתוך חודשים.

בחרו ב-Azure AI Foundry אם:

  • אתם בונים קניין רוחני מרכזי, יישומי AI מותאמים אישית או מודלים חישוביים מורכבים מאפס.
  • צוות ההנדסה שלכם דורש שליטה מבוססת קוד באמצעות מסגרות רב-סוכנים מתקדמות כמו Semantic Kernel או AutoGen.
  • אתם צריכים לכוונן מודלים בקוד פתוח או קנייניים על מערכי נתונים מותאמים אישית ורגישים מאוד.
  • הארכיטקטורה שלכם דורשת ניהול תשתיות מתקדם, אינטגרציות מותאמות אישית למסדי נתונים וקטוריים, ואבטחת רשת גרנולרית כמו private endpoints.

הגישה ההיברידית

יש לזכור שזו לא תמיד החלטה של "זה או זה". הרבה מהארכיטקטורות הארגוניות המתוחכמות ביותר שאנחנו רואים כיום משתמשות במודל היברידי. הן מסתמכות על **Copilot Studio** כשכבת תזמור קדמית, אינטואיטיבית ומאובטחת, לאינטראקציות של משתמשים ולניתוב ארגוני בסיסי, ואילו סוכני עבודה ייעודיים בצד השרת, צינורות RAG כבדים ומודלים מותאמים אישית עם fine-tuning מתארחים ומנוהלים ב-**Azure AI Foundry**. כך מקבלים את שני העולמות: פריסה מהירה שפונה למשתמשים, יחד עם עוצמה חישובית עורפית עמוקה וניתנת להרחבה.

סיכום והמבט קדימה

ארכיטקטורת מערכות רב-סוכניות מייצגת את הגבול המשמעותי הבא בהנדסת תוכנה ארגונית. ככל שמודלי AI הופכים מהירים, זולים ויכולים יותר, הבידול לא יהיה רק במודל שבו משתמשים, אלא באיכות התזמור של צוותי הסוכנים שלכם לפתרון בעיות עסקיות מורכבות, באופן אוטונומי ומאובטח.

בין שבחרתם בזריזות ה-low-code של Microsoft Copilot Studio ובין שבחרתם בהתאמה האישית הבלתי מוגבלת של Azure AI Foundry, המפתח הוא ליישר את הבחירה הארכיטקטונית עם כישורי הצוות, יעדי העסק ודרישות הממשל הארגוניות. התחילו בקטן, הוכיחו את הערך של תהליכי עבודה אג'נטיים בסביבה מבוקרת, והרחיבו ככל שהבשלות הארכיטקטונית שלכם גדלה.

תודה שהצטרפתם לפוסט הבלוג ולפרק הפודקאסט של היום! הקפידו להירשם לתוכנית, להשאיר ביקורת ולשתף את המאמר עם עמיתי הארכיטקטים ומובילי ההנדסה שלכם. עד הפעם הבאה, המשיכו לבנות בחוכמה!

Entities in this article

Azure AI Foundry Copilot Studio Generative AI AutoGen Logistics Multi-agent system Data governance Dynamics 365 Fabric workspace Power Platform

Related articles

RSS