M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions→ m365con.net

בלוג · Mirko Peters

הגשר שבין הדמו מרשים לבין פרודקשן: העברת סוכן ה-Copilot שלכם מדמו מרשים לסביבת ייצור

By · · Updated

ברוכים השבים לבלוג! אם בילתם זמן רב בעבודה עם בינה מלאכותית גנרטיבית בשנתיים האחרונות, סביר להניח שאתם מכירים את התחושה המרגשת של בניית דמו ראשון של צ'אטבוט פעיל. תוך שעות ספורות אפשר להקים מודל שפה גדול, לחבר אותו למאגר מסמכים ולראות אותו עונה בקלות על שאלות לגבי מדיניות החברה, מסכם תמלילי פגישות מורכבים או מנסח הודעות דוא"ל מקצועיות. המשוב המיידי הזה הוא פשוט קסום, וקל להבין מדוע ארגונים מיהרו ל

Automatically translated with AI from the original post. Read the English original

Cover: From Demo to Production- Building Enterprise AI Agents That Actually Work with Microsoft Copilot Studio with Elliot Margot [MVP]

ברוכים השבים לבלוג! אם בילתם זמן רב בעבודה עם בינה מלאכותית גנרטיבית בשנתיים האחרונות, סביר להניח שאתם מכירים את התחושה המרגשת של בניית דמו ראשון של צ'אטבוט פעיל. תוך שעות ספורות אפשר להקים מודל שפה גדול, לחבר אותו למאגר מסמכים ולראות אותו עונה בקלות על שאלות לגבי מדיניות החברה, מסכם תמלילי פגישות מורכבים או מנסח הודעות דוא"ל מקצועיות. המשוב המיידי הזה הוא פשוט קסום, וקל להבין מדוע ארגונים מיהרו להתנסות ביכולות האלה.

עם זאת, מי שניסה לקחת בדיוק את אותו אב-טיפוס מהסביבה הניסיונית ולפרוס אותו לשימוש בכל הארגון, מגלה במהירות מציאות קשה. הפער בין דמו מרשים של אחר צהריים לבין סוכן בינה מלאכותית מוכן לסביבת ייצור ארגונית הוא עצום. המעבר לפרודקשן דורש התמודדות עם ההיבטים הלא זוהרים אך הקריטיים של טכנולוגיה ארגונית: ממשל תאגידי קפדני, עלויות טוקנים בלתי צפויות, ארכיטקטורת ידע חזקה ואינטגרציות חלקות עם מערכות עסקיות קיימות. במדריך מקיף זה נפרק איך לעבור את הפער הזה בהצלחה. אם תרצו להעמיק עוד יותר בנושא עם מומחה אמיתי, אני ממליץ בחום לצפות בפרק הפודקאסט הקשור שלנו, From Demo to Production- Building Enterprise AI Agents That Actually Work with Microsoft Copilot Studio with Elliot Margot [MVP], שבו אנו בוחנים את האתגרים האלה לעומק.

מבוא: מדמו של צ'אטבוט למציאות ארגונית

הדרך מדמו של צ'אטבוט מבודד לסוכן בינה מלאכותית ארגוני משולב מלאה במכשולים ארכיטקטוניים. כאשר ארגונים נתקלים לראשונה בבינה מלאכותית גנרטיבית, המיקוד הוא כמעט כולו ביכולת: מה המודל יכול לומר? כמה מהר הוא מגיב? האם הוא נשמע אנושי?

כשעוברים לתכנון לקראת פרודקשן, השאלות משתנות באופן דרמטי לכיוון אמינות, אבטחה וצפיות. לסוכן ארגוני נחוצה מטרה מוגדרת בבירור, מקורות נתונים בסיסיים אמינים, כלים מוגדרי היקף בזהירות, מסלולי גיבוי הגיוניים ומנגנון שקוף שמאפשר למשתמשים אנושיים להבין את דרך החשיבה שלו. ארגונים לא צריכים לחכות למודל ממשל מושלם ואגדי לפני שהם מתחילים להתנסות, שכן שיתוק מניתוח יגרום לכם לפגר אחרי המתחרים. יחד עם זאת, פריסת בינה מלאכותית בלי מעקות בטיחות היא מתכון לאסון רגולטורי. האסטרטגיה המנצחת היא ללמוד מתוך בנייה של פתרונות קטנים ומעשיים, תוך כדי ביסוס המעקות, יכולות הניטור ומודלי התפעול שלכם בהדרגה.

ממשל כמסע, לא כחסם

ממשל, אבטחה וציות נזכרים לעיתים קרובות כסיבות העיקריות להיסוסם של ארגונים לאמץ יוזמות בינה מלאכותית גנרטיבית. צוותי IT ואבטחה חוששים מדליפת נתונים, מתשובות ציות מומצאות ומ-Shadow IT. למרות שהחששות האלה לגיטימיים לחלוטין, התייחסות לממשל כחסם מראש ולא כמסע מתמשך היא contraproductive.

במקום זאת, ארגונים צריכים לאמץ גישה מאוזנת. יש לבסס מעקות בטיחות יסודיים מההתחלה: להבין לאן זורמים הנתונים שלכם, להחיל מדיניות מניעת אובדן נתונים (DLP) מתאימה ולהשתמש בתוויות רגישות מודרניות. עם זאת, יש לשמור על המומנטום. ארגונים מפיקים לעיתים קרובות את תובנות הממשל החשובות ביותר מהתבוננות בהתנהגות אמיתית של משתמשים בקבוצות פיילוט מבוקרות. מאחר שנוף הבינה המלאכותית מתפתח בקצב מסחרר, אי אפשר להתייחס לממשל כמשימה חד-פעמית שמסומנת כהושלמה. הוא דורש בעלות ייעודית, תרבות של למידה מתמשכת ומנהלים שיודעים לנצל את הבקרות הנכונות בכל Microsoft 365, Power Platform, Microsoft Purview ומרכזי הניהול של Copilot.

מכירת בינה מלאכותית באמצעות ערך עסקי ממשי

כשמציגים להנהלה הבכירה יוזמת AI פנימית, השיחה לעיתים קרובות נתקעת אם התשואה המובטחת היחידה היא צמצום כוח אדם. חיסכון בעלויות חשוב, אבל הוא כמעט אף פעם לא מלכד את מלוא הפוטנציאל המשנה של סוכנים חכמים. שיחה הרבה יותר משכנעת עם ההנהלה מתמקדת בשיפור איכות השירות, בצמצום עבודה מנהלתית חוזרת ומייגעת, ובמתן זמן לצוותים להתמקד בפתרון בעיות מורכבות ובקשר האנושי.

שקלו את תחום ניהול שירותי IT. אפילו צמצום מתון בפניות תמיכה חוזרות ברמה 1 יכול לחשוף ערך תפעולי עצום בכל הארגון. הפרויקטים המוצלחים ביותר של AI משלבים בהצלחה עסק מקרה ברור וניתן למדידה עם רגע "וואו" משכנע, שעוזר לעובדים הרגילים להבין מיד מה אפשרי כעת. כשעובדים רואים סוכן שנושא בצורה חלקה את המטלות היומיומיות המייגעות ביותר שלהם, שיעורי האימוץ עולים באופן טבעי וחד.

בניית מערכות מרובות סוכנים

תבנית ארכיטקטונית בעייתית נפוצה בפרויקטים מוקדמים של AI היא הרצון לבנות סוכן-על יחיד וכללי, שנועד לטפל בכל משימה אפשרית בארגון. אף שזה נשמע מפתה בתיאוריה, הוא בהכרח מוביל לירידה בביצועים, להזיות ולתוצרים בלתי צפויים.

לעומת זאת, סוכנים מיוחדים מניבים תוצאות אמינות הרבה יותר. כשמפעילים מערכת מרובת סוכנים, שבה סוכנים אוטונומיים שונים מקבלים תפקידים נפרדים ומוגדרים היטב, כגון יצירת תוכן, בקרת איכות, אימות חוויית משתמש, אימות דרישות או תזמור תהליכי עבודה, בונים למעשה כוח עבודה דיגיטלי של מומחים. במקום לצפות ממודל יחיד שיצליח בכל דבר בניסיון הראשון, מערכת מרובת סוכנים יכולה לבקר, לחדד ולשפר את עבודתה בצורה איטרטיבית. תכנון שיתופי זה הופך את ה-AI מתיבת טקסט פשוטה של פרומפט ותשובה לצוות דיגיטלי מתואם, המסוגל לבצע תהליכים עסקיים מורכבים.

שליטה ב-RAG, במטא-דאטה ובאחזור ידע

סוכן AI ארגוני חכם רק במידה שהוא מסוגל לאחזר את המידע הנכון. לכן Retrieval-Augmented Generation (RAG) הוא עמוד השדרה של AI ארגוני. עם זאת, מימוש RAG תמים שמצביע על תיקיית רשת לא מסודרת יוביל בהכרח לתשובות איטיות, יקרות ובלתי אמינות.

RAG אפקטיבי נשען בעיקר על מטא-דאטה נקייה. מסמכים ארגוניים חייבים לכלול תיאורים ברורים, תגיות שפה, סיווגים ותגיות מטא-דאטה רלוונטיות, כדי שסוכן יוכל לאתר במדויק ומיד את המסמך המקורי בלי לבזבז טוקנים יקרים. הזרמת אלפי קבצי PDF מובנים בצורה גרועה, קבצים כפולים וטיוטות מיושנות אל מסד הווקטורים שלכם היא מתכון לכישלון. ארכיטקטורת ידע טובה מבטיחה שרק מידע עדכני, מאושר וסמכותי יהיה זמין לסוכן הייצור, בעוד גרסאות ישנות יועברו באופן שיטתי לארכיון ויוצבו מחוץ להישג יד.

חיבור סוכנים באמצעות Model Context Protocol (MCP)

כשסוכנים ארגוניים עוברים ממענה פשוט על מסמכים לביצוע משימות transactional, חיבורם למערכות עסקיות אמיתיות הופך לעניין מכריע. כאן Model Context Protocol (MCP) משנה במהירות את כללי המשחק.

אפשר לחשוב על MCP כעל חבילה מובנית וניתנת לגילוי של יכולות, שמגדירה במפורש לסוכן אילו כלים חיצוניים זמינים וכיצד לתקשר איתם בבטחה. במקום להתייחס לכל API פנימי כאל נקודת קצה נפרדת שנכתבה באופן מותאם אישית, MCP עוזר לארוז חיבורים אלה בצורה עקבית, מאובטחת וניתנת לשימוש חוזר מאוד. בארכיטקטורות IT ארגוניות לכך יש משמעות רבה, כי סוכנים חייבים להיות מסוגלים לקרוא ולכתוב למערכות עסקיות אמיתיות, כגון ERP, CRM ומסדי נתונים מותאמים אישית, ולא רק ליצור טקסט סטטי בתוך חלון צ'אט באינטרנט.

מוכנות לייצור עם Copilot Studio ו-Power Platform

פלטפורמות כמו Microsoft Copilot Studio הנגישו באופן דרמטי את פיתוח ה-AI, ופתחו את הדרך לאנליסטים עסקיים ולמומחי תחום לבנות סוכנים פונקציונליים בלי לכתוב קוד גולמי. עם זאת, בנייה מהירה ודמוקרטית יותר אינה מבטלת את הצורך באחריות תפעולית.

כל פתרון ברמת ייצור חייב לעבור בדיקות קפדניות לפני השקה. בדיקות אוטומטיות של פרומפטים ומסגרות הערכה הן בעלות ערך רב, אך בדיקת תרחישים ידנית נותרת הכרחית לחלוטין. לעולם אל תניחו שסוכן מוכן לפריסה מלאה רק משום שמופע AI אחר אומר לכם שלוגיקת תהליך העבודה נראית תקינה. בדיקה אנושית, בדיקת תרחישי קצה ובעלות תפעולית ברורה הם עמודי תווך בלתי מתפשרים להצלחת השקה.

אבטחת ה-AI שלכם באמצעות DLP ו-Purview

עמדת אבטחה חסינה מתחילה בהגבלת היקף ברורה ומחמירה. אם מטרתו של סוכן היא לסכם פגישות פנימיות ב-Microsoft Teams, הודעות דוא"ל ב-Outlook ומשימות פרויקט יומיות, יש להעניק לו גישה רק לאותם עומסי עבודה ספציפיים ולא מעבר לכך.

מומלץ להפריד בין מקרי שימוש שונים לסביבות Power Platform מבודדות ולהחיל מדיניות מיקוד של מניעת אובדן נתונים (DLP), במקום להסתמך על סביבה אחת רחבה עם קישוריות פתוחה לחלוטין. בנוסף, Microsoft Purview מספק שכבת הגנה חיונית באמצעות תוויות רגישות ומדיניות הגנת מידע אוטומטית, המבטיחה שנתונים סודיים של משאבי אנוש, משפטיים ופיננסיים לא ייחשפו בטעות לסוכנים או למשתמשים שאינם מורשים לגשת אליהם.

שימוש מהעולם האמיתי: בניית סוכן RFP

כדי לבסס את המושגים הארכיטקטוניים האלה במציאות, בואו נבחן אחד ממקרי השימוש המעשיים והמשפיעים ביותר בארגונים: בניית סוכן אוטומטי להזמנה להצעת מחיר (RFP) שמייעל את מחזורי הרכש והמכירות.

סוכן RFP תומך בצוותים פנימיים החל מבקשת הספק הראשונית, דרך הרכבת המסמכים, מענה לפניות של ספקים, ניתוח הצעות נכנסות וניסוח הודעות לזוכים ולמפסידים. חשוב לציין שמקבלי ההחלטות האנושיים נשארים מעורבים היטב בנקודות ביקורת קריטיות כדי לאשר התחייבויות סופיות, אך העבודה המייגעת והחוזרת ונשנית מצטמצמת באופן משמעותי. מקרה שימוש זה ממחיש בדיוק את הערך האמיתי של AI ארגוני: הוא אינו מחליף את האחריות האנושית, אלא מסיר בצורה יעילה חיכוך מתהליכי עבודה תפעוליים מורכבים.

FinOps, מודלים קטנים ובקרת טוקנים

מלכודת נפוצה בארגונים שמרחיבים סוכני AI היא ההנחה שכל משימה דורשת את המודל היסודי הגדול, החזק והיקר ביותר הזמין. במציאות, התאמת יכולת המודל לדרישות הספציפיות של המשימה היא דיסציפלינה קריטית ב-FinOps (ניהול פיננסי תפעולי).

מודל קל ומצומצם מסוגל לרוב לטפל היטב בסיכום, בסיווג נתונים ובניתוב צפוי, ואילו מודלי הדגל צריכים להיות מיועדים באופן קפדני לחשיבה מורכבת ורב-שלבית. בקרת עלויות אינה יכולה להיות מחשבה שנייה במערכות סוכניות. סוכנים אוטונומיים דורשים מגבלות קשיחות, ניטור שימוש בזמן אמת ומסלולי הסלמה חלופיים בטוחים, כדי למנוע מהם להיתקע בלולאות אינסופיות, לקרוא שוב ושוב לכלים יקרים וליצור חשבונות ענן מזעזעים. FinOps טוב פירושו שקיפות מלאה לגבי צריכת הטוקנים, דפוסי השימוש של הסוכנים והערך העסקי בפועל שמניב כל עומס עבודה.

העתיד: אוריינות AI ועליית מפתחי הפנאי

בהסתכל קדימה, עתיד העבודה לא בהכרח יוגדר על ידי מערכות ריבוי-סוכנים מונוליתיות וגדולות הפועלות בבידוד. במקום זאת, הוא ייווצר מעובדים יומיומיים שמשתמשים בסוכני AI כחלק חלק וטבעי משגרת יומם. כישורי היתרון התחרותיים המגדירים את העשור הבא יהיו תקשורת ברורה, אוריינות AI בסיסית והיכולת לזהות חוסר יעילות עסקי אמיתי שכדאי לפתור.

עובדים לא צריכים להבין את עומק המתמטיקה של אימון רשתות נוירונים, אך הם כן צריכים לדעת לנסח משימה בבירור, לבחור כלי מתאים, לאמת פלט שנוצר על ידי AI ולטפל בנתונים בבטחה. המקום הטוב ביותר להתחיל הוא לרוב תהליך עבודה קטן וממוקד שנבנה ב-Power Automate: בודקים אותו מקומית, מנטרים את ביצועיו, לומדים מהתוצאות ומשפרים משם.

כדי להעמיק בנושאים האלה ולשמוע הערות מעשיות מאנשי מקצוע מהשטח, מומלץ להאזין לפרק המלא של הפודקאסט שלנו: From Demo to Production- Building Enterprise AI Agents That Actually Work with Microsoft Copilot Studio with Elliot Margot [MVP]. עד הפעם הבאה, המשיכו לחדש באחריות!

Entities in this article

Chatbot Governance Copilot Studio Generative AI AI agent FinOps Power Platform Microsoft Purview Compliance Data loss prevention (DLP)

Related articles

RSS