מעבר להנדסת פרומפטים: מדוע בינה מלאכותית ארגונית זקוקה לאדריכלים

By Mirko Peters · 2026-08-27

ברוכים הבאים לבלוג הנלווה הרשמי של הפודקאסט M365 FM. בפוסט של היום נצלול לעומק היסודות הטכנולוגיים של בינה מלאכותית ארגונית מודרנית. הנדסת פרומפטים כבשה את הדמיון של משתמשים מזדמנים ושל מנהלים עסקיים כאחד, אולם המעבר מפרומפטים בסיסיים לבינה מלאכותית ברמת ייצור אמיתית דורש אדריכלים ומהנדסים אנושיים מומחים. ארגונים כבר לא יכולים להסתפק ביישומים שטחיים. במקום זאת, עליהם לאמת בקפידה את לוגיקת העסק, דר

Automatically translated with AI from the original post. Read the English original

ברוכים הבאים לבלוג הנלווה הרשמי של הפודקאסט M365 FM. בפוסט של היום נצלול לעומק היסודות הטכנולוגיים של בינה מלאכותית ארגונית מודרנית. הנדסת פרומפטים כבשה את הדמיון של משתמשים מזדמנים ושל מנהלים עסקיים כאחד, אולם המעבר מפרומפטים בסיסיים לבינה מלאכותית ברמת ייצור אמיתית דורש אדריכלים ומהנדסים אנושיים מומחים. ארגונים כבר לא יכולים להסתפק ביישומים שטחיים. במקום זאת, עליהם לאמת בקפידה את לוגיקת העסק, דרישות האבטחה והאינטגרציות עם המערכות, כדי להבטיח שההשקעות שלהם מניבות ערך ממשי.

כדי להעמיק בנושא, שוחחנו לאחרונה בפודקאסט עם יves Habersaat, MVP של Microsoft ומוביל טכנולוגי ל-AI. אם תרצו לשמוע את השיחה המלאה על ההרחבה של Microsoft 365 Copilot, ארכיטקטורות רב-סוכניות ו-Model Context Protocol, הקפידו לצפות בפרק Extending Microsoft 365 Copilot: Agents, MCP & Production-Grade AI with Yves Habersaat [MVP].

מבוא: מעבר להנדסת פרומפטים

הנדסת פרומפטים היא ללא ספק מיומנות שימושית. היא עוזרת לעובדים יומיומיים להוציא מכלים של בינה מלאכותית גנרטיבית תוצאות טובות יותר, עיצוב נקי יותר וסיכומים מעמיקים יותר. עם זאת, כאשר עסקים מנסים להרחיב יכולות אלה לאלפי משתמשים ולמערכות פנימיות מושרשות, הנדסת פרומפטים בלבד אינה מספיקה.

בינה מלאכותית ארגונית דורשת הרבה יותר מניסוח חכם. ארגונים זקוקים לאנשי מקצוע שמבינים את הטכנולוגיות שבבסיס, את דרישות הלקוחות המורכבות, את מודלי האבטחה הכוללים ואת החלטות היישום הספציפיות. למרות שבינה מלאכותית יכולה ליצור חומר טכני ולהציע הכוונה מועילה, אדריכלים אנושיים נותרים בלתי ניתנים להחלפה מן הבסיס. רק מהנדסים אנושיים יכולים לאמת באמת האם פתרון אוטומטי מתמודד עם דרישת העסק המרכזית, מבלי להכניס סיכונים בלתי מקובלים.

מדוע בינה מלאכותית ארגונית דורשת אדריכלים אנושיים

המורכבות של סביבות ארגוניות מודרניות אומרת שפריסת בינה מלאכותית אינה תרגיל פשוט של "חבר והפעל" לעולם. המערכות שזורות במסדי נתונים מדור קודם, באפליקציות פנימיות מותאמות אישית, בתשתיות תאימות מחמירות ובהרשאות משתמשים דינמיות. ללא אדריכלים מיומנים שמפקחים על התכנון, ארגונים נתקלים לעיתים קרובות בצווארי בקבוק, הזיות, פרצות אבטחה וכשלי אינטגרציה.

אדריכל מסתכל על התמונה הרחבה. הוא בוחן כיצד הנתונים זורמים בארגון, היכן עלולים להיווצר צווארי בקבוק וכיצד להכין את מערך הטכנולוגיות לעתיד. מכיוון שפלטפורמות הבינה המלאכותית מתפתחות בקצב מסחרר, דווקא חשיבה אסטרטגית בראש המערך מבטיחה שהארגון בונה פתרונות שניתנים להרחבה, לתחזוקה ולאבטחה, ולא הוכחות היתכנות שבריריות שנשברות תחת עומסי ייצור.

התפתחותם של Microsoft 365 Copilot והרחבתיות

Microsoft 365 Copilot עבר שינוי משמעותי מאז ימיו הראשונים. יכולות רבות שפעם דרשו הרחבות מותאמות מורכבות משולבות כיום ישירות בפלטפורמה. הפונקציונליות המקורית הזו מכסה מגוון רחב של צרכי פרודוקטיביות ושיתוף פעולה סטנדרטיים.

עם זאת, הרחבתיות הופכת לחשובה מאוד כאשר לארגון נדרשת שליטה רבה יותר. הדבר עשוי לכלול התאמה אישית של שכבת התזמור, יצירת חוויות סוכן ייעודיות, הטמעת סוכן בינה מלאכותית באתר ציבורי חיצוני במקום להשאיר אותו מבודד ב-Microsoft 365 Copilot Chat, או בניית יכולות מותאמות לחלוטין. ככל שדרישת הארגון מיוחדת יותר, כך ההרחבה והפיתוח המותאם אישית הופכים לחיוניים יותר.

מדוע Copilot ענק אחד נכשל: ארכיטקטורות רב-סוכניות

מלכודת נפוצה לארגונים שמתחילים את מסעם בבינה מלאכותית היא הניסיון לבנות Copilot מונוליתי אחד וענק. דמיינו עוזר בינה מלאכותית אחד שנטען בכל הוראה, כלי, מקור ידע ואחריות ארגונית שניתן לדמיין. טבעי שגישה כזו קורסת במהירות תחת משקלה, ומובילה להתמצות חלון ההקשר, לקבלת החלטות לקויה והתנהגות בלתי צפויה.

במקום זאת, מומחים כמו Yves Habersaat ממליצים לאמץ ארכיטקטורות מרובות סוכנים. במודל הזה, לכל סוכן יש היקף ואחריות מוגדרים בבירור. לדוגמה, מסגרת לתמיכת IT ארגונית יכולה לכלול סוכן מיון (triage) חזיתי שתפקידו היחיד להבין את בקשות המשתמשים ולנתב אותן בצורה חכמה לסוכנים מתמחים שמוקדשים ל-Microsoft 365, ל-Salesforce, לפורטלים של משאבי אנוש או לפלטפורמות תשתית פנימיות. לכל סוכן מתמחה יש הוראות מותאמות משלו, ידע ממוקד וכלים ספציפיים משלו.

האנטומיה של סוכן AI ארגוני

כדי להבין איך המערכות האלה פועלות, כדאי לפרק לרכיבים את האנטומיה של סוכן AI ארגוני סטנדרטי. לכל סוכן איכותי יש מטרה מוגדרת בבירור. מכאן, הוא נשען על מספר רכיבי ליבה:

• הוראות: הנחיות מפורשות שמגדירות את האחריות המדויקת של הסוכן, את גבולות הפעולה שלו ואת האילוצים ההתנהגותיים שלו.
• מקורות ידע: מאגרים מסודרים שמכילים מידע ותיעוד ארגוניים רלוונטיים.
• כלים: יכולות פונקציונליות שמאפשרות לסוכן לבצע פעולות, לשאול מסדי נתונים או לקרוא לשירותים חיצוניים.
• שכבת התזמור: מנוע קבלת ההחלטות שקובע איך בקשות נכנסות צריכות להתקבל, לעבור ניתוח ולהיות מועברות לטיפול.

בהגדרה מרובת סוכנים, סוכן ראשי מבצע את המיון הראשוני לפני שהוא מעביר משימות לסוכנים כפופים ומתמחים. הסוכנים הכפופים האלה מתקשרים אז עם מקורות ידע פנימיים, מערכות חיצוניות, APIs ושרתי Model Context Protocol כדי להשלים את זרימת העבודה.

Copilot Studio לעומת פיתוח מותאם אישית

כשמגיעים לבניית הסוכנים האלה, הארגונים נדרשים להחלטה מרכזית לגבי הפלטפורמה: low-code לעומת קוד מותאם אישית. Copilot Studio מספק גישה נגישה מסוג low-code לבניית סוכנים ולפריסתם במהירות. הצוותים יכולים להגדיר הוראות, לחבר כלים מוכנים מראש, לשלב מאגרי ידע ולהשתמש בפרוטוקולים מודרניים, בלי לכתוב כל שורת קוד מאפס.

לעומת זאת, פיתוח מותאם אישית מעניק שליטה ארכיטקטונית רבה בהרבה. אולם, השליטה הזו באה במחיר של אחריות מוגברת. המפתחים נדרשים לנהל בעצמם תהליכי אימות, גבולות אבטחה, סביבות אירוח, לוגיקת תזמור ואינטגרציות לשירותים. בסופו של דבר, הבחירה בין Copilot Studio לפיתוח מותאם אישית תלויה לחלוטין ברמת השליטה שהפתרון הארגוני הספציפי דורש.

הבנת פרוטוקול הקשר המודל (MCP)

אחד ההתפתחויות המרגשות ביותר בארכיטקטורת הסוכנים הוא Model Context Protocol, הידוע בקיצור MCP. בעבר, שילוב כלים ושירותים חיצוניים במודל AI דרש כתיבת עטיפות API מותאמות אישית לכל מערכת, כאשר לכל אחת יש סכמת אימות, מוזרויות פרוטוקול ומוסכמות תיעוד משלה.

MCP פותר את הפיצול הזה באמצעות יצירת דרך סטנדרטית שבה מערכות AI יכולות לגלות כלים ושירותים חיצוניים ולתקשר איתם. באמצעות MCP, סוכן יכול להבין באופן דינמי אילו כלים זמינים, איך הם פועלים וכיצד ניתן לשלב אותם כדי להשלים בקשה מורכבת של משתמש. הוא פועל כמתרגם אוניברסלי בין מודלי שפה חכמים לבין המערכת העצומה של תוכנות ארגוניות.

שילוב מערכות: MCP לעומת APIs מסורתיים

חשוב לציין ש-Model Context Protocol אינו מחליף APIs מסורתיים. במקום זאת, שרת MCP ממוקם לפני APIs קיימים, מסדי נתונים ושירותי מיקרו קיימים, וחושף את היכולות הבסיסיות האלה בפורמט שסוכני AI יכולים להבין ולהשתמש בו בקלות.

שקלו ארגון שכבר מסתמך על APIs מבוססים לתחומי הכספים, משאבי האנוש וניהול הקשרי לקוחות. במקום לכתוב מחדש את ה-APIs האלה, הארגון יכול לפרוס שרת MCP שחושף כלים מתאימים מעל נקודות הקצה הקיימות. ה-APIs הבסיסיים ממשיכים לבצע את העבודה הכבדה, בעוד ש-MCP מספק את שכבת המשמעות הנדרשת כדי שסוכני AI אוטונומיים יוכלו לתקשר איתם ביעילות.

אבטחה, ממשל וידע ארגוני

סביבות Microsoft 365 מכילות כמות עצומה של הקשר ארגוני בעל ערך, כולל מסמכים, תמלולי פגישות, דוא"ל, תרשימי כוח אדם, היסטוריית צ'אטים ב-Teams, קבצים ב-OneDrive ומאגרים ב-SharePoint. חיבור סוכני AI רבי עוצמה למאגר הנתונים הזה ללא ממשל מתאים מציג סיכוני אבטחה חמורים.

על הארגונים להתחיל בביצוע מלאי מקיף של נכסי הנתונים שלהם. החברות צריכות לדעת בדיוק היכן נמצא מידע חסוי, מי מחזיק כעת בהרשאות גישה, ואילו נכסים דורשים הגנה מוגברת. כלי ממשל מתקדמים כמו Microsoft Purview, הכוללים תוויות רגישות ומדיניות מניעת אובדן נתונים (DLP), חייבים להיות משולבים ישירות בארכיטקטורת ה-AI מהיום הראשון.

חשיבות איכות הנתונים והמוכנות ל-AI

ממשל AI הרבה מעבר למניעת גישה לא מורשית. הוא כולל גם את המציאות המעשית של ניקיון הנתונים. אתרי SharePoint לא מסודרים, קבצים משוכפלים בכמות גדולה, מסמכי מדיניות מיושנים, סביבות עבודה לא עקביות ב-Teams ובעלות לא ברורה על המידע, יכולים לפגוע באופן משמעותי באיכות התשובות שה-AI מייצר.

חיבור סוכן חכם לידע ארגוני לא מובנה ולא מסודר לא הופך את הנתונים האלה למשאב נקי ושימושי כמו בקסם. ארגונים חייבים לתת עדיפות לניקוי נתונים, לארכיטקטורת מידע מודרנית, לסקירות הרשאות קפדניות ולסיווג יסודי, כתנאי מוקדם בסיסי למוכנות ל-AI.

ניהול הרשאות מואצלות לעומת הרשאות יישום

ניהול ההרשאות הופך לקריטי ברגע שסוכן AI מקבל יכולת לבצע פעולות אוטונומיות בשם משתמשים.ככלל אצבע, אדריכלים צריכים להגדיר הרשאות משתמש מואצלות כברירת מחדל.

במודל מואצל, סוכן פועל אך ורק במסגרת ההרשאות של המשתמש הספציפי שמתקשר איתו. אם למשתמש אין גישה לתיקיית כספים רגישה, הסוכן לא אמור לעקוף את ההגבלה הזו כלשהו בקסם. במקרים שבהם הרשאות יישום נחוצות באמת לאוטומציה ברקע, יש לבודד את היכולות האלה בקפידה מאחורי שכבת שירות או MCP מבוקרת היטב, במקום לחשוף הרשאות ניהול רחבות ישירות לסוכנים הפונים למשתמשים.

יצירה מועשרת באחזור (RAG) בארגונים

Retrieval-Augmented Generation, או RAG, הוא אבן יסוד ב-AI ארגוני מודרני. במקום להסתמך רק על הפרמטרים הפנימיים הסטטיים של מודל שפה, שלא יכולים בשום אופן לכלול מדיניות חברה פנימית או עדכוני פרויקטים בזמן אמת, מערכת RAG שולפת באופן דינמי תיעוד רלוונטי לפני שהיא מייצרת תשובה.

התוכן שנשלף יכול להגיע ממאגרי ידע פנימיים, מאתרי SharePoint, ממאגרי מסמכים ייעודיים או ממסדי נתונים חיצוניים. בפלטפורמות מודרניות רבות, כגון Copilot Studio, מנגנוני השליפה הבסיסיים פועלים כולם מאחורי הקלעים, ומסתירים את המורכבות מהמשתמש הקצה, ועדיין מספקים תשובות מדויקות והקשריות, המבוססות על נתונים ארגוניים מאומתים.

סיכום: בניית פתרונות AI ברמת ייצור

המעבר מהנדסת פרומפטים משחקית ל-AI ארגוני חזק דורש שינוי יסודי בתפיסה. ארגונים כבר אינם יכולים להתייחס לבינה מלאכותית כאל תכונת תוכנה פשוטה שמצמידים בדקה התשעים. במקום זאת, בניית פתרונות AI ברמת ייצור דורשת שיקול דעת קפדני לגבי ארכיטקטורות מרובות סוכנים, שכבות אינטגרציה מדרגיות כמו Model Context Protocol, ממשל נתונים קפדני ומודלי הרשאות מחושבים.

אדריכלים ומהנדסים אנושיים נותרו הגורם המרכזי במהפכה הטכנולוגית הזו. על ידי שילוב של יסודות טכניים עם הבנה עמוקה של דרישות עסקיות, אדריכלים מבטיחים שה-AI הארגוני יספק ערך מאובטח, מדרגי ובאמת משנה משחקים.

כדי להעמיק בהצעות הארכיטקטורה האלה ולשמוע תובנות ממומחים ישירות מהשטח, הקפידו להאזין לשיחת הפודקאסט המלאה. בקרו בכתובת Extending Microsoft 365 Copilot: Agents, MCP & Production-Grade AI with Yves Habersaat [MVP] והצטרפו לשיחה על עבודה מודרנית, אבטחה ופרודוקטיביות!