אוטונומיה עם אחריותיות: בניית מערכות סוכנים מנוהלות עם סביבת הריצה של Agent ב-Azure AI Foundry

By Mirko Peters · 2025-11-21 · Updated 2025-11-26

מערכות סוכנים של Autonomous but Accountable עם Azure AI Foundry מבטיחות ניהול, מעקב ועמידה בדרישות רגולציה, לפתרונות בינה מלאכותית אחראית המוכנים לארגונים.

Automatically translated with AI from the original post. Read the English original

Azure AI Foundry מעניק לכם יותר מאשר מודל חזק. אתם משתמשים בסביבת ריצה מנוהלת לסוכנים, שמחזיקה את הדברים מסודרים. היא עוזרת לכם לראות מה קורה בכל תהליך של בינה מלאכותית. בארגון שלכם אתם צריכים יותר מצ'אטבוטים אקראיים. אתם צריכים מערכות שעוקבות אחר פעולות ומסבירות החלטות. המערכות האלה גם פועלות לפי כללים. ארגונים שמשתמשים במערכות סוכנים שניתן לבדוק מצליחים הרבה יותר. הם מגייסים יותר משתמשים ומשיגים הצלחה רבה יותר מאשר בצ'אטבוטים פשוטים. קבוצות רבות מדווחות על תוצאות טובות עד 60%. הן גם עובדות מהר יותר, כבר חודשים ספורים לאחר שהתחילו להפעיל את המערכות האלה. אתם רואים סוכנים מנוהלים פותרים בעיות אמיתיות מדי יום. הם עוזרים בבעיות לקוחות, בעבודה על חשבוניות ובפיקוח על מערכות רבות. הרעיון של Autonomous but Accountable מנחה כל שלב. הוא מבטיח שהבינה המלאכותית שלכם חכמה ופועלת באחריות.

עיקרי הדברים

• Azure AI Foundry מאפשר לכם לבנות סוכנים שפועלים באופן עצמאי. סוכנים אלה יכולים לקבל החלטות ולבצע משימות בכוחות עצמם. זה עוזר לעסקים לסיים עבודה מהר יותר ובאיכות גבוהה יותר.

• אחריותיות חשובה מאוד. לכל סוכן יש מזהה ייחודי משלו. זה מאפשר לכם לעקוב אחר מה שהסוכנים עושים ולבדוק אם הם מציתים לכללים.

• מודלים, הוראות וכלים פועלים יחד במערכות סוכנים. זה הופך את הסוכנים לחזקים וגמישים למשימות שונות. הסוכנים נשארים בטוחים בזמן ביצוע העבודה.

• רישום לאורך מחזור החיים שומר תיעוד ברור של מה שהסוכנים עושים. זה עוזר לארגונים לתקן בעיות ולעמוד בדרישות רגולציה בקלות.

• Microsoft Entra עוזר לנהל את זהותם של הסוכנים. הוא מבטיח שלסוכנים יש הרשאות מחמירות. זה שומר על בטיחות ועל שליטה.

סוכנים אוטונומיים אך אחראיים

מה הופך סוכנים לאוטונומיים

אתם רוצים שהבינה המלאכותית שלכם תעשה יותר מאשר לפעול לפי צעדים מוגדרים מראש. ב-Azure AI Foundry, סוכנים יכולים לקבל החלטות בכוחות עצמם. הם בוחרים כלים ומתכננים מה לעשות בהמשך. אתם נותנים להם משימה, והם מבינים איך לסיים אותה. הסוכן לא צריך שתכתיבו לו כל צעד. הוא יכול לעקוב, להחליט ולפעול לבדו.

לסוכנים יש שלושה רכיבים עיקריים שעוזרים להם לעבוד:

אתם יכולים לשנות את המודל, לעדכן הוראות או להוסיף כלים. כך הסוכן שלכם מוכן למשימות חדשות. לדוגמה, אתם עשויים להשתמש ב-Agent Service של Azure AI Foundry יחד עם Azure OpenAI Service, או לחבר ל-Azure AI Search. אפשר גם להשתמש ב-Microsoft Copilot Studio, ב-Azure API Management, ב-Azure Functions או ב-Azure Container Apps. הבחירות האלה עוזרות לסוכן שלכם ללמוד, לתכנן ולבצע פעולות בדרכים רבות.

סוכנים ב-Azure AI Foundry עושים יותר מאשר רק להגיב. הם פועלים ראשונים. הם יכולים לעקוב אחר שינויים, לבחור כלים ולפתור בעיות בלי לחכות לכם. לכן הם שונים מסקריפטים פשוטים.

הבטחת אחריותיות במערכות בינה מלאכותית

אוטונומיה היא עוצמתית, אבל אתם חייבים לסמוך על הבינה המלאכותית שלכם. אתם רוצים לדעת מה הסוכן עשה, מתי עשה זאת ומדוע. Azure AI Foundry דואג שכל סוכן יעקוב אחריו. לכל סוכן מוקצה Microsoft Entra Agent ID כשיוצרים אותו. המזהה הזה מראה מי הבעלים של הסוכן, מי יכול להשתמש בו ומה הוא עושה.

אתם יכולים לראות כל צעד שהסוכן מבצע. המערכת רושמת כל שלב, כך שתוכלו לבדוק מה קרה. אם משהו משתבש, אפשר לחזור אחורה ולראות את הפרטים. כלי אבטחה של Microsoft עוזרים לכם לשמור על בטיחות. אתם יכולים להגדיר התראות, לבדוק יומנים ולשנות את אופן פעולתו של הסוכן במידת הצורך.

הנה הדרכים שבהן Azure AI Foundry שומר על אחריותיות הסוכנים:

• לכל סוכן יש Entra Agent ID ייחודי למעקב.

• צוותי אבטחה יכולים לפקח על סוכנים כמו על נכסים חשובים אחרים.

• אתם יכולים להגיב להתראות ולשנות את פעולות הסוכן, ההנחיות או הכלים שלו.

• המערכת שומרת כל צעד לצורך בדיקות וביקורות.

ל-AI עסקי נדרשים גם אוטונומיה וגם אחריותיות. האוטונומיה מאפשרת לסוכנים לפתור בעיות ולפעול מהר. האחריותיות מעניקה לך שליטה ואמון.

בואו נראה במה סוכנים וסקריפטים שונים זה מזה:

סקריפטים פועלים לפי מסלול קבוע. הם מבצעים את מה שאתם מורים להם, שלב אחר שלב. סוכנים ב-Azure AI Foundry פועלים בעצמם. הם מתכננים, פועלים ועוקבים אחר כל צעד. כך מערכת ה-AI שלכם הופכת לאוטונומית אך אחראית. תקבלו פעולות חכמות ושליטה ברורה.

מבנה הסוכן: מודל, הוראות, כלים

לסוכנים ב-Azure AI Foundry יש מבנה ברור שעוזר לכם לבנות מערכות AI אמינות ובטוחות. אתם עובדים עם שלושה רכיבים עיקריים: המודל, ההוראות והכלים. לכל רכיב תפקיד מיוחד. כאשר משלבים ביניהם, מקבלים סוכנים שיכולים לתכנן, לפעול וללמוד בצורה חזקה וקלה לבדיקה.

תפקידו של המודל

המודל הוא המוח של הסוכן. הוא עוזר לסוכן להבין שפה, לקבל החלטות ולפתור בעיות. ניתן לבחור מבין מודלים שונים, כמו GPT-4o או אפשרויות קוד פתוח. הבחירה הזו מאפשרת להתאים את המודל לצרכים שלכם. אם תרצו להחליף את המודל בהמשך, תוכלו לעשות זאת בלי לשנות את שאר הסוכן. הגמישות הזו עוזרת לשמור על תוצאות עקביות בכל פעם. כאשר שולטים במודל ובסביבה, הסוכן הופך לאמין יותר וקל יותר לתת בו אמון.

סוכנים משתמשים במודל כדי לפרק משימות קשות, לאסוף מידע ולזכור את מה שלמדו. לדוגמה, סוכנים בתחום המדע משתמשים במודלים כדי לתכנן שלבים, לבחון נתונים ולפעול על סמך מה שמצאו. גישה זו מועילה בתחומים כמו רפואה, שבהם סוכנים צריכים לטפל במשימות מורכבות.

הוראות כמעקות בטיחות

ההוראות אומרות לסוכן מה לעשות וכיצד להתנהג. הן פועלות כחוקים או כמעקות בטיחות. מגדירים אותן כדי לשמור על הסוכן במסלול הנכון ולמנוע ממנו לטעות. לדוגמה, ניתן להשתמש במסננים כדי לחסום שאלות לא בטוחות או למנוע מהסוכן לשתף מידע פרטי. ניתן גם להגדיר כללים לבדיקת תשובות הסוכן לפני שהן יוצאות.

כלים והיכולות מוגבלים בהרשאות

כלים מעניקים לסוכן את היכולת לפעול. אתם מחליטים אילו כלים הסוכן יכול להשתמש בהם. הכלים הללו עשויים לכלול חיפוש נתונים, הרצת קוד או חיבור לאפליקציות עסקיות. אתם שולטים בגישה לכל כלי, כך שהסוכן משתמש רק במה שאישרתם. הגדרה זו שומרת על בטיחות המערכת וקלות הניהול שלה.

סוכנים במחקר מדעי בעולם האמיתי משתמשים בכלים כדי לנתח נתונים, לחזות תוצאות ולהתחבר למערכות אחרות. לדוגמה:

• CellAgent משתמש במודלים כדי לפרק משימות מורכבות בתחום הביולוגיה.

• DrugAgent מנבא כיצד תרופות פועלות באמצעות כלים מיוחדים.

• BioMANIA מתחבר לכלי Python לניתוח נתונים מעמיק.

כאשר משתמשים במודל, בהוראות ובכלים יחד, בונים סוכנים שהם אוטונומיים אך אחראיים. מקבלים מערכות חכמות שפועלות לפי הכללים שלכם ומשאירות תיעוד ברור של כל פעולה.

רישום מחזור החיים: שרשורים, הרצות, שלבי הרצה

שרשורים מתמשכים לצורך ביקורת

חשוב לדעת מה הסוכן שלכם עושה. Azure AI Foundry משתמש בשרשורים מתמשכים (persistent threads) כדי לעזור בכך. כל שרשור מחזיק יחד את השיחות והמשימות. ניתן לחזור אחורה ולראות מה קרה קודם. זה מועיל מאוד לארגונים עם כללים מחמירים, כמו בריאות או פיננסים. כשאפשר להציג כל שלב, אנשים סומכים על המערכת שלכם יותר.

• מסגרות ממשל עוזרות לכם לתת אמון בסוכני ה-AI שלכם.

• עליכם לתעד אינטראקציות ולשמור מסלולי ביקורת (audit trails), במיוחד בתעשיות מפוקחות.

• ממשל תקין עוזר לכם להרחיב את השימוש ב-AI ולעמוד בדרישות הציות.

ריצות ומצבי הרצה

ריצות (runs) מראות איך הסוכן שלכם פועל בכל שרשור. כשמתחילים משימה, המערכת יוצרת ריצה. ניתן לראות אם ריצה ממתינה, פועלת או הסתיימה. זה עוזר לדעת מה הסוכן שלכם עושה כרגע. Azure AI Foundry מטפל עבורכם באובייקטים של שיחות ובמצבים שלהם.

ניתן להשתמש שוב בשיחות ולשמור על ההקשר לאורך הפעלות. המשמעות היא שלא תאבדו פרטים חשובים, גם אם תחליפו ערוצים או מכשירים.

שלבי ריצה למעקב

שלבי ריצה מאפשרים לראות כל פעולה שהסוכן מבצע. ניתן לבדוק כל קריאה לכלי וכל בחירת מודל. זה מקל על איתור תקלות ותיקונן. שלבי הריצה גם עוזרים לפעול מהר כשמשהו משתבש. המערכת מספקת התראות, לוחות מחוונים ומדריכים לתקלות שונות.

אתם מקבלים מערכת שהיא אוטונומית אך אחראית. ניתן לבדוק, לתעד ולשחזר כל פעולה שהסוכן שלכם מבצע. זה עוזר לבנות AI בטוח וחזק לעסק שלכם.

ממשל, אבטחה וניטור

זהות והרשאות עם Entra

אתם זקוקים לכללים חזקים כדי לשמור על סוכני ה-AI שלכם בטוחים. Azure AI Foundry משתמש ב-Microsoft Entra כדי לנהל מי רשאי לעשות מה. לכל סוכן יש זהות ארגונית משלו. אתם בוחרים מה כל סוכן יכול לעשות ואילו ממשקי API הוא יכול להשתמש בהם. אתם מגדירים בקרת גישה מבוססת תפקידים (RBAC), כך שסוכנים יקבלו רק את ההרשאות שהם צריכים. רוב האנשים מתחילים עם התפקיד Reader. נותנים את התפקיד Contributor רק אם הוא נחוץ. כך המערכת נשארת בטוחה ועומדת בעיקרון ההרשאה המינימלית.

ניהול זהויות אוטומטי עוזר לכם להוסיף, לעדכן או להסיר סוכנים בסיכון נמוך יותר. ניתן גם להשתמש בכללי גישה מבוססי סיכון, כדי לוודא שסוכנים מקבלים רק את הנתונים והכלים שהם צריכים.

קריאות כלים הניתנות לצפייה

אתם רוצים לדעת מה הסוכנים שלכם עושים כל הזמן. Azure AI Foundry שומר יומן של כל קריאה לכלי ושל כל פעולה. ניתן לעקוב אחר התנהגות הסוכנים ולאתר בעיות במהירות. המערכת עוקבת אחר תדירות הבקשות ודפוסיהן. אם קורה משהו חריג, מתקבלות התראות. אתם מגדירים מעקות בטיחות כך שהסוכנים יפעלו לפי כללי האבטחה לפני ואחרי כל פעולה.

שביל ראיות לצורך תאימות

יש לכם לפעול לפי כללים מחמירים בתחומי הבריאות, הפיננסים ותחומים נוספים. Azure AI Foundry עוזר לאסוף הוכחות לביקורות. אתם רואים את הנתונים שלכם, בודקים את איכותם ושולטים במי יכול לגשת אליהם. המערכת מנהלת את המטא-דאטה, כך שתוכלו להוכיח שאתם נושאים באחריות. אפשר להפוך את איסוף ההוכחות לאוטומטי כדי להקל על ביקורות.

• GDPR מחייב להגן על מידע אישי.

• HIPAA חל על מידע בריאותי.

• SOX דורש יומני ביקורת עבור נתונים פיננסיים.

• חוק ה-AI של האיחוד האירופי דורש בטיחות, שקיפות ועקיבות.

שימוש במודל אבטחה Zero Trust ובתכונות ענן עוזר לכם לעמוד בכללים. אפשר לעקוב אחר מדדים חשובים ולהשתמש בכלי RegTech כדי להתעדכן בחוקים חדשים.

אתם בונים מערכות סוכנים שפועלות באופן עצמאי, אך תמיד משאירות תיעוד ברור. כך ה-AI שלכם הופך לאמין ומוכן למקומות עם כללים מחמירים.

חווית מפתחים והתחלה מהירה

בניית הסוכן המנוהל הראשון שלכם

ראשית, בוחרים מה הסוכן אמור לעשות. לאחר מכן, בוחרים את המודל וכותבים הוראות פשוטות. לבסוף, בוחרים את הכלים שהסוכן ישתמש בהם. Azure AI Foundry הופך את ההקמה של כל חלק לפשוטה. משתמשים ב-Agent Service כדי לחבר את הסוכן לעסק שלכם. שירות זה עוזר להוסיף סוכנים עם בטיחות והגדרות מדיניות חזקות. אפשר להכניס סוכנים לעבודה שלכם מבלי לשנות הכול. מפתחים רבים חושבים שניהול סוכנים רבים הוא קשה. ה-Agent Service נותן בסיס חזק שיעזור לכם לשלוט בסוכנים ולהשיק אותם.

טיפ: התחילו מסוכן קטן שפותר דבר אחד. הוסיפו יכולות נוספות תוך כדי למידה.

בדיקת יומנים ומחזור החיים

צריך לראות מה הסוכן עושה בכל שלב. Azure AI Foundry שומר תיעוד של כל פעולה. אפשר לבדוק שרשורים, הרצות ושלבי הרצה כדי לראות את התמונה המלאה. לכל סוכן יש ארטיפקט SBOM מיוחד. ארטיפקט זה מאפשר לעקוב אחר every שינוי ולבדוק מיהו הסוכן. רואים באילו כלים השתמש הסוכן ומתי קיבל החלטות. אפשר להשתמש בלוחות מחוונים כדי לזהות בעיות ולתקן אותן במהירות. כך שומרים על המערכת בטוחה ופועלת היטב.

שילוב Logic Apps וכלי MCP

אפשר להפוך את הסוכן לחכם יותר על ידי חיבור ל-Logic Apps ולכלי MCP. Logic Apps מאפשרים לסוכן להתחבר למערכות עסקיות רבות. אפשר לחבר את הסוכן ל-CRM, ל-ERP או לכלי IT. כלי MCP מעניקים לסוכן יכולות חדשות, כמו חיפוש נתונים או הרצת קוד. אתם מחליטים באילו כלים הסוכן יכול להשתמש. מגדירים כללים כך שהסוכן יפעל רק במקומות שאתם רוצים. התצורה הזו עוזרת להרחיב את יכולות הסוכן תוך שמירה על בטיחות ושליטה.

הערה: התחילו עם כלים פשוטים והוסיפו עוד לפי הצורך. בדקו תמיד את היומנים כדי לוודא שהסוכן פועל לפי הכללים שלכם.

סוכני Azure AI Foundry מאפשרים לכם לעבוד באופן עצמאי, ועדיין לפעול לפי כללים. אפשר לראות ולבדוק כל פעולה באמצעות יומנים ברורים. כללים טובים ומעקב טוב עוזרים להפחית סיכונים ולקבל אישורים מהר יותר. זה גם עוזר לאנשים לתת אמון במערכת שלכם.

• כללים אוטומטיים ומעקב שומרים על ה-AI שלכם בטוח.

• מעקב ושמירת גרסאות מקלים על הבדיקה.

• העבודה מתבצעת מהר יותר, והבעיות מתרחשות פחות. הלקוחות מרוצים יותר.

אפשר להתחיל ליצור אוטומציה עם סוכנים כבר עכשיו. יומנים שמתעדים כל שלב וכלים עם הרשאות מוגדרות עוזרים לכם לעמוד בצרכים העסקיים ולהתכונן למה שיבוא.

שאלות נפוצות

מה ההבדל העיקרי בין סוכן לצ'אטבוט?

עם סוכן יש לכם שליטה רבה יותר. סוכנים יכולים לתכנן, לפעול ולהשתמש בכלים. צ'אטבוטים רק עונים על שאלות. סוכנים שומרים תיעוד של כל פעולה. ניתן לבדוק מה הם עשו בכל עת.

איך Azure AI Foundry עוזר לכם לעקוב אחר פעולות של סוכנים?

אתם רואים כל שלב שהסוכן שלכם מבצע. המערכת רושמת ביומן שרשורים, הרצות ושלבי הרצה. ניתן לעיין ביומנים האלה כדי לברר מה קרה, מתי ומדוע. זה עוזר לכם לבנות אמון ב-AI שלכם.

האם ניתן לשנות את המודל או הכלים לאחר בניית סוכן?

כן! ניתן להחליף מודלים או להוסיף כלים חדשים בלי להתחיל מההתחלה. כך תוכלו לעדכן את הסוכן למשימות חדשות או לתוצאות טובות יותר. ההוראות וההיסטוריה שלכם נשמרות בבטחה.

איך שומרים על סוכנים בטוחים ועל התאמה לכללי הארגון?

אתם מגדירים הרשאות לכל סוכן באמצעות Microsoft Entra. אתם מחליטים אילו נתונים וכלים כל סוכן רשאי להשתמש בהם. המערכת בודקת כל פעולה ושומרת יומנים לצורך ביקורות.

למה צריך רישום יומנים לאורך מחזור החיים בבינה מלאכותית ארגונית?

רישום יומנים לאורך מחזור החיים נותן לכם הוכחה לכל פעולה. ניתן לאתר תקלות, לעמוד בדרישות תאימות ולהציג כיצד ה-AI שלכם קיבל החלטות. זה בונה אמון ושומר על העסק שלכם.