מה זה בעצם Azure Eye Foundry? האם זה עוד שירות שמייקרוסופט הוסיפה או משהו גדול יותר? במהלך השנה האחרונה, מייקרוסופט הציגה הכרזות בתחום ה-AI ללא הפסקה. קל להרגיש עבודים. אני מרקו פיטר סמם, Microsoft Knowledge Nuggets. בסוף הפרק הזה, תדעו מה זה Foundry באמת ולמה זה משנה. בלי סיסמאות שיווקיות. נפרק את זה לחלקים ברורים. מה זה, מה יש בפנים, ואיך הכל מתחבר. למה כולם מבולבלים לגבי השם? הבלבול מתחיל בשם. Foundry עבר יותר שינויי שמות ממה שאני יכול לספור. בהתחלה זה היה Cognitive Services, אחר כך Azure Eye Services, אז Azure Eye Studio, אז Azure Eye Foundry, ומסוף השנה שעברה, זה רשמית Microsoft Foundry. אותו מוצר, ארבעה או חמישה שמות בשלוש שנים בערך. זה לבדו מבלבל, אבל זה נהיה מסובך יותר. כרגע, שתי גרסאות של הפלטפורמה רצות זו לצד זו. ארכיטקטורת ההאב הקלאסית היא הדרך הישנה. מודל הפאונדרי החדש הוא הגרסה המודרנית. שניהם נמצאים באותה כתובת URL i.azure.com. אתם מגיעים לשם ומוצאים כפתור שמחליף בין שתי ארכיטקטורות שונות לחלוטין.

זה לא רק מראה חדש, זו דרך שונה לארגן הכל מתחת למכסי המנוע. זה מבלבל מתחילים, כי כשמחפשים עזרה, מוצאים מאמרים על hubs ופרויקטים קלאסיים. המאמרים האלה עדיין מדויקים. מייקרוסופט תומכת בשתי הגרסאות, אבל הפיאצ'רים החדשים, יכולות הסוכנים וכל מה שמייקרוסופט משקיעה בו מגיעים רק לפרויקטים של פאונדרי. אתם עלולים לעקוב אחרי מדריך ישן, להגדיר hub, ואז לגלות שאי אפשר להשתמש בכלים הכי חדשים. זה כאב ראש רציני. אז, הנה ההצעה שלי. תתעלמו מהדברים הישנים. פאונדרי המודרני הוא המקום שבו מייקרוסופט משקיעה הכל. אם אתם מתחילים היום מאפס, דלגו על הhubs ועברו ישר לפרויקטים של פאונדרי. זה המקום שבו נמצאות היכולות החדשות. אז, מה זה בעצם Azure Eye Foundry? בואו נתחיל מההתחלה. מה זה Azure Eye Foundry? זו פלטפורמה מאוחדת לבנייה, בדיקה ופריסה של יישומי AI במקום אחד. זו ההגדרה הכי פשוטה. תחשבו על זה כמו על מפעל. חומרי גלם נכנסים מודלים, נתונים, כלים ויישומים מוכנים יוצאים, צ'אדבוטים, co-pilots, סוכני אוטומציה. אתם לא בונים את המפעל בעצמכם, מייקרוסופט מפעילה אותו.

אתם רק נכנסים, לוקחים מה שצריך ומתחילים לבנות. זה לא מוצר בודד כמו Word או Excel. Foundry הוא מחולה שמחזיקה מודלים, כלים, פרויקטים והבטחה. צרו משאב Foundry אחד ותקבלו את כל קיטלוג המודלים, אלפי מודלים. אתם מקבלים כלי בניית סוכנים, סביבות בדיקה, כלי הערכה והבטחה, כולם ערוזים יחד. כעת, הנה הבחנה מרכזית. Foundry מיועד למפתחים. אם אתם כותבים בפייטן או ב-Cash, אם אתם רוצים לבנות פתרונות AI מותאמים אישית בעזרת קוד, זו הפלטפורמה שלכם. מחפשים חוויית Low Code של גרירה ושחרור. זה Copilot Studio, כלי שונה לקהל יעד שונה. שניהם לגיטימיים. לפני Foundry, בניית אפליקציית AI באז'ר דרשה הקצעת שירותים נפרדים. הייתם צריכים להגדיר את Azure Open AI, Cognitive Services, Azure Machine Learning, Azure Eye Search, ואז לכתוב קוד מותאם כדי לחבר ביניהם. המון עבודה. Foundry מחליף את כל זה. יוצרים משאב אחד והכל כבר מחובר. המודלים שם, הכלים שם, ההבטחה מובנית. פשוט מתחילים לבנות. זו בדיוק הנקודה. זה לא עניין של להוסיף עוד כלי, זה עניין של הסרת החיכוך שבניהול טרייסר שירותים נפרדים.

יחידת הארגון המרכזית, פרויקטים בפאונדרי. אז יש לכם את מפעל ה-AI שלכם. אבל מפעל זקוק לארגון. זה המקום שבו נכנסים לתמונה הפרויקטים של פאונדרי. פרויקט פאונדרי הוא מרחב עבודה מבודד לפתרון AI ספציפי. אם פאונדרי הוא המפעל, הפרויקטים הם שולחנות עבודה אישיים. לכל אחד יש את הכלים, החומרים והעובדים שלו, בלי להפריע זה לזה. הצוות שבנה צ'דבות לשירות לקוחות לא ישבש בטעות את פרויקט העוזר למשאבי אנוש. מה נמצא בתוך פרויקט? פריסות מודלים משלו, סוכנים, מאגרי ידע, הערכות וניתור. כל מה שצריך לפתרון אחד במקום אחד. הנה המבנה המרכזי. פרויקטים חיים בתוך משאב פאונדרי. המשאב הוא גבול החיוב וההבטחה, הבניין. הפרויקטים הם החדרים שבפנים. בניין אחד, דלת כניסה אחת, עמדת הבטחה אחת, חשבון אחד. אבל לכל חדר יש את המטרה שלו ואת הצוות שלו. לדוגמה, חברה בשם קונטוסו בונה שלושה פתרונות AI. סוכן שירות לקוחות עוזר משאבי אנוש ומערכת לאיבוד מסמכים. בעזרת פאונדרי הם יוצרים משאב אחד לכל החברה ואז יוצרים בתוכו שלושה פרויקטים. לכל פרויקט יש מודלים, סוכנים ומאגרי ידע משלו.

צוותים עובדים באופן עצמאי בלי לדרוך זה לאצבעות של זה. זה חשוב כי צוותים שונים זקוקים להרשאות שונות. צוות שירות הלקוחות לא צריך לראות מסמכי משאבי אנוש. צוות עיבוד המסמכים לא צריך את מדיניות ההחזרים. פרויקטים מעניקים לכם את הבידוד הזה. בד בבד, העית שומר על שליטה מרכזית, בניהול משאב אחד, מדיניות הבטחה אחת ותקציב אחד. אוטונומיה צוותית עם משילות מרכזית. הלב של פאונדרי, כתלוג המודלים. חישבו על זה כך. כל פרויקט זקוק למוח. בפאונדרי, המוח הזה נמצא בתוך כתלוג המודלים. מעל 11,000 מודלים וזו לא טעות הקלדה. מקבלים מודלים של אופניהי כמו GPT-4O ו-GPT-4.1. את משפחת למה של מטה, את מיסטרל, דיפסיק, את מודלי הפי של מייקרוסופט, קלוד של אנטרופיק, קוהיר ומודלים לטקסט, תמונות, קוד ואמבדינגס. כרגע, זהו כתלוג המודלים הגדול ביותר שתמצאו בכל פלטפורמט ענן. בואו נחלק אותם לשני סוגים בסיסיים, מודלי שפה גדולים ומודלי שפה קטנים. לגדולים יש מיליארדי פרמטרים. ל-GPT-4 יש מעל טריליון, אז הם יכולים להתמודד עם השכה מורכבת, כתיבה יצירתית ושיחה מתוחכמת.

אבל הם יקרים ואיטיים. למודלים קטנים יש הרבה פחות פרמטרים. לפי שלוש של מייקרוסופט יש קף מינוס 3.8 מיליארד, זהיר בהשוואה ל-GPT-4, אבל הוא מהיר וזול. עבור משימות ממוקדות כמו חילוץ נתונים מתופס או מענה על שאלה פשוטה, הוא עובד מצוין. הנה היתרון המעשי. ניתן לפרוס מודל בשניות. בוחרים אחד מהקיטלוג, לוחצים על פרוס וזה מוכן. אין צורך בהקצאת חומרה, אין הגדרות רשת, אין המתנה של שעות להתקנה רק שניות. ולפני שמחליטים, אפשר לבדוק אותו בפלייגראונד. נסו הנחיות שונות, כווננו הגדרות כמו טמפרטורה ומקסימום תוקנים וראו תגובות באופן מיידי. זו נסיעת מבחן לפני שקונים את המכונית. אתם לא נעולים על מודל אחד וזה יתרון עצום לעומת שימוש ישיר ב-API של OpenAI. עם פאונדרי, אפשר להשתמש ב-GPT-4O להסקה מורכבת שבה האיכות חשובה, בפי לסיווג פשוט שבו מהירות ועלות חשובים, ובלמה של מטה לצורכי תאימות אם צריך להריץ מודלים במרכז נתונים משלכם. מחליפים מודלים בהתאם למשימה. פאונדרי כולל גם כלי השוואה שעוזר להאריך מודלים זה לצד זה. השוואה לפי איכות, כמה מדויקות התגובות.

לפי בטיחות, עד כמה המודל עמיד בפני מתקפות הזרקת הנחיות. לפי עלות, המחיר למיליון תוקנים. לפי מהירות, כמה מהר הוא מייצר פלט. זה הופך את בחירת המודל ממשחק ניחושים להחלטה מושכלת. בוחרים את הכלי הנכון למשימה הנכונה, לא רק את זה שכולם מדברים עליו. בניית סוכני בינה מלאכותית, התכונה המנצחת של פאונדרי. מודל לבדו הוא לא מאוד שימושי. אפשר לשוחח איתו בפלייגראונד, לשאול שאלות, לראות מה הוא מייצר, אבל זו רק שיחה. הקסם האמיתי קורה כשבונים משהו שיכול באמת לבצע דברים, וכאן נכנסים לתמונה הסוכנים. סוכן הוא יותר מתשטבות. שדבות עונה על שאלות. סוכן נוקט בפעולה. הוא יכול לחפש באינטרנט, לקרוא קבצים, לבצע חישובים, לזכור מה אמרת לו בשבוע שעבר ולעקוב אחר סדרה של הוראות. זה כמו לקבל עוזר שלא רק מדבר, אלא באמת מבצע משימות. פאונדרי מעניקה לך חמישה רכיבים לבניית סוכן. תן לי לעבור על כל אחד מהם. ראשית, הוראות. זה המקום שבו אתה אומר לסוכן מה עליו לעשות ואיך עליו להתנהג. תחשוב על זה כעל תיאור משרה. אתה עשוי לומר, אתה סוכן שירות לקוחות.

היה ידידותי ומקצועי. ענה רק על שאלות בנוגע למדיניות ההחזרות שלנו. אם אינך יודע את התשובה, אמור זאת והעבר לנציג אנושי. ללא הוראות, הסוכן עושה מה שהמודל מרגיש לנכון. אם הוראות, יש לו מטרה ברורה. שנית, המודל. זהו המוח. הוא מאבד כל בקשה ומייצר תגובות. אתה בוחר באיזה מודל להשתמש GPT-4O להסקה מורכבת, חמש למשימות פשוטות, מה שמתאים. המודל הופך את הסוכן לחכם, אבל הוא רק חלק אחד. שלישית, כלים. זה המקום שבו הסוכן מקבל את הידיים שלו. כלים הם יכולות שהוא יכול להשתמש בהן כדי לבצע פעולות. חיפוש באינטרנט מאפשר לו למצוא מידע עדכני. מפרש קוד מאפשר לו לעשות מתמטיקה ולהריץ חישובים. חיפוש קבצים מאפשר לו לקרוא מסמכים שאתה מעלה. ללא כלים, הסוכן יכול רק לייצר טקסט. אם כלים, הוא יכול לפעול בעולם. רביעית, ידע. זהו המידע שהסוכן יכול להתייחס אליו. אתה מעלה מסמכים, כבצי PDF, כבצי JSON, כל נתון שהסוכן שלך צריך כדי לענות על שאלות בצורה מדויקת. פאונדרי משתמשת ב-Azure Eye Search מאחורי הקלעים כדי להינדקס את הנתונים ולהפוך אותם לניתנים לחיפוש.

כשלקוח שואל על מדיניות ספציפית, הסוכן לא מנחש. הוא מוצא את המסמך האמיתי וקורא אותו. חמישית, זיכרון. זה מאפשר לסוכן לזכור מידע לאורך שיחות. אתה מדבר אליו היום והוא זוכר את ההעדפות שלך. אתה חוזר מחר והוא ממשיך בדיוק מהמקום שבו הפסקת. הוא שומר סיכומי צ'אט והעדפות משתמש, כך שהחוויה מרגישה אישית ורציפה. הנה דוגמה קונקרטית מהמחקר שערכתי. מי שהוא בנה סוכן למעקב אחר מתנות בפאונדרי. הרעיון פשוט. אתה רוצה לעקוב אחר מתנות למשפחה שלך, מה נתת להם בעבר, מה הם אוהבים, מה הם לא אוהבים וכמה אתה מוציא. אז, לסוכן יש הוראות שאומרות, אתה עוזר לתכנן מתנות. לעולם אל תציע משהו שהם כבר קיבלו. הוא משתמש ב-GPT-4 כמוח שלא, בחיפוש ברשת כדי למצוא רעיונות למתנות, בחיפוש קבצים עם פרופילים לכל בן משפחה, העדפותיהם והיסטוריית מתנות מהשלוש שנים האחרונות, במפרש קוד לחישוב תקציבים ובזיכרון. אז בפעם הבאה שתפתחו שיחה, הוא יזכור שחיפשתם מתנת יום הולדת לבינכם אדם. אתם בונים ובודקים את כל זה במגרש המשחקים של הסוכן. זהו ממשק ויזואלי שבו אתם מגדירים כל רכיב, בודקים את תגובות הסוכן ורואים בדיוק באילו כלים הוא השתמש ומדוע.

ברגע שהוא עובד, אתם יכולים לפרוס אותו. פאונדרים מספק נקודת קצה של API שאפשר לקרוא לה מכל אפליקציה, או שניתן לפרסם אותה ישירות למיקרוסופט טימס כסוכן קופיילוט. כך או כך, הסוכן שלכם עובר מרעיון לייצור בלי לכתוב שורת קוד תשתית אחת. מתחת למכסה המנוע, הארכיטקטורה פשוטה. זהו רובד השטח, אך מה באמת קורה מתחת למכסה המנוע? הנה הארכיטקטורה בשפה פשוטה. כשיוצרים משאב פאונדרי, Azure מקימה את כל התשתית באופן אוטומטי, כך שאין צורך להקצות יחסון, להגדיר לוגים או לקבוע קבוצות הבטחה. הכל קורה מאחורי הקלעים, עם יצירת חשבון יחסון לקבצים ולוגים, הגדרת ניטור והגדרת זהות. לכן, כל מה שנשאר לכם לעשות זה ליצור את המשאב ולהתחיל לבנות. כיום, פאונדרי משתמש בסוג המשאב של Cognitive Services, אותו אחד שמשמש את Azure OpenAI ושירותי ה-AI הוותיקים כמו Vision ו Speech. הארכיטקטורה הישנה מבוססת ה-Hub, השתמשה במשין-לרנינג סרוויססס, ספק שונה לחלוטין עם חיוב, רשת וניהול שונים. זה משנה כי פאונדרי נמצא בחלק פשוט ומאוחד יותר של התשתית של Azure.

פרויקטים הם משאבי בת של משאב הפאונדרי, לכן הם חולקים את אותה זהות וגבול הבטחה. כשמגדירים בקרת גישה ברמת הפאונדרי, היא חלה על כל הפרויקטים, מה שאומר שלא צריך להגדיר הבטחה בנפרד לכל אחד. אבל אם אתם צריכים הרשאות ספציפיות לפרויקט, אתם יכולים להוסיף גם אותן. פאונדרי לא עובד לבד. הוא מתחבר לשירותי Azure אחרים, ו-Azure Eye Search הוא החשוב ביותר, כי ככה סוכנים שלכם מוצאים ושולפים ידע. Key Vault מאחסן סודות ומפתחות API בצורה מאובטחת, וחשבונות איחסון מחזיקים קבצים, לוגים ואינדקסים וקטוריים. חיבורים אלו מנוהלים דרך מה שפאונדרי מכנה, חיבורים שהם קישורים מוגדרים מראש המאפשרים לסוכנים שלכם לגשת למשאבים בלי שתצטרכו לנהל אישורים ידנית. שירות הסוכנים של פאונדרי הוא זמן הריצה שבאמת מערך את הסוכנים שלכם. חישבו על זה כעל חדר המנועים. כאשר משתמש שולח בקשה, שירות הסוכן Agent Service, מטפל בתאום, קבלת הבקשה, בדיקת ההוראות, קריאה למודל, הפעלת הכלים המתאימים, שליפת ידע ויצירת תגובה. הוא גם מריץ מסנני בטיחות כדי לזהות תוכן פוגני ומטפל בהרחבת משאבים, סקיילינג.

לכן, אם אלף משתמשים פונים לסוכן שלכם בבת אחת, הוא מקצה קיבולת באופן אוטומטי. הכל פועל בתוך הבטחה ברמה ארגונית של Azure, שבה Enter ID מטפל באימות, רשתות מנוהלות שומרות על פרטיות התעבורה, ובקרת גישה מבוססת תפקידים מבטיחה שרק מורשים יוכלו לשנות סוכנים. מסנני בטיחות תוכן חוסמים, תגובות בלתי הולמות. זו אותה תשתית הבטחה שמפעילה את השירותים של מייקרוסופט עצמה. עוד דבר אחד, ארכיטקטורת ההאב והפרויקט הישנה עדיין קיימת. אם אתם משתמשים ב-Azure AI Foundry זמן מה, ייתכן שיש לכם האב מוגדר, והם עדיין עובדים עם תמיכת מייקרוסופט. אך הם לא יקבלו תכונות סוכן חדשות כמו האג'נט פלייגרונד, שירות הסוכן או יכולות הזיכרון. כל אלו מגיעים רק לפרויקטים החדשים של פאונדרי. אז, אם אתם מתחילים מאפס או רוצים לבנות סוכנים, השתמשו בפרויקטים החדשים. אל תבנו על התשתית הישנה. איך הכל מתחבר התמונה הגדולה? אז מה באמת קורה כשמישהו משתמש באפליקציית פאונדרי? דמיינו שמשתמש מקליד שאלה, והשאלה הזו מגיעה לסוכן שלכם. הסוכן בודק את ההוראות שלו, בוחר את המודל הנכון ומתחיל לאבד.

אבל הוא לא סתם מנחש את התשובה. הוא ניגש לאזרו-אי-סרצ' כדי למצוא ידע רלוונטי מהמסמכים שלכם, קורא לכלי כמו חיפוש אינטרנטי למידע עדכני, מאבד את כל ההקשר הזה ומייצר תגובה. לאחר מכן, הוא שומר את השיחה בזיכרון, כך שבפעם הבאה הוא זוכר מי אתם ועל מה שוכחתם. זהו התהליך מקצה לקצה. לפני פאונדרי, הייתם צריכים חמישה שירותי Azure נפרדים וקוד מותאם אישית כדי שזה יעבוד. Azure OpenAI למודל AI-Search לשליפת ידע, שירות נפרד לחיפוש אינטרנטי, איחסון ליומנים וקבצים, וכי וולט לסודות. לאחר מכן, היה עליכם לכתוב קוד כדי לחבר את הכל, לטפל באימות, לנהל שגיאות ולהגדיר ניטור. פאונדרי עושה את כל זה מהקופסה. אתם פשוט מגדירים את הרכיבים והסוכן שלכם פועל. הנה העניין, הכל מקיים אינטראקציה. שנו את המודל ותשנו את העלות והדיוק של כל תגובה. הוסיפו מקורות ידע טובים יותר והתשובות שלכם יהיו מדויקות יותר. אפשרו זיכרון והחוויה תרגיש אישית במקום רובוטי. אלו אינן החלטות מבודדות. זו מערכת, ופאונדרי מעניקה לכם את הבקרים לחינון המערכת לצרכים הספציפיים שלכם.

זו הסיבה שארגונים עוברים מפעילותים לייצור. פאונדרי מספקת להם את התשתית לבניית יישומי בינה מלאכותית מהימנים. הבטחה מובנית, ניטור מובנה והערכה מובנית. אתם לא מתחילים מאפס. אתם עומדים על פלטפורמה שמטפלת בחלקים הקשים כדי שתוכלו להתמקד ביישום עצמו. מתחילים הצעדים הראשונים שלכם. אז איפה מתחילים? עברו i.azure.com ווצרו את משאב הפאונדרי הראשון שלכם. תצטרכו מנוי לאז'ר, אך אם אין לכם, הרשמו לחשבון חינמי עם קרדיטים להתנסות. כל ההגדרה לוקחת בערך דקה. לאחר מכן, צרו פרויקט בתוך המשאב ותנו לו שם שמתאים למה שאתם בונים. אז, בחרו מודל מתוך הקטלוג. אני ממליץ להתחיל עם מודל שמסוגל להתמודד עם רוב הניסויים. ניתן לפרוס אותו בלחיצה אחת. לאחר מכן, פיתחו את ארגז הכלים לסוכנים, Agent Playground, ובנו סוכן פשוט. תנו לו הוראות כמו, לאחר מכן, הוסיפו חיפוש אינטרנט ככלי. בחנו אותו על ידי שאילת שאלה ומעקב אחר נתיב הפעולה כדי לראות באילו כלים הוא השתמש ומדוע. אל תנסו לבנות הכל בבת אחת. בחרו מקרה בוחן אחד, אולי בוט לי שאלות ותשובות על מסמכים שעונה על שאלות לגבי ספר הנהלים של החברה, והתחילו בקטן.

גרמו לזה לעבוד, ואז התרחבו משם. הוסיפו חיפוש קבצים עם מסמכים אמיתיים, הוסיפו זיכרון כדי שיזכור משתמשים, והוסיפו מפרש קוד אם אתם צריכים חישובים. הנה העניין. פאונדרי כוללת שעד בוט בינה מלאכותית מובנה שעונה על שאלות לגבי הפלטפורמה עצמה. אם אתם נתקעים, שאלו אותו דברים כמו, אילו מודלים זמינים באזור שלי? או, איך אני מוסיף זיכרון לסוכן שלי? ומחפש בטיעוד ונותן לכם תשובה מיידית, כמו לקבל מהנדס תמיכה מובנה בתוך הפורטל. אז זו המערכת, פלטפורמה מאוחדת שלוקחת מודלים, פרויקטים, סוכנים, ידע והבטחה ועוטפת את כולם למשהו שעובד יחד. כשרואים איך הכל משתלב, הבלבול נעלם. פאונדרי היא לא סתם עוד כלי, היא הסדנה שבה בונים יישומי בינה מלאכותית. בשורה התחתונה, ההישג הכי גדול שלכם היום הוא פשוט. צרו פרויקט פאונדרי ובנו סוכן אחד. זה הכל. אם מצאתם את זה מועיל, הרשמו לעוד הסברים פשוטים כאלה, ושתפו את הפרק הזה עם מישהו שגם מבולבל מהצע הבינה המלאכותית של מייקרוסופט. הם יודו לכם על כך.