הנושא של היום הוא משהו שכמעט כולם שמעו עליו, אבל כמעט אף אחד לא יודע להסביר במילים פשוטות. רג, יצירה מוגברת, שניפה, Retrieval Augmented Generation. ראיתם את ראשי הטבות האלו בכל מקום, בהודעות של מייקרוסופט, בכנסים על בינה מלאכותית ובבלוגים, אבל מה זה באמת אומר? וחשוב מכך, למה שיהיה לכם אכפת. הנה העניין, מודלי שפה גדולים כמו GPT-4O הם עוצמתיים. הם יכולים לכתוב חיבורים, לסכם מסמכים ואפילו ליצור קוד, אבל יש להם שתי בעיות גדולות. ראשית, הידע שלהם כפו בזמן. שאלו את צ'אט GPT על מה שהוא שקרה אתמול, ואין לו מושג. שנית, המודלים האלו מעולם לא ראו את הנתונים הפנימיים של החברה שלכם, את המדיניות שלכם, פרטי מוצרים או אימיילים של לקוחות. אז כשאתם שואלים מודל שפה שאלה על העסק שלכם, הוא מנחש, וכאן נכנסת לתמונה היצירה מוגברת שליפה. רג הוא לא מודל חדש, הוא לא גרסה גדולה או טובה יותר של GPT. זו גישה שונה לחלוטין. במקום לבקש מהמודל לשלוף תשובות מהזיכרון שבו אומן, רג מחפש קודם את המידע הנכון בנתונים שלכם ומגיש אותו למודל יחד עם השאלה. המודל משתמש בהקשר הזה כדי לתת לכם תשובות המבוססות על תוכן אמיתי ועדכני, לא על ניחושים. ללא רג, הבינה המלאכותית שלכם עובדת על בסיס זיכרון מלפני חודשים או שנים. עם רג, היא עובדת על בסיס המסמכים האמיתיים שלכם ברגע זה. זה ההבדל בין בינה מלאכותית שנשמעת בטוחה בעצמה, אך עלולה לטעות, לבין כזו שמראה לכם בדיוק מאיפה הגיעה התשובה. הנה מה שנזכור היום. ראשית, נבחן את שתי הבעיות שהופכות את רג להכרחי. לאחר מכן, נפרק מה זה בעצם רג השליפה, ההעשרה והיצירה. בהמשך, נעבור על שירותי Azure המרכזיים, Azure Eye Search, Azure Open AI ו-Azure Eye Foundry. ונסיים עם דוגמה אמיתית כדי שתוכלו לראות איך כל החלקים מתחברים. נתחיל בבעיה עצמה. ברגע שתראו אותה, הפתרון יהפוך למובן מעיליו. שתי הבעיות שיש למודלי שפה גדולים. אז מה לא בסדר במודלי שפה גדולים? שני דברים, למען האמת. ראשית, הידע שלהם כפו. תחשבו על זה. כש-GPT-4 או אומן, הוא למד מתמונת מצב של האינטרנט שכבר בת חודשים או שנים, לכן הוא לא מכיר מוצרים חדשים, תקנות עדכניות או חדשות מאתמול. שאלו אותו על שינוי במדיניות משבוע שעבר ואין לו דרך לדעת. המידע הזה פשוט לא נמצא בנתוני האימון שלו. שנית, מודלי שפה מעולם לא ראו את הנתונים הפרטיים שלכם, המסמכים הפנימיים, אימיילים של לקוחות או מסדי נתונים קנייניים. למודל אין שום גישה לכל אלו. אז כשעובד שואל על התהליכים העסקיים הספציפיים שלכם, המודל לא יכול לענות. הוא לא יודע מה שאתם יודעים. יש אנשים שחושבים שכיוונון עדין, פיינטונינג, פותר זאת. אתם לוקחים את מודל הבסיס ומאמנים אותו קצת יותר על הנתונים שלכם. אבל לכיוונון עדין יש בעיות משלו. זה יקר. אתם משלמים על זמן GPU ומאמצי הנדסה. זה לא פותר בעיות של חוסר עדכניות. ברגע שביצעתם כיוונון עדין, המודל עדיין קפוא באותה נקודת זמן. והוא לא יכול לטפל בנתונים שמשתנים לעיתים קרובות כמו מלאי או מחירים. כיוונון עדין זה כמו ללמד מי שהוא ספר לימוד בעל פה. זה שימושי, אבל הוא עדיין לא יכול לחפש בעיתון של היום. הפתרון האמיתי פשוט יותר. תנו למודל גישה לידע שלכם ברגע שהוא צריך לענות, במקום לנסות לדחוף הכל לזיכרון שלו. אל תחריכו אותו לשנן הכל. תנו לו לחפש דברים בזמן אמת מתוך הנתונים האמיתיים שלכם. זה מה שרג עושה. רעיון פשוט, אבל הוא משנה הכל. אנחנו קודם מוצאים את המידע הרלוונטי ואז מזינים אותו למודל לצד השאלה. זה הרעיון המרכזי. שלושה צעדים פשוטים, שליפה, העשרה ויצירה. תן לי לתת לכם אנלוגיה. תחשבו על ספרן. אתם נכנסים לספרייה ושואלים שאלה. לא הייתם מצפים מהספרן לשנן כל ספר, נכון? זה יהיה מגוחך. במקום זאת, אתם מבקשים ממנו למצוא את הספר הנכון, לפתוח בעמוד הנכון ולקרוא לכם את התשובה. הספרן לא משנן שום דבר. צירה אחר כך. אז הנה איך זה עובד בפועל. משתמש שואל שאלה. המערכת מחפשת במאגר ידע, במסמכים שלכם, בנתונים שלכם, במידע הפרטי שלכם. כל מה שנמצא מוזן למודל השפה הגדול, והמודל מייצר תשובה המבוססת על ההקשר הזה. והנה החלק שחשוב. ה-LLM לעולם לא רואה את הנתונים הגולמיים שלכם. הוא רואה רק את מה שמערכת השליפה מגישה לו. זה לא חיסרון. זה בעצם מאפיין הבטחה. המסמכים הרגישים שלכם נשארים בהכסון שלכם. בזמן השאילתה, המודל מקבל רק את הקטעים הרלוונטיים שהוא צריך כדי לענות על אותה שאלה ספציפית, ללא אימון על הנתונים שלכם, ללא שינון, ללא דליפת מידע. הנתונים שלכם נשארים איפה שהם שייכים. אז, רג פותר את שתי הבעיות שדיברנו עליהן קודם. נתונים לא מעודכנים. לא בעיה. מאגר הידע שלכם נשאר עדכני. נתונים פרטיים. המודל רואה רק את מה שאתה בוחר לשלוף. זה כמו לתת לספרן גישה לארון הטיוק שלך. אך לאפשר לו להוציא רק את התיקייה שאתה צריך, בדיוק כשאתה צריך אותה. התמאות וקטוריות וחיפוש סמנטי. כעת, אולי אתה תוהה כיצד החיפוש הזה עובד בפועל. זה לא עניין של התאמת מילות מפתח או הרצת חיפוש טקסטואלי במסמכים שלך. זה מה שהוא חכם הרבה יותר. זה נקרא חיפוש סמנטי והוא מבוסס על התמאות וקטוריות. הרשה לי להסביר מהי התמאה. התמאה וקטורית היא רשימה ארוכה של מספרים הלוחדת את המשמעות של קטע טקסט, כמו קאורדינטות על מפה. לכל מסמך יש קאורדינטה משלו על מפת המשמעויות הזו. כשאתה שואל שאלה, המערכת הופכת גם את השאלה שלך לקאורדינטות, ואז מוצאת את המסמכים הקרובים ביותר אליה. המפתח כאן הוא הסמנטיקה. זה לא על מציאת המילים המדויקות, זה על הבנת מושגים. אם תחפש מלונות בתקציב נמוך, המערכת תוכל למצוא מסמכים על אירוח זול גם אם המילים המדויקות האלו לא מופיעות. למה? כי המשמעות קרובה. ההתמאות של תקציב נמוך וזול יושבות ממש אחת ליד השנייה על אותה מפה. מודל קטן ומיוחד, כמו Text Embedding 3 Large של Azure, יוצר את ההתמאות האלה. זה לא מודל שפה ענקי, אלא כלי ממוקד שעושה עבודה אחת להפוך טקסט למספרי קאורדינטות. זה מה שהופך את רג לעוצמתי כל כך. המסמכים שלך מומרים להתמאות פעם אחת במהלך האינדוקס. ואז, כשאילתה מגיעה, המערכת מוצאת את התוכן הרלוונטי ביותר במילי שניות, גם אם המילים המדויקות של המשתמש לא מופיעות בשום מקום במסמכים. היא מבינה כוונה לא רק את מילות המפתח שהקלדת. Azure Eye Search, מנוע השליפה. אז עכשיו אתה מבין את הקונספט. שליפה תחילה ואז יצירה. אבל איפה כל השליפה הזו בעצם קורה? זה המקום שבו Azure Eye Search נכנס לתמונה. Azure Eye Search הוא השירות שמאכסן, מאנדקס ושולף את התוכן שלך. תחשוב עליו כמערכת הטיוק עבור אפליקציית הרג שלך. הוא מטפל בשתי משימות עיקריות ובוא נעבור עליהן. ראשית, אינדוקס. זה הפיכת הנתונים שלך למוכנים לחיפוש. שנית, חיפוש. זה איתור התוכן הנכון בפועל כאשר מישהו שואל שאלה. בוא נעבור על תהליך האינדוקס תחילה. אתה מתחיל בהפניית Azure Eye Search למקור הנתונים שלך, שיכול להיות מכה לכסון ענן מלא בקבצי PDF, מסד נתונים סיכואל עם רשומות לקוחות, או כל מספר מקורות אחרים. השירות קורא את המסמכים האלה, מפרק אותם לחלקים קטנים יותר, הנקראים צ'נקים, צ'נקס, יוצר התמאות וקטוריות עבור כל חלק באמצעות אותו מודל התמאה שדיברנו עליו קודם, ומאכסן הכל באינדקס חיפוש. תחשבו על האינדקס כעל כתלוג ענק ומאורגן היטב. כל פיסת תוכן מקבלת מזהה ייחודי, מקטע טקסט וסט קואורדינטות על מפת המשמעות הזו. עכשיו, תהליך החיפוש. כאשר משתמש שואל שאלה, AI Search הופך את השאלה לוקטור באמצעות אותו מודל התמאה, ואז שורק את האינדקס כדי למצוא קטעים שהקואורדינטות שלהם הן הקרובות ביותר לאלו של השאלה. הוא מחזיר את ההתאמות המובילות, בדרך כלל 5 עד 10 הרלוונטיות ביותר, ועושה את כל זה במילי שניות. יש לכם כאן כמה אפשרויות חזקות. חיפוש וקטורי טהור מוצא תוכן לפי משמעות, כך שמושגים דומים מופיעים גם עם המילים המדויקות לא תואמות. חיפוש מילות מפתח עובד כמו מנוע חיפוש מסורתי, ומוצא התאמות מילים מדויקות, או שניתן להשתמש בחיפוש היברידי, המשלב את שתי הגישות, וזו בדרך כלל הבחירה הטובה ביותר. יש גם משהו שנקרא דירוב סמנטי מחדש, שלוקח את התוצאות הראשוניות, וממיין אותן שוב בהתבסס על מידת הדיוק שלהן במענה לשאלה. זה כמו מעבר שני שתופס דברים שהראשון אולי פספס. דבר אחד שכדאי לדעת, Azure Eye Search עלול להיות יקר. הרמה הבסיסית מתחילה בסביבות 75 דולר לחודש ומטפסת משם. אם אתם רק מתנסים, השתמשו ברמה החינמית, או ודו שאתם מוחקים את המשאבים שלכם בסיום. לשימוש בייצור, אם זאת, העלות בדרך כלל משתלמת. אתם קונים מהירות ואמינות בקנה מידה גדול. Azure Open AI plus Eye Foundry, יצירה ותזמור. אז, כעת הנתונים שלכם מעונדקסים ומוכנים לשליפה, אבל ה-LLM עדיין צריך להבין את השאלה שלכם ולהפיק תשובה מוצקה. כאן נכנסים לתמונה Azure Open AI ו-Azure Eye Foundry. Azure Open AI מספק את מודל השפה בפועל GPT-4O, GPT-4.1, או כל מודל שתבחרו. זהו מנוע היצירה. הוא מקבל הנחיה, פרומפט, הכוללת גם את השאלה המקורית מהמשתמש, וגם את ההקשר ש-Azure Eye Search שלף. המודל קורא את ההקשר הזה ומייצר תשובה בהתבסס על מה שהוא מוצא. עכשיו, אי אפשר פשוט לזרוק הכל פנימה ולקוות לטוב. אתם צריכים הנחיית מערכת, סט הוראות שאתם נותנים למודל מראש לגבי איך להתנהג. אתם אומרים לו להשתמש רק בהקשר המסופק, לציין את המקורות שלו, והכי חשוב, להגיד, אני לא יודע, אם המידע הרלוונטי לא נמצא במסמכים שנשלפו. זה מה ששומר על המודל קנה. ללא הנחיית מערכת טובה, המודל עלול לחזור לנתוני האימון שלו או גרוע מכך להמציא משהו. אז, איך בעצם מחברים את כל החלקים האלה יחד? כאן נכנס לתמונה Azure Eye Foundry. זהו הפורטל שבו יוצרים פרויקט, פורסים מודלים, מחברים מקורות נתונים ובודקים את הסוכן שלכם. חישבו עליו כעל מרכז הבקרה של כל מערך הרג שלכם. בתוך Foundry, ניתן להוסיף את אינדקס האזרי אי-סארץ כמקור ידע לסוכן ללא כתיבת קוד מותאם להגדרה הבסיסית. פשוט יוצרים חיבור, בוחרים את האינדקס, והסוכן יכול להתחיל לשאול אותו שאלות באופן אוטומטי. הפורטל מטפל באורכסטר הציעה. כאשר משתמש שואל שאלה, הסוכן יודע לפנות לאי-אי-סארץ, לקבל את המקטעים הרלוונטיים ולהעביר אותם ל-LLM יחד עם השאלה המקורית. הנה דוגמה קונקרטית. באחד המדריכים שנתקלתי בהם, מי שהוא בנה סוכן המלצות לסרטים באמצעות ערכת נתונים של נטפליקס. הם העלו קובץ CSV עם שמות סרטים, תיאורים ומידע על השחקנים ל-Azure Blob Storage, ואז השתמשו ב-Azure Eye Search כדי להינדקס את הנתונים. ב-Azure Eye Foundry, הם יצרו סוכן עם GPT-4O וחיברו את אינדקס האי-אי-סארץ. כאשר משתמש שאל, אני אוהב סרטי מתח, תן לי כמה המלצות. הסוכן חיפש באינדקס, מצא סרטי מתח מאותו מאגר נתונים ספציפי והחזיר המלצות. וזה העיקר, הוא המליץ רק על סרטים שהיו באמת באותו מאגר נתונים. הוא לא המציא כלום, לא שלף מנתוני האימון שלו, ועבד אך ורק על סמך התוכן שסופק לו. זה הכוח של רג. רג קלאסי מול רג סוכני. כעת, בואו נדבר על הקמת המערכת. ישנם שני דפוסים עיקריים, רג קלאסי ורג סוכני. באיזה מהם תבחרו תלוי במה שאתם בונים? רג קלאסי הוא הגישה הישירה. שאילת האחת נכנסת, חיפוש אחד מבוצע, ותשובה יוצאת. פשוט, מהיר, צפוי. חישבו על זה כמו לגשת לדלפק הקבלה בבניין משרדים ולבקש קובץ ספציפי אחד. פקידת הקבלה לוקחת אותו, מוסשת לכם, וזהו. רג קלאסי עובד מצוין עבור שאלות ותשובות עובדתיות בנושא יחיד כמו מהי מדיניות החברה לגבי עבודה מרחוק? או, הראה לי את שלבי פתרון הבעיות עבור קוד השגיאה הזה. זה אמין, זול וקל לתיקון כשמשהו משתבש כי הזרימה לי נערית. רג סוכני הוא שונה. סוכן ה-AI מחליט איך לשלוף מידע. הוא יכול לשאול תתי שאלות מרובות, לחפש באינדקסים שונים, לבצע התרציות על תוצאות ולסנתז ממקורות שונים לפני מתן תשובה. זה כמו שיש מנהל בניין שמתאם עם מחלקות שונות כדי לאסוף את כל החלקים. הוא לא סתם לוקח קובץ אחד. הוא מדבר עם משאבי אנוש, בודק רישומים, מצליב מדיניות, ואז חוזר עם תשובה מלאה. מייקרוסופט הרחה בדיקות משלה ומצאה שאיג'נטיק רג מספק שיפור של קף מינוס 40% ברלוונטיות התשובות לשאלות מורכבות. זה משמעותי, אך הוא צורך פי 3 עד 10 יותר אסימונים, טוקנז, ומוסיף השיה. עבור שאלות פשוטות, המאמץ הנוסף הזה מבוזבז. רג קלאסי מטפל בהן מצוין. אז מתי משתמשים בכל אחד? קלאסי עבור שאילתות שגרתיות ובעלות נפח גבוה, שבהן המהירות והעלות הם החשובים ביותר. אג'נטיק עבור שאלות רב-שילוביות, מאורפלות או בינתחומיות, שבהן הדיוק מצדיק את כוח המחשוב הנוסף. סעיף חיבור, דוגמה מקצה לקצה. בואו נראה איך כל החלקים האלה מתחברים בעזרת דוגמה אמיתית. דמיינו שאתם בונים סוכן תמיכת לקוחות לסוכנות נסיעות בשם מריגולט הראבלס. יש לכם חוברות טיולים, ביקורות על מלונות ומסמכי מדיניות המפוזרים בארגון שלכם. אתם רוצים שלקוחות ישאלו שאלות ויקבלו תשובות מדויקות על סמך התוכן שלכם ולא ניחושים כלליים. שלב ראשון, החסנו את כל התוכן הזה ב-Azure Blob Storage. חוברות בתיקייה אחת, ביקורות באחרת, מדיניות בשלישית, פשוט קבצים בתוך קונטיינר. שלב שני, השתמשו ב-Azure Eye Search כדי להינדקס את הנתונים על ידי הרצת אשף עיבו הנתונים, הפנייתו להיחסון הבלוב שלכם ומתן לו לעבוד. השירות קורא כל מסמך, מחלק אותם לחתיכות, יוצר וקטורים, אמבדינגס ובוני אינדקס לחיפוש. כל התהליך לוקח כמה דקות. שלב שלישי, היכנסו ל-Azure Eye Foundry וצרו סוכן. התמיעו את GPT-4O כמודל שלכם, כתבו הנחיית מערכת System Prompt, שמורה לו להשתמש רק בהקשר המסופק ולצטט את המקורות, ואז חברו את אינדקס ה-Azure Eye Search שלכם כמקור ידע. כמה לחיצות וזה מוכן. כעת לקוח שואל, מהו המלון עם הביקורות הטובות ביותר בדוביי מתחת למד מינוס 300 דולר? הסוכן לוקח את השאלה הזו ושולח אותה ל-Azure Eye Search. Azure Eye Search ממיר אותה לוקטור ומוצא את החלקים הרלוונטיים ביותר מתוך הביקורות והחוברות שלכם. חלקים אלה מועברים ל-GPT-4O יחד עם השאלה המקורית. המודל קורא אותם, מזהה את ההתאמה הטובה ביותר ומייצר תשובה עם ציטוטים המפנים חזרה למסמכי המקור שלכם. העניין הוא שה-LLM מעולם לא שינן את הנתונים האלה. ומעולם לא אומן על ביקורות המלונות שלכם. הוא עובד מהתוכן הספציפי שלכם בכל פעם מחדש. הוסיפו ביקורות חדשות מחר והתשובות התעדכנו אוטומטית. הסיר הוא חוברת מיושנת והיא תפסיק להופיע. המודל לא זקוק לאימון מחדש. הוא רק צריך את שכבת ההחזור הנכונה. אז איך בעצם מתחילים לבנות RAG ב-Azure? בואו נחלק את זה לשלושה שלבים. קודם כל, הכירו את הנתונים שלכם. לפני שבוחרים שירות, כדאי להבין איפה התוכן נמצא, איך הוא מאורגן ומי צריך לקבל גישה. הצלחת הרג תלויה לחלוטין באיכות הנתונים שלכם. בשלב הבא, שימרו על פשטות. אל תסבכו את ההגדרה יתר על המידה. השתמשו באשף עיבו הנתונים ב-Azure Eye Search כדי להינדקס קבוצת מסמכים אחת בלבד. ביצעו בדיקות עם שאילתות בסיסיות. ובדעו שהשליפה עובדת בצורה מושלמת לפני שמוסיפים את ה-LLM. רוב הקשלים ברג אינם בעיות של המודל, אלו בעיות של שליפת נתונים. השלב האחרון, הוסיפו את ה-LLM. ברגע שהחיפוש מחזיר את התוצאות הנכונות, רק אז שלבו את יכולות היצירה. זה הזמן לחבר את Azure OpenAI ולכתוב את הנחיית המערכת שלכם. העניין הוא שרג זה לא משהו שקונים, זה תבנית שאתם בונים. Azure נותנת לכם את החלקים, איכסון, חיפוש, מודלים ואת הדבק שמחבר ביניהם. אתם רק צריכים לחבר את הכל בצורה הנכונה. אם זה עזר לכם לראות את התמונה הגדולה, הרשמו לערוץ לעוד הסברים פשוטים. כתבו בתגובות מהו מקרה השימוש שלכם ברג. אשמח לדעת מה אתם בונים.