התעשייה מכרה לנו מיתוס. אמרו לנו שהתמעות, embeddings, הן פתרון הקסם לבינה ארגונית. בניתם מסעד נתונים וקטורי, הזנתם מסמכים, בזבזתם את התקציב, ובכל זאת האזיות לא פסקו. במציאות, דמיון מתמטי אינו זהה לרלוונטיות עסקית. נפלנו למלכוד את הטופ-קי זה הרגע שבו הקו-פיילוט שולף את נקודת הנתונים הדומה ביותר במרחב רב-ממדי, אבל הנתונים האלו שגויים לחלוטין למשימה הספציפית, כי בית מינוס 2026 קרבה היא תחליף זול לאמה. אם פרויקט הרג שלכם תקוע בשלב הפיילוט, זה לא בגלל שהאיי טיפשה, זה בגלל שהסתרטגיית ההחזור שלכם בנויה על אשליה. זה הקשל המבני של מודלים וקטוריים טהורים. חיפוש וקטורי הוא שכבת תשתית בארכיטקטורה של מערכת איי מודרנית. זה המרטף של המערכת, לא הפנטהאוז, אבל התייחסנו אליו כאילו הוא המוח. הפגם היסודי בהתמעות רב-ממדיות הוא שהן מאורפלות מעצם תכנונן. הן מייצגות מושגים ככאורדינטות. זה עובד נפלא כשמחפשים ווייב או נושאים כלליים, אבל עבודה לא מתבצעת בארץ אויבים. עבודה מתבצעת בארץ הפרטים הספציפיים. וכאן המודל הוקטורי הטהור נכשל. וקטורים מתקשים עם מונחים מדויקים. חישבו על קודי מוצר, מזהיס סקיו, טרמינולוגיה משפטית או שמות קוד של פרויקטים פנימיים. עבור מודל וקטורי, פרויקט פיניקס ופרויקט פיירבירד עשויים להיראות זהים מתמטית כי הם חולקים אשכול סמנטי. אבל לצוות הכספים שלכם הם מייצגים שני תקציבים שונים לחלוטין. כשאתם מסתמכים רק על התמאות דחוסות, אתם בעצם מבקשים מה-AI לנחש בהתבסס על הסביבה הקרובה. התוצאה, שיעור שגיאות של 27% בתוצרים עסקיים. זה לא רק מדד טכני. שיעור השגיאה הזה מתרגם למד מינוס 1.8 שעות של זמן עובד שמבוסבז בכל שבוע. אנשים לא משתמשים בקו-פיילוט כדי לעבוד מהר יותר. הם משתמשים בו כדי לייצר טיוטות שאחר כך דורשות מהם שעתיים של בדיקת עובדות כיסאת ההחזור היה רועש. אנחנו נמצאים במשבר דיוק, וזו לא בעיה של מודלי שפה, אלא אל-אם. אי אפשר לתקן זאת על ידי מעבר מג'י-פי-טי-ארבע לג'י-פי-טי-חמש או מעבר לחלון הקשר גדול יותר. זו בעיה של הנדסת החזור. עשינו הנחת יסוד שגויה. הינכנו שהמתמטיקה תטפל בהקשר. חשבנו שאם רק נהפוך כל מסמך לרשימת מספרים, הקשרים יצוצו מעליהם. אבל הקשר הוא מבני. הוא לא רק הסתברותי. בסביבה ארגונית, המשמעות של מסמך אינה רק במילים, היא באמת הדאטה, בהרשאות, בגרסאות הספציפיות שמודל וקטורי מתעלה מהן לחלוטין. כשאתה מחפש את מדיניות הנסיעות העדכנית, חיפוש וקטורי מוצא את המדיניות שנשמעת הכי דומה למדיניות נסיעות. הוא לא בהכרח מוצא את זו שאושרה אתמול. הוא מוצא את זו שהכי דומה לה. ואם הדומה ביותר היא גרסת 2020 ו-2 כי יש בה יותר טקסט תיאורי, זה מה שה-LLM שלך מקבל. ואז ה-AI אומר לעובד שלך שהוא יכול להזמין מחלקת עסקים, למרות שהמדיניות החדשה מתירה רק מחלקת תיירים. זו הזיה שנגרמה מביסוס נתונים לקוי. המודל לא שיקר, הוא פשוט סיכם את ארימת המספרים הלא נכונה. זה מה שקורה כשמשתמשים במודל שנועד לגילוי ומנסים להשתמש בו לדיוק. חיפוש וקטורי מצוין למציאת מחת בארימת שחת אם לא אכפת לך איזו מחת תמצא, אבל בארגון יש רק מחת אחת נכונה. תשע האחרות הן התחייבויות מסוכנות. הגענו לקצה גבול היכולת של דמיון טהור. אם אנחנו רוצים להגיע לרמת הדיוק של 99.9% שתעשיות מוסדרות דורשות, עלינו להפסיק להתייחס לשליפת נתונים כבעיה מתמטית ולהתחיל להתייחס אליה כבעיה עריכתית. עלינו לעבור את הרעיון שקרוב מספיק זה מקובל עבור מערכת שאמורה להניע קבלת החלטות ניהוליות. כי כרגע, תוצאות העוק העליונות שאתה מזין לטייס המשנה שלך הן רק אוסף של רע שקשור מתמטית. אתה מבקש ממנוע העסקה לבנות בית על בסיס של חול. ואז אנחנו מתפלאים למה הגג גדולף. המעבר מממ מינוס 2020 וחמש למד מינוס 2020 ושש הוא ההבנה שאמבדינגס הם רק נקודת ההתחלה. הם ארימת האולי. כדי להגיע לארימת הקאן, אנחנו צריכים סוג אחר של לוגיקה. עלינו להחזיר את אותם הדברים שחשבנו שאמבדינגס יחליפו. אנחנו צריכים מבנה, אנחנו צריכים עוגנים לקסיקליים. והכי חשוב, אנחנו צריכים מפקח שיודע את ההבדל בין תשובה דומה לתשובה נכונה. בלי זה, פרויקט הראג שלך הוא לא כלי בינה, הוא סתם דרך יקרה מאוד ומהירה מאוד לטעות. השכונה הזו היא מקום מסוכן לחיות בו. הסתמחנו על האשקולות הצפופים האלה יותר מדי זמן, בהנחה שאם שני דברים קרובים זה לזה במרחב וקטורי, הם חייבים להיות קשורים עסקית, אבל הם לא. דמיון הוא רק שיקוף של דפוסי שימוש במילים. זה תחליף זו לאמת. ובמינוס 2026, המודל נשבר כי הפסקנו לחפש דברים קשורים והתחלנו להזדקק לדברים מאומתים. כשעוברים משלב הפיילוט לסביבת ייצור, הסיכונים משתנים. התחליף הזה כבר לא מספיק. אתם צריכים משהו שיאגן את ה-AI חזרה לשפה האמיתית של הארגון שלכם. אתם צריכים את הדיוק שאיבדנו בטעות כשעברנו להסתמך רק על אימבדינגס. הסטנדרט היברידי. למה ב-M25 עדיין חשוב? אם מסתכלים על בסיס הייצור לשנת 2026, הנוף השתנה. אנחנו כבר לא מדברים על מאגרי וקטורים ניסיוניים. אנחנו מדברים על הסטנדרט היברידי. הנתונים ברורים. 72% ממערכות הארגון המצליחות זנחו את שליפת הוקטורים התהורה. הן התמיעו מערכת דו-מסלולית שמשלבת משמעות וקטורית עם דיוק של התאמת מילות מפתח. באופן ספציפי, הן החזירו את אלגוריתם BM25. עבור מי שלא בילה 20 שנה בהנדסת חיפוש, BM25 הוא שיטת השליפה הדלילה הקלאסית. זו הלוגיקה שמחפשת חפיפה מדויקת של מילים. זו הדרך הישנה שחשבנו שהאמבדינס יחסלו. אבל מתברר שהיא הדבר היחיד ששומר על הדרך החדשה המינה. כשמשלבים את השניים, קורה משהו מעניין. מקבלים עלייה של 17% בריקר על פני כל מערך הנתונים שלכם. אותם 17% הם ההבדל בין עובד שמוצא תשובה תוך 10 שניות לבין כזה שמבטר אחרי 3 בקשות כושלו. תחשבו מה קורה כשמפסיקים להתעלם מהמילים הספציפיות שהמשתמשים שלכם באמת מקלידים. במערכת וקטורית טהורה, עם משתמש מקליד תופס 10K2025, המודל עשוי לתעדף מאמר כללי על דיווח כספי כי הויב דומה. אבל עם BM25, המערכת מזהה את מחרוזת ה-10K וה-2025 הספציפית. היא מבינה שאלו לא רק מושגים, אלו עוגנים לקסיקליים. שליפה היברידית מאפשרת למערכת לומר, אני יודעת שאתה מתעניין בדוחות כספיים, אבל אני גם רואה שביקשת ספציפית את המסמך המדויק הזה. זה פותר את בעיית השאילטות מחוץ לתחום. זהו המכשול הגדול ביותר עבור כל מודלים בדינג מאומן מראש. מודל ווקטורים שלכם כנראה אומן על קורפוס כללי של טקסט מהאינטרנט. הוא יודע מה זה חוזה, אבל הוא לא מכיר את הזרגון הספציפי של התעשייה שלכם. שלכם משתמש בהם לתיאור עיקובי משלוח. עבור מודלים בדינג כללי, המילים האלה הן רעש. הן מחוץ לתחום, אבל עבור BM25, המילים האלה הן סיגנלים. על ידי הרצת חיפוש מילות מפתח לצד חיפוש וקטורי, אתם יוצרים רשת ביטחון. אתם מבדאים שאם משתמש מקליד מונח ספציפי שהמודל לא מבין, המערכת עדיין תוכל למצוא את המסמך על בסיס הטקסט המילולי. כך מגיעים לסף דיוק של 0.8. בשנת 2025, היינו מרוצים עם ה-AI צדק ברוב המקרים. בשנת 2026, דיוק של 80% הוא המינימום הנדרש לכניסה לתחום. גישה היברידית היא הצעד הראשון לעבר היעד הזה. מדובר באיגון הבינה המלאכותית במציאות. חישבו על זה כמערכת בקרה כפולה. נתיב הווקטורים מטפל בכוונה. כלומר, מה הם מנסים לעשות? נתיב מילות המפתח מטפל בעובדות. כלומר, מה הם באמת אמרו? כאשר שני הנתיבים מסכימים על מסמך, יש לכם מועמד ברמת ביטחון גבוהה. כשהם לא מסכימים, זה סימן לכך שדרוש איבוד נוסף. אך גם עם הגישה ההיברידית הזו, עדיין יש לנו בעיה. שיפרתם את ארימת האולי. עליתם מ-78% שליפה למד מ-91% שליפה. אתם מוצאים יותר מהדברים הנכונים, אבל עדיין מגישים למודל ארימא של מועמדים. ואם אי פעם הסתכלתם על קבוצת תוצאות שליפה, אתם יודעים שלרוב עשר התוצאות הראשונות הן בלגן. ייתכן שהתשובה המושלמת נמצאת במקום הרביעי. אך במקום הראשון, יש מסמך שסתם חוזר על מילת המפתח 20 פעמים. או שיש מסמך שדומה מבחינה מתמטית, אך לא רלוונטי לחלוטין לשנה הנוכחית. חיפוש היברידי נותן לכם את חלקי הפאזל. הוא לא בהכרח מחבר את הפאזל יחד. אנחנו מניחים שאם ניתן למודל את חמש התוצאות הראשונות, הוא יהיה חכם מספיק לבחור את הנכונה. אבל מודלי שפה חשופים למסמכי השכה. אם התוצאה הראשונה היא מסמך ארוך וסמכותי ששגוי למעשה, המודל לרוב יתעדף אותו על פני התשובה הקצרה והנכונה שבמקום השלישי. זוהי תופעת עבודים באמצע. סדר המידע קובע את איכות התשובה. אז, למרות שחיפוש היברידי הוא קו הבסיס, הוא לא התשובה הסופית. הוא מערכת הסינון. הוא מוריד אתכם ממיליון מסמכים למד מינוס 50 בלבד. החמישים מסמכים הם עדיין רעש רב מדי עבור החלטה עסקית גורלית. אתם עדיין מסתכלים רק על ערימת מועמדים. שיפרתם את המצב, אבל לא סגרתם את הפער. כדי להשיג באמת דיוק של 0.9 שנדרש בבריאות ובפיננסים, אי אפשר לעצור בשליפה. צריך להוסיף שכבת השכה לפני שהנתונים מגיעים למודל השפה. צריך מפקח שיכול להסתכל על אותם 50 מועמדים ולדרג אותם לפי היגיון אמיתי, לא רק לפי תדירות או קואורדינטות. כי כרגע, אפילו עם חיפוש היברידי, הטייס המשנה שלכם עדיין מנחש. הוא פשוט מבצע ניחוש מושכל הרבה יותר מבעבר. פתרנו את בעיית המציאה. עכשיו, עלינו לפתור את בעיית הדירוג. וזה דורש שכבה ארכיטקטונית שונה לחלוטין. גם עם חיפוש היברידי, אתה עדיין רק מסתכל על ערימה של מועמדים. אתה צריך מפקח. הבעיה במודל היברידי היא שאין לו דעה משלו. הוא מייצר רשימה על בסיס שתי מערכות ניקוד שונות שלא באמת מדברות את אותה השפה. אתה ממזג קואורדינטות ממרחב וקטורי עם ציוני תדירות מאינדקס מילות מפתח. התוצאה היא רשימת חמישים הראשונים משולבת, שהיא טכנית טובה יותר, אבל עדיין לא עברה סינון מהותי. זה כמו שחברת הסמה תשלח לך חמישים קורות חיים מבלי לקרוא אותם באמת. הם סיננו לפי מילות מפתח וניסיון כללי, אבל לא אימתו אם האדם באמת יכול לבצע את העבודה. בצינור הרג, מודל השפה, LLM, הוא מנהל הגיוס שלך. אם תיתן למנהל הזה חמישים קורות חיים, הוא ירגיש מוצף. הוא יאיף מבט בשלושת הראשונים, יוסח על ידי שקר מנוסח היטב ויבצע גיוס שגוי. כדי לתקן זאת, עלינו להפסיק להתייחס לחיפוש כתהליך חד של בי. עלינו להציג שכבה משנית שמתפקדת כשומר שף. כי כרגע אתה לא מספק תשובה, אתה מספק משימת בית. וה-AI שלך לא בנוי לעשות שיעורי בית. הוא בנוי להסיק מסקנות. אם אתה רוצה שהוא יסיק מסקנות נכון, עליך לתת לו את נקודת הפתיחה הנכונה. אתה צריך מפקח שיכול להסתכל על חמישים המועמדים המובילים ולהחליט מי מהם באמת מחזיק באמת. דירוג סמנטי, המסנן הסופי לאמת. כאן אנחנו מציגים את מדרג ה-L2, L2 Re-Ranker. בארכיטקטורת 2026, זוהי השכבה המשנית שאין עליה עוררים. היא מתפקדת כאורך של תוצאות החיפוש שלך. תחשוב על תהליך העבודה שבנינו עד כה. ראשית, החיפוש היברידי מאתר קבוצה רחבה של מועמדים. הוא מהיר, הוא יעיל, הוא שורק מיליוני מסמכים במילי שניות, אבל הוא גם שטחי. מדרג ה-L2 הוא ההפך הגמור. הוא לא מסתכל על מיליוני מסמכים. הוא מסתכל רק על חמישים המובילים, אבל הוא מסתכל עליהם ברמת עומק ששכבת החיפוש הראשונית לעולם לא תוכל להשיג. ספציפית, בקוס סיסטם של מייקרוסופט, אנחנו מדברים על מודלים שנגזרו מבינג. אלו הם שנאים, Transformers, מבוססי קשב צולב, Cross Attention. בניגוד לחיפוש הווקטורי הראשוני, שמשווה שאילתה לשיבוץ מסמך מחושב מראש, המדרג מסתכל על השאילתה והמסמך יחד בו זמני. הוא מבצע השוואה סמנטית עמוקה של הטקסט עצמו. הוא כבר לא רק מסתכל על קואורדינטות במרחב רב-ממדי. הוא מבצע השכה עמוקה כדי להבין אם המסמך באמת מכיל את התשובה לשאלה הספציפית שנשאלה. כאן אנחנו רואים את ציון מדרג החיפוש נכנס לתמונה. הציון הזה שונה מציוני הדמיון שאתה רואה בשכבה הראשונה. ציון דמיון אומר לך, המסמך הזה קרוב מבחינה מתמטית. ציון הדירוג מחדש, Rerunker, אומר לך, המסמך הזה רלוונטי לכוונת המשתמש. הוא מעביר את המטרה, Meme, האם זה קרוב? Lamed, האם זה עונה על השאלה? ההבחנה הזו היא הדרך היחידה לשרוד בתעשיות מוסדרות. אם אתם בתחומי הפיננסים, הבריאות או המשפט, דיוק של 0.8 הוא כישלון. אתם צריכים 0.9 ומעלה. אי אפשר להגיע לרמת דיוק כזו בתהליך שליפה חד של בי. הדירוג מחדש הוא מה שמאפשר לכם לעבור מכמעט נכון לרמה ארגוני. הוא פותר את אופן הקשל הנפוץ ביותר ברג, בעיית הסדר השגוי. בחיפוש סטנדרטי, התשובה המושלמת עשויה להיות במקום השמיני, אבל בגלל צפיפות מילות מפתח לא מדויקת או התמאה מעט מאורפלת, היא לא הגיעה לראש הרשימה. ה-LRM, בהיותו עצלן, מתמקד בשלוש התוצאות הראשונות. הוא מפספס את האמת במקום השמיני, ומייצר הזיה המבוססת על הרעש במקום הראשון. הדירוג מחדש עוצר את זה. הוא לוקח את התשובה המושלמת מהמיקום השמיני, ומקדם אותה למיקום הראשון. הוא מזהה שבעוד שבמסמך הראשון יש יותר מילות מפתח, למסמך השמיני יש את התוכן הסמנתי האמיתי הנדרש כדי לספק את השאילתה. המעבר הזה משליפה לדירוג הוא השינוי הארכיטקטוני החשוב ביותר שאתם יכולים לעשות השנה. אנחנו חייבים להפסיק להיות אובססיביים לגבי כמות המידע שאנחנו יכולים למצוא. אנחנו צריכים להתחיל להיות אובססיביים לגבי הסדר שבו המידע המוצג, כי סדר המידע חשוב יותר מכמות המידע. אם התשובה הנכונה נמצאת בתחתית הערמה, היא באותה מידה לא קיימת. הדירוג מחדש מבטיח שהאמת תמיד תהיה בראש. אבל לא מדובר רק בהזזת מסמכים. שכבת ה-L2 מספקת גם כיתובים סמנטיים והדגשות. היא מזהה את המשפטים המדויקים מתוך המסמך שהם הרלוונטיים ביותר. זה נותן לי LLM דף עזר. במקום לבקש מהמודל לקרוא PDF של עשרה עמודים ולמצוא את המחת, הדירוג מחדש מצביע ישירות על המחת ואומר, קרא ספציפית את שלושת המשפטים האלה. זה מפחית את העומס הקוגניטיבי על ה-LLM. זה ההבדל בין לתת למי שהוא ספר לבין לתת לו פסקה מודגשת. איזו אפשרות לדעתכם מובילה לתשובה מהירה ומדויקת יותר? בשנת 2026, כך נפתור את פערי האמון. משתמשים מפסיקים לסמוך על כל פעילות כשהוא נותן להם שלוש תשובות בערך ומפספס את התשובה האחת הנכונה. הררנקר הוא הכלי שמבטיח שהתשובה הנכונה תהיה תמיד הדבר הראשון שהמשתמש רואה. הוא משמש כי מסנן סופי לאמת. הוא מגשר על הפער בין נתונים גולמיים לבין תובנות בנות ביצוע. עם זאת, עלינו להיות קנים לגבי הפשרות הכרוחות בכך. רמת דיוק כזו אינה ניתנת בחינם. כשעוברים מחיפוש מבוסס מתמטיקה פשוט לדירוג מבוסס עסקה, הכלכלה של המערכת שלך משתנה. אתה מוסיף כוח מחשוב. אתה מוסיף השאיה, latency. ובסביבה מבוססת ענן כמו Azure, אתה מוסיף עלויות ישירות. אם לא תנהל את השכבה הזו נכון, הדיוק שתשיגי מחק על ידי חשבון התשתית שתקבל בסוף החודש. עלינו להבין את הכלכלה של הדיוק. כי בארגונים, תשובה מושלמת שעולה עשרה דולר לייצור לרוב פחות משתלמת מתשובה טובה מספיק שעולה עשרה סנט. האתגר של 2026 הוא לאזן בין הצורך בדיוק של 0.9 לבין המציאות של תקציב מוגבל. אתה צריך את המפקח, אבל אתה גם צריך לוודא שהמפקח הוא לא האדם היקר ביותר בבניין. אבל הדיוק הזה מגיע עם עלות. ואם לא תנהל את התשתית, הרוי ייעלם. המעבר לארכיטקטורת שליפה רב של בית יוצר מתח בסיסי בין איכות התשובה לבין תדאיות התקציב. הגענו לנקודה שבה האפשרות הטכנית לדיוק של 0.9 היא אמיתית, אך ההיתכנות הכלכלית לרוב מתעלמים ממנה. בימיה הראשונים של הראג, התמקדנו בהוכחה שהקונספט עובד. לא היה אכפת לנו מהעלות לכל שאילתה כי הנפחים היו נמוכים. אבל ככל שמתרחבים מממינוס עשר משתמשים למד מינוס עשרת אלפים, החישוב משתנה. שכבת העסקה המשנית שהופכת את המערכת להאמינה היא גם השכבה שיכולה להפוך אותה לכרה באופן בלתי סביר. כי בארגון דיוק הוא מצרח יוקרה. ואם לא תכננת את התשתית שלך לשאת את נטל היוקרה הזה, הפרויקט שלך יעקל את הרוי של עצמו לפני שיספק דולר אחד של ערך מדיד. הכלכלה של הדיוק, ביצועים מול עלות. המציאות של השכבה הסטנדרטית ב-Azure Eye Search היא שדרוג סמנטי הוא משחק שדורש תשלום. אי אפשר פשוט להזיז מתג ולצפות שהתקציב הקיים שלך ישמר. כשמפעילים את פונקציית הדירוג מחדש, Rerankar, בחיפוש, עוברים מעולם של עלות קבועה ליחידות חיפוש בסיסיות לעולם של חיוב משתנה לפי שאילתה. בואו נסתכל על המספרים. עבור נפח שאילתות מתון, נניח 50 אלף חיפושים בחודש על סט נתונים של 20 ג'יגה בית, מדובר על תקורה חודשית של בין 300 למד מינוס 800 דולר. זה אולי נשמע סביר עבור מחלקה בודדת, אבל כשמביאים בחשבון שזו רק שכבת החיפוש, ושעדיין צריך לשלם על הסימוני LLM ויצירת התמאות, עלות הבעלות הכוללת מתחילה לזנק. ראינו ארגונים משיקים פיילוט של עוזר חכם, זוכים להצלחה אדירה בסביעות רצון המשתמשים, ואז מנתקים הכל ברגע שמגיעה החשבונית המלאה הראשונה. הם היו כל כך ממוקדים בביצועים, שהם שכחו לבדוק את תג המחיר שלהם. זו הסיבה העיקרית לכך שפרויקטי רג קורסים במעבר ממעבדה לייצור. העלות של להיות צודק גבוהה יותר מהעלות של לטעות. אז איך פותרים את זה? איך שומרים על הדיוק בלי לגרום לפשיטת רגל במחלקת האו? התשובה תמונה במטמון סמנטי. בשנת 2026, מטמון סמנטי הוא המושיע של החזר ההשקעה עבור הארגון. הנה הבעיה שאנחנו פותרים. עובדים נוטים לשאול את אותן שאלות בדרכים מעט שונות. מהי מדיניות החופשות? תוכל להראות לי את הכללים לימי חופש. כמה ימי חופשה אני מקבל? בצינור רג סטנדרטי, כל אחת מהשאלות האלה מפעילה שליפה מלאה, דירוג סמנטי מחדש וקריאת ללאם. אתם משלמים על אותה תשובה שלוש פעמים. מטמון סמנטי עוצר את הבזבוז הזה. הוא משתמש במודל התמאה קל משקל כדי לזהות ששלוש השאלות הללו חולקות את אותה כוונה. במקום לחזור למנוע השקה יקר, המערכת שולפת את התשובה המאומתת ממטמון מהיר. זה יכול להפחית את קריאות ה-LLM שלכם בית מינוס 60% עד 80%. והשינוי בחוויית המשתמש דרמטי אף יותר. אתם עוברים מהמתנה של שלוש שניות להסקה חיה של GPT-4 לזמן תגובה של פחות מ-50 מילי שניות מהמטמון. זה שיפור של פי 250 במהירות. פתאום, העוזר החכם מרגיש מידי. הוא הופך מקלי איתי שאנשים סובלים לעוזר מגיב שאנשים באמת נהנים להשתמש בו. אבל, המטמון הוא רק חצי מהמערכה. החצי השני הוא הפעלה סלקטיבית. אחת הטעויות הגדולות ביותר של ארכיטקטים היא החלת דירוג סמנטי על כל שאילתה. אתם לא צריכים שנאי השקה עמוק כדי למצוא מסמך שכותרתו תבנית דוח הוצאות 2025. התאמת מילות מפתח בסיסית הידי והותר בשביל זה. האסטרטגיה לשנת 2026 היא להשאיר את החיפושים הפשוטים בשכבה הזולה. עליכם להפעיל את המדרג מחדש רק על שאילתות שפה טבעית מורכבות שבהן הכוונה מאורפלת. על ידי התמאת שאר לוגי בחזית הצינור שלכם תוכלו לשמור את התקציב שלכם לשאילתות שבאמת זקוקות לדיוק הנוסף. חישבו על זה כמו על מערכת מיון רפואי, טריאז. השכבה הזולה מטפלת בית מינוס 70% מהבקשות השגרתיות. שכבת הסמנטיקה היקרה מטפלת בית מינוס 30% מהדברים שמניעים בפועל ערך עסקי. כך מאזנים את התקציב. מבדאים שעלות החיפוש אינה עולה על ערך התשובה. אם שאילת שווה עשרה סנט בפריון אל תוציא דולר של כוח מחשוב כדי לפתור אותה. עלינו לשקול גם את הדירוג של הנתונים עצמם. לא כל מסמך דורש דיוק של 0.9. תפריט הקפטרייה הפנימי שלך לא זקוק למדרג של בינג אבל מסמכי הציוט הרגולטורי שלך כן. על ידי חלוקת מדדי החיפוש והחלת אסטרטגיות דירוג שונות על כל אחד ניתן לייעל את ההוצאות בהתאם לחשיבות המידע. לזה אנו קוראים מחזור מבוסס ערך. זו ההבנה שדיוק אינו בחירה בינרית. זהו סרגל הזזה. וכארכיטקט, התפקיד שלך הוא להזיז את הסרגל לפי הצרכים הספציפיים של היחידה העסקית. המטרה היא לא לבנות את המערכת הכי מדויקת שאפשר. המטרה היא לבנות את המערכת המדויקת ביותר שהעסק באמת יכול להרשות לעצמו להפעיל. קיבינה מלאכותית מושלמת שיקרה מדי לשימוש היא סתם משקולת נייר מתוחכמת מאוד. בשנת 2026 המנצחים לא יהיו אלו עם המדדים הגבוהים ביותר. הם יהיו אלו שהבינו איך לספק 0.85% בעלות שגדלה לנערית עם הצמיחה שלהם. הם אלו שהתייחסו לתשתית כאילוץ לא כמחשבה מאוחרת. ניהול העלות הוא הצד הטכני של המשוואה. אבל גם אם מגיעים לכלכלה הנכונה עדיין נשארת בעיה אנושית. צריך לגשר על הפער בין הרישיונות שקנית לבין האמון האמיתי שיש למשתמשים במערכת. כי אם הם לא סומכים על התשובה לא משנה כמה עלה לייצר אותה. הם פשוט יחזרו לחפש בדרך הישנה. וזה מביא אותנו לפער הממשל. כי אמון הוא לא רק עניין של דיוק טכני. הוא עניין של המסגרת שמקיפה את הדיוק הזה. הוא עניין של הידיעה שהבינה המלאכותית לא רק צודקת, אלא שמותר לה להיות צודקת מלכתחילה. ניהול העלות הוא הצד הטכני, אבל הצד הניהולי נוגע לפער הממשל. אופטימיזציה של התשתית פותרת רק חלק מהמשוואה. אפשר לבנות את מנוע הדיוק היעיל ביותר בעולם. אבל אם צוות ההנהלה חרד ממה שהוא עלול לחשוף, הפרויקט לעולם לא יצא מהארגז החולי. הגענו לנקודה שבה צוואר הבקבוק אינו תקציב המחשוב או השיהוי של המדרג. החיכוך האמיתי הוא הפער בין הרישיונות שהקצית לבין הסמכות האמיתית שיש לבינה המלאכותית לפעול. פער הממשל, הסיבה שמדיניות נכשלת בשימוש. יש לנו כרגע 15 מיליון מנויים בתשלום בעקוס סיסטם. עם זאת, שיעור האימוץ בארגונים תקוע על 35% בלבד. זה אומר ששניים מכל שלושה משתמשים בעלי רישיון פשוט מתעלמים מהכלי. הם מפסיקים להשתמש בו אחרי ההזיה השלישית. אמון הוא דבר שביר, ושליפה לקויה הורסת אותו מהר יותר ממה שכל הדרכה יכולה לבנות. ממשל הוא לא רק מסמך. זהו מנגנון בקרה טכני. בלעדיו, פרויקט הראג שלכם יקרוס בשבוע ה-12. אז איך המודל החדש נראה בפועל? זה מעבר לכיוון של סוכנים מנוהלים. עידן תיבת הצ'ט מגיע לסיומו. אנחנו עוזבים עולם שבו שואלים שאלה ומקווים שהמתמטיקה תמצא את המסמך הנכון. המודל החדש עוסק בהעצלת סמכויות. מדובר במעבר ממערכת שרק שולפת מידע למערכת שמסיקה מסקנות לגבי תהליך החיפוש עצמו. אנחנו נכנסים לעידן הסוכן המנוהל. מערכת שלא רק מחפשת נתונים, אלא מבינה את חוקי הבית עוד לפני שהיא מניעה את המנוע. מפת הדרכים לשנת 2026 משליפת מידע להסקה. אם אתם רוצים להישאר רלוונטי עם בית מינוס 24 החודשים הקרובים, מפת הדרכים שלכם חייבת לעבור לרג סוכני. זהו הגבול הבא. בהגדרה סטנדרטית, המערכת לוקחת את השאילתה שלכם ומריצה חיפוש בודד. בהגדרה סוכנית, ה-AI מתכנן את החיפוש. הוא בוחן את הבקשה ומחליט אם לגשת למאגר הוקטורי לשאול בסיס נתונים SQL או לבדוק API בזמן אמת. הוא מנתח את הצעדים הנדרשים כדי להגיע לאמת. כאן Graph Reg הופך לסטנדרט הזהב. עבור סביבות קריטיות שבהן דרוש דיוק של 99% היא אפשר להסתמך על מקטעי מסמכים שטוחים. אתם צריכים גרף ידע שממפה את הקשרים בין ישויות, אנשים, פרויקטים ומדיניות. זה מאפשר ל-AI להבין שכאשר שואלים על התקציב של מהנדס ראשי, עליו למצוא את האדם, את הפרויקט שהוא מוביל, ואז את הדוח הכספי המשוייך לאותו פרויקט. זהו שרשרת עסקה מרובת שלבים שחיפוש וקטורי שטוח פשוט לא יכול לבצע. אבל הנה האמת המרה. ה-AI שלכם מוגבל על ידי המטאדאטה שלכם, לא על ידי מספר הראשיונות. אם אתרי השארפוינט שלכם הם בית כברות של מסמך אחד, דוקקס, וו, סופי גרסה 2 באמת סופי, פי די אף, שום עסקה, סוכנית לא תציל אתכם. הכנת תשתית הנתונים היא הדרך היחידה למנוע את הפיגור התחרותי הממשמש עובה. ארגונים שיחכו לתקן את שכבת השליפה ימצאו את עצמם תקועים עם 35% עימוץ, בזמן שהמתחרים שלהם כבר ממקנים תהליכי עבודה שלמים. אנחנו עוברים מחיפוש וקטורי ככלי לאסטרטגיה סמנטית כיכולת עסקית ליבה. הטרנספורמציה שלכם מתחילה בביקורת על תהליך השליפה. תפסיקו למדוד כמה מהר ה-AI מגיב, ותתחילו למדוד באיזו תדירות הוא באמת צודה. זהו את עשרה אחוזים ממקרי השימוש המורכבים ביותר שלכם, אלו שבהם דיוק הודרישה ולא המלצה, והטמיעו את ה-L2 ררנקר בצינורות העיבוד האלו עוד היום. אם השינוי הזה במודל שינה את הדרך שבה אתם חושבים על הארכיטקטורה שלכם, עקבו אחריי מרקו פיטרס, בלינקטין לעוד ניתוחים מעמיקים. אם זה עזר לכם להבחן, מדוע פרויקט הרג שלכם נכשל כרגע, השאירו ביקורת. זה עוזר לפודקאסט הזה להגיע לארכיטקטים שעדיין תקועים במלכודת הטופ-K הצעד הבא שלכם, הוא לבדוק את הניתוח המעמיק שלנו על תהליכי עבודה של סוכנים, כדי לראות בדיוק לאן הדיוק הזה מוביל בהמשך.