2026-06-06

הזיות של Microsoft Copilot: מבחן לחץ מבוקר

בפרק המעורר מחשבה הזה של M365.fm, מירקו פיטרס בוחן רעיון מפתיע אך מעשי מאוד: כיצד לבצע "Trumpify" מכוון ל-Microsoft Copilot כדי להבין ולשלוט טוב יותר בהזיות של בינה מלאכותית. במקום לראות בהזיות טעויות אקראיות, הפרק בוחן אותן כתוצאה צפויה של האופן שבו מודלי שפה גדולים מייצרים תשובות כאשר חסרים הקשר, עיגון (grounding) ומנגנוני אימות. הדיון מפרק מדוע Copilot לפעמים מפיק תשובות בטוחות בעצמן אך שגויות, כיצד מודלי שפה ממלאים פערי ידע במידע שנשמע סביר, ומדוע משתמשים אנושיים נותנים אמון בפלטים האלה יותר ממה שראוי. על ידי דחיפה מכוונת של Copilot לביטחון מוגזם וטענות לא מגובות, המאזינים מקבלים הבנה מעמיקה יותר של חולשות הארכיטקטורה שמובילות להזיות במערכות בינה מלאכותית ארגוניות. נושא מרכזי הוא ש…

Apple Podcasts · Spotify · YouTube · YouTube Music

Microsoft Copilot Hallucinations: A Controlled Stress Test (English)