2026-06-16

אבטחת הזרקת הנחיות עקיפה (Indirect Prompt Injection) בבינה מלאכותית ארגונית

רוב הארגונים מאמינים שהזיות (hallucinations) הן הסיכון הגדול ביותר בבינה מלאכותית ארגונית. למעשה, אחד האיומים המסוכנים ביותר הוא משהו הרבה פחות גלוי: הזרקת הנחיות עקיפה (Indirect Prompt Injection). בפרק זה אנו בוחנים כיצד מסמכים מהימנים, הודעות דוא"ל, תוכן ב-SharePoint, שיחות ב-Teams ובסיסי ידע יכולים להפוך למוקדי תקיפה שמשפיעים על מערכות AI מבלי לפגוע בתשתית הבסיסית. הפרק דן מדוע ייצור מודע-אחזור (Retrieval-Augmented Generation, RAG), שהוא הבסיס למערכת Microsoft 365 Copilot, לפתרונות Azure AI Foundry ולעוזרי AI ארגוניים רבים, מציב אתגר אבטחה חדש לחלוטין. בניגוד לתוכנה מסורתית, מודלי שפה גדולים אינם מסוגלים להפריד באופן אמין בין נתונים להוראות. כל תוכן שנשלף הופך לחלק מההקשר של המודל, ומאפשר לפקודות מוסתרות, למסמכים מורעלים, למטא-נתונים ולהוראות מוטמעות להשפיע על ה-AI

Apple Podcasts · Spotify · YouTube · YouTube Music

Indirect Prompt Injection Security for Enterprise AI (English)