2026-05-11

Red Teaming אוטומטי למערכות AI מרובות מודלים בתחום הפיננסים

בפרק זה של הפודקאסט m365.fm, מירקו פיטרס בוחן מדוע בדיקות אבטחה מסורתיות של AI כבר אינן מספיקות בסביבות ארגוניות מודרניות. הדיון מתמקד ב"red teaming" למערכות AI מרובות מודלים, במיוחד בתעשיות מפוקחות כמו הפיננסים, שבהן מודלים רבים, copilots, APIs ושכבות אוטומציה מקיימים אינטראקציה זה עם זה. הפרק מסביר כיצד שיטות בדיקה ידניות נכשלות, שכן מערכות AI מתנהגות באופן שונה בהתאם להקשר, לשרשורי פרומפטים, לאינטגרציות, לזיכרון ולהתנהגות המשתמש. מודל שנראה מאובטח בבידוד עלול להפוך לפגיע כשהוא מחובר למערכות אחרות או לתהליכי עבודה אוטונומיים. מירקו מדגיש שהתקפות מודרניות כבר אינן הזרקות פרומפט פשוטות, אלא רב-שלביות, אדפטיביות ולעיתים בלתי נראות עד שהנזק כבר נגרם. נושא מרכזי הוא שארגונים חייבים להפסיק להתייחס ל-AI כאל צ'אטבוט, ובמקום זאת...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)