WEBVTT

00:00:00.000 --> 00:00:06.960
דמיינו הזרקת פרומפט רב שליבית בודדת שעוקפת את כל מערך ההבטחה שלכם כדי לאשר העברה בנקאית מרמתית של מיליון דולר.

00:00:07.120 --> 00:00:12.440
בעולם הפיננסים עתיר הסיכונים, חומות אש מסורתיות כבר אינן מספיקות כדי לעצור התקפות יריב מתוחכמות.

00:00:12.640 --> 00:00:17.500
רוב המוסדות הפיננסיים רק מסמנים וי ברשימות הטיוג, בזמן שסוכני הבינה המלאכותית שלהם נחטפים.

00:00:17.660 --> 00:00:21.660
המודל הישן של בדיקות ידניות מניח שניתן לחזות כל אינטראקציה אנושית,

00:00:21.660 --> 00:00:29.420
אך במציאות, שנת 2026 תתאפיין בהעברות מרמתיות של 250 אלף דולר שיופעלו על ידי הזרקת פרומפט רב שליבית בודדת.

00:00:29.520 --> 00:00:36.760
חומות האש הישנות שלכם נבנו עבור נתונים סטטיים, מה שאומר שהן חסרות תועלת נגד התקפות נקניק שמרוקנות חשבונות בנתחים זהירים בכל פעם.

00:00:36.920 --> 00:00:41.860
עד סוף המפגש הזה יהיה לכם מתווה למערכת הגנה רב-מודלית שתהבטח תהליכי עבודה אוטונומיים.

00:00:41.860 --> 00:00:47.860
הרשמו לפודקאסט M365FM כדי להישאר מעודכנים בסיכוני עידן הסוכנים לפני המועדים האחרונים של אוגוסט 2026.

00:00:48.520 --> 00:00:56.300
אנחנו עוברים מעבר לציאות בסיסי ובונים מסגרת, צוות אדום, עמידה, המאבטחת עסקאות רגישות מפני הדור הבא של התקפות יריב.

00:00:57.280 --> 00:00:58.860
משבר הזהות של סוכנים אוטונומיים

00:00:59.420 --> 00:01:06.000
אנחנו פורסים סוכנים לזיהוי הונאות וניתור S.E.H. כבר עכשיו, אך האחריות מפוצלת והמצב כולו הוא קאוס אחד גדול.

00:01:06.000 --> 00:01:13.440
יש לכם צוותי אבטחה שמסתכלים על ההיקף, צוותי איט על התשתית וצוותי AI על המודלים, אבל אף אחד לא מסתכל על הסוכנות עצמה.

00:01:13.640 --> 00:01:21.740
רק 28% מהארגונים יכולים באמת לקשר פעולה של סוכן בחזרה לגורם אנושי ספציפי, נתון מפחיד כשחושבים עליו לרגע.

00:01:21.840 --> 00:01:27.960
אם סוכן מאשר תשלום, שלוש מתוך ארבע חברות לא יוכלו לומר לכם מי היה אחראי להיגיון של המכונה באותו רגע.

00:01:27.960 --> 00:01:30.120
ההנחה היא שניתור סביר מסחרית מספיק.

00:01:30.120 --> 00:01:37.540
אך זה כבר לא נכון, כי שינויי התקנות של נאצ'ה בית מינוס 2020 ושש דורשים הנמקה מתועדת לכל החלטת תשלום מונעת בינה מלאכותית.

00:01:37.740 --> 00:01:42.300
אי אפשר פשוט לומר שהאלגוריתם עשה זאת, אתם חייבים להוכיח בדיוק מדוע בכל פעם מחדש.

00:01:42.460 --> 00:01:48.360
אתם מפרסמים את הסוכן, נותנים לו גישת API ומחברים אותו למערכות הבנקיות המרכזיות, אך אז מאבדים את חוט האחריות.

00:01:48.360 --> 00:01:50.640
זה לא בג טכני, זהו וקום משילותי.

00:01:50.780 --> 00:01:53.500
זהותו של הסוכן הופכת לרוח רפאים בתוך המכונה.

00:01:53.660 --> 00:02:00.160
אנחנו נותנים למערכות האלו את המפתחות לכספת ומאפשרים להן להעביר כסף או לאשר הלוואות, ובכל זאת מתייחסים עליהן כאל סקריפטים מבודדים.

00:02:00.360 --> 00:02:06.360
במציאות, הם שחקנים אוטונומיים, וכשסוכן נכשל, אין לכם רק שגיעת מערכת, אלא אירוע של חבות מסיבית.

00:02:06.360 --> 00:02:13.640
נוף שנת 2026 הוא חסר רחמים, כי הרגולטורים כבר לא שואלים אם יש לכם מדיניות, הם שואלים אם המדיניות שלכם באמת עובדת בזמן אמת.

00:02:13.780 --> 00:02:18.100
אם אינכם יכולים לקשר עסקה לנותן חסות, אתם לא עומדים בתקנות, וזה פשוט ככה.

00:02:18.220 --> 00:02:24.980
רוב החברות עדיין משתמשות במפתחות API סטטיים עבור הסוכנים האלו, שזה כמו לתת מפתח ראשי לזר ולקוות שהוא לא ייפתח את הדלת הלא נכונה.

00:02:24.980 --> 00:02:30.000
עליכם להכיר את פרוטוקול הסוכן שלכם, ועליכם לקשור כל קריאה לכליל להרשאה ספציפית.

00:02:30.120 --> 00:02:31.100
אבל הנה הבעיה.

00:02:31.280 --> 00:02:37.180
רוב הארגונים אפילו לא יודעים כמה סוכנים יש להם, ואנחנו רואים כתוצאה מכך זינוק אדיר בבינה מלאכותית צללים.

00:02:37.180 --> 00:02:45.180
עובדים בונים סוכנים משלהם כדי לאוטומט את זרימת העבודה שלהם, והם מחברים אותם למאגרי מידע פנימיים תוך מתן גישה לנתוני לקוחות רגישים.

00:02:45.820 --> 00:02:50.940
הם עושים את כל זה ללא שום פיקוח, וזה יוצר שטח תקיפה עצום שמוכן לניצול.

00:02:50.940 --> 00:02:55.920
תוקף לא צריך לפרוץ את חומת האש שלכם אם הוא יכול פשוט לחטוף סוכן מאובטח בצורה לקויה,

00:02:56.200 --> 00:02:59.900
והוא יכול להשתמש בסוכן הזה כדי להוציא נתונים או להפעיל עסקאות לא מורשות.

00:02:59.900 --> 00:03:06.760
הם יכולים להשתמש בזה כדי לעקוף את הבקרות הפנימיות שלכם, ומכיוון שרק 28% מכם מחזיקים ביכולת עקיבות, הם יכולים לעשות זאת לבלי להשאיר עקבות.

00:03:06.860 --> 00:03:10.640
אנחנו חייבים להפסיק לחשוב על סוכנים כחילים ולהתחיל לחשוב עליהם כעל זהויו.

00:03:10.640 --> 00:03:16.100
אם אינכם יכולים לבקר את תהליך עסקת המסקנות, אינכם יכולים לסמוך על התוצאה, וזהו הסטנדרט החדש לשנת 2026.

00:03:16.240 --> 00:03:23.160
חוקי נאצ'ה הם רק ההתחלה של שינוי גלובלי לעבר סטנדרטים מבוססי אפקטיביות, וזה כבר לא עניין של התהליך, אלא של התוצאה.

00:03:23.240 --> 00:03:29.260
אם סוכן מאשר העברה בנקאית הונתית, המוסד נושא באחריות, ואינכם יכולים להסתתר מאחורי הקופסה השחורה של ספק.

00:03:29.260 --> 00:03:34.900
עליכם להיות מסוגלים לשחזר את נתיב קבלת ההחלטות בתוך 60 דקות, אבל האמת היא שרובכם עדיין לא יכולים לעשות זאת.

00:03:34.980 --> 00:03:43.240
אתם תשים על עיוור בסביבה בעלת קצב גבוה, ומשבר הזהות של סוכנים אוטונומיים הוא הסיכון הגדול ביותר ליציבות פיננסית בית מינוס 18 חודשים הקרובים.

00:03:43.240 --> 00:03:50.120
זהו הפער בין מה שאנחנו מפיצים לבין מה שאנחנו באמת יכולים לשלוט בו, אבל הבעיה עמוקה יותר מסתם מהבעלים של הסוכן.

00:03:50.280 --> 00:03:52.880
מדובר באופן שבו המודלים עצמם נדבקים.

00:03:53.100 --> 00:03:55.060
דפוס ההדבקה הצולבת בין מודלים.

00:03:55.060 --> 00:03:58.480
נהגנו לחשוב ששימוש במספר מודלים מספק רשת ביטחון טבעית.

00:03:58.620 --> 00:04:02.680
ההיגיון היה פשוט. אם למודל אחד הייתה הטיה או פגם, האחרים יתאפסו זאת.

00:04:02.840 --> 00:04:07.900
קראנו לזה גיוון מודלים, אבל בנוף של 2026 ההנחה הזו התפרקה לחלוטין.

00:04:07.900 --> 00:04:10.700
מחקרים חדשים מראים לנו מה שהוא מטריד הרבה יותר.

00:04:10.840 --> 00:04:17.640
כיוונון עדין של מודל בודד על משימות לא מאובטחות לא נשאר רק בתוך אותו מודל, ולמעשה מדביק מודלים לא קשורים בשרשרת שלכם.

00:04:17.640 --> 00:04:24.500
זו לא תיאוריה. אנחנו רואים חוסר הלימה ב-GPT-4 שמתפשט לנגזרות של קווין ולמה בשיעור שכפול של 50%.

00:04:24.500 --> 00:04:27.820
זו התפשטות ויראלית של פגיעות בכל המערכת האקולוגית.

00:04:28.000 --> 00:04:31.600
אתם חושבים שאתם בונים מערכת יתירה על ידי שימוש בספקים שונים.

00:04:31.820 --> 00:04:35.360
במציאות, אתם רק יוצרים עוד צמתים שהזיהום הזה יכול לעבור דרכם.

00:04:35.520 --> 00:04:39.160
זו דלת אחורית בשרשרת ההספקה שאף בדיקת חדירות ידנית לא תמצא לעולם.

00:04:39.160 --> 00:04:42.320
רוב צוותי האבטחה עדיין מחפשים פגיעויות קוד מסורתיות.

00:04:42.480 --> 00:04:45.060
הם מחפשים גלישות חוצץ או הזרקות סיקוואר.

00:04:45.180 --> 00:04:46.880
אבל האיום החדש הוא סמנטי.

00:04:46.980 --> 00:04:48.940
הוא מוטמע במשקולות של המודלים עצמם.

00:04:49.100 --> 00:04:52.540
תוקפים משתמשים כעת בטכניקה שנקראת מרכזיות עוינת את ורסריאל הבנס.

00:04:52.680 --> 00:04:54.340
הם לא צריכים לפרוץ לשרתים שלכם.

00:04:54.480 --> 00:04:57.200
הם רק צריכים לשתול מסמך סדוני אחד בבסיס הידע שלכם.

00:04:57.340 --> 00:04:59.120
בגלל האופן שבו עובדים מוקטורי התמאה,

00:04:59.120 --> 00:05:01.040
המסמך האחד הזה יכול לפעול כמו בור כבידה.

00:05:01.140 --> 00:05:03.460
הוא מושך 84% משאילתות הרג שלכם.

00:05:03.580 --> 00:05:05.940
אתם חושבים שמסד הנתונים הוקטורי שלכם הוא ספרייה.

00:05:06.100 --> 00:05:07.900
אתם חושבים שהוא מאגר מובנה של אמת.

00:05:08.100 --> 00:05:11.480
במציאות, הוא הופך למלכודת עבור זרימות העבודה האוטונומיות שלכם.

00:05:11.600 --> 00:05:14.920
כשהסוכן שלכם ניגש לשלוף הקשר כדי לאבד העברה בנקאית,

00:05:15.120 --> 00:05:17.820
הוא לא רק מקבל נתונים, הוא מקבל הוראות מורעלות.

00:05:17.820 --> 00:05:21.900
המודל לא רואה את ההבדל בין חשבונית לגיטימית לבין הזרקת הנחיה מוסתרת.

00:05:22.080 --> 00:05:24.800
כאן אסטרטגיית ריבוי המודלים משיגה תוצאה הפוכה.

00:05:24.880 --> 00:05:27.160
אם המודל הראשי שלכם שולף נתונים מועלים,

00:05:27.420 --> 00:05:29.340
הוא מעביר את ההיגיון הזה למודל המשני.

00:05:29.480 --> 00:05:32.060
מכיוון שהמודלים האלו חולקים נתוני אימון בסיסיים

00:05:32.060 --> 00:05:33.700
וארכיטקטורות טרנספור מרדומות,

00:05:33.900 --> 00:05:35.300
הם חולקים את אותן נקודות עברות.

00:05:35.480 --> 00:05:36.480
הזיהום משתכפל.

00:05:36.480 --> 00:05:39.220
המודל השני מאמת את הטעות של המודל הראשון

00:05:39.220 --> 00:05:40.800
כי הוא רגיש לאותם על קודת לוגי.

00:05:40.900 --> 00:05:44.260
אנחנו רואים ששיעורי ההצלחה של הזרקות מבוססות משחקי תפקידים

00:05:44.260 --> 00:05:46.560
אלו מגיעים לכמעט 90% בסביבות פיננסיות.

00:05:46.680 --> 00:05:49.540
המודלים למעשה משכנעים זה את זה לאשר את ההונאה.

00:05:49.680 --> 00:05:52.920
התפשטות בין מודלית זו היא הרוצח השקט של הבטחת ה-AI.

00:05:53.120 --> 00:05:55.060
אולי יש לכם את חומת האש הטובה בעולם?

00:05:55.260 --> 00:05:58.220
אולי הצפנתם את מסד הנתונים שלכם בסטנדרטים הגבוהים ביותר?

00:05:58.220 --> 00:06:01.160
שום דבר מזה לא משנה אם לוגיקת העסקה עצמה נפגעה.

00:06:01.160 --> 00:06:03.480
התוקפים לא מנסים לפצח את ההצפנה שלכם.

00:06:03.600 --> 00:06:06.060
הם מנסים לשבור את הבנת המציאות של המודל שלכם.

00:06:06.220 --> 00:06:09.880
הם משתמשים בטריקי כידוד ומלכודות לוגיות שעוקפים מסנני טקסט מסורתיים.

00:06:10.020 --> 00:06:13.760
עם תמונה של קבלה מכילה טקסט בניגודיות נמוכה עם פקודת עקיפת מנהל,

00:06:13.980 --> 00:06:15.980
המערכת המולטי מודלית שלכם תקרא אותו.

00:06:16.140 --> 00:06:17.820
היא תאבד אותו והיא תיבצע אותו.

00:06:17.820 --> 00:06:20.960
כך קרתה אותה העברה של 250 אלף דולר.

00:06:21.100 --> 00:06:23.940
זו לא הייתה פריצה לרשת, זו הייתה פריצה להקשר.

00:06:24.100 --> 00:06:27.160
עלינו לקבל שהמודלים האלה הם סטוכסטיים ובלתי צפויים.

00:06:27.340 --> 00:06:28.740
הם לא תוכנדת רמיניסטית.

00:06:28.840 --> 00:06:30.980
אי אפשר להבטח אותם בעזרת כללים סטטיים.

00:06:31.160 --> 00:06:32.280
הפגיעות אינה בקוד.

00:06:32.460 --> 00:06:33.920
זה נמצא במנגנון הקשב.

00:06:34.080 --> 00:06:37.180
זה בדרך שבה המודל מטשטש את הגבול בין נתונים להוראות.

00:06:37.360 --> 00:06:40.620
כשאתם עורמים מודלים מרובים זה על גבי זה ללא מסגרת עוינת,

00:06:40.620 --> 00:06:42.500
אתם רק עורמים שכבות של זכוכית.

00:06:42.560 --> 00:06:43.820
אתם לא בונים כספת.

00:06:43.940 --> 00:06:47.600
אתם בונים שרשרת שבירה שבה סדק אחד מנפץ את המבנה כולו.

00:06:47.600 --> 00:06:50.520
כדי לעצור את זה עלינו להתרחק מרעיון הבדיקות.

00:06:50.700 --> 00:06:52.860
עלינו לעבור למודל של לוחמה מתמשכת.

00:06:53.020 --> 00:06:55.900
עלינו להפסיק לשאול אם המודל בטוח ולהתחיל לנסות לשבור אותו.

00:06:56.060 --> 00:06:58.860
כדי לעצור את ההדבקה עלינו לבנות את הגונטלט מבחן הסיבולת.

00:06:59.040 --> 00:07:00.900
ארכיטקטורת הגונטלט המולטי מודלי.

00:07:01.080 --> 00:07:02.640
בדיקות ידניות הן שריד מהעבר.

00:07:02.640 --> 00:07:06.980
אם אתם עדיין מסתמכים על בני אדם שיושבים בחדר ומנסים להערים על הבינה המלאכותית שלכם, כבר הפסדתם.

00:07:07.080 --> 00:07:08.160
בני אדם הם מיטיים.

00:07:08.160 --> 00:07:09.620
מודלים הם סטוחסטיים.

00:07:09.800 --> 00:07:14.500
אי אפשר לחזות כל תמורה של התקפה מרובת שלבים בעזרת גיליון אלקטרוני וצוות יועצים.

00:07:14.640 --> 00:07:20.060
עד שהצוות האדום שלכם מוצא פגיעות אחת, המודל הבסיסי כבר יתעדכן או ששטח ההתקפה השתנה.

00:07:20.240 --> 00:07:22.040
זו הסיבה שהמודל הישן נכשל.

00:07:22.160 --> 00:07:22.760
הוא סטטי.

00:07:22.840 --> 00:07:23.580
הוא ריאקטיבי.

00:07:23.580 --> 00:07:28.540
בעולם הפיננסי רב הסיכונים של 2026, אנחנו צריכים משהו שינה במהירות האיום.

00:07:28.680 --> 00:07:30.180
אנחנו צריכים את הגונטלט.

00:07:30.180 --> 00:07:37.620
ארכיטקטורת הגונטלט, המולטי מודלי, בנויה על עיקרון פשוט ואכזרי, הצוות מודלי שפה מגוונים זה מול זה במשחק סכום אפס.

00:07:37.760 --> 00:07:39.480
אתם לא רק בודקים את המערכת.

00:07:39.640 --> 00:07:41.620
אתם יוצרים סיר לחץ אבולוציוני.

00:07:41.620 --> 00:07:48.940
אתם לוקחים מודל תוקף, משהו בעל יכולת גבוהה כמו גרסת GPT מיוחדת, ומטילים עליו מטרה אחת לעקוף את המגן.

00:07:49.080 --> 00:07:54.160
המגן הוא הסוכן התפעולי שלכם, זה שמטפל בהעברות בנקאיות ובאישורי הלוואות.

00:07:54.160 --> 00:07:56.240
הם נכנסים ללא פאוטומטי מתמשך.

00:07:56.380 --> 00:08:01.540
התוקף מייצר הזרקות הנחיה מתוחכמות מרובות שלבים, והמגן מנסה לשמור על ההתאמה שלו.

00:08:01.680 --> 00:08:03.580
זו לא רק סימולציה, זה משטר אימונים.

00:08:03.580 --> 00:08:06.580
אנחנו משתמשים במה שאנחנו מכנים תמהיל 50 חלקי 50.

00:08:06.740 --> 00:08:12.000
כשאתם מחיילים את הסוכנים הפיננסיים שלכם, אתם לא יכולים להשתמש רק בנתונים נקיים ומושלמים ממערכות הליבה הבנקאיות.

00:08:12.200 --> 00:08:13.600
זה הופך את המודל לשוויר.

00:08:13.740 --> 00:08:15.700
במקום זאת, אתם רבים את סט האימונים.

00:08:15.700 --> 00:08:20.880
חצי מהנתונים נקיים, אך החצי השני מורכב מדוגמאות עוינות שנוצרו במהלך סבבי הגונטל.

00:08:21.040 --> 00:08:26.240
זה כולל הכל, ממלכודות לוגיות של, פרוסה צלמי, ועד למעקפים מולטי מודליים נסתרים שדענו בהם.

00:08:26.360 --> 00:08:28.700
התוצאה היא עלייה של 70% בחוסן.

00:08:28.860 --> 00:08:33.960
אתם למעשה מכסנים את הבינה המלאכותית שלכם נגד אותם ניצול חולשות שעוקפים כרגע את חומות האש שלכם.

00:08:34.080 --> 00:08:35.500
אבל, הנה השינוי המבני.

00:08:35.500 --> 00:08:39.640
אתם לא רק מחפשים באגים, אתם לא מנסים למצוא רצף טקסט ספציפי ששובר את המודל.

00:08:39.760 --> 00:08:41.560
אתם מחסנים את לוגיקת ההיגיון עצמה.

00:08:41.720 --> 00:08:44.600
בגונטלט, אנחנו משתמשים באימון מבוסס שרשרת מחשבה מחוזקת.

00:08:44.760 --> 00:08:47.120
אנחנו מחייבים את המגן להציג את דרך הפעולה שלו.

00:08:47.240 --> 00:08:51.060
אם התוקף מנסה להשתמש בהזרקה מבוססת משחקי תפקידים כדי לאשר העברה,

00:08:51.240 --> 00:08:53.440
המגן חייב להסביר את ההיגיון שלו בכל שלב.

00:08:53.440 --> 00:08:56.380
אם תהליך החשיבה מתחיל לסתות לעבר פעולה לא מורשת,

00:08:56.580 --> 00:08:58.020
הגונטלט מסמן זאת מיד.

00:08:58.160 --> 00:09:01.260
אתה מלמד את המודל לזהות את התחושה של ניסיון כפייה.

00:09:01.480 --> 00:09:03.880
הארכיטקטורה הזו פותרת את בעיית הגיוון.

00:09:04.060 --> 00:09:06.040
על ידי שימוש במשפחות מודלים שונות,

00:09:06.260 --> 00:09:09.220
אולי מודל של אנטרופיק למגן ומודל של מטה לתוקף,

00:09:09.460 --> 00:09:11.500
אתה מוודא שהנקודות העברות לא חופפות.

00:09:11.600 --> 00:09:15.420
אתה משתמש בחוזקות של ארכיטקטורה אחת כדי לחשוף את החולשות של אחרת.

00:09:15.660 --> 00:09:16.880
זהו מחזור מתמשך.

00:09:16.880 --> 00:09:18.680
ככל שהתוקף הופך לחכם יותר,

00:09:18.860 --> 00:09:20.220
המגן הופך לקשוח יותר.

00:09:20.420 --> 00:09:22.500
זוהי שכבת הבטחה שמשתפרת מעצמה,

00:09:22.700 --> 00:09:27.500
שלא ישנה, לא מתעייפת ולא מפספסת שינויים סמנטיים דקים שבודק אנושי היה מחמיץ.

00:09:27.660 --> 00:09:28.860
עבור מוסד פיננסי,

00:09:29.080 --> 00:09:32.700
זו הדרך היחידה לעמוד בביקורות העתידיות מבוססות האפקטיביות.

00:09:32.860 --> 00:09:36.820
אתה יכול להציג לרגולטורים היסטוריה מתועדת של מיליוני התקפות מדומה

00:09:36.820 --> 00:09:38.580
ואיך המערכת שלך עמדה מולן.

00:09:38.740 --> 00:09:41.600
אתה עובר מעולם שבו אתה מקווה שאתה מאובטח לעולם,

00:09:46.880 --> 00:09:48.440
מנה פסיבית ללוחמה פעילה.

00:09:48.800 --> 00:09:51.600
אתה כבר לא רק בונה חומה, אתה מאמן חייל.

00:09:52.100 --> 00:09:57.140
הגונטלט הזה הופך למנגנון ההגנה העיקרי שלך נגד הדור הבא של איומים עוינים.

00:09:57.300 --> 00:10:01.800
הוא הופך את עמדת ההבטחה שלך מרשימת חוקים למערכת דינמית ומתפתחת.

00:10:01.920 --> 00:10:05.040
אתה סוף סוף משתווה במהירות המודלים למהירות ההגנה.

00:10:05.240 --> 00:10:09.740
זו הדרך היחידה להבטיח שזרימות העבודה האוטונומיות שלך יישארו חסינות בעולם

00:10:09.740 --> 00:10:13.160
שבו האיומים חכמים בדיוק כמו המערכות שהם מנסים להרער כאה.

00:10:13.360 --> 00:10:15.540
מסגרת ביקורת, הקופסה השקופה.

00:10:15.640 --> 00:10:19.720
אוגוסט 2026 הוא כבר לא סתם תאריך אקראי בלוח שנה של תאימות,

00:10:19.920 --> 00:10:21.460
כי במציאות מדובר בקרברזל.

00:10:21.640 --> 00:10:25.920
זהו הרגע המדויק שבו דרישות הסיכון הגבוה של חוק האיי האירופי

00:10:25.920 --> 00:10:27.720
עוברות מתיאוריה לאכיפה פעילה.

00:10:27.880 --> 00:10:30.920
אם אתה מפעיל סוכנים אוטונומיים במגזר הפיננסי,

00:10:30.920 --> 00:10:34.600
אתה כעת תחת זכוכית מגדלת, אך אופי הבדיקה השתנה.

00:10:34.600 --> 00:10:37.360
הרגולטורים מתרחקים מתקנים מבוססי תהליכים,

00:10:37.620 --> 00:10:40.560
מה שאומר שלא אכפת להם יותר מהתיעוד או מהכוונה שלך.

00:10:40.700 --> 00:10:43.060
הם עוברים לעבר תקנים מבוססי אפקטיביות.

00:10:43.280 --> 00:10:46.220
הם רוצים לראות שההבטחה שלך באמת עובדת ברגע האמת.

00:10:46.440 --> 00:10:49.520
השינוי הזה דורש מעבר מהקופסה השחורה של האיי המסורתי

00:10:49.520 --> 00:10:52.100
למה שאנחנו מכנים מסגרת ביקורת, הקופסה השקופה.

00:10:52.200 --> 00:10:54.880
אתה צריך להיות מסוגל לראות דרך הלוגיקה בזמן אמת.

00:10:54.880 --> 00:10:58.460
המדד הקריטי ביותר בעידן החדש הזה הוא זמן שחזור ההחלטה.

00:10:58.460 --> 00:10:59.640
אם סוכן מעביר כסף,

00:10:59.780 --> 00:11:03.340
הלך להיות מסוגל להוכיח בדיוק למה זה קרה בתוך פחות מ-60 דקות.

00:11:03.480 --> 00:11:05.980
עבור רוב המוסדות, התשובה היא כרגע לא מוחלט,

00:11:06.180 --> 00:11:08.740
כי יש להם יומני רישום, אבל אין להם רצף עסקה.

00:11:08.880 --> 00:11:11.060
יש להם פלטים, אבל אין להם את הלמה.

00:11:12.020 --> 00:11:13.220
במסגרת עבודה של

00:11:13.220 --> 00:11:14.220
קופסת זכוכית,

00:11:14.380 --> 00:11:16.760
כל קריאה לכלי חייבת להיות קשורה לאישור,

00:11:17.000 --> 00:11:18.120
הכר את הסוכן שלך.

00:11:18.120 --> 00:11:19.840
זה לא סתם מפתח API,

00:11:20.300 --> 00:11:23.680
אלא זהות מאומתת הנושאת את הסמכות של נותן חסות אנושי.

00:11:23.680 --> 00:11:27.220
אתה למעשה יוצר שרשרת משמורת דיגיטלית לכל החלטה.

00:11:27.320 --> 00:11:30.500
אם הסוכן מחליט לוותר על המלה או לאשר העברה בסיכון גבוה,

00:11:30.780 --> 00:11:34.740
החלטה זו חייבת להיות מעוגנת במערך פרמטרים ספציפי שאושר על ידי אדם.

00:11:34.900 --> 00:11:37.900
אנו מיישמים זאת באמצעות מושג שנקרא אוטונומיה מוגבלת.

00:11:38.000 --> 00:11:40.580
הסוכנים מבצעים את העבודה הקשה של ניתוח וביצוע,

00:11:40.860 --> 00:11:42.960
בעוד בני אדם מחזיקים במפסק החירום הפיזי.

00:11:42.960 --> 00:11:45.760
זה לא רק כפתור של לוחצים עליו כשדברים משתבשים,

00:11:45.760 --> 00:11:49.300
אלא מגבלה מבנית על מה שהסוכן יכול לעשות ללא אימות חוזר מפורש.

00:11:49.440 --> 00:11:51.780
אתה מגדיר את גבולות, קופסת הזכוכית,

00:11:51.900 --> 00:11:54.300
על ידי קביעת ספים לסיכון, ערך וחריגה.

00:11:54.420 --> 00:11:56.720
אם הסוכן מנסה לחרוג מהגבולות האלו,

00:11:56.920 --> 00:11:59.840
המערכת מקפיאה את העסקה ודורשת הסבר אנושי.

00:12:00.020 --> 00:12:02.700
זה מספק את הדרישה הרגולטורית לפיקוח אנושי,

00:12:02.780 --> 00:12:05.480
מבלי להקריב את המהירות של זרימות עבודה אוטונומיות.

00:12:05.480 --> 00:12:08.740
אתה נותן לסוכן מרחב פעולה, אבל שומר על הרצועה גלויה.

00:12:08.880 --> 00:12:11.460
הסיכונים בחישלון בביקורת זו הם קטסטרופליים.

00:12:11.640 --> 00:12:14.520
אנחנו מדברים על כנס של 7% מהמחזור הגלובלי,

00:12:14.760 --> 00:12:18.140
ועבור בנק גדול, זה מספר שיכול לאיים על עצם קיומו של המוסד.

00:12:18.280 --> 00:12:21.620
אתה לא יכול להרשות לעצמך תשובות של, אולי, כשהמבקרים מגיעים.

00:12:21.760 --> 00:12:26.480
אתה צריך נתיב ביקורת חסין מפני חבלה שמראה את נתיב העסקה של כל פעולה סוכנית.

00:12:26.480 --> 00:12:29.100
זה אומר לתעד את המטרה, ההקשר שנשלף,

00:12:29.320 --> 00:12:32.500
קריאות הכלי והתוצאה הסופית באופן שלא ניתן לשינוי.

00:12:32.580 --> 00:12:34.160
אתה בונה כספת להיגיון עצמו,

00:12:38.740 --> 00:12:41.360
מסוגל לפתוח את הקופסה ולהראות את המנגנון הפנימי.

00:12:41.480 --> 00:12:45.040
מסגרת זו גם מגינה עליך מפני התקפות הסלמי שדיברנו עליהן.

00:12:45.120 --> 00:12:47.020
על ידי ניתור רצפי העסקה לאורך זמן,

00:12:47.280 --> 00:12:50.580
קופסת הזכוכית יכולה לזהות מתי ההיגיון של הסוכן נשחק לאיתו.

00:12:50.700 --> 00:12:53.000
היא מחפשת סתירות במדיניות או שינויים בטון

00:12:53.000 --> 00:12:55.580
שמרמזים על כך שמתבצעת הזרקת קוד רב של בי.

00:12:55.580 --> 00:12:59.780
היא מספקת את הנראות שאתה צריך כדי לטפוס את הסתיה לפני שהיא הופכת לפרצה.

00:12:59.780 --> 00:13:01.540
אתה כבר לא רק מגיב להתראה,

00:13:01.740 --> 00:13:03.860
אלא צופה בבריאות של תהליך העסקה עצמו.

00:13:04.040 --> 00:13:06.380
הקמת המערכת הזו נשמעת יקרה ומורכבת,

00:13:06.600 --> 00:13:10.040
והיא דורשת חשיבה מחודשת על ארכיטקטורת הנתונים ומודל הממשל שלך.

00:13:10.180 --> 00:13:11.540
אבל כשמסתכלים על החלופה,

00:13:11.720 --> 00:13:12.240
העלות של,

00:13:12.400 --> 00:13:13.160
קופסת הזכוכית,

00:13:13.360 --> 00:13:15.540
הופכת להשקעה הטובה ביותר שתעשה אי פעם.

00:13:15.540 --> 00:13:21.180
המעבר למודל הזה הוא הגשר שבין אוטומציה פזיזה לבין מערכת פיננסית חסינה וניתנת לביקורת.

00:13:21.180 --> 00:13:23.040
זהו המעבר מתקווה להוכחה.

00:13:23.160 --> 00:13:23.920
החזר השקעה,

00:13:24.080 --> 00:13:26.200
לוחמה פרואקטיבית לעומת ניקוי ריאקטיבי.

00:13:26.360 --> 00:13:29.420
בואו נסתכל על המתמטיקה הקרה והיבשה של שנת 2026.

00:13:29.620 --> 00:13:30.480
במגזר הפיננסי,

00:13:30.600 --> 00:13:34.580
העלות הממוצעת של פריצת נתונים מתקרבת כעת למד מינוס 5.8 מיליון דולר.

00:13:34.700 --> 00:13:36.840
המספר הזה אינו רק כותרת שנועדה להפחיד,

00:13:36.840 --> 00:13:39.660
אלא מייצג אובדן ממשי של כספים עקב פורנזיקה דיגיטלית,

00:13:39.820 --> 00:13:41.580
הוצאות משפטיות וכנסות רגולטוריים.

00:13:41.720 --> 00:13:44.780
עליך לקחת בחשבון גם את הנטישה המסיבית של לקוחות בעלי הון

00:13:44.780 --> 00:13:48.080
שמאבדים אמון בתשתית שלך ברגע שהנתונים שלהם מגיעים לרשת האפלה.

00:13:48.220 --> 00:13:49.400
כשמסתכלים על המאזן,

00:13:49.620 --> 00:13:52.160
ניקוי ריאקטיבי הוא הדרך היקרה ביותר לנהל בן.

00:13:52.300 --> 00:13:54.180
אתה משלם פרמיה גבוהה על כישלון.

00:13:54.380 --> 00:13:55.220
לוחמה פרואקטיבית,

00:13:55.220 --> 00:13:55.840
לעומת זאת,

00:13:56.000 --> 00:13:58.040
מספקת יחס מניעת עלויות של 1-6.

00:13:58.160 --> 00:14:00.560
על כל דולר שאתה מוציא על המערכת הרב מודלית,

00:14:00.720 --> 00:14:02.860
אתה חוסך 6 דולרים בעלויות ניקוי וכנסות.

00:14:02.860 --> 00:14:04.220
זה לא רק מדד הבטחה,

00:14:04.440 --> 00:14:07.320
אלא מהלך יעילות מהותי עבור הארגון הפיננסי המודרני.

00:14:07.500 --> 00:14:09.280
בדיקות ידניות הן הוצאה עבודה.

00:14:09.480 --> 00:14:10.900
אתה משלם על זמן של אדם,

00:14:11.100 --> 00:14:12.460
הוא מוצא כמה בגים שטחיים,

00:14:12.680 --> 00:14:13.900
ואז הוא עובר לפרויקט הבא.

00:14:14.020 --> 00:14:15.020
הידע הזה הוא סטטי,

00:14:15.160 --> 00:14:17.280
והוא לא משפר את הלוגיקה המרכזית של המודל

00:14:17.280 --> 00:14:18.680
או את החוסן שלו לאורך זמן.

00:14:18.680 --> 00:14:19.460
רד טימינג,

00:14:19.600 --> 00:14:21.240
רב מודלי הוא נכס אסטרטגי.

00:14:21.340 --> 00:14:23.980
אתה בונה ספרייה של מודיעין יריב שצובר ערך.

00:14:23.980 --> 00:14:26.100
אתה מחזק את הקניין הרוחני שלך.

00:14:26.240 --> 00:14:29.280
אתה יוצר חומת מגן סביב תהליכי העבודה האוטונומיים שלך

00:14:29.280 --> 00:14:31.240
שהמתחרים פשוט לא יכולים להשתוות לה.

00:14:31.420 --> 00:14:34.360
זה ההבדל בין מרכז עלות לבין יתרון הסטרטגי.

00:14:34.500 --> 00:14:35.540
בזמן שהם מסמנים,

00:14:35.720 --> 00:14:36.520
וי, בתיבות,

00:14:36.700 --> 00:14:38.740
אתה בונה מבצר שלומד מכל התקפה.

00:14:38.740 --> 00:14:42.760
אתה הופך את תקציב ההבטחה שלך מהוצאה לשיפור הון לטווח ארוך.

00:14:42.920 --> 00:14:44.420
השוק כבר מתומחר את זה.

00:14:44.580 --> 00:14:47.500
מבטחי סייבר כבר לא מציעים תעריפים אחידים לכולם,

00:14:47.500 --> 00:14:50.180
כי הם בוחנים את יומני הבדיקות האדברסריות שלך.

00:14:50.320 --> 00:14:52.980
אם תוכל לספק הוכחה מתועדת לביצוע רציף של

00:14:52.980 --> 00:14:54.160
רד טימינג רב מודלי,

00:14:54.420 --> 00:14:56.720
אנחנו רואים הפחתות פרמיה של עד 20%.

00:14:56.720 --> 00:14:59.780
המבטחים יודעים שמודל מוקשח מהווה סיכון נמוך יותר.

00:15:00.000 --> 00:15:02.440
הם למעשה מסבסדים את שדרוגי ההבטחה שלך

00:15:02.440 --> 00:15:04.760
כי זה מפחית את הסיכון שלהם לתשלום התק.

00:15:04.820 --> 00:15:05.820
אם אתה לא עושה זאת,

00:15:05.920 --> 00:15:09.640
אתה משלם בפועל מס פגיעות על הביטוח שלך בכל חודש מחדש.

00:15:09.640 --> 00:15:12.760
אתה משאיר כסף על השולחן תוך הגדלת החשיפה שלך.

00:15:12.880 --> 00:15:15.560
מעבר לפרמיות, עלינו לדבר על רדיוס הנזק.

00:15:15.700 --> 00:15:19.460
עמדה ראקטיבית מניחה שניתן להכיל את הפרצה לאחר שהיא מתרחשת,

00:15:19.660 --> 00:15:21.940
אך בסביבה סוכנית זוהי פנטזיה מסוכנת.

00:15:22.140 --> 00:15:26.360
הדבקה אחת במאגר נתונים בודד יכולה להתפשט לכל מערכת מחוברת בשרשרת שלך.

00:15:26.480 --> 00:15:28.100
על ידי התמאת הכפפה, גונטלט,

00:15:28.300 --> 00:15:30.260
אתם קופים בידוד מבני על הנתונים שלכם.

00:15:30.260 --> 00:15:32.560
אתם לומדים להצפין את ההתמאות, אמבדינגס,

00:15:32.560 --> 00:15:33.800
ולהגדיר טווח לשליפה,

00:15:33.980 --> 00:15:35.360
כך שגם אם סוכן אחד נחטף,

00:15:35.540 --> 00:15:36.780
שאר הכספת נשארת מעולה.

00:15:36.880 --> 00:15:38.640
אתם יוצרים אסטרטגיית הגנה רב,

00:15:38.720 --> 00:15:41.880
שכבתית שמגנה על הנכסים הרגישים ביותר שלכם מהיסוד.

00:15:42.020 --> 00:15:43.140
אתם קונים חוסן.

00:15:43.320 --> 00:15:48.560
אתם מבטיחים שמלכודת לוגיט אחת לא תהפוך לקריסה מערכתית של כל הפעילות הפיננסית שלכם.

00:15:48.740 --> 00:15:52.200
אתם בונים מערכת שיכולה לספוג מכה ולהמשיך לנוע קדימה.

00:15:52.200 --> 00:15:54.260
מפת הדרכים להתמעת ריפוי עצמי.

00:15:54.260 --> 00:15:56.640
איך באמת מתחילים לבנות את זה בסביבה שלכם?

00:15:56.820 --> 00:15:59.400
מפת הדרכים אינה עוסקת ברכישת חבילת תוכנה חדשה.

00:15:59.520 --> 00:16:01.600
היא עוסקת בהנדסה מחדש של הנירות שלכם.

00:16:01.740 --> 00:16:03.020
השלב הראשון הוא המלאי.

00:16:03.120 --> 00:16:04.960
עליכם למצוא את ה-AI הצללים שלכם.

00:16:05.140 --> 00:16:05.840
ברגע זה ממש.

00:16:05.980 --> 00:16:09.840
ישנם סוכנים בסביבה שלכם עם מבטחות API שצוות ההבטחה שלכם מעולם לא ראה.

00:16:09.960 --> 00:16:13.320
אלו נבנו על ידי מפתחים או אנליסטים כדי לפתור בעיה ספציפית.

00:16:13.320 --> 00:16:16.880
והם יושבים שם מחוברים לנתוני הייצור שלכם ללא כל פיקוח.

00:16:24.260 --> 00:16:26.520
חסות אנושי וכל רמת הרשאה לאורך כל הדרך.

00:16:26.680 --> 00:16:30.740
המלאי הזה הוא הצעד הראשון בהחזרת השליטה על ההיקף הדיגיטלי שלכם.

00:16:30.900 --> 00:16:33.520
אם אין נותן חסות, אין סוכן אתם סוגרים אותו.

00:16:34.540 --> 00:16:37.900
השלב השני הוא המעבר מיומנים פשוטים למעקב סיבתי.

00:16:38.040 --> 00:16:41.980
יומני אירועים ישנים אומרים לכם שעסקה התרחשה, אך הם לא אומרים לכם מדוע.

00:16:41.980 --> 00:16:44.900
עליכם לפרוס במקום זאת טווחי עסקה רב של באים.

00:16:45.100 --> 00:16:49.020
זה מאפשר לכם לעקוב אחר תהליך המחשבה של הסוכן לאורך כל שרשרת הביצוע.

00:16:49.140 --> 00:16:52.560
כאשר סוכן נכשל, אתם לא אמורים להסתכל על עקבות מחסנית, סטק טרייס.

00:16:52.680 --> 00:16:57.020
אתם צריכים להסתכל על מפה סיבתית שמראה בדיוק היכן העסקה הופלה על ידי כלת עוין.

00:16:57.200 --> 00:17:01.100
אתם צריכים לראות את הלוגיקה, לא רק את התוצאה, כדי להבין באמת את הסיכון.

00:17:01.300 --> 00:17:02.740
זהו הבסיס של הכפפה.

00:17:02.740 --> 00:17:09.220
ללא מעקב סיבתי, אתם רק מנחשים את שורש הקשלים שלכם ובסוף מטפלים בסימפטום ולא במחלה.

00:17:09.380 --> 00:17:12.320
השלב השלישי הוא התמאת אופטימיזיית מסחר.

00:17:12.320 --> 00:17:15.600
כאן אתם מאזנים בין הדיוק שלכם לבין העמידות שלכם.

00:17:15.720 --> 00:17:22.680
בהקשר פיננסי בעל סיכון גבוה, אי אפשר להחזיק מודל שהוא 99% מדויק, אך 0% עמיד נגד הזרקת פרומפטים.

00:17:22.840 --> 00:17:27.540
אתם משתמשים בנתונים מהכפפה כדי לבצע כיוונון עדין למודלים שלכם באמצעות מזהור הפסט החליפי.

00:17:27.540 --> 00:17:33.400
על ידי כך, אתה אומר למודל במפורש שלהישאר מיושר תחת לחץ חשוב בדיוק כמו מתן התשובה הנכונה.

00:17:33.400 --> 00:17:37.360
אתה מטמיע מודעות להיריבים בתוך המשקולות של הרשת הנוירונית.

00:17:37.520 --> 00:17:44.140
אתה הופך את המודל לחכם מספיק כדי לזהות מתי גורם עוין שמנסה לנצל את המערכות האוטונומיות שלך מתמרן אותו.

00:17:44.300 --> 00:17:47.280
מפת הדרכים הזו משנה את מרכז בקרת ההבטחה שלך.

00:17:47.280 --> 00:17:53.360
אתה מתרחק מעייפות מהתראות שבה בני אדם טובים באלפי הזהרות חסרות הקשר ועובר למיון אוטונומי.

00:17:53.480 --> 00:17:58.840
הארכיטקטורה שלך מתחילה לצפות התקפות כי היא כבר ראתה אותן מיליון פעמים בסימולציות הגאונטל.

00:17:58.840 --> 00:18:03.980
אתה לא רק מגיב לאיום של היום. אתה מאבטח את זרימות העבודה האוטונומיות של המחר.

00:18:04.180 --> 00:18:08.080
אתה עובר מעולם שבו אתה מנווט בין סיכונים לעולם שבו אתה שולט בהקשר.

00:18:08.320 --> 00:18:13.000
זהו השינוי האחרון. כך בונים כספת פיננסית שבאמת עמידה בעידן הסוכנים.

00:18:13.000 --> 00:18:17.200
סוף סוף אתה בונה עבור העולם כפי שהוא ולא כפי שהיית רוצה שיהיה.

00:18:17.420 --> 00:18:18.220
התחל עכשיו.

00:18:18.400 --> 00:18:23.220
כעת יש בידיך את המסגרת למעבר מסימון ועל דרישות לבניית כספות דיגיטליות.

00:18:23.380 --> 00:18:24.880
שיעורי הבית שלך ברורים.

00:18:24.880 --> 00:18:28.640
בצע ביקורת על זרימת עבודה אוטונומית אחת השבוע כדי לוודא מעקב אחרי נותן נכסות.

00:18:28.720 --> 00:18:31.860
אם אינך יכול למצוא את הבעלים האנושי, הסוכן הזה הוא התחייבות מסוכנת.

00:18:32.000 --> 00:18:36.260
אם שינוי החשיבה הזה עזר לך, אשאר ביקורת לפודקאסט M365FM.

00:18:36.420 --> 00:18:38.920
זה עוזר ליותר מנהיגים למצוא את האות הזה בתוך הרעש.

00:18:39.060 --> 00:18:41.120
צורי טי קשר, מירקו פיטרס, בלינקטין.

00:18:41.120 --> 00:18:43.760
ספר לי אילו סיכוני בינה מלאכותית מדירים שנע מעיניך.

00:18:43.880 --> 00:18:45.420
עידן הבדיקות הידוניות נגמר.

00:18:45.420 --> 00:18:48.040
הגיע הזמן לבנות עבור המציאות העוינת שלפנינו.
