WEBVTT

00:00:00.000 --> 00:00:04.060
Уявіть собі одне багатооборотне введення запиту в обхід усього вашого стеку безпеки,

00:00:04.140 --> 00:00:07.020
щоб авторизувати шахрейський банківський переказ на мільйон доларів.

00:00:07.140 --> 00:00:10.760
У світі фінансів з високими ставками традиційних бранд-мауерів більше недостатньо,

00:00:10.860 --> 00:00:12.600
щоб зупинити складні зловмисні атаки.

00:00:12.840 --> 00:00:17.320
Більшість фінансових установ ставлять галочки, поки їхніх агентів штучного інтелекту викрадають.

00:00:17.500 --> 00:00:21.000
Стара модель ручного тестування припускає, що ви можете передбачити кожну людську взаємодію,

00:00:21.000 --> 00:00:26.840
але насправді 2026 року буде визначений шахрейськими переказами на суму 250 тисяч доларів,

00:00:26.960 --> 00:00:29.340
ініціюваними одним багатооборотним введенням запиту.

00:00:29.520 --> 00:00:31.820
Ваші застарілі бранд-мауері були створені для статичних даних,

00:00:31.880 --> 00:00:34.380
а це означає, що вони марні проти атак типу нарізання салями,

00:00:34.540 --> 00:00:36.820
які виснажують рахунки по одному крихітному шматочку зараз.

00:00:36.940 --> 00:00:39.880
До кінця цього сеансу ви матимете план багатомодельної рукавички,

00:00:39.980 --> 00:00:41.920
яка захищає автономні робочі процеси.

00:00:41.920 --> 00:00:48.260
Підпишіться на подкаст М365FM, щоб випереджати ризики агентної ери до крайніх термінів у серпні 2026 року.

00:00:48.380 --> 00:00:52.980
Ми виходимо за рамки базової відповідності та створюємо стійку систему червоного командного забезпечення,

00:00:53.160 --> 00:00:56.680
яка захищає конфіденційні транзакції від наступного покоління зловмисних атак.

00:00:57.240 --> 00:00:59.540
Криза ідентичності автономних агентів

00:00:59.540 --> 00:01:03.220
Зараз ми розгортаємо агентів для виявлення шахрайства та моніторингу ACH,

00:01:03.400 --> 00:01:05.840
але власність фрагментована і вся ситуація – хаос.

00:01:05.840 --> 00:01:10.320
У вас є команди безпеки, які стежать за периметром команди ІТ, які досліджують інфраструктуру,

00:01:10.380 --> 00:01:13.480
та команди ЩІ, які досліджують моделі, але ніхто не дивиться на агентство.

00:01:13.620 --> 00:01:18.640
Лише 28% організацій можуть фактично простежити дії агента до конкретного людського спонсора,

00:01:18.800 --> 00:01:21.740
що є жахливою статистикою, якщо подумати про це на секунду.

00:01:21.880 --> 00:01:25.380
Якщо агент авторизує платіж, 3 з 4 компаній не можуть сказати вам,

00:01:25.500 --> 00:01:27.900
хто був відповідальним за логіку цієї машини в той момент.

00:01:27.900 --> 00:01:30.900
Припускається, що комерційно обґрунтованого моніторингу достатньо,

00:01:30.980 --> 00:01:33.940
але це вже не так, оскільки зміни правил НАЧА-2026 року

00:01:33.940 --> 00:01:37.720
тепер вимагають документального обґрунтування кожного рішення про платіж керованого ЩІ.

00:01:37.880 --> 00:01:40.240
Ви не можете просто сказати, що це зробив алгоритм,

00:01:40.300 --> 00:01:42.120
і вам потрібно щоразу точно доводити, чому.

00:01:42.340 --> 00:01:44.400
Ви публікуєте агента, надаєте йому доступ до АРІ

00:01:44.400 --> 00:01:46.560
та підключаєте його до своїх основних банківських систем,

00:01:46.700 --> 00:01:48.340
але потім втрачаєте нитку відповідальності.

00:01:48.340 --> 00:01:50.840
Це не технічна помилка, це порожнича в управлінні.

00:01:50.840 --> 00:01:53.400
Особистість агента стає фантомом у машині.

00:01:53.540 --> 00:01:55.340
Ми надаємо цим системам ключі до сховища

00:01:55.340 --> 00:01:57.760
та дозволяємо їм переміщувати гроші чи схвалювати позики,

00:01:57.860 --> 00:02:00.120
проте ми ставимося до них як до ізольованих сценаріїв.

00:02:00.140 --> 00:02:01.860
Насправді вони є автономними суб'єктами,

00:02:01.960 --> 00:02:04.340
і коли агент дає збій, у вас не просто системна помилка,

00:02:04.460 --> 00:02:06.460
у вас виникає масштабна подія відповідальності.

00:02:06.620 --> 00:02:10.180
Ландшафт 2026 року є невблаганним, тому що регулятори більше не запитують,

00:02:10.180 --> 00:02:13.720
чи є у вас політика, вони запитують, чи ваша політика дійсно працює під час виконання.

00:02:13.860 --> 00:02:16.220
Якщо ви не можете пов'язати транзакцію зі спонсором,

00:02:16.320 --> 00:02:18.020
ви порушуєте вимоги, і це так просто.

00:02:18.220 --> 00:02:20.940
Більшість фірм досі використовують статичні ключі АРІ для цих агентів,

00:02:21.040 --> 00:02:23.000
що схоже на те, щоб дати головний ключ незнайомцю

00:02:23.000 --> 00:02:24.860
та сподіватися, що він не відкриє ниті двері.

00:02:24.960 --> 00:02:26.700
Вам потрібно знати протокол вашого агента,

00:02:26.800 --> 00:02:29.940
і вам потрібно прив'язати кожен виклик інструменту до певних облікових даних.

00:02:30.040 --> 00:02:31.220
Але ось у чому проблема.

00:02:31.440 --> 00:02:33.920
Більшість організацій навіть не знають, скільки у них агентів,

00:02:33.920 --> 00:02:37.260
і в результаті ми спостерігаємо масове зростання тіньового штучного інтелекту.

00:02:37.400 --> 00:02:40.940
Співробітники створюють власні агенти для автоматизації своїх робочих процесів

00:02:40.940 --> 00:02:42.760
і підключають їх до внутрішніх баз даних,

00:02:42.860 --> 00:02:45.160
надаючи їм доступ до конфіденційних даних клієнтів.

00:02:45.320 --> 00:02:47.440
Вони роблять усе це без будь-якого нагляду,

00:02:47.520 --> 00:02:51.360
і це створює масивну поверхню для атаки, яка придатна для експлуатації.

00:02:51.540 --> 00:02:53.600
Зловмиснику не потрібно порушувати ваш бренд-мауер,

00:02:53.700 --> 00:02:55.880
якщо він може просто захопити погано захищений агент,

00:02:55.880 --> 00:02:58.180
і він може використовувати цей агент для вилучення даних

00:02:58.180 --> 00:02:59.980
або запуску несанкціонованих транзакцій.

00:03:00.100 --> 00:03:02.480
Вони можуть використовувати його для обходу ваших внутрішніх контролів,

00:03:02.540 --> 00:03:04.920
і оскільки лише 28% з вас мають можливість відстежувати,

00:03:05.020 --> 00:03:06.580
вони можуть зробити це, не залишаючи слідів.

00:03:06.720 --> 00:03:09.000
Ми повинні перестати думати про агентів як про інструменти

00:03:09.000 --> 00:03:10.860
та почати думати про них як про ідентичності.

00:03:11.000 --> 00:03:12.660
Якщо ви не можете перевірити міркування,

00:03:12.780 --> 00:03:16.280
ви не можете довіряти результату, і це новий стандарт на 2026 рік.

00:03:16.360 --> 00:03:19.460
Правила НАЧА – це лише початок глобального переходу до стандартів,

00:03:19.460 --> 00:03:23.000
заснованих на ефективності, і справа вже не в процесі, а в результаті.

00:03:23.120 --> 00:03:25.300
Якщо агент схвалює шахрайський переказ ACH,

00:03:25.440 --> 00:03:27.700
установа опиняється на гачку, і ви не можете сховатися

00:03:27.700 --> 00:03:29.120
за чорною скринькою постачальника.

00:03:29.280 --> 00:03:32.380
Ви повинні бути в змозі відтворити шлях прийняття рішення протягом 60 хвилин,

00:03:32.440 --> 00:03:34.960
але правда полягає в тому, що більшість з вас ще не може цього зробити.

00:03:35.100 --> 00:03:37.560
Вилетите на осліп у високошвидкісному середовищі,

00:03:37.640 --> 00:03:39.600
а криза ідентичності автономних агентів

00:03:39.600 --> 00:03:43.260
є найбільшим ризиком для фінансової стабільності в наступні 18 місяців.

00:03:43.400 --> 00:03:47.220
Це розрив між тим, що ми розгортаємо, і тим, що ми насправді можемо контролювати,

00:03:47.380 --> 00:03:50.200
але проблема глибша, ніж просто те, хто володіє агентом.

00:03:50.380 --> 00:03:52.880
Йдеться про те, як заражаються самі моделі.

00:03:53.040 --> 00:03:54.940
Модель перехресного зараження моделей.

00:03:55.100 --> 00:03:56.980
Раніше ми думали, що використання кількох моделей

00:03:56.980 --> 00:03:58.460
забезпечує природну захисну мережу.

00:03:58.620 --> 00:03:59.720
Логіка була простою.

00:03:59.840 --> 00:04:02.580
Якщо одна модель мала упередженість або недолік, інші її виявляли.

00:04:02.580 --> 00:04:04.380
Ми називали це різноманітністю моделей.

00:04:04.520 --> 00:04:07.960
Але в умовах 2026 року це припущення було повністю спростовано.

00:04:08.100 --> 00:04:10.660
Нові дослідження показують нам щось набагато тривожніше.

00:04:10.800 --> 00:04:13.100
Точне налаштування однієї моделі на небезпечних завданнях

00:04:13.100 --> 00:04:14.760
не просто залишається в межах цієї моделі.

00:04:14.880 --> 00:04:17.560
Вона фактично заражає непов'язані моделі у вашому ланцюжку.

00:04:17.720 --> 00:04:18.620
Це не теорія.

00:04:18.800 --> 00:04:22.300
Ми бачимо, як невідповідності GPT-4 масштабується до похідних квен

00:04:22.300 --> 00:04:24.640
та лами зі швидкістю реплікації 50%.

00:04:24.640 --> 00:04:27.640
Це вірусне поширення вразливості по всій екосистемі.

00:04:27.780 --> 00:04:31.760
Ви думаєте, що створюєте надлишкову систему, використовуючи різних постачальників?

00:04:31.880 --> 00:04:35.340
Насправді, ви просто створюєте більше вузлів для поширення тієї ж інфекції.

00:04:35.520 --> 00:04:38.980
Це бекдор у ланцюжку поставок, який жодна ручна перевірка ручкою ніколи не знайде.

00:04:39.160 --> 00:04:42.240
Більшість команд безпеки все ще шукають традиційні вразливості в коді.

00:04:42.380 --> 00:04:45.080
Вони шукають переповнення буфера або SQL-ін'єкції.

00:04:45.240 --> 00:04:47.040
Але нова загроза є семантичною.

00:04:47.040 --> 00:04:49.060
Вона вбудована у ваги самих моделей.

00:04:49.240 --> 00:04:52.440
Зловмисники зараз використовують техніку, яка називається змагальним хабом.

00:04:52.620 --> 00:04:54.300
Їм не потрібно зламувати ваші сервери.

00:04:54.480 --> 00:04:57.220
Їм просто потрібно підмістити один шкідливий документ у вашу базу знань.

00:04:57.360 --> 00:05:01.020
Через те, як працює векторне вбудовування, цей один документ може діяти як гравітаційна криниця.

00:05:01.160 --> 00:05:03.460
Він притягує 84% ваших рек запитів.

00:05:03.640 --> 00:05:05.760
Ви думаєте, що ваша векторна база даних – це бібліотека?

00:05:05.920 --> 00:05:08.160
Ви думаєте, що це структуроване сховище істини?

00:05:08.160 --> 00:05:11.300
Насправді це стає пасткою для ваших автономних робочих процесів.

00:05:11.380 --> 00:05:15.980
Коли ваш агент намагається отримати контекст для обробки банківського переказу, він не просто отримує дані.

00:05:16.120 --> 00:05:17.840
Він отримує отруєнні інструкції.

00:05:18.080 --> 00:05:22.020
Модель не бачить різниці між легітимним рахунком-факторою та прихованою ін'єкцією запиту.

00:05:22.240 --> 00:05:24.780
Саме тут багатомодельна стратегія дає зворотний ефект.

00:05:24.960 --> 00:05:29.400
Якщо ваша первинна модель отримує отруєнні дані, вона передає ці міркування вторинній моделі.

00:05:29.400 --> 00:05:35.040
Оскільки ці моделі мають спільні базові навчальні дані та подібні архітектури трансформаторів, вони мають ті самі сліпі зони.

00:05:35.300 --> 00:05:36.540
Інфекція реплікується.

00:05:36.740 --> 00:05:40.880
Друга модель підтверджує помилку першої моделі, оскільки вона вразлива до тієї ж логічної пастки.

00:05:41.060 --> 00:05:46.480
Ми бачимо, що показники успішності цих ін'єкцій на основі рольових ігор досягають майже 90% у фінансовому середовищі.

00:05:46.640 --> 00:05:49.740
Моделі фактично вмовляють одна-одну авторизувати шахрайство.

00:05:49.900 --> 00:05:52.800
Це міжмодельне поширення є тихим вбивцею безпеки ЩІ.

00:05:59.400 --> 00:06:03.440
Якщо сама логіка міркувань скомпрометована, зловмисники не намагаються зламати ваше шифрування.

00:06:03.660 --> 00:06:06.040
Вони намагаються зламати розуміння реальності вашою моделлю.

00:06:06.040 --> 00:06:09.940
Вони використовують трюки кодування та логічні пастки, які обходять традиційні текстові фільтри.

00:06:10.060 --> 00:06:14.160
Якщо зображення чека містить текст з низькою контрастністю з командою перевизначення адміністратора,

00:06:14.280 --> 00:06:15.960
ваша мультимодельна система считає його.

00:06:16.140 --> 00:06:17.740
Вона обробить його та виконає.

00:06:17.900 --> 00:06:20.960
Ось так відбувся цей переказ 250 тисяч доларів.

00:06:21.120 --> 00:06:22.400
Це не був злом мережі.

00:06:22.560 --> 00:06:23.940
Це був злом контексту.

00:06:23.940 --> 00:06:26.920
Ми повинні визнати, що ці моделі є стохастичними та непередбачуваними.

00:06:27.140 --> 00:06:29.140
Вони не є детермінованим програмним забезпеченням.

00:06:29.140 --> 00:06:31.160
Ви не можете захистити їх статичними правилами.

00:06:31.440 --> 00:06:32.420
Вразливість не в коді.

00:06:32.580 --> 00:06:33.920
Вона в механізмі уваги.

00:06:34.040 --> 00:06:37.100
Вона в тому, як модель розмиває межу між даними та інструкціями.

00:06:37.280 --> 00:06:42.320
Коли ви складаєте кілька моделей одна на одну без змагальної структури, ви просто складаєте шари скла.

00:06:42.520 --> 00:06:43.860
Ви не будуєте сховище.

00:06:44.060 --> 00:06:47.480
Ви будуєте крихкий ланцюг, де одна тріщина руйнує всю структуру.

00:06:47.480 --> 00:06:50.440
Щоб зупинити це, ми повинні відійти від ідеї тестування.

00:06:50.580 --> 00:06:52.840
Ми повинні рухатися до моделі безперервної війни.

00:06:53.000 --> 00:06:56.180
Нам потрібно перестати питати, чи безпечна модель, і почати намагатися її зламати.

00:06:56.340 --> 00:06:58.920
Щоб зупинити інфекцію, ми повинні побудувати рукавицю.

00:06:59.180 --> 00:07:00.880
Архітектура мультимодельної рукавиці.

00:07:01.040 --> 00:07:02.620
Ручне тестування – це пережиток.

00:07:02.740 --> 00:07:07.080
Якщо ви все ще покладаєтеся на людей, які сидітимуть у кімнаті та намагатимуться обдурити ваші, ви вже програли.

00:07:07.240 --> 00:07:08.100
Люди повільні.

00:07:08.260 --> 00:07:09.420
Моделі стохастичні.

00:07:09.420 --> 00:07:14.480
Ви не можете передбачити кожну перестановку багатоходової атаки за допомогою електронної таблиці та команди консультантів.

00:07:14.620 --> 00:07:19.940
На той час, як ваша червона команда знайде одну вразливість, базова модель буде оновлена, або поверхня атаки зміститься.

00:07:20.120 --> 00:07:21.700
Ось чому стара модель не працює.

00:07:21.880 --> 00:07:22.760
Вона статична.

00:07:22.940 --> 00:07:23.820
Вона реактивна.

00:07:23.960 --> 00:07:28.700
У світі фінансів 2026 року з високими ставками нам потрібно щось, що рухається зі швидкістю загрози.

00:07:28.860 --> 00:07:30.120
Нам потрібна рукавиця.

00:07:30.120 --> 00:07:37.600
Архітектура мультимодельної рукавиці побудована на простому, жорстокому принципі, протиставляючи різноманітній LLM1-1 в грі з нульовою сумою.

00:07:37.780 --> 00:07:39.420
Ви не просто тестуєте систему.

00:07:39.640 --> 00:07:41.700
Ви створюєте еволюційну скороварку.

00:07:41.900 --> 00:07:48.800
Ви берете модель зловмисника, щось дуже потужне, як-от спеціалізований варіант GPT, і ставите їй одну мету – обійти захисника.

00:07:49.000 --> 00:07:53.900
Захисник – це ваш виробничий агент, той, хто обробляє ці ACH-перекази та схвалення позик.

00:07:54.020 --> 00:07:56.500
Вони входять у безперервний автоматизований цикл.

00:07:56.500 --> 00:08:01.540
Зловмисник генерує складні багатоетапні ін'єкції запитів, а захисник намагається підтримувати свою відповідність.

00:08:01.660 --> 00:08:03.780
Це не просто симуляція, це режим тренування.

00:08:03.940 --> 00:08:06.660
Ми використовуємо те, що називаємо поєднанням 50-50-х.

00:08:06.780 --> 00:08:12.060
Коли ви налаштовуєте своїх фінансових агентів, ви не можете просто використовувати чисті, ідеальні дані з ваших основних банківських систем.

00:08:12.260 --> 00:08:13.600
Це робить модель крихкою.

00:08:13.760 --> 00:08:15.680
Натомість ви насичуєте навчальний набір.

00:08:15.820 --> 00:08:20.800
Половина даних чиста, але інша половина складається з прикладів змагання, згенерованих під час сесій випробувань.

00:08:20.800 --> 00:08:26.140
Це включає все від логічних пасток на різки салями до тих прихованих мультимодельних перевизначень, які ми обговорювали.

00:08:26.320 --> 00:08:29.040
Результатом є 70% підвищення стійкості.

00:08:29.200 --> 00:08:33.920
Ви фактично вакцинуєте свійші від тих самих експлойтів, які зараз обходять ваші бранд-мауері.

00:08:34.040 --> 00:08:35.340
Але ось структурний ссу.

00:08:35.500 --> 00:08:39.660
Ви не просто шукаєте помилки, ви не намагаєтеся знайти певний рядок тексту, який ламає модель.

00:08:39.800 --> 00:08:41.640
Ви посилюєте саму логіку міркувань.

00:08:41.780 --> 00:08:44.620
У випробуванні ми використовуємо посилене навчання ланцюга думок.

00:08:50.800 --> 00:08:53.340
Захисник повинен пояснювати своє обґрунтування на кожному кроці.

00:08:53.500 --> 00:08:58.160
Якщо міркування починають схилятися до несанкціонованих дій, це одразу ж позначається сигналом випробування.

00:08:58.320 --> 00:09:01.220
Ви навчаєте модель розпізнавати відчуття спроби примусу.

00:09:01.380 --> 00:09:03.900
Ця архітектура вирішує проблему різноманітності.

00:09:04.260 --> 00:09:08.940
Використовуючи різні сімейства моделей, можливо, антропну модель для захисника та метамодель для зловмисника,

00:09:09.100 --> 00:09:11.260
ви гарантуєте, що сліпі зони не перетинаються.

00:09:11.260 --> 00:09:15.560
Ви використовуєте сильні сторони однієї архітектури, щоб виявити слабкі сторони іншої.

00:09:15.720 --> 00:09:17.020
Це безперервний цикл.

00:09:17.140 --> 00:09:20.120
Коли зловмисник стає розумнішим, захисник стає сильнішим.

00:09:20.260 --> 00:09:25.540
Це самовдоскональований рівень безпеки, який не спить, не втомлюється і не пропускає тонких семантичних зрушень,

00:09:25.620 --> 00:09:27.580
які людина-тестувальник міг би пропустити.

00:09:27.780 --> 00:09:32.620
Для фінансової установи це єдиний спосіб задовольнити майбутні аудити на основі ефективності.

00:09:32.620 --> 00:09:38.540
Ви можете показати регуляторам задокументовану історію мільйонів змоделюваних атак і те, як ваша система їм протистояла.

00:09:38.720 --> 00:09:45.480
Ви переходите від світу, де ви сподіваєтеся на безпеку, до світу, де ви точно знаєте, який тиск може витримати ваша логіка, перш ніж вона зламається.

00:09:45.660 --> 00:09:48.460
Це перехід від пасивного захисту до активної війни.

00:09:48.640 --> 00:09:51.880
Ви більше не просто будуєте стіну, ви навчаєте солдата.

00:09:52.060 --> 00:09:57.060
Ця рукавичка стає вашим основним захисним механізмом проти наступного покоління ворожих загроз.

00:09:57.060 --> 00:10:01.740
Вона перетворює вашу систему безпеки зі списку правил на динамічну систему, що розвивається.

00:10:01.920 --> 00:10:05.160
Ви нарешті узгоджуєте швидкість моделей зі швидкістю захисту.

00:10:05.320 --> 00:10:09.280
Це єдиний спосіб забезпечити стійкість ваших автономних робочих процесів у світі,

00:10:09.380 --> 00:10:13.200
де загрози такі ж розумні, як і системи, які вони зараз намагаються підірвати.

00:10:13.380 --> 00:10:15.480
Структура аудиту скляної коробки

00:10:15.480 --> 00:10:21.160
Серпень 2026 року – це вже не просто випадкова дата в календарі відповідності, тому що насправді це тверда стіна.

00:10:21.160 --> 00:10:27.820
Це саме той момент, коли вимоги закону Європейського Союзу про штучний інтелект щодо високого ризику переходять від теорії до активного застосування.

00:10:28.000 --> 00:10:34.580
Якщо ви керуєте автономними агентами у фінансовому секторі, ви тепер перебуваєте під мікроскопом, але характер перевірки змінився.

00:10:34.760 --> 00:10:40.460
Регулятори відходять від стандартів, заснованих на процесах, а це означає, що їм більше байдуже на вашу документацію чи ваші наміри.

00:10:40.600 --> 00:10:43.240
Вони рухаються до стандартів, заснованих на ефективності.

00:10:43.380 --> 00:10:46.420
Вони хочуть бачити, що ваша безпека дійсно працює в момент удару.

00:10:46.420 --> 00:10:52.100
Цей перехід вимагає переходу від чорної скриньки традиційного штучного інтелекту до того, що ми називаємо системою аудиту скляної скриньки.

00:10:52.220 --> 00:10:55.000
Вам потрібно мати змогу бачити логіку в режимі реального часу.

00:10:55.240 --> 00:10:58.380
Найважливішим показником у цю нову еру є час реконструкції рішення.

00:10:58.540 --> 00:11:03.300
Якщо агент переміщує гроші, ви повинні мати змогу точно довести, чому це сталося, менш ніж за 60 хвилин.

00:11:03.440 --> 00:11:08.580
Для більшості установ відповідь наразі категоричне «ні», оскільки у них є журнали, але немає об'єму міркування.

00:11:08.580 --> 00:11:11.380
У них є результати, але немає пояснення, чому.

00:11:12.020 --> 00:11:17.580
У системі скляної скриньки кожен виклик інструменту має бути пов'язаний з обліковими даними «Знай свого агента».

00:11:18.220 --> 00:11:23.520
Це не просто ключ АРІ, а скоріше перевірена ідентифікація, яка несе повноваження людини-спонсора.

00:11:23.720 --> 00:11:27.280
Ви, по суті, створюєте цифровий ланцюг відповідальності для кожного рішення.

00:11:27.460 --> 00:11:31.120
Якщо агент вирішує відмовитися від плати або схвалити високоризиковий переказ коштів,

00:11:31.200 --> 00:11:34.560
це рішення має бути прив'язане до певного набору параметрів, які авторизувала людина.

00:11:34.560 --> 00:11:38.240
Ми реалізуємо це за допомогою концепції, яка називається обмеженою автономією.

00:11:38.340 --> 00:11:42.780
Агенти виконують важку роботу з аналітики та виконання, тоді як люди тримають фізичний вимикач.

00:11:42.900 --> 00:11:45.600
Це не просто кнопка, яку ви натискаєте, коли щось йде не так,

00:11:45.680 --> 00:11:49.360
а структурне обмеження того, що агент може робити без явної повторної перевірки.

00:11:49.540 --> 00:11:54.160
Ви визначаєте межі скляної коробки, встановлюючи пороги ризику, цінності та відхилення.

00:11:54.160 --> 00:11:59.780
Якщо агент намагається вийти за ці межі, система заморожує транзакцію та вимагає людського обґрунтування.

00:11:59.940 --> 00:12:02.900
Це задовольняє регуляторну вимогу щодо нагляду за людиною в циклі,

00:12:03.000 --> 00:12:05.540
не жертвуючи швидкістю автономних робочих процесів.

00:12:05.680 --> 00:12:08.840
Ви даєте агенту простір для роботи, але тримаєте повідець видимим.

00:12:09.000 --> 00:12:11.480
Ставки за невдачу від цього аудиту катастрофічні.

00:12:11.640 --> 00:12:14.480
Йдеться про штраф у розмірі 7% від глобального збитку,

00:12:14.560 --> 00:12:18.200
а для великого банку це цифра, яка може загрожувати самому існуванню установи.

00:12:18.200 --> 00:12:21.620
Ви не можете дозволити собі мати, можливо, коли з'являться аудитори.

00:12:21.740 --> 00:12:26.040
Вам потрібен контрольний журнал аудиту, який показує шлях міркування кожної дії агента.

00:12:26.240 --> 00:12:31.160
Це означає реєстрацію мети, отриманого контексту, викликів інструментів та кінцевого результату таким чином,

00:12:31.280 --> 00:12:32.540
щоб його не можна було змінити.

00:12:32.720 --> 00:12:37.920
Ви будуєте сховище для самої логіки, і це єдиний спосіб вижити в регуляторному ландшафті 2026 року.

00:12:38.080 --> 00:12:41.420
Ви повинні бути в змозі відкрити коробку та показати внутрішній годинниковий механізм.

00:12:41.420 --> 00:12:45.060
Ця структура також захищає вас від атак на різання салями, про які ми говорили.

00:12:45.220 --> 00:12:50.540
Відстежуючи діапазон міркувань з плином часу, скляна коробка може виявити, коли логіка агента повільно руйнується.

00:12:50.720 --> 00:12:55.300
Вона шукає суперечності в політиці або зміни в тоні, які свідчать про багатоетапне введення.

00:12:55.460 --> 00:12:59.780
Вона забезпечує видимість, необхідну для того, щоб вловити дрейф, перш ніж він перетвориться на порушення.

00:12:59.960 --> 00:13:03.960
Ви більше не просто реагуєте на сповіщення, а спостерігаєте за станом самої логіки.

00:13:03.960 --> 00:13:10.000
Налаштування цього звучить дорого та складно і вимагає повного переосмислення вашої архітектури, даних та вашої моделі управління.

00:13:10.120 --> 00:13:15.600
Але якщо подивитися на альтернативу, вартість скляної коробки стає найкращою інвестицією, яку ви коли-небудь зробите.

00:13:15.740 --> 00:13:21.140
Перехід до цієї моделі – це місток між безрозсудною автоматизацією та стійкими перевіряємими фінансами.

00:13:21.280 --> 00:13:23.060
Це перехід від надії до доказів.

00:13:23.200 --> 00:13:26.140
ROI – проактивна війна проти реактивного очищення.

00:13:26.340 --> 00:13:29.460
Давайте подивимося на сувору математику 2026 року.

00:13:29.460 --> 00:13:34.520
У фінансовому секторі середні витрати на витік даних зараз прямують до 5,8 мільйона доларів.

00:13:34.640 --> 00:13:37.460
Ця цифра не просто заголовок, призначений для того, щоб вас налякати,

00:13:37.540 --> 00:13:41.620
а відображає фактичні втрати від цифрової криміналістики, юридичних витрат та регуляторних штрафів.

00:13:41.740 --> 00:13:48.020
Вам також слід враховувати масовий відтік заможних клієнтів, які втрачають віру у вашу інфраструктуру в той момент, коли їхні дані потрапляють у Даркнет.

00:13:48.180 --> 00:13:52.300
Якщо подивитися на баланс, реактивне очищення – це найдорожчий спосіб ведення банку.

00:13:52.300 --> 00:13:54.080
Ви платите премію за невдачу.

00:13:54.220 --> 00:13:58.000
З іншого боку, проактивна війна забезпечує коефіцієнт уникнення витрат 6,1.

00:13:58.200 --> 00:14:02.660
За кожен долар, витрачений на мультимодельну рукавичку, ви заощаджуєте 6 доларів на витратах на очищення та штрафах.

00:14:02.760 --> 00:14:07.220
Це не просто показник безпеки, а фундаментальна гра ефективності для сучасного фінансового підприємства.

00:14:07.360 --> 00:14:09.400
Ручне тестування – це безповоротні витрати.

00:14:09.580 --> 00:14:14.200
Ви платите за час людини, вона знаходить кілька поверхневих помилок, а потім переходить до наступного проекту.

00:14:14.200 --> 00:14:18.320
Ці знання статичні та не покращують основну логіку моделі чи її стійкість з часом.

00:14:18.480 --> 00:14:20.960
Мультимодельне червоне об'єднання – це стратегічний актив.

00:14:21.140 --> 00:14:24.080
Ви створюєте бібліотеку змагального інтелекту, який посилює ризики.

00:14:24.260 --> 00:14:26.360
Ви зміцнюєте свою інтелектуальну власність.

00:14:26.520 --> 00:14:31.160
Ви створюєте рів навколо своїх автономних робочих процесів, з яким конкуренти просто не можуть зрівнятися.

00:14:31.320 --> 00:14:34.360
Це різниця між центром витрат та стратегічною перевагою.

00:14:34.360 --> 00:14:38.540
Поки вони ставлять галочки, ви будуєте фортецю, яка вчиться на кожній атаці.

00:14:38.700 --> 00:14:42.820
Ви перетворюєте свій бюджет на безпеку з витрат на довгострокове капітальне покращення.

00:14:43.020 --> 00:14:44.300
Ринок вже враховує це.

00:14:44.560 --> 00:14:50.220
Кіберстраховики більше не пропонують фіксовані універсальні тарифи, оскільки вони переглядають ваші журнали змагального тестування.

00:14:50.400 --> 00:14:56.700
Якщо ви можете надати документальне підтвердження безперервного багатомодельного червоного об'єднання, ми бачимо зниження премій до 20%.

00:14:56.700 --> 00:14:59.360
Страховики знають, що посилена модель має меншу відповідальність.

00:14:59.360 --> 00:15:04.700
Вони, по суті, субсидують ваші оновлення безпеки, оскільки це зменшує ризик величезних виплат.

00:15:04.820 --> 00:15:09.600
Якщо ви цього не робите, ви фактично щомісяця сплачуєте податок на вразливість своєї страховки.

00:15:09.780 --> 00:15:12.720
Ви залишаєте гроші на столі, збільшуючи свою вразливість.

00:15:12.860 --> 00:15:15.600
Окрім премій, нам потрібно поговорити про радіус вибуху.

00:15:15.720 --> 00:15:22.120
Реактивна позиція передбачає, що ви можете стримати порушення після того, як воно станеться, але в агентному середовищі це небезпечна фантазія.

00:15:22.120 --> 00:15:26.480
Одна інфекція в одному правому корпусі може поширитися на кожну підключену систему у вашому ланцюжку.

00:15:26.720 --> 00:15:30.140
Впроваджуючи рукавицю, ви змушуєте структурну ізоляцію своїх даних.

00:15:30.240 --> 00:15:33.420
Ви вчитися шифрувати свої вбудовані дані та обмежувати обсяг вашого вилучення,

00:15:33.560 --> 00:15:36.920
щоб навіть якщо один агент буде викрадено, решта сховища залишалася запечатаною.

00:15:37.040 --> 00:15:41.620
Ви створюєте стратегію глибокого захисту, яка захищає ваші найчутливіші активи з нуля.

00:15:41.820 --> 00:15:43.120
Ви купуєте стійкість.

00:15:43.120 --> 00:15:48.480
Ви гарантуєте, що одна логічна пастка не перетвориться на системний колапс усієї вашої фінансової операції.

00:15:48.660 --> 00:15:52.100
Ви будуєте систему, яка може витримати удар і продовжувати рухатися вперед.

00:15:52.220 --> 00:15:54.340
Дорожня карта – впровадження самовідновлення.

00:15:54.500 --> 00:15:56.900
Як насправді почати будувати це у вашому середовищі?

00:15:57.020 --> 00:15:59.420
Дорожня карта полягає не в купівлі нового програмного пакета.

00:15:59.620 --> 00:16:01.460
Йдеться про реінженіринг вашої видимості.

00:16:01.580 --> 00:16:03.160
Крок перший – це інвентаризація.

00:16:03.320 --> 00:16:04.980
Ви повинні знайти свій тіньовий щі.

00:16:04.980 --> 00:16:09.600
Зараз у вашому середовищі є агенти з ключами АРІ, яких ваша команда безпеки ніколи не бачила.

00:16:09.780 --> 00:16:13.280
Вони були створені розробниками або аналітиками для вирішення конкретної проблеми,

00:16:13.320 --> 00:16:16.840
і вони знаходяться там, підключені до ваших виробничих даних без будь-якого нагляду.

00:16:17.040 --> 00:16:17.900
Проблема проста.

00:16:18.100 --> 00:16:20.120
Ви не можете захистити те, що не бачите.

00:16:20.300 --> 00:16:22.800
Вам потрібен повний аудит кожного автономного робочого процесу,

00:16:22.900 --> 00:16:26.480
що означає ідентифікацію кожного спонсора людини та кожного рівня дозволів по всіх напрямках.

00:16:26.480 --> 00:16:30.660
Ця інвентаризація є першим кроком до відновлення контролю над вашим цифровим периметром.

00:16:30.800 --> 00:16:33.980
Якщо немає спонсора, немає агента, ви його вимикаєте.

00:16:34.140 --> 00:16:37.880
Крок другий – це перехід від простих журналів до відстеження причинно-наслідкових зв'язків.

00:16:38.040 --> 00:16:42.180
Застарілі журнали подій повідомляють вам, що транзакція відбулася, але вони не пояснюють причину.

00:16:42.340 --> 00:16:45.100
Натомість вам потрібно розгорнути багатоетапні міркування.

00:16:45.280 --> 00:16:49.060
Це дозволяє вам відстежувати хід думок агента по всьому ланцюжку виконання.

00:16:49.060 --> 00:16:52.120
Коли агент дає збій, вам не слід дивитися на трасування стека.

00:16:52.320 --> 00:16:57.180
Вам слід дивитися на карту причинно-наслідкових зв'язків, яка точно показує, де міркування було підірвано втручанням суперника.

00:16:57.340 --> 00:17:01.080
Вам потрібно бачити логіку, а не лише результат, щоб по-справжньому зрозуміти ризик.

00:17:01.180 --> 00:17:02.560
Це – основа випробування.

00:17:02.760 --> 00:17:09.480
Без відстеження причинно-наслідкових зв'язків ви просто здогадуєтесь про першу причину своїх невдач і зрештою лікуєте симптом, а не хворобу.

00:17:09.620 --> 00:17:12.360
Крок третій – це впровадження оптимізації угод.

00:17:12.360 --> 00:17:15.520
Саме тут ви балансуєте свою точність та свою стійкість.

00:17:15.620 --> 00:17:22.660
У фінансовому контексті з високими ставками ви не можете мати модель, яка є на 99% точною, але на 0% стійкою до швидкого введення.

00:17:22.820 --> 00:17:27.560
Ви використовуєте дані зі своєї рукавиці для точного налаштування своїх моделей за допомогою мінімізації втрат сурогатів.

00:17:27.700 --> 00:17:33.620
Роблячи це, ви чітко повідомляєте моделі, що залишатися в гармонії під тиском так само важливо, як і давати правильну відповідь.

00:17:33.780 --> 00:17:37.300
Ви вбудовуєте усвідомлення суперника у ваги нейронної мережі.

00:17:37.300 --> 00:17:44.200
Ви робите модель достатньо розумною, щоб знати, коли нею маніпулює зловмисник, який намагається експлуатувати ваші автономні системи.

00:17:44.320 --> 00:17:47.340
Ця дорожня карта трансформує ваш центр операції безпеки.

00:17:47.500 --> 00:17:53.160
Ви переходите від втоми від тривоги, коли люди тонуть у тисячах попереджень з низьким контекстом до автономного сортування.

00:17:53.340 --> 00:17:58.680
Ваша архітектура починає передбачати атаки, тому що вона вже бачила їх мільйон разів у симуляціях рукавиці.

00:17:58.860 --> 00:18:01.060
Ви не просто реагуєте на загрозу сьогодення.

00:18:01.060 --> 00:18:04.000
Ви забезпечуєте автономні робочі процеси завтрашнього дня.

00:18:04.160 --> 00:18:08.180
Ви переходите від світу, де ви орієнтуєтесь у ризиках, до світу, де ви контролюєте контекст.

00:18:08.320 --> 00:18:09.300
Це останній СУ.

00:18:09.500 --> 00:18:13.040
Ось так ви будуєте фінансове сховище, яке фактично витримає агентську еру.

00:18:13.200 --> 00:18:17.420
Ви нарешті будуєте для світу таким, яким він є, а не таким, яким ви хочете його бачити.

00:18:17.660 --> 00:18:18.560
Почніть зараз.

00:18:18.700 --> 00:18:22.920
Тепер ви маєте основу для переходу від прапорців до створення цифрових сховищ.

00:18:23.100 --> 00:18:24.820
Ваше домашнє завдання зрозуміле.

00:18:24.820 --> 00:18:28.660
Проведіть аудит одного автономного робочого процесу цього тижня на предмет відстеження спонсора.

00:18:28.780 --> 00:18:31.820
Якщо ви не можете знайти власника-людину, цей агент є обтяженням.

00:18:31.940 --> 00:18:36.160
Якщо ця зміна в мисленні допомогла вам, залиште відгук про подкаст М365FM.

00:18:36.280 --> 00:18:39.040
Це допомагає більшій кількості лідерів знаходити цей сигнал у шумі.

00:18:39.140 --> 00:18:41.120
Зв'яжіться зі мною, Мірко Пітерсом, у LinkedIn.

00:18:41.420 --> 00:18:43.580
Розкажіть мені, які ризики ще не дають вам спати.

00:18:43.720 --> 00:18:45.420
Ера ручного тестування закінчилася.

00:18:45.420 --> 00:18:48.040
Настав час будувати для майбутньої змагальної реальності.
