WEBVTT

00:00:00.000 --> 00:00:02.560
Ваша проблема з Coopilot насправді не є проблемою функціоналу.

00:00:02.660 --> 00:00:04.600
Це проблема довіри до моделі, яка стоїть за ним.

00:00:04.760 --> 00:00:08.860
Більшість команд досі вважають, що безпека полягає в підказках, дозволах та кількох фільтрах на периферії.

00:00:09.020 --> 00:00:09.700
Але ось у чому річ.

00:00:09.820 --> 00:00:14.220
Зловмисникам не потрібно долати ваш промп, їм достатньо отруїти контекст навколо нього, і саме тут усе ламається.

00:00:14.400 --> 00:00:17.680
Базові фільтри можуть виявити очевидне сміття, але вони пропускають корисне навантаження,

00:00:17.780 --> 00:00:20.240
приховане в електронному листі, файлі SharePoint або поліформи.

00:00:20.240 --> 00:00:25.120
Цей отриманий контент тихо очікує, поки Coopilot не завантажить його і не сприйме як пряму інструкцію.

00:00:25.260 --> 00:00:30.580
Ми вже бачили попереджувальні знаки з витоком Echo в Microsoft 365 Coopilot та витоком Share у Coopilot Studio.

00:00:30.860 --> 00:00:33.540
І реальність така, що патчі не поклали край цій тенденції.

00:00:33.740 --> 00:00:37.200
Оскільки Coopilot може шукати, узагальнювати та діяти в усьому вашому середовищі,

00:00:37.240 --> 00:00:40.940
Microsoft 365 один шкідливий шлях інструкцій може швидко поширитися.

00:00:41.080 --> 00:00:43.740
Тож справа не в додаванні ще однієї панелі керування до вашого стека,

00:00:43.740 --> 00:00:48.840
а в інтеграції Azure Logic Apps для перевірки, оцінки та блокування шкідливих даних до того, як Coopilot почне роботу.

00:00:49.000 --> 00:00:51.520
Справжня небезпека полягає в архітектурі, а не в промпті.

00:00:51.660 --> 00:00:55.780
Стара модель передбачає, що можна убезпечити систему, написавши кращі інструкції навколо самої моделі.

00:00:55.900 --> 00:01:00.340
Ви даєте їй сильний системний промп, додаєте роздільники та пояснюєте користувачам, чого робити не варто.

00:01:00.480 --> 00:01:05.680
Це звучить розумно на папері, але насправді модель не забезпечує довірчих меж так, як це робить система безпеки,

00:01:05.680 --> 00:01:10.340
оскільки вона считує мову через один спільний канал, де інструкції та дані змагаються за увагу.

00:01:10.460 --> 00:01:12.300
Це припущення і є помилковим.

00:01:12.440 --> 00:01:16.400
Якщо модель не може надійно відрізнити прохання користувача про допомогу від документа,

00:01:16.540 --> 00:01:21.540
який тихо наказує ігнорувати попередні інструкції, то точка контролю не може бути лише на рівні промпту.

00:01:21.720 --> 00:01:27.200
Ви намагаєтеся убезпечити поведінку на периферії, тоді як реальний ризик криється в потоці контексту, що надходить до моделі.

00:01:27.200 --> 00:01:31.600
Це стало зрозуміло багатьом командам після появи робочих навантажень Coopilot, що інтенсивно використовують пошук даних.

00:01:31.660 --> 00:01:37.440
Як тільки Coopilot починає залучати електронні листи, файли та історію чатів з Microsoft Graph, поверхня атаки повністю змінюється.

00:01:37.580 --> 00:01:42.040
Ви вже не просто захищаєте розмову, ви захищаєте прямий потік вхідних даних змішаного рівня довіри.

00:01:42.180 --> 00:01:44.900
І на рівень глибше, Coopilot розширює можливості доступу.

00:01:45.060 --> 00:01:48.740
Він не просто відповідає на запитання, він шукає, узагальнює та переходить за посиланнями.

00:01:48.740 --> 00:01:52.140
У деяких налаштуваннях він може навіть запускати інструменти або робочі процеси.

00:01:52.220 --> 00:01:56.760
Тому, коли ненадійний контент потрапляє в цей ланцюжок, модель може перенести цей вплив на чутливі дії.

00:01:56.940 --> 00:02:00.000
Ось чому непрямі ін'єкції промптів зараз мають таке велике значення.

00:02:00.140 --> 00:02:04.800
У продуктивних системах типова атака – це не завжди користувач, який вводить «ігноруй свої правила» у чат.

00:02:05.180 --> 00:02:10.440
Небезпечніша версія криється в отриманому контенті, часто за кілька тижнів до того, як хтось помітить її присутність.

00:02:10.440 --> 00:02:17.760
Шкідливий документ, спеціально створений електронний лист чи запис у формі можуть здаватися невинними, але вони містять інструкції, спрямовані безпосередньо на модель.

00:02:17.900 --> 00:02:24.120
Згодом Coopilot вилучає цей контент як релевантний контекст, змішує його з перевіреними матеріалами і модель починає виконувати хибні вказівки.

00:02:24.260 --> 00:02:27.200
Ланцюжок атаки простий і саме це робить його небезпечним.

00:02:27.380 --> 00:02:35.960
Спочатку зловмисник розміщує контент там, де Coopilot зможе його дістати, потім система витягує його в сеанс і модель сприймає ці дані як інструкцію.

00:02:35.960 --> 00:02:43.920
Після цього вона може почати готувати конфіденційну інформацію, викривляти відповіді або спрямовувати дані до шляхів витоку через посилання чи використання інструментів.

00:02:44.040 --> 00:02:49.300
Тож для керівників це не лише питання гігієни щі, це контроль під час виконання, безпосередньо пов'язаний з управлінням доступом.

00:02:49.440 --> 00:02:58.060
Якщо Coopilot має широкий доступ у межах клієнта, а модель обробляє змішаний контекст без чіткого розмежування, ваша модель безпеки повинна перевіряти дані до їх виконання.

00:02:58.240 --> 00:03:00.860
Як тільки ви це усвідомлюєте, підхід до виправлення також змінюється.

00:03:00.860 --> 00:03:05.040
Ви перестаєте зосереджуватися лише на ідеальних запитах і починаєте впроваджувати контроль там, де рухається контекст.

00:03:05.200 --> 00:03:07.660
Чому базові методи захисту зазнають невдачі в реальних умовах?

00:03:07.780 --> 00:03:10.580
Більшість команд припускаються фундаментальної помилки ще на самому початку.

00:03:10.780 --> 00:03:15.480
Вони вважають, що засоби безпеки, які роками використовувалися в розробці застосунків, так само ефективно працюватимуть для Coopilot.

00:03:15.480 --> 00:03:21.840
Вони створюють сильніші системні запити, додають спеціальні символи до вводу користувача та публікують інструкції для працівників, після чого почуваються в безпеці.

00:03:21.980 --> 00:03:26.440
Ці кроки непогані, і я не закликаю їх припинити, але вони не створюють реального бар'єра безпеки.

00:03:26.600 --> 00:03:31.420
Це лише спроби вмовити модель поводитися належним чином, а в безпеці переконання – це не те саме, що примусове виконання правил.

00:03:31.580 --> 00:03:33.060
Саме тут і криється проблема.

00:03:33.060 --> 00:03:40.820
Системний запит каже моделі, що ви віддаєте перевагу, але він не може завадити шкідливому файлу перехопити увагу моделі, щойно він потрапляє в робочий простір.

00:03:40.980 --> 00:03:46.060
Використання роздільників може допомогти структурувати текст, але це не надає моделі можливості перевіряти рівні доступу.

00:03:46.180 --> 00:03:53.460
Поради для співробітників корисні для запобігання випадковим помилкам, але вони абсолютно без силі проти шкідливого документа чи прихованого корисного навантаження, що міститься у ваших даних.

00:03:53.460 --> 00:03:57.380
Такий контроль існує як пропозиція, а не як суворе правило, що діє під час виконання.

00:03:57.380 --> 00:04:02.420
Regex має схожу проблему. Він швидкий і дешевий, тому його варто використовувати для швидкої первинної перевірки.

00:04:02.580 --> 00:04:07.060
Якщо користувач введе ігноруй усі попередні інструкції, ваша система має виявити це залічені мілісекунди.

00:04:07.180 --> 00:04:12.680
Ви також можете використовувати його для позначення очевидних фраз обходу приватності або SQL-подібних символів у параметрах ваших інструментів.

00:04:12.680 --> 00:04:20.800
Ця частина працює добре, але регулярні вирази розпізнають лише визначені вами шаблони, тому вони не спрацьовують, коли формулювання трохи змінюється або коли атака базується на значенні, а не на конкретних словах.

00:04:20.920 --> 00:04:22.820
Ось чому вам потрібні рівні класифікації.

00:04:23.020 --> 00:04:27.860
Azure AI Content Safety має захист від запитів, який може виявляти як прямі, так і непрямі атаки ін'єкцій.

00:04:27.980 --> 00:04:34.800
У Logic App ви можете викликати ARRI для перевірки запиту, перш ніж модель його побачить, а потім змінити шлях робочого процесу, якщо виявлено атаку.

00:04:34.800 --> 00:04:41.580
Це набагато потужніший засіб контролю, ніж просте зіставлення рядків, оскільки він аналізує намір, що стоїть за словами у запиті та документах разом.

00:04:41.720 --> 00:04:47.220
Навіть тоді самого лише виявлення недостатньо, бо розуміння ризику нічого не варте, якщо ви не маєте способу його зупинити.

00:04:47.380 --> 00:04:51.000
Команди безпеки часто недооцінюють цю конкретну частину процесу.

00:04:51.200 --> 00:04:56.180
Попередження у файлі журналу – це нестримування, і гарний графічний елемент на дашборді також ним не є.

00:04:56.180 --> 00:05:03.300
Навіть сповіщення високого пріоритету у вашій системі не допоможе, якщо корисне навантаження вже пройшло крізь Co-Pilot і запустило дію в системі нижчого рівня.

00:05:03.460 --> 00:05:08.740
Аналіз того, що сталося після факту, корисний для розслідування, але цього недостатньо, коли атака відбувається за секунди.

00:05:08.880 --> 00:05:13.020
Ви маєте справу з моделью, яка може діяти всередині систем, яким ваша організація вже довіряє.

00:05:13.160 --> 00:05:17.280
Існує також проблема хибно-негативних результатів, яку ігнорує більшість маркетингових матеріалів продуктів.

00:05:17.280 --> 00:05:25.540
Непрямі атаки спричиняють величезну частку пропущених виявлень у реальному світі, тому що небезпечна інструкція виглядає цілком нормально, доки модель не поєднує її з рештою розмови.

00:05:25.660 --> 00:05:30.780
До того часу, як людина перегляне результат і зрозуміє, що щось не так, шкідливий ввід уже виконає свою роботу.

00:05:30.960 --> 00:05:32.640
Практична помилка тут дуже проста.

00:05:32.800 --> 00:05:38.020
Команди витрачають весь свій час на спостереження за тим, що каже Co-Pilot, але не контролюють з такою ж дисципліною те, що в нього потрапляє.

00:05:38.020 --> 00:05:42.780
Вони перевіряють відповідь після її створення, дозволяючи недовіреним матеріалам надходити до початку роботи.

00:05:42.900 --> 00:05:44.500
Цей порядок абсолютно хибний.

00:05:44.660 --> 00:05:48.640
Як тільки ви усвідомлюєте цей недолік, змінюється вся мета вашої стратегії безпеки.

00:05:48.760 --> 00:05:54.020
Ви перестаєте питати, як написати безпечніший запит, і починаєте питати, де можна перехопити дані до того, як модель їх виконає.

00:05:54.160 --> 00:05:55.800
Модель бранд Мауера Logic App.

00:05:55.980 --> 00:05:59.980
Якщо метою є перехоплення, нам потрібно подивитися, як цей контроль виглядає на практиці.

00:05:59.980 --> 00:06:04.380
Вам слід використовувати Azure Logic Apps як рівень політики, що стоїть перед фазою виконання.

00:06:04.540 --> 00:06:08.120
Це не має бути пасивний інструмент, який надсилає звіт після того, як шкоду вже завдано.

00:06:08.260 --> 00:06:11.820
Вам потрібно розмістити його безпосередньо на шляху, де знаходяться від користувача та отримані дані,

00:06:11.900 --> 00:06:14.280
щоб їх можна було перевірити до того, як модель візьметься до роботи.

00:06:14.380 --> 00:06:17.920
Ця зміна є ефективною, оскільки Logic Apps створені для оркестрації.

00:06:18.120 --> 00:06:23.680
Він може запускатися за певними подіями, звертатися до інших арі та приймати рішення на основі складних умов.

00:06:23.680 --> 00:06:29.420
Ви можете спрямовувати дані, надсилати сповіщення до Microsoft Sentinel та збагачувати процес зовнішньою інформацією,

00:06:29.520 --> 00:06:31.500
не створюючи спеціальний шлюз безпеки з нуля.

00:06:31.660 --> 00:06:33.660
Ви не намагаєтеся замінити Co-Pilot.

00:06:33.900 --> 00:06:36.760
Ви лише вставляєте рівень контролю у потік навколо нього.

00:06:36.980 --> 00:06:39.340
Логіка цієї моделі навмисно зроблена простою.

00:06:39.500 --> 00:06:42.140
Спочатку ви запускаєте процес, а потім нормалізуєте дані.

00:06:42.280 --> 00:06:46.320
Ви перевіряєте їх, оцінюєте ризик, приймаєте рішення і, нарешті, спрямовуєте або реєструєте результат.

00:06:46.520 --> 00:06:47.660
Це і є весь шаблон.

00:06:47.660 --> 00:06:52.900
Коли запит або контент потрапляє у робочий процес, Logic App отримує цей пакет даних і стандартизує його.

00:06:53.080 --> 00:06:57.260
Необроблені вхідні дані зазвичай хаотичні, оскільки різні конектори обробляють їх по-різному.

00:06:57.460 --> 00:07:03.040
Електронний лист виглядає інакше, ніж запис у формі, а вміст файлу чи аргументи інструментів мають різні метадані та поля.

00:07:03.200 --> 00:07:08.320
Якщо ви спробуєте провести перевірку до нормалізації даних, ваша система виявлення буде надзвичайно шумною.

00:07:08.480 --> 00:07:12.140
Як тільки дані приведено до єдиного формату, починається перший етап перевірки.

00:07:12.140 --> 00:07:19.520
Ось тут ваші власні регулярні вирази все ще мають роботу. Це не остаточний суддя чи магічне рішення, але це працює як дуже швидкий фільтр на межі вашої системи.

00:07:19.620 --> 00:07:26.920
Ви можете швидко просканувати текст на наявність команд перевизначення, підказок щодо кодування або підозрілих шаблонів у параметрах інструментів для миттєвого сортування ситуації.

00:07:27.080 --> 00:07:30.780
Потім ви переходите до другого етапу перевірки, який глибше аналізує контент.

00:07:30.960 --> 00:07:34.520
Саме тут ви викликаєте захисні механізми Azure AI Content Safety для промптів.

00:07:34.520 --> 00:07:40.840
Logic App надсилає промп користувача та будь-які отримані документи до АРІ, а потім розгалужується залежно від того, чи було виявлено атаку.

00:07:40.980 --> 00:07:45.340
Це важливо, оскільки ін'єкції промптів не завжди виглядають як очевидний комп'ютерний код.

00:07:45.480 --> 00:07:50.040
Іноді небезпека стає зрозумілою лише коли промп і документ оцінюються як єдине ціле.

00:07:50.220 --> 00:07:55.460
Існує ще один рівень, який перетворює це з простого фільтра на реальний засіб безпеки, і це аналітика загроз.

00:07:55.460 --> 00:08:01.660
Якщо контент посилається на відомий шкідливий домен або підозрілу URL-адресу, який ваша команда вже бачила раніше, це має змінити ваше рішення.

00:08:01.820 --> 00:08:07.840
Logic Apps можуть перевіряти подію за допомогою аналітики загроз DaFenda або інших сторонніх каналів, щоб додати показник достовірності до оцінки ризику.

00:08:08.000 --> 00:08:15.500
Це означає, що дивний шаблон від перевіреного джерела може бути пропущений, тоді як той самий шаблон з ворожою репутацією буде негайно заблоковано.

00:08:15.660 --> 00:08:19.860
Це перетворює ваше дерево рішень на щось більше, ніж просто вибір «так чи ні».

00:08:19.860 --> 00:08:25.100
Ви можете дозволити запит, якщо рівень ризику низький, або очистити його, видаливши небезпечні фрагменти.

00:08:25.280 --> 00:08:28.680
Ви можете перемістити дані на карантин, якщо джерело потребує ручної перевірки.

00:08:28.860 --> 00:08:33.300
Якщо дія стосується конфіденційних даних, ви можете навіть вимагати схвалення людиною, перш ніж вона буде виконана.

00:08:33.460 --> 00:08:37.320
Звісно, якщо сигнал достатньо сильний, ви просто блокуєте запит і надсилаєте сповіщення.

00:08:37.520 --> 00:08:40.720
Саме такий вибір варіантів робить цю модель ефективною для бізнесу.

00:08:40.720 --> 00:08:48.340
Команди безпеки часто стримують впровадження, відхиляючи будь-який сумнівний випадок, а коли контроль занадто суворий, люди шукають способи його оминути.

00:08:48.520 --> 00:08:53.020
Робочий процес з оцінюванням ризиків дозволяє реагувати на основі реальних загроз, а не паніки.

00:08:53.200 --> 00:08:56.800
Ось чому Logic Apps підходить краще, ніж набір окремих інструментів.

00:08:56.940 --> 00:09:01.200
Він уже підключений до екосистеми Microsoft і ідеально працює зі сценаріями Sentinel.

00:09:01.460 --> 00:09:06.300
Ви можете ініціювати перевірку безпеки контенту, шукати дані про загрози та надсилати події аудиту в одному місці.

00:09:06.300 --> 00:09:11.740
Вам не потрібен довгий цикл розробки щоразу, коли зловмисник змінює формулювання або з'являється новий спосіб доступу до системи.

00:09:11.820 --> 00:09:14.420
Правило, завдяки якому все це працює, дуже просте.

00:09:14.620 --> 00:09:18.680
Ви повинні вважати кожну частину контексту ненадійною, доки вона не пройде оцінювання.

00:09:18.840 --> 00:09:23.840
Це стосується не лише запиту користувача, а й тіла листа, завантаженого файлу та поля форми SharePoint.

00:09:24.060 --> 00:09:28.760
Це також охоплює корисне навантаження коннектора, фрагменти отриманих документів і навіть аргументи інструментів.

00:09:28.760 --> 00:09:30.300
Усе це має бути перевірено.

00:09:30.300 --> 00:09:35.160
Як тільки ви припускаєте, що одне з цих джерел безпечне за замовчуванням, ви створюєте шпарину для зловмисника.

00:09:35.340 --> 00:09:42.020
Коли ваш робочий процес послідовно застосовує це правило, вам більше не доведеться покладатися на те, що Коупайлат самостійно відрізнятиме добрі дані від поганих.

00:09:42.120 --> 00:09:44.700
Процес перетворюється на систему контрольованого входу.

00:09:44.820 --> 00:09:52.000
На папері це звучить як чудова теорія, але людей насправді цікавить, що відбувається, коли небезпечний пакет даних потрапляє в робочий процес у реальних умовах.

00:09:52.000 --> 00:10:01.460
Те, що робочий процес насправді робить під час виконання, коли система стає активною, це не просто сканування тексту на наявність поганих слів, він створює повну картину запиту перед ухваленням будь-якого рішення.

00:10:01.620 --> 00:10:10.560
Подія потрапляє у вашу точку входу, можливо, це надсилання форми, потік електронної пошти або завантаження документа, пов'язане з процесом Коупайлат, і LogiCaps негайно доповнює цю подію методами.

00:10:10.740 --> 00:10:16.240
Система відстежує, хто надіслав запит, який додаток його обробив, звідки походить файл, і що система збирається робити далі.

00:10:16.240 --> 00:10:21.820
Цей додатковий контекст є життєво важливим, оскільки одне й те саме речення може означати зовсім різні речі, залежно від того, звідки воно походить.

00:10:21.900 --> 00:10:25.600
Після отримання цих даних корисне навантаження розподіляється за певними зонами довіри.

00:10:25.740 --> 00:10:27.600
Ви повинні чітко підтримувати цей поділ.

00:10:27.760 --> 00:10:33.800
Запит користувача йде в одну категорію, отримані документи – в іншу, а історія розмов або параметри інструментів отримують власний простір.

00:10:33.800 --> 00:10:41.880
Якщо ви змішаєте все це зарано, ви втратите здатність визначити, звідки насправді надійшла ризикована інструкція, і процес перевірки перетвориться на суцільне вгадування.

00:10:42.080 --> 00:10:48.340
Багато команд пропускають цей крок, бо об'єднання всього здається швидшим, але насправді це лише приховує шлях, яким вам потрібно слідувати.

00:10:48.540 --> 00:10:50.860
Далі робочий процес переходить до нормалізації.

00:10:51.060 --> 00:10:54.940
Це нодна частина роботи, але саме вона робить ваше виявлення по-справжньому ефективним.

00:10:54.940 --> 00:11:03.120
Вам потрібно видалити розмітку, що додає шуму, де кодувати URL, кодування або фрагменти Base64, а також розгорнути вкладені поля, щоб перевірка виконувалася за стабільною структурою.

00:11:03.280 --> 00:11:10.440
Якщо один конектор надсилає форматований текст, а інший – фрагменти JSON, ви хочете, щоб усі вони були зведені до полів, які ваші перевірки можуть вчитувати послідовно.

00:11:10.580 --> 00:11:14.980
Без цього ваша логіка витрачає більше часу на боротьбу зі змінами формату, ніж на виявлення реальних атак.

00:11:15.100 --> 00:11:18.300
Після очищення даних спочатку виконується швидкий аналіз шаблонів.

00:11:18.300 --> 00:11:20.760
Це має бути недорогий, прямий і швидкий процес.

00:11:20.880 --> 00:11:27.660
Ви шукаєте фрази, що намагаються змінити поведінку системи, наприклад, варіації «ігноруй усі попередні інструкції» або «системне перевизначення».

00:11:27.660 --> 00:11:34.160
Ви також шукаєте мовні конструкції витягування даних, де хтось просить розкрити конфіденційний матеріал, вивантажити секрети або обійти налаштування приватності.

00:11:34.280 --> 00:11:41.260
У Logic Apps команди зазвичай обробляють це через вирази або кроки створення, які встановлюють позначки, замість того, щоб негайно блокувати запит на кожне окреме спрацьовування.

00:11:41.260 --> 00:11:45.520
Це маркування важливе, тому що окрема фраза не завжди означає, що хтось діє зловмисно.

00:11:45.680 --> 00:11:51.260
Людина, що працює в межах легітимного робочого процесу безпеки, може буквально запитувати про розгляд методів обробки конфіденційного вмісту.

00:11:51.400 --> 00:11:57.120
Щоб вирішити це, робочий процес надсилає розширене корисне навантаження до Azure AI Content Safety Prompt Shields для глибшого аналізу.

00:11:57.260 --> 00:12:04.140
Виклик АРІ включає як запит користувача, так і отримані документи, оскільки взаємозв'язок між ними – це зазвичай те місце, де ховається справжня проблема.

00:12:04.140 --> 00:12:10.400
Сервіс повертає простий сигнал, і якщо виявлено атаку, робочий процес просто змінює шлях до того, як станеться виклик моделі.

00:12:10.500 --> 00:12:12.620
Потім вам потрібно додати зовнішній контекст.

00:12:12.780 --> 00:12:16.100
Пошуб даних про загрози надає робочому процесу ще одну призму для аналізу.

00:12:16.220 --> 00:12:23.860
Ви можете запитати Microsoft Defenda Threat Intelligence або будь-яке інше джерело TAXII, якому довіряєте, щоб перевірити домени, URL-адреси або індикатори, пов'язані зі зловживаннями.

00:12:23.860 --> 00:12:30.500
Вам слід використовувати оцінки достовірності, де вони доступні, оскільки репутація джерела повинна впливати на фінальний бал, а не замінювати його повністю.

00:12:30.660 --> 00:12:36.500
Слабкий корисний навантаження з ризикованого джерела завжди має оцінюватися вище, ніж те саме навантаження від надійного внутрішнього процесу.

00:12:36.620 --> 00:12:38.800
Зрештою, система створює загальну оцінку.

00:12:39.000 --> 00:12:44.220
Вона враховує силу збігу за шаблоном, результат роботи захисних екранів, репутацію джерела та чутливість запитованої дії.

00:12:44.220 --> 00:12:50.080
Запит із низьким рівнем ризику, наприклад, у загальнення публічної статті, немає такої ж ваги, як запит, що може розкрити захищені файли.

00:12:50.240 --> 00:12:52.580
Саме ця об'єднана оцінка визначає подальший шлях.

00:12:52.700 --> 00:12:54.580
Безпечні події продовжуються за планом.

00:12:54.760 --> 00:12:58.280
Випадки із середнім ризиком очищуються або спрямовуються на безпечний резервний варіант.

00:12:58.440 --> 00:13:01.400
А випадки з високим ризиком блокуються ще до запуску Co-Pilot.

00:13:01.600 --> 00:13:04.960
Усе записується в журнал аудиту зі збереженням шляху прийняття рішення.

00:13:04.960 --> 00:13:09.400
Ці заблоковані події показують, де зростає напруга і які джерела постійно спричиняють проблеми.

00:13:09.500 --> 00:13:12.180
Коли ви бачите, які шаблони проникають у ваші бізнес-процеси,

00:13:12.280 --> 00:13:15.540
ви отримуєте дані, необхідні для налаштування системи для наступного етапу.

00:13:15.680 --> 00:13:18.820
Як налаштувати систему для мінімізації шуму та ефективного використання в бізнесі?

00:13:18.940 --> 00:13:21.360
Коли система запрацювала, характер роботи змінюється.

00:13:21.480 --> 00:13:23.720
Побудова потоку – це насправді найлегша частина.

00:13:23.860 --> 00:13:26.860
Налаштування системи так, щоб люди їй довіряли і не шукали обхідних шляхів,

00:13:26.860 --> 00:13:30.440
визначає, чи стане вона реальним інструментом безпеки, чи черговим невдалим експериментом.

00:13:30.540 --> 00:13:34.200
Якщо система створює забагато перешкод, користувачі просто знайдуть спосіб її обійти,

00:13:34.360 --> 00:13:35.520
що зробить весь проєкт марним.

00:13:35.700 --> 00:13:37.420
Вам слід почати з війського охоплення.

00:13:37.560 --> 00:13:40.720
Не намагайтеся відстежувати кожну точку взаємодії з Co-Pilot у перший же день.

00:13:40.900 --> 00:13:43.420
Натомість оберіть місця з найвищим ризиком і чітким шляхом,

00:13:43.420 --> 00:13:46.360
як от дії з використанням інструментів або цінні джерела даних.

00:13:46.360 --> 00:13:49.780
Можна почати з одного процесу на базі SharePoint або конкретного робочого процесу з формами,

00:13:49.900 --> 00:13:51.920
щоб отримати сигнал, який можна реально інтерпретувати.

00:13:52.100 --> 00:13:55.260
Малий обсяг роботи дає простір для навчання, не потопаючи в даних.

00:13:55.460 --> 00:13:58.660
Налаштовуючи початкові перевірки, орієнтуйтеся на повноту охоплення,

00:13:58.760 --> 00:14:00.100
а не на абсолютно впевненість.

00:14:00.100 --> 00:14:02.860
Перший етап має виявляти підозрілу мову заздалегідь,

00:14:02.940 --> 00:14:05.040
а не доводити злий намір без жодних сумнівів.

00:14:05.180 --> 00:14:07.880
Якщо вимагати від шаблонів ідеальності, вони стають крихкими

00:14:07.880 --> 00:14:09.920
і починають пропускати саме те, що важливо.

00:14:09.920 --> 00:14:12.520
Краще дозволити системі трохи більше позначати на початку,

00:14:12.580 --> 00:14:15.940
а потім за допомогою наступних перевірок додавати контекст для зменшення шуму.

00:14:16.060 --> 00:14:18.580
Ось чому оцінювання важливіше за поодинокі збіги.

00:14:18.760 --> 00:14:21.280
Збіг фрази сам по собі не завжди має скасовувати запит,

00:14:21.280 --> 00:14:24.200
але коли ви поєднуєте цей збіг із сигналом захисного екрана

00:14:24.200 --> 00:14:26.420
та ризикованим джерелом, ситуація змінюється.

00:14:26.580 --> 00:14:30.640
Слабкі сигнали повинні накопичуватися, а сильні – прискорювати блокування.

00:14:30.800 --> 00:14:33.600
Це фундаментальна різниця між жорстким, дратівливим фільтром

00:14:33.600 --> 00:14:36.120
і моделью політик, яка дійсно працює для бізнесу.

00:14:36.260 --> 00:14:38.960
Вам також потрібно встановити ліміт на кількість помилкових спрацювань.

00:14:39.100 --> 00:14:41.740
Намагайтеся тримати цей показник нижче 2%, адже як тільки люди відчують,

00:14:41.820 --> 00:14:44.020
що контроль заважає їхній роботі, вони перестануть довіряти системі.

00:14:44.020 --> 00:14:45.960
Саме тоді починаються обхідні шляхи.

00:14:46.080 --> 00:14:48.320
Користувачі копіюватимуть текст у некеровані інструменти,

00:14:48.400 --> 00:14:49.980
команди створюватимуть приховані процеси,

00:14:50.040 --> 00:14:51.780
а адміністратори проситимуть про повні винятки.

00:14:51.780 --> 00:14:54.580
Система контролю зруйнується зсередини не через збій виявлення,

00:14:54.660 --> 00:14:56.720
а через те, що тертя стане занадто великим.

00:14:56.900 --> 00:14:59.600
Щоб запобігти цьому, ви повинні стежити за правильними показниками.

00:14:59.740 --> 00:15:02.860
Забудьте про показні інформаційні панелі та зосередтеся на середньому часі виявлення.

00:15:03.000 --> 00:15:06.360
Намагайтеся тримати його нижче 15 хвилин для всього, що вимагає ручної перевірки.

00:15:06.500 --> 00:15:08.660
Вам також варто відстежувати час автоматизованого стримування

00:15:08.660 --> 00:15:11.340
і прагнути до менш ніж 5 хвилин, де блокування можна виконати безпечно.

00:15:11.340 --> 00:15:15.700
Якщо робочий процес постійно спрацьовує, але ніколи не впливає на прийняття рішень, це просто шум.

00:15:15.840 --> 00:15:18.660
Вартість – ще один фактор, який потребує постійного налаштування.

00:15:18.820 --> 00:15:21.600
Logic Apps із моделю споживання чудово підходять для нерівномірних навантажень

00:15:21.600 --> 00:15:24.440
або невеликих пілотних проєктів, оскільки ви платите лише за виконані операції.

00:15:24.580 --> 00:15:27.580
Проте стандартний план є доцільнішим, коли обсяг подій стає передбачуваним

00:15:27.580 --> 00:15:30.440
і настільки високим, що витрати за кожен запуск починають відчуватися.

00:15:30.580 --> 00:15:31.400
Не вгадуйте це.

00:15:31.400 --> 00:15:35.460
Виміряйте фактичну кількість тригерів та обсяги даних перед тим, як обрати модель оплати.

00:15:35.640 --> 00:15:37.780
Будьте обережні з тим, як ви керуєте сховищем.

00:15:37.920 --> 00:15:41.040
Вам потрібно достатньо історії запусків для аналізу інцидентів та доказів управління,

00:15:41.140 --> 00:15:43.460
але не потрібна величезна база даних із конфіденційним контентом.

00:15:43.600 --> 00:15:45.960
Зберігайте лише ті поля, що пояснюють причини рішень,

00:15:46.020 --> 00:15:48.580
і позбавляйтеся непотрібного, що створює ризики зберігання.

00:15:48.580 --> 00:15:52.440
Надмірне накопичення даних може перетворити ваш інструмент безпеки на загрозу конфіденційності,

00:15:52.520 --> 00:15:53.620
якщо ви не будете обережні.

00:15:53.780 --> 00:15:56.720
Нарешті, пов'яжіть усі ці налаштування з вашим ширшим управлінням.

00:15:56.840 --> 00:16:00.740
Зіставте робочий процес із функціями NIS-TIRMF, такими як вимірювання та управління,

00:16:00.820 --> 00:16:02.780
і пов'яжіть його з мітками чутливості даних у перв'ю.

00:16:02.900 --> 00:16:05.080
Іноді найкраще рішення – це нерозумніший детектор,

00:16:05.200 --> 00:16:08.820
а просто обмеження зайвого доступу в робочому процесі, перш ніж це стане проблемою.

00:16:08.820 --> 00:16:13.060
Коли ви досягаєте цього рівня, ви більше не обговорюєте безпеку ще абстрактно.

00:16:13.200 --> 00:16:16.120
Ви керуєте реальною моделью роботи з порогами та компромісами,

00:16:16.240 --> 00:16:17.980
якими бізнес може реально оперувати.

00:16:18.260 --> 00:16:19.820
Що це змінює для лідерів та архітекторів?

00:16:20.480 --> 00:16:21.900
Після впровадження цього механізму,

00:16:21.940 --> 00:16:24.340
Coopilot перестає діяти як система сліпої довіри,

00:16:24.420 --> 00:16:26.120
і саме тут відбувається справжній сув.

00:16:26.240 --> 00:16:28.840
До цієї зміни модель отримувала безладний змішаний контекст,

00:16:28.960 --> 00:16:31.780
а ваша команда сподівалася, що правильні інструкції переможуть.

00:16:31.780 --> 00:16:34.980
Тепер цей контекст перевіряється, оцінюється та спрямовується ще до того,

00:16:35.140 --> 00:16:36.520
як модель отримає доступ до нього.

00:16:36.700 --> 00:16:39.000
Результат безпеки – це вже не просто абстрактна політика,

00:16:39.100 --> 00:16:41.040
адже тепер він працює як контрольоване виконання.

00:16:41.220 --> 00:16:44.820
Для архітекторів це змінює місце, де безпека фактично перебуває у вашому дизайні.

00:16:44.960 --> 00:16:47.380
Це більше не обмежується лише налаштуваннями клієнта,

00:16:47.520 --> 00:16:48.960
дозволами чи шаблонами запитів,

00:16:49.020 --> 00:16:51.700
а натомість розташовується безпосередньо на шляху транзакції.

00:16:51.880 --> 00:16:54.080
Кожен важливий запит отримує точку перехоплення,

00:16:54.080 --> 00:16:57.480
а кожна конфіденційна дія слідує за визначеним шляхом прийняття рішень.

00:16:57.620 --> 00:17:00.000
Це означає, що кожен новий конектор, агент або плагін

00:17:00.000 --> 00:17:01.780
стає об'єктом оцінки як вхідний шлях,

00:17:01.860 --> 00:17:03.680
а не просто чергова функція продуктивності.

00:17:03.800 --> 00:17:05.960
Це життєво важливо, оскільки відхилення архітектури

00:17:05.960 --> 00:17:07.720
зазвичай є причиною провалу таких програм.

00:17:07.940 --> 00:17:10.300
Одна команда впроваджує ков-пайлот для одного сценарію,

00:17:10.380 --> 00:17:11.920
потім інша команда підключає форму,

00:17:11.980 --> 00:17:15.240
і зрештою хтось додає робочий процес або надає агенту доступ до інструментів.

00:17:15.240 --> 00:17:17.580
Кожна з цих змін виглядає незначною сама по собі,

00:17:17.660 --> 00:17:20.020
але разом вони створюють набагато більший вектор атаки,

00:17:20.180 --> 00:17:21.080
ніж будь-хто планував.

00:17:21.180 --> 00:17:23.380
Якщо ви не вбудуєте перехоплення у свою операційну модель,

00:17:23.500 --> 00:17:25.120
середовище розширюватиметься набагато швидше,

00:17:25.220 --> 00:17:26.980
ніж ваші засоби контролю зможуть за цим встигати.

00:17:27.140 --> 00:17:29.060
Для керівників з безпеки цей підхід нарешті вирішує

00:17:29.060 --> 00:17:32.080
проблему розмитої відповідальності, яка переслідує більшість організацій.

00:17:32.240 --> 00:17:34.080
Зараз ризики ков-пайлот зазвичай випадають

00:17:34.080 --> 00:17:36.060
із зони відповідальності між різними командами.

00:17:36.200 --> 00:17:40.540
СОСі бачать сповіщення, адміністратори Microsoft 365 бачать конфігурацію,

00:17:40.600 --> 00:17:42.760
а власника AI хвилює лише рівень впровадження.

00:17:42.920 --> 00:17:45.160
Коли ви використовуєте шлях контролю через Logic Apps,

00:17:45.300 --> 00:17:48.100
усі ці групи нарешті можуть працювати за єдиною моделью реагування.

00:17:48.300 --> 00:17:49.980
Вони використовують той самий журнал подій,

00:17:49.980 --> 00:17:52.260
ту саму логіку оцінювання та ту саму історію гілок,

00:17:52.380 --> 00:17:55.120
що зменшує плутанину, коли ризикований запит чи шкідливий документ

00:17:55.120 --> 00:17:56.540
з'являється у робочому процесі.

00:17:56.540 --> 00:17:59.740
Бізнес-сторона цього питання набагато простіша, ніж очікують люди.

00:17:59.920 --> 00:18:01.880
Заблокувати загрозу на ранньому етапі завжди дешевше,

00:18:01.960 --> 00:18:03.660
ніж намагатися розгрібати наслідки пізніше.

00:18:03.780 --> 00:18:07.540
Очищення включає розслідування, юридичні перевірки та перерви в роботі користувачів

00:18:07.540 --> 00:18:10.180
і зазвичай закінчується неприємними переглядами прав доступу,

00:18:10.240 --> 00:18:11.780
які слід було провести до розгортання.

00:18:11.780 --> 00:18:14.040
Керівникам не потрібні довгі лекції з етики AI.

00:18:14.260 --> 00:18:16.340
Щоб зрозуміти це, їм просто потрібно побачити,

00:18:16.340 --> 00:18:18.400
що контроль під час виконання коштує дешевше,

00:18:18.540 --> 00:18:21.700
ніж некеровані ризики в системах, якими щодня користується персонал.

00:18:21.860 --> 00:18:24.380
Для топ-менеджерів це піднімає незручне питання про те,

00:18:24.520 --> 00:18:25.560
де саме криється ризик.

00:18:25.720 --> 00:18:28.840
Ризики AI більше не перебуває в пісочниці чи лабораторному пілоті,

00:18:28.960 --> 00:18:31.860
тепер він знаходиться у Word, Outlook, SharePoint та Teams.

00:18:31.860 --> 00:18:35.240
Люди вже вважають ці місця достатньо безпечними для швидкої роботи

00:18:35.240 --> 00:18:38.200
і саме ця запозичена довіра підвищує ставки для компанії.

00:18:38.340 --> 00:18:41.660
Помилковий робочий процес у експериментальному додатку – це локальна проблема,

00:18:41.660 --> 00:18:46.020
але помилковий процес у вашому повсякденному стеку продуктивності – це зовсім інша історія.

00:18:46.200 --> 00:18:48.960
Ваш шлях впровадження має залишатися невеликим і дуже виваженим.

00:18:49.100 --> 00:18:52.280
Почніть з одного сценарію використання, одного тригера та однієї моделі оцінювання.

00:18:52.440 --> 00:18:56.140
Оберіть напрямок, де дані дійсно важливі, а поведінку системи вам легко спостерігати.

00:18:56.140 --> 00:19:00.100
Ви маєте довести, що робочий процес виявляє ризиковані вхідні дані та спрямовує безпечні,

00:19:00.180 --> 00:19:02.660
надаючи людям корисну інформацію, коли потрібна перевірка.

00:19:02.660 --> 00:19:05.560
Коли ви доведете, що це працює, можна починати розширення.

00:19:05.720 --> 00:19:09.360
Згодом ви зможете додати виявлення аномалій або засоби контролю виводу, де це доречно.

00:19:09.560 --> 00:19:12.120
Ви можете додати глибший моніторинг зловживання інструментами,

00:19:12.240 --> 00:19:15.440
але перший бар'єр має бути там, де недовірений контекст потрапляє в систему.

00:19:15.440 --> 00:19:20.700
Якщо цей перший бар'єр слабкий, будь-який наступний контроль лише намагатиметься компенсувати погану відправну точку.

00:19:20.900 --> 00:19:22.800
Зміна підходу насправді дуже проста.

00:19:22.960 --> 00:19:25.740
Припиніть сприймати промп ін'єкції як проблему формулювання

00:19:25.740 --> 00:19:29.900
і почніть сприймати їх як контроль під час виконання недовіреного контексту в Co-Pilot.

00:19:30.140 --> 00:19:34.100
Знайдіть час цього тижня, щоб відобразити один робочий процес Co-Pilot від початку до кінця.

00:19:34.280 --> 00:19:36.940
Знайдіть останню безпечну точку перехоплення перед виконанням

00:19:36.940 --> 00:19:40.420
і створіть логічний додаток, який оцінює, блокує та реєструє цей шлях.

00:19:40.420 --> 00:19:44.680
Якщо вам потрібно більше пробезпеку Co-Pilot без зайвих слів, підписуйтеся та залишайте відгук.

00:19:44.820 --> 00:19:47.480
Ви також можете зв'язатися зі мною, Мірко Петерсом, у LinkedIn,

00:19:47.480 --> 00:19:50.940
щоб розповісти про конкретний сценарій орендаря, який ви намагаєтеся захистити.
