WEBVTT

00:00:00.000 --> 00:00:03.700
Ваша проблема с Copilot на самом деле не в функционале. Это проблема доверия к модели,

00:00:03.840 --> 00:00:07.080
которая за ним стоит. Большинство команд до сих пор считают, что безопасность обеспечивается

00:00:07.080 --> 00:00:10.520
промптами, правами доступа и парой фильтров на периметре. Но суть в том, что злоумышленникам

00:00:10.520 --> 00:00:14.260
не нужно обходить ваш промп, им достаточно отравить контекст вокруг него, и вот тут все ломается.

00:00:14.480 --> 00:00:17.780
Базовые фильтры могут отловить явный мусор, но они пропускают полезную нагрузку,

00:00:17.940 --> 00:00:22.080
скрытую в письме, файле SharePoint или поле формы. Этот полученный контент спокойно ждет своего

00:00:22.080 --> 00:00:26.380
часа, пока Copilot не извлечет его и не воспримет как прямую инструкцию. Мы уже видели тревожные

00:00:26.380 --> 00:00:31.540
сигналы, утечку ЭКО в Microsoft 365 Copilot и утечку шар в Copilot Studio. И реальность такова,

00:00:31.740 --> 00:00:35.200
что исправления не положили конец этой проблеме. Поскольку Copilot может искать,

00:00:35.360 --> 00:00:39.780
обобщать и действовать во всей вашей среде Microsoft 365, один вредоносный путь инструкции

00:00:39.780 --> 00:00:43.360
может быстро распространиться. Поэтому дело не в добавлении еще одной панели мониторинга,

00:00:43.460 --> 00:00:47.320
а в том, чтобы поставить Azure Logic Apps на пути для проверки, оценки и блокировки вредоносных

00:00:47.320 --> 00:00:51.540
данных до того, как Copilot запустится. Настоящая опасность кроется в архитектуре, а не в промпте.

00:00:51.720 --> 00:00:54.220
Старая модель предполагает, что можно сохранить систему безопасности,

00:00:54.220 --> 00:00:57.420
составляя лучшие инструкции вокруг модели. Вы даете ей строгий системный промп,

00:00:57.600 --> 00:01:01.800
добавляете разделители и говорите пользователям, чего делать нельзя. На бумаге это звучит разумно,

00:01:01.900 --> 00:01:06.060
но в реальности модель не обеспечивает границы доверия так, как это делала бы система безопасности,

00:01:06.200 --> 00:01:10.060
потому что она считывает язык в одном общем канале, где инструкции и данные конкурируют за

00:01:10.060 --> 00:01:14.980
внимание. Это предположение ошибочно. Если модель не может надежно отличить просьбу пользователя

00:01:14.980 --> 00:01:18.780
о помощи от документа, который незаметно велит ей игнорировать предыдущие инструкции,

00:01:18.980 --> 00:01:23.280
то точка контроля не может находиться только на уровне промпта. Вы пытаетесь обезопасить поведение

00:01:23.280 --> 00:01:27.300
на периметре, в то время как реальный риск заключается в потоке контекста, поступающем в модель.

00:01:27.420 --> 00:01:30.720
Многие команды осознали это, когда появились рабочие нагрузки Copilot с интенсивным

00:01:30.720 --> 00:01:34.180
использованием поиска. В тот момент, когда Copilot начинает извлекать данные из писем,

00:01:34.360 --> 00:01:37.480
файлов и истории чатов Microsoft Graph, поверхность атаки полностью меняется.

00:01:37.620 --> 00:01:41.560
Вы больше не просто защищаете диалог, вы защищаете поток данных с разным уровнем доверия в

00:01:41.560 --> 00:01:46.040
реальном времени. И на уровень глубже Copilot расширяет возможности доступа. Он не просто отвечает

00:01:46.040 --> 00:01:50.240
на вопросы, он находит, обобщает и следует ссылкам. В некоторых конфигурациях он может даже

00:01:50.240 --> 00:01:54.040
запускать инструменты или рабочие процессы. Поэтому, когда в эту цепочку попадает недоверенный

00:01:54.040 --> 00:01:57.260
контент, модель может перенести это влияние на выполнение конфиденциальных действий.

00:01:57.380 --> 00:02:01.740
Вот почему непрямая инъекция промпта сейчас так важна. В рабочих системах типичная атака — это

00:02:01.740 --> 00:02:05.000
не всегда пользователь, который печатает «Игнорируй свои правила» в окне чата.

00:02:05.220 --> 00:02:09.740
Более опасная версия скрывается внутри извлеченного контента, зачастую неделями оставаясь

00:02:09.740 --> 00:02:13.820
незамеченной. Отравленный, документ, специально составленное письмо или запись в форме могут

00:02:13.820 --> 00:02:17.920
казаться безобидными для людей, но они содержат инструкции, направленные непосредственно на модель.

00:02:17.920 --> 00:02:21.800
Позже Капайлот извлекает этот контент как релевантный контекст, смешивает его с доверенными

00:02:21.800 --> 00:02:26.120
данными, и модель начинает следовать неверным указаниям. Цепочка атаки проста, и именно это

00:02:26.120 --> 00:02:30.520
делает ее опасной. Сначала злоумышленник размещает контент там, где Капайлот может его найти,

00:02:30.720 --> 00:02:34.500
затем извлечение добавляет этот контент в сессию, после чего модель воспринимает полезную

00:02:34.500 --> 00:02:38.740
нагрузку как инструкцию, а не как данные. После этого она может начать подготовку конфиденциальной

00:02:38.740 --> 00:02:42.960
информации, формировать ответы или направлять данные по пути эксфильтрации через ссылки или

00:02:42.960 --> 00:02:46.860
использование инструментов. Поэтому для руководителей это не просто гигиена, и это контроль

00:02:46.860 --> 00:02:51.040
выполнения, напрямую связанные с управлением доступом. Если Капайлот имеет широкий доступ в рамках

00:02:51.040 --> 00:02:54.460
клиента, а модель использует контекст с разным уровнем доверия без четкого разделения,

00:02:54.620 --> 00:02:58.300
то ваша модель безопасности должна учитывать все, что попадает в поток до начала выполнения.

00:02:58.460 --> 00:03:02.100
Как только вы это осознаете, меняется и подход к исправлению. Вы перестаете зацикливаться на

00:03:02.100 --> 00:03:05.180
идеальных промптах и начинаете внедрять средства защиты там, где перемещается контекст.

00:03:05.300 --> 00:03:07.740
Почему базовые средства защиты не работают в промышленной среде?

00:03:07.920 --> 00:03:12.120
Большинство команд совершают фундаментальную ошибку в самом начале. Они полагают, что средства защиты,

00:03:12.320 --> 00:03:15.460
которые годами использовались в разработке приложений, будут также эффективны для Капайлот.

00:03:15.460 --> 00:03:19.220
Они пишут более строгий системный промп, заключают пользовательский ввод в специальные символы и

00:03:19.220 --> 00:03:22.720
публикуют рекомендации для сотрудников, чувствуя себя в безопасности. Эти шаги неплохи,

00:03:22.880 --> 00:03:26.640
и я не призываю вас прекратить их выполнение, но они не создают реального периметра безопасности.

00:03:26.780 --> 00:03:30.520
Они лишь пытаются убедить модель вести себя правильно, а в безопасности убеждения это не то же

00:03:30.520 --> 00:03:35.300
самое, что принуждение. Именно здесь кроется проблема. Системный промп говорит модели, что вы предпочли

00:03:35.300 --> 00:03:39.480
бы сделать, но он не может помешать вредоносному файлу завладеть вниманием модели, как только этот

00:03:39.480 --> 00:03:43.340
файл попадает в рабочую область. Использование разделителей может помочь структурировать текст,

00:03:43.340 --> 00:03:47.260
но это не дает модели способа проверить допуски безопасности. Рекомендации для сотрудников

00:03:47.260 --> 00:03:50.640
отлично подходят для предотвращения случайных ошибок, но они совершенно бесполезны против

00:03:50.640 --> 00:03:54.060
отравленного документа или скрытой полезной нагрузки в извлеченных данных. Этот контроль

00:03:54.060 --> 00:03:57.340
существует как рекомендация, а не как жесткое правило, действующее при выполнении.

00:03:57.500 --> 00:04:01.260
У регулярных выражений похожая проблема. Они быстрые и дешевые, поэтому их стоит использовать

00:04:01.260 --> 00:04:05.080
для быстрой предварительной проверки. Если пользователь введет «Игнорируй все предыдущие инструкции»,

00:04:05.080 --> 00:04:08.480
ваша система должна отловить это за несколько миллисекунд. Вы также можете использовать их для

00:04:08.480 --> 00:04:12.260
пометки явных фраз для обхода конфиденциальности или символов в стиле SQL в аргументах ваших

00:04:12.260 --> 00:04:15.740
инструментов. Эта часть работает нормально, но регулярные выражения распознают только заданные

00:04:15.740 --> 00:04:19.480
вами шаблоны, поэтому они не справляются, когда формулировки меняются или когда атака основана

00:04:19.480 --> 00:04:22.780
на смысле, а не на конкретных словах. Вот почему вам нужны уровни классификации.

00:04:23.000 --> 00:04:26.600
Система Azure iContent в софете оснащена экранами запросов, которые могут обнаруживать как прямые,

00:04:26.720 --> 00:04:30.740
так и косвенные атаки через инъекции. В Logic App можно вызвать API для проверки запроса до того,

00:04:30.880 --> 00:04:34.820
как его увидит модель, а затем изменить путь рабочего процесса, если обнаружена атака.

00:04:34.820 --> 00:04:38.820
Это гораздо более надежный контроль, чем простое сопоставление строк, поскольку он учитывает

00:04:38.820 --> 00:04:42.740
намерения, стоящие за словами в запросе и документах в целом. Даже в этом случае одного

00:04:42.740 --> 00:04:47.320
обнаружения недостаточно, потому что видеть риск бессмысленно, если у вас нет способа его остановить.

00:04:47.460 --> 00:04:52.140
Команды безопасности часто недооценивают эту конкретную часть процесса. Предупреждение в

00:04:52.140 --> 00:04:57.280
лог-файле – это не сдерживание, и красивая плитка на дашборде – тоже. Даже высокоприоритетное

00:04:57.280 --> 00:05:01.340
оповещение в вашей системе мониторинга бесполезно, если вредоносная нагрузка уже прошла через

00:05:01.340 --> 00:05:05.820
и вызвала действия в нежестоящей системе. Анализ событий постфактум полезен для расследования,

00:05:06.080 --> 00:05:09.940
но этого недостаточно, когда атака происходит за секунды. Вы имеете дело с моделью,

00:05:10.060 --> 00:05:13.100
которая может действовать внутри систем, которым ваша организация уже доверяет.

00:05:13.220 --> 00:05:16.580
Существует также проблема ложно-отрицательных результатов, которую игнорирует большинство

00:05:16.580 --> 00:05:20.280
маркетинговых отделов. Косвенные атаки – причина огромной части пропущенных угроз,

00:05:20.460 --> 00:05:24.680
потому что опасная инструкция выглядит совершенно нормально, пока модель не объединит ее с остальной

00:05:24.680 --> 00:05:28.840
частью диалога. К тому времени, как человек проверит результат и поймет, что что-то не так,

00:05:28.840 --> 00:05:33.180
вредоносный ввод уже выполнит свою задачу. Практическая ошибка здесь очень проста. Команды

00:05:33.180 --> 00:05:36.420
тратят все свое время на наблюдение за тем, что говорит копайлот, но не контролирует то,

00:05:36.520 --> 00:05:39.820
что в него поступает, с той же дисциплиной. Они проверяют ответ после его генерации,

00:05:40.020 --> 00:05:44.220
позволяя ненадежным данным поступать в систему еще до начала работы. Такой порядок действий в корне

00:05:44.220 --> 00:05:48.620
неверен. Как только вы осознаете этот изъян, вся цель вашей стратегии безопасности меняется.

00:05:48.780 --> 00:05:52.140
Вы перестаете спрашивать, как написать более безопасный запрос и начинаете искать,

00:05:52.140 --> 00:05:54.240
где перехватить данные до того, как модель их исполнит.

00:05:54.240 --> 00:05:58.100
Модель Брандмауэра Logic App. Если цель – перехват, нам нужно посмотреть,

00:05:58.280 --> 00:06:02.240
как этот контроль выглядит на практике. Вам следует использовать Azure Logic Apps в качестве

00:06:02.240 --> 00:06:05.880
уровня политик, который стоит перед фазой исполнения. Это не должен быть пассивный инструмент,

00:06:06.100 --> 00:06:09.880
отправляющий отчет после того, как ущерб уже нанесен. Нужно разместить его непосредственно на пути

00:06:09.880 --> 00:06:13.240
прохождения пользовательского ввода и извлекаемых данных, чтобы их можно было проверить до того,

00:06:13.360 --> 00:06:17.280
как модель приступит к работе. Этот сдвиг эффективен, поскольку Logic Apps созданы для

00:06:17.280 --> 00:06:22.460
оркестрации. Он может запускаться при определенных событиях, вызывать другие API и принимать решения

00:06:22.460 --> 00:06:27.240
на основе сложных условий. Вы можете направлять данные, отправлять оповещения в Microsoft Sentinel

00:06:27.240 --> 00:06:31.740
и дополнять процесс внешней информации, не создавая пользовательский шлюз безопасности с нуля.

00:06:31.900 --> 00:06:36.960
Вы не пытаетесь заменить Copilot. Вы просто внедряете уровень контроля в рабочий процесс вокруг него.

00:06:37.180 --> 00:06:41.760
Логика этой модели намеренно сделана простой. Сначала вы запускаете процесс, затем нормализуете

00:06:41.760 --> 00:06:45.560
данные. Вы проверяете их, оцениваете риск, принимаете решение и, наконец, перенаправляете или

00:06:45.560 --> 00:06:50.200
регистрируете результат. В этом заключается весь шаблон. Когда запрос или фрагмент контента попадает в рабочий

00:06:50.200 --> 00:06:54.560
процесс, Logic App получает эти данные и стандартизирует их. Необработанные входные данные обычно

00:06:54.560 --> 00:06:58.460
беспорядочны, так как разные соединители обрабатывают их по-своему. Электронное письмо выглядит

00:06:58.460 --> 00:07:02.340
иначе, чем запись в форме, а содержимое файлов или аргументы инструментов всегда имеют разные

00:07:02.340 --> 00:07:05.820
метаданные и поля. Если вы попытаетесь провести проверку до нормализации этих данных,

00:07:06.060 --> 00:07:10.120
ваша система обнаружения будет давать массу ложных срабатываний. Как только данные приведены к единому

00:07:10.120 --> 00:07:14.560
формату, начинается первый этап проверки. Здесь ваши собственные регулярные выражения все еще могут

00:07:14.560 --> 00:07:18.760
пригодиться. Это не окончательный вердикт и не магическое решение, но оно работает как очень быстрый фильтр на

00:07:18.760 --> 00:07:22.400
периферии вашей системы. Вы можете быстро отсканировать известные команды переопределения,

00:07:22.560 --> 00:07:26.380
подсказки кодировки или подозрительные шаблоны в параметрах инструментов для мгновенной оценки

00:07:26.380 --> 00:07:30.680
ситуации. Затем вы переходите ко второму этапу проверки, который гораздо глубже анализирует

00:07:30.680 --> 00:07:35.440
контент. На этом этапе вы вызываете экраны промптов Azure Eye Content Sofit. Logic App отправляет

00:07:35.440 --> 00:07:39.800
запрос пользователя и все полученные документы в API, а затем разделяет процесс в зависимости от того,

00:07:39.960 --> 00:07:44.520
была ли обнаружена атака. Это важно, поскольку инъекции промптов не всегда выглядят как очевидный

00:07:44.520 --> 00:07:48.640
программный код. Иногда опасность становится ясна только тогда, когда запрос и документ

00:07:48.640 --> 00:07:53.140
оцениваются как единое целое. Есть еще один уровень, который превращает это из простого фильтра в

00:07:53.140 --> 00:07:57.160
реальный механизм контроля безопасности – это анализ угроз. Если контент ссылается на известный

00:07:57.160 --> 00:08:01.200
вредоносный домен или подозрительный URL, который ваша команда уже видела, это должно повлиять на

00:08:01.200 --> 00:08:05.480
ваше решение. Logic Apps могут проверять события по данным анализа угроз Defender или других сторонних

00:08:05.480 --> 00:08:10.020
источников, чтобы добавить оценку достоверности риска. Это означает, что странный шаблон от доверенного

00:08:10.020 --> 00:08:14.440
источника может быть пропущен, тогда как тот же самый шаблон с низким рейтингом репутации будет

00:08:14.440 --> 00:08:19.460
немедленно заблокирован. Это превращает ваше дерево решений во что-то большее, чем просто выбор «да»

00:08:19.460 --> 00:08:24.740
или «нет». Вы можете разрешить запрос, если оценка риска низкая, или очистить его, удалив небезопасные

00:08:24.740 --> 00:08:29.340
фрагменты. Вы можете поместить данные в карантин, если источник требует ручной проверки. Если действие

00:08:29.340 --> 00:08:32.940
связано с конфиденциальными данными, можно даже потребовать одобрения человека, прежде чем оно будет

00:08:32.940 --> 00:08:37.260
выполнено. Разумеется, если сигнал достаточно сильный, вы просто блокируете запрос и отправляете оповещение.

00:08:37.260 --> 00:08:40.960
Именно такой спектр возможностей делает эту модель действительно эффективной для бизнеса.

00:08:41.040 --> 00:08:44.680
Команды безопасности часто препятствуют внедрению, отклоняя любой случай с долей

00:08:44.680 --> 00:08:48.420
неопределенности, а когда контроль слишком строг, люди находят способы его обойти.

00:08:48.620 --> 00:08:52.940
Рабочий процесс с оценкой рисков позволяет реагировать на основе реальной угрозы, а не паники.

00:08:53.100 --> 00:08:58.020
Именно поэтому Logic Apps подходит лучше, чем набор разрозненных инструментов. Они уже интегрированы

00:08:58.020 --> 00:09:02.280
с остальной экосистемой Microsoft и отлично работают со сценариями Sentinel. Вы можете запустить

00:09:02.280 --> 00:09:06.280
проверку безопасности контента, найти данные об угрозах и отправить события аудита в одном месте.

00:09:06.280 --> 00:09:09.980
Вам не нужен долгий цикл разработки каждый раз, когда злоумышленник меняет формулировки или

00:09:09.980 --> 00:09:13.700
появляется новый способ проникновения в систему. Правило, благодаря которому все это работает,

00:09:13.860 --> 00:09:18.280
очень простое. Вы должны рассматривать каждый элемент контекста как ненадежный, пока он не будет

00:09:18.280 --> 00:09:23.060
оценен. Это касается не только пользовательского запроса, но и тела письма, загруженного файла и

00:09:23.060 --> 00:09:27.920
поля формы SharePoint. Сюда входит полезная нагрузка соединителя, фрагменты извлеченных документов и даже

00:09:27.920 --> 00:09:32.380
аргументы инструментов. Все это должно быть проверено. Как только вы решите, что один из этих источников

00:09:32.380 --> 00:09:36.500
безопасен по умолчанию, вы создадите новую брешь для злоумышленника. Когда ваш рабочий процесс

00:09:36.500 --> 00:09:40.560
последовательно применяет это правило, вам больше не нужно полагаться на то, что Капайлот сам

00:09:40.560 --> 00:09:45.340
отделит хорошие данные от плохих. Процесс превращается в систему контролируемого доступа. На бумаге

00:09:45.340 --> 00:09:49.920
это звучит как отличная теория, но людей на самом деле волнует то, что произойдет, когда опасная

00:09:49.920 --> 00:09:54.320
нагрузка попадет в рабочий процесс в реальности. Что рабочий процесс делает во время выполнения,

00:09:54.520 --> 00:09:59.560
когда система запущена, он не просто сканирует текст на наличие плохих слов, он формирует полную картину

00:09:59.560 --> 00:10:04.420
запроса до принятия какого-либо решения. Событие поступает в точку входа, например, отправка формы,

00:10:04.520 --> 00:10:08.640
поток электронной почты или загрузка документа, связанная с процессом Капайлот, и Logic Apps

00:10:08.640 --> 00:10:13.300
немедленно обогащает это событие метадонами. Система очлеживает, кто отправил запрос, какое приложение

00:10:13.300 --> 00:10:17.300
его обработало, откуда появился файл и что система собирается делать дальше. Этот дополнительный

00:10:17.300 --> 00:10:21.220
контекст жизненно важен, так как одна и та же фраза может означать совершенно разное в зависимости

00:10:21.220 --> 00:10:25.540
от источника. После получения данных полезная нагрузка разделяется на определенные зоны доверия.

00:10:25.540 --> 00:10:29.280
Вы должны сохранять эту сегрегацию четкой. Запрос пользователя помещается в один

00:10:29.280 --> 00:10:33.460
контейнер, извлеченные документы – в другой, а история переписки или параметры инструментов – в свой

00:10:33.460 --> 00:10:38.460
собственный блок. Если смешать все это слишком рано, вы не сможете определить, откуда исходила

00:10:38.460 --> 00:10:44.160
рискованная инструкция и процесс проверки превратится в гадание. Многие команды пропускают этот шаг,

00:10:44.260 --> 00:10:49.160
считая объединение более быстрым, но на деле это лишь скрывает нужный вам путь. Затем рабочий

00:10:49.160 --> 00:10:53.380
процесс переходит к нормализации. Это скучная часть работы, но именно она делает вашу систему

00:10:53.380 --> 00:10:58.360
обнаружения действительно пригодной для использования. Нужно удалить лишнюю разметку, декодировать URL или

00:10:58.360 --> 00:11:03.200
Base64 и сплющить вложенные поля, чтобы проверка проводилась по стабильной структуре.

00:11:03.340 --> 00:11:08.000
Если один коннектор отправляет форматированный текст, а другой – фрагменты JSON, их нужно

00:11:08.000 --> 00:11:12.460
привести к единым полям, доступным для анализа. Без этого ваша логика будет тратить больше времени

00:11:12.460 --> 00:11:16.720
на борьбу с изменениями формата, чем на поиск реальных атак. После очистки данных выполняется

00:11:16.720 --> 00:11:21.680
первый быстрый проход по шаблонам. Это должно быть недорого, прямолинейно и быстро. Вы ищите фразы,

00:11:21.780 --> 00:11:26.420
пытающиеся изменить поведение системы, например, варианты «Игнорируй все предыдущие инструкции» или

00:11:26.420 --> 00:11:30.480
«Системное переопределение». Также вы ищите попытки извлечения данных, когда кто-то просит

00:11:30.480 --> 00:11:34.260
раскрыть конфиденциальный материал, выгрузить секреты или обойти настройки приватности.

00:11:34.420 --> 00:11:38.840
В Logic Apps команды обычно решают это через выражение или шаги «Композь», выставляя флаги

00:11:38.840 --> 00:11:43.360
вместо немедленной блокировки при каждом совпадении. Такая маркировка важна, потому что отдельная

00:11:43.360 --> 00:11:47.480
фраза не всегда означает злонамеренные действия. Сотрудник, работающий в рамках легитимного

00:11:47.480 --> 00:11:51.300
процесса безопасности, может буквально спросить о проверке обработки конфиденциального контента.

00:11:51.460 --> 00:11:54.380
Для решения этой задачи рабочий процесс отправляет расширенную нагрузку

00:11:54.380 --> 00:11:58.880
в Azure iContent в софете PromptShields для более глубокого анализа. Вызов API включает и запрос

00:11:58.880 --> 00:12:04.000
пользователя, и найденные документы, так как проблема чаще всего кроется во взаимосвязи между ними.

00:12:04.220 --> 00:12:09.080
Сервис возвращает простой сигнал, и если обнаружена атака, рабочий процесс меняет маршрут до того,

00:12:09.260 --> 00:12:13.780
как произойдет вызов модели. Затем необходимо добавить внешний контекст. Поиск данных об угрозах

00:12:13.780 --> 00:12:18.000
дает рабочему процессу дополнительный инструмент анализа. Вы можете запрашивать Microsoft Defender

00:12:18.000 --> 00:12:22.540
Treat Intelligence или любой доверенный источник TXII для проверки доменов, URL или индикаторов,

00:12:22.540 --> 00:12:25.820
связанных со злоупотреблениями. Следует использовать показатели достоверности,

00:12:25.980 --> 00:12:29.400
если они доступны, так как репутация источника должна влиять на итоговую оценку,

00:12:29.540 --> 00:12:33.140
а не заменять ее полностью. Слабая полезная нагрузка из рискованного источника всегда

00:12:33.140 --> 00:12:36.540
должна оцениваться выше, чем та же нагрузка из надежного внутреннего процесса.

00:12:36.620 --> 00:12:40.540
В итоге система формирует совокупную оценку. Она учитывает силу совпадения шаблонов,

00:12:40.760 --> 00:12:44.460
результат работы защиты промптов, репутацию источника и чувствительность запрашиваемого действия.

00:12:44.620 --> 00:12:48.040
Запрос с низким уровнем риска на краткое изложение публичной статьи не так важен,

00:12:48.040 --> 00:12:51.040
как запрос, способный раскрыть защищенные файлы. Именно эта совокупная

00:12:51.040 --> 00:12:54.440
оценка определяет дальнейшие действия. Безопасные события обрабатываются в штатном

00:12:54.440 --> 00:12:58.360
режиме. Случаи среднего риска очищаются или направляются через безопасный резервный маршрут,

00:12:58.480 --> 00:13:02.620
а высокорискованные случаи блокируются еще до запуска Капайлот. Все данные записываются

00:13:02.620 --> 00:13:06.860
в журнал аудита с сохранением пути принятия решения. Эти заблокированные события показывают,

00:13:07.060 --> 00:13:11.240
где растет напряжение и какие источники создают проблемы. Когда вы видите, какие шаблоны

00:13:11.240 --> 00:13:15.660
проникают в бизнес-процессы, у вас появляются данные для настройки системы к следующему этапу.

00:13:15.660 --> 00:13:18.940
Как настроить систему для снижения шума и реального использования в бизнесе.

00:13:18.940 --> 00:13:23.620
После запуска системы характер работы меняется. Создание потока – это самая простая часть.

00:13:23.820 --> 00:13:27.200
Настройка так, чтобы люди доверяли системе и не искали обходные пути, определяет,

00:13:27.320 --> 00:13:30.500
станет ли это реальным инструментом безопасности или очередным неудачным экспериментом.

00:13:30.600 --> 00:13:34.260
Если система создает слишком много помех, пользователи просто найдут способ ее обойти,

00:13:34.520 --> 00:13:37.840
что сделает весь проект бессмысленным. Начинать следует с малого. Не пытайтесь

00:13:37.840 --> 00:13:41.820
отслеживать каждую точку взаимодействия с Капайлот в первый же день. Вместо этого выберите места

00:13:41.820 --> 00:13:45.580
с наибольшим риском и понятным путем, например, действия с использованием инструментов или

00:13:45.580 --> 00:13:49.480
источники ценных данных. Можно начать с одного процесса на базе SharePoint или конкретного

00:13:49.480 --> 00:13:53.680
рабочего процесса с формами, чтобы получить понятный сигнал. Небольшой масштаб дает возможность

00:13:53.680 --> 00:13:58.460
учиться, не утопая в данных. При настройке первичных проверок ориентируйтесь на полноту охвата,

00:13:58.660 --> 00:14:02.600
а не на абсолютную точность. Первый этап должен выявлять подозрительные формулировки на ранней

00:14:02.600 --> 00:14:06.940
стадии, а не доказывать злой умысел вне всяких сомнений. Если требовать от шаблонов идеальности,

00:14:07.080 --> 00:14:11.240
они становятся хрупкими и начинают пропускать то, что действительно важно. Лучше позволить системе на

00:14:11.240 --> 00:14:15.040
первых порах давать чуть больше ложных срабатываний, а затем использовать последующие проверки для

00:14:15.040 --> 00:14:20.080
уточнения контекста. Вот почему оценка важнее, чем отдельные совпадения. Само по себе совпадение

00:14:20.080 --> 00:14:24.920
фразы не всегда должно блокировать запрос, но в сочетании с флагом защиты промптов и рискованным

00:14:24.920 --> 00:14:30.580
источником ситуация меняется. Слабые сигналы должны накапливаться, а сильные – ускорять блокировку.

00:14:30.720 --> 00:14:34.420
В этом фундаментальное различие между жестким раздражающим фильтром и моделью политик,

00:14:34.600 --> 00:14:38.500
которая действительно работает для бизнеса. Также необходимо установить верхний предел для ложных

00:14:38.500 --> 00:14:41.600
срабатываний. Старайтесь удерживать этот показатель ниже 2%, потому что как только люди

00:14:41.600 --> 00:14:44.580
почувствуют, что контроль мешает их работе, они перестанут доверять системе. Именно тогда

00:14:44.580 --> 00:14:47.940
начинаются поиски обходных путей. Пользователи будут копировать текст в неконтролируемые

00:14:47.940 --> 00:14:51.320
инструменты. Команды создадут теневые процессы, а администраторы начнут просить о повсеместных

00:14:51.320 --> 00:14:55.740
исключениях. Система контроля рухнет изнутри не из-за сбоя в обнаружении, а потому, что трения

00:14:55.740 --> 00:15:00.160
станут слишком значительными. Чтобы предотвратить это, нужно следить за правильными метриками. Забудьте о

00:15:00.160 --> 00:15:03.900
показных, дашбордах и сосредоточьтесь на среднем времени обнаружения. Для задач, требующих

00:15:03.900 --> 00:15:07.700
ручной проверки, этот показатель должен быть менее 15 минут. Также следует отслеживать время

00:15:07.700 --> 00:15:11.460
автоматического сдерживания и стремиться к менее чем 5 минутам там, где блокировка безопасна.

00:15:11.560 --> 00:15:15.720
Если рабочий процесс постоянно срабатывает, но никак не влияет на решение, это просто шум.

00:15:15.860 --> 00:15:20.240
Стоимость – еще один фактор, требующий постоянной корректировки. Logic Apps с оплатой за потребление

00:15:20.240 --> 00:15:23.920
отлично подходят для пиковых нагрузок или небольших пилотных проектов, так как вы платите только

00:15:23.920 --> 00:15:28.340
за выполнение. Однако стандартный план становится выгоднее, когда объем событий предсказуем и настолько велик,

00:15:28.340 --> 00:15:32.260
что расходы на каждый запуск начинают бить по бюджету. Не пытайтесь угадать. Оцените реальное

00:15:32.260 --> 00:15:36.020
количество триггеров и размеры полезной нагрузки, прежде чем выбирать тарифную модель. Будьте

00:15:36.020 --> 00:15:40.080
осторожны с тем, как вы используете хранилище. Вам нужна история запусков для анализа инцидентов

00:15:40.080 --> 00:15:44.280
и отчетности, но не нужна огромная база данных с конфиденциальным контентом. Сохраняйте только те

00:15:44.280 --> 00:15:48.440
поля, которые объясняют принятые решения, и избавляйтесь от лишнего, что создает риски при хранении

00:15:48.440 --> 00:15:51.900
данных. Хранение избыточных данных может превратить ваш инструмент безопасности в угрозу

00:15:51.900 --> 00:15:55.960
конфиденциальности, если быть неосторожным. Наконец, свяжите все эти настройки с вашей общей

00:15:55.960 --> 00:16:00.140
стратегией управления. Сопоставьте рабочий процесс с функциями NISTI-RMF, такими как измерение и

00:16:00.140 --> 00:16:04.300
управление, и привяжите его к меткам конфиденциальности данных в первью. Иногда лучшее решение – это

00:16:04.300 --> 00:16:08.920
не более умный детектор, а просто ограничение доступа рабочего процесса, пока это не стало проблемой.

00:16:09.080 --> 00:16:14.480
Дойдя до этого этапа, вы перестаете обсуждать безопасность и абстрактно. Вы внедряете реальную рабочую

00:16:14.480 --> 00:16:19.080
модель с пороговыми значениями и компромиссами, которыми бизнес может управлять. Что это меняет для

00:16:19.080 --> 00:16:23.340
руководителей и архитекторов? Как только вы это внедрите, Капайлот перестанет быть системой

00:16:23.340 --> 00:16:27.840
слепого доверия, и именно здесь произойдет настоящий сдвиг. До этих изменений модель получала

00:16:27.840 --> 00:16:32.300
хаотичный контекст, а ваша команда надеялась, что верные инструкции возьмут верховье. Теперь этот

00:16:32.300 --> 00:16:36.560
контекст проходит проверку, оценку и маршрутизацию до того, как модель вообще получит к нему доступ.

00:16:36.740 --> 00:16:40.240
Результат безопасности перестает быть абстрактной политикой, поскольку теперь он функционирует как

00:16:40.240 --> 00:16:44.980
контролируемое исполнение. Для архитекторов это меняет само место нахождения безопасности в дизайне системы.

00:16:44.980 --> 00:16:49.680
Теперь это находится не только в настройках арендатора, разрешениях или шаблонах запросов,

00:16:49.820 --> 00:16:53.780
а непосредственно на пути транзакции. Каждый важный запрос получает точку перехвата,

00:16:53.940 --> 00:16:58.280
а каждое критически важное действие следует по заданному алгоритму принятия решений. Это означает,

00:16:58.420 --> 00:17:02.020
что каждый новый коннектор, агент или плагин оценивается как входной путь, а не просто как

00:17:02.020 --> 00:17:05.940
очередная функция повышения продуктивности. Это крайне важно, поскольку именно архитектурный

00:17:05.940 --> 00:17:10.000
сдвиг обычно приводит к провалу таких программ. Одна команда внедряет Капайлот для одной задачи,

00:17:10.100 --> 00:17:14.000
затем другая команда подключает форму, и со временем кто-то добавляет рабочий процесс или дает

00:17:14.000 --> 00:17:18.560
доступ к инструментам. Каждое из этих изменений выглядит незначительным, но вместе они создают

00:17:18.560 --> 00:17:22.660
гораздо более широкий вектор атаки, чем кто-либо планировал. Если вы не встроите перехват в свою

00:17:22.660 --> 00:17:26.540
рабочую модель, среда будет расширяться гораздо быстрее, чем ваши средства контроля смогут за ней

00:17:26.540 --> 00:17:30.120
поспевать. Для руководителей служб безопасности этот подход наконец решает проблему размытой

00:17:30.120 --> 00:17:34.660
ответственности, от которой страдают многие организации. Сейчас риски Капайлота обычно остаются в слепых

00:17:34.660 --> 00:17:40.660
зонах между разными командами. SOC видит оповещение, администраторы Microsoft 365 отвечают за конфигурацию,

00:17:40.660 --> 00:17:45.320
а владельцы и заботят только уровень внедрения. При использовании пути управления Logic Apps все эти

00:17:45.320 --> 00:17:49.500
группы наконец могут работать в рамках единой модели реагирования. Они используют один и тот же

00:17:49.500 --> 00:17:53.880
журнал событий, логику оценки и историю ветвлений, что устраняет неразбериху, когда в рабочем

00:17:53.880 --> 00:17:58.600
процессе появляется опасный запрос или вредоносный документ. Бизнес-сторона этого вопроса гораздо проще,

00:17:58.840 --> 00:18:02.620
чем кажется на первый взгляд. Заблокировать угрозу на раннем этапе всегда дешевле, чем пытаться

00:18:02.620 --> 00:18:07.220
устранить последствия позже. Устранение последствий включает расследования, юридические проверки и перерывы в

00:18:07.220 --> 00:18:11.440
пользователей и обычно заканчивается неприятным пересмотром прав доступа, который следовало провести

00:18:11.440 --> 00:18:16.360
до запуска. Руководителям не нужны долгие лекции об этике и им достаточно понять, что контроль во

00:18:16.360 --> 00:18:21.000
время выполнения стоит дешевле, чем распространение неуправляемых рисков в повседневных системах

00:18:21.000 --> 00:18:25.000
сотрудников. Для руководителей высшего звена это поднимает неудобный вопрос о том, где именно

00:18:25.000 --> 00:18:30.020
скрываются риски. Риски и больше не находятся в песочнице или пилотной лаборатории, теперь они живут

00:18:30.020 --> 00:18:35.940
в Word, Outlook, SharePoint и Teams. Люди уже привыкли считать эти среды безопасными, и это незаслуженное доверие,

00:18:35.940 --> 00:18:40.640
именно то, что повышает риски для компании. Некорректный рабочий процесс в экспериментальном

00:18:40.640 --> 00:18:45.380
приложении – это локальная проблема, но в вашем повседневном стеке продуктивности это совершенно

00:18:45.380 --> 00:18:49.700
другое дело. Ваш путь внедрения должен оставаться узким и очень продуманным. Начните с одного

00:18:49.700 --> 00:18:53.780
сценария использования, одного триггера и одной модели оценки. Выберите направление, где данные

00:18:53.780 --> 00:18:57.760
действительно важны, а поведение системы легко отслеживать. Вам нужно доказать, что рабочий процесс

00:18:57.760 --> 00:19:01.640
выявляет рискованные входные данные и направляет безопасные, предоставляя человеку полезную информацию

00:19:01.640 --> 00:19:05.680
при необходимости проверки. Как только вы докажете работоспособность этого подхода, можно начинать расширение.

00:19:05.680 --> 00:19:09.420
Позднее можно добавить обнаружение аномалий или контроль выходных данных там, где это уместно.

00:19:09.600 --> 00:19:12.620
Можно даже добавить более глубокий мониторинг неправомерного использования инструментов,

00:19:12.680 --> 00:19:15.520
но первый барьер должен оставаться там, где ненадежный контекст попадает в систему.

00:19:15.660 --> 00:19:19.220
Если этот первый рубеж останется слабым, все последующие меры контроля будут лишь попыткой

00:19:19.220 --> 00:19:22.820
компенсировать неудачную отправную точку. Суть изменений на самом деле очень проста.

00:19:22.960 --> 00:19:26.180
Перестаньте воспринимать промп-инъекции просто как проблему формулировок и начните

00:19:26.180 --> 00:19:30.160
относиться к ним как к контролю среды выполнения для ненадежного контекста, проходящего через капайлот.

00:19:30.160 --> 00:19:34.080
Найдите время, чтобы на этой неделе составить схему одного рабочего процесса капайлот от начала до конца.

00:19:34.280 --> 00:19:37.980
Найдите последнюю точку безопасного перехвата перед выполнением и создайте логическое приложение,

00:19:38.120 --> 00:19:40.500
которое оценивает, блокирует и регистрирует этот конкретный путь.

00:19:40.660 --> 00:19:44.840
Если вы хотите больше информации о безопасности капайлот без лишней воды, подписывайтесь и оставляйте отзывы.

00:19:44.960 --> 00:19:49.160
Вы также можете связаться со мной, Мирко Питерсом, в LinkedIn, чтобы рассказать о конкретном сценарии

00:19:49.160 --> 00:19:51.020
вашего тенанта, который вы пытаетесь защитить.
