Ваша проблема з Coopilot насправді не є проблемою функціоналу. Це проблема довіри до моделі, яка стоїть за ним. Більшість команд досі вважають, що безпека полягає в підказках, дозволах та кількох фільтрах на периферії. Але ось у чому річ. Зловмисникам не потрібно долати ваш промп, їм достатньо отруїти контекст навколо нього, і саме тут усе ламається. Базові фільтри можуть виявити очевидне сміття, але вони пропускають корисне навантаження, приховане в електронному листі, файлі SharePoint або поліформи. Цей отриманий контент тихо очікує, поки Coopilot не завантажить його і не сприйме як пряму інструкцію. Ми вже бачили попереджувальні знаки з витоком Echo в Microsoft 365 Coopilot та витоком Share у Coopilot Studio. І реальність така, що патчі не поклали край цій тенденції. Оскільки Coopilot може шукати, узагальнювати та діяти в усьому вашому середовищі, Microsoft 365 один шкідливий шлях інструкцій може швидко поширитися. Тож справа не в додаванні ще однієї панелі керування до вашого стека, а в інтеграції Azure Logic Apps для перевірки, оцінки та блокування шкідливих даних до того, як Coopilot почне роботу. Справжня небезпека полягає в архітектурі, а не в промпті. Стара модель передбачає, що можна убезпечити систему, написавши кращі інструкції навколо самої моделі. Ви даєте їй сильний системний промп, додаєте роздільники та пояснюєте користувачам, чого робити не варто. Це звучить розумно на папері, але насправді модель не забезпечує довірчих меж так, як це робить система безпеки, оскільки вона считує мову через один спільний канал, де інструкції та дані змагаються за увагу. Це припущення і є помилковим. Якщо модель не може надійно відрізнити прохання користувача про допомогу від документа, який тихо наказує ігнорувати попередні інструкції, то точка контролю не може бути лише на рівні промпту. Ви намагаєтеся убезпечити поведінку на периферії, тоді як реальний ризик криється в потоці контексту, що надходить до моделі. Це стало зрозуміло багатьом командам після появи робочих навантажень Coopilot, що інтенсивно використовують пошук даних. Як тільки Coopilot починає залучати електронні листи, файли та історію чатів з Microsoft Graph, поверхня атаки повністю змінюється. Ви вже не просто захищаєте розмову, ви захищаєте прямий потік вхідних даних змішаного рівня довіри. І на рівень глибше, Coopilot розширює можливості доступу. Він не просто відповідає на запитання, він шукає, узагальнює та переходить за посиланнями. У деяких налаштуваннях він може навіть запускати інструменти або робочі процеси. Тому, коли ненадійний контент потрапляє в цей ланцюжок, модель може перенести цей вплив на чутливі дії. Ось чому непрямі ін'єкції промптів зараз мають таке велике значення. У продуктивних системах типова атака – це не завжди користувач, який вводить «ігноруй свої правила» у чат. Небезпечніша версія криється в отриманому контенті, часто за кілька тижнів до того, як хтось помітить її присутність. Шкідливий документ, спеціально створений електронний лист чи запис у формі можуть здаватися невинними, але вони містять інструкції, спрямовані безпосередньо на модель. Згодом Coopilot вилучає цей контент як релевантний контекст, змішує його з перевіреними матеріалами і модель починає виконувати хибні вказівки. Ланцюжок атаки простий і саме це робить його небезпечним. Спочатку зловмисник розміщує контент там, де Coopilot зможе його дістати, потім система витягує його в сеанс і модель сприймає ці дані як інструкцію. Після цього вона може почати готувати конфіденційну інформацію, викривляти відповіді або спрямовувати дані до шляхів витоку через посилання чи використання інструментів. Тож для керівників це не лише питання гігієни щі, це контроль під час виконання, безпосередньо пов'язаний з управлінням доступом. Якщо Coopilot має широкий доступ у межах клієнта, а модель обробляє змішаний контекст без чіткого розмежування, ваша модель безпеки повинна перевіряти дані до їх виконання. Як тільки ви це усвідомлюєте, підхід до виправлення також змінюється. Ви перестаєте зосереджуватися лише на ідеальних запитах і починаєте впроваджувати контроль там, де рухається контекст. Чому базові методи захисту зазнають невдачі в реальних умовах? Більшість команд припускаються фундаментальної помилки ще на самому початку. Вони вважають, що засоби безпеки, які роками використовувалися в розробці застосунків, так само ефективно працюватимуть для Coopilot. Вони створюють сильніші системні запити, додають спеціальні символи до вводу користувача та публікують інструкції для працівників, після чого почуваються в безпеці. Ці кроки непогані, і я не закликаю їх припинити, але вони не створюють реального бар'єра безпеки. Це лише спроби вмовити модель поводитися належним чином, а в безпеці переконання – це не те саме, що примусове виконання правил. Саме тут і криється проблема. Системний запит каже моделі, що ви віддаєте перевагу, але він не може завадити шкідливому файлу перехопити увагу моделі, щойно він потрапляє в робочий простір. Використання роздільників може допомогти структурувати текст, але це не надає моделі можливості перевіряти рівні доступу. Поради для співробітників корисні для запобігання випадковим помилкам, але вони абсолютно без силі проти шкідливого документа чи прихованого корисного навантаження, що міститься у ваших даних. Такий контроль існує як пропозиція, а не як суворе правило, що діє під час виконання. Regex має схожу проблему. Він швидкий і дешевий, тому його варто використовувати для швидкої первинної перевірки. Якщо користувач введе ігноруй усі попередні інструкції, ваша система має виявити це залічені мілісекунди. Ви також можете використовувати його для позначення очевидних фраз обходу приватності або SQL-подібних символів у параметрах ваших інструментів. Ця частина працює добре, але регулярні вирази розпізнають лише визначені вами шаблони, тому вони не спрацьовують, коли формулювання трохи змінюється або коли атака базується на значенні, а не на конкретних словах. Ось чому вам потрібні рівні класифікації. Azure AI Content Safety має захист від запитів, який може виявляти як прямі, так і непрямі атаки ін'єкцій. У Logic App ви можете викликати ARRI для перевірки запиту, перш ніж модель його побачить, а потім змінити шлях робочого процесу, якщо виявлено атаку. Це набагато потужніший засіб контролю, ніж просте зіставлення рядків, оскільки він аналізує намір, що стоїть за словами у запиті та документах разом. Навіть тоді самого лише виявлення недостатньо, бо розуміння ризику нічого не варте, якщо ви не маєте способу його зупинити. Команди безпеки часто недооцінюють цю конкретну частину процесу. Попередження у файлі журналу – це нестримування, і гарний графічний елемент на дашборді також ним не є. Навіть сповіщення високого пріоритету у вашій системі не допоможе, якщо корисне навантаження вже пройшло крізь Co-Pilot і запустило дію в системі нижчого рівня. Аналіз того, що сталося після факту, корисний для розслідування, але цього недостатньо, коли атака відбувається за секунди. Ви маєте справу з моделью, яка може діяти всередині систем, яким ваша організація вже довіряє. Існує також проблема хибно-негативних результатів, яку ігнорує більшість маркетингових матеріалів продуктів. Непрямі атаки спричиняють величезну частку пропущених виявлень у реальному світі, тому що небезпечна інструкція виглядає цілком нормально, доки модель не поєднує її з рештою розмови. До того часу, як людина перегляне результат і зрозуміє, що щось не так, шкідливий ввід уже виконає свою роботу. Практична помилка тут дуже проста. Команди витрачають весь свій час на спостереження за тим, що каже Co-Pilot, але не контролюють з такою ж дисципліною те, що в нього потрапляє. Вони перевіряють відповідь після її створення, дозволяючи недовіреним матеріалам надходити до початку роботи. Цей порядок абсолютно хибний. Як тільки ви усвідомлюєте цей недолік, змінюється вся мета вашої стратегії безпеки. Ви перестаєте питати, як написати безпечніший запит, і починаєте питати, де можна перехопити дані до того, як модель їх виконає. Модель бранд Мауера Logic App. Якщо метою є перехоплення, нам потрібно подивитися, як цей контроль виглядає на практиці. Вам слід використовувати Azure Logic Apps як рівень політики, що стоїть перед фазою виконання. Це не має бути пасивний інструмент, який надсилає звіт після того, як шкоду вже завдано. Вам потрібно розмістити його безпосередньо на шляху, де знаходяться від користувача та отримані дані, щоб їх можна було перевірити до того, як модель візьметься до роботи. Ця зміна є ефективною, оскільки Logic Apps створені для оркестрації. Він може запускатися за певними подіями, звертатися до інших арі та приймати рішення на основі складних умов. Ви можете спрямовувати дані, надсилати сповіщення до Microsoft Sentinel та збагачувати процес зовнішньою інформацією, не створюючи спеціальний шлюз безпеки з нуля. Ви не намагаєтеся замінити Co-Pilot. Ви лише вставляєте рівень контролю у потік навколо нього. Логіка цієї моделі навмисно зроблена простою. Спочатку ви запускаєте процес, а потім нормалізуєте дані. Ви перевіряєте їх, оцінюєте ризик, приймаєте рішення і, нарешті, спрямовуєте або реєструєте результат. Це і є весь шаблон. Коли запит або контент потрапляє у робочий процес, Logic App отримує цей пакет даних і стандартизує його. Необроблені вхідні дані зазвичай хаотичні, оскільки різні конектори обробляють їх по-різному. Електронний лист виглядає інакше, ніж запис у формі, а вміст файлу чи аргументи інструментів мають різні метадані та поля. Якщо ви спробуєте провести перевірку до нормалізації даних, ваша система виявлення буде надзвичайно шумною. Як тільки дані приведено до єдиного формату, починається перший етап перевірки. Ось тут ваші власні регулярні вирази все ще мають роботу. Це не остаточний суддя чи магічне рішення, але це працює як дуже швидкий фільтр на межі вашої системи. Ви можете швидко просканувати текст на наявність команд перевизначення, підказок щодо кодування або підозрілих шаблонів у параметрах інструментів для миттєвого сортування ситуації. Потім ви переходите до другого етапу перевірки, який глибше аналізує контент. Саме тут ви викликаєте захисні механізми Azure AI Content Safety для промптів. Logic App надсилає промп користувача та будь-які отримані документи до АРІ, а потім розгалужується залежно від того, чи було виявлено атаку. Це важливо, оскільки ін'єкції промптів не завжди виглядають як очевидний комп'ютерний код. Іноді небезпека стає зрозумілою лише коли промп і документ оцінюються як єдине ціле. Існує ще один рівень, який перетворює це з простого фільтра на реальний засіб безпеки, і це аналітика загроз. Якщо контент посилається на відомий шкідливий домен або підозрілу URL-адресу, який ваша команда вже бачила раніше, це має змінити ваше рішення. Logic Apps можуть перевіряти подію за допомогою аналітики загроз DaFenda або інших сторонніх каналів, щоб додати показник достовірності до оцінки ризику. Це означає, що дивний шаблон від перевіреного джерела може бути пропущений, тоді як той самий шаблон з ворожою репутацією буде негайно заблоковано. Це перетворює ваше дерево рішень на щось більше, ніж просто вибір «так чи ні». Ви можете дозволити запит, якщо рівень ризику низький, або очистити його, видаливши небезпечні фрагменти. Ви можете перемістити дані на карантин, якщо джерело потребує ручної перевірки. Якщо дія стосується конфіденційних даних, ви можете навіть вимагати схвалення людиною, перш ніж вона буде виконана. Звісно, якщо сигнал достатньо сильний, ви просто блокуєте запит і надсилаєте сповіщення. Саме такий вибір варіантів робить цю модель ефективною для бізнесу. Команди безпеки часто стримують впровадження, відхиляючи будь-який сумнівний випадок, а коли контроль занадто суворий, люди шукають способи його оминути. Робочий процес з оцінюванням ризиків дозволяє реагувати на основі реальних загроз, а не паніки. Ось чому Logic Apps підходить краще, ніж набір окремих інструментів. Він уже підключений до екосистеми Microsoft і ідеально працює зі сценаріями Sentinel. Ви можете ініціювати перевірку безпеки контенту, шукати дані про загрози та надсилати події аудиту в одному місці. Вам не потрібен довгий цикл розробки щоразу, коли зловмисник змінює формулювання або з'являється новий спосіб доступу до системи. Правило, завдяки якому все це працює, дуже просте. Ви повинні вважати кожну частину контексту ненадійною, доки вона не пройде оцінювання. Це стосується не лише запиту користувача, а й тіла листа, завантаженого файлу та поля форми SharePoint. Це також охоплює корисне навантаження коннектора, фрагменти отриманих документів і навіть аргументи інструментів. Усе це має бути перевірено. Як тільки ви припускаєте, що одне з цих джерел безпечне за замовчуванням, ви створюєте шпарину для зловмисника. Коли ваш робочий процес послідовно застосовує це правило, вам більше не доведеться покладатися на те, що Коупайлат самостійно відрізнятиме добрі дані від поганих. Процес перетворюється на систему контрольованого входу. На папері це звучить як чудова теорія, але людей насправді цікавить, що відбувається, коли небезпечний пакет даних потрапляє в робочий процес у реальних умовах. Те, що робочий процес насправді робить під час виконання, коли система стає активною, це не просто сканування тексту на наявність поганих слів, він створює повну картину запиту перед ухваленням будь-якого рішення. Подія потрапляє у вашу точку входу, можливо, це надсилання форми, потік електронної пошти або завантаження документа, пов'язане з процесом Коупайлат, і LogiCaps негайно доповнює цю подію методами. Система відстежує, хто надіслав запит, який додаток його обробив, звідки походить файл, і що система збирається робити далі. Цей додатковий контекст є життєво важливим, оскільки одне й те саме речення може означати зовсім різні речі, залежно від того, звідки воно походить. Після отримання цих даних корисне навантаження розподіляється за певними зонами довіри. Ви повинні чітко підтримувати цей поділ. Запит користувача йде в одну категорію, отримані документи – в іншу, а історія розмов або параметри інструментів отримують власний простір. Якщо ви змішаєте все це зарано, ви втратите здатність визначити, звідки насправді надійшла ризикована інструкція, і процес перевірки перетвориться на суцільне вгадування. Багато команд пропускають цей крок, бо об'єднання всього здається швидшим, але насправді це лише приховує шлях, яким вам потрібно слідувати. Далі робочий процес переходить до нормалізації. Це нодна частина роботи, але саме вона робить ваше виявлення по-справжньому ефективним. Вам потрібно видалити розмітку, що додає шуму, де кодувати URL, кодування або фрагменти Base64, а також розгорнути вкладені поля, щоб перевірка виконувалася за стабільною структурою. Якщо один конектор надсилає форматований текст, а інший – фрагменти JSON, ви хочете, щоб усі вони були зведені до полів, які ваші перевірки можуть вчитувати послідовно. Без цього ваша логіка витрачає більше часу на боротьбу зі змінами формату, ніж на виявлення реальних атак. Після очищення даних спочатку виконується швидкий аналіз шаблонів. Це має бути недорогий, прямий і швидкий процес. Ви шукаєте фрази, що намагаються змінити поведінку системи, наприклад, варіації «ігноруй усі попередні інструкції» або «системне перевизначення». Ви також шукаєте мовні конструкції витягування даних, де хтось просить розкрити конфіденційний матеріал, вивантажити секрети або обійти налаштування приватності. У Logic Apps команди зазвичай обробляють це через вирази або кроки створення, які встановлюють позначки, замість того, щоб негайно блокувати запит на кожне окреме спрацьовування. Це маркування важливе, тому що окрема фраза не завжди означає, що хтось діє зловмисно. Людина, що працює в межах легітимного робочого процесу безпеки, може буквально запитувати про розгляд методів обробки конфіденційного вмісту. Щоб вирішити це, робочий процес надсилає розширене корисне навантаження до Azure AI Content Safety Prompt Shields для глибшого аналізу. Виклик АРІ включає як запит користувача, так і отримані документи, оскільки взаємозв'язок між ними – це зазвичай те місце, де ховається справжня проблема. Сервіс повертає простий сигнал, і якщо виявлено атаку, робочий процес просто змінює шлях до того, як станеться виклик моделі. Потім вам потрібно додати зовнішній контекст. Пошуб даних про загрози надає робочому процесу ще одну призму для аналізу. Ви можете запитати Microsoft Defenda Threat Intelligence або будь-яке інше джерело TAXII, якому довіряєте, щоб перевірити домени, URL-адреси або індикатори, пов'язані зі зловживаннями. Вам слід використовувати оцінки достовірності, де вони доступні, оскільки репутація джерела повинна впливати на фінальний бал, а не замінювати його повністю. Слабкий корисний навантаження з ризикованого джерела завжди має оцінюватися вище, ніж те саме навантаження від надійного внутрішнього процесу. Зрештою, система створює загальну оцінку. Вона враховує силу збігу за шаблоном, результат роботи захисних екранів, репутацію джерела та чутливість запитованої дії. Запит із низьким рівнем ризику, наприклад, у загальнення публічної статті, немає такої ж ваги, як запит, що може розкрити захищені файли. Саме ця об'єднана оцінка визначає подальший шлях. Безпечні події продовжуються за планом. Випадки із середнім ризиком очищуються або спрямовуються на безпечний резервний варіант. А випадки з високим ризиком блокуються ще до запуску Co-Pilot. Усе записується в журнал аудиту зі збереженням шляху прийняття рішення. Ці заблоковані події показують, де зростає напруга і які джерела постійно спричиняють проблеми. Коли ви бачите, які шаблони проникають у ваші бізнес-процеси, ви отримуєте дані, необхідні для налаштування системи для наступного етапу. Як налаштувати систему для мінімізації шуму та ефективного використання в бізнесі? Коли система запрацювала, характер роботи змінюється. Побудова потоку – це насправді найлегша частина. Налаштування системи так, щоб люди їй довіряли і не шукали обхідних шляхів, визначає, чи стане вона реальним інструментом безпеки, чи черговим невдалим експериментом. Якщо система створює забагато перешкод, користувачі просто знайдуть спосіб її обійти, що зробить весь проєкт марним. Вам слід почати з війського охоплення. Не намагайтеся відстежувати кожну точку взаємодії з Co-Pilot у перший же день. Натомість оберіть місця з найвищим ризиком і чітким шляхом, як от дії з використанням інструментів або цінні джерела даних. Можна почати з одного процесу на базі SharePoint або конкретного робочого процесу з формами, щоб отримати сигнал, який можна реально інтерпретувати. Малий обсяг роботи дає простір для навчання, не потопаючи в даних. Налаштовуючи початкові перевірки, орієнтуйтеся на повноту охоплення, а не на абсолютно впевненість. Перший етап має виявляти підозрілу мову заздалегідь, а не доводити злий намір без жодних сумнівів. Якщо вимагати від шаблонів ідеальності, вони стають крихкими і починають пропускати саме те, що важливо. Краще дозволити системі трохи більше позначати на початку, а потім за допомогою наступних перевірок додавати контекст для зменшення шуму. Ось чому оцінювання важливіше за поодинокі збіги. Збіг фрази сам по собі не завжди має скасовувати запит, але коли ви поєднуєте цей збіг із сигналом захисного екрана та ризикованим джерелом, ситуація змінюється. Слабкі сигнали повинні накопичуватися, а сильні – прискорювати блокування. Це фундаментальна різниця між жорстким, дратівливим фільтром і моделью політик, яка дійсно працює для бізнесу. Вам також потрібно встановити ліміт на кількість помилкових спрацювань. Намагайтеся тримати цей показник нижче 2%, адже як тільки люди відчують, що контроль заважає їхній роботі, вони перестануть довіряти системі. Саме тоді починаються обхідні шляхи. Користувачі копіюватимуть текст у некеровані інструменти, команди створюватимуть приховані процеси, а адміністратори проситимуть про повні винятки. Система контролю зруйнується зсередини не через збій виявлення, а через те, що тертя стане занадто великим. Щоб запобігти цьому, ви повинні стежити за правильними показниками. Забудьте про показні інформаційні панелі та зосередтеся на середньому часі виявлення. Намагайтеся тримати його нижче 15 хвилин для всього, що вимагає ручної перевірки. Вам також варто відстежувати час автоматизованого стримування і прагнути до менш ніж 5 хвилин, де блокування можна виконати безпечно. Якщо робочий процес постійно спрацьовує, але ніколи не впливає на прийняття рішень, це просто шум. Вартість – ще один фактор, який потребує постійного налаштування. Logic Apps із моделю споживання чудово підходять для нерівномірних навантажень або невеликих пілотних проєктів, оскільки ви платите лише за виконані операції. Проте стандартний план є доцільнішим, коли обсяг подій стає передбачуваним і настільки високим, що витрати за кожен запуск починають відчуватися. Не вгадуйте це. Виміряйте фактичну кількість тригерів та обсяги даних перед тим, як обрати модель оплати. Будьте обережні з тим, як ви керуєте сховищем. Вам потрібно достатньо історії запусків для аналізу інцидентів та доказів управління, але не потрібна величезна база даних із конфіденційним контентом. Зберігайте лише ті поля, що пояснюють причини рішень, і позбавляйтеся непотрібного, що створює ризики зберігання. Надмірне накопичення даних може перетворити ваш інструмент безпеки на загрозу конфіденційності, якщо ви не будете обережні. Нарешті, пов'яжіть усі ці налаштування з вашим ширшим управлінням. Зіставте робочий процес із функціями NIS-TIRMF, такими як вимірювання та управління, і пов'яжіть його з мітками чутливості даних у перв'ю. Іноді найкраще рішення – це нерозумніший детектор, а просто обмеження зайвого доступу в робочому процесі, перш ніж це стане проблемою. Коли ви досягаєте цього рівня, ви більше не обговорюєте безпеку ще абстрактно. Ви керуєте реальною моделью роботи з порогами та компромісами, якими бізнес може реально оперувати. Що це змінює для лідерів та архітекторів? Після впровадження цього механізму, Coopilot перестає діяти як система сліпої довіри, і саме тут відбувається справжній сув. До цієї зміни модель отримувала безладний змішаний контекст, а ваша команда сподівалася, що правильні інструкції переможуть. Тепер цей контекст перевіряється, оцінюється та спрямовується ще до того, як модель отримає доступ до нього. Результат безпеки – це вже не просто абстрактна політика, адже тепер він працює як контрольоване виконання. Для архітекторів це змінює місце, де безпека фактично перебуває у вашому дизайні. Це більше не обмежується лише налаштуваннями клієнта, дозволами чи шаблонами запитів, а натомість розташовується безпосередньо на шляху транзакції. Кожен важливий запит отримує точку перехоплення, а кожна конфіденційна дія слідує за визначеним шляхом прийняття рішень. Це означає, що кожен новий конектор, агент або плагін стає об'єктом оцінки як вхідний шлях, а не просто чергова функція продуктивності. Це життєво важливо, оскільки відхилення архітектури зазвичай є причиною провалу таких програм. Одна команда впроваджує ков-пайлот для одного сценарію, потім інша команда підключає форму, і зрештою хтось додає робочий процес або надає агенту доступ до інструментів. Кожна з цих змін виглядає незначною сама по собі, але разом вони створюють набагато більший вектор атаки, ніж будь-хто планував. Якщо ви не вбудуєте перехоплення у свою операційну модель, середовище розширюватиметься набагато швидше, ніж ваші засоби контролю зможуть за цим встигати. Для керівників з безпеки цей підхід нарешті вирішує проблему розмитої відповідальності, яка переслідує більшість організацій. Зараз ризики ков-пайлот зазвичай випадають із зони відповідальності між різними командами. СОСі бачать сповіщення, адміністратори Microsoft 365 бачать конфігурацію, а власника AI хвилює лише рівень впровадження. Коли ви використовуєте шлях контролю через Logic Apps, усі ці групи нарешті можуть працювати за єдиною моделью реагування. Вони використовують той самий журнал подій, ту саму логіку оцінювання та ту саму історію гілок, що зменшує плутанину, коли ризикований запит чи шкідливий документ з'являється у робочому процесі. Бізнес-сторона цього питання набагато простіша, ніж очікують люди. Заблокувати загрозу на ранньому етапі завжди дешевше, ніж намагатися розгрібати наслідки пізніше. Очищення включає розслідування, юридичні перевірки та перерви в роботі користувачів і зазвичай закінчується неприємними переглядами прав доступу, які слід було провести до розгортання. Керівникам не потрібні довгі лекції з етики AI. Щоб зрозуміти це, їм просто потрібно побачити, що контроль під час виконання коштує дешевше, ніж некеровані ризики в системах, якими щодня користується персонал. Для топ-менеджерів це піднімає незручне питання про те, де саме криється ризик. Ризики AI більше не перебуває в пісочниці чи лабораторному пілоті, тепер він знаходиться у Word, Outlook, SharePoint та Teams. Люди вже вважають ці місця достатньо безпечними для швидкої роботи і саме ця запозичена довіра підвищує ставки для компанії. Помилковий робочий процес у експериментальному додатку – це локальна проблема, але помилковий процес у вашому повсякденному стеку продуктивності – це зовсім інша історія. Ваш шлях впровадження має залишатися невеликим і дуже виваженим. Почніть з одного сценарію використання, одного тригера та однієї моделі оцінювання. Оберіть напрямок, де дані дійсно важливі, а поведінку системи вам легко спостерігати. Ви маєте довести, що робочий процес виявляє ризиковані вхідні дані та спрямовує безпечні, надаючи людям корисну інформацію, коли потрібна перевірка. Коли ви доведете, що це працює, можна починати розширення. Згодом ви зможете додати виявлення аномалій або засоби контролю виводу, де це доречно. Ви можете додати глибший моніторинг зловживання інструментами, але перший бар'єр має бути там, де недовірений контекст потрапляє в систему. Якщо цей перший бар'єр слабкий, будь-який наступний контроль лише намагатиметься компенсувати погану відправну точку. Зміна підходу насправді дуже проста. Припиніть сприймати промп ін'єкції як проблему формулювання і почніть сприймати їх як контроль під час виконання недовіреного контексту в Co-Pilot. Знайдіть час цього тижня, щоб відобразити один робочий процес Co-Pilot від початку до кінця. Знайдіть останню безпечну точку перехоплення перед виконанням і створіть логічний додаток, який оцінює, блокує та реєструє цей шлях. Якщо вам потрібно більше пробезпеку Co-Pilot без зайвих слів, підписуйтеся та залишайте відгук. Ви також можете зв'язатися зі мною, Мірко Петерсом, у LinkedIn, щоб розповісти про конкретний сценарій орендаря, який ви намагаєтеся захистити.