WEBVTT

00:00:00.000 --> 00:00:02.480
귀하의 코파일럿 문제는 사실 기능의 문제가 아닙니다.

00:00:02.640 --> 00:00:04.540
그 이면에 있는 모델에 대한 신뢰의 문제입니다.

00:00:04.720 --> 00:00:08.900
대부분의 팀은 여전히 안전히 프롬프트, 권한, 그리고 경계에 있는 몇 가지 필터에 달려있다고 생각합니다.

00:00:09.080 --> 00:00:14.320
하지만 핵심은 공격자가 프롬프트를 뚫을 필요 없이 그 주변의 맥락을 오염시키기만 하면 되며, 바로 거기서 문제가 발생한다는 것입니다.

00:00:14.480 --> 00:00:20.060
기본 필터는 뻔한 쓰레기 데이터는 걸러낼 수 있지만, 이메일, 셰어포인트 파일, 양식필드의 숨겨진 페이로드는 놓칩니다.

00:00:20.260 --> 00:00:25.080
이렇게 검색된 콘텐츠는 코파일럿 E2를 가져와 직접적인 지시사항으로 처리할 때까지 조용히 머물러 있습니다.

00:00:30.000 --> 00:00:33.600
현실은 패치가 이러한 패턴을 끝내지 못했다는 것입니다.

00:00:33.780 --> 00:00:40.880
코파일럿은 전체 마이크로소프트 365 환경에서 검색, 요약, 실행을 할 수 있기 때문에 잘못된 지시 경로 하나가 빠르게 퍼질 수 있습니다.

00:00:41.060 --> 00:00:48.860
따라서 이것은 단순히 스택의 대시보드를 추가하는 것이 아니라, 에이저 로직 앱스를 경로에 배치하여 코파일럿 E 실행되기 전에 악성 페이로드를 검사, 점수 산정, 차단하는 것입니다.

00:00:49.040 --> 00:00:51.380
진정한 위험은 프롬프트가 아니라 아키텍처에 있습니다.

00:00:51.700 --> 00:00:55.640
구형 모델은 모델 주변에 더 나은 지시사항을 작성함으로써 시스템을 안전하게 유지할 수 있다고 가정합니다.

00:00:55.640 --> 00:01:00.220
강력한 시스템 프롬프트를 제공하고, 구분 기호를 추가하며 사용자에게 하지 말아야 할 일을 지시합니다.

00:01:00.380 --> 00:01:05.440
이론적으로는 그럴듯하게 들리지만, 실제로는 모델이 보안 시스템처럼 신뢰 경계를 강제하지 않습니다.

00:01:05.660 --> 00:01:10.560
지시사항과 데이터가 주의를 끌기 위해 경쟁하는 하나의 공유 채널에서 언어를 읽기 때문입니다.

00:01:10.740 --> 00:01:12.180
바로 그 가정이 결함입니다.

00:01:12.420 --> 00:01:18.560
모델이 도움을 요청하는 사용자와 이전 지시사항을 무시하라고 은밀히 명령하는 문서를 확실하게 구분할 수 없다면,

00:01:19.120 --> 00:01:21.460
제어 지점을 프롬프트의 계층에만 둘 수는 없습니다.

00:01:21.460 --> 00:01:27.100
여러분은 경계에서 행동을 보완하려 하지만, 실제 위험은 모델로 들어가는 맥락의 흐름 안에 있습니다.

00:01:27.420 --> 00:01:31.280
검색 중심의 코파일럿 워크로드가 등장하면서 많은 틴리의 점을 깨닫게 되었습니다.

00:01:31.480 --> 00:01:37.440
코파일럿 e 마이크로소프트 그래프 위 이메일, 파일, 채팅 기록에서 정보를 가져오기 시작하는 순간 공격 표면은 완전히 바뀝니다.

00:01:37.580 --> 00:01:42.040
더 이상 대화만 보완하는 것이 아니라, 신뢰 수준이 혼재된 라이브 스트림 데이터를 보완해야 하는 것입니다.

00:01:42.240 --> 00:01:44.980
한 단계 더 깊이 들어가면 코파일럿은 도달 범위를 널힙니다.

00:01:44.980 --> 00:01:48.860
단순히 질문에 답하는 것을 넘어 정보를 검색하고 요약하며 참조를 따라갑니다.

00:01:49.000 --> 00:01:51.760
일부 설정에서는 도구나 워크플로우를 트리거할 수도 있습니다.

00:01:51.960 --> 00:01:56.980
따라서 신뢰할 수 없는 콘텐츠가 그 체인에 들어오면, 모델은 그 영향력을 민감한 작업으로까지 이어갈 수 있습니다.

00:01:57.220 --> 00:01:59.920
이것이 지금 간접 프롬프트 주입이 매우 중요한 이유입니다.

00:02:00.100 --> 00:02:04.820
운영 시스템에서 흔한 공격은 항상 사용자가 채팅창에 규칙을 무시하라고 입력하는 형태가 아닙니다.

00:02:04.980 --> 00:02:10.440
더 위험한 버전은 검색된 콘텐츠 내부에 숨어 있으며, 아무도 그 존재를 알아채지 못한 채 몇 주씩 머물기도 합니다.

00:02:10.440 --> 00:02:17.760
오염된 문서, 교묘하게 작성된 이메일 또는 양식 입력 값은 사람에게는 무해해 보일 수 있지만, 모델을 직접 겨냥한 지시문을 포함하고 있습니다.

00:02:18.000 --> 00:02:24.000
나중에 코파일럿이 해당 콘텐츠를 관련 컨텍스트로 검색하여 신뢰할 수 있는 자료와 혼합하면, 모델은 잘못된 지시를 따르게 됩니다.

00:02:24.200 --> 00:02:27.060
공격체인은 단순하며, 바로 그 점이 위험을 초래합니다.

00:02:27.280 --> 00:02:36.200
먼저 공격자가 코파일럿이 접근할 수 있는 곳에 콘텐츠를 심어두면, 검색 단계에서 해당 콘텐츠가 세션으로 들어오고, 이후 모델은 그 페이로드를 데이터가 아닌 지시어로 처리합니다.

00:02:36.200 --> 00:02:43.820
그 후에는 민감한 정보를 준비하거나, 응답을 조정하거나, 링크나 도구 사용을 통해 데이터를 외부로 유출하는 경로로 밀어넣기 시작할 수 있습니다.

00:02:44.020 --> 00:02:49.220
따라서 리더들에게 이는 단순한 AI 위생관리가 아니라, 액세스 거버넌스와 직접 연결된 런타임 제어 문제입니다.

00:02:49.380 --> 00:02:58.280
코파일럿이 테넌트 전반에 걸쳐 넓은 도달 범위를 갖고 모델이 엄격한 구분 없이 혼합된 신뢰 컨텍스트를 소비한다면, 보안 모델은 실행 전 흐름에 유입되는 내용을 고려해야 합니다.

00:02:58.460 --> 00:03:00.740
이 점을 깨닫는 순간, 해결책 또한 달라집니다.

00:03:00.740 --> 00:03:05.140
완벽한 프롬프트에 집착하는 것을 멈추고, 컨텍스트가 이동하는 지점에 집행수단을 배치하기 시작해야 합니다.

00:03:05.260 --> 00:03:10.560
기본적인 방어 수단이 실제 환경에서 실패하는 이유, 대부분의 팀은 시작 단계부터 근본적인 실수를 범합니다.

00:03:10.780 --> 00:03:15.380
그들은 수년간 앱 개발에서 사용해온 보안 제어가 코파일럿에도 똑같이 잘 작동할 것이라고 가정합니다.

00:03:15.560 --> 00:03:21.580
더 강력한 시스템 프롬프트를 작성하고, 사용자 입력 값을 특수문자로 감싸고, 직원 지침을 게시하는 것으로 안전하다고 느낍니다.

00:03:21.800 --> 00:03:26.660
그러한 조치들이 나쁜 것은 아니면 중단하라고 말하고 싶지는 않지만, 그것이 실질적인 보안 경계를 만들어주지는 않습니다.

00:03:26.660 --> 00:03:31.260
그저 모델을 설득하여 행동하게 만들려는 것일 뿐이며, 보안 영역에서 설득은 강제와 같지 않습니다.

00:03:31.420 --> 00:03:33.120
바로 그 지점에 간극이 존재합니다.

00:03:33.340 --> 00:03:40.700
시스템 프롬프트는 모델의 선호하는 방식을 지시할 뿐, 악성 파일이 작업 공간으로 불러와 진후 모델의 주의를 끌기 위해 경쟁하는 것을 막을 수는 없습니다.

00:03:40.960 --> 00:03:46.240
구분자를 사용하는 것이 텍스트 구조화에는 도움이 될지 몰라도, 모델의 보안인가를 확인할 방법을 제공하지는 않습니다.

00:03:46.440 --> 00:03:53.100
직원 지침은 실수를 방지하는 데는 훌륭하지만, 오염된 문서 나 검색된 데이터 속에 숨겨진 페이로드에는 아무런 효과가 없습니다.

00:03:53.100 --> 00:03:57.080
제어 수단이 실행 시점에 적용되는 강력한 규칙이 아니라 제한으로 존재하기 때문입니다.

00:03:57.220 --> 00:03:59.280
정규식, 레지엑스도 비슷한 문제를 가지고 있습니다.

00:03:59.460 --> 00:04:02.460
정규식은 빠르고 비용이 저렴하므로 신속한 1차 검사 용도로 사용할 가치는 있습니다.

00:04:02.700 --> 00:04:07.140
사용자가 이전 지시를 모두 무시하라, 고입력하면 시스템은 밀리초 단위로 이를 잡아내야 합니다.

00:04:07.320 --> 00:04:12.560
또한 도구 인수에서 명백한 개인정보 우회 문구 또는 SQL 스타일 문자를 표시하는 데 사용할 수도 있습니다.

00:04:12.800 --> 00:04:20.580
그 부분은 잘 작동하지만, 정규식은 이미 정의된 패턴만 인식하므로 문구가 약간 바뀌거나 특정 단어가 아닌 의미에 기반한 공격일 경우 실패합니다.

00:04:20.580 --> 00:04:22.800
이것이 분류기 계층이 필요한 이유입니다.

00:04:22.980 --> 00:04:27.860
에이저 AI 컨텐츠 세이프티에는 직접 및 간접 프롬프트 주입 공격을 모두 탐지할 수 있는 프롬프트 실드가 있습니다.

00:04:28.120 --> 00:04:34.740
로직 앱에서 API를 호출해 모델이 프롬프트를 보기 전에 확인하고, 공격이 탐지되면 워크플로 경로를 변경할 수 있습니다.

00:04:34.980 --> 00:04:41.280
이는 프롬프트와 문서 전체의 단어 뒤에 숨은 위도를 파악하기 때문에 단순 문자열 일치보다 훨씬 강력한 제어 방식입니다.

00:04:41.520 --> 00:04:43.880
그렇더라도 탐지만으로는 충분하지 않습니다.

00:04:44.100 --> 00:04:47.440
위험을 확인해도 이를 막을 방법이 없다면 소용이 없기 때문입니다.

00:04:47.440 --> 00:04:50.900
보안팀은 종종이 과정의 특정 부분을 과소평가합니다.

00:04:51.320 --> 00:04:56.080
로그 파일의 경고는 봉쇄가 아니면 멋진 대시보드 타일도 봉쇄가 아닙니다.

00:04:56.260 --> 00:05:03.340
페이로드가 이미 코파일럿을 통과해 다운스트림 시스템에서 작업을 트리거했다면, 보안 시스템의 높은 우선순위 알림조차 무용지물입니다.

00:05:03.560 --> 00:05:08.700
사후 검토는 조사에는 도움이 되지만, 공격이 순식간에 일어나는 상황에서는 충분하지 않습니다.

00:05:08.940 --> 00:05:12.920
여러분은 조직이 이미 신뢰하는 시스템 내부에서 동작할 수 있는 모델을 다루고 있습니다.

00:05:12.920 --> 00:05:17.260
대부분의 제품 마케팅에서 간과하는 미탐, 폴스 네거티브, 문제도 있습니다.

00:05:17.480 --> 00:05:25.200
간접 공격은 모델이 위험한 지시를 대화 내용과 결합하기 전까지는 매우 정상적으로 보이기 때문에 실제 탐지 실패의 큰 원인이 됩니다.

00:05:25.520 --> 00:05:30.620
사람이 결과를 검토하고 문제가 있음을 깨닫는 시점에는 이미 잘못된 입력이 그 역할을 마친 상태입니다.

00:05:30.840 --> 00:05:32.840
여기서의 실무적 실수는 매우 간단합니다.

00:05:33.020 --> 00:05:37.900
팀들은 코파일럿이 무엇을 말하는지 지켜보는데 시간을 다 쓰지만, 들어가는 데이터는 그만큼 철저히 통제하지 않습니다.

00:05:37.900 --> 00:05:42.780
결과가 생성된 후에 답변을 검사하면서도, 작업이 시작되기 전에는 신뢰할 수 없는 데이터가 유입되도록 방치합니다.

00:05:42.920 --> 00:05:44.720
그 순서는 완전히 거꾸로 된 것입니다.

00:05:44.940 --> 00:05:48.480
그 결함을 인식하는 순간, 보안 전략의 전체 목표가 바뀝니다.

00:05:48.680 --> 00:05:54.080
어떻게 더 안전한 프롬프트를 작성할지 고민하는 대신, 모델이 실행되기 전에 어디서 데이터를 가로챌 수 있을지 고민하게 됩니다.

00:05:54.320 --> 00:05:55.680
로직앱 방화벽 모델입니다.

00:05:55.940 --> 00:06:00.020
가로채기가 목표라면, 그 제어 방식이 실제로 어떤 모습인지 살펴봐야 합니다.

00:06:00.300 --> 00:06:04.300
에이저 로직앱스를 실행 단계 앞단에 배치되는 정책계층으로 사용해야 합니다.

00:06:04.300 --> 00:06:08.080
피해가 발생한 후 보고서를 보내는 수동적 인도구가 되어서는 안 됩니다.

00:06:08.320 --> 00:06:13.860
사용자 입력과 데이터 검색 경로에 직접 배치하여 모델이 작업을 시작하기 전에 검사할 수 있도록 해야 합니다.

00:06:14.080 --> 00:06:17.880
이러한 전환이 강력한 이유는 로직앱이 오케스트레이션을 위해 설계되었기 때문입니다.

00:06:18.060 --> 00:06:23.780
특정 이벤트가 발생하면 이를 트리거하고, 다른 API를 호출하며, 복잡한 조건에 따라 의사결정을 내릴 수 있습니다.

00:06:24.020 --> 00:06:27.320
사용자 지정 보안 게이트웨이를 처음부터 구축할 필요 없이 데이터를 나우팅하고,

00:06:27.720 --> 00:06:31.240
마이크로소프트 센티널에 경고를 보내고, 외부 정보로 프로세스를 보강할 수 있습니다.

00:06:31.240 --> 00:06:36.800
여기서 코파일럿을 대체하려는 것은 아닙니다. 그저 그 주변 흐름에 제어계층을 하나 삽입하는 것뿐입니다.

00:06:36.980 --> 00:06:39.500
이 모델의 이면에는 위도적으로 단순하게 설계된 로직이 있습니다.

00:06:39.780 --> 00:06:42.120
먼저 프로세스를 트리거하고, 데이터를 정규화합니다.

00:06:42.320 --> 00:06:46.340
검사를 수행하고, 위험 점수를 산정하며, 결정을 내리고, 마지막으로 결과를 나우팅하거나 기록합니다.

00:06:46.540 --> 00:06:47.740
이것이 전체 패턴입니다.

00:06:47.960 --> 00:06:52.740
요청이나 콘텐츠가 워크플로우에 진입하면, 로직앱은 해당 페이로드를 가져와 표준화합니다.

00:06:53.020 --> 00:06:57.200
커넥터마다 데이터를 처리하는 방식이 다르기 때문에 원시 입력 데이터는 되게 복잡합니다.

00:06:57.200 --> 00:07:03.040
이메일은 양식 입력과 다르게 보이며, 파일 콘텐츠나 도구 인수도 모두 각기 다른 메타데이터와 필드를 가지고 있습니다.

00:07:03.260 --> 00:07:08.300
데이터를 정규화하기 전에 검사를 실행하려고 하면, 감지 시스템에 노이즈가 엄청나게 발생할 것입니다.

00:07:08.500 --> 00:07:12.020
페이로드가 일관된 형식으로 평탄화되면, 첫 번째 검사 단계가 시작됩니다.

00:07:12.240 --> 00:07:14.840
여기서 사용자 지정 정규식이 여전히 수행할 역할이 있습니다.

00:07:15.120 --> 00:07:19.700
이는 최종적인 판단 도구나 마법 같은 해결책은 아니지만, 시스템의 가장자리에서 매우 빠른 필터 역할을 합니다.

00:07:19.700 --> 00:07:26.760
알려진 재정의 언어, 인코딩 힌트 또는 도구 매개 변수의 의심스러운 패턴을 빠르게 스캔하여 상황을 즉각적으로 분류할 수 있습니다.

00:07:26.980 --> 00:07:30.820
그런 다음 콘텐츠를 훨씬 더 깊이 분석하는 두 번째 검사 단계로 넘어갑니다.

00:07:30.980 --> 00:07:34.500
이 단계에서 에이저 AI 컨텐트 세이프티 프롬프트 실드를 호출합니다.

00:07:34.720 --> 00:07:40.620
로직 앱은 사용자 프롬프트와 검색된 문서를 API로 보내고, 공격이 감지되었는지 여부에 따라 분기 처리합니다.

00:07:40.840 --> 00:07:45.380
프롬프트 인젝션이 항상 명백한 컴퓨터 코드처럼 보이는 것은 아니기 때문에 이 과정이 중요합니다.

00:07:45.380 --> 00:07:49.900
때로는 프롬프트와 문서를 하나의 단위로 평가해야만 위험이 명확해지는 경우가 있습니다.

00:07:50.220 --> 00:07:55.620
이것을 단순한 필터에서 실제 보안 제어로 바꿔주는 또 하나의 계층이 있는데, 바로 위협 인텔리전스입니다.

00:07:55.800 --> 00:08:01.680
콘텐츠가 알려진 악성 도메인이나 팀이 이전에 확인한 위심스러운 URL을 참조하는 경우, 결정에 영향을 미쳐야 합니다.

00:08:01.880 --> 00:08:07.680
로직 앱은 디펜더 위협 인텔리전스 나기타 타사피드와 이벤트를 대조하여 위험에 대한 신뢰도 점수를 추가할 수 있습니다.

00:08:07.680 --> 00:08:15.240
즉, 신뢰할 수 있는 소스에서 나온 이상한 패턴은 통과될 수 있지만, 적대적인 평판 점수와 결합된 동일한 패턴은 즉시 차단될 수 있습니다.

00:08:15.440 --> 00:08:20.080
이를 통해 의사결정트리는 단순한 예 또는 아니요 선택 이상의 기능을 수행하게 됩니다.

00:08:20.280 --> 00:08:24.980
위험 점수가 낮으면 요청을 허용하거나 안전하지 않은 조각을 제거하여 삭제할 수 있습니다.

00:08:25.240 --> 00:08:28.720
소스에 대한 수동 검토가 필요하면 데이터를 격리하도록 선택할 수도 있습니다.

00:08:28.960 --> 00:08:33.260
작업에 민감한 데이터가 포함된 경우 진행하기 전에 사람의 쓰인을 받도록 요구할 수도 있습니다.

00:08:33.480 --> 00:08:37.060
물론 신호가 충분히 강하다면 단순히 요청을 차단하고 경고를 보냅니다.

00:08:37.060 --> 00:08:40.780
이러한 다양한 옵션이의 모델을 비즈니스에 실제로 효과적으로 만드는 요소입니다.

00:08:40.960 --> 00:08:45.300
보안팀은 조금이라도 불확실해 보이는 모든 사례를 거부하기 때문에 도입을 저해하는 경우가 많으며,

00:08:45.680 --> 00:08:48.320
통제가 너무 염격하면 사람들은 이를 우회할 방법을 찾습니다.

00:08:48.520 --> 00:08:53.040
점수가 매겨진 워크플로우를 사용하면 당황하는 대신 실제 위험에 기반하여 대응할 여지가 생깁니다.

00:08:53.220 --> 00:08:56.720
이것이 바로 로직앱스가 별도의 도구 모음보다 더 적합한 이유입니다.

00:08:56.940 --> 00:09:01.480
이미 나머지 마이크로소프트 생태계와 연결되어 있으며, 센티널 플레이북과 완벽하게 작동합니다.

00:09:01.480 --> 00:09:06.340
한 곳에서 콘텐츠 안전검사를 요청하고, 위협 데이터를 조회하며 감사 이벤트를 푸시할 수 있습니다.

00:09:06.500 --> 00:09:11.540
공격자가 문구를 변경하거나 시스템에 진입하는 새로운 방법이 나타날 때 마다 긴 개발 주기가 필요하지 않습니다.

00:09:11.740 --> 00:09:14.420
이 모든 것이 작동하게 만드는 규칙은 매우 간단합니다.

00:09:14.640 --> 00:09:18.640
점수가 매겨지기 전까지는 모든 단일 컨텍스트를 신뢰할 수 없는 것으로 취급해야 합니다.

00:09:18.860 --> 00:09:24.100
이는 사용자 프롬프트뿐만 아니라 이메일 본문, 업로드된 파일, 시어포인트 양식 필드까지 의미합니다.

00:09:24.320 --> 00:09:28.800
여기에는 커넥터 페이로드, 검색된 문서 청크, 심지어 도구 인수까지 포함됩니다.

00:09:28.800 --> 00:09:35.260
모두 확인해야 합니다. 이러한 소스 중 하나가 기본적으로 안전하다고 가정하는 순간, 공격자가 이용할 수 있는 새로운 틈을 만든 것입니다.

00:09:35.460 --> 00:09:41.960
워크플로우가 이 규칙을 일관되게 적용하면 더 이상 코파일럿이 자체적으로 좋은 데이터와 나쁜 데이터를 분리하도록 위전할 필요가 없습니다.

00:09:42.260 --> 00:09:44.360
프로세스는 통제된 진입 시스템이 됩니다.

00:09:44.680 --> 00:09:52.020
이론상으로는 훌륭해 보이지만, 사람들이 실제로 관심을 갖는 것은 실제 세계에서 위험한 페이로드가 워크플로우에 도달했을 때 무슨 일이 일어나는가 하는 점입니다.

00:09:52.020 --> 00:10:01.540
시스템이 가동될 때 워크플로우가 런타임에 실제로 수행하는 작업은 단순히 텍스트에서 나쁜 단어를 검사하는 것이 아니라, 결정이 내려지기 전에 요청의 전체적인 상황을 파악하는 것입니다.

00:10:01.740 --> 00:10:10.520
이벤트가 수신 지점에 도달하면, 양식 제출, 이메일 흐름 또는 코파일럿 프로세스와 연결된 문서 업로드 등 로직 앱스는 즉시 해당 이벤트를 메타 데이터로 랩핑합니다.

00:10:10.700 --> 00:10:16.400
누가 요청을 보냈는지, 어떤 앱이 이를 처리했는지, 파일의 출처는 어디인지, 시스템이 다음에 무엇을 하려는지 추적합니다.

00:10:16.400 --> 00:10:21.860
이 추가 컨텍스트는 매우 중요한데, 같은 문장이라도 출처에 따라 완전히 다른 의미를 가질 수 있기 때문입니다.

00:10:22.040 --> 00:10:25.460
데이터가 캡쳐되면 페이로드는 특정 신뢰 영역으로 분할됩니다.

00:10:25.660 --> 00:10:27.520
이 구분은 명확하게 유지해야 합니다.

00:10:27.740 --> 00:10:33.800
사용자 프롬프트는 한 곳에, 검색된 문서는 다른 곳에, 대화기록이나 도구 매개 변수는 별도의 공간에 배치합니다.

00:10:34.020 --> 00:10:41.680
이 모든 것을 너무 일찍 합치면 위험한 지시가 실제로 어디서 시작되었는지 파악할 수 없게 되며, 검토 과정은 완전히 추측에 의존하게 됩니다.

00:10:41.680 --> 00:10:48.300
많은 팀이 모든 것을 결합하는 것이 더 빠르다고 생각하여 이 단계를 건너뛰지만, 실제로는 따라가야 할 경로를 숨길 뿐입니다.

00:10:48.460 --> 00:10:50.940
다음으로 워크플로우는 정규화 단계로 넘어갑니다.

00:10:51.100 --> 00:10:55.060
이 작업은 지루하지만, 탐지 기능을 실제로 사용할 수 있게 만드는 핵심 과정입니다.

00:10:55.260 --> 00:11:03.160
노이즈를 유발하는 마크업을 제거하고, URL 인코딩이나 아세64 추적을 디코딩하며, 중첩된 필드를 평면화하여 안정적인 형태에 대해 검사가 실행되도록 해야 합니다.

00:11:03.340 --> 00:11:10.200
한 커넥터는 리치 텍스트를 보내고, 다른 커넥터는 JSON 조각을 보낸다면, 이를 모두 검사가 일관되게 읽을 수 있는 필드로 축소해야 합니다.

00:11:10.200 --> 00:11:15.000
그렇지 않으면 논리검사가 실제 공격을 찾는 시간보다 형식 편차와 싸우는데 더 많은 시간을 소비하게 됩니다.

00:11:15.200 --> 00:11:18.180
데이터가 정리된 후에는 빠른 패턴 패스가 먼저 실행됩니다.

00:11:18.380 --> 00:11:21.040
이는 비용이 저렴하고 직접적이며 신속해야 합니다.

00:11:21.240 --> 00:11:27.360
이전 지시사항을 모두 무시하라, 거나 시스템 재정예와 같이 시스템 동작을 재정예하려는 문구를 찾습니다.

00:11:27.640 --> 00:11:34.020
또한 기밀 자료를 공개하거나, 비밀을 추출하거나, 개인 정보 설정을 우회하라는 등의 추출 언어도 찾아야 합니다.

00:11:34.020 --> 00:11:41.040
로직 앱에서 팀은 일반적으로 모든 히트마다 즉시 요청을 차단하기보다는 플래그를 설정하는 시기나 구성 단계를 통해 이를 처리합니다.

00:11:41.220 --> 00:11:45.720
단일 문구만으로 항상 악의적인 위도라고 단정할 수 없기 때문에 이러한 플래그 설정이 중요합니다.

00:11:45.900 --> 00:11:51.100
정상적인 보안 업무를 수행하는 사람이라도 기밀 콘텐츠 처리 검토에 대해 문외해야 할 상황이 있을 수 있기 때문입니다.

00:11:51.280 --> 00:11:57.120
이를 해결하기 위해 워크플로는 더 풍부한 페이로드를 에이저 AI 콘텐츠 안전 프롬프트 실드, 프롬프트 실드 로본에 더 신칭적으로 검사합니다.

00:11:57.120 --> 00:12:04.200
API 호출에는 사용자 프롬프트와 검색된 문서가 모두 포함되는데, 이들 사이의 관계에서 실제 문제가 발생하는 경우가 많기 때문입니다.

00:12:04.360 --> 00:12:10.320
서비스가 단순한 신호를 반환하면, 공격이 감지될 경우 워크플로는 모델 호출이 발생하기 전에 경로를 변경합니다.

00:12:10.500 --> 00:12:12.480
그런 다음 외부 컨텍스트를 추가해야 합니다.

00:12:12.680 --> 00:12:16.320
위협 인텔리전스 조회를 통해 워크플로는 상황을 더 명확하게 파악할 수 있는 추가적인 시각을 얻게 됩니다.

00:12:16.520 --> 00:12:23.760
마이크로소프트 디펜더 위협 인텔리전스 나 신뢰할 수 있는 TAXII 소스를 커리하여 남용과 관련된 도메인, URL 또는 출처 지표를 확인할 수 있습니다.

00:12:23.760 --> 00:12:30.400
출처의 평판은 최종 점수를 완전히 대체하는 것이 아니라 영향을 주어야 하므로, 가능한 경우 신뢰도 점수를 반영하는 것이 좋습니다.

00:12:30.580 --> 00:12:36.440
위험한 출처에서 발생한 취약한 페이로드는 신뢰할 수 있는 내부 프로세스에서 발생한 동일한 페이로드보다 항상 더 높은 위험 등급으로 분류되어야 합니다.

00:12:36.600 --> 00:12:38.880
마지막으로 시스템은 종합 점수를 산출합니다.

00:12:39.100 --> 00:12:44.420
여기에는 패턴 적중 강도, 프롬프트 실대 결과, 출처 평판, 그리고 요청된 작업의 민감도가 고려됩니다.

00:12:44.600 --> 00:12:50.020
공개 기사를 요약해달라는 저 위험 요청은 보호된 파일을 노출할 수 있는 요청과 동일한 가중치를 갖지 않습니다.

00:12:50.240 --> 00:12:52.460
이 결합된 점수가 브랜치 처리를 결정합니다.

00:12:52.460 --> 00:12:54.660
안전한 이벤트는 계획대로 진행됩니다.

00:12:54.860 --> 00:12:58.080
중위험 사례는 정화되거나 안전한 대체 경로로 전달됩니다.

00:12:58.300 --> 00:13:01.340
그리고 고위험 사례는 코파일럿이 실행되기 전에 차단됩니다.

00:13:01.560 --> 00:13:04.980
모든 데이터는 결정 경로가 보존된 상태로 감사 추적에 기록됩니다.

00:13:05.180 --> 00:13:09.460
이렇게 차단된 이벤트는 어디에서 압박이 가중되고 어떤 출처가 문제를 일으키는지 알려줍니다.

00:13:09.680 --> 00:13:12.380
어떤 패턴이 비즈니스 워크플로우에 유입되는지 확인하면,

00:13:12.900 --> 00:13:15.600
다음 단계의 시스템 조정을 위한 데이터를 확보할 수 있습니다.

00:13:15.860 --> 00:13:18.680
낮은 노이즈와 실제 비즈니스 활용을 위한 조정 방법입니다.

00:13:18.680 --> 00:13:21.260
시스템이 실행되면 업무의 성격이 변화합니다.

00:13:21.420 --> 00:13:23.640
흐름을 구축하는 것은 사실 쉬운 부분입니다.

00:13:23.860 --> 00:13:26.960
사용자가 시스템을 신뢰하고 우회 방법을 찾지 않도록 조정하는 것이

00:13:26.960 --> 00:13:30.300
이것이 진정한 보완 제어가 될지, 실패한 실험이 될지를 결정합니다.

00:13:30.500 --> 00:13:33.720
시스템이 너무 많은 마찰을 유발하면 사용자는 이를 우회할 방법을 찾게 되며,

00:13:34.040 --> 00:13:35.800
이는 프로젝트 전체를 무의미하게 만듭니다.

00:13:35.940 --> 00:13:37.320
범위를 좁게 시작해야 합니다.

00:13:37.560 --> 00:13:40.640
첫날부터 모든 코파일럿 접점을 모니터링하려고 하지 마십시오.

00:13:40.780 --> 00:13:43.440
대신 도구 기반 작업이나 고가치 데이터 소스와 같이

00:13:43.440 --> 00:13:46.420
위험이 가장 높고 경로가 명확한 곳을 선택하십시오.

00:13:46.540 --> 00:13:49.700
셰어포인트 기반 프로세스 하나나 특정 양식 워크플로에서 시작하여

00:13:49.700 --> 00:13:51.700
실제로 읽을 수 있는 신호를 얻는 것이 좋습니다.

00:13:51.920 --> 00:13:55.260
작은 범위로 시작하면 데이터에 파묻히지 않고 학습할 여유가 생깁니다.

00:13:55.440 --> 00:13:57.780
초기 검사를 설정할 때는 절대적인 확실성보다는

00:13:57.780 --> 00:13:59.920
재현율을 중심으로 거부 기준을 조정하십시오.

00:14:00.040 --> 00:14:02.380
첫 번째 단계는 의심스러운 언어를 조기에 포착하는 것이지,

00:14:02.760 --> 00:14:05.340
합리적인 의심의 여지 없이 악의적인 위도를 증명하는 것이 아닙니다.

00:14:05.500 --> 00:14:08.200
패턴을 완벽하게 만들려고 강제하면 시스템이 취약해지고

00:14:08.200 --> 00:14:09.880
정작 중요한 항목을 놓치기 시작합니다.

00:14:09.880 --> 00:14:12.720
초기에는 시스템이 다소 과도하게 플래그를 설정하도록 두고,

00:14:12.980 --> 00:14:15.760
이후 검사에서 컨텍스트를 추가하여 노이즈를 줄이는 것이 좋습니다.

00:14:15.920 --> 00:14:18.840
이것이 바로 단일 적중보다 점수 산정이 중요한 이유입니다.

00:14:19.000 --> 00:14:21.580
구문 일치만으로 요청을 항상 차단해서는 안 되지만,

00:14:22.120 --> 00:14:26.260
그 일치가 프롬프트 실드 플래그 및 위험한 출처와 결합되면 상황이 달라집니다.

00:14:26.440 --> 00:14:30.660
약한 신호는 서로 누적되어야 하며, 강한 신호는 차단을 가속화해야 합니다.

00:14:30.900 --> 00:14:36.140
이것이 경직되고 성가신 필터와 실제로 비즈니스의 효과적인 정책 모델 간의 근본적인 차이입니다.

00:14:36.320 --> 00:14:38.480
또한 오탐지에 대한 상한선을 설정해야 합니다.

00:14:38.480 --> 00:14:40.460
2% 미만으로 유지하도록 노력하세요.

00:14:40.640 --> 00:14:44.220
일단 사람들이 통제가 일상 업무를 방해한다고 느끼면 시스템을 신뢰하지 않게 될 테니까요.

00:14:44.360 --> 00:14:45.860
그때부터 우회 방법이 시작됩니다.

00:14:46.080 --> 00:14:48.060
사용자는 관리되지 않는 도구에 텍스트를 복사하고,

00:14:48.380 --> 00:14:49.680
팀은 섀도우 워크플로우를 구축하며,

00:14:50.020 --> 00:14:52.100
관리자는 포발적인 예외 처리를 요구하기 시작할 것입니다.

00:14:52.280 --> 00:14:56.720
통제는 감지 실패가 아니라 마찰을 견디지 못해 내부로부터 붕괴할 것입니다.

00:14:56.960 --> 00:14:59.460
이를 방지하려면 올바른 지표를 주시해야 합니다.

00:14:59.700 --> 00:15:02.780
보여주기 10대 15드는 입고 평균 탐지 시간에 집중하세요.

00:15:02.780 --> 00:15:06.240
수동 검토가 필요한 모든 작업은 15분 미만으로 유지해야 합니다.

00:15:06.360 --> 00:15:11.100
또한 자동화된 차단 시간을 추적하여 안전하게 차단할 수 있는 경우 5분 미만을 목표로 삼아야 합니다.

00:15:11.300 --> 00:15:14.340
워크플로우가 끊임없이 작동하지만 실제 결정에 영향을 주지 않는다면,

00:15:14.760 --> 00:15:16.020
그것은 단순한 소음일 뿐입니다.

00:15:16.180 --> 00:15:18.560
비용 또한 지속적인 조정이 필요한 요소입니다.

00:15:18.800 --> 00:15:21.440
사용량 기반 논리앱은 실행한 만큼만 비용을 지불함으로,

00:15:21.580 --> 00:15:24.340
불규칙한 작업 부하 규모나 소규모 파일럿에 적합합니다.

00:15:24.580 --> 00:15:26.340
하지만 이벤트 규모가 예측 가능하고,

00:15:26.500 --> 00:15:28.440
실행당 비용이 부담스러울 정도로 커지면,

00:15:28.440 --> 00:15:30.020
표준 요금제가 더 합리적입니다.

00:15:30.220 --> 00:15:31.700
짐작으로 결정하지 마세요.

00:15:31.880 --> 00:15:35.500
가격 모델을 확정하기 전에 실제 트리거 횟수와 페이로드 크기를 측정하세요.

00:15:35.720 --> 00:15:37.680
스토리지 관리 방식에 주의를 기울이세요.

00:15:37.900 --> 00:15:40.600
사건 검토와 거버넌스 증빙을 위해 충분한 실행 기록은 필요하지만,

00:15:40.940 --> 00:15:43.520
민감한 콘텐츠로 가득 찬 거대한 데이터베이스는 필요하지 않습니다.

00:15:43.700 --> 00:15:45.980
결정 근거를 설명하는 특정 필드만 유지하고,

00:15:46.160 --> 00:15:48.560
보존 위험을 초래하는 불필요한 데이터는 삭제하세요.

00:15:48.800 --> 00:15:51.300
주의하지 않으면 과도한 데이터 저장이 보안 도구를

00:15:51.300 --> 00:15:53.380
개인정보 보호의 골칫거리로 만들 수 있습니다.

00:15:53.380 --> 00:15:56.760
마지막으로 이러한 모든 조정을 더 넓은 거버넌스와 연결하세요.

00:15:56.960 --> 00:15:58.380
워크플로우를 측정 및 관리와 같은

00:15:58.380 --> 00:16:00.620
NIST AI RMF 기능에 맵핑하고,

00:16:00.800 --> 00:16:02.660
퍼뷰의 데이터 민감도 레이블과 연계하세요.

00:16:02.820 --> 00:16:05.320
때로는 더 스마트한 탐지기보다 문제가 발생하기 전에

00:16:05.320 --> 00:16:07.460
워크플로우에서 불필요한 범위를 제거하는 것이

00:16:07.460 --> 00:16:08.800
최선의 해결책일 수 있습니다.

00:16:09.000 --> 00:16:10.960
그 단계에 도달하면 더 이상 추상적으로

00:16:10.960 --> 00:16:13.000
AI 안전을 논의하는 것이 아닙니다.

00:16:13.200 --> 00:16:14.700
비즈니스가 실제로 관리할 수 있는

00:16:14.700 --> 00:16:17.780
인계각과 상충관계를 갖춘 실제 운영 모델을 실행하는 것입니다.

00:16:17.780 --> 00:16:20.600
이것이 리더와 아키텍트에게 변화를 가져오는 점입니다.

00:16:20.760 --> 00:16:22.940
일단 이를 도입하면 코파일럿은 더 이상 맹목적으로

00:16:22.940 --> 00:16:24.580
신뢰하는 시스템처럼 작동하지 않으며

00:16:24.580 --> 00:16:26.240
여기서 진정한 변화가 시작됩니다.

00:16:26.420 --> 00:16:29.160
이 변화 이전에는 모델이 뒤섞인 컨텍스트를 그대로 받았고

00:16:29.160 --> 00:16:31.800
팀은 올바른 지침이 우선시 되기를 바랄 뿐이었습니다.

00:16:32.000 --> 00:16:33.720
이제는 모델이 컨텍스트를 다루기 전에

00:16:33.720 --> 00:16:36.600
먼저 스크리닝, 평가, 나우팅이 이루어집니다.

00:16:36.800 --> 00:16:38.920
보안 결과는 더 이상 추상적인 정책이 아니라

00:16:38.920 --> 00:16:40.880
통제된 실행으로 기능하기 때문입니다.

00:16:41.100 --> 00:16:41.960
아키텍트에게 있어

00:16:41.960 --> 00:16:44.920
이는 설계 내에서 보안이 실제로 존재하는 위치를 변화시킵니다.

00:16:45.120 --> 00:16:49.100
이제는 테넌트 설정, 권한, 프롬프트 템플릿 내만 머무르지 않고

00:16:49.100 --> 00:16:51.660
거래 경로 그 자체에 직접 위치하게 됩니다.

00:16:51.920 --> 00:16:54.320
중요한 모든 요청에는 가로채기 지점이 생기고

00:16:54.320 --> 00:16:57.380
모든 민감한 작업은 특정 결정 경로를 따르게 됩니다.

00:16:57.620 --> 00:17:00.060
이는 새로운 커넥터, 에이전트, 플러그인을

00:17:00.060 --> 00:17:01.300
단순한 생산성 기능이 아닌

00:17:01.300 --> 00:17:03.680
평가해야 할 입력 경로로 인식하게 함을 의미합니다.

00:17:03.860 --> 00:17:06.760
아키텍처 드리프트가 이러한 프로그램 실패의 주원인이기 때문에

00:17:06.760 --> 00:17:07.800
이는 매우 중요합니다.

00:17:07.980 --> 00:17:09.900
한 팀이 단일 사례에 코파일럿을 도입하면

00:17:09.900 --> 00:17:13.280
다른 팀이 양식을 연결하고 결국 누군가 워크플로우를 추가하거나

00:17:13.280 --> 00:17:15.300
에이전트의 도구 접근 권한을 부여하게 됩니다.

00:17:15.500 --> 00:17:17.440
이러한 변화는 각각 사소해 보이지만

00:17:17.440 --> 00:17:21.100
합쳐지면 예상보다 훨씬 더 큰 공격 경로를 만들어냅니다.

00:17:21.300 --> 00:17:23.520
운영 모델의 가로채기 기능을 구축하지 않으면

00:17:23.520 --> 00:17:26.800
환경은 통제 범위를 벗어나 훨씬 빠르게 확장될 것입니다.

00:17:27.040 --> 00:17:29.860
보안 책임자에게의 접근 방식은 대부분의 조직을 괴롭히는

00:17:29.860 --> 00:17:32.000
복잡한 소유권 문제를 마침내 해결해줍니다.

00:17:32.220 --> 00:17:35.900
현재 코파일럿 위 위험 요소는 대개 서로 다른 팀 사이의 공백에 방치되어 있습니다.

00:17:35.900 --> 00:17:40.040
soc는 경고를 보고 마이크로소프트 365관리자는 구성을 보며

00:17:40.040 --> 00:17:42.900
ai 담당자는 오직 도입률에만 관심을 갖습니다.

00:17:43.120 --> 00:17:45.500
로직 앱스 제어 경로를 사용하면 이 모든 그룹이

00:17:45.500 --> 00:17:48.040
마침내 단일 대응 모델을 기반으로 협업할 수 있습니다.

00:17:48.280 --> 00:17:52.180
동일한 이벤트 기록, 동일한 점수 산정 로직, 동일한 분기 이력을 사용함으로

00:17:52.180 --> 00:17:55.020
위험한 프롬프트나 악성 문서가 워크플로우에 나타날 때

00:17:55.020 --> 00:17:56.340
혼란을 완전히 줄여줍니다.

00:17:56.540 --> 00:17:57.900
이와 관련된 비즈니스적 측면은

00:17:57.900 --> 00:17:59.920
사람들이 예상하는 것보다 훨씬 더 직접적입니다.

00:18:00.140 --> 00:18:02.580
위협을 초기에 차단하는 것이 나중에 사후 조치를 취하는 것보다

00:18:02.580 --> 00:18:03.700
항상 비용이 적게 듭니다.

00:18:03.860 --> 00:18:07.520
사후 조치에는 조사, 법적 검토, 사용자 업무 중단이 따르며

00:18:07.520 --> 00:18:11.580
보통 배포전에 이루어져서 야할번거로운 접근 권한 재검토로 이어지곤 합니다.

00:18:11.780 --> 00:18:14.860
리더들은 ai 윤리에 대한 긴 강의를 듣지 않아도 됩니다.

00:18:15.140 --> 00:18:18.780
런타임 통제가 직원들이 매일 사용하는 시스템에 관리되지 않는 위험을

00:18:18.780 --> 00:18:21.520
방치하는 것보다 비용이 적게 든다는 점만 알면 됩니다.

00:18:21.800 --> 00:18:24.180
경영진에게 이는 위험이 어디에 존재하는지에 대한

00:18:24.180 --> 00:18:25.640
불편한 진실을 일깨워줍니다.

00:18:25.860 --> 00:18:28.720
ai 위험은 이제 샌드박스 나 파일럿 실험실을 넘어오듯

00:18:28.720 --> 00:18:31.720
아울룩, 셰어포인트, 팀즈에 자리 잡고 있습니다.

00:18:32.040 --> 00:18:35.500
사람들은 이미 환경들이 안전하다고 가정하고 빠르게 업무를 진행하며

00:18:35.500 --> 00:18:38.340
이러한 신뢰가 기업의 위험 부담을 높이는 요소가 됩니다.

00:18:38.600 --> 00:18:41.340
실험용 앱의 잘못된 워크플로는 국한된 문제이지만

00:18:41.340 --> 00:18:44.500
일상적인 생산성 도구 내부의 잘못된 워크플로는

00:18:44.500 --> 00:18:46.120
완전히 다른 차원의 문제입니다.

00:18:46.320 --> 00:18:48.800
배포 경로는 작고 매우 신중하게 유지해야 합니다.

00:18:49.040 --> 00:18:52.320
하나의 사용 사례, 하나의 트리거, 하나의 점수 산정 모델로 시작하십시오.

00:18:52.440 --> 00:18:56.220
데이터가 실제로 중요하고 그 동작을 관찰하기 쉬운 경로를 선택하십시오.

00:18:56.220 --> 00:18:59.280
워크플로가 위험한 입력을 잡아내고 안전한 입력은 전달하며

00:18:59.280 --> 00:19:02.800
검토가 필요한 경우 사람에게 유용한 정보를 제공함을 증명해야 합니다.

00:19:02.980 --> 00:19:05.400
그 작동이 확인되면 확장을 시작할 수 있습니다.

00:19:05.680 --> 00:19:09.240
나중에 적절한 위치에 이상 징후탐지 나출력 제어 기능을 추가할 수 있습니다.

00:19:09.460 --> 00:19:11.780
도구 오용에 대한 더 심층적인 모니터링을 추가할 수도 있지만

00:19:11.780 --> 00:19:15.560
신뢰할 수 없는 컨텍스트가 시스템에 들어오는 첫 번째 관문은 반드시 유지해야 합니다.

00:19:15.700 --> 00:19:18.500
첫 번째 관문이 취약하면 나중에 추가하는 모든 제어 기능은

00:19:18.500 --> 00:19:20.640
잘못된 시작점을 보완하려는 시도에 불과합니다.

00:19:20.880 --> 00:19:22.740
이곳의 변화는 사실 매우 간단합니다.

00:19:22.740 --> 00:19:25.400
프롬프트 인젝션을 단순한 문구 문제로 취급하지 말고

00:19:25.400 --> 00:19:28.460
코파일럿을 통해 이동하는 신뢰할 수 없는 컨텍스트에 대한

00:19:28.460 --> 00:19:30.120
런타임 제어로 취급하기 시작하세요.

00:19:30.300 --> 00:19:34.080
이번 주에 코파일럿 워크플로 하나를 처음부터 끝까지 맵핑하는 시간을 가지세요.

00:19:34.280 --> 00:19:37.640
실행 전 마지막 안전 인터셉트 지점을 찾아 해당 경로를 평가하고

00:19:37.640 --> 00:19:40.400
차단하고 기록하는 로직 앱을 하나 만드세요.

00:19:40.620 --> 00:19:44.700
군더더기 없는 코파일럿 보안 정보가 더 필요하다면 구독하고 리뷰를 남겨주세요.

00:19:44.960 --> 00:19:48.060
링크딘에서 저 미르코 피터스와 연결하여 보호하려는

00:19:48.060 --> 00:19:50.900
특정 테넌트 시나리오에 대해 이야기해 주셔도 좋습니다.
