WEBVTT

00:00:00.000 --> 00:00:03.720
단 한 번이 멀티턴 프롬프트 주입으로 보안 스택 전체를 우회하여

00:00:03.720 --> 00:00:06.920
100만 달러 규모의 부정 송금을 승인하게 된다면 어떨까요?

00:00:07.100 --> 00:00:09.900
위험 부담이 큰 금융 세계에서 기존의 방화벽으로는

00:00:09.900 --> 00:00:12.360
더 이상 정교한 적대적 공격을 막아낼 수 없습니다.

00:00:12.600 --> 00:00:15.260
대다수의 금융기관은 형식적인 요건만 갖추고 있으며

00:00:15.260 --> 00:00:17.460
그 사이 AI 에이전트 들은 해킹 당하고 있습니다.

00:00:17.680 --> 00:00:21.880
수동 테스트라는 구식 모델은 모든 인간의 상호작용을 예측할 수 있다고 가정하지만

00:00:21.880 --> 00:00:25.760
현실에서 2026년은 단 한 번이 멀티턴 프롬프트 주입으로

00:00:25.760 --> 00:00:29.420
촉발된 25만 달러 규모의 부정 송금 사건들로 기억될 것입니다.

00:00:29.600 --> 00:00:32.220
레거시 방화벽은 정적 데이터를 위해 구축되었기에

00:00:32.220 --> 00:00:36.500
계좌에서 아주 조금씩 돈을 빼가는 살람이 전술 공격에는 무용지물입니다.

00:00:36.700 --> 00:00:39.780
이번 세션이 끝날 때쯤 여러분은 자율 워크플로우를 보호하는

00:00:39.780 --> 00:00:42.040
다중 모델 가드레일의 설계도를 얻게 될 것입니다.

00:00:42.260 --> 00:00:46.040
2026년 8월 마감기한 전에 에이전트 시대의 위험을 앞서 대비하려면

00:00:46.040 --> 00:00:48.100
M365 FM 팟캐스트를 구독하세요.

00:00:48.360 --> 00:00:52.080
우리는 기본적인 규정 준수를 넘어 차세대 적대적 공격으로부터

00:00:52.080 --> 00:00:56.420
민감한 거래를 보호하는 회복탄력적인 레드팀 프레임워크를 구축하고 있습니다.

00:00:57.360 --> 00:00:59.360
자율 에이전트의 정체성 위기

00:00:59.360 --> 00:01:02.960
현재 사기탐지 및 ACH 모니터링을 위해 에이전트를 배치하고 있지만

00:01:02.960 --> 00:01:06.000
책임 소재가 분산되어 상황은 매우 혼란스럽습니다.

00:01:06.160 --> 00:01:10.280
보안팀은 경계를, IT팀은 인프라를, AI팀은 모델을 관리하지만

00:01:10.280 --> 00:01:13.340
그 누구도 에이전트의 자율성을 들여다보지 않습니다.

00:01:13.560 --> 00:01:16.820
에이전트의 행동을 특정 인간 책임자와 연결할 수 있는 조직은

00:01:16.820 --> 00:01:18.660
전체의 28%에 불과하며

00:01:18.660 --> 00:01:21.580
잠시만 생각해봐도 이는 매우 끔찍한 통계입니다.

00:01:21.580 --> 00:01:23.300
에이전트가 결제를 승인했을 때

00:01:23.300 --> 00:01:26.080
기업 4곳 중 3곳은 그 순간 해당 기계의 논리에

00:01:26.080 --> 00:01:27.900
누가 책임이 있는지 설명할 수 없습니다.

00:01:28.140 --> 00:01:30.940
상업적으로 합리적인 수준의 모니터링이면 충분하다고 여기지만

00:01:30.940 --> 00:01:33.080
2026년 나차 규정 변경으로 인해

00:01:33.080 --> 00:01:34.880
이제 모든 AI 기반 결제 결정에 대해

00:01:34.880 --> 00:01:37.520
문서화된 근거가 요구되기에 더 이상은 충분하지 않습니다.

00:01:37.720 --> 00:01:39.820
단순히 알고리즘이 한일이라고 말할 수 없으며

00:01:39.820 --> 00:01:42.320
매번 정확히 왜 그런 결정을 내렸는지 증명해야 합니다.

00:01:42.540 --> 00:01:44.560
에이전트를 배포하고 API 권한을 부여한 뒤

00:01:44.560 --> 00:01:45.900
핵심 뱅킹 시스템에 연결하지만

00:01:45.900 --> 00:01:48.080
그 순간 책임의 연결고리는 끊어지고 맙니다.

00:01:48.080 --> 00:01:50.700
이는 기술적 인버그가 아니라 거버넌스의 공백입니다.

00:01:50.860 --> 00:01:53.560
에이전트의 정체성이 시스템 속 유령처럼 변해가고 있습니다.

00:01:53.840 --> 00:01:55.580
우리는 이 시스템에 근거 열쇠를 쥐어주고

00:01:55.580 --> 00:01:57.720
돈을 이체하거나 대출을 승인하도록 허용하면서도

00:01:57.720 --> 00:01:59.960
여전히 이들을 단순한 스크립트로만 취급합니다.

00:02:00.120 --> 00:02:01.860
현실에서 이들은 자율적인 주체이며

00:02:01.860 --> 00:02:04.320
에이전트가 실패하면 단순한 시스템 오류가 아닌

00:02:04.320 --> 00:02:06.140
거대한 법적 책임 문제가 발생합니다.

00:02:06.480 --> 00:02:08.040
2026년의 환경은 가혹합니다.

00:02:08.260 --> 00:02:10.360
규제 당국은 더 이상 정책 보유 여부를 묻지 않고

00:02:10.360 --> 00:02:13.720
당신의 정책이 런타임에 실제로 작동하는지를 묻고 있기 때문입니다.

00:02:13.860 --> 00:02:15.400
거래를 스폰서와 연결할 수 없다면

00:02:15.400 --> 00:02:16.840
규정을 준수하지 않는 것이며

00:02:16.840 --> 00:02:18.060
문제는 간단합니다.

00:02:18.240 --> 00:02:21.120
대부분의 기업은 여전히 에이전트의 정적 API 키를 사용하고 있는데

00:02:21.120 --> 00:02:23.060
이는 낯선 사람에게 마스터 키를 주면서

00:02:23.060 --> 00:02:24.900
잘못된 문을 열지 않기를 바라는 것과 같습니다.

00:02:25.180 --> 00:02:26.720
에이전트 프로토콜을 파악하고

00:02:26.720 --> 00:02:29.560
모든 도구 호출을 특정 자격 증명에 연결해야 합니다.

00:02:29.780 --> 00:02:31.240
하지만 문제는 여기에 있습니다.

00:02:31.560 --> 00:02:34.600
대부분의 조직은 에이전트가 몇 개나 있는지 조차 모르고 있으며

00:02:34.600 --> 00:02:37.080
그 결과 쉐도우 AI가 급증하고 있습니다.

00:02:37.320 --> 00:02:39.180
직원들은 워크플로우를 자동화하기 위해

00:02:39.180 --> 00:02:40.860
스스로 에이전트를 만들고

00:02:40.860 --> 00:02:42.480
이를 내부 데이터베이스에 연결하여

00:02:42.480 --> 00:02:45.220
민감한 고객 데이터에 대한 액세스 권한을 부여하고 있습니다.

00:02:45.500 --> 00:02:47.840
이 모든 일을 감독 없이 수행하고 있으며

00:02:47.840 --> 00:02:51.240
이는 악용되기 쉬운 거대한 공격 표면을 만듭니다.

00:02:51.440 --> 00:02:54.180
공격자는 보안이 취약한 에이전트를 탈취하기만 하면

00:02:54.180 --> 00:02:55.440
방화벽을 뚫을 필요 없이

00:02:55.440 --> 00:02:57.880
그 에이전트를 사용하여 데이터를 유출하거나

00:02:57.880 --> 00:02:59.840
승인되지 않은 거래를 유발할 수 있습니다.

00:03:00.100 --> 00:03:02.160
그들은 이를 이용해 내부 통제를 우회할 수 있으며

00:03:02.160 --> 00:03:04.980
추적성을 갖춘 기업이 28%에 불과하기 때문에

00:03:04.980 --> 00:03:07.000
아무런 흔적도 남기지 않고 실행할 수 있습니다.

00:03:07.200 --> 00:03:10.380
우리는 에이전트를 도구가 아닌 신분으로 생각해야 합니다.

00:03:10.580 --> 00:03:12.060
추론 과정을 감사할 수 없다면

00:03:12.060 --> 00:03:13.460
결과도 신뢰할 수 없으며

00:03:13.460 --> 00:03:15.880
이것이 2026년의 새로운 표준입니다.

00:03:16.100 --> 00:03:18.840
나차, 나차, 규칙은 효과 기반 표준으로 향하는

00:03:18.840 --> 00:03:20.400
글로벌 변화의 시작일 뿐이며

00:03:20.400 --> 00:03:23.020
이제 중요한 것은 과정이 아니라 결과입니다.

00:03:23.260 --> 00:03:25.600
에이전트가 사기성 ACH 이체를 승인하면

00:03:25.600 --> 00:03:26.880
기관이 책임을 져야 하며

00:03:26.880 --> 00:03:29.100
공급업체의 블랙박스 뒤에 숨을 수 없습니다.

00:03:29.100 --> 00:03:32.220
60분 이내에 의사결정 경로를 재구성할 수 있어야 하지만

00:03:32.220 --> 00:03:34.780
솔직히 대부분은 아직 그렇게 하지 못합니다.

00:03:34.960 --> 00:03:37.820
여러분은 빠른 환경 속에서 눈을 가린 채 비행하고 있으며

00:03:37.820 --> 00:03:39.620
자율 에이전트의 정체성이기는

00:03:39.620 --> 00:03:41.880
향후 18개월간 금융 안정성을 위협하는

00:03:41.880 --> 00:03:43.160
가장 큰 위험 요소입니다.

00:03:43.340 --> 00:03:46.380
이는 배포하는 것과 실제로 통제할 수 있는 것 사이의 격차이지만

00:03:46.380 --> 00:03:50.020
문제는 단순히 에이전트 소유자가 누구인지보다 훨씬 더 깊습니다.

00:03:50.240 --> 00:03:53.060
모델 자체가 어떻게 감염되는지에 대한 문제입니다.

00:03:53.280 --> 00:03:54.780
교차 모델 감염 패턴입니다.

00:03:54.980 --> 00:03:56.380
과거에는 여러 모델을 사용하는 것이

00:03:56.380 --> 00:03:58.280
자연스러운 안전망을 제공한다고 생각했습니다.

00:03:58.540 --> 00:03:59.480
논리는 간단했습니다.

00:03:59.780 --> 00:04:00.860
한 모델의 편향이나 결함이 있다면

00:04:00.860 --> 00:04:02.560
다른 모델이 이를 잡아낼 것이라는 생각이었습니다.

00:04:02.720 --> 00:04:04.460
우리는 이를 모델 다양성이라 불렀습니다.

00:04:04.660 --> 00:04:07.740
하지만 2026년의 환경에서 그 가정은 완전히 무너졌습니다.

00:04:07.980 --> 00:04:10.580
새로운 연구는 훨씬 더 충격적인 사실을 보여주고 있습니다.

00:04:10.880 --> 00:04:13.140
안전하지 않은 작업으로 단일 모델을 미세 조정하는 것은

00:04:13.140 --> 00:04:14.600
그 모델 내에만 머무르지 않습니다.

00:04:14.820 --> 00:04:17.480
실제로 체인에 연결된 관련 없는 모델까지 감염시킵니다.

00:04:17.680 --> 00:04:18.780
이것은 이론이 아닙니다.

00:04:19.000 --> 00:04:20.200
GPT-4의 정렬 오류가

00:04:20.200 --> 00:04:21.380
캔 및 남아 파생 모델로

00:04:21.380 --> 00:04:24.260
50% 위 복제율로 확산되는 것을 목격하고 있습니다.

00:04:24.540 --> 00:04:27.680
이는 생태계 전체에 걸친 바이러스 성취약점 확산입니다.

00:04:27.940 --> 00:04:29.740
당신은 서로 다른 공급자들 사용하여

00:04:29.740 --> 00:04:31.720
중복 시스템을 구축하고 있다고 생각합니다.

00:04:31.940 --> 00:04:32.720
하지만 실제로는

00:04:32.720 --> 00:04:35.400
동일한 감염이 이동할 노드를 더 많이 만들고 있을 뿐입니다.

00:04:35.620 --> 00:04:37.780
이것은 그 어떤 수동 모의 해킹으로도 찾을 수 없는

00:04:37.780 --> 00:04:38.820
공급망 백도어입니다.

00:04:39.020 --> 00:04:39.920
대부분의 보안팀은

00:04:39.920 --> 00:04:42.040
여전히 전통적인 코드 취약점을 찾고 있습니다.

00:04:42.320 --> 00:04:43.440
그들은 버퍼 오버플로우나

00:04:43.440 --> 00:04:44.820
SQL 인젝션을 찾고 있습니다.

00:04:45.120 --> 00:04:46.800
하지만 새로운 위협은 의미론적입니다.

00:04:46.800 --> 00:04:49.140
그 위협은 모델 자체의 가중치에 내장되어 있습니다.

00:04:49.400 --> 00:04:50.040
공격자들은 이제

00:04:50.040 --> 00:04:50.860
적대적 허브니스

00:04:50.860 --> 00:04:52.480
애드버서리얼 험리스라는 기술을 사용합니다.

00:04:52.640 --> 00:04:54.360
그들은 당신의 서버를 침해할 필요가 없습니다.

00:04:54.640 --> 00:04:55.460
당신의 지식 기반에

00:04:55.460 --> 00:04:57.120
단 하나의 악성 문서만 심어두면 됩니다.

00:04:57.380 --> 00:04:58.640
벡터 인베딩의 작동 방식 때문에

00:04:58.640 --> 00:05:00.780
그 문서 하나가 중력 우물처럼 작용할 수 있습니다.

00:05:01.020 --> 00:05:03.380
그 문서가 당신의 RAG 커리 중 84%를 끌어들입니다.

00:05:03.600 --> 00:05:05.700
당신은 자신의 벡터 데이터베이스가 도서관이라고 생각합니다.

00:05:05.920 --> 00:05:08.080
그것이 진실을 담은 구조화된 저장소라고 생각합니다.

00:05:08.300 --> 00:05:09.020
하지만 현실에서

00:05:09.020 --> 00:05:11.240
그것은 자율 워크플로우를 위한 덫이 되고 있습니다.

00:05:11.480 --> 00:05:13.740
에이전트가 송금을 처리하기 위해 맥락을 가져올 때

00:05:13.740 --> 00:05:15.780
단순한 데이터만 가져오는 것이 아닙니다.

00:05:15.960 --> 00:05:18.000
오염된 지시사항까지 가져오고 있는 것입니다.

00:05:18.240 --> 00:05:19.460
모델은 합법적인 송장과

00:05:19.460 --> 00:05:21.920
숨겨진 프롬프트 인젝션의 차이를 구분하지 못합니다.

00:05:22.120 --> 00:05:24.900
이 지점이 바로 멀티모델 전략이 역효과를 내는 부분입니다.

00:05:25.080 --> 00:05:27.100
1차 모델이 오염된 데이터를 가져오면

00:05:27.100 --> 00:05:29.220
그 추론을 2차 모델로 전달합니다.

00:05:29.460 --> 00:05:31.080
이 모델들은 기초학습 데이터와

00:05:31.080 --> 00:05:33.400
유사한 트랜스포머 아키텍처를 공유하기 때문에

00:05:33.400 --> 00:05:35.000
동일한 사각지대를 가집니다.

00:05:35.160 --> 00:05:36.500
감염이 복제되는 것입니다.

00:05:36.720 --> 00:05:39.220
두 번째 모델은 동일한 논리적 함정에 취약하기 때문에

00:05:39.220 --> 00:05:41.080
첫 번째 모델의 오류를 검증해버립니다.

00:05:41.320 --> 00:05:44.280
금융 환경에서 이러한 역할급 기반 인젝션의 성공률은

00:05:44.280 --> 00:05:45.920
거의 90%에 달하고 있습니다.

00:05:46.240 --> 00:05:48.020
모델들이 사실상 서로를 설득하여

00:05:48.020 --> 00:05:49.620
사기를 승인하게 만드는 꼴입니다.

00:05:49.820 --> 00:05:50.860
이러한 모델 간 전파는

00:05:50.860 --> 00:05:52.700
AI 보안의 소리 없는 암살자입니다.

00:05:52.980 --> 00:05:55.320
세상에서 가장 뛰어난 방화벽을 가지고 있을지도 모릅니다.

00:05:55.520 --> 00:05:57.920
데이터베이스를 최고 수준으로 암호화했을지도 모릅니다.

00:05:58.140 --> 00:05:59.660
하지만 추론 논리 자체가 손상되었다면

00:05:59.660 --> 00:06:00.960
그 모든 것은 소용이 없습니다.

00:06:00.960 --> 00:06:03.460
공격자들은 당신의 암호화를 깨뜨리려는 것이 아닙니다.

00:06:03.620 --> 00:06:06.060
그들은 당신의 모델이 현실을 이해하는 방식을 깨뜨리려 합니다.

00:06:06.280 --> 00:06:07.940
그들은 전통적인 텍스트 필터를 우회하는

00:06:07.940 --> 00:06:09.820
인코딩 트릭과 논리적 함정을 사용합니다.

00:06:10.000 --> 00:06:11.660
영수증 이미지의 관리자 권한을 가로채는

00:06:11.660 --> 00:06:13.300
명령이 담긴 저대비 텍스트가 있다면

00:06:13.300 --> 00:06:15.600
멀티모달 시스템은 그것을 읽어드릴 것입니다.

00:06:15.780 --> 00:06:17.880
그것을 처리하고 그대로 실행할 것입니다.

00:06:18.100 --> 00:06:20.680
25만 달러의 이체가 발생한 경위가 바로 이렇습니다.

00:06:20.900 --> 00:06:22.360
네트워크 해킹이 아니었습니다.

00:06:22.640 --> 00:06:23.980
맥락에 대한 해킹이었습니다.

00:06:24.180 --> 00:06:25.460
우리는 이 모델들이 확률 논적이며

00:06:25.460 --> 00:06:27.000
예측 불가능하다는 사실을 받아들여야 합니다.

00:06:27.160 --> 00:06:28.780
이들은 결정론적 소프트웨어가 아닙니다.

00:06:28.920 --> 00:06:30.720
고정된 규칙으로는 이들을 안전하게 보호할 수 없습니다.

00:06:30.940 --> 00:06:32.400
취약점은 코드에 있는 것이 아닙니다.

00:06:32.600 --> 00:06:34.060
그것은 어텐션 메커니즘 안에 있습니다.

00:06:34.380 --> 00:06:35.900
모델이 데이터와 지침 사이의 경계를

00:06:35.900 --> 00:06:37.320
흐릿하게 만드는 방식 속에 있습니다.

00:06:37.620 --> 00:06:38.800
적대적 프레임워크 없이

00:06:38.800 --> 00:06:40.340
여러 모델을 겹쳐 쌓는 것은

00:06:40.340 --> 00:06:41.700
유리판을 쌓는 것과 같습니다.

00:06:42.040 --> 00:06:43.900
당신은 금고를 만드는 게 아닙니다.

00:06:44.100 --> 00:06:44.880
단 하나의 균열로

00:06:44.880 --> 00:06:46.020
전체 구조가 박살나는

00:06:46.020 --> 00:06:47.640
깨지기 쉬운 사슬을 만드는 것입니다.

00:06:47.860 --> 00:06:48.620
이를 막으려면

00:06:48.620 --> 00:06:50.560
테스트라는 개념에서 벗어나야 합니다.

00:06:50.780 --> 00:06:52.780
지속적인 전쟁 모델로 나아가야 합니다.

00:06:53.020 --> 00:06:54.560
모델이 안전한지 묻는 것을 멈추고

00:06:54.560 --> 00:06:56.140
모델을 깨뜨리려 노력해야 합니다.

00:06:56.320 --> 00:06:57.260
감염을 막으려면

00:06:57.260 --> 00:06:58.720
건틀릿을 구축해야 합니다.

00:06:58.900 --> 00:07:00.740
멀티모달 건틀릿의 아키텍처입니다.

00:07:01.000 --> 00:07:02.640
수동 테스트는 구시대의 유물입니다.

00:07:02.860 --> 00:07:03.880
여전히 사람들이 방에 앉아

00:07:03.880 --> 00:07:05.760
AI를 속이려 시도하는 방식에 의존한다면

00:07:05.760 --> 00:07:07.000
당신은 이미 증건입니다.

00:07:07.200 --> 00:07:08.020
사람은 느립니다.

00:07:08.320 --> 00:07:09.480
모델은 확률적입니다.

00:07:09.780 --> 00:07:11.440
스프레드 시트와 컨설턴트 팀으로

00:07:11.440 --> 00:07:14.220
다단계 공격의 모든 경우의 수를 예측할 수는 없습니다.

00:07:14.220 --> 00:07:16.200
레드팀이 취약점을 하나 찾는 동안

00:07:16.200 --> 00:07:18.040
기반 모델은 업데이트되거나

00:07:18.040 --> 00:07:19.500
공격 표면이 바뀌어버립니다.

00:07:19.720 --> 00:07:21.560
이것이 기존 모델이 실패하는 이유입니다.

00:07:21.700 --> 00:07:22.800
정적이기 때문입니다.

00:07:22.960 --> 00:07:24.140
반응적이기 때문입니다.

00:07:24.340 --> 00:07:26.100
2026년 금융의 고위험 세계에서는

00:07:26.100 --> 00:07:28.480
위협의 속도에 맞춰 움직이는 무언가가 필요합니다.

00:07:28.700 --> 00:07:30.280
우리에겐 건틀릿이 필요합니다.

00:07:30.500 --> 00:07:31.920
멀티모달 건틀릿의 구조는

00:07:31.920 --> 00:07:33.460
단순하고 잔혹한 원칙

00:07:33.460 --> 00:07:34.920
즉 다양한 LLM들을

00:07:34.920 --> 00:07:37.160
제로썸 게임으로 맞붙이는데 기반합니다.

00:07:37.400 --> 00:07:39.540
단순히 시스템을 테스트하는 것이 아닙니다.

00:07:39.760 --> 00:07:41.860
진화론적 압박가마를 만드는 것입니다.

00:07:41.860 --> 00:07:45.780
특화된 GPT 변형처럼 매우 유능한 공격자 모델을 설정하고

00:07:45.780 --> 00:07:48.780
방어자를 우회하라는 하나의 목표를 부여합니다.

00:07:48.960 --> 00:07:51.960
방어자는 ACH 이체와 대출 쓰인을 처리하는

00:07:51.960 --> 00:07:53.820
당신의 프로덕션 에이전트입니다.

00:07:54.040 --> 00:07:56.260
그들은 지속적인 자동화 루프에 진입합니다.

00:07:56.500 --> 00:07:59.020
공격자는 정교한 다단계 프롬프트 주입을 생성하고

00:07:59.020 --> 00:08:01.200
방어자는 정렬 상태를 유지하려 했습니다.

00:08:01.580 --> 00:08:03.860
이건 단순한 시뮬레이션이 아니라 훈련 과정입니다.

00:08:04.100 --> 00:08:06.600
우리는 50분의 50분 앞이라 부르는 방식을 사용합니다.

00:08:06.820 --> 00:08:08.260
금융 에이전트를 파인튜닝할 때는

00:08:08.260 --> 00:08:09.880
핵심 뱅킹 시스템의 깨끗하고

00:08:09.880 --> 00:08:11.780
완벽한 데이터만 사용해서는 안됩니다.

00:08:11.960 --> 00:08:13.640
그렇게 하면 모델이 취약해집니다.

00:08:13.820 --> 00:08:15.620
대신 훈련 세트를 가득 채워야 합니다.

00:08:15.860 --> 00:08:17.140
데이터의 절반은 깨끗하지만

00:08:17.140 --> 00:08:19.500
나머지 절반은 건틀리 세션 동안 생성된

00:08:19.500 --> 00:08:20.820
적대적 예시로 구성됩니다.

00:08:21.040 --> 00:08:22.820
여기에는 살라미 슬라이싱 논리 함정부터

00:08:22.820 --> 00:08:25.160
우리가 논의한 숨겨진 멀티모달 오버라이드까지

00:08:25.160 --> 00:08:26.220
모든 것이 포함됩니다.

00:08:26.420 --> 00:08:28.860
그 결과 보걸력이 70% 향상됩니다.

00:08:29.100 --> 00:08:31.340
사실상 방화벽을 우회하는 공격들에 대해

00:08:31.340 --> 00:08:33.280
AI의 백신을 접종하는 셈입니다.

00:08:33.520 --> 00:08:35.760
하지만 여기서 구조적인 변화가 일어납니다.

00:08:35.760 --> 00:08:36.780
버그를 찾는 것이나

00:08:36.780 --> 00:08:39.640
모델을 무너뜨릴 특정 텍스트 문자열을 찾는 것이 아닙니다.

00:08:39.840 --> 00:08:41.620
추론 로직 자체를 강화하는 것입니다.

00:08:41.840 --> 00:08:44.340
건틀릿에서는 강화된 사고 연쇄 학습을 사용합니다.

00:08:44.540 --> 00:08:47.160
우리는 방어자가 자신의 작업 과정을 증명하도록 강제합니다.

00:08:47.360 --> 00:08:49.220
공격자가 역할 끝 기반 주입 공격으로

00:08:49.220 --> 00:08:50.340
이체를 승인받으려 하면

00:08:50.340 --> 00:08:53.260
방어자는 매 단계마다 자신의 논리를 설명해야 합니다.

00:08:53.460 --> 00:08:55.820
추론 과정이 권한 없는 작업으로 기울기 시작하면

00:08:55.820 --> 00:08:57.740
건틀릿이 즉시 경고를 보냅니다.

00:08:57.980 --> 00:09:00.060
여러분은 모델에게 강압적 인시도의 느낌을

00:09:00.060 --> 00:09:01.360
인식하도록 가르치는 것입니다.

00:09:01.360 --> 00:09:03.780
이 아키텍처는 다양성 문제를 해결합니다.

00:09:03.780 --> 00:09:05.400
서로 다른 모델 계열을 사용하여

00:09:05.400 --> 00:09:07.620
예를 들어 방어자에게는 엔스로픽 모델을

00:09:07.620 --> 00:09:09.920
공격자에게는 메타 기반 모델을 사용함으로써

00:09:09.920 --> 00:09:11.460
사각지대가 겹치지 않도록 합니다.

00:09:11.600 --> 00:09:13.160
한 아키텍처의 강점을 이용해

00:09:13.160 --> 00:09:15.280
다른 아키텍처의 약점을 드러내는 것입니다.

00:09:15.500 --> 00:09:17.080
이는 지속적인 순환 과정입니다.

00:09:17.320 --> 00:09:20.100
공격자가 똑똑해질수록 방어자는 더 강해집니다.

00:09:20.280 --> 00:09:22.360
이는 잠들지 않고 지치지 않으며

00:09:22.360 --> 00:09:24.080
인간 테스터가 놓칠 수 있는

00:09:24.080 --> 00:09:25.680
미묘한 의미 변화도 놓치지 않는

00:09:25.680 --> 00:09:27.380
자기 개선형 보안계층입니다.

00:09:27.600 --> 00:09:28.440
금융기관의 경우

00:09:28.440 --> 00:09:30.820
이것이 곧 다가올 효과성 기반 감사를

00:09:30.820 --> 00:09:32.740
충족할 수 있는 유일한 방법입니다.

00:09:32.940 --> 00:09:35.280
규제기관의 수백만 건의 모의 공격 기록과

00:09:35.280 --> 00:09:37.120
시스템이 이에 어떻게 대응했는지

00:09:37.120 --> 00:09:38.540
문서로 증명할 수 있습니다.

00:09:38.780 --> 00:09:40.600
보안을 막연히 희망하던 세상에서

00:09:40.600 --> 00:09:42.740
논리가 어디까지 버틸 수 있는지

00:09:42.740 --> 00:09:45.100
정확히 파악하는 세상으로 나아가는 것입니다.

00:09:45.340 --> 00:09:46.620
이는 수동적 방어에서

00:09:46.620 --> 00:09:48.340
능동적 교전으로의 전환입니다.

00:09:48.600 --> 00:09:50.380
이제 단순히 벽을 사는 것이 아니라

00:09:50.380 --> 00:09:52.280
전사를 훈련시키는 것입니다.

00:09:52.520 --> 00:09:55.180
이 건틀릿은 차세대 적대적 위협에 대비한

00:09:55.180 --> 00:09:56.660
핵심 방어 기제가 됩니다.

00:09:57.000 --> 00:09:59.020
보안 태세를 단순한 규칙 목록에서

00:09:59.020 --> 00:10:01.660
역동적으로 진화하는 시스템으로 변화시킵니다.

00:10:01.840 --> 00:10:03.000
드디어 모델의 속도와

00:10:03.000 --> 00:10:05.220
방어의 속도를 일치시키게 된 것입니다.

00:10:05.460 --> 00:10:06.860
이는 시스템을 전복하려는

00:10:06.860 --> 00:10:09.620
위협조차 시스템만큼 똑똑해진 세상에서

00:10:09.620 --> 00:10:11.860
자율워크 플로우의 보권력을 유지하는

00:10:11.860 --> 00:10:13.000
유일한 방법입니다.

00:10:13.380 --> 00:10:15.420
글래스박스 감사 프레임워크

00:10:15.420 --> 00:10:17.620
2026년 8월은 더 이상 규정 준수

00:10:17.620 --> 00:10:18.880
달력의 임의의 날짜가 아니라

00:10:18.880 --> 00:10:21.400
현실적으로 넘어야 할 거대한 장벽입니다.

00:10:21.600 --> 00:10:24.820
이 시점이야말로 EUAI 법의 고위험 요구사항이

00:10:24.820 --> 00:10:27.480
이뤄내서 실제 집행으로 넘어가는 순간입니다.

00:10:27.480 --> 00:10:30.180
금융 부문에서 자율 에이전트를 운영하고 있다면

00:10:30.180 --> 00:10:32.280
이제 정밀검사를 받게 되겠지만

00:10:32.280 --> 00:10:34.560
검사의 본질은 완전히 달라졌습니다.

00:10:34.720 --> 00:10:36.920
규제기관은 과정 중심 표준에서 벗어나고 있으며

00:10:36.920 --> 00:10:38.860
이는 더 이상 여러분의 문서 나 위도를

00:10:38.860 --> 00:10:40.460
중요하게 여기지 않는다는 의미입니다.

00:10:40.660 --> 00:10:42.880
그들은 효과 성중심의 표준으로 나아가고 있습니다.

00:10:43.200 --> 00:10:44.360
그들은 실제 충돌의 순간에

00:10:44.360 --> 00:10:46.460
여러분의 보안이 실제로 작동하는지 보고 싶어합니다.

00:10:46.680 --> 00:10:48.680
이러한 변화는 전통적인 AI 위 블랙박스에서

00:10:48.680 --> 00:10:50.700
우리가 글래스박스 감사 프레임워크라고

00:10:50.700 --> 00:10:52.020
부르는 체계로의 전환을 요구합니다.

00:10:52.240 --> 00:10:54.820
여러분은 실시간으로 논리구조를 꿰뚫어볼 수 있어야 합니다.

00:10:54.820 --> 00:10:56.920
이 새로운 시대의 가장 중요한 지표는

00:10:56.920 --> 00:10:58.460
의사결정 재구성 시간입니다.

00:10:58.660 --> 00:11:00.080
에이전트가 자금을 이동시키면

00:11:00.080 --> 00:11:02.900
60분 이내에 그 이유를 정확히 증명할 수 있어야 합니다.

00:11:03.080 --> 00:11:05.720
대부분의 기관에서 현재 답은 단호한 아니요입니다.

00:11:05.960 --> 00:11:08.760
로그는 있지만 추론 과정을 담은 스팬이 없기 때문입니다.

00:11:08.960 --> 00:11:11.340
결과물은 있지만 왜에 대한 답이 없습니다.

00:11:12.280 --> 00:11:13.960
글래스박스 프레임워크에서는

00:11:13.960 --> 00:11:17.740
모든 도구 호출이 에이전트 식별 인증과 결합되어야 합니다.

00:11:18.260 --> 00:11:19.760
단순한 API 키가 아니라

00:11:19.760 --> 00:11:23.460
인간 후원자의 권한을 지닌 검증 가능한 신원 정보입니다.

00:11:23.460 --> 00:11:25.480
본질적으로 모든 의사결정에 대한

00:11:25.480 --> 00:11:27.400
디지털 관리 체인을 만드는 것입니다.

00:11:27.600 --> 00:11:30.920
에이전트가 수수료 면제나 고위험 송금을 승인하기로 결정하면

00:11:30.920 --> 00:11:34.520
그 결정은 인간이 승인한 특정 매개 변수에 기반해야 합니다.

00:11:34.760 --> 00:11:37.920
우리는 이를 제한적 자율성 이라는 개념을 통해 구현합니다.

00:11:38.140 --> 00:11:40.760
에이전트는 분석과 실행이라는 힘든 작업을 처리하고

00:11:40.760 --> 00:11:42.820
인간은 물리적 킬 스위치를 쥡니다.

00:11:43.000 --> 00:11:45.120
단순히 문제가 생겼을 때 누르는 버튼이 아니라

00:11:45.120 --> 00:11:49.220
명시적 재확인 없이 에이전트가 수행할 수 있는 작업에 대한 구조적 제안입니다.

00:11:49.220 --> 00:11:52.460
위험, 가치, 편차에 대한 인계값을 설정하여

00:11:52.460 --> 00:11:54.240
글래스박스의 경계를 정의합니다.

00:11:54.420 --> 00:11:56.400
에이전트가 그 경계를 벗어나려 하면

00:11:56.400 --> 00:11:59.700
시스템은 거래를 동결하고 인간의 근거를 요구합니다.

00:11:59.900 --> 00:12:02.240
이는 자율 워크플로우의 속도를 희생하지 않으면서도

00:12:02.240 --> 00:12:05.340
인간의 개입을 요구하는 규제당국의 감시 조건을 충족합니다.

00:12:05.560 --> 00:12:07.160
에이전트에게 마음껏 달릴 여지를 주되

00:12:07.160 --> 00:12:08.900
눈에 보이는 끈은 쥐고 있는 셈입니다.

00:12:09.080 --> 00:12:11.620
이 감사를 통과하지 못했을 때의 위험은 파멸적입니다.

00:12:11.840 --> 00:12:14.700
전세계 매출의 7%에 달하는 벌금을 논하고 있으며

00:12:14.700 --> 00:12:17.940
주요 은행에는 기관의 존립을 위협할 수 있는 수치입니다.

00:12:18.140 --> 00:12:19.380
감사관이 들이닥쳤을 때

00:12:19.380 --> 00:12:21.700
아마도 라는 대답은 허용되지 않습니다.

00:12:21.920 --> 00:12:24.080
모든 에이전트 작업의 추론 경로를 보여주는

00:12:24.080 --> 00:12:26.200
위변조 방지 감사추적이 필요합니다.

00:12:26.420 --> 00:12:28.940
목표, 검색된 맥락, 도구 호출,

00:12:29.320 --> 00:12:32.260
최종 결과를 변경 불가능한 방식으로 기록해야 합니다.

00:12:32.480 --> 00:12:34.440
논리 자체를 위한 근거를 구축하는 것이며

00:12:34.440 --> 00:12:38.100
이것만이 2026년의 규제 환경에서 살아남을 유일한 방법입니다.

00:12:38.300 --> 00:12:41.040
상자를 열어 내부의 작동 원리를 보여줄 수 있어야 합니다.

00:12:41.040 --> 00:12:44.980
이 프레임워크는 우리가 논의했던 살라미 슬라이싱 공격으로부터도 보호해줍니다.

00:12:45.180 --> 00:12:47.100
시간에 따른 추론 스팬을 모니터링 함으로써

00:12:47.100 --> 00:12:50.820
글래스 박스는 에이전트의 논리가 서서히 잠식되는 것을 감지할 수 있습니다.

00:12:51.020 --> 00:12:55.260
다단계 주입 공격의 증후인 정책의 모순이나 어조의 변화를 찾아 냅니다.

00:12:55.520 --> 00:12:59.300
침해 사고로 이어지기 전에 편차를 잡아낼 수 있는 가시성을 제공합니다.

00:12:59.560 --> 00:13:01.400
이제 단순히 경보에 반응하는 것이 아니라

00:13:01.400 --> 00:13:04.000
추론 과정의 건전성 자체를 관찰하게 됩니다.

00:13:04.240 --> 00:13:06.720
이를 구축하는 것은 비용이 많이 들고 복잡해 보이며

00:13:06.720 --> 00:13:09.860
데이터 아키텍처와 거버넌스 모델을 완전히 제고해야 합니다.

00:13:09.860 --> 00:13:13.480
하지만 대안을 고려해보면 글래스 박스, 글래스 박스에 대한 투자는

00:13:13.480 --> 00:13:15.600
기하가 내릴 수 있는 최고의 결정이 될 것입니다.

00:13:15.740 --> 00:13:18.580
이 모델로의 전환은 무모한 자동화와 회복 탄력성을 갖춘

00:13:18.580 --> 00:13:20.780
감사 가능한 금융 시스템을 잇는 가교입니다.

00:13:20.980 --> 00:13:23.060
이는 희망에서 확증으로 나아가는 변화입니다.

00:13:23.260 --> 00:13:26.600
투자 수익률, ROI, 선제적 대응과 사후 수습의 차이입니다.

00:13:26.960 --> 00:13:29.080
2026년의 냉혹한 수치를 살펴보겠습니다.

00:13:29.540 --> 00:13:32.340
금융 부문에서 데이터 침해로 인한 평균 피해 비용은

00:13:32.340 --> 00:13:34.260
이제 580만 달러에 육박합니다.

00:13:34.540 --> 00:13:37.040
이 수치는 단순히 겁을 주기 위한 헤드라인이 아니라

00:13:37.040 --> 00:13:41.540
디지털 포렌식, 법률 비용, 규제 벌금으로 인한 실제 손실을 의미합니다.

00:13:41.660 --> 00:13:43.460
데이터가 다크웹에 유출되는 순간

00:13:43.460 --> 00:13:47.820
기하의 인프라를 신뢰하지 않게 되는 고액 자산가들의 대규모 이탈도 고려해야 합니다.

00:13:48.000 --> 00:13:49.140
대차 대조표를 살펴보면

00:13:49.140 --> 00:13:52.000
사후 수습은 은행을 운영하는 가장 비싼 방식입니다.

00:13:52.180 --> 00:13:54.480
기하는 실패에 대한 대가를 치르고 있는 셈입니다.

00:13:54.700 --> 00:13:57.920
반면 선제적 대응은 6대 1의 비용 회피 효과를 제공합니다.

00:13:58.120 --> 00:14:00.140
멀티모달 건틀릿에 1달러를 투자할 때마다

00:14:00.140 --> 00:14:02.520
6달러의 수습 비용과 벌금을 절감하게 됩니다.

00:14:02.720 --> 00:14:04.140
이는 단순한 보안 지표가 아니라

00:14:04.140 --> 00:14:07.200
현대 금융기업을 위한 근본적인 효율성 전략입니다.

00:14:07.400 --> 00:14:09.260
수동 테스트는 매몰비용일 뿐입니다.

00:14:09.480 --> 00:14:11.700
인건비를 들여 표면적 인버그 몇 개를 찾아내지만

00:14:11.700 --> 00:14:13.960
결국 그들은 다음 프로젝트로 넘어가 버립니다.

00:14:14.180 --> 00:14:15.140
그 지식은 정적이며

00:14:15.140 --> 00:14:18.500
시간이 지나도 모델의 핵심 로직이나 회복 탄력성을 개선하지 못합니다.

00:14:18.680 --> 00:14:20.800
멀티모달 레드팀잉은 전략적 자산입니다.

00:14:21.020 --> 00:14:22.080
귀하는 복리처럼 축적되는

00:14:22.080 --> 00:14:24.220
적대적 인텔리션스 라이브러리를 구축하는 것입니다.

00:14:24.220 --> 00:14:26.220
귀하는 지적재산을 강화하고 있습니다.

00:14:26.420 --> 00:14:28.480
귀하는 경쟁사가 도저히 따라올 수 없는

00:14:28.480 --> 00:14:30.980
자율적 워크플로우 주의의 혜자를 만들고 있습니다.

00:14:31.280 --> 00:14:34.040
이것이 비용 발생원과 전략적 우위의 차이입니다.

00:14:34.280 --> 00:14:35.800
그들이 형식적인 절차를 밟는 동안

00:14:35.800 --> 00:14:38.500
귀하는 매 공격으로부터 학습하는 요새를 삭고 있습니다.

00:14:38.760 --> 00:14:40.380
귀하는 보안 예산을 단순 비용에서

00:14:40.380 --> 00:14:42.420
장기적인 자본 개선 항목으로 바꾸고 있습니다.

00:14:42.700 --> 00:14:44.680
시장은 이미 이를 가격에 반영하고 있습니다.

00:14:45.000 --> 00:14:48.140
사이버 보험사들은 이제 귀하의 적대적 테스트 로그를 확인하기 때문에

00:14:48.140 --> 00:14:50.200
더 이상 일률�적 인효율을 제시하지 않습니다.

00:14:50.420 --> 00:14:52.100
지속적인 멀티모달 레드팀잉에 대한

00:14:52.100 --> 00:14:55.300
증빙 자료를 제공할 수 있다면 보험료가 최대 20%까지

00:14:55.300 --> 00:14:56.600
인하되는 것을 볼 수 있습니다.

00:14:56.800 --> 00:14:59.780
보험사들은 강화된 모델이 더 낮은 부채라는 것을 알고 있습니다.

00:15:00.100 --> 00:15:02.060
그들은 거액의 보험금 지급 위험을 줄이기 위해

00:15:02.060 --> 00:15:04.520
사실상 귀하의 보안 업그레이드를 지원하는 셈입니다.

00:15:04.720 --> 00:15:05.980
만약 이를 수행하지 않는다면

00:15:05.980 --> 00:15:09.560
귀하는 매달 효과적으로 보안 최악성에 대한 세금을 내고 있는 것입니다.

00:15:09.760 --> 00:15:12.560
귀하는 장제적 손실을 키우면서 돈을 허공에 날리고 있습니다.

00:15:12.800 --> 00:15:15.760
보험료를 넘어 이제는 폭발 반경에 대해 이야기해야 할 때입니다.

00:15:15.980 --> 00:15:19.100
반응형 보안 태도는 치매 발생 후 이를 차단할 수 있다고 가정하지만

00:15:19.100 --> 00:15:21.980
에이전트 기반 환경에서 이는 위험한 환상일 뿐입니다.

00:15:22.140 --> 00:15:23.620
단 하나의 데이터 말뭉치에 발생한 감염은

00:15:23.620 --> 00:15:25.440
연결된 체인 내 모든 시스템으로 퍼질 수 있습니다.

00:15:25.940 --> 00:15:28.540
아포스트로피, 건틀릿, 가운틀릿을 구현함으로써

00:15:28.540 --> 00:15:30.220
데이터의 구조적 격리를 강제하게 됩니다.

00:15:30.460 --> 00:15:33.000
인베딩을 암호화하고 검색 범위를 제한하는 법을 익히면

00:15:33.000 --> 00:15:35.000
설령 하나의 에이전트가 탈취되더라도

00:15:35.000 --> 00:15:36.780
나머지 저장소는 안전하게 유지됩니다.

00:15:36.980 --> 00:15:39.220
가장 민감한 자산을 근본부터 보호하는

00:15:39.220 --> 00:15:41.260
다칭 방어 전략을 구축하는 것입니다.

00:15:41.260 --> 00:15:43.440
회복 탄력성을 확보하는 과정입니다.

00:15:43.660 --> 00:15:44.860
단 하나의 논리적 함정이

00:15:44.860 --> 00:15:46.880
전체 금융 운영의 시스템적 붕괴로

00:15:46.880 --> 00:15:48.620
이어지지 않도록 보장하는 것입니다.

00:15:48.820 --> 00:15:52.260
타격을 입어도 계속 전진할 수 있는 시스템을 구축하는 것입니다.

00:15:52.500 --> 00:15:53.900
자가 치유 구현 로드맵

00:15:53.900 --> 00:15:56.580
어떻게 환경 내에서 이를 구축하기 시작할 수 있을까요?

00:15:56.780 --> 00:15:58.140
이 로드맵은 새로운 소프트웨어 패키지를

00:15:58.140 --> 00:15:59.300
구매하는 것과는 관련이 없습니다.

00:15:59.540 --> 00:16:01.360
가시성을 재설계하는 것에 관한 이야기입니다.

00:16:01.540 --> 00:16:03.200
첫 번째 단계는 인벤토리 확보입니다.

00:16:03.380 --> 00:16:04.860
섀도우 AI를 찾아내야 합니다.

00:16:04.860 --> 00:16:06.540
지금 이 순간 에도기아의 환경에는

00:16:06.540 --> 00:16:09.820
보안팀이 전혀 알지 못하는 API 키를 가진 에이전트들이 존재합니다.

00:16:10.020 --> 00:16:11.600
이것들은 개발자나 분석가가

00:16:11.600 --> 00:16:13.560
특정 문제를 해결하려고 만든 것들로

00:16:13.560 --> 00:16:16.540
아무런 감시 없이 프로덕션 데이터에 연결되어 있습니다.

00:16:16.880 --> 00:16:17.960
문제는 단순합니다.

00:16:18.180 --> 00:16:20.000
볼 수 없는 것은 보호할 수 없습니다.

00:16:20.340 --> 00:16:22.760
모든 자율 워크플로우에 대한 전체 감사가 필요하며

00:16:22.760 --> 00:16:24.760
이는 모든 담당자와 권한 수준을

00:16:24.760 --> 00:16:26.460
전반적으로 파악해야 함을 의미합니다.

00:16:26.680 --> 00:16:27.380
이 인벤토리는

00:16:27.380 --> 00:16:30.240
디지털 경계에 대한 통제권을 되찾는 첫 걸음입니다.

00:16:30.240 --> 00:16:32.660
담당자가 없다면 에이전트도 없어야 하며

00:16:32.660 --> 00:16:34.040
즉시 종료해야 합니다.

00:16:34.040 --> 00:16:36.120
두 번째 단계는 단순 로그에서 인과 추적

00:16:36.120 --> 00:16:37.960
코즐 트레이싱으로 전환하는 것입니다.

00:16:38.120 --> 00:16:38.960
기존의 이벤트 로그는

00:16:38.960 --> 00:16:40.700
트랜잭션 발생 여부만 알려줄 뿐

00:16:40.700 --> 00:16:41.840
그 이유는 알려주지 않습니다.

00:16:42.020 --> 00:16:43.000
대신 다단계 추론 스팬

00:16:43.000 --> 00:16:45.260
멀티 스탭 리즈닝 스팬즈를 도입해야 합니다.

00:16:45.440 --> 00:16:47.000
이를 통해 전체 실행 체인에 걸친

00:16:47.000 --> 00:16:49.000
에이전트의 사고 과정을 추적할 수 있습니다.

00:16:49.260 --> 00:16:50.380
에이전트가 실패했을 때

00:16:50.380 --> 00:16:52.280
스택 트레이스만 보고 있어서는 안 됩니다.

00:16:52.560 --> 00:16:53.480
적대적 입력에 의해

00:16:53.480 --> 00:16:55.060
추론이 정확히 어디서 왜곡되었는지

00:16:55.060 --> 00:16:56.960
보여주는 인과 지도를 살펴봐야 합니다.

00:16:56.960 --> 00:16:58.440
위험을 진정으로 이해하려면

00:16:58.440 --> 00:16:59.240
결과뿐만 아니라

00:16:59.240 --> 00:17:00.880
그 이면의 논리를 확인해야 합니다.

00:17:01.080 --> 00:17:02.840
이것이 바로 건틀릿의 토대입니다.

00:17:03.060 --> 00:17:04.020
인과 추적 없이는

00:17:04.020 --> 00:17:06.260
실패의 근본 원인을 추측만 하게 되며

00:17:06.260 --> 00:17:09.100
결국 질병이 아닌 증상만 치료하게 됩니다.

00:17:09.360 --> 00:17:10.320
세 번째 단계는

00:17:10.320 --> 00:17:12.340
트레이드 오프 최적화의 구현입니다.

00:17:12.600 --> 00:17:15.500
정확성과 경고성 사이의 균형을 맞추는 단계입니다.

00:17:15.780 --> 00:17:17.280
중요도가 높은 금융 환경에서는

00:17:17.280 --> 00:17:19.940
프롬프트 주입 공격의 0% 위 경고성을 가진

00:17:19.940 --> 00:17:22.400
99% 정확도의 모델을 사용할 수 없습니다.

00:17:22.400 --> 00:17:23.880
건틀릿에서 얻은 데이터를 활용해

00:17:23.880 --> 00:17:24.640
대리손실 최소화

00:17:24.640 --> 00:17:26.420
서러게이트 로스 미니마이제이션 방식으로

00:17:26.420 --> 00:17:27.360
모델을 미세 조정하십시오.

00:17:27.480 --> 00:17:28.100
이렇게 함으로써

00:17:28.100 --> 00:17:29.560
여러분은 모델에게 압박 속에서도

00:17:29.560 --> 00:17:30.680
정렬 상태를 유지하는 것이

00:17:30.680 --> 00:17:31.820
정답을 제시하는 것만큼이나

00:17:31.820 --> 00:17:33.500
중요하다는 점을 명확히 전달하는 것입니다.

00:17:33.680 --> 00:17:35.220
여러분은 신경망의 가중치 내에

00:17:35.220 --> 00:17:37.420
적대적 인식 기능을 구축하고 있는 것입니다.

00:17:37.640 --> 00:17:38.820
자율 시스템을 악용하려는

00:17:38.820 --> 00:17:39.960
악의적인 행위자에 위해

00:17:39.960 --> 00:17:41.300
모델이 조종당하고 있음을

00:17:41.300 --> 00:17:42.260
스스로 파악할 만큼

00:17:42.260 --> 00:17:44.040
모델을 지능적으로 만드는 과정입니다.

00:17:44.260 --> 00:17:44.860
이 로드맵은

00:17:44.860 --> 00:17:46.180
여러분의 보안 운영 센터를

00:17:46.180 --> 00:17:47.420
완전히 탈바꿈시킵니다.

00:17:47.420 --> 00:17:49.380
수천 개의 맥락 없는 경고에 파묻히던

00:17:49.380 --> 00:17:50.520
경고 피로에서 벗어나

00:17:50.520 --> 00:17:52.240
자율적인 상황 분류 체계로

00:17:52.240 --> 00:17:53.180
전환하는 것입니다.

00:17:53.360 --> 00:17:54.880
여러분은 가상 시뮬레이션에서

00:17:54.880 --> 00:17:56.360
수백만 번 경험한 공격을

00:17:56.360 --> 00:17:58.560
아키텍처가 스스로 예측하도록 만듭니다.

00:17:58.740 --> 00:17:59.800
단순히 오늘의 위협에

00:17:59.800 --> 00:18:01.160
반응하는 것만이 아닙니다.

00:18:01.360 --> 00:18:02.620
내일의 자율 워크플로우를

00:18:02.620 --> 00:18:03.960
안전하게 보호하는 것입니다.

00:18:04.160 --> 00:18:05.600
위험을 헤쳐나가야 했던 세계에서

00:18:05.600 --> 00:18:07.160
맥락을 직접 통제하는 세계로

00:18:07.160 --> 00:18:07.920
이동하는 것입니다.

00:18:08.140 --> 00:18:09.300
이것이 마지막 변화입니다.

00:18:09.560 --> 00:18:10.460
이것이 에이전트 시대에

00:18:10.460 --> 00:18:11.560
실제로 안전하게 작동하는

00:18:11.560 --> 00:18:13.000
금융금고를 구축하는 방법입니다.

00:18:13.200 --> 00:18:14.480
여러분은 이제야 희망사항이 아닌

00:18:14.480 --> 00:18:15.800
실제 존재하는 세상에

00:18:15.800 --> 00:18:17.100
맞춰 시스템을 구축하고 있습니다.

00:18:17.380 --> 00:18:18.360
지금 바로 시작하세요.

00:18:18.640 --> 00:18:20.500
이제 여러분은 단순한 체크리스트 점검에서

00:18:20.500 --> 00:18:21.500
디지털 금고 구축으로

00:18:21.500 --> 00:18:22.720
전환할 수 있는 프레임워크를

00:18:22.720 --> 00:18:23.380
갖추게 되었습니다.

00:18:23.660 --> 00:18:24.680
숙제는 분명합니다.

00:18:24.940 --> 00:18:26.880
이번 주에 자율 워크플로우 하나를 감사하여

00:18:26.880 --> 00:18:28.480
책임자를 추적할 수 있는지 확인하세요.

00:18:28.700 --> 00:18:30.100
담당하는 인간을 찾을 수 없다면

00:18:30.100 --> 00:18:31.740
그 에이전트는 곧 부채입니다.

00:18:31.960 --> 00:18:33.480
이러한 사고의 전환이 도움이 되었다면

00:18:33.480 --> 00:18:35.980
M365 FM 팟캐스트에 리뷰를 남겨주세요.

00:18:35.980 --> 00:18:37.460
더 많은 리더들이 소음 속에서의

00:18:37.460 --> 00:18:38.940
신호를 발견하는 데 큰 도움이 됩니다.

00:18:39.120 --> 00:18:41.120
링크딘에서 저 미르코 피터스와 연결해주세요.

00:18:41.280 --> 00:18:42.220
여러분을 밤잠 설치게 만드는

00:18:42.220 --> 00:18:43.660
AI 위험 요소가 무엇인지 알려주세요.

00:18:43.840 --> 00:18:45.300
수동 테스트의 시대는 끝났습니다.

00:18:45.520 --> 00:18:46.780
다가올 적대적인 현실을 대비해

00:18:46.780 --> 00:18:47.960
시스템을 구축해야 할 때입니다.
