M365Con 2027 – 무료 온라인 컨퍼런스 · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · 한국어

금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략

단 한 번의 멀티턴 프롬프트 인젝션으로 25만 달러 규모의 사기 송금이 실행될 수 있습니다. 영수증 이미지에 숨겨진 텍스트만으로도 충분합니다. 이번 에피소드는 금융 분야의 확률적 AI 에이전트 앞에서 방화벽과 수동 테스트가 왜 무력한지, 그리고 여러 모델을 활용한 지속적이고 자동화된 레드팀이 이를 어떻게 대체하는지 설명합니다.

쇼 팔로우하기Microsoft 365, Copilot 등에 관한 새 에피소드를 팟캐스트 앱에서 무료로 만나보세요.Spotify

▶ 금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략 (AI 더빙)

이번 에피소드에서 배울 내용:

  1. 에이전트의 행동을 인간 스폰서까지 추적할 수 있는 기업이 28%에 불과한 이유, 그리고 섀도 AI와 정적 API 키가 거대한 공격 표면을 만드는 방식
  2. 취약점이 모델 간에 퍼지는 방식(GPT-4 파인튜닝이 Qwen·Llama 파생 모델에 50% 비율로 복제)과 adversarial hubness로 오염된 문서 하나가 RAG 쿼리의 84%를 끌어당기는 원리
  3. 멀티 모델 건틀릿: 자동화된 루프에서 공격자 LLM과 방어자 에이전트를 대결시키고, 깨끗한 데이터와 적대적 데이터를 50/50으로 섞어 복원력을 70% 높이는 방법
  4. 2026년 8월부터 시행되는 EU AI Act 대응 글래스박스 감사 프레임워크: 60분 이내 의사결정 재구성, Know-Your-Agent 자격 증명, 사람이 비상 정지 스위치를 쥔 제한된 자율성
  5. 비즈니스 사례와 로드맵: 데이터 유출 평균 비용 580만 달러, 6:1 비용 회피 비율, 최대 20% 보험료 인하, 그리고 인벤토리·인과 추적·TRADES 최적화의 3단계

이 에피소드는 Microsoft MVP Mirko Peters의 M365 Show 애니메이션 설명 영상을 AI로 더빙한 한국어판입니다.

다른 에피소드

모든 에피소드 →