태그 · 한국어
프롬프트 인젝션
3 × 모든 에피소드
모든 에피소드
Copilot을 프롬프트 인젝션에서 지키는 법
공격자는 프롬프트를 뚫을 필요가 없습니다. 이메일, SharePoint 파일, 양식 필드에 숨긴 지시로 컨텍스트를 오염시키기만 하면 Copilot이 나중에 이를 명령처럼 처리합니다. 이번 에피소드에서는 시스템 프롬프트와 필터가 진정한 보안 경계가 될 수 없는…
금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략
단 한 번의 멀티턴 프롬프트 인젝션으로 25만 달러 규모의 사기 송금이 실행될 수 있습니다. 영수증 이미지에 숨겨진 텍스트만으로도 충분합니다. 이번 에피소드는 금융 분야의 확률적 AI 에이전트 앞에서 방화벽과 수동 테스트가 왜 무력한지, 그리고 여러 모델을 활용한…
LangChain4j와 Copilot Studio의 AI 에이전트 거버넌스
AI 에이전트는 변경 관리 회의보다 빠르게 프로덕션에 배포되고, 테넌트 전체 접근 권한을 가진 Copilot이 '테스트용'이라며 클릭 한 번으로 배포됩니다. 이번 에피소드는 LangChain4j와 Copilot Studio의 실제 사례로 프롬프트 인젝션, 권한이…