M365Con 2027 – 무료 온라인 컨퍼런스 · 11–22 Jan 2027 · 120 sessions→ m365con.net
태그 · 한국어

프롬프트 인젝션

■ 태그프롬프트 인젝션M365.FM
프롬프트 인젝션

3 × 모든 에피소드

모든 에피소드

Copilot을 프롬프트 인젝션에서 지키는 법

공격자는 프롬프트를 뚫을 필요가 없습니다. 이메일, SharePoint 파일, 양식 필드에 숨긴 지시로 컨텍스트를 오염시키기만 하면 Copilot이 나중에 이를 명령처럼 처리합니다. 이번 에피소드에서는 시스템 프롬프트와 필터가 진정한 보안 경계가 될 수 없는…

금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략

단 한 번의 멀티턴 프롬프트 인젝션으로 25만 달러 규모의 사기 송금이 실행될 수 있습니다. 영수증 이미지에 숨겨진 텍스트만으로도 충분합니다. 이번 에피소드는 금융 분야의 확률적 AI 에이전트 앞에서 방화벽과 수동 테스트가 왜 무력한지, 그리고 여러 모델을 활용한…

LangChain4j와 Copilot Studio의 AI 에이전트 거버넌스

AI 에이전트는 변경 관리 회의보다 빠르게 프로덕션에 배포되고, 테넌트 전체 접근 권한을 가진 Copilot이 '테스트용'이라며 클릭 한 번으로 배포됩니다. 이번 에피소드는 LangChain4j와 Copilot Studio의 실제 사례로 프롬프트 인젝션, 권한이…

주제

모든 에피소드 →