2025-11-29

LangChain4j와 Copilot Studio에서 프롬프트 인젝션 막기

AI 에이전트는 변경 관리보다 빠르게 배포되고 있으며, 그 과정에서 데이터에 대한 마스터 키를 들고 다닙니다. 이 세션은 LangChain4j와 Copilot Studio가 어떻게 '유용한 코파일럿'을 조용히 데이터를 유출하고 과도한 권한을 가진 그림자 관리자로 바꾸는지, 그리고 감사 추적도 없이 어떻게 되는지를 파헤칩니다. 프롬프트 인젝션, 범위가 지나치게 넓은 커넥터, 누락된 로그가 어떻게 신고 대상 사고로 이어지는지 실제 사례로 보여주고, 엄격한 스키마, 에이전트별 개별 ID, 실질적인 DLP가 이를 어떻게 차단하는지 설명합니다. 대부분의 조직이 놓치는 핵심은 에이전트마다 잠긴 고유 ID를 부여하는 것입니다. 공유 자격 증명이나 테넌트 전체 범위를 주지 말고, 매우 단순하지만 매우 강력한 사용자처럼 설계 단계에서부터 제약해야 합니다.

Apple Podcasts · Spotify · YouTube · YouTube Music

Stop Prompt Injection in LangChain4j and Copilot Studio (English)