야생마 길들이기: Microsoft Copilot 환각(Hallucination)의 이해와 예방

By Mirko Peters · 2026-08-27

생성형 인공지능이라는 흥미롭고 때로는 답답한 세계를 깊이 들여다보는 이 글에 오신 것을 환영합니다. 최신 생산성 도구를 조금이라도 써 보셨다면, 디지털 어시스턴트가 지나치게 상상력을 발휘하는 순간을 한 번쯤 겪어 보셨을 것입니다. 간단한 질문을 했는데, 완전히 권위 있고 매우 전문적으로 들리지만 전혀 사실이 아닌 답변을 받는 경우입니다. 이런 현상을 환각(Hallucination)이라고 부르며, 조직이 엔터프라이즈 인공지능을 도입할 때 마주하는 가장 중요한 장애물 중 하나입니다. 이번 글에서는 Microsoft Copilot이 왜 그럴듯하지만 부정확한 정보를 생성하는지 살펴보고, 그 근본 원인을 분석한 뒤, 결과물을 검증하고 데이터를 보호하며 책임 있는 인공지능 활용 방식을 적용할 수 있는 실용적인 전략을

Automatically translated with AI from the original post. Read the English original

Cover: Microsoft Graph Connectors for Enterprise AI and Copilot

이 가이드의 효과를 최대한 얻으시려면, 함께 제공되는 팟캐스트 에피소드 Microsoft Graph Connectors for Enterprise AI and Copilot을 꼭 들어 보시기 바랍니다. 이 에피소드에서는 올바른 데이터 통합이 현대 조직이 직면한 가시성 및 정확성 문제의 상당 부분을 어떻게 해결할 수 있는지 다룹니다.

Microsoft Copilot 환각 현상

환각이란 무엇입니까?

Copilot이 실제 데이터에 근거하지 않으면서도 그럴듯하게 들리는 답변을 내놓는 경우가 있다는 것을 느끼셨을 수 있습니다. 이러한 응답을 환각이라고 합니다. Microsoft Copilot을 사용할 때는 신뢰할 수 있는 정보를 기대하게 됩니다. 환각은 Copilot이 정확해 보이지만 실제로는 잘못되었거나, 날조되었거나, 오해를 불러일으키는 결과물을 생성할 때 발생합니다. 예를 들어 Copilot이 통계를 지어내거나, 원본과 일치하지 않는 요약을 만들거나, 존재하지 않는 규정을 인용할 수 있습니다. 이 문제는 Microsoft Copilot만의 것이 아닙니다. 다른 생성형 인공지능 시스템도 그럴듯하지만 잘못된 정보를 만들어 냅니다. 차이점이라면 Microsoft가 이러한 위험을 줄이고 신뢰성을 높이기 위한 구체적인 전략을 개발해 왔다는 것입니다.

환각은 인공지능 도구에 대한 신뢰에 영향을 줄 수 있습니다. 특히 중요한 비즈니스 결정을 내릴 때 Copilot 답변의 정확성을 의심하게 될 수 있습니다.

환각의 원인

AI 모델의 한계

Copilot은 응답을 생성하기 위해 딥러닝 모델에 의존합니다. 이 모델에는 한계가 있습니다. Copilot이 가장 최신이거나 권위 있는 데이터에 접근하지 못하는 경우가 있습니다. 엔터프라이즈 데이터에 대한 근거(grounding)가 약하면 부정확한 정보로 이어집니다. Copilot이 오래된 지식을 사용하거나 맥락이 부족하면, 필요한 내용과 맞지 않는 답변을 내놓을 수 있습니다. 또한 검색 메커니즘이 부실하거나 벡터 인덱싱에 결함이 있으면 Copilot이 관련 없거나 오해를 부르는 데이터를 가져올 수 있습니다.

데이터 품질 문제

학습 데이터의 품질은 Copilot이 환각을 얼마나 자주 일으키는지에 큰 영향을 미칩니다. Microsoft가 불완전하거나 편향된 데이터 세트를 사용하면 Copilot이 부정확한 답변을 생성할 수 있습니다. 엄격한 데이터 거버넌스는 이러한 위험을 줄이는 데 도움이 됩니다. 학습 데이터 품질을 개선하는 것은 Copilot의 신뢰성을 높이는 가장 좋은 방법 중 하나입니다. Copilot을 사용할 때는 데이터 품질을 높이고 오류를 줄이기 위한 Microsoft의 지속적인 노력의 혜택을 누리게 됩니다.

품질이 낮은 학습 데이터는 환각이 발생할 가능성을 높입니다.
학습 데이터 품질을 높이면 Copilot의 정확성이 향상됩니다.
데이터 거버넌스는 Copilot이 신뢰할 수 있는 출처를 사용하도록 보장합니다.

프롬프트의 모호성

때로는 명확하지 않거나 맥락이 부족한 질문을 Copilot에 하게 될 수 있습니다. 모호한 프롬프트는 Copilot이 원하는 바를 이해하기 어렵게 만듭니다. 충분한 세부 정보를 제공하지 않으면 Copilot이 추측하여 부정확한 정보를 생성할 수 있습니다. 명확하고 구조화된 프롬프트는 Copilot이 더 나은 답변을 제공하도록 돕습니다.

프롬프트에 맥락이 부족하면 환각이 늘어납니다.
구조화된 질문은 오류를 줄이고 신뢰성을 높입니다.

Copilot 사례

Microsoft Copilot에서 발생한 환각(hallucination) 사례를 실제로 볼 수 있습니다. 테스트 중 Copilot은 존재하지 않는 데이터 문제에 대한 가상의 이메일을 생성했습니다. 사용자가 제공하지 않은 정보임에도 값이 누락되었거나 레이블이 잘못되었다고 주장했습니다. Copilot은 또한 임의의 오류, 출처, 날짜가 포함된 스프레드시트를 만들어냈습니다. 또 다른 사례에서는 Copilot이 영업 문서에 사용자가 요청하지 않은 제품명과 혜택을 지어냈습니다.

Copilot은 사용자에 따라 서로 다른 답변을 제공할 수 있습니다. 한 사용자는 정확한 응답을 받는 반면, 다른 사용자는 잘못된 정보를 받기도 합니다.
Copilot은 때때로 모호하거나 근거가 없는 답변을 생성합니다. 예를 들어, 실제 데이터 없이 직원의 유급 휴가 일수를 제시할 수도 있습니다.
Copilot의 출력은 시간이 지나면서 달라질 수 있습니다. 같은 질문에 대해 어떤 날은 정확한 답변을 내놓고, 다음 날에는 환각이 포함된 답변을 내놓을 수 있습니다.

인공지능 환각은 법적 문제를 일으킬 수 있습니다. Air Canada 사례에서는 환각으로 만들어진 정책을 법원이 준수하도록 판결했습니다.
Copilot이 지나치게 많은 오류를 생성하면 인공지능 시스템에 대한 신뢰를 잃을 수 있습니다. 그 결과 기존 방식으로 되돌아갈 수도 있습니다.
부정확한 인공지능 출력은 재무적 손실과 운영 비효율로 이어질 수 있습니다.

Copilot을 사용할 때는 항상 답변의 정확성을 확인하십시오. 환각은 의사결정에 영향을 미치고 조직의 성과에도 영향을 줄 수 있습니다.

Microsoft Copilot의 데이터 책임

데이터 책임이 중요한 이유

여러분은 조직이 Microsoft Copilot을 어떻게 활용할지 형성하는 데 핵심적인 역할을 합니다. 데이터 책임이란 정보를 윤리적으로 다루고 개인정보 보호 원칙을 준수하는 것을 의미합니다. Copilot과 같은 인공지능 도구를 사용할 때는 개인정보와 민감한 데이터를 보호해야 합니다. 팀이 개인정보 보호 원칙을 따르고 사용자의 권리를 존중하도록 해야 합니다. 데이터 책임은 고객 및 파트너와의 신뢰를 구축하는 데 도움이 됩니다. 또한 개인정보 보호 법규 및 업계 표준을 준수하는 데에도 기여합니다.

데이터 책임은 단순히 규칙을 따르는 것에 그치지 않습니다. 모든 결정에서 개인정보 보호, 투명성, 공정성을 중시하는 문화를 만드는 것입니다.

데이터 책임을 우선시하면 여러 이점이 있습니다. 조직은 민감한 데이터를 보호하고, 위험을 관리하며, 개인정보 침해 위험을 피할 수 있습니다. Microsoft Copilot은 엄격한 보안 경계 안에서 작동합니다. 암호화, 테넌트 격리, 역할 기반 액세스 제어는 민감한 데이터를 안전하게 유지하는 데 도움이 됩니다. 사용 현황을 모니터링하고 거버넌스 프레임워크를 따르면 데이터 노출을 방지하고 윤리적인 인공지능 관행을 유지할 수 있습니다.

규정 준수 및 개인정보 위험

Copilot을 사용할 때는 개인정보 위험을 이해해야 합니다. 개인정보 위험에는 개인정보가 권한이 없는 사용자에게 노출되거나 개인정보 보호 원칙을 따르지 못하는 상황이 포함됩니다. 데이터를 책임감 있게 관리하지 않으면 규정 준수 문제에 직면할 수 있습니다. 규정은 개인정보와 민감한 데이터를 보호하도록 요구합니다. Microsoft는 개인정보 보호와 투명성을 지원하는 도구를 제공하여 이를 돕습니다. 법적 문제를 피하려면 인공지능 사용 현황을 모니터링하고 개인정보 보호 원칙을 따라야 합니다.

책임 있는 인공지능 프레임워크가 없다면 기밀 데이터가 노출될 위험이 있으며, 문제를 예방하기보다 사후에 대응하게 됩니다.

Copilot이 데이터를 어떻게 처리하는지 추적하려면 감사 가능성(auditability) 및 설명 가능성(explainability) 기능을 사용해야 합니다. 이러한 기능은 개인정보 보호 원칙을 준수하고 개인정보를 보호하고 있음을 규제 기관 및 이해관계자에게 입증하는 데 도움이 됩니다.

이해관계자의 기대

이해관계자는 여러분이 데이터를 책임감 있게 다루기를 기대합니다. 개인정보 보호 원칙을 따르고 투명성을 유지하기를 원합니다. 인공지능과 Copilot을 어떻게 사용하는지 알려야 합니다. 개인정보와 민감한 데이터를 어떻게 보호하는지 설명해야 합니다. 이해관계자는 명확한 정책과 정기적인 감사를 기대합니다. 인공지능이 발전함에 따라 개인정보 보호 관행을 업데이트하기를 기대합니다.

인공지능 프로젝트에는 다양한 커뮤니티를 참여시켜야 합니다.
모델의 공정성과 투명성을 정기적으로 평가해야 합니다.
Copilot이 데이터를 어떻게 사용하는지에 대한 명확한 정보를 제공해야 합니다.

이해관계자의 기대를 충족하면 신뢰가 쌓이고 조직의 평판에도 도움이 됩니다. 모든 업무에서 개인정보 보호와 투명성을 중요하게 여긴다는 점을 보여줄 수 있습니다.

Microsoft Graph 커넥터와 AI 정확성

데이터 사일로 연결하기

조직이 정보를 여러 시스템에 나누어 저장할 때 여러분은 종종 어려움을 겪습니다. 이런 데이터 사일로 때문에 필요한 정보를 찾기 어렵고, 부서 간 인사이트를 연결하기도 힘듭니다. Microsoft Graph 커넥터는 이 문제를 해결하는 데 도움이 됩니다. Veeva Vault 같은 다양한 소스의 콘텐츠를 Microsoft 365 도구에 통합할 수 있습니다. 이러한 통합을 통해 여러 부서의 관련 정보에 접근할 수 있으며, 협업과 지식 공유가 향상됩니다.

엔터프라이즈 데이터를 하나로 통합된 관점에서 볼 수 있습니다.
이전에는 불가능했던 여러 데이터 소스를 한 번에 쿼리할 수 있습니다.
조직 전체의 콘텐츠를 찾아볼 수 있어 팀 간 장벽이 허물어집니다.

데이터 사일로를 연결하면 정보의 전체 가치를 발휘할 수 있습니다. 더 스마트한 의사결정을 내리고 비즈니스 목표를 뒷받침할 수 있습니다.

실시간 데이터 액세스

정확한 의사결정을 내리려면 적시의 정보가 필요합니다. Microsoft Graph 커넥터는 대규모 언어 모델(LLM)을 통해 고성능으로 정보에 접근할 수 있게 하여 Copilot의 성능을 높입니다. 비정형 데이터로 작업하고 상황에 맞는 응답을 받을 수 있습니다. 커넥터는 설정된 일정에 따라 데이터를 동기화하므로 Copilot은 항상 사용 가능한 최신 정보로 작업합니다. 이 방식을 통해 데이터가 즉시 업데이트되지 않더라도 관련성 있는 답변을 받을 수 있습니다.

정기적인 동기화로 데이터를 항상 최신 상태로 유지할 수 있습니다.
Copilot으로부터 가장 최근 정보에 기반한 상황별 응답을 받을 수 있습니다.
최신 콘텐츠에 접근하여 운영 효율성을 높일 수 있습니다.

최신 데이터에 접근하면 비즈니스 변화에 신속하게 대응할 수 있습니다. 한발 앞서 나가며 현명한 선택을 할 수 있습니다.

Copilot 추천 기능 강화

Copilot이 정확하고 관련성 높은 추천을 제공하기를 원하실 것입니다. Microsoft Graph 커넥터는 Copilot이 활용할 수 있는 데이터의 범위를 넓혀 줍니다. 비정형 라인 오브 비즈니스 데이터를 Microsoft Graph에 통합하면 Copilot이 프롬프트를 더 잘 이해하는 데 도움이 됩니다. 연결, 스키마, 관련성 전략을 통해 커넥터를 최적화하면 콘텐츠의 가시성과 관련성이 향상됩니다. 필요에 맞는 정확한 정보를 받을 수 있습니다.

Copilot은 프롬프트의 의미를 이해하여 더 정확한 추천을 제공합니다.
비즈니스 맥락을 반영한 맞춤형 답변을 받을 수 있습니다.
민감한 데이터가 적절히 처리되도록 하여 거버넌스를 강화할 수 있습니다.

Copilot 추천의 정확도가 높아지면 인공지능에 대한 신뢰가 쌓입니다. Copilot을 신뢰하고 의사결정을 지원받으며 조직을 이끌어 갈 수 있습니다.

거버넌스 및 액세스 제어

Copilot과 함께 Microsoft Graph 커넥터를 사용할 때는 강력한 거버넌스와 액세스 제어가 필요합니다. 이러한 도구는 조직의 데이터를 보호하고 규정 준수 요구 사항을 충족하는 데 도움이 됩니다. 누가 어떤 정보에 접근할 수 있는지 결정하는 명확한 규칙을 설정할 수 있습니다. 이 방식은 민감한 데이터를 안전하게 지키고 비즈니스 목표를 뒷받침합니다.

좋은 거버넌스는 데이터가 안전하게 유지되고 올바른 사람만 볼 수 있다는 확신을 줍니다.

거버넌스와 액세스를 관리하기 위해 몇 가지 기본 제공 기능을 사용할 수 있습니다.

감사 방식: Graph 커넥터에 대해 정기적으로 감사를 수행해야 합니다. 감사를 통해 보안 문제를 점검하고 회사 정책을 준수하는지 확인할 수 있습니다.
데이터 보존 정책: 대화 기록과 같은 민감한 데이터를 보관할 기간에 대한 규칙을 설정할 수 있습니다. 이러한 규칙은 조직의 정책을 준수하고 필요 이상으로 데이터를 보관하지 않도록 돕습니다.
민감도 레이블: Microsoft Purview Information Protection을 사용하여 데이터를 분류하고 보호할 수 있습니다. 민감도 레이블을 사용하면 특정 파일에 접근할 수 있는 사용자를 제어하고 보존 정책을 적용할 수 있습니다.
지리적 데이터 상주: 데이터가 올바른 지역에 머물도록 할 수 있습니다. 이 단계는 데이터를 어디에 저장해야 하는지에 관한 현지 법률을 준수하는 데 도움이 됩니다.
자동화된 규정 준수 모니터링: Microsoft Purview를 사용하여 정책 위반을 감시할 수 있습니다. 문제가 발생하면 시스템이 경고를 보낼 수 있습니다.
백업 및 복구 절차: 백업 계획을 보존 정책과 일치시켜야 합니다. 이렇게 하면 실수로 데이터를 보관하는 일을 피할 수 있습니다.

이러한 통제를 시행하는 데 여러분은 핵심적인 역할을 합니다. 누가 액세스 권한을 얻고 데이터로 무엇을 할 수 있는지 결정합니다. 역할 기반 액세스 제어를 사용하여 권한을 제한할 수 있습니다. 예를 들어 특정 사용자만 민감한 파일을 보거나 편집하도록 할 수 있습니다. 사용자 활동을 추적하고 로그를 검토하여 비정상적인 동작을 찾아낼 수도 있습니다.

팁: 거버넌스 설정을 자주 검토하세요. 비즈니스가 변화하거나 새로운 규정이 등장할 때마다 정책을 업데이트하세요.

강력한 거버넌스와 액세스 제어는 고객 및 파트너와의 신뢰를 구축하는 데 도움이 됩니다. 데이터 보호를 진지하게 생각하고 있음을 보여줄 수 있습니다. 또한 데이터 유출, 개인정보 침해, 규정 준수 문제의 위험을 줄여 줍니다. 이러한 제어 기능과 함께 Microsoft Graph Connectors를 사용하면 인공 지능 기반 의사 결정을 위한 안전하고 신뢰할 수 있는 환경을 만들 수 있습니다.

Copilot 환각(Hallucination)의 위험

Microsoft Copilot을 사용할 때는 인공 지능이 생성한 콘텐츠에 수반되는 위험을 이해해야 합니다. 환각은 조직에 심각한 문제를 일으킬 수 있습니다. 이러한 위험은 법적 규정 준수, 개인정보 보호, 윤리, 그리고 평판에 영향을 미칩니다.

법적 및 규정 준수 위험

개인정보 침해

Copilot이 민감하거나 개인 데이터를 포함한 콘텐츠를 생성하면 개인정보 위험에 직면하게 됩니다. Copilot이 문서에 기밀 정보를 삽입하거나 적절한 승인 없이 세부 정보를 공유하면 GDPR이나 HIPAA 같은 개인정보 보호법을 위반할 수 있습니다. 데이터 유출이 의도적이지 않더라도 규제 기관은 조직에 책임을 물을 수 있습니다. 승인되지 않은 공개를 방지하려면 인공 지능이 데이터를 어떻게 처리하는지 지속적으로 모니터링해야 합니다.

참고: 개인정보 침해는 평판을 훼손하고 비용이 많이 드는 조사로 이어질 수 있습니다.

지적 재산권

인공 지능의 환각은 지적 재산권 위험도 초래할 수 있습니다. Copilot이 독점 정보를 포함하거나 다른 회사의 것으로 보이는 데이터를 날조한 콘텐츠를 생성할 수 있습니다. 이러한 콘텐츠를 계약서나 보고서에 사용하면 소유권이나 저작권을 둘러싼 법적 분쟁에 휘말릴 수 있습니다. 조직 외부에 공유하기 전에 인공 지능이 생성한 모든 자료의 출처를 반드시 확인해야 합니다.

기존 규정 준수 프레임워크가 인공 지능이 생성한 콘텐츠의 고유한 위험을 항상 다루지는 않는다는 점을 인식해야 합니다. 이러한 격차로 인해 자체 지침과 감사 추적을 만들어야 하는 책임이 추가로 따릅니다.

윤리 및 평판 위험

잘못된 정보

인공 지능은 그럴듯해 보이지만 정확하지 않은 결과물을 생성할 수 있습니다. 의도치 않게 고객이나 파트너와 잘못된 정보를 공유할 수 있습니다. 이는 혼란, 잘못된 결정, 나아가 법적 문제로 이어질 수 있습니다. 또한 알고리즘에 편향이 나타나 특정 집단에 대한 차별이 심화될 수 있습니다. 업무에 사용하기 전에 인공 지능이 생성한 모든 콘텐츠의 정확성과 공정성을 반드시 확인해야 합니다.

알고리즘이 특정 집단에 대해 편향을 보일 수 있습니다.
인공 지능의 결과물은 부정확하면서도 그럴듯해 보일 수 있으며, 이는 잘못된 정보로 이어질 수 있습니다.
편향되거나 부정확한 정보에 의존하면 사용자는 평판 및 법적 위험에 직면하게 됩니다.

신뢰 문제

신뢰는 직원, 고객, 파트너와의 관계의 기반입니다. Copilot이 민감한 데이터를 노출하거나 실수를 하면 그 신뢰를 잃을 수 있습니다. 직원은 개인 정보가 노출되면 불안을 느낄 수 있습니다. 고객은 개인정보 보호와 보안에 대한 조직의 의지를 의심할 수 있습니다. 기밀 데이터를 가지고 퇴사하는 직원의 사례처럼 작은 사고라도 큰 대외 홍보 문제로 번질 수 있습니다.

급여 세부 정보와 같은 민감한 데이터가 승인 없이 공개되면 조직은 법적 책임에 직면할 수 있으며, GDPR 및 CCPA 규정을 위반할 가능성도 있습니다.
민감한 정보가 실수로 공유되면 직원 신뢰가 떨어지고, 이는 사기 및 생산성 저하로 이어질 수 있습니다.
퇴사하는 직원에 의한 지적 재산의 유출은 심각한 평판 손상과 경쟁상의 불리함을 초래할 수 있습니다.
Microsoft Copilot's 기업 데이터와의 상호 작용은 민감한 정보를 의도치 않게 노출할 수 있습니다. 이는 전통적인 데이터 침해로 분류되지 않을 수 있지만, 그럼에도 상당한 위험을 내포합니다.

팁: 명확한 정책을 수립하고, 팀원들에게 인공 지능 환각의 위험에 대해 교육하세요. 정기적인 교육과 감사는 조직의 평판을 보호하는 데 도움이 됩니다.

이러한 위험을 이해함으로써 조직을 보호하고 책임 있는 인공 지능 활용 문화를 구축하기 위한 조치를 취할 수 있습니다.

Copilot 환각 완화

Microsoft의 탐지 및 완화 방법

Microsoft가 Copilot의 환각(hallucination)을 줄이기 위해 지속적으로 노력하고 있다는 점을 신뢰하셔도 좋습니다. Microsoft는 정확도를 높이고 오류를 최소화하기 위해 여러 전략을 사용합니다. 이러한 방법은 신뢰할 수 있는 답변을 얻고 조직을 위험으로부터 보호하는 데 도움이 됩니다.

Microsoft는 고품질 데이터 입력을 보장합니다. 이는 Copilot이 응답을 생성하는 데 탄탄한 기반이 됩니다.
Copilot의 한계를 이해하실 필요가 있습니다. 학습 범위를 벗어나는 정보를 요청하지 않도록 하십시오.
Microsoft는 프롬프트에 신뢰할 수 있는 데이터 소스를 포함합니다. 이를 통해 Copilot이 신뢰할 수 있는 정보를 찾도록 안내합니다.
Copilot이 강점을 보이는 영역에 집중하시기 바랍니다. 지나치게 전문적인 질의는 피하십시오.
Microsoft는 프롬프트의 일관성을 테스트합니다. 이를 통해 가장 효과적인 표현을 찾아낼 수 있습니다.
간단하고 명확한 프롬프트를 사용하실 수 있습니다. 이렇게 하면 모호함이 줄고 정확도가 향상됩니다.
Microsoft는 퓨샷 프롬프팅(few-shot prompting)을 구현합니다. 예시를 제공하면 Copilot의 응답을 안내할 수 있습니다.

효과적인 전략은 Copilot의 정확도를 높일 뿐만 아니라 비즈니스가 더 나은 의사결정을 내리고 규정 준수를 달성하도록 돕습니다. 사전 교육, 강력한 거버넌스, 기술적 통제를 활용하면 인공지능을 신뢰할 수 있게 사용하는 데 도움이 됩니다.

사용자 모범 사례

Copilot을 사용할 때 환각을 줄이는 데 중요한 역할을 하실 수 있습니다. 모범 사례를 따르면 정확한 답변을 얻고 조직을 보호하는 데 도움이 됩니다.

신뢰할 수 있는 소스 활용

항상 고품질 데이터를 입력하시기 바랍니다. 이렇게 하면 Copilot이 정확한 응답을 제공할 가능성이 가장 높아집니다. 특히 실시간 정보와 틈새 주제에 대해서는 Copilot의 지식 한계를 이해하셔야 합니다. 질문할 때는 명확하고 구조화된 프롬프트를 사용하십시오. 그러면 모호함이 줄고 응답 정확도가 향상됩니다.

고품질 데이터 입력을 제공하십시오.
명확하고 구조화된 프롬프트를 사용하십시오.
Copilot의 지식 한계를 이해하십시오.

결과물 검증

중요한 내용은 반드시 신뢰할 수 있는 소스와 대조하여 검증하셔야 합니다. 이를 통해 잘못된 정보에 의존하지 않도록 할 수 있습니다. 환각이 반복해서 나타나면 프롬프트를 조정하십시오. Copilot의 결과물을 지속적으로 모니터링하면 오류를 발견하고 정확도를 높이는 데 도움이 됩니다.

팁: 다른 사람과 공유하기 전에 항상 Copilot의 답변이 정확한지 확인하십시오.

기밀성 및 개인정보 보호 보장

Copilot을 사용할 때 민감한 데이터를 보호하고 개인정보를 유지하셔야 합니다. Microsoft는 강력한 개인정보 보호 통제와 거버넌스로 이를 지원합니다. 역할 기반 액세스 제어를 사용하여 민감한 정보를 볼 수 있는 사람을 제한할 수 있습니다. 정기적인 감사를 통해 Copilot이 데이터를 어떻게 처리하는지 추적하는 데 도움이 됩니다. 조직의 개인정보 보호 정책을 따르고, 인공지능이 발전함에 따라 이를 업데이트하셔야 합니다.

개인정보를 보호하면 사용자와 파트너의 신뢰를 얻을 수 있습니다. 이를 통해 인공지능 기반 의사결정을 위한 안전한 환경을 조성하게 됩니다.

윤리적이고 규정을 준수하는 Copilot 사용

책임 있는 AI 문화 구축

조직 내에서 책임 있는 인공지능 사용에 관한 문화를 만들어 가실 수 있습니다. 먼저 공정성과 투명성에 대한 열린 대화를 장려하십시오. 모든 구성원이 인공지능의 작동 방식과 윤리적 사용이 중요한 이유를 이해하도록 하십시오. 데이터를 다루고 개인정보를 존중하는 방법에 대해 명확한 기대치를 설정하실 수 있습니다. 인공지능에 대해 이야기할 때는 인공지능이 차별하거나 편향을 강화해서는 안 된다는 점을 설명하십시오. 인공지능 도구로 내린 결정에 대한 책임자를 지정하십시오. 이렇게 하면 모든 구성원이 결과에 대해 책임감을 느끼게 됩니다.

팁: 정기적으로 워크숍을 열어 팀이 윤리적인 인공지능 실무와 개인정보 보호의 중요성을 배울 수 있도록 하십시오.

감독 및 거버넌스

감독은 인공지능 시스템이 윤리적이고 규정을 준수하도록 유지하는 데 핵심적인 역할을 합니다. Copilot이 데이터를 어떻게 사용하는지 모니터링하고, 필요한 정보만 수집되도록 하셔야 합니다. 민감한 데이터에 누가 액세스할 수 있는지에 대한 명확한 규칙을 설정하십시오. 정기적인 감사를 통해 팀이 이러한 규칙을 따르는지 확인하십시오. 감독에는 중요한 결정에 사람이 계속 관여하도록 하는 것도 포함됩니다. 특히 위험이 큰 경우에는 사람의 검토 없이 인공지능이 선택을 내리도록 해서는 안 됩니다.

인공지능 프로젝트를 감독할 담당자를 구체적으로 지정하십시오.
인공지능의 결과물을 정확성과 공정성 측면에서 검토하십시오.
강력한 통제로 민감한 데이터에 대한 액세스를 제한하십시오.

거버넌스는 GDPR, CCPA와 같은 법규를 준수하는 데 도움이 됩니다. 이러한 규정은 사용자 권리를 보호하고 데이터를 신중하게 다루도록 요구합니다. 감독에 중점을 두면 팀과 고객의 신뢰를 얻을 수 있습니다.

지속적인 개선

지속적으로 Copilot을 윤리적이고 규정을 준수하는 방식으로 사용하는 접근 방식을 개선해야 합니다. 문제를 조기에 발견할 수 있도록 프로세스를 구축하십시오. 모니터링 도구를 사용해 비정상적인 활동이나 오용을 탐지하십시오. 인공지능이 더 똑똑해지더라도 의사 결정의 중심에는 사람이 있어야 합니다. 새로운 위험과 규정을 반영하도록 정책을 정기적으로 업데이트하십시오.

지속적인 개선을 위한 주요 방법은 다음과 같습니다.

인공지능 결과물에서 편향을 점검하여 공정성을 높이십시오.
인공지능 운영을 이해하기 쉽고 설명 가능하게 만드십시오.
인공지능의 의사 결정에 대한 책임을 명확히 할당하십시오.
개인정보를 존중하고 사용자 데이터를 기밀로 유지하십시오.
인공지능이 잘 작동하는 데 필요한 데이터만 수집하십시오.
데이터 보호와 관련된 모든 법적 요구 사항을 준수하십시오.
알림과 정기 점검을 통해 인공지능 시스템을 모니터링하십시오.
중요한 인공지능 작업을 검토할 때 사람이 계속 관여하도록 하십시오.

참고: 지속적인 개선은 새로운 과제에 앞서 대응하고, 인공지능 활용을 윤리적이고 규정을 준수하는 상태로 유지하는 데 도움이 됩니다.

Copilot 할루시네이션(환각)이 업무에 어떤 영향을 줄 수 있는지 이해해야 합니다. 사용자로서 데이터를 신중하게 다루고 모범 사례를 따라야 합니다. Microsoft Graph 커넥터는 정확도를 높이고 정보를 안전하게 지키는 데 도움이 됩니다. Copilot을 사용할 때는 항상 결과를 확인하고 자신의 역량을 꾸준히 업데이트하십시오. Microsoft Copilot과 같은 인공지능 도구가 변화하는 동안 모든 사용자는 경계를 늦추지 않아야 합니다. Copilot을 책임감 있게 사용하면 신뢰가 쌓이고 목표 달성에도 도움이 됩니다.

🎧 이 에피소드 듣기

Enterprise AI and Copilot을 위한 Microsoft Graph Connectors를 실용적으로 설명한 내용을 원하십니까? 이 에피소드는 해당 주제를 명확한 언어로 풀어 설명하고, Microsoft 365, Azure, Power Platform, 보안, 인공지능, 그리고 현대적인 업무 환경에서 이것이 왜 중요한지 보여줍니다.

다음을 원한다면 이 에피소드를 들어보십시오:

Enterprise AI and Copilot을 위한 Microsoft Graph Connectors의 핵심 개념 이해하기
더 넓은 Microsoft 기술 생태계에서 이것이 어떻게 맞물리는지 살펴보기
조직에 실질적인 가치를 만들어 낼 수 있는 영역 알아보기

함께 보면 좋을 M365 FM 관련 에피소드:

M365 FM에서 더 많은 실무 중심 Microsoft 이야기를 찾아보십시오.