Controles de privacidade do Microsoft Copilot: rótulos de confidencialidade, permissões, DLP e logs de auditoria
By Mirko Peters ·
Os controles de privacidade que se aplicam ao Microsoft Copilot: permissões, rótulos de confidencialidade com direitos de uso, o local de DLP do Copilot, registros de auditoria e retenção, conforme a Microsoft Learn.
Automatically translated with AI from the original post. Read the English original
O modelo de privacidade do Copilot se baseia em uma regra: ele funciona dentro do que o usuário autenticado já consegue acessar. Todo o resto é uma camada adicional sobre essa regra. Rótulos de confidencialidade, prevenção contra perda de dados (DLP), auditoria, retenção e eDiscovery determinam o quão rigidamente esse acesso é controlado e o quão bem ele pode ser revisado depois. A Microsoft Learn agora chama o produto de Microsoft Copilot. Páginas mais antigas dizem Microsoft 365 Copilot.
Pontos-chave
- O Copilot só exibe dados organizacionais para os quais o usuário tem, no mínimo, permissões de exibição. Prompts e respostas não são usados para treinar LLMs de fundação.
- Para rótulos que aplicam criptografia, os usuários precisam do direito de uso EXTRACT, além de VIEW, antes que os aplicativos de IA retornem os dados.
- A localização de DLP para o Copilot pode bloquear prompts sensíveis, a pesquisa na web para esses prompts e o processamento de arquivos e e-mails rotulados.
- As interações do Copilot são gravadas no log de auditoria unificado como registros CopilotInteraction, incluindo os recursos acessados e os IDs de rótulo.
- As políticas de retenção podem reter ou excluir prompts e respostas. O eDiscovery pode pesquisá-los na caixa de correio do usuário.
Camada 1: permissões e uso de dados
A página de privacidade da Microsoft afirma que o Copilot "só exibe dados organizacionais para os quais usuários individuais têm, no mínimo, permissões de exibição". O índice semântico respeita o mesmo limite de acesso baseado na identidade do usuário. O Copilot apresenta os dados usando os mesmos controles de acesso subjacentes dos demais serviços do Microsoft 365.
Dois compromissos da mesma página:
- Prompts, respostas e dados acessados por meio do Microsoft Graph não são usados para treinar LLMs de fundação.
- Os dados de interação armazenados (o prompt, a resposta e as citações) são criptografados em repouso.
Para usuários da UE, a Microsoft informa que o tráfego da UE permanece dentro do Limite de Dados da UE, enquanto o tráfego mundial pode ser enviado à UE e a outras regiões para o processamento de LLMs. A página acrescenta que os modelos da Anthropic, como subprocessador, estão atualmente excluídos do Limite de Dados da UE. Verifique esse ponto na página atual se a residência de dados for importante para sua organização.
A consequência prática: a higiene de permissões é o primeiro controle de privacidade. O panorama de segurança da Microsoft observa que conteúdo superexposto ou mal governado pode afetar os resultados do Copilot e aumentar o risco.
Camada 2: rótulos de confidencialidade e criptografia
A documentação do Purview informa que os aplicativos de IA usam os controles existentes, de modo que os dados do locatário não são retornados a um usuário, nem usados por um LLM, se o usuário não tiver acesso a eles. Os rótulos acrescentam proteção:
- Quando um rótulo aplica criptografia, os usuários precisam do direito de uso EXTRACT, além de VIEW, para que os aplicativos de IA retornem os dados.
- Essa proteção se estende aos dados armazenados fora do locatário quando eles estão abertos em um aplicativo do Office.
- A Microsoft recomenda habilitar rótulos de confidencialidade para o SharePoint e o OneDrive.
A criptografia sem rótulos é tratada de forma diferente. A criptografia do Azure Rights Management (Purview Message Encryption, IRM, o conector RMS e o SDK do RMS) ainda passa pelas verificações de VIEW e EXTRACT, mas os novos itens não herdam a proteção automaticamente. A Microsoft também lista estes casos:
- E-mails protegidos por S/MIME não são retornados pelo Copilot.
- Documentos protegidos por senha ficam inacessíveis para aplicativos de IA, a menos que já estejam abertos no mesmo aplicativo.
- Itens criptografados com Customer Key ou BYOK podem ser retornados pelo Copilot.
No caso de agentes, a página de privacidade informa que a criptografia pode excluir o acesso programático, o que limita o acesso do agente ao conteúdo.
Camada 3: DLP para o Copilot
O DLP do Purview tem um local de política chamado Microsoft Copilot, Copilot Chat e Copilot Cowork. De acordo com o Microsoft Learn, ele pode:
- Restringir a pesquisa externa na web quando os prompts contiverem dados sensíveis.
- Restringir o processamento de prompts sensíveis.
- Restringir o processamento de arquivos e e-mails sensíveis.
- Restringir o processamento de e-mails externos (prévia).
| Condição | O que acontece | |---|---| | O conteúdo contém um rótulo de confidencialidade | O item não é processado nem usado no resumo da resposta. Ele ainda pode estar disponível nas citações. | | O conteúdo contém um tipo de informação confidencial (prompts de processamento) | A experiência não responde ao prompt. | | O conteúdo contém um tipo de informação confidencial (pesquisas na web) | A pesquisa externa na web não é usada como fonte de embasamento para esse prompt. |
Pontos a saber antes de criar a política:
- O local está disponível apenas no modelo de política Personalizado e, ao selecioná-lo, os outros locais dessa política são desativados.
- Rótulos e tipos de informação confidencial não podem ser combinados na mesma regra. Use uma regra para cada um.
- O DLP não consegue analisar arquivos enviados diretamente nos prompts. Ele verifica apenas o texto digitado no prompt.
- O bloqueio de prompts por tipo de informação confidencial está documentado como prévia.
- As atualizações da política podem levar até quatro horas para surtir efeito.
- Convites de reunião não são compatíveis com o bloqueio baseado em rótulos, e os e-mails precisam ter sido enviados em 1º de janeiro de 2025 ou depois.
Camada 4: logs de auditoria
As interações do Copilot são registradas no log de auditoria unificado. O Microsoft Learn descreve estes registros:
- CopilotInteraction (carga de trabalho Copilot) abrange os Copilots desenvolvidos pela Microsoft.
- ConnectedAIAppInteraction abrange aplicativos de IA personalizados ou de terceiros implantados e registrados na organização.
- AIAppInteraction abrange aplicativos de IA de terceiros que não estão implantados na organização.
Algumas propriedades úteis são AppIdentity, AppHost e AccessedResources. A última lista os recursos que o Copilot usou, com a ação, o status e, quando o acesso foi bloqueado ou restringido, os detalhes da política. Cada recurso também traz um SensitivityLabelId. A página documenta apenas o ID, não o nome do rótulo. Outros sinalizadores incluem XPIADetected (ataque de injeção de prompt entre prompts) e JailbreakDetected.
Para pesquisar, abra o portal do Microsoft Purview, selecione Auditoria e filtre o campo Activities – operation names por operação, tipo de registro ou carga de trabalho. A auditoria precisa estar habilitada na organização. Os logs de auditoria de aplicativos de IA que não são da Microsoft usam cobrança por consumo e são retidos por 180 dias. A página não informa a retenção padrão da Auditoria (Standard) e não lista as funções de administrador necessárias para pesquisar.
Camada 5: retenção, eDiscovery e supervisão
- Retenção. As políticas de retenção podem reter ou excluir prompts e respostas dos usuários. Se várias políticas ou retenções de eDiscovery se aplicarem, os dados são mantidos pelo período mais longo.
- eDiscovery. Prompts e respostas são armazenados na caixa de correio do usuário. Pesquise com a condição Tipo > Contém qualquer um de > Atividade do Copilot.
- Comunicações em conformidade. Pode detectar violações de conduta em prompts e respostas de IA, com nomes de usuário pseudonimizados.
- Gerenciamento de Riscos Internos. O modelo Uso de IA arriscado detecta usos arriscados, incluindo ataques de injeção de prompt e acesso a material protegido.
Por onde começar
- Corrija primeiro o compartilhamento excessivo, porque as permissões definem o que o Copilot consegue acessar.
- Rotule o conteúdo sensível e confirme quais rótulos aplicam criptografia.
- Crie uma regra de DLP para o local do Copilot, para os rótulos ou tipos de informação que nunca devem ser processados.
- Confirme que a auditoria está ativada e teste uma pesquisa por registros CopilotInteraction.
- Defina por quanto tempo os prompts e as respostas devem ser retidos.
Relacionados
Fontes
- Privacidade do Microsoft Copilot, Microsoft Learn
- Visão geral de segurança do Microsoft Copilot, Microsoft Learn
- Microsoft Purview para aplicativos de IA e Copilot, Microsoft Learn
- Logs de auditoria para o Copilot e aplicativos de IA, Microsoft Learn
- DLP para Microsoft 365 Copilot, Copilot Chat e Cowork, Microsoft Learn
Perguntas frequentes
O Copilot respeita os rótulos de confidencialidade?
Sim, mas com uma condição. A Microsoft Learn informa que, quando um rótulo aplica criptografia, os usuários precisam ter o direito de uso EXTRACT, além de VIEW, para que os aplicativos de IA retornem os dados. O Copilot respeita os direitos de uso concedidos ao usuário.
Os prompts do Copilot são usados para treinar o modelo?
Não. De acordo com a página de privacidade do Copilot da Microsoft, os prompts, as respostas e os dados acessados por meio do Microsoft Graph não são usados para treinar LLMs de fundação, incluindo os usados pelo Microsoft Copilot.
Onde os administradores podem ver o que o Copilot acessou?
No portal do Microsoft Purview, em Auditoria. A Microsoft Learn informa que as interações do Copilot criam registros CopilotInteraction que referenciam os arquivos, sites e outros recursos acessados, incluindo um ID de rótulo de confidencialidade para cada recurso. A auditoria precisa estar habilitada na organização.
O DLP pode impedir que o Copilot use um arquivo rotulado?
Sim. A localização de política de DLP para o Microsoft Copilot, o Copilot Chat e o Copilot Cowork pode impedir o processamento de arquivos e e-mails com os rótulos de confidencialidade escolhidos. A Microsoft observa que o item ainda pode aparecer nas citações da resposta.