Controlli di privacy di Microsoft Copilot: etichette di riservatezza, autorizzazioni, DLP e log di controllo
Di Mirko Peters ·
I controlli di privacy che si applicano a Microsoft Copilot: autorizzazioni, etichette di riservatezza con diritti di utilizzo, la posizione DLP di Copilot, i record di controllo e la conservazione, secondo Microsoft Learn.
Tradotto automaticamente con l'IA dal post originale. Leggi l'originale in inglese
Il modello di privacy di Copilot si basa su una regola: lavora entro ciò a cui l'utente che ha effettuato l'accesso può già accedere. Tutto il resto è un livello aggiuntivo su questa regola. Le etichette di riservatezza, la prevenzione della perdita di dati (DLP), il controllo, la conservazione e il eDiscovery stabiliscono quanto strettamente viene controllato quell'accesso e quanto bene può essere verificato successivamente. Microsoft Learn ora chiama il prodotto Microsoft Copilot. Le pagine più vecchie dicono Microsoft 365 Copilot.
Punti chiave
- Copilot mostra solo i dati dell'organizzazione per cui l'utente ha almeno l'autorizzazione di visualizzazione. Prompt e risposte non vengono usati per addestrare gli LLM di base.
- Per le etichette che applicano la crittografia, gli utenti devono avere il diritto di utilizzo EXTRACT oltre a VIEW prima che le app di IA restituiscano i dati.
- La posizione DLP per Copilot può bloccare i prompt sensibili, la ricerca web per tali prompt e l'elaborazione di file ed e-mail con etichetta.
- Le interazioni con Copilot vengono scritte nel registro di controllo unificato come record CopilotInteraction, inclusi le risorse accedute e gli ID delle etichette.
- I criteri di conservazione possono conservare o eliminare prompt e risposte. eDiscovery può cercarli nella casella di posta dell'utente.
Livello 1: autorizzazioni e utilizzo dei dati
La pagina di Microsoft sulla privacy afferma che Copilot «mostra solo i dati dell'organizzazione per cui i singoli utenti hanno almeno l'autorizzazione di visualizzazione». L'indice semantico rispetta lo stesso limite di accesso basato sull'identità dell'utente. Copilot presenta i dati usando gli stessi controlli di accesso sottostanti degli altri servizi di Microsoft 365.
Due impegni della stessa pagina:
- Prompt, risposte e dati accessibili tramite Microsoft Graph non vengono usati per addestrare gli LLM di base.
- I dati di interazione archiviati (il prompt, la risposta e le citazioni) sono crittografati durante l'archiviazione.
Per gli utenti UE, Microsoft afferma che il traffico UE resta all'interno del Confine di dati UE, mentre il traffico globale può essere inviato nell'UE e in altre regioni per l'elaborazione degli LLM. La pagina aggiunge che i modelli di Anthropic, come subprocessore, sono attualmente esclusi dal Confine di dati UE. Verifica questo punto nella pagina aggiornata se la residenza dei dati è importante per la tua organizzazione.
La conseguenza pratica: la gestione delle autorizzazioni è il primo controllo di privacy. La panoramica sulla sicurezza di Microsoft osserva che contenuti condivisi in eccesso o governati male possono influire sui risultati di Copilot e aumentare il rischio.
Livello 2: etichette di riservatezza e crittografia
La documentazione di Purview afferma che le app di IA usano i controlli esistenti, quindi i dati nel tenant non vengono restituiti a un utente né usati da un LLM se l'utente non vi ha accesso. Le etichette aggiungono protezione:
- Quando un'etichetta applica la crittografia, gli utenti devono avere il diritto di utilizzo EXTRACT oltre a VIEW perché le app di IA restituiscano i dati.
- Questa protezione si estende ai dati archiviati fuori dal tenant quando sono aperti in un'app di Office.
- Microsoft consiglia di abilitare le etichette di riservatezza per SharePoint e OneDrive.
La crittografia senza etichette viene trattata in modo diverso. La crittografia di Azure Rights Management (Purview Message Encryption, IRM, il connettore RMS e l'SDK RMS) prevede comunque i controlli VIEW e EXTRACT, ma i nuovi elementi non ereditano automaticamente la protezione. Microsoft elenca inoltre questi casi:
- Le e-mail protette con S/MIME non vengono restituite da Copilot.
- I documenti protetti da password non sono accessibili alle app di intelligenza artificiale, a meno che non siano già aperti nella stessa app.
- Gli elementi crittografati con Customer Key o BYOK possono essere restituiti da Copilot.
Per gli agenti, la pagina sulla privacy indica che la crittografia può escludere l'accesso programmatico, il che limita l'accesso dell'agente al contenuto.
Livello 3: DLP per Copilot
Purview DLP dispone di una posizione dei criteri denominata Microsoft Copilot, Copilot Chat, and Copilot Cowork. Secondo Microsoft Learn, può:
- Limitare la ricerca web esterna quando i prompt contengono dati sensibili.
- Limitare l'elaborazione dei prompt sensibili.
- Limitare l'elaborazione di file e messaggi di posta elettronica sensibili.
- Limitare l'elaborazione della posta elettronica esterna (anteprima).
| Condizione | Cosa succede | |---|---| | Il contenuto contiene un'etichetta di riservatezza | L'elemento non viene elaborato né utilizzato nel riepilogo della risposta. Potrebbe comunque essere disponibile nelle citazioni. | | Il contenuto contiene un tipo di informazione sensibile (prompt di elaborazione) | L'esperienza non risponde al prompt. | | Il contenuto contiene un tipo di informazione sensibile (ricerche web) | La ricerca web esterna non viene usata come origine di fondamento per quel prompt. |
Cose da sapere prima di creare il criterio:
- La posizione è disponibile solo nel modello di criterio Personalizzato e, se la selezioni, disattiva le altre posizioni per quel criterio.
- Le etichette e i tipi di informazioni sensibili non possono essere combinati nella stessa regola. Usa una regola per ciascuno.
- DLP non può analizzare i file caricati direttamente nei prompt. Controlla solo il testo del prompt digitato.
- Il blocco dei prompt in base al tipo di informazione sensibile è documentato come anteprima.
- Gli aggiornamenti dei criteri possono richiedere fino a quattro ore per avere effetto.
- Gli inviti di calendario non sono supportati per il blocco basato su etichette, e le email devono essere state inviate il 1° gennaio 2025 o successivamente.
Livello 4: log di controllo
Le interazioni di Copilot vengono registrate nel registro di controllo unificato. Microsoft Learn descrive questi record:
- CopilotInteraction (carico di lavoro Copilot) riguarda i Copilot sviluppati da Microsoft.
- ConnectedAIAppInteraction riguarda le app di intelligenza artificiale personalizzate o di terze parti distribuite e registrate nell'organizzazione.
- AIAppInteraction riguarda le app di intelligenza artificiale di terze parti non distribuite nell'organizzazione.
Tra le proprietà utili figurano AppIdentity, AppHost e AccessedResources. L'ultima elenca le risorse usate da Copilot, con azione, stato e, quando l'accesso è stato bloccato o limitato, i dettagli del criterio. Ogni risorsa riporta anche un SensitivityLabelId. La pagina documenta solo l'ID, non il nome dell'etichetta. Altri flag includono XPIADetected (cross prompt injection attack) e JailbreakDetected.
Per cercare: apri il portale di Microsoft Purview, seleziona Controllo e filtra il campo Activities – operation names per operazione, tipo di record o carico di lavoro. Il controllo deve essere abilitato nell'organizzazione. I log di controllo delle app di intelligenza artificiale non Microsoft usano la fatturazione pay-as-you-go e vengono conservati per 180 giorni. La pagina non indica la conservazione predefinita per Audit (Standard) e non elenca i ruoli di amministrazione necessari per la ricerca.
Livello 5: conservazione, eDiscovery e supervisione
- Conservazione. I criteri di conservazione possono conservare o eliminare i prompt e le risposte degli utenti. Se si applicano più criteri o blocchi eDiscovery, i dati vengono conservati per la durata più lunga.
- eDiscovery. I prompt e le risposte vengono archiviati nella casella di posta dell'utente. Cercali con la condizione Tipo > Contiene uno dei seguenti > Attività di Copilot.
- Controllo delle comunicazioni. Può rilevare violazioni del comportamento nei prompt e nelle risposte di intelligenza artificiale, con i nomi utente pseudonimizzati.
- Insider Risk Management. Il modello Utilizzo rischioso dell'IA rileva utilizzi rischiosi, inclusi attacchi di prompt injection e accesso a materiale protetto.
Da dove iniziare
- Correggi prima la condivisione eccessiva, perché le autorizzazioni definiscono a cosa può accedere Copilot.
- Applica etichette ai contenuti sensibili e verifica quali etichette applicano la crittografia.
- Crea una regola DLP per la posizione Copilot relativa alle etichette o ai tipi di informazioni che non devono mai essere elaborati.
- Verifica che il controllo sia attivo e prova una ricerca di record CopilotInteraction.
- Decidi per quanto tempo conservare prompt e risposte.
Correlati
Fonti
- Microsoft Copilot privacy, Microsoft Learn
- Panoramica sulla sicurezza di Microsoft Copilot, Microsoft Learn
- Microsoft Purview per le app di AI e Copilot, Microsoft Learn
- Log di controllo per Copilot e le applicazioni di AI, Microsoft Learn
- DLP per Microsoft 365 Copilot, Copilot Chat e Cowork, Microsoft Learn
FAQ
Copilot rispetta le etichette di riservatezza?
Sì, ma con una condizione. Microsoft Learn spiega che, quando un'etichetta applica la crittografia, gli utenti devono avere il diritto di utilizzo EXTRACT oltre a VIEW perché le app di IA restituiscano i dati. Copilot rispetta i diritti di utilizzo concessi all'utente.
I prompt di Copilot vengono usati per addestrare il modello?
No. Secondo la pagina di Microsoft sulla privacy di Copilot, i prompt, le risposte e i dati accessibili tramite Microsoft Graph non vengono usati per addestrare gli LLM di base, compresi quelli utilizzati da Microsoft Copilot.
Dove possono gli amministratori vedere a cosa ha avuto accesso Copilot?
Nel portale di Microsoft Purview, in Controllo. Microsoft Learn spiega che le interazioni con Copilot generano record CopilotInteraction che fanno riferimento ai file, ai siti e alle altre risorse a cui si è avuto accesso, incluso un ID di etichetta di riservatezza per ogni risorsa. Il controllo deve essere abilitato nell'organizzazione.
La DLP può impedire a Copilot di usare un file con etichetta?
Sì. La posizione dei criteri DLP per Microsoft Copilot, Copilot Chat e Copilot Cowork può impedire l'elaborazione di file e messaggi di posta con le etichette di riservatezza scelte. Microsoft precisa che l'elemento potrebbe comunque comparire nelle citazioni della risposta.