M365.FM · Italiano
Proteggere Copilot dalla prompt injection
Azure Logic Apps come firewall con Prompt Shields
Microsoft 365 CopilotSicurezza, identità e governanceAzure e sviluppoMicrosoft 365 Copilotprompt injectionAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelsicurezza dell’IA
Gli attaccanti non devono violare il tuo prompt: basta avvelenare il contesto con un’istruzione nascosta in un’e-mail, in un file SharePoint o in un campo di un modulo, che Copilot finirà per trattare come un comando. Questo episodio spiega perché prompt di sistema e filtri non sono un vero confine di sicurezza e come Azure Logic Apps ispeziona, valuta e blocca i payload dannosi prima ancora che Copilot venga eseguito.
Segui il podcastNuovi episodi su Microsoft 365, Copilot e altro, gratis nella tua app di podcast.Spotify
▶ Proteggere Copilot dalla prompt injection: Azure Logic Apps come firewall con Prompt Shields (Doppiaggio IA)
Cosa imparerai:
- Perché la prompt injection indiretta tramite contenuti recuperati è più pericolosa degli attacchi diretti in chat, e perché prompt di sistema, delimitatori e linee guida persuadono invece di imporre
- Il modello firewall con Logic Apps: attivare, normalizzare, ispezionare, assegnare un punteggio, decidere e instradare o registrare
- Due passaggi di controllo: filtro regex veloce e Azure AI Content Safety Prompt Shields su prompt e documenti insieme, più Microsoft Defender Threat Intelligence con punteggi di confidenza
- Zone di fiducia e normalizzazione (rimozione del markup, decodifica di URL e Base64) e decisioni graduali: consentire, ripulire, mettere in quarantena, chiedere un’approvazione umana o bloccare
- Ottimizzazione in esercizio: falsi positivi sotto il 2 %, rilevamento sotto i 15 minuti e contenimento sotto i 5, piano a consumo o Standard e collegamento a NIST AI RMF e alle etichette di riservatezza di Purview
Questo episodio è una versione italiana doppiata con IA del video esplicativo animato del M365 Show del Microsoft MVP Mirko Peters.