M365.FM · Português
Proteja o Copilot contra injeção de prompt
Azure Logic Apps como firewall com Prompt Shields
Microsoft 365 CopilotSegurança, identidade e governançaAzure e desenvolvimentoMicrosoft 365 Copilotinjeção de promptAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelsegurança de IA
Os atacantes não precisam quebrar o seu prompt: basta envenenar o contexto com uma instrução escondida em um e-mail, um arquivo do SharePoint ou um campo de formulário, que o Copilot depois trata como uma ordem. Este episódio mostra por que prompts de sistema e filtros não são uma fronteira de segurança real e como o Azure Logic Apps inspeciona, pontua e bloqueia cargas maliciosas antes mesmo de o Copilot ser executado.
Seguir o podcastNovos episódios sobre Microsoft 365, Copilot e mais, grátis no seu app de podcasts.Spotify
▶ Proteja o Copilot contra injeção de prompt: Azure Logic Apps como firewall com Prompt Shields (Dublagem IA)
O que você vai aprender:
- Por que a injeção indireta de prompt por meio de conteúdo recuperado é mais perigosa do que ataques diretos no chat, e por que prompts de sistema, delimitadores e diretrizes apenas persuadem em vez de impor
- O modelo de firewall com Logic Apps: disparar, normalizar, inspecionar, pontuar, decidir e encaminhar ou registrar
- Duas etapas de inspeção: filtro rápido com regex e Azure AI Content Safety Prompt Shields sobre o prompt e os documentos juntos, além do Microsoft Defender Threat Intelligence com pontuações de confiança
- Zonas de confiança e normalização (remover marcação, decodificar URL e Base64) e decisões graduais: permitir, higienizar, colocar em quarentena, exigir aprovação humana ou bloquear
- Ajuste em produção: falsos positivos abaixo de 2 %, detecção em menos de 15 minutos e contenção em menos de 5, plano de consumo ou Standard e ligação com o NIST AI RMF e os rótulos de confidencialidade do Purview
Este episódio é uma versão em português dublada por IA do vídeo explicativo animado do M365 Show, do Microsoft MVP Mirko Peters.