M365.FM · Polski
Jak chronić Copilot przed prompt injection
Azure Logic Apps jako firewall z Prompt Shields
Microsoft 365 CopilotBezpieczeństwo, tożsamość i governanceAzure i programowanieMicrosoft 365 Copilotprompt injectionAzure Logic AppsPrompt ShieldsAzure AI Content SafetyMicrosoft Sentinelbezpieczeństwo AI
Atakujący nie muszą łamać Twojego promptu – wystarczy zatruć kontekst ukrytą instrukcją w e-mailu, pliku SharePoint lub polu formularza, którą Copilot potem potraktuje jak polecenie. Ten odcinek pokazuje, dlaczego prompty systemowe i filtry nie są prawdziwą granicą bezpieczeństwa i jak Azure Logic Apps sprawdza, ocenia i blokuje złośliwe ładunki, zanim Copilot w ogóle się uruchomi.
Obserwuj podcastNowe odcinki o Microsoft 365, Copilot i nie tylko, za darmo w Twojej aplikacji podcastowej.Spotify
▶ Jak chronić Copilot przed prompt injection: Azure Logic Apps jako firewall z Prompt Shields (Dubbing AI)
Czego się dowiesz:
- Dlaczego pośrednia prompt injection przez pobierane treści jest groźniejsza niż bezpośrednie ataki w oknie czatu i dlaczego prompty systemowe, separatory i wytyczne tylko przekonują, zamiast egzekwować
- Model firewalla w Logic Apps: wyzwolenie, normalizacja, inspekcja, ocena ryzyka, decyzja oraz przekazanie lub zapis w dzienniku
- Dwa etapy kontroli: szybki filtr regex i Azure AI Content Safety Prompt Shields dla promptu i dokumentów łącznie, uzupełnione o Microsoft Defender Threat Intelligence z wartościami pewności
- Strefy zaufania i normalizacja (usuwanie znaczników, dekodowanie URL i Base64) oraz stopniowane decyzje: zezwól, oczyść, poddaj kwarantannie, wymagaj zatwierdzenia przez człowieka lub zablokuj
- Dostrajanie w praktyce: fałszywe alarmy poniżej 2%, wykrycie w mniej niż 15 i powstrzymanie w mniej niż 5 minut, plan zużyciowy czy Standard oraz powiązanie z NIST AI RMF i etykietami poufności Purview
Ten odcinek to polska wersja animowanego filmu objaśniającego z M365 Show autorstwa Microsoft MVP Mirko Petersa, zdubbingowana przez AI.