M365Con 2027 – bezpłatna konferencja online · 11–22 Jan 2027 · 120 sessions→ m365con.net
M365.FM · Polski

Jak chronić Copilot przed prompt injection

Azure Logic Apps jako firewall z Prompt Shields

Atakujący nie muszą łamać Twojego promptu – wystarczy zatruć kontekst ukrytą instrukcją w e-mailu, pliku SharePoint lub polu formularza, którą Copilot potem potraktuje jak polecenie. Ten odcinek pokazuje, dlaczego prompty systemowe i filtry nie są prawdziwą granicą bezpieczeństwa i jak Azure Logic Apps sprawdza, ocenia i blokuje złośliwe ładunki, zanim Copilot w ogóle się uruchomi.

Obserwuj podcastNowe odcinki o Microsoft 365, Copilot i nie tylko, za darmo w Twojej aplikacji podcastowej.Spotify

▶ Jak chronić Copilot przed prompt injection: Azure Logic Apps jako firewall z Prompt Shields (Dubbing AI)

Czego się dowiesz:

  1. Dlaczego pośrednia prompt injection przez pobierane treści jest groźniejsza niż bezpośrednie ataki w oknie czatu i dlaczego prompty systemowe, separatory i wytyczne tylko przekonują, zamiast egzekwować
  2. Model firewalla w Logic Apps: wyzwolenie, normalizacja, inspekcja, ocena ryzyka, decyzja oraz przekazanie lub zapis w dzienniku
  3. Dwa etapy kontroli: szybki filtr regex i Azure AI Content Safety Prompt Shields dla promptu i dokumentów łącznie, uzupełnione o Microsoft Defender Threat Intelligence z wartościami pewności
  4. Strefy zaufania i normalizacja (usuwanie znaczników, dekodowanie URL i Base64) oraz stopniowane decyzje: zezwól, oczyść, poddaj kwarantannie, wymagaj zatwierdzenia przez człowieka lub zablokuj
  5. Dostrajanie w praktyce: fałszywe alarmy poniżej 2%, wykrycie w mniej niż 15 i powstrzymanie w mniej niż 5 minut, plan zużyciowy czy Standard oraz powiązanie z NIST AI RMF i etykietami poufności Purview

Ten odcinek to polska wersja animowanego filmu objaśniającego z M365 Show autorstwa Microsoft MVP Mirko Petersa, zdubbingowana przez AI.

Więcej odcinków

Wszystkie odcinki →