M365Con 2027 – bezpłatna konferencja online · 11–22 Jan 2027 · 120 sessions m365con.net

AI guardrails

Concept

Kontrole, takie jak wiadomości systemowe, ograniczone udostępnianie funkcji i warstwy uprawnień, które ograniczają to, co użytkownicy mogą sprawić, że model AI lub agent zrobi. Służą do zapobiegania wyciekom danych i wstrzykiwaniu promptów.

✦ CONCEPTAI guardrailsM365.FM
Title graphic: AI guardrails (Concept)

Omawiane również

W odcinkach na temat AI guardrails pojawiają się też: Agentic SDLC, GitHub Copilot CLI, GitHub Copilot coding agent, Gentle AI, Gentleman Programming i Ralph loop.

Opis

Zabezpieczenia AI (AI guardrails) to kontrole, które ograniczają to, co użytkownicy mogą sprawić, że model AI lub agent zrobi. Typowymi przykładami są wiadomości systemowe, ograniczone udostępnianie funkcji i warstwy uprawnień. Służą do zapobiegania wyciekom danych i wstrzykiwaniu promptów, a ich umiejscowienie jest w ramach szerszego zagadnienia, jakim jest zarządzanie AI (AI governance), obejmującego polityki i obowiązki, które zabezpieczenia wdrażają na poziomie technicznym.

Potrzeba stosowania zabezpieczeń wynika ze sposobu, w jaki wykorzystuje się aplikacje oparte na AI. W odcinku M365.FM "How AI Changed Software Development Forever — Building the Agentic Future with Andre Baltieri [MVP]" wstrzykiwanie promptów jest opisane jako nowa powierzchnia ataku. Użytkownicy mogą celowo manipulować promptami, próbować uzyskać informacje spoza zamierzonego kontekstu, zużywać zasoby firmy lub skłaniać system AI do wykonywania działań, których jego projektanci nie przewidzieli. Odcinek omawia instrukcje systemowe, ograniczenia na poziomie aplikacji i kontrolowany dostęp jako sposoby reagowania na to zjawisko.

Jeden konkretny wzorzec z tego odcinka dotyczy dostępu do danych. Zamiast dawać agentowi nieograniczony dostęp do bazy danych, twórcy powinni udostępniać starannie kontrolowane funkcje, które zwracają tylko informacje potrzebne do określonego zadania. Ma to największe znaczenie wtedy, gdy agenci mogą odczytywać lub modyfikować dane przedsiębiorstwa, ponieważ warstwa funkcji wyznacza wtedy granice tego, co agent może zobaczyć lub zmienić, niezależnie od tego, co użytkownik wpisze w prompcie. W tym sensie zabezpieczenie to nie tylko instrukcja tekstowa dla modelu, ale także strukturalne ograniczenie narzędzi i danych, do których model ma dostęp.

Zabezpieczenia pojawiają się również w kontekście kosztów i odpowiedzialności. Odcinek "How to Build Low-Cost AI Agents in Microsoft Cloud" zawiera fragment poświęcony zabezpieczeniom odpowiedzialnej AI w Azure. Mówi, że organizacje powinny dostosować wszystkich agentów do wewnętrznych polityk zarządzania, izolować poufne dane i ograniczać dostęp, tak aby agenci korzystali wyłącznie z tego, czego potrzebują. Zaleca również standaryzację integracji wiedzy i narzędzi, aby ograniczyć duplikowanie i uprościć utrzymanie, a także jasne informowanie, zawsze gdy w interakcji uczestniczy agent AI. Ten sam odcinek łączy z tą pracą monitorowanie, wspominając narzędzia takie jak Evidently AI do wychwytywania nietypowych wzorców wydatków i zalecając częsty przegląd konfiguracji monitorowania, aby problemy były naprawiane, zanim się rozrosną.

Aspekt regulacyjny omówiono w odcinku "Govern High-Risk Power Platform AI Under the EU AI Act". Odcinek ten opisuje, co idzie nie tak, gdy organizacje wdrażają copiloty lub chatboty bez zabezpieczeń odpowiedzialnej AI. Zwraca uwagę, że nowoczesne duże modele językowe są niedeterministyczne, że wstrzykiwanie promptów nie jest hipotetyczne i że złe wyniki mogą kaskadowo rozprzestrzeniać się w procesach biznesowych szybciej niż błąd człowieka. Następnie łączy to z unijnym aktem o AI (EU AI Act) i jego konsekwencjami dla twórców w Power Platform i Microsoft 365, zwłaszcza w przypadku rozwiązań dotykających obszarów takich jak zatrudnienie czy kredyty.

Razem źródła opisują zabezpieczenia jako środki warstwowe, a nie pojedynczą funkcję. Wiadomość systemowa określa zamierzone zachowanie, ograniczone udostępnianie funkcji ogranicza to, co agent może zrobić z danymi przedsiębiorstwa, warstwy uprawnień kontrolują, kto do czego ma dostęp, a polityki zarządzania i monitorowanie zapewniają nadzór. Decyzje dotyczące zabezpieczeń zwykle obejmują to, jak wąsko zakresować dostęp agentów, jak traktować dane wejściowe od użytkownika jako potencjalnie wrogie oraz jak dopasować kontrole techniczne do wewnętrznej polityki i obowiązujących przepisów.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypConcept
KindPractice

Często zadawane pytania

Questions marked with AI were written with AI from the facts on this page.

Czym są zabezpieczenia AI? (AI)

Zabezpieczenia AI (AI guardrails) to kontrole, takie jak wiadomości systemowe, ograniczone udostępnianie funkcji i warstwy uprawnień, które ograniczają to, co użytkownicy mogą sprawić, że model AI lub agent zrobi. Służą do zapobiegania wyciekom danych i wstrzykiwaniu promptów.

Jak zabezpieczenia pomagają w przeciwdziałaniu wstrzykiwaniu promptów? (AI)

Odcinek o budowaniu agentycznej przyszłości opisuje wstrzykiwanie promptów jako nową powierzchnię ataku, w której użytkownicy manipulują promptami, aby uzyskać informacje spoza zamierzonego kontekstu. Jako sposoby ograniczania tego zjawiska omówiono instrukcje systemowe, ograniczenia na poziomie aplikacji i kontrolowany dostęp.

Dlaczego udostępniać agentowi kontrolowane funkcje zamiast bezpośredniego dostępu do bazy danych? (AI)

Według odcinka z Andre Baltierim starannie kontrolowane funkcje zwracają tylko informacje potrzebne do określonego zadania. Jest to szczególnie ważne, gdy agenci mogą odczytywać lub modyfikować dane przedsiębiorstwa.

Słownik

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Eksperci i firmy w tym temacie

Nikt jeszcze nie wskazał tego tematu. Dodaj go do swojego profilu.

Maintained by Mirko Peters (Microsoft MVP) · Last updated: