Co właściwie zmienia się, gdy firma przechodzi od jednego hotbota AI do dziesiątek narzędzi opartych na sztucznej inteligencji? Początkowo wydaje się to proste. Jeden zespół dodaje hotbota do obsługi klienta, inny używa AI do przeszukiwania dokumentów firmowych, a notatki ze spotkań tworzą się automatycznie. Obieg pracy może odczytać e-mail, wyciągnąć prośbę i wysłać ją do odpowiedniego systemu. Niedługo potem firma ma kilka modeli agentów podejmujących działania i narzędzia sięgające do danych biznesowych. Każdy zespół często łączy się bezpośrednio z innym dostawcą, a i używając własnego klucza, limitów i zasad bezpieczeństwa. Koszty stają się trudne do śledzenia. Klucz może trafić w niepowołane miejsce, a gdy agent wywołuje narzędzie, nikt może nie mieć jasnego zapisu tego, co próbował zrobić. W tym miejscu pojawia się Microsoft AI Gateway. Pod koniec tego odcinka zrozumiesz, czym jest, jak działają jego elementy składowe i kiedy zaczyna mieć sens dla twojego biznesu. Pomyśl o tym jak o budynku biurowym z wieloma bocznymi drzwiami. Możesz zostawić każde drzwi otwarte i mieć nadzieję, że ludzie używają ich właściwie, albo możesz skierować wszystkich przez jedno zarządzane wejście. Jedne główne drzwi do AI. Microsoft AI Gateway to zestaw funkcji zarządzania Azure API, który zapewnia jeden punkt kontrolny dla ruchu AI. Wyjaśnijmy to prostym językiem. Wyobraź sobie infrastrukturę AI w swojej firmie jako nowoczesny biurowiec. Modele AI to pokoje, w których odbywa się myślenie. Twoi agenci to pracownicy poruszający się po budynku, decydujący, jakie zatwierdzone zadanie wykonać jako następne. Narzędzia to drzwi serwisowe prowadzące do działów takich jak HR, finanse, kartoteki klientów czy pliki wewnętrzne. AI Gateway to recepcja i punkt ochrony przy wejściu. Sprawdza, kto wchodzi, stosuje zasady i rejestruje, dokąd trafiają żądania, zanim dotrą do reszty budynku. Żądanie podąża prostą ścieżką. Aplikacja, kopilot lub agent wysyła żądanie do bramy Gateway. Brama sprawdza zasady dotyczące danego wywołującego, a następnie przesyła je do zatwierdzonego modelu narzędzia, agenta lub API biznesowego. A gdy przychodzi odpowiedź, ponownie przechodzi przez bramę, zanim dotrze do użytkownika. Ta jedna ścieżka daje firmie miejsce do zarządzania dostępem, limitami, kontrolami bezpieczeństwa i logowaniem bez budowania tych mechanizmów w każdej aplikacji. To również rozdziela dwa zadania, które często są ze sobą mieszane. Zespoły aplikacyjne mogą skupić się na doświadczeniu, z którego faktycznie korzystają ludzie. Tworzą asystenta wsparcia, ekran wyszukiwania dokumentów lub obieg pracy, który oszczędza czas. W międzyczasie zespół platformy zarządza wspólnymi regułami w tle, decydując, które usługi są zatwierdzone, które tożsamości mogą z nich korzystać, jaki ruch może generować projekt i co jest rejestrowane. Nie chcesz, aby każdy zespół tworzył nowy plan bezpieczeństwa dla każdego hotbota. Microsoft AI Gateway może obsługiwać różne rodzaje ruchu AI. Potrafi zarządzać wywołaniami modeli AI oraz wywołaniami narzędzi w ramach protokołu kontekstu modelu MCP. Może również zarządzać ruchem typu Agent Agent, A2A oraz biznesowymi interfejsami API, z których Twoja firma już korzysta, takimi jak API do sprawdzania zamówienia, odczytu polityki HR czy otwierania zgłoszeń wsparcia. Ta ostatnia część jest istotna, ponieważ większość firm nie musi rezygnować z istniejących systemów, aby korzystać z AI. Potrzebują jedynie bezpiecznego sposobu na współpracę, a i z tymi systemami, a bramka pomaga wprowadzić kontrolę nad tym połączeniem. Microsoft AI Gateway nie jest modelem. Nie generuje samodzielnie odpowiedzi. Nie jest również narzędziem do budowania agentów, więc nie użyjesz go do zaprojektowania asystenta HR czy nauczenia agenta finansowego. Co ma robić? Nie zastępuje też Microsoft Foundry, gdzie zespoły mogą tworzyć, testować i zarządzać projektami AI. Zamiast tego znajduje się po środku. Foundry pomaga pracować z modelami i agentami AI, podczas gdy Azure API Management, a i Gateway pomaga kontrolować ruch, który generują te modele, agenci i narzędzia. Być może znasz już Azure API Management jako sposób zarządzania standardowymi API. API to po prostu sposób, w jaki jedno oprogramowanie prosi inne o wykonanie zadania. A i Gateway rozszerza tę samą koncepcję na potrzeby AI, ponieważ zapytania AI rodzą nowe pytania. Kto użył którego modelu? Ile tokenów zostało zużytych? Czy ten agent może wywołać to narzędzie? Czy ten prompt w ogóle powinien dotrzeć do modelu? Umieszczenie bramki w środku daje jedno miejsce na odpowiedzi na te pytania. Pierwszy punkt zapalny pojawia się, gdy każda aplikacja zaczyna wybierać własny punkt końcowy modelu. Jeden punkt końcowy, wiele modeli. Kiedy Twoja aplikacja łączy się bezpośrednio z jednym punktem końcowym modelu, wybór ten jest wypalony w samym kodzie. Często kod jest przywiązany do jednego dostawcy, jednego konkretnego wdrożenia, jednego regionu Azure i stałego zestawu limitów. Działa to dobrze, gdy projekt jest mały, ale wyobraź sobie, że Twój system wsparcia działa na jednym modelu w jednym regionie. Miesiące później model osiąga swój limit, pojawia się lepszy model za mniejsze pieniądze lub firma musi przenieść się do innego regionu. Bez wspólnej warstwy każdy zespół aplikacji musi zmienić swój kod, przetestować go ponownie i wdrożyć aktualizację. To prowadzi do powolnych i chaotycznych zmian. Microsoft AI Gateway zapewnia Twoim aplikacjom stabilne wejście. Wysyłają one tam zapytania, a wybór modelu może zmieniać się w tle, bez konieczności modyfikowania aplikacji. Pomyśl o tym, jak o numerze telefonu do firmy. Klienci dzwonią pod jeden numer, nawet jeśli połączenie jest przekazywane do innego zespołu lub biura. Nigdy nie muszą wiedzieć, jak jest ono obsługiwane. Dzięki AI Gateway Twoja aplikacja wywołuje jeden zatwierdzony punkt końcowy, a zanim brama przesyła zapytanie do modelu pasującego do zadania. Microsoft oferuje również nowsze rozwiązanie o nazwie Unified Model API. Mówiąc prościej, pozwala ono aplikacji na wysyłanie zapytań w stylu OpenAI, podczas gdy brama może łączyć to zapytanie z różnymi dostawcami modeli w tle. Twoja aplikacja wysyła więc jeden znany rodzaj zapytania, a brama zajmuje się wszystkimi szczegółami dostawcy. W zależności od konfiguracji zapytanie to może trafić do wdrożenia Azure OpenAI, modelów Microsoft Foundry, Anthropic, Google Gemini lub Amazon Bedrock. Trasa jest zgodna z ustalonymi przez Ciebie regułami, a nie z wyborem na sztywno zaszytym w każdej aplikacji. Daje to zespołowi platformy możliwość wprowadzania zmian bez zakłócania pracy użytkowników aplikacji. Załóżmy, że Twoja firma prowadzi asystenta AI do obsługi klienta. Większość pytań jest prosta. Gdzie jest moje zamówienie? Jak zresetować hasło? Można na nie szybko odpowiedzieć za pomocą mniejszego, tańszego modelu bez ponoszenia zbędnych kosztów. Następnie klient wysyła długie, nietypowe pytanie, które wymaga uważnego rozumowania lub wiedzy o produkcie. Brama kieruje ten typ zapytania do potężniejszego modelu. Aplikacja wsparcia nadal wysyła zapytania w ten sam sposób, więc Twój zespół nie musi wiedzieć, który model obsłużył pytanie, a programiści nie muszą konfigurować osobnych połączeń dla każdej opcji. Co z wydajnością? Punkty końcowe modeli AI mają swoje limity. Mogą obsłużyć tylko określoną ilość ruchu w danym czasie. Jeśli każde zapytanie trafia do jednego wdrożenia, pojedyncza godzina szczytu może spowolnić lub zablokować całą usługę. Brama może rozkładać ruch na wiele zatwierdzonych wdrożeń, kierując go do innego regionu, gdy jeden się zapełni lub używając trasy zapasowej w razie awarii punktu końcowego. Nie oznacza to, że zapytania mają być kierowane losowo. To Ty nadal ustalasz zasady. Na przykład ruch od klientów otrzymuje priorytet w głównym modelu, podczas gdy testy wewnętrzne korzystają z innej ścieżki lub jeden region obsługuje lokalnych użytkowników, podczas gdy inny pełni funkcję zapasową. Wniosek jest prosty. Twoje aplikacje łączą się z jednym kontrolowanym wejściem, a zanim platforma może dostosowywać modele, regiony lub dostawców przy minimalnych zakłóceniach. Ma to znaczenie, ponieważ AI rozwija się szybko. Model, który sprawdza się dzisiaj, może nie być najlepszym wyborem w przyszłym miesiącu. Jeśli każda aplikacja komunikuje się bezpośrednio z dostawcą, zmiana modelu staje się projektem dla każdego zespołu. Dzięki bramie decyzja o modelu znajduje się w jednym, współdzielonym miejscu. Krótka uwaga na temat ujednoliconego API modelu. Microsoft udostępnia je w ramach publicznej wersji zapoznawczej. Funkcje zapoznawcze mogą ulegać zmianom i mogą nie być gotowe do każdego zastosowania produkcyjnego. Mimo to szerszy wzorzec nie zależy od tej jednej funkcji, ponieważ zarządzanie API może już obsługiwać punkty końcowe modeli, stosować reguły routingu i pomagać w zarządzaniu wieloma back-endami. Ujednolicone API modelu ma na celu ułatwienie aplikacjom korzystania z usług wielu dostawców. Wybór odpowiedniego modelu to tylko połowa sukcesu, ponieważ model odpowiada na pytania, ale agent może zdecydować o działaniu wpływającym na realne systemy firmy. Zarządzanie agentami i narzędziami. Agent przenosi sztuczną inteligencję poza samo odpowiadanie na pytania. To oprogramowanie, które analizuje zadanie, wybiera z zatwierdzonych opcji i wywołuje narzędzie lub usługę, aby wykonać pracę. Agent HR może sprawdzić politykę urlopową, agent wsparcia sprawdzić zamówienie, a agent finansowy przygotować wniosek o płatność. Ta zdolność jest przydatna, ale zmienia również profil ryzyka. Błędna odpowiedź modelu wprowadza w błąd, ale agent używający niewłaściwego narzędzia może ujawnić dane, zmienić rekord lub uruchomić proces, którego nie powinien ruszać. Dlatego narzędzia potrzebują własnych reguł. Usłyszysz termin MCP, czyli model, kontekst, protokol. Pomyśl o tym jak o standardowym łączniku, który daje agentowi znany sposób znajdowania i używania narzędzi firmowych, takich jak wyszukiwarka dokumentów czy API zamówień. Zamiast budować oddzielne połączenie dla każdego agenta i systemu, MCP zapewnia zespołom wspólny wzorzec. Jest też A2A, czyli agent to agent, standardowy sposób kontaktowania się agentów ze sobą. Na przykład agent wsparcia pyta agenta wysyłkowego o szczegóły dostawy, zamiast samodzielnie poznawać system wysyłkowy. Na papierze wygląda to dobrze, ale łańcuch agentów komplikuje się, gdy każde połączenie ma inne reguły dostępu, ukryte poświadczenia i nieznane narzędzia. Wyobraź sobie agenta finansowego odpowiadającego na pytania dotyczące faktur. Powinien używać tylko zatwierdzonego narzędzia do wyszukiwania faktur, ale ktoś daje mu szeroki dostęp do systemu finansowego, bo to szybsze niż definiowanie wąskiego narzędzia. Użytkownik wysyła niewinnie wyglądający monit, ale ukryte instrukcje w załączonym dokumencie kierują agenta ku niezatwierdzonemu działaniu. Jeśli agent ma zbyt duży dostęp, może zażądać niepotrzebnych danych lub uruchomić przepływ pracy, który powinien wymagać zgody człowieka. Agent nie ma złych intencji, po prostu miał zbyt dużą swobodę podczas przetwarzania niezaufanych danych wejściowych. Microsoft AI Gateway pozwala wprowadzić kontrolę nad serwerami MCP i firmowymi interfejsami API. Zamiast bezpośredniej ścieżki od aplikacji AI do bazy danych, udostępniasz małe, kontrolowane narzędzie do jednego konkretnego zadania. Na przykład agent pyta, sprawdź status tego zamówienia. Narzędzie zwraca tylko status, a nie wszystkie zamówienia czy pełną kartotekę klienta. To ograniczone zadanie, a brama sprawdza, kto pyta, zanim zezwoli na wywołanie. Tożsamość stanowi centrum tej konfiguracji. Dzięki Microsoft EntraID aplikacje logują się za pomocą tożsamości zarządzanych, zamiast udostępniać klucze dostawcy. Tożsamość zarządzana potwierdza swoją wiarygodność bez konieczności kopiowania tajnych danych do kodu przez programistę. Każdy agent powinien mieć własną tożsamość. W ten sposób widzisz, który agent wywołał narzędzie, możesz cofnąć dostęp dla jednego agenta bez wpływu na inne i stosować różne zasady. Agent HR nie powinien dziedziczyć uprawnień agenta finansowego tylko dlatego, że oba korzystają z AI. Jest to zgodne z modelem zerowego zaufania. Sprawdzaj każde żądanie, przyznawaj tylko dostęp niezbędny do bieżącego zadania i zakładaj, że każdy monit lub odpowiedź narzędzia mogą być niebezpieczne. W praktyce agent otrzymuje uprawnienia do jednego konkretnego narzędzia i działania. Może odczytać saldo urlopowe, ale nie pobrać pliku płacowego. Może utworzyć projekt zgłoszenia do pomocy technicznej, ale nie zamknąć sprawy. Brama stosuje również kontrolę bezpieczeństwa dla monitów i ruchu narzędzi. Jeśli żądanie zawiera szkodliwe treści lub dane, które nie powinny opuszczać systemu, zasada zatrzymuje je, zanim dotrze do zaplecza. Żaden filtr nie wyłapie wszystkiego, ale sprawdzanie ruchu w jednym punkcie jest znacznie bezpieczniejsze niż liczenie na to, że każdy twórca agenta doda tę samą ochronę. Potrzebujesz również katalogu zatwierdzonych narzędzi. API Center działa jako prywatny katalog interfejsów API i usług MCP, dzięki czemu zespoły znajdują odpowiednie narzędzie bez przeszukiwania starej dokumentacji czy kopiowania niezweryfikowanych adresów. Pomaga to zmienić wybór narzędzia dla agenta w kontrolowaną decyzję biznesową. Kontrole bezpieczeństwa chronią ścieżkę, ale rodzą też nowe pytanie. Które zespoły korzystają z tej ścieżki i jak duże generują zużycie AI? Koszty tokenów, limity i widoczność. Koszty AI funkcjonują inaczej niż w przypadku zwykłej licencji na oprogramowanie. Licznik opiera się na tokenach. Czym jest token? To mały fragment tekstu. Krótkie słowo może zużyć jeden token. Dłuższe słowo zużywa ich więcej. Model zlicza wszystko, co do niego wysyłasz. Twoje pytanie, dodane instrukcje, wszelkie załączone dokumenty oraz odpowiedź, której udziela. Dlatego proste pytanie zużywa niewiele, ale agent, który czyta długi dokument z zasadami zadaje pytania uzupełniające, wywołuje narzędzie i tworzy szczegółową odpowiedź, może zużyć znacznie więcej niż oczekujesz. Prawdopodobnie widziałeś to już przy transkrypcji spotkania. Widzisz kilka stron notatek. System AI przetwarza również swoje instrukcje systemowe, transkrypcje, pobrane dane firmowe, wyniki narzędzi oraz końcową odpowiedź. Każdy element zwiększa zużycie. Dlatego jeden intensywnie działający agent może zaskakująco szybko wyczerpać współdzielony limit modelu. W tym samym czasie obsługa klienta polega na tej samej wydajności modelu, aby pomagać ludziom. Jeśli obciążenie testowe wykorzysta wspólny limit, asystent wsparcia może zwolnić lub zawieść, gdy klienci go potrzebują. Problemem nie jest tylko to, że firma wydała pieniądze. Niewłaściwe zadanie zabrało przepustowość zadaniu, które było najważniejsze. Brama AI w usłudze Azure API Management może nakładać limity, zanim do tego dojdzie. Możesz ustawić limity żądań, limity tokenów i przydziały dla aplikacji, zespołu, projektu lub użytkownika. Przydział może obejmować krótki czas, liczbę tokenów na minutę lub dłuższy okres, np. dzienny lub miesięczny limit. To wyznacza granice dla każdego obciążenia. Asystent marketingowy może mieć budżet dostosowany do swojego przeznaczenia. Obsługa klienta może mieć własny przydział i wyższy priorytet. Gdy asystent marketingowy osiągnie limit, brama może odrzucić lub spowolnić jego kolejne żądania. Obsługa klienta działa dalej, ponieważ jeden projekt testowy nie może wykorzystać wszystkiego, co dostępne. To zmienia również sposób rozmowy o miesięcznych kosztach. Bez wspólnego widoku zespół finansowy może otrzymać jeden duży rachunek za i zapytać, kto to wszystko zużył. Odpowiedź bywa trudna do znalezienia, gdy zespoły łączą się bezpośrednio z różnymi usługami za pomocą wspólnych kluczy. Brama może rejestrować wywołującego, model, zużycie tokenów, status odpowiedzi i wywołania narzędzi powiązane z żądaniem. To zapewnia wyraźniejszy ślad. Możesz sprawdzić, czy wydatki pochodziły z asystenta HR, środowiska testowego programistów, hotbota dla klientów czy agenta, który ponawiał próby po błędzie. Możesz również wykryć nietypowe wzorce, np. aplikację wysyłającą znacznie większe monity niż zwykle. Jeśli twój zespół zaczyna pracę w Microsoft Foundry, Brama może również połączyć się z tymi działaniami. Projekty w Foundry mogą korzystać z limitów tokenów na poziomie projektu, podczas gdy Brama stosuje wokół nich zasady ruchu. Daje to twórcom, a i prostszy punkt wyjścia, podczas gdy zespół platformy ma wspólne miejsce do zarządzania limitami i monitorowaniem. Istnieje również przydatna funkcja zwana pamięcią podręczną-semantyczną. Powiedzmy, że jeden pracownik pyta, gdzie znajdę politykę podróży służbowych. Kilka sekund później inny pyta, gdzie jest nasza polityka dotycząca wyjazdów służbowych. Słowa się różnią, ale znaczenie może być na tyle podobne, że Bramka może użyć wcześniejszej odpowiedzi, zamiast ponownie wywoływać model. Może to obniżyć koszty i przyspieszyć odpowiedź. Sprawdza się to tylko przy pytaniach, w których ponowne użycie ma sens. Nie zapiszesz w pamięci podręcznej zapytania o aktualny stan urlopu lub status zamówienia, bo te odpowiedzi mogą się zmienić. Routing również pomaga w optymalizacji kosztów. Firma może kierować zadania do tańszego modelu, korzystać z zarezerwowanej wcześniej przepustowości przed dopłatą za użycie i przełączyć się na ścieżkę zapasową przy limicie. Niemniej jednak Bramka nie eliminuje potrzeby posiadania właściciela. Zespoły potrzebują budżetów. Ktoś musi weryfikować odpowiedzi modelu. Ktoś musi zdecydować, czy dany agent w ogóle powinien powstać. Bramka zapewnia licznik, zabezpieczenia i rejestr ruchu. Nie podejmuje za Ciebie decyzji biznesowych. Gdy już widzisz ruch i możesz nim zarządzać, całość łatwiej zobrazować na codziennym przykładzie. Prosta ścieżka zapytania. Wyobraź sobie asystenta HR w firmie. Pracownik pyta, ile dni urlopu rodzicielskiego mogę wziąć i czy możesz rozpocząć wniosek za mnie. Cel jest prosty, dać pracownikowi szybką i przydatną odpowiedź, a następnie pomóc w kolejnym zatwierdzonym kroku. Jednak asystent HR nie może ujawniać danych płacowych, otwierać wszystkich plików HR, ani przechowywać klucza dostawcy modelu w swoim kodzie. Zapytanie zaczyna się, gdy pracownik się loguje. Zanim asystent wyśle cokolwiek do modelu lub narzędzia, bramka sprawdza, kim jest pracownik, czy może używać asystenta HR i jakie limity dotyczą tej aplikacji. Pracownik widzi tylko proste okno czatu, podczas gdy te weryfikacje odbywają się w tle. Następnie asystent potrzebuje odpowiedzi. Podstawowe pytanie o politykę firmy może trafić do zatwierdzonego punktu końcowego modelu. Jeśli ten punkt końcowy jest zajęty lub osiągnął limit, bramka może wybrać zapasową trasę zatwierdzoną przez firmę. Pracownik nadal otrzymuje odpowiedź przez tego samego asystenta HR, zamiast widzieć błąd z powodu przeciążenia jednego z modeli. Następnie pracownik prosi o rozpoczęcie wniosku urlopowego. W tym momencie agent potrzebuje czegoś więcej niż modelu. Potrzebuje narzędzia, które sprawdzi dane pracownika i utworzy odpowiedni wniosek. Agent prosi o użycie zatwierdzonego narzędzia MCP do zarządzania urlopami. Bramka weryfikuje również to zapytanie. Czy ten agent HR może wywołać to narzędzie? Czy ten pracownik może rozpocząć tego typu wniosek? Czy działanie jest zgodne z uprawnieniami przypisanymi do agenta? Dopiero wtedy narzędzie otrzymuje wywołanie. Narzędzie to nie zwraca ogromnej listy rekordów pracowników. Zwraca tylko to, co jest niezbędne do zadania. Dostępny wymiar urlopu pracownika, mającą do niego zastosowanie politykę oraz potwierdzenie utworzenia wniosku jako wersji roboczej. Ta ograniczona odpowiedź ma znaczenie. Agent ma wystarczająco dużo informacji, by pomóc, ale nie otrzymuje szerokiego dostępu tylko dlatego, że zadał pytanie prostym językiem. Wyobraźmy sobie teraz, że pracownik wkleja do czatu tekst z zewnętrznego dokumentu. Tekst zawiera instrukcje, które próbują skłonić asystenta do zignorowania swoich zasad lub żądania poufnych informacji. Brama może zastosować kontrolę bezpieczeństwa, zanim prompt dotrze do modelu lub narzędzie otrzyma żądanie. Jeśli żądanie narusza zasadę, może zostać zatrzymany w tym miejscu. Tego samego rodzaju kontrola może sprawdzić odpowiedź, zanim dotrze ona do pracownika. Nie każdy problem wynika również ze złego promptu. Model może wygenerować odpowiedź zawierającą informacje, których nie powinien zwracać. Wspólny punkt kontrolny daje firmie miejsce do monitorowania tej ścieżki i reagowania na nią. W międzyczasie żądanie tworzy zapis. Firma może powiązać użyty token z projektem asystenta hrabia. Może zobaczyć, który model obsłużył pytanie, czy wywołanie narzędzia się powiodło, czy żądanie zostało zablokowane i jak długo trwał proces. To znacznie ułatwia wsparcie i weryfikację. Jeśli zespół HR zgłosi, że pracownicy nie mogą tworzyć wniosków urlopowych, zespół operacyjny może sprawdzić nieudane wywołania narzędzi. Jeśli reguła bezpieczeństwa blokuje prawidłowe pytania, mogą oni dostrzec schemat i poprawić politykę. Jeśli jeden agent nagle zużywa znacznie więcej zasobów, a i niż zwykle, zmiana ta staje się widoczna. A jeśli firma zaktualizuje zasadę, na przykład, wymagając dodatkowej weryfikacji przed niektórymi wnioskami urlopowymi, może zaktualizować politykę bramy tylko raz. Nie musi czekać na oddzielne aktualizacje kodu we wszystkich aplikacjach HR, hotbotach i procesach, które korzystają z tej samej kontrolowanej ścieżki. Ten sam schemat żądań nadal działa, gdy firma dodaje kolejny model, nowy region, więcej wewnętrznych narzędzi lub kolejnego agenta obsługującego powiązane zadanie hrabia. Zacznij jednak od małych kroków. Brama staje się użyteczna, gdy ruch a i zaczyna stawać się ruchem wspólnym. Od czego zacząć? Więc gdzie tak naprawdę zacząć? Zacznij od wybrania pojedynczego, rzeczywistego obciążenia. Może to być asystent wsparcia, który już wywołuje model lub agent planowany przez zespół dla działu HR, finansów lub wyszukiwania dokumentów wewnętrznych. Nie próbuj zajmować się każdym modelem i każdym narzędziem jednocześnie. To prosta droga do chaosu. Zamiast przekazywać klucze dostawcy bezpośrednio do każdej aplikacji, umieść punkt końcowy modelu tego obciążenia za bramą Azure API Management AI. Potraktuj to jak pojedynczy punkt kontroli bezpieczeństwa dla ruchu AI. Następnie określ podstawy. Wyznacz jasnego właściciela dla tego obciążenia. Użyj dostępu opartego na Entra, aby tylko właściwe osoby lub usługi miały do niego wgląd. Ustaw limit tokenów odpowiedni do zadania, nie większy ani mniejszy. Włącz logowanie, aby można było zobaczyć, co się dzieje. Dodaj jedną regułę bezpieczeństwa treści, którą zespół może przetestować i sprawdzić. Zacznij od prostych rzeczy. Gdy ścieżka modelu i granice dostępu działają, dodawaj zatwierdzone narzędzia MCP jedno po drugim. Każde narzędzie powinno mieć wąski zakres zadań i jasny powód, dla którego agent ma go użyć. Bez zbędnych dodatków. Stamtąd rozwijasz się od jednego kontrolowanego obciążenia do współdzielonych modeli, narzędzi i agentów. Bez tego początkowego punktu kontroli, każda nowa aplikacja AI tworzy niezarządzaną ścieżkę do danych firmy i kolejną pozycję na rachunku za AI. Po kolejną dawkę wiedzy zajrzyj do materiału Azure API Management w prostych słowach. To fundament, na którym opiera się Microsoft AI Gateway. Dziękuje za uwagę.