WEBVTT

00:00:00.000 --> 00:00:07.040
Wyobraź sobie pojedyncze, wieloetapowe wstrzyknięcie komunikatu omijając cały stos zabezpieczeń, aby autoryzować oszukańczy przelew bankowy na kwotę miliona dolarów.

00:00:07.180 --> 00:00:12.740
W świecie finansów, gdzie stawka jest wysoka, tradycyjne zapory sieciowe nie wystarczają już do powstrzymania wyrafinowanych ataków.

00:00:12.920 --> 00:00:17.260
Większość instytucji finansowych odhacza kolejne pola, podczas gdy ich agenci AI są przechwytywani.

00:00:17.480 --> 00:00:26.580
Stary model testowania ręcznego zakłada, że można przewidzieć każdą interakcję z człowiekiem, ale w rzeczywistości rok 2026 będzie zdefiniowany przez oszukańcze przelewy o wartości 250 tysięcy dolarów,

00:00:26.580 --> 00:00:29.380
aktywowane przez pojedyncze, wieloetapowe wstrzyknięcie komunikatu.

00:00:29.540 --> 00:00:36.820
Twoje dotychczasowe zapory sieciowe zostały stworzone do przetwarzania danych statycznych, co oznacza, że są bezużyteczne w przypadku ataków salami sleasing, które wyczerpują konta kawałek po kawałku.

00:00:36.980 --> 00:00:41.820
Pod koniec tej sesji będziesz mieć plan wielomodelowego rozwiązania, które zabezpieczy autonomiczne przepływy pracy.

00:00:42.080 --> 00:00:48.420
Subskrybuj podcast M365FM, aby wyprzedzić zagrożenia ery agentów przed terminami w sierpniu 2026 roku.

00:00:48.420 --> 00:00:56.120
Wykraczamy poza podstawową zgodność i budujemy odporne ramy red teaming, które zabezpieczają wrażliwe transakcje przed atakami nowej generacji.

00:00:56.580 --> 00:00:59.480
Kryzys tożsamości autonomicznych agentów

00:00:59.480 --> 00:01:05.540
Wdrażamy obecnie agentów do wykrywania oszustw i monitorowania ach, ale własność jest rozdrobniona, a cała sytuacja jest chaotyczna.

00:01:05.720 --> 00:01:06.800
Mamy zespoły do spraw.

00:01:07.100 --> 00:01:13.560
Bezpieczeństwa, które obserwują granice, zespoły id obserwują infrastrukturę, a zespoły, a i obserwują modele, ale nikt nie patrzy na agencję.

00:01:13.560 --> 00:01:21.620
Tylko 28% organizacji jest w stanie powiązać działania agenta z konkretnym człowiekiem, co jest przerażającą statystyką, gdy się nad tym zastanowić.

00:01:21.620 --> 00:01:27.820
Jeśli agent autoryzuje płatność 3 na 4 firmy, nie potrafią powiedzieć, kto był odpowiedzialny za logikę działania tej maszyny w danym momencie.

00:01:28.120 --> 00:01:37.680
Zakłada się, że komercyjnie uzasadniony monitoring jest wystarczający, ale już tak nie jest, ponieważ zmiany w przepisach nacha z 2026 roku wymagają udokumentowanego uzasadnienia każdej decyzji płatniczej podejmowanej przez sztuczną inteligencję.

00:01:37.680 --> 00:01:42.280
Nie można po prostu powiedzieć, że to algorytm to zrobił i za każdym razem trzeba dokładnie udowodnić, dlaczego.

00:01:42.540 --> 00:01:48.360
Publikujesz agenta, przyznajesz mu dostęp do API i łączysz go z systemami bankowości centralnej, ale tracisz wątek odpowiedzialności.

00:01:48.540 --> 00:01:50.780
To nie błąd techniczny, to luka w zarządzaniu.

00:01:51.020 --> 00:01:53.280
Tożsamość agenta staje się widmem w maszynie.

00:01:53.500 --> 00:01:59.820
Dajemy tym systemom klucze do skarbca i pozwalamy im przesyłać pieniądze lub zatwierdzać pożyczki, a jednocześnie traktujemy je jak odizolowane skrypty.

00:01:59.820 --> 00:02:06.520
W rzeczywistości są one autonomicznymi aktorami, a gdy agent zawiedzie, nie mamy do czynienia tylko z błędem systemowym, ale z poważnym zdarzeniem odpowiedzialności.

00:02:06.760 --> 00:02:13.760
Sytuacja w 2026 roku jest bezlitosna, ponieważ organy regulacyjne nie pytają już, czy masz politykę, ale czy polityka faktycznie działa w czasie rzeczywistym.

00:02:13.940 --> 00:02:18.020
Jeśli nie możesz powiązać transakcji ze sponsorem, nie spełniasz wymogów i to takie proste.

00:02:18.240 --> 00:02:24.920
Większość firm nadal używa statycznych kluczy API dla tych agentów, co jest jak dawanie klucza głównego obcej osobie z nadzieją, że nie otworzy niewłaściwych drzwi.

00:02:24.920 --> 00:02:29.740
Musisz znać protokół swojego agenta i powiązać każde wywołanie narzędzia z określonym poświadczeniem.

00:02:29.940 --> 00:02:37.320
Ale tu pojawia się problem. Większość organizacji nie wie nawet ilu agentów posiada, w związku z czym obserwujemy ogromny wzrost liczby ukrytych rozwiązań sztucznej inteligencji, shadow AI.

00:02:37.480 --> 00:02:44.920
Pracownicy tworzą własnych agentów, aby zautomatyzować przepływy pracy i łączą ich z wewnętrznymi bazami danych, jednocześnie zapewniając im dostęp do poufnych danych klientów.

00:02:45.780 --> 00:02:51.000
Robią to wszystko bez żadnego nadzoru, co tworzy ogromną powierzchnię ataku podatną na ataki.

00:02:51.000 --> 00:03:00.040
Atakujący nie musi łamać zapory sieciowej, jeśli może po prostu przejąć kontrolę nad słabo zabezpieczonym agentem i może go wykorzystać do wykradania danych lub inicjowania nieautoryzowanych transakcji.

00:03:00.260 --> 00:03:06.580
Może go użyć do ominięcia kontroli wewnętrznej, a ponieważ tylko 28% z nich ma możliwość śledzenia, może to zrobić bez pozostawiania śladu.

00:03:06.760 --> 00:03:11.060
Musimy przestać myśleć o agentach jako o narzędziach, a zacząć myśleć o nich jako o tożsamościach.

00:03:11.060 --> 00:03:16.460
Jeśli nie można zweryfikować rozumowania, nie można ufać wynikom, a to jest nowy standard na rok 2026.

00:03:16.460 --> 00:03:23.180
Reguły nacha to dopiero początek globalnego przejścia w kierunku standardów opartych na efektywności, a nie chodzi już o proces, ale o wynik.

00:03:23.340 --> 00:03:29.080
Jeśli agent zatwierdzi oszukańczy przelew ach, instytucja ponosi odpowiedzialność i nie można się schować za czarną skrzynką dostawcy.

00:03:29.280 --> 00:03:34.940
Trzeba być w stanie zrekonstruować ścieżkę decyzyjną w ciągu 60 minut, ale prawda jest taka, że większość z Was jeszcze tego nie potrafi.

00:03:34.940 --> 00:03:43.260
Działacie po omacku w środowisku o dużej prędkości, a kryzys tożsamości autonomicznych agentów stanowi największe zagrożenie dla stabilności finansowej w ciągu najbliższych 18 miesięcy.

00:03:43.480 --> 00:03:50.080
Chodzi o lukę między tym, co wdrażamy, a tym, co faktycznie możemy kontrolować, ale problem sięga głębiej niż tylko to, kto jest właścicielem agenta.

00:03:50.320 --> 00:03:53.060
Chodzi o to, w jaki sposób same modele są infekowane.

00:03:53.320 --> 00:03:54.940
Wzorzec infekcji między modelami.

00:03:55.140 --> 00:03:58.520
Kiedyś myśleliśmy, że korzystanie z wielu modeli zapewnia naturalną sieć bezpieczeństwa.

00:03:58.740 --> 00:03:59.660
Logika była prosta.

00:03:59.660 --> 00:04:02.440
Jeśli jeden model miał błąd lub wadę, pozostałe ją wykryły.

00:04:02.440 --> 00:04:07.940
Nazywaliśmy to różnorodnością modeli, ale w krajobrazie 2026 roku to założenie zostało całkowicie obalone.

00:04:08.180 --> 00:04:10.840
Nowe badania pokazują nam coś znacznie bardziej niepokojącego.

00:04:11.020 --> 00:04:14.720
Dopracowanie pojedynczego modelu do niebezpiecznych zadań nie ogranicza się do samego modelu.

00:04:14.880 --> 00:04:17.500
W rzeczywistości infekuje niepowiązane modele w łańcuchu.

00:04:17.640 --> 00:04:18.560
To nie jest teoria.

00:04:18.840 --> 00:04:24.620
Obserwujemy, jak niezgodności GPT-4 skalują się do pochodnych quen i lama z 50% współczynnikiem replikacji.

00:04:24.800 --> 00:04:27.700
To wirusowe rozprzestrzenianie się luk w całym ekosystemie.

00:04:27.920 --> 00:04:31.440
Myślisz, że budujesz redandentny system, korzystając z różnych dostawców.

00:04:31.440 --> 00:04:35.360
W rzeczywistości po prostu tworzysz więcej węzłów, przez które ta sama infekcja może się rozprzestrzeniać.

00:04:35.440 --> 00:04:38.560
To tylne wejście w łańcuchu dostaw, którego żaden ręczny test penetracyjny nigdy nie wykryje.

00:04:38.760 --> 00:04:42.420
Większość zespołów do spraw bezpieczeństwa nadal poszukuje tradycyjnych luk w kodzie.

00:04:42.620 --> 00:04:45.180
Szukają przepełnień bufora lub ataków SQL Injection.

00:04:45.280 --> 00:04:47.140
Ale nowe zagrożenie jest semantyczne.

00:04:47.340 --> 00:04:49.180
Jest osadzone w wagach samych modeli.

00:04:49.380 --> 00:04:52.360
Atakujący używają teraz techniki zwanej Adversarial Hubness.

00:04:52.540 --> 00:04:54.340
Nie muszą włamywać się do twoich serwerów.

00:04:54.520 --> 00:04:57.160
Wystarczy, że umieszczą jeden złośliwy dokument w twojej bazie wiedzy.

00:04:57.160 --> 00:05:01.140
Ze względu na sposób działania osadzenia wektorowego, ten jeden dokument może działać jak studnia grawitacyjna.

00:05:01.280 --> 00:05:03.420
Przyciąga 84% twoich zapytań rak.

00:05:03.620 --> 00:05:05.720
Myślisz, że twoja wektorowa baza danych to biblioteka.

00:05:05.940 --> 00:05:08.060
Myślisz, że to ustrukturyzowane repozytorium prawdy.

00:05:08.280 --> 00:05:11.540
W rzeczywistości staje się ona pułapką dla twoich autonomicznych przepływów pracy.

00:05:11.780 --> 00:05:15.940
Kiedy twój agent próbuje pobrać kontekst, aby przetworzyć przelew, nie tylko otrzymuje dane.

00:05:16.160 --> 00:05:17.160
Otrzymuje zatrute instrukcje.

00:05:18.020 --> 00:05:21.780
Model nie widzi różnicy między legalną fakturą a ukrytym wstrzyknięciem monitu.

00:05:22.000 --> 00:05:24.880
W tym miejscu strategia wielomodelowa przynosi odwrotny skutek.

00:05:24.880 --> 00:05:29.320
Jeśli twój model główny pobiera zatrute dane, przekazuje to rozumowanie do modelu drugorzędnego.

00:05:29.500 --> 00:05:35.140
Ponieważ modele te współdzielą podstawowe dane treningowe i podobne architektury transformatorowe, mają te same słabe punkty.

00:05:35.320 --> 00:05:36.480
Infekcja się replikuje.

00:05:36.740 --> 00:05:40.840
Drugi model weryfikuje błąd pierwszego modelu, ponieważ jest podatny na tę samą pułapkę logiczną.

00:05:41.040 --> 00:05:46.360
Obserwujemy, że wskaźniki sukcesu tych wstrzyknięć opartych na odgrywaniu ról sięgają prawie 90% w środowiskach finansowych.

00:05:46.580 --> 00:05:49.460
Modele skutecznie namawiają się nawzajem do autoryzowania oszustwa.

00:05:49.600 --> 00:05:53.060
Ta propagacja międzymodelowa to cichy zabójca bezpieczeństwa sztucznej inteligencji.

00:05:53.060 --> 00:05:55.200
Możesz mieć najlepszą zaporę sieciową na świecie.

00:05:55.380 --> 00:05:58.120
Możesz zaszyfrować swoją bazę danych zgodnie z najwyższymi standardami.

00:05:58.320 --> 00:06:01.260
Nic z tego nie ma znaczenia, jeśli sama logika rozumowania jest naruszona.

00:06:01.480 --> 00:06:03.320
Atakujący nie próbują złamać szyfrowania.

00:06:03.520 --> 00:06:05.980
Próbują złamać rozumienie rzeczywistości przez twój model.

00:06:06.200 --> 00:06:10.020
Używają sztuczek kodowania i pułapek logicznych, które omijają tradycyjne filtry tekstowe.

00:06:10.240 --> 00:06:16.200
Jeśli obraz paragonu zawiera tekst o niskim kontraście z poleceniem administratora, twój system multimodalny go odczyta.

00:06:16.200 --> 00:06:17.460
Przetworzy i wykona.

00:06:17.660 --> 00:06:20.860
W ten sposób doszło do przelewu 250 tysięcy dolarów.

00:06:20.980 --> 00:06:22.320
To nie było włamanie do sieci.

00:06:22.500 --> 00:06:23.960
To było włamanie do kontekstu.

00:06:24.160 --> 00:06:27.060
Musimy zaakceptować, że te modele są stochastyczne i nieprzewidywalne.

00:06:27.260 --> 00:06:28.880
Nie są deterministycznym oprogramowaniem.

00:06:29.080 --> 00:06:31.180
Nie można ich zabezpieczyć za pomocą statycznych reguł.

00:06:31.340 --> 00:06:32.320
Lukanie tkwi w kodzie.

00:06:32.560 --> 00:06:33.780
Jest w mechanizmie uwagi.

00:06:34.020 --> 00:06:37.300
Jest w sposobie, w jaki model zaciera granice między danymi a instrukcjami.

00:06:37.300 --> 00:06:42.440
Kiedy układasz wiele modeli jeden na drugim bez antagonistycznej struktury, po prostu układasz warstwy szkła.

00:06:42.660 --> 00:06:43.640
Nie budujesz sejfu.

00:06:43.900 --> 00:06:47.660
Budujesz kruchy łańcuch, w którym jedno pęknięcie rozbija całą strukturę.

00:06:47.840 --> 00:06:50.460
Aby to powstrzymać, musimy odejść od idei testowania.

00:06:50.760 --> 00:06:52.700
Musimy przejść do modelu ciągłej wojny.

00:06:52.940 --> 00:06:56.240
Musimy przestać pytać, czy model jest bezpieczny i zacząć próbować go złamać.

00:06:56.380 --> 00:06:58.740
Aby powstrzymać infekcję, musimy zbudować rękawice.

00:06:59.000 --> 00:07:00.780
Architekturę multimodalnej rękawicy.

00:07:01.020 --> 00:07:02.560
Ręczne testowanie jest reliktem.

00:07:02.560 --> 00:07:07.000
Jeśli nadal polegasz na ludziach, którzy siedzą w pokoju i próbują oszukać twoją sztuczną inteligencję, już przegrałeś.

00:07:07.140 --> 00:07:08.040
Ludzie są powolni.

00:07:08.280 --> 00:07:09.520
Modele są stochastyczne.

00:07:09.720 --> 00:07:14.540
Nie możesz przewidzieć każdej permutacji ataku wieloetapowego za pomocą arkusza kalkulacyjnego i zespołu konsultantów.

00:07:14.720 --> 00:07:20.080
Zanim twój czerwony zespół znajdzie jedną lukę, model bazowy został zaktualizowany lub powierzchnia ataku uległa przesunięciu.

00:07:20.300 --> 00:07:21.700
Dlatego stary model zawodzi.

00:07:21.920 --> 00:07:22.720
Jest statyczny.

00:07:22.920 --> 00:07:23.680
Jest reaktywny.

00:07:23.880 --> 00:07:28.720
W świecie finansów 2026 roku, w którym stawki są wysokie, potrzebujemy czegoś, co porusza się z prędkością zagrożenia.

00:07:28.720 --> 00:07:30.060
Potrzebujemy rękawicy.

00:07:30.260 --> 00:07:37.620
Architektura multimodalnej rękawicy opiera się na prostej, brutalnej zasadzie, polegającej na stawianiu przeciwko sobie różnych modeli LLM w grze o sumie zerowej.

00:07:37.820 --> 00:07:39.600
Nie chodzi tylko o testowanie systemu.

00:07:39.740 --> 00:07:41.660
Tworzysz ewolucyjny kocioł ciśnieniowy.

00:07:41.920 --> 00:07:48.980
Bierzesz model atakującego, coś wysoce wydajnego, jak wyspecjalizowany wariant GPT i stawiasz mu jeden cel – ominięcie broniącego się.

00:07:49.240 --> 00:07:53.860
Broniący się to twój agent produkcyjny, obsługujący przelewy ach i zatwierdzanie pożyczek.

00:07:54.040 --> 00:07:56.320
Wchodzą w ciągłą, zautomatyzowaną pętlę.

00:07:56.320 --> 00:08:01.440
Atakujący generuje zaawansowane, wieloetapowe wstrzyknięcia, a broniący się stara się utrzymać jego zgodność.

00:08:01.580 --> 00:08:03.920
To nie jest zwykła symulacja, to schemat treningowy.

00:08:04.100 --> 00:08:06.280
Używamy tego, co nazywamy mieszanką 50-50.

00:08:06.680 --> 00:08:11.900
Podczas dostrajania swoich agentów finansowych nie można po prostu używać czystych, idealnych danych z głównych systemów bankowych.

00:08:12.060 --> 00:08:13.640
To sprawia, że model jest kruchy.

00:08:13.860 --> 00:08:15.600
Zamiast tego nasycasz zbiór treningowy.

00:08:15.800 --> 00:08:20.960
Połowa danych jest czysta, ale druga połowa składa się z antagonistycznych przykładów wygenerowanych podczas sesji rękawicy.

00:08:20.960 --> 00:08:25.900
Obejmuje to wszystko od pułapek logicznych salami po te ukryte multimodalne obejścia, które omówiliśmy.

00:08:26.140 --> 00:08:28.820
Rezultatem jest 70% wzrost odporności.

00:08:29.100 --> 00:08:34.020
Skutecznie uodparniasz swoją sztuczną inteligencję na te same eksploity, które obecnie omijają Twoje zapory sieciowe.

00:08:34.220 --> 00:08:35.580
Ale oto strukturalna zmiana.

00:08:35.820 --> 00:08:39.660
Nie szukasz tylko błędów, nie próbujesz znaleźć konkretnego ciągu tekstu, który psuje model.

00:08:39.900 --> 00:08:41.640
Wzmacniasz samą logikę rozumowania.

00:08:41.880 --> 00:08:44.580
W rękawicy stosujemy wzmocniony trening łańcucha myślowego.

00:08:44.800 --> 00:08:46.800
Zmuszamy obrońcę do pokazania swojej pracy.

00:08:46.800 --> 00:08:53.420
Jeśli atakujący próbuje użyć wstrzykiwania opartego na odgrywaniu ról, aby autoryzować transfer obrońca, musi wyjaśniać swoje uzasadnienie na każdym kroku.

00:08:53.620 --> 00:08:58.260
Jeśli rozumowanie zaczyna dryfować w kierunku nieautoryzowanego działania, rękawica natychmiast to sygnalizuje.

00:08:58.460 --> 00:09:01.040
Uczysz model rozpoznawania wrażenia próby wymuszenia.

00:09:01.220 --> 00:09:03.740
Ta architektura rozwiązuje problem różnorodności.

00:09:03.980 --> 00:09:11.480
Korzystając z różnych rodzin modeli, być może modelu antropicznego dla obrońcy i modelu meta opartego dla atakującego, zapewniasz, że martwe punkty się nie nakładają.

00:09:11.740 --> 00:09:15.580
Wykorzystujesz mocne strony jednej architektury, aby ujawnić słabości innej.

00:09:15.580 --> 00:09:20.220
To ciągły cykl. Wraz ze wzrostem inteligencji atakującego, obrońca staje się silniejszy.

00:09:20.400 --> 00:09:27.460
To samodoskonaląca się warstwa bezpieczeństwa, która nie śpi, nie męczy się i nie przegapi subtelnych zmian semantycznych, których nie zauważyłby ludzki tester.

00:09:27.740 --> 00:09:32.600
Dla instytucji finansowej to jedyny sposób na spełnienie nadchodzących audytów opartych na skuteczności.

00:09:32.920 --> 00:09:38.520
Możesz pokazać regulatorom udokumentowaną historię milionów symulowanych ataków i to, jak twój system im sprostał.

00:09:38.520 --> 00:09:45.600
Przechodzisz ze świata, w którym masz nadzieję, że jesteś bezpieczny, do świata, w którym dokładnie wiesz, ile presji może wytrzymać twoja logika, zanim się załamie.

00:09:45.740 --> 00:09:48.420
To przejście od pasywnej obrony do aktywnej walki.

00:09:49.040 --> 00:09:51.620
Nie budujesz już tylko muru, ale szkolisz żołnierza.

00:09:51.880 --> 00:09:57.100
Ta rękawica staje się twoim głównym mechanizmem obronnym przed kolejną generacją zagrożeń ze strony przeciwnika.

00:09:57.340 --> 00:10:01.780
Przekształca ona twoją postawę bezpieczeństwa z listy reguł w dynamiczny, ewoluujący system.

00:10:01.780 --> 00:10:05.040
W końcu dostosowujesz prędkość modeli do prędkości obrony.

00:10:05.160 --> 00:10:13.280
To jedyny sposób, aby zapewnić odporność twoich autonomicznych przepływów pracy w świecie, w którym zagrożenia są równie inteligentne jak systemy, które próbują teraz podważyć.

00:10:13.700 --> 00:10:14.960
Szklane ramy audytu.

00:10:15.140 --> 00:10:17.020
Sierpień 2026 roku.

00:10:17.260 --> 00:10:21.320
Nie jest już tylko przypadkową datą w kalendarzu zgodności, ponieważ w rzeczywistości jest twardą ścianą.

00:10:21.460 --> 00:10:27.920
To dokładnie ten moment, w którym wymogi dotyczące wysokiego ryzyka zawarte w ustawie UE o sztucznej inteligencji przechodzą z teorii do aktywnego egzekwowania.

00:10:27.920 --> 00:10:34.520
Jeśli korzystasz z autonomicznych agentów w sektorze finansowym, jesteś teraz pod lupą, ale charakter kontroli uległ zmianie.

00:10:34.660 --> 00:10:40.400
Organy regulacyjne odchodzą od standardów opartych na procesach, co oznacza, że nie interesuje ich już twoja dokumentacja ani intencje.

00:10:40.580 --> 00:10:43.000
Przechodzą w kierunku standardów opartych na skuteczności.

00:10:43.260 --> 00:10:46.580
Chcą mieć pewność, że twoje zabezpieczenia faktycznie działają w momencie wystąpienia zagrożenia.

00:10:46.760 --> 00:10:52.180
Ta zmiana wymaga przejścia od czarnej skrzynki tradycyjnej sztucznej inteligencji do tego, co nazywamy frameworkiem audytu szklanej skrzynki.

00:10:52.380 --> 00:10:54.720
Trzeba być w stanie przejrzeć logikę w czasie rzeczywistym.

00:10:54.720 --> 00:10:58.320
Najważniejszym wskaźnikiem w tej nowej erze jest czas rekonstrukcji decyzji.

00:10:58.520 --> 00:11:03.280
Jeśli agent przetransferuje pieniądze, trzeba być w stanie udowodnić dokładnie, dlaczego to się stało w czasie krótszym niż 60 minut.

00:11:03.500 --> 00:11:08.420
Dla większości instytucji odpowiedź brzmi obecnie kategorycznie, nie, ponieważ mają logi, ale nie mają zakresów rozumowania.

00:11:08.660 --> 00:11:11.580
Mają dane wyjściowe, ale nie mają odpowiedzi na pytanie, dlaczego.

00:11:12.160 --> 00:11:17.880
W frameworku szklanej skrzynki każde wywołanie narzędzia musi być powiązane z poświadczeniem, poznaj swojego agenta.

00:11:17.880 --> 00:11:23.820
Nie jest to po prostu klucz API, ale raczej weryfikowalna tożsamość, która niesie ze sobą autorytet ludzkiego sponsora.

00:11:24.000 --> 00:11:27.020
W istocie tworzysz cyfrowy łańcuch dostaw dla każdej decyzji.

00:11:27.240 --> 00:11:34.800
Jeśli agent zdecyduje się zrezygnować z opłaty lub zatwierdzić przelew wysokiego ryzyka, decyzja ta musi być powiązana z określonym zestawem parametrów, które zostały autoryzowane przez człowieka.

00:11:34.800 --> 00:11:37.860
Realizujemy to poprzez koncepcję zwaną ograniczoną autonomią.

00:11:38.040 --> 00:11:42.880
Agenci zajmują się ciężką pracą analityczną i wykonawczą, podczas gdy ludzie trzymają fizyczny wyłącznik awaryjny.

00:11:43.020 --> 00:11:49.420
To nie tylko przycisk, który naciskasz, gdy coś pójdzie nie tak, ale strukturalne ograniczenie tego, co agent może zrobić bez wyraźnej ponownej weryfikacji.

00:11:49.660 --> 00:11:54.160
Definiujesz granice szklanej skrzynki, ustawiając progi ryzyka, wartości i odchyleń.

00:11:54.340 --> 00:11:59.680
Jeśli agent spróbuje przekroczyć te granice, system wstrzymuje transakcje i żąda ludzkiego uzasadnienia.

00:11:59.680 --> 00:12:05.420
To zaspokaja regulacyjne zapotrzebowanie na nadzór z udziałem człowieka, bez poświęcania szybkości autonomicznych przepływów pracy.

00:12:05.680 --> 00:12:08.840
Dajesz agentowi swobodę działania, ale jednocześnie trzymasz smycz widoczną.

00:12:09.060 --> 00:12:11.500
Stawki za niepowodzenie tego audytu są katastrofalne.

00:12:11.740 --> 00:12:18.340
Mówimy o karze pieniężnej w wysokości 7% globalnych obrotów, a dla dużego banku jest to kwota, która może zagrozić istnieniu instytucji.

00:12:18.540 --> 00:12:21.320
Nie możesz sobie pozwolić na może, gdy pojawią się audytorzy.

00:12:21.500 --> 00:12:26.240
Potrzebujesz zabezpieczonego przed manipulacją rejestru, który pokaże ścieżkę rozumowania każdego działania agenta.

00:12:26.240 --> 00:12:32.480
Oznacza to rejestrowanie celu odzyskanego kontekstu wywołań narzędzi i wyniku końcowego w sposób, którego nie da się zmienić.

00:12:32.660 --> 00:12:37.980
Budujesz sejf dla samej logiki i to jedyny sposób na przetrwanie w warunkach regulacyjnych 2026 roku.

00:12:38.240 --> 00:12:41.380
Musisz być w stanie otworzyć skrzynkę i pokazać jej wewnętrzny mechanizm.

00:12:41.500 --> 00:12:45.000
Ta struktura chroni Cię również przed atakami salami sleasing, o których mówiliśmy.

00:12:45.300 --> 00:12:50.580
Monitorując przebieg rozumowania w czasie, szklana skrzynka może wykryć, kiedy logika agenta ulega powolnej erozji.

00:12:50.820 --> 00:12:55.420
Wyszukuje sprzeczności w polityce lub zmiany tonu sugerujące wieloetapowe wstrzyknięcie.

00:12:55.420 --> 00:12:59.680
Zapewnia widoczność potrzebną do wychwycenia dryfu, zanim przerodzi się on w naruszenie.

00:12:59.900 --> 00:13:03.720
Nie reagujesz już tylko na alert, ale obserwujesz stan samego rozumowania.

00:13:03.960 --> 00:13:10.000
Konfiguracja tego wydaje się kosztowna i skomplikowana i wymaga całkowitego przemyślenia architektury danych i modelu zarządzania.

00:13:10.180 --> 00:13:15.420
Ale patrząc na alternatywę, koszt szklanej skrzynki staje się najlepszą inwestycją, jaką kiedykolwiek poczynisz.

00:13:15.580 --> 00:13:21.180
Przejście na ten model stanowi pomost między lekko myślną automatyzacją a odpornymi, podlegającymi audytowi finansami.

00:13:21.180 --> 00:13:23.060
To przejście od nadziei do dowodu.

00:13:23.300 --> 00:13:26.420
Zwrot z inwestycji, proaktywna walka kontra reaktywne czyszczenie.

00:13:26.640 --> 00:13:29.260
Przyjrzyjmy się surowym obliczeniom na rok 2026.

00:13:29.700 --> 00:13:34.460
W sektorze finansowym średni koszt naruszenia danych zbliża się obecnie do 5,8 miliona dolarów.

00:13:34.600 --> 00:13:41.560
Ta liczba to nie tylko nagłówek mający na celu przestraszenie, ale rzeczywisty ubytek spowodowany przez informatykę śledczą, opłaty prawne i kary regulacyjne.

00:13:41.560 --> 00:13:48.160
Należy również wziąć pod uwagę masową rotację zamożnych klientów, którzy tracą zaufanie do infrastruktury banku w momencie, gdy ich dane trafiają do darkwebu.

00:13:48.320 --> 00:13:52.400
Patrząc na bilans, reaktywne czyszczenie jest najdroższym sposobem prowadzenia banku.

00:13:52.560 --> 00:13:53.860
Płacisz premię za porażkę.

00:13:54.100 --> 00:13:58.020
Z drugiej strony, proaktywna walka zapewnia współczynnik unikania kosztów na poziomie 6 do 1.

00:13:58.280 --> 00:14:02.500
Za każdego dolara wydanego na multimodalną próbę oszczędzasz 6 dolarów na kosztach czyszczenia i karach.

00:14:02.600 --> 00:14:07.340
To nie tylko wskaźnik bezpieczeństwa, ale fundamentalna gra na rzecz efektywności nowoczesnego przedsiębiorstwa finansowego.

00:14:07.340 --> 00:14:09.280
Testowanie ręczne to koszt utopiony.

00:14:09.480 --> 00:14:14.220
Płacisz za czas osoby, ona znajduje kilka powierzchownych błędów, a następnie przechodzi do następnego projektu.

00:14:14.360 --> 00:14:18.340
Ta wiedza jest statyczna i nie poprawia logiki rdzenia modelu ani jego odporności w czasie.

00:14:18.700 --> 00:14:20.940
Multimodalne red teaming to strategiczny atut.

00:14:21.160 --> 00:14:24.040
Budujesz bibliotekę inteligencji adwersarskiej, która się kumuluje.

00:14:24.240 --> 00:14:26.220
Wzmacniasz swoją własność intelektualną.

00:14:26.420 --> 00:14:31.100
Tworzysz fosę wokół swoich autonomicznych przepływów pracy, której konkurencja po prostu nie jest w stanie dorównać.

00:14:31.240 --> 00:14:34.400
To jest różnica między centrum kosztów a przewagą strategiczną.

00:14:34.400 --> 00:14:38.760
Podczas gdy oni odhaczają pola, Ty budujesz fortecę, która uczy się z każdego ataku.

00:14:38.980 --> 00:14:42.880
Zmieniasz swój budżet bezpieczeństwa z wydatków długoterminową poprawę kapitału.

00:14:43.100 --> 00:14:44.260
Rynek już to wycenia.

00:14:44.620 --> 00:14:50.140
Cyberubezpieczenia nie oferują już stałych stawek uniwersalnych, ponieważ analizują dzienniki testów adwersarskich.

00:14:50.380 --> 00:14:56.840
Jeśli możesz przedstawić udokumentowany dowód ciągłego multimodalnego red teamingu, obserwujemy obniżki składek nawet o 20%.

00:14:56.840 --> 00:14:59.940
Ubezpieczyciele wiedzą, że wzmocniony model to mniejsze ryzyko.

00:14:59.940 --> 00:15:04.520
W zasadzie dofinansowują aktualizację zabezpieczeń, ponieważ zmniejsza to ryzyko ogromnych wypłat.

00:15:04.680 --> 00:15:09.760
Jeśli tego nie robisz, w rzeczywistości płacisz co miesiąc podatek od podatności na ataki od swojego ubezpieczenia.

00:15:09.980 --> 00:15:12.720
Tracisz pieniądze, jednocześnie zwiększając swoje ryzyko.

00:15:12.920 --> 00:15:15.400
Poza składkami musimy porozmawiać o promieniu rażenia.

00:15:15.680 --> 00:15:22.020
Postawa reaktywna zakłada, że możesz powstrzymać naruszenie po jego wystąpieniu, ale w środowisku agentowym jest to niebezpieczna fantazja.

00:15:22.260 --> 00:15:26.500
Jedna infekcja w jednym prawym korpusie może rozprzestrzenić się na wszystkie podłączone systemy w łańcuchu.

00:15:26.500 --> 00:15:30.080
Wdrażając gauntlet wymuszasz strukturalną izolację swoich danych.

00:15:30.220 --> 00:15:36.980
Uczysz się szyfrować swoje osadzenia i określać zakres odzyskiwania, tak aby nawet w przypadku przejęcia jednego agenta reszta sejfu pozostała zamknięta.

00:15:37.160 --> 00:15:41.540
Tworzysz strategię obrony w głąb, która chroni twoje najwrażliwsze zasoby od podstaw.

00:15:41.820 --> 00:15:42.980
Kupujesz odporność.

00:15:43.180 --> 00:15:48.640
Upewniasz się, że pojedyncza pułapka logiczna nie przerodzi się w systemowy kryzys całej twojej działalności finansowej.

00:15:48.880 --> 00:15:51.980
Budujesz system, który może przetrwać cios i nadal się rozwijać.

00:15:51.980 --> 00:15:56.780
Samo naprawiająca się mapa drogowa wdrożenia. Jak właściwie zacząć ją budować w swoim środowisku?

00:15:56.960 --> 00:15:59.440
Mapa drogowa nie polega na zakupie nowego pakietu oprogramowania.

00:15:59.700 --> 00:16:01.220
Chodzi o przeprojektowanie widoczności.

00:16:01.440 --> 00:16:02.820
Krok pierwszy to inwentaryzacja.

00:16:03.080 --> 00:16:04.940
Musisz znaleźć swoją ukrytą sztuczną inteligencję.

00:16:05.140 --> 00:16:08.320
Obecnie w twoim środowisku znajdują się agenci z kluczami API, których twój zespół do spraw.

00:16:08.320 --> 00:16:09.900
Bezpieczeństwa nigdy nie widział.

00:16:10.100 --> 00:16:13.960
Zostały one stworzone przez programistów lub analityków w celu rozwiązania konkretnego problemu

00:16:13.960 --> 00:16:16.780
i są połączone z twoimi danymi produkcyjnymi bez żadnego nadzoru.

00:16:17.000 --> 00:16:18.000
Problem jest prosty.

00:16:18.200 --> 00:16:20.140
Nie można zabezpieczyć czegoś, czego nie widać.

00:16:20.300 --> 00:16:22.840
Potrzebujesz kompleksowego audytu każdego autonomicznego przepływu pracy,

00:16:22.940 --> 00:16:26.600
co oznacza identyfikację każdego ludzkiego, sponsora i każdego poziomu uprawnień na całej linii.

00:16:26.600 --> 00:16:30.700
Ta inwentaryzacja to pierwszy krok do odzyskania kontroli nad twoim cyfrowym obwodem.

00:16:30.920 --> 00:16:33.680
Jeśli nie ma sponsora, nie ma agenta, wyłączasz go.

00:16:33.680 --> 00:16:37.820
Krok drugi to przejście od prostych logów do śledzenia przyczyn.

00:16:38.020 --> 00:16:42.100
Starsze dzienniki zdarzeń informują o zajściu transakcji, ale nie podają jej przyczyny.

00:16:42.320 --> 00:16:45.280
Zamiast tego należy wdrożyć wieloetapowe mechanizmy wnioskowania.

00:16:45.540 --> 00:16:49.060
Pozwala to śledzić proces myślowy agenta w całym łańcuchu wykonania.

00:16:49.320 --> 00:16:52.000
Gdy agent zawiedzie, nie należy patrzeć na ślad stosu.

00:16:52.000 --> 00:16:54.840
Należy spojrzeć na mapę przyczynowo-skutkową, która pokazuje dokładnie,

00:16:54.940 --> 00:16:57.340
gdzie rozumowanie zostało zakłócone przez dane wejściowe przeciwnika.

00:16:57.540 --> 00:17:01.100
Aby w pełni zrozumieć ryzyko, należy dostrzec logikę, a nie tylko wynik.

00:17:01.220 --> 00:17:02.560
To fundament rękawicy.

00:17:02.560 --> 00:17:06.760
Bez śledzenia przyczynowo-skutkowego można jedynie zgadywać przyczynę awarii

00:17:06.760 --> 00:17:09.160
i w efekcie leczyć objaw, a nie samą chorobę.

00:17:09.540 --> 00:17:12.440
Krok trzeci to wdrożenie optymalizacji transakcji.

00:17:12.680 --> 00:17:15.260
To tutaj równoważy się dokładność z odpornością.

00:17:15.460 --> 00:17:18.100
W kontekście finansowym o wysokiej stawce nie można mieć modelu,

00:17:18.200 --> 00:17:22.760
który ma 99% dokładności, ale 0% odporności na natychmiastowe zastrzyki.

00:17:23.000 --> 00:17:25.520
Dane z rękawicy służą do precyzyjnego dostrojenia modeli

00:17:25.520 --> 00:17:27.380
za pomocą minimalizacji strat zastępczych.

00:17:27.520 --> 00:17:31.060
W ten sposób wyraźnie informujesz model, że zachowanie spójności pod presją

00:17:31.060 --> 00:17:33.540
jest równie ważne jak udzielenie poprawnej odpowiedzi.

00:17:33.960 --> 00:17:37.140
Wbudowujesz świadomość przeciwnika w wagi sieci neuronowej.

00:17:37.380 --> 00:17:39.480
Sprawiasz, że model jest wystarczająco inteligentny,

00:17:39.560 --> 00:17:42.080
aby rozpoznawać, kiedy jest manipulowany przez osobę atakującą,

00:17:42.200 --> 00:17:44.260
która próbuje wykorzystać Twoje autonomiczne systemy.

00:17:44.360 --> 00:17:47.400
Ta mapa drogowa przekształca Twoje centrum operacyjne bezpieczeństwa.

00:17:47.600 --> 00:17:50.760
Odchodzisz od zmęczenia alertami, gdzie ludzie toną w tysiącach ostrzeżeń

00:17:50.760 --> 00:17:53.320
o niskim kontekście w stronę autonomicznej selekcji.

00:17:53.320 --> 00:17:57.660
Twoja architektura zaczyna przewidywać ataki, ponieważ widziała je już milion razy

00:17:57.660 --> 00:17:58.800
w symulacjach próbnych.

00:17:59.000 --> 00:18:01.120
Nie reagujesz tylko na dzisiejsze zagrożenia.

00:18:01.440 --> 00:18:03.720
Zabezpieczasz autonomiczne przepływy pracy jutra.

00:18:03.920 --> 00:18:06.200
Przechodzisz ze świata, w którym nawigujesz przez ryzyko,

00:18:06.280 --> 00:18:08.100
do świata, w którym kontrolujesz kontekst.

00:18:08.220 --> 00:18:09.280
To ostateczna zmiana.

00:18:09.540 --> 00:18:13.160
W ten sposób budujesz skarbiec finansowy, który faktycznie przetrwa erę agentów.

00:18:13.340 --> 00:18:17.360
W końcu budujesz dla świata takiego, jaki jest, a nie takiego, jakim chciałbyś, żeby był.

00:18:17.560 --> 00:18:18.360
Zacznij teraz.

00:18:18.360 --> 00:18:23.120
Posiadasz teraz ramy, aby przejść od zaznaczania pól wyboru do budowania cyfrowych skarbców.

00:18:23.320 --> 00:18:24.680
Masz odrobione zadanie domowe?

00:18:24.860 --> 00:18:27.220
Przeprowadź w tym tygodniu audyt jednego autonomicznego przepływu pracy

00:18:27.220 --> 00:18:28.700
pod kątem identyfikowalności sponsora.

00:18:28.920 --> 00:18:31.720
Jeśli nie możesz znaleźć właściciela, ten agent jest obciążeniem.

00:18:31.900 --> 00:18:36.060
Jeśli ta zmiana w myśleniu Ci pomogła, zostaw recenzję podcastu M365FM.

00:18:36.200 --> 00:18:38.980
Pomaga on większej liczbie liderów znaleźć ten sygnał w szumie informacyjnym.

00:18:39.160 --> 00:18:41.000
Skontaktuj się ze mną, Mirko Pietersem, na LinkedIn.

00:18:41.000 --> 00:18:43.840
Powiedz mi, które zagrożenia związane ze sztuczną inteligencją spędzają Ci senspowiek?

00:18:43.840 --> 00:18:45.540
Era testów manualnych dobiegła końca.

00:18:45.720 --> 00:18:48.040
Czas budować na nadchodzącą rzeczywistość pełną wyzwań.
