WEBVTT

00:00:00.000 --> 00:00:04.260
Stel je voor dat één multi-term prompt injection je volledige security stack omzeilt om een

00:00:04.260 --> 00:00:06.900
frauduleuze overboeking van een miljoen dollar te autoriseren.

00:00:07.080 --> 00:00:10.820
In de wereld van hoge financiële belangen zijn traditionele firewalls niet langer voldoende

00:00:10.820 --> 00:00:12.800
om geavanceerde vijandige aanvallen te stoppen.

00:00:13.000 --> 00:00:17.160
De meeste financiële instellingen vinken vakjes af terwijl hun AI agents worden gekaapt.

00:00:17.320 --> 00:00:21.040
Het oude model van handmatig testen gaat ervan uit dat je elke menselijke interactie kunt

00:00:21.040 --> 00:00:25.340
voorspellen, maar in werkelijkheid wordt het jaar 2026 bepaald door frauduleuze overboekingen

00:00:25.340 --> 00:00:29.320
van 250.000 dollar, getriggerd door een enkele multi-term prompt injection.

00:00:29.320 --> 00:00:33.660
Je legacy firewalls zijn gebouwd voor statische data, wat betekent dat ze nutteloos zijn tegen

00:00:33.660 --> 00:00:36.780
salami slicing, aanvallen die rekeningen in kleine beetjes leegroven.

00:00:36.920 --> 00:00:40.780
Aan het einde van deze sessie heb je de blauwdruk voor een multimodel bandlet die autonome

00:00:40.780 --> 00:00:41.800
workflows beveiligt.

00:00:42.020 --> 00:00:46.420
Abonneer je op de M365FM podcast om de risico's van het agent tijdwerk voor te blijven voor

00:00:46.420 --> 00:00:48.240
de deadlines van augustus 2026.

00:00:48.500 --> 00:00:52.500
We gaan voorbij aan basis, compliance en bouwen een veerkrachtig red teaming framework dat

00:00:52.500 --> 00:00:56.300
gevoelige transacties beveiligt tegen de volgende generatie vijandige aanvallen.

00:00:56.300 --> 00:00:59.480
De identiteitscrisis van autonome agents.

00:00:59.700 --> 00:01:03.860
We zetten momenteel agents in voor fraudedetectie en agmonitoring, maar het eigenaarschap is

00:01:03.860 --> 00:01:05.980
gefragmenteerd en de hele situatie is een puinhoop.

00:01:06.060 --> 00:01:10.000
Je hebt security teams die naar de perimeter kijken, IT teams die naar de infrastructuur

00:01:10.000 --> 00:01:13.440
kijken en AI teams die naar de modellen kijken, maar niemand kijkt naar het agentschap.

00:01:13.600 --> 00:01:17.680
Slechts 28% van de organisaties kan de actie van een agent daadwerkelijk herleiden naar

00:01:17.680 --> 00:01:21.800
een specifieke menselijke sponsor, wat een angstaanjagend cijfer is als je er even bij stilstaat.

00:01:21.800 --> 00:01:25.560
Als een agent een betaling autoriseert, kunnen drie van de vier bedrijven niet vertellen wie

00:01:25.560 --> 00:01:27.920
op dat moment verantwoordelijk was voor de logica van die machine.

00:01:28.140 --> 00:01:31.580
De aanname is dat commercieel redelijk toezicht voldoende is, maar dat is het niet langer,

00:01:31.720 --> 00:01:35.920
omdat de Natcha-regelwijzigingen van 2026 nu een gedocumenteerde onderbouwing eisen

00:01:35.920 --> 00:01:37.820
voor elk AI-gestuurde betalingsbeslissing.

00:01:37.960 --> 00:01:41.840
Je kunt niet simpelweg zeggen dat het algoritme het deed, je moet elke keer precies bewijzen

00:01:41.840 --> 00:01:42.140
waarom.

00:01:42.300 --> 00:01:46.740
Je publiceert de agent, geeft hem API-toegang en koppelt hem aan je kernbanksystemen, maar vervolgens

00:01:46.740 --> 00:01:48.040
verlies je de draad van de verantwoording.

00:01:48.040 --> 00:01:50.660
Dit is geen technische bak, het is een gat in de governance.

00:01:50.920 --> 00:01:53.580
De identiteit van de agent verandert in een fantoom in de machine.

00:01:53.800 --> 00:01:57.180
We geven deze systemen de sleutels tot de kluis en staan toe dat ze geld verplaatsen of

00:01:57.180 --> 00:01:59.880
leningen goedkeuren, terwijl we ze behandelen als geïsoleerde scripts.

00:02:00.100 --> 00:02:03.920
In werkelijkheid zijn het autonome actoren en wanneer een agent faalt, heb je niet alleen

00:02:03.920 --> 00:02:06.480
een systeemfout, maar een enorm aansprakelijkheidsincident.

00:02:06.640 --> 00:02:11.320
Het landschap van 2026 is genadeloos, omdat toezichthouders niet langer vragen of je een beleid

00:02:11.320 --> 00:02:13.380
hebt, maar of je beleid ook echt werkt tijdens runtime.

00:02:13.380 --> 00:02:17.220
Als je een transactie niet aan een sponsor kunt koppelen, voldoen je niet aan de regels.

00:02:17.460 --> 00:02:18.260
Zo simpel is het.

00:02:18.440 --> 00:02:22.140
De meeste bedrijven gebruiken nog statische API-sleutels voor deze agents, dat is als

00:02:22.140 --> 00:02:25.020
een loper aan een vreemde geven en hopen dat ze de verkeerde deur niet openen.

00:02:25.180 --> 00:02:29.880
Je moet je agentprotocol kennen en elke tool aanroep koppelen aan een specifieke inloggegevens.

00:02:30.120 --> 00:02:31.180
Maar dit is het probleem.

00:02:31.420 --> 00:02:35.720
De meeste organisaties weten niet eens hoeveel agents ze hebben, met als gevolg een enorme

00:02:35.720 --> 00:02:37.020
toename van schaduw AI.

00:02:37.020 --> 00:02:41.800
Werknemers bouwen hun eigen agents om workflows te automatiseren en verbinden deze met interne

00:02:41.800 --> 00:02:45.120
databases, terwijl ze toegang geven tot gevoelige klantgegevens.

00:02:45.520 --> 00:02:50.220
Ze doen dit alles zonder enig toezicht, wat een enorm aanvalsoppervlak creëert dat rijp

00:02:50.220 --> 00:02:51.260
is voor exploitatie.

00:02:51.580 --> 00:02:55.980
Een aanvaller hoeft je firewall niet te doorbreken als ze simpelweg een slecht beveiligde agent

00:02:55.980 --> 00:02:59.840
kunnen kapen om data te stelen of ongeautoriseerde transacties te starten.

00:02:59.840 --> 00:03:04.240
Ze kunnen het gebruiken om je interne controles te omzeilen en omdat slechts 28% van jullie

00:03:04.240 --> 00:03:06.780
traceerbaarheid heeft, kunnen ze dat doen zonder sporen na te laten.

00:03:06.780 --> 00:03:10.540
We moeten stoppen met agents als tools te zien en ze gaan beschouwen als identiteiten.

00:03:10.680 --> 00:03:14.220
Als je de redenering niet kunt controleren, kun je het resultaat niet vertrouwen en dat

00:03:14.220 --> 00:03:15.940
is de nieuwe standaard voor 2026.

00:03:16.220 --> 00:03:20.500
De Natcha-regels zijn slechts het begin van een wereldwijde verschuiving naar effectiviteitsnormen.

00:03:20.580 --> 00:03:23.020
Het gaat niet meer om het proces, maar om de uitkomst.

00:03:23.200 --> 00:03:26.780
Als een agent een frauduleuze ag-overboeking goedkeurt, is de instelling verantwoordelijk

00:03:26.780 --> 00:03:29.200
en kun je je niet verschuilen achter de black box van een leverancier.

00:03:29.380 --> 00:03:33.340
Je moet in staat zijn het besluitvormingspad binnen 60 minuten te reconstrueren, maar de waarheid

00:03:33.340 --> 00:03:34.840
is dat de meeste van jullie dat nog niet kunnen.

00:03:34.840 --> 00:03:39.620
Jullie vliegen blind in een razendsnelle omgeving en de identiteitscrisis van autonome agents

00:03:39.620 --> 00:03:43.340
is het grootste risico voor financiële stabiliteit in de komende 18 maanden.

00:03:43.500 --> 00:03:47.120
Het is het gat tussen wat we implementeren en wat we werkelijk kunnen beheersen, maar

00:03:47.120 --> 00:03:49.920
het probleem gaat dieper dan alleen wie de eigenaar is van de agent.

00:03:50.360 --> 00:03:52.880
Het gaat erom hoe de modellen zelf besmet raken.

00:03:53.180 --> 00:03:54.960
Het infectiepatroon tussen modellen.

00:03:55.200 --> 00:03:58.320
We dachten vroeger dat het gebruik van meerdere modellen een natuurlijk vangnet boot.

00:03:58.500 --> 00:03:59.660
De logica was simpel.

00:03:59.660 --> 00:04:02.520
Als één model een bias of een fout had, zouden de anderen dat opvangen.

00:04:02.700 --> 00:04:04.180
We noemden het model diversiteit.

00:04:04.380 --> 00:04:08.020
Maar in het landschap van 2026 is die aanname volledig onderuitgehaald.

00:04:08.200 --> 00:04:10.660
Nieuw onderzoek laat ons iets veel verontrustenders zien.

00:04:10.860 --> 00:04:14.600
Het fine-tunen van één enkelmodel op onveilige taken blijft niet beperkt tot dat model.

00:04:14.820 --> 00:04:17.580
Het infecteert in feite niet gerelateerde modellen in je keten.

00:04:17.740 --> 00:04:18.600
Dit is geen theorie.

00:04:18.600 --> 00:04:23.280
We zien dat GPT-4 misalignments zich met een replicatiegraad van 50% verspreiden naar

00:04:23.280 --> 00:04:24.400
QN en Yama derivaten.

00:04:24.560 --> 00:04:27.980
Het is een virale verspreiding van kwetsbaarheid door het hele ecosysteem.

00:04:28.120 --> 00:04:31.540
Je denkt dat je een redundant systeem bouwt door verschillende aanbieders te gebruiken.

00:04:31.740 --> 00:04:34.880
In werkelijkheid creëer je alleen maar meer knooppunten waar dezelfde infectie doorheen

00:04:34.880 --> 00:04:35.340
kan reizen.

00:04:35.540 --> 00:04:38.640
Dit is een achterdeur in de toeleveringsketen die geen enkele handmatige petest ooit zal

00:04:38.640 --> 00:04:38.840
vinden.

00:04:39.040 --> 00:04:42.360
De meeste beveiligingsteams zoeken nog steeds naar traditionele kwetsbaarheden in code.

00:04:42.580 --> 00:04:45.040
Ze zoeken naar buffer overflows of SQL-injecties.

00:04:45.040 --> 00:04:46.820
Maar de nieuwe dreiging is semantisch.

00:04:46.820 --> 00:04:49.440
Deze zit ingebed in de gewichten van de modellen zelf.

00:04:49.660 --> 00:04:52.480
Aanvallers gebruiken nu een techniek genaamd Adversarial Hypness.

00:04:52.740 --> 00:04:54.140
Ze hoeven je servers niet te hacken.

00:04:54.320 --> 00:04:57.140
Ze hoeven slechts één kwaadaardig document in je kennisbank te plaatsen.

00:04:57.300 --> 00:05:00.600
Vanwege de werking van Vector-embeddings kan dat ene document als een zwaartekrachtput

00:05:00.600 --> 00:05:01.060
fungeren.

00:05:01.200 --> 00:05:03.520
Het trekt 84% van je RAG queries aan.

00:05:03.680 --> 00:05:05.600
Je denkt dat je Vector database een bibliotheek is.

00:05:05.760 --> 00:05:08.220
Je denkt dat het een gestructureerde opslagplaats van waarheid is.

00:05:08.400 --> 00:05:11.200
In werkelijkheid wordt het een valstrik voor je autonome workflows.

00:05:11.500 --> 00:05:15.280
Wanneer je agentcontext ophaalt om een overboeking te verwerken, krijgt deze niet alleen

00:05:15.280 --> 00:05:15.840
data binnen.

00:05:15.840 --> 00:05:17.920
Hij krijgt vergiftigde instructies binnen.

00:05:18.100 --> 00:05:21.540
Het model ziet het verschil niet tussen een legitieme factuur en een verborgen prompt

00:05:21.540 --> 00:05:22.040
injectie.

00:05:22.200 --> 00:05:24.660
Dit is waar de multimodelstrategie averechts werkt.

00:05:24.820 --> 00:05:28.980
Als je primaire model vergiftigde data ophaalt, geeft het die redenering door aan het secundaire

00:05:28.980 --> 00:05:29.280
model.

00:05:29.500 --> 00:05:33.640
Omdat deze modellen basis trainingsdata en vergelijkbare transformer-architecturen delen,

00:05:33.780 --> 00:05:35.040
delen ze dezelfde blinde vlekken.

00:05:35.160 --> 00:05:36.580
De infectie repliceert zich.

00:05:36.760 --> 00:05:40.180
Het tweede model valideert de fout van het eerste model omdat het vatbaar is voor dezelfde

00:05:40.180 --> 00:05:40.980
logische valstrik.

00:05:40.980 --> 00:05:45.100
We zien succespercentages voor deze rollenspel gebaseerde injecties die in financiële omgevingen

00:05:45.100 --> 00:05:46.400
bijna 90% bereiken.

00:05:46.560 --> 00:05:49.540
De modellen praten elkaar er effectief toe om de fraude goed te keuren.

00:05:49.760 --> 00:05:53.160
Deze cross-model propagatie is de stille moordenaar van AI-beveiliging.

00:05:53.320 --> 00:05:55.080
Je kunt de beste firewall ter wereld hebben.

00:05:55.280 --> 00:05:58.000
Je kunt je database volgens de hoogste standaarden hebben versleuteld.

00:05:58.200 --> 00:06:01.140
Niets daarvan maakt uit als de redenerlogica zelf is gecompromitteerd.

00:06:01.320 --> 00:06:03.400
De aanvallers proberen je versleuteling niet te kraken.

00:06:03.600 --> 00:06:06.080
Ze proberen het begrip van de werkelijkheid door je model te verstoren.

00:06:06.080 --> 00:06:09.820
Ze gebruiken coderingstrucs en logische vallen die traditionele tekstfilters omzeilen.

00:06:09.960 --> 00:06:13.420
Als een afbeelding van een bonnetje tekst met een laag contrast bevat met een admin override

00:06:13.420 --> 00:06:15.660
commando, zal je multimodale systeem dit lezen.

00:06:15.840 --> 00:06:17.700
Het zal het verwerken en het zal het uitvoeren.

00:06:17.900 --> 00:06:20.900
Dit is hoe die overboeking van 250.000 dollar heeft plaatsgevonden.

00:06:21.100 --> 00:06:22.480
Het was geen hack van het netwerk.

00:06:22.680 --> 00:06:23.980
Het was een hack van de context.

00:06:24.240 --> 00:06:27.020
We moeten accepteren dat deze modellen stogastisch en onvoorspelbaar zijn.

00:06:27.200 --> 00:06:28.700
Het is geen deterministische software.

00:06:28.960 --> 00:06:30.780
Je kunt ze niet beveiligen met statische regels.

00:06:30.960 --> 00:06:32.400
De kwetsbaarheid zit niet in de code.

00:06:32.600 --> 00:06:33.960
Het zit in het aandachtmechanisme.

00:06:33.960 --> 00:06:37.360
Het zit in de manier waarop het model de grens tussen data en instructies doet vervagen.

00:06:37.520 --> 00:06:42.500
Wanneer je meerdere modellen op elkaar stapelt zonder adversarial raamwerk, stapel je enkellage glas.

00:06:42.660 --> 00:06:43.740
Je bouwt geen kluis.

00:06:43.940 --> 00:06:47.580
Je bouwt een fragiele ketting waarbij één barst de hele structuur verbrijzelt.

00:06:47.740 --> 00:06:50.380
Om dit te stoppen, moeten we afstappen van het idee van testen.

00:06:50.560 --> 00:06:52.760
We moeten toe naar een model van continu oorlogsvoering.

00:06:52.960 --> 00:06:56.160
We moeten ophouden te vragen of het model veilig is en beginnen met proberen het te breken.

00:06:56.320 --> 00:06:58.840
Om de infectie te stoppen, moeten we de gauntlet bouwen.

00:06:59.180 --> 00:07:00.960
Architectuur van de multimodale gauntlet.

00:07:01.300 --> 00:07:02.700
Handmatig testen is een reliquie.

00:07:02.700 --> 00:07:06.780
Als je nog steeds vertrouwt op mensen die in een kamer zitten om je item misleiden, heb je al verloren.

00:07:07.040 --> 00:07:08.060
Mensen zijn traag.

00:07:08.220 --> 00:07:09.580
Modellen zijn stochastisch.

00:07:09.760 --> 00:07:14.260
Je kunt niet elke permutatie van een aanval in meerdere stappen voorspellen met een spreadsheet en een team consultants.

00:07:14.520 --> 00:07:20.020
Tegen de tijd dat je Red Team één kwetsbaarheid vindt, is het onderliggende model al geüpdate of het aanvalsoppervlak veranderd.

00:07:20.140 --> 00:07:21.680
Dit is waarom het oude model faalt.

00:07:21.880 --> 00:07:22.740
Het is statisch.

00:07:22.940 --> 00:07:23.800
Het is reactief.

00:07:23.980 --> 00:07:28.640
In de risicovolle wereld van de financiën in 2026 hebben we iets nodig dat beweegt op de snelheid van de dreiging.

00:07:28.780 --> 00:07:30.120
We hebben de bandlet nodig.

00:07:30.120 --> 00:07:37.480
De architectuur van de multimodale bandlet is gebouwd op een simpel, bruutprincipe die verse LLMs tegen elkaar uitspelen in een nulsomspel.

00:07:37.660 --> 00:07:39.480
Je bent niet alleen het systeem aan het testen.

00:07:39.620 --> 00:07:41.120
Je creëert een evolutionaire snelkooppan.

00:07:41.980 --> 00:07:48.800
Je neemt een aanvallersmodel, iets zeer capables zoals een gespecialiseerde GPT-variant, en geeft het één doel omzelfde verdediger.

00:07:49.000 --> 00:07:53.760
De verdediger is je productieagent, degene die die acht overschrijvingen en leninggoedkeuringen afhandelt.

00:07:53.760 --> 00:07:56.340
Ze komen in een continu geautomatiseerde lus terecht.

00:07:56.540 --> 00:08:01.520
De aanvaller genereert geavanceerde promptinjecties in meerdere stappen en de verdediger probeert zijn alignment te behouden.

00:08:01.700 --> 00:08:04.120
Dit is niet alleen een simulatie, het is een trainingsregime.

00:08:04.300 --> 00:08:06.380
We gebruiken wat we de 50-50ste mix noemen.

00:08:06.640 --> 00:08:12.000
Wanneer je je financiële agenten aan het fine-tunen bent, kun je niet alleen schone, perfecte data uit je kernbanksystemen gebruiken.

00:08:12.220 --> 00:08:13.500
Dat maakt het model fragiel.

00:08:13.700 --> 00:08:15.560
In plaats daarvan verzadig je de trainingsset.

00:08:15.560 --> 00:08:21.020
De helft van de data is schoon, maar de andere helft bestaat uit adversarale voorbeelden gegenereerd tijdens de, bandlet, sessies.

00:08:21.200 --> 00:08:26.040
Dit omvat alles, van logische, salami-slicing, traps tot die verborgen multimodale overrides nieuwe bespraken.

00:08:26.220 --> 00:08:29.240
Het resultaat is een toename van 70% in veerkracht.

00:08:29.400 --> 00:08:33.500
Je vacciëert effectief je AI tegen de exploits die op dit moment je firewalls omzeilen.

00:08:33.720 --> 00:08:35.480
Maar hier is de structurele verschuiving.

00:08:35.680 --> 00:08:39.540
Je zoekt niet alleen naar bugs, je probeert niet een specifieke tekstreiks te vinden die het model breekt.

00:08:39.680 --> 00:08:41.800
Je bent de redeneerlogica zelf aan het versterken.

00:08:41.960 --> 00:08:44.680
In de bandlet gebruiken we, reinforced chain of thought, training.

00:08:44.680 --> 00:08:46.860
We dwingen de verdediger om het werk te laten zien.

00:08:47.020 --> 00:08:53.380
Als de aanvaller probeert via een rollenspel injectie een overboeking goed te keuren, moet de verdediger bij elke stap de logica uitleggen.

00:08:53.560 --> 00:08:58.360
Als de redenering afdwaalt richting een ongeoorloofde actie, markeert de bandlet dit onmiddellijk.

00:08:58.460 --> 00:09:00.980
Je leert het model om een poging tot dwang te herkennen.

00:09:01.240 --> 00:09:03.800
Deze architectuur lost het diversiteitsprobleem op.

00:09:03.980 --> 00:09:11.320
Door verschillende modelfamilies te gebruiken, zoals een anthropic model voor de verdediger en een metamodel voor de aanvaller, zorg je dat blinde vlekken niet overlappen.

00:09:11.320 --> 00:09:15.480
Je gebruikt de sterke punten van de ene architectuur om de zwaktes van de andere bloot te leggen.

00:09:15.620 --> 00:09:16.980
Dit is een continu cyclus.

00:09:17.240 --> 00:09:20.120
Naarmate de aanvaller slimmer wordt, wordt de verdediger sterker.

00:09:20.300 --> 00:09:27.480
Het is een zelfverbeterende beveiligingslaag die niet slaapt, niet moe wordt en geen subtiele semantische verschuivingen mis die een menselijke tester zou overzien.

00:09:27.660 --> 00:09:32.600
Voor een financiële instelling is dit de enige manier om aan de komende effectiviteitsgerichte audits te voldoen.

00:09:32.600 --> 00:09:38.680
Je kunt toezichthouders een gedocumenteerde geschiedenis van miljoenen gesimuleerde aanvallen laten zien en hoe je systeem daartegen bestand was.

00:09:38.840 --> 00:09:45.340
Je verplaatst je van een wereld waarin je hoopt dat je veilig bent, naar een wereld waarin je precies weet hoeveel druk je logica aankan voordat deze bezwijkt.

00:09:45.540 --> 00:09:48.660
Dit is de verschuiving van passieve verdediging naar actieve strijd.

00:09:48.860 --> 00:09:51.560
Je bouwt niet langer alleen een muur, je traint een soldaat.

00:09:52.100 --> 00:09:56.940
Deze bandlet wordt je primaire verdedigingsmechanisme tegen de volgende generatie vijandige dreigingen.

00:09:57.120 --> 00:10:01.660
Het transformeert je beveiligingshouding van een lijst met regels naar een dynamisch, evoluerend systeem.

00:10:01.660 --> 00:10:05.380
Je brengt eindelijk de snelheid van de modellen in lijn met de snelheid van de verdediging.

00:10:05.500 --> 00:10:13.220
Dit is de enige manier om te garanderen dat je autonome workflows veerkrachtig blijven in een wereld waar de dreigingen net zo slim zijn als de systemen die ze nu proberen te ondermijnen.

00:10:13.500 --> 00:10:15.340
Het Classbox Audit Framework

00:10:15.340 --> 00:10:21.440
Augustus 2026 is niet langer zomaar een willekeurige datum op een nalevingskalender, want in werkelijkheid is het een harde deadline.

00:10:21.700 --> 00:10:27.620
Dit is het exacte moment waarop de high-risk, verrijsten van de EU-AI-act veranderen van theorie in actieve handhaving.

00:10:27.620 --> 00:10:34.580
Als je autonome agents beheert in de financiële sector, lig je nu onder een vergrootglas, maar de aard van het onderzoek is veranderd.

00:10:34.940 --> 00:10:40.500
Toezichthouders stappen af van procesgebaseerde standaarden, wat betekent dat ze niet langer geven om je documentatie of je intentie.

00:10:40.700 --> 00:10:43.140
Ze stappen over op effectiviteitsgebaseerde standaarden.

00:10:43.380 --> 00:10:46.340
Ze willen zien dat je beveiliging daadwerkelijk werkt op het moment van impact.

00:10:46.580 --> 00:10:52.080
Deze verschuiving vereist een overstap van de Black Box van traditionele AI naar wat wij het Classbox Audit Framework noemen.

00:10:52.080 --> 00:10:54.800
Je moet in staat zijn om de logica in real-time te kunnen doorgronden.

00:10:55.020 --> 00:10:58.620
De meest cruciale metriek in dit nieuwe tijdperk is de beslissingsreconstructietijd.

00:10:58.780 --> 00:11:03.120
Als een agent geld verplaatst, moet je binnen 60 minuten precies kunnen bewijzen waarom dat is gebeurd.

00:11:03.320 --> 00:11:08.080
Voor de meeste instellingen is het antwoord momenteel een definitief nee, omdat ze wel laks hebben, maar geen redeneerpaden.

00:11:08.820 --> 00:11:11.120
Ze hebben output, maar ze hebben niet het waarom.

00:11:12.240 --> 00:11:17.840
In een Classbox raamwerk moet elke tool aanroep gekoppeld zijn aan een Know Your Agent referentie.

00:11:17.840 --> 00:11:23.800
Dit is niet zomaar een API-sleutel, maar een verifieerbare identiteit die de autoriteit van een menselijke sponsor draagt.

00:11:23.960 --> 00:11:27.180
Je creëert in feite een digitale bewijsketen voor elke beslissing.

00:11:27.380 --> 00:11:31.620
Als de agent besluit om een vergoeding kwijt te schelden of een risicovolle overboeking goed te keuren,

00:11:31.800 --> 00:11:34.720
moet dat besluit verankerd zijn in parameters die door een mens zijn goedgekeurd.

00:11:34.880 --> 00:11:37.900
We implementeren dit via een concept genaamd begrensde autonomie.

00:11:38.040 --> 00:11:42.920
De agents verrichten het zware werk van analyse en uitvoering, terwijl mensen de fysieke noodknop in handen houden.

00:11:42.920 --> 00:11:49.140
Dit is niet zomaar een knop die je indrukt als het misgaat, maar een structurele limiet op wat de agent kan doen zonder expliciete herverificatie.

00:11:49.320 --> 00:11:54.280
Je definieert de grenzen van de Classbox door drempelwaarden in te stellen voor risico, waarde en afwijking.

00:11:54.460 --> 00:12:00.020
Als de agent buiten die kaders probeert te treden, bevriest het systeem de transactie en vraagt om een menselijke toelichting.

00:12:00.200 --> 00:12:05.420
Dit voldoet aan de wettelijke eis voor menselijk toezicht zonder de snelheid van autonome workflows op te offeren.

00:12:05.560 --> 00:12:08.720
Je geeft de agent de ruimte om te werken, maar je houdt de leiband in zicht.

00:12:08.880 --> 00:12:11.620
De gevolgen van het niet slagen voor deze audit zijn katastrofaal.

00:12:11.620 --> 00:12:18.080
We hebben het over een boete van 7% van de wereldwijde omzet en voor een grote bank kan dat het voortbestaan van de instelling bedreigen.

00:12:18.240 --> 00:12:21.640
Je kunt het je niet veroorloven om het misschien te zeggen wanneer de auditors verschijnen.

00:12:21.800 --> 00:12:25.980
Je hebt een fraudebestendig audit trail nodig dat het reden neerpad van elke agent actie laat zien.

00:12:26.220 --> 00:12:32.560
Dit betekent dat het doel, de opgehaalde context, de toel aanroepen en het eindresultaat worden vastgelegd op een manier die niet kan worden gewijzigd.

00:12:32.680 --> 00:12:38.120
Je bouwt een kluis voor de logica zelf en dit is de enige manier om het reguleringslandschap van 2026 te overleven.

00:12:38.120 --> 00:12:41.200
Je moet de doos kunnen openen en het interne radarwerk kunnen laten zien.

00:12:41.420 --> 00:12:44.940
Dit raamwerk beschermt je ook tegen de salami slicing, aanvallen die we bespraken.

00:12:45.120 --> 00:12:50.700
Door de reden neerpaden in de loop van de tijd te monitoren, kan de glassbox detecteren wanneer de logica van een agent langzaam wordt uitgehold.

00:12:50.840 --> 00:12:55.440
Het zoekt naar tegenstrijdigheden in beleid of verschuivingen in toon die wijzen op een meerstapsinjectie.

00:12:55.620 --> 00:12:59.580
Het biedt het inzicht dat je nodig hebt om de afwijking te signaleren voordat het een inbreuk wordt.

00:12:59.760 --> 00:13:03.880
Je reageert niet langer alleen op een melding, maar observeert de gezondheid van de redenering zelf.

00:13:03.880 --> 00:13:10.140
Dit opzetten klinkt duur en complex en het vereist een volledige heroverweging van uw data-architectuur en uw governance-model.

00:13:10.320 --> 00:13:15.400
Maar als u naar het alternatief kijkt, wordt de kostprijs van de glazen doos de beste investering die u ooit zult doen.

00:13:15.580 --> 00:13:21.060
De overstap naar dit model is de brug tussen roekeloze automatisering en veerkrachtige, auditeerbare financiën.

00:13:21.200 --> 00:13:23.180
Het is de verschuiving van hoop naar bewijs.

00:13:23.360 --> 00:13:25.980
Rewa, proactieve strijd versus reactieve opschoning.

00:13:26.260 --> 00:13:29.380
Laten we eens kijken naar de koude, harde wiskunde van 2026.

00:13:29.380 --> 00:13:34.360
In de financiële sector loopt de gemiddelde kostprijs van een data-lack nu oprichting de 5,8 miljoen dollar.

00:13:34.580 --> 00:13:41.620
Dat getal is niet zomaar een kop die bedoelt is om uw bank te maken, maar vertegenwoordigt het werkelijke verlies door digitaal forensisch onderzoek, juridische kosten en boetes van toezichthouders.

00:13:41.780 --> 00:13:48.080
U moet ook rekening houden met het massale vertrek van vermogende klanten die het vertrouwen in uw infrastructuur verliezen zodra hun gegevens op het dark web belanden.

00:13:48.280 --> 00:13:52.360
Als u naar de balans kijkt, is reactieve opschoning de duurste manier om een bank te runnen.

00:13:52.520 --> 00:13:54.040
U betaalt een premie voor falen.

00:13:54.260 --> 00:13:57.900
Proactieve strijd levert daarentegen een kostenvermijdingsratio op van 6 op 1.

00:13:57.900 --> 00:14:02.460
Voor elke dollar die u uitgeeft aan de multimodale handschoen, bespaart u 6 dollar aan opschoningskosten en boetes.

00:14:02.680 --> 00:14:07.300
Dit is niet zomaar een beveiligingsmaatstaf, maar een fundamentele efficiëntieslag voor de moderne financiële onderneming.

00:14:07.600 --> 00:14:09.500
Handmatig testen is een verzonken kostenpost.

00:14:09.680 --> 00:14:13.980
U betaalt voor iemands tijd, zij vinden een paar oppervlakkige baks en gaan dan door naar het volgende project.

00:14:14.200 --> 00:14:18.480
Die kennis is statisch en verbetert de kernlogica of de veerkracht van het model in de loop der tijd niet.

00:14:18.940 --> 00:14:20.920
Multimodaal redteaming is een strategisch bezit.

00:14:21.060 --> 00:14:24.100
U bouwt aan een bibliotheek van vijandige intelligentie die zich opstapelt.

00:14:24.220 --> 00:14:26.420
U bent uw intellectueel eigendom aan het versterken.

00:14:26.420 --> 00:14:31.120
U creëert een slotgracht rond uw autonome workflows waar concurrenten simpelweg niet tegenop kunnen.

00:14:31.300 --> 00:14:34.440
Dit is het verschil tussen een kostenpost en een strategisch voordeel.

00:14:34.560 --> 00:14:38.280
Terwijl zij vakjes afhinken, bouwt u een vesting die leert van elke aanval.

00:14:38.460 --> 00:14:42.980
U verandert uw beveiligingsbudget van een uitgave in een lange termijn investering in kapitaalverbetering.

00:14:43.180 --> 00:14:44.480
De markt verrekent dit al.

00:14:45.200 --> 00:14:50.040
Cyberverzekeraars bieden geen uniforme tarieven meer aan, omdat ze naar uw logboeken voor vijandige tests kijken.

00:14:50.040 --> 00:14:56.720
Als u gedocumenteerd bewijs van continu multimodaal redteaming kunt overleggen, zien we premieverlagingen tot wel 20%.

00:14:56.720 --> 00:14:59.920
Verzekeraars weten dat een gehard model een lager risico vormt.

00:15:00.060 --> 00:15:04.780
Ze subsidiëren in feite uw beveiligingsupgrades omdat het hun risico op een enorme uitbetaling verkleint.

00:15:04.980 --> 00:15:09.740
Als u dit niet doet, betaalt u feitelijk elke maand een kwetsbaarheidsbelasting op uw verzekering.

00:15:09.940 --> 00:15:12.460
U laat geld liggen terwijl u uw blootstelling vergroot.

00:15:12.680 --> 00:15:15.360
Naast de premies moeten we het hebben over de omvang van de schade.

00:15:15.360 --> 00:15:22.240
Een reactieve houding gaat ervan uit dat je een inbreuk kunt indammen nadat deze heeft plaatsgevonden, maar in een agentische omgeving is dat een gevaarlijke fantasie.

00:15:22.400 --> 00:15:26.260
Een infectie in een enkel corpus kan zich verspreiden naar elk verbonden systeem in je keten.

00:15:26.420 --> 00:15:30.300
Door de kantlet te implementeren, dwing je een structurele isolatie van je data af.

00:15:30.420 --> 00:15:36.760
Je leert je embeddings te versleutelen en je retrieval te begrenzen, zodat zelfs als één agent wordt gekaapt, de rest van de kluis gesloten blijft.

00:15:36.900 --> 00:15:41.760
Je creëert een defense in deept, strategie die je meest gevoelige assets vanaf de basis beschermt.

00:15:41.760 --> 00:15:48.740
Je koopt veerkracht in. Je zorgt ervoor dat een enkele logische valstrik niet leidt tot een systemische ineenstorting van je volledige financiële operatie.

00:15:48.920 --> 00:15:52.080
Je bouwt een systeem dat een klap kan opvangen en daarna gewoon doorgaat.

00:15:52.220 --> 00:15:54.420
De roadmap voor zelfherstellende implementatie.

00:15:54.600 --> 00:15:56.580
Hoe begin je hier eigenlijk mee in jouw omgeving?

00:15:56.800 --> 00:15:59.300
De roadmap gaat niet over het kopen van een nieuw softwarepakket.

00:15:59.460 --> 00:16:01.560
Het gaat over het herontwerpen van je zichtbaarheid.

00:16:01.760 --> 00:16:03.220
Stap 1 is de inventarisatie.

00:16:03.420 --> 00:16:04.760
Je moet je schaduw AI vinden.

00:16:04.960 --> 00:16:09.560
Op dit moment zijn er agents in je omgeving met API-sleutels die je beveiligingsteam nog nooit heeft gezien.

00:16:09.560 --> 00:16:16.720
Deze zijn gebouwd door ontwikkelaars of analisten om een specifiek probleem op te lossen en ze zitten daar verbonden met je productiedata zonder enig toezicht.

00:16:16.920 --> 00:16:18.060
Het probleem is simpel.

00:16:18.260 --> 00:16:20.080
Je kunt niet beveiligen wat je niet kunt zien.

00:16:20.280 --> 00:16:22.900
Je hebt een volledige audit nodig van elk autonome workflow.

00:16:23.120 --> 00:16:26.280
Dat betekent elke menselijke sponsor en elk permissieniveau in kaart brengen.

00:16:26.480 --> 00:16:30.540
Deze inventarisatie is de eerste stap om weer controle te krijgen over je digitale perimeter.

00:16:30.840 --> 00:16:34.120
Als er geen sponsor is, is er geen agent en sluit je hem af.

00:16:34.440 --> 00:16:37.720
Stap 2 is de overstap van eenvoudige LAX naar kausale tracering.

00:16:37.720 --> 00:16:42.080
Legacy event LAX vertellen je dat een transactie heeft plaatsgevonden, maar ze vertellen je niet het waarom.

00:16:42.220 --> 00:16:45.180
Je moet in plaats daarvan multi-step reasoning spans inzetten.

00:16:45.360 --> 00:16:49.180
Hiermee kun je het denkproces van de agent volgen over de gehele uitvoeringsketen.

00:16:49.400 --> 00:16:52.160
Wanneer een agent faalt, zou je niet naar een stacktrace moeten kijken.

00:16:52.380 --> 00:16:57.040
Je zou naar een kausale kaart moeten kijken die precies laat zien waar de redenering werd ondermijnd door een vijandige input.

00:16:57.240 --> 00:17:00.860
Je moet de logica zien, niet alleen het resultaat, om het risico echt te begrijpen.

00:17:01.080 --> 00:17:02.800
Dit is het fundament van de gauntlet.

00:17:02.800 --> 00:17:09.140
Zonder kausale tracering raad je slechts naar de hoofdoorzaak van je fouten en behandel je uiteindelijk het symptoom in plaats van de ziekte.

00:17:09.380 --> 00:17:12.120
Stap 3 is de implementatie van traits optimization.

00:17:12.660 --> 00:17:15.520
Dit is waar je de balans zoekt tussen je nauwkeurigheid en je robuustheid.

00:17:15.720 --> 00:17:22.560
In een financiële context met hoge inzet kun je geen model hebben dat 99% nauwkeurig is, maar 0% robuust tegen een prompt injection.

00:17:22.880 --> 00:17:27.260
Je gebruikt de data van je quantlet om je modellen te finetunen met behulp van surrogate loss minimization.

00:17:27.260 --> 00:17:33.540
Door dit te doen, vertel je het model expliciet dat het behouden van afstemming onder druk net zo belangrijk is als het geven van het juiste antwoord.

00:17:33.680 --> 00:17:37.360
Je bouwt een bewustzijn van tegenstanders in de gewichten van het neurale netwerk.

00:17:37.560 --> 00:17:44.140
Je maakt het model slim genoeg om te weten wanneer het wordt gemanipuleerd door een kwaadwillende actor die jouw autonome systemen probeert te exploiteren.

00:17:44.340 --> 00:17:47.220
Dit stappenplan transformeert jouw Security Operations Center.

00:17:47.440 --> 00:17:53.320
Je stapt af van alertfatiek, waarbij mensen verdrinken in duizenden meldingen zonder context, en gaat over op autonome triage.

00:17:53.320 --> 00:17:58.700
Je architectuur begint aanvallen te voorzien omdat ze die al een miljoen keer heeft gezien in de quantletsimulaties.

00:17:58.880 --> 00:18:01.220
Je reageert niet alleen op de dreiging van vandaag.

00:18:01.420 --> 00:18:03.640
Je beveiligt de autonome workflows van morgen.

00:18:03.860 --> 00:18:07.840
Je verplaatst je van een wereld waarin je door risico's navigeert naar een wereld waarin je de context beheerst.

00:18:08.060 --> 00:18:09.540
Dit is de definitieve verschuiving.

00:18:09.800 --> 00:18:13.220
Dit is hoe je een financiële kluis bouwt die echt stand houdt in het tijdperk van agents.

00:18:13.440 --> 00:18:17.180
Je bouwt eindelijk voor de wereld zoals deze is, niet zoals je zou willen dat deze was.

00:18:17.660 --> 00:18:18.220
Begin nu.

00:18:18.220 --> 00:18:23.380
Je bezit nu het raamwerk om de overstap te maken van het afwinken van hokjes naar het bouwen van digitale kluizen.

00:18:23.580 --> 00:18:24.840
Je huiswerk is duidelijk.

00:18:25.020 --> 00:18:28.280
Hadden deze week één autonome workflow op sponsor traceerbaarheid.

00:18:28.420 --> 00:18:31.700
Als je de menselijke eigenaar niet kunt vinden, is die agent een aansprakelijkheid.

00:18:31.860 --> 00:18:36.400
Als deze verandering in denken je heeft geholpen, laat dan een beoordeling achter voor de M365 FM podcast.

00:18:36.600 --> 00:18:38.720
Het helpt meer leiders om dit signaal in de ruis te vinden.

00:18:38.980 --> 00:18:41.100
Maak verbinding met mij, Mirko Peters, op LinkedIn.

00:18:41.340 --> 00:18:43.460
Vertel me welke AI-risico's jou uit je slaap houden.

00:18:43.620 --> 00:18:45.400
Het tijdperk van handmatig testen is voorbij.

00:18:45.400 --> 00:18:48.020
Het is tijd om te bouwen voor de vijandige realiteit die voor ons ligt.

00:18:48.220 --> 00:19:18.200
Het is tijd om te bouwen voor de vijandige realiteit die voor ons ligt.
