WEBVTT

00:00:00.000 --> 00:00:06.640
Bayangkan sebuah injeksi perintah multi tahap yang menembus seluruh tumpukan keamanan Anda untuk mengesahkan transfer kawat penipuan senilai jutaan dolar.

00:00:07.260 --> 00:00:12.180
Dalam dunia keuangan yang berisiko tinggi, firewall tradisional tidak lagi cukup untuk menghentikan serangan musuh yang canggih.

00:00:12.980 --> 00:00:16.740
Kebanyakan lembaga keuangan hanya sekadar memenuhi syarat sementara agen AM mereka sedang dibaca.

00:00:17.340 --> 00:00:21.060
Model pengujian manual yang lama mengasumsikan Anda bisa memprediksi setiap interaksi manusia,

00:00:21.240 --> 00:00:29.220
namun kenyataannya, tahun 2026 akan diwarnai oleh transfer penipuan senilai dua transfer penipuan senilai 250 ribu dolar yang dipicu oleh satu injeksi perintah multi tahap.

00:00:29.220 --> 00:00:36.280
Firewall warisan Anda dibangun untuk data statis yang berarti tidak berguna melawan serangan salami slicing yang menguras akun sedikit demi sedikit.

00:00:36.980 --> 00:00:41.600
Di akhir sesi ini, Anda akan memiliki cetak biru untuk pengamanan multimodel yang mengamankan alur kerja otonom.

00:00:42.160 --> 00:00:47.620
Berlangganan podcast M365FM untuk tetap terdepan menghadapi risiko era agen sebelum tengah waktu Agustus 2026.

00:00:48.120 --> 00:00:55.420
Kita melangkah melampaui kepatuan dasar dan membangun kerangka kerja retiming tangguh yang mengamankan transaksi sensitif terhadap serangan musuh generasi berikutnya.

00:00:57.690 --> 00:00:59.250
Krisis identitas pada agen otonom.

00:00:59.250 --> 00:01:05.990
Kita saat ini sedang menerapkan agen untuk deteksi penipuan dan pemantauan ACH, namun kepemilikannya terfragmentasi dan situasinya sangat kacau.

00:01:06.090 --> 00:01:12.790
Anda memiliki tim keamanan yang menjaga perimeter, tim IT yang mengawasi infrastruktur, dan tim AI yang mengurus modal tetapi tidak ada yang memperhatikan agensi tersebut.

00:01:13.810 --> 00:01:21.250
Hanya 20 persen organisasi yang benar-benar dapat melacak tindakan agen kembali ke sponsor manusia tertentu yang merupakan statistik menakutkan jika Anda merenungkannya sejenak.

00:01:21.250 --> 00:01:27.690
Jika agen mengesahkan pembayaran, 3 dari 4 perusahaan tidak dapat memberitahu Anda siapa yang bertanggung jawab atas logika mesin tersebut saat itu.

00:01:27.690 --> 00:01:37.290
Asumsinya adalah pemantauan yang wajar secara komersial sudah cukup, tetapi itu tidak lagi berlaku karena perubahan aturan ACH 2026 menuntut dasar dokumentasi untuk setiap keputusan pembayaran berbasis AI.

00:01:37.950 --> 00:01:41.970
Anda tidak bisanya mengatakan algoritma yang melakukannya, Anda harus membuktikan alasannya dengan tepat setiap saat.

00:01:42.530 --> 00:01:48.090
Anda merilis agen, memberinya akses API, dan menghubungkannya ke sistem perbankan inti Anda, namun kemudian Anda kehilangan jejak akuntabilitasnya.

00:01:48.510 --> 00:01:50.270
Ini bukan bug teknis, ini adalah kekosongan tata kelola.

00:01:50.910 --> 00:01:52.950
Identitas agen kini menjadi hantu di dalam mesin.

00:01:53.550 --> 00:01:59.730
Kita memberikan kunci berangkas kepada sistem ini dan mengizinkan mereka memindahkan uang atau menyetujui pinjaman, namun kita memperlakukan mereka seperti skrip terisolasi.

00:02:00.170 --> 00:02:06.170
Kenyataannya, mereka adalah aktor otonom, dan ketika agen gagal Anda tidak hanya mengalami kesalahan sistem, Anda menghadapi peristiwa kewajiban yang sangat besar.

00:02:06.630 --> 00:02:13.510
Landscap tahun 2026 tidak mengenal ampun, karena regulator tidak lagi bertanya apakah Anda memiliki kebijakan, mereka bertanya apakah kebijakan Anda benar berfungsi saat dijalankan.

00:02:13.890 --> 00:02:17.650
Jika Anda tidak bisa menghubungkan transaksi ke sponsor, Anda tidak patuh sesederhana itu.

00:02:17.650 --> 00:02:24.410
Kebanyakan perusahaan masih menggunakan kunci api statis untuk agen ini, seperti memberi kunci master kepada orang asing dan berharap mereka tidak membuka pintu yang salah.

00:02:25.330 --> 00:02:29.630
Anda harus memahami protokol agen Anda dan harus mengikat setiap panggilan alat ke kredensial tertentu.

00:02:30.210 --> 00:02:30.790
Namun, ini adalah masalah.

00:02:31.230 --> 00:02:36.270
Kebanyakan organisasi bahkan tidak tahu berapa banyak agen yang mereka miliki, dan hasilnya kita melihat lonjakan besar air bayangan.

00:02:37.290 --> 00:02:44.490
Karyawan membuat agen mereka sendiri untuk mengotomatiskan alur kerja dan menghubungkannya ke basis data internal serta memberi mereka akses ke data pelanggan yang sensitif.

00:02:44.490 --> 00:02:50.870
Mereka melakukan semua ini tanpa pengawasan, dan ini menciptakan permukaan serangan masif yang siap untuk dieksploitasi.

00:02:51.990 --> 00:02:59.310
Penyerang tidak perlu menembus firewall Anda jika mereka bisa membajak agen yang keamanannya buruk dan menggunakannya untuk mencuri data atau memicu transaksi tidak sah.

00:02:59.310 --> 00:03:06.310
Mereka bisa menggunakannya untuk melewati kontrol internal Anda, dan karena hanya 28% dari Anda yang memiliki keterlacakan, mereka bisa melakukannya tanpa jejak.

00:03:06.850 --> 00:03:10.250
Kita harus berhenti menganggap agen sebagai alat, dan mulai menganggapnya sebagai identitas.

00:03:11.030 --> 00:03:15.390
Jika Anda tidak bisa mengaudit penalarannya, Anda tidak bisa mempercaya hasilnya, dan itulah standar baru untuk 2020.

00:03:16.030 --> 00:03:20.190
Aturan NACA hanyalah awal dari pergeseran global menuju standar berbasis efektivitas.

00:03:20.430 --> 00:03:22.630
Ini bukan lagi tentang proses, melainkan hasil.

00:03:22.630 --> 00:03:28.770
Jika agen menyetujui transfer ACA yang curang, institusi yang bertanggung jawab, dan Anda tidak bisa bersembunyi di balik kotak hitam vendor.

00:03:29.430 --> 00:03:34.290
Anda harus bisa merekonstruksi alur keputusan dalam 60 menit, namun kenyataannya kebanyakan dari Anda belum bisa melakukannya.

00:03:34.890 --> 00:03:42.850
Anda terbang buta di lingkungan berkecepatan tinggi, dan krisis identitas agen otonom adalah risiko terbesar bagi stabilitas keuangan dalam 18 bulan ke depan.

00:03:43.270 --> 00:03:49.250
Ini adalah celah antara apa yang kita terapkan dan apa yang bisa kita kendalikan, tetapi masalahnya lebih dalam dari sekadar siapa pemilik agennya.

00:03:49.250 --> 00:03:52.690
Ini tentang bagaimana model itu sendiri terinfeksi.

00:03:53.730 --> 00:03:54.790
Pola infeksi lintas model

00:03:54.790 --> 00:03:58.230
Dulu kita mengira menggunakan banyak model memberikan jaring pengaman alami.

00:03:58.750 --> 00:03:59.410
Begikannya sederhana.

00:04:00.010 --> 00:04:02.250
Jika satu model memiliki bias atau cacat, mau deteksinya.

00:04:02.730 --> 00:04:03.750
Kami menyebutnya keragaman model.

00:04:04.230 --> 00:04:07.250
Namun dalam latskab 2026, asumsi itu telah sepenuhnya runtuh.

00:04:08.170 --> 00:04:10.390
Penelitian baru menunjukkan sesuatu yang jauh lebih mengganggu.

00:04:10.910 --> 00:04:14.270
Penyesuaian fine tuning satu model pada tugas yang tidak aman tidak hanya bertahan di model itu.

00:04:14.910 --> 00:04:17.090
Hal itu justru menginfeksi model yang tidak terkait dalam rantaian.

00:04:17.530 --> 00:04:18.110
Ini bukan teori.

00:04:18.110 --> 00:04:23.830
Kami melihat ketidakselarasan GPT-4 meluas keturunan QN dan Lama dengan tingkat replikasi 50%.

00:04:23.830 --> 00:04:27.490
Ini adalah penyebaran kerentanan yang viral di seluruh ekosistem.

00:04:28.110 --> 00:04:31.330
Anda mengira sedang membangun sistem berdundan dengan menggunakan penyedia yang berbeda.

00:04:31.970 --> 00:04:35.190
Kenyataannya, Anda hanya menciptakan lebih banyak note untuk jalur infeksi yang sama.

00:04:35.590 --> 00:04:38.470
Ini adalah pintu belakang rantai pasokan yang tidak akan pernah ditemukan oleh uji penetrasi.

00:04:38.850 --> 00:04:41.830
Sebagian besar tim keamanan masih mencari kerentanan kode tradisional.

00:04:42.630 --> 00:04:44.570
Mereka mencari buffer overflow atau injeksi SQL.

00:04:45.270 --> 00:04:46.630
Namun ancaman baru ini bersifat semantik.

00:04:46.630 --> 00:04:49.050
Ancaman ini tertanam dalam bubut model itu sendiri.

00:04:49.630 --> 00:04:52.130
Penyerang sekarang menggunakan teknik yang disebut adversarial hubness.

00:04:52.130 --> 00:04:53.790
Mereka tidak perlu merata server Anda.

00:04:54.290 --> 00:04:56.710
Mereka hanya perlu menanam satu dokumen berbahaya di basis pengetahuan.

00:04:57.130 --> 00:05:00.790
Karena cara kerja penyematan vektor, satu dokumen itu bisa bertindak seperti lubang gravitasi.

00:05:01.250 --> 00:05:03.270
Dokumen itu menarik 8% query RAG Anda.

00:05:03.690 --> 00:05:05.430
Anda mengira basis data vektor Anda adalah suatu pusaka.

00:05:05.830 --> 00:05:07.690
Anda mengira itu adalah repository kebenaran yang tersebut.

00:05:08.130 --> 00:05:10.770
Kenyataannya, itu menjadi jebakan bagi alur kerja otanam Anda.

00:05:11.490 --> 00:05:14.050
Saat agen Anda mengambil konteks untuk memproses transfer kawat,

00:05:14.230 --> 00:05:15.570
ia tidak hanya mendapatkan data.

00:05:16.130 --> 00:05:17.450
Ia mendapatkan instruksi yang telah diracuni.

00:05:17.450 --> 00:05:21.750
Model tersebut tidak melihat perbedaan antara faktur sah dan injeksi perintah tersembunyi.

00:05:22.350 --> 00:05:24.250
Disinilah strategi multimodel menjadi bumerak.

00:05:24.690 --> 00:05:26.490
Jika model utama Anda mengambil data beracun,

00:05:26.810 --> 00:05:28.950
ia meneruskan penelaran itu ke model sekundar.

00:05:29.590 --> 00:05:33.130
Karena model-model ini berbagi data pelatihan dasar dan arsitektur transformer serupa,

00:05:33.310 --> 00:05:34.790
mereka memiliki titik buta yang sama.

00:05:35.450 --> 00:05:36.330
Instruksi tersebut publikasi.

00:05:36.750 --> 00:05:40.310
Model kedua memvalidasi kesalahan model pertama karena ia rentan terhadap jebakan logika yang sama.

00:05:40.310 --> 00:05:45.890
Kami melihat tingkat keberhasilan injeksi berbasis roleplay ini mencapai hampir 90% di lingkungan keuangan.

00:05:46.570 --> 00:05:49.390
Model-model tersebut secara efektif saling membujuk untuk mengotorisasi penipu.

00:05:49.930 --> 00:05:52.790
Perambatan lintas model ini adalah pembunuh senyap keamanan AI.

00:05:53.530 --> 00:05:54.950
Anda mungkin memiliki firewall terbaik di dunia.

00:05:55.230 --> 00:05:58.110
Anda mungkin telah mengenkripsi basis data Anda dengan standar tertinggi.

00:05:58.230 --> 00:06:01.050
Semua itu tidak berarti jika logika penelarannya sendiri telah dikompromi.

00:06:01.430 --> 00:06:03.110
Para penyerang tidak mencoba merusak enkripsi Anda.

00:06:03.470 --> 00:06:05.670
Mereka mencoba merusak pemaman model Anda tentang realitas.

00:06:05.730 --> 00:06:09.350
Mereka menggunakan trik penyandian dan jebakan logika yang melewati filter teks tradisional.

00:06:09.350 --> 00:06:13.530
Jika gambar tanda terima berisi teks kontras rendah dengan perintah pengambil alian admin,

00:06:13.690 --> 00:06:15.330
sistem multimodel Anda akan membacanya.

00:06:15.930 --> 00:06:17.750
Sistem itu akan memprosesnya dan akan mengeksekusi.

00:06:18.170 --> 00:06:20.730
Begitulah transfer sebesar 250 ribu lalu itu terjadi.

00:06:21.050 --> 00:06:22.230
Itu bukanlah peretasan jaringan.

00:06:22.630 --> 00:06:23.790
Itu adalah peretasan konteks.

00:06:24.150 --> 00:06:27.210
Kita harus menerima bahwa model-model ini bersifat stokastik yang tidak dapat diprediksi.

00:06:27.430 --> 00:06:28.750
Mereka bukanlah perangkat lunak determinasi.

00:06:29.030 --> 00:06:30.690
Anda tidak bisa mengamankannya dengan aturan statis.

00:06:30.870 --> 00:06:32.050
Kerentanannya bukan ada pada kodenya.

00:06:32.430 --> 00:06:33.570
Itu ada pada mekanisme atensi.

00:06:33.570 --> 00:06:36.790
Itu ada pada cara model mengaburkan batas antara data dan instruksi.

00:06:36.790 --> 00:06:40.210
Saat Anda menumpuk beberapa model tanpa kerangka kerja adversarial,

00:06:40.450 --> 00:06:41.950
Anda hanya menumpuk lapisan kaca.

00:06:42.490 --> 00:06:43.710
Anda tidak sedang membangun berangkas.

00:06:44.090 --> 00:06:47.310
Anda sedang membangun rantai rapuh di mana satu retakan menghancurkan seluruh struktur.

00:06:47.970 --> 00:06:50.230
Untuk menghentikan ini, kita harus beralih dari gagasan pengujian.

00:06:50.610 --> 00:06:52.490
Kita harus beralih ke model peperangan berkelanjutan.

00:06:53.490 --> 00:06:55.570
Kita perlu berhenti bertanya apakah model itu amar rusaknya.

00:06:56.310 --> 00:06:58.210
Untuk menghentikan infeksi, kita harus membangun tantangan.

00:06:58.210 --> 00:07:00.550
Arsitektur tantangan multimodal

00:07:00.550 --> 00:07:02.270
Pengujian manual adalah penggunaan.

00:07:02.630 --> 00:07:06.570
Jika Anda masih mengandalkan manusia yang duduk di ruangan untuk mencoba menipu AI Anda, Anda sudah kalah.

00:07:07.050 --> 00:07:07.690
Manusia itu lambat.

00:07:08.230 --> 00:07:09.230
Model itu stokastik.

00:07:09.810 --> 00:07:13.750
Anda tidak bisa memprediksi setiap permutasi serangan multiputaran dengan spreadsheet dan tim konsultan.

00:07:14.730 --> 00:07:16.410
Saat tim merah Anda menemukan satu kerentanan,

00:07:16.550 --> 00:07:19.870
model dasarnya sudah diperbarui atau permukaan serangannya telah bergeser.

00:07:20.450 --> 00:07:21.590
Inilah sebabnya model lama gagal.

00:07:21.990 --> 00:07:22.430
Terstatis.

00:07:22.790 --> 00:07:23.330
Terreaktif.

00:07:23.330 --> 00:07:26.050
Dalam dunia keuangan 2026 yang berisiko tinggi,

00:07:26.310 --> 00:07:28.210
kita butuh sesuatu yang bergerak secepat ancamannya.

00:07:28.730 --> 00:07:29.650
Kita butuh tantangan itu.

00:07:30.110 --> 00:07:33.510
Arsitektur tantangan multimodal dibangun di atas prinsip sederhana dan brutal,

00:07:34.390 --> 00:07:37.090
mengadu berbagai LM satu sama lain dalam permainan zero zoom.

00:07:37.930 --> 00:07:39.150
Anda tidak hanya sedang menguji sistem.

00:07:39.550 --> 00:07:41.150
Anda sedang menciptakan panci presto evolution.

00:07:41.830 --> 00:07:42.990
Anda mengambil model penyerang.

00:07:43.150 --> 00:07:45.490
Sesuatu yang sangat kapabel seperti varian GPT khusus

00:07:45.490 --> 00:07:48.510
dan menugaskannya satu tujuan, melewati pertahanan.

00:07:49.230 --> 00:07:50.910
Pertahanannya adalah agen produksi Anda

00:07:50.910 --> 00:07:53.550
yang menangani transfer ACH dan persetujuan pinjaman tersebut.

00:07:54.270 --> 00:07:56.030
Mereka masuk ke dalam putaran otomatis yang berkelanjutan.

00:07:56.490 --> 00:07:59.470
Menyerang menghasilkan injeksi pro multilangkah yang canggih dan pertahanan,

00:07:59.930 --> 00:08:01.290
mencoba mempertahankan penyelarasannya.

00:08:01.830 --> 00:08:03.750
Ini bukan sekadar simulasi, ini adalah regimen pelatihan.

00:08:04.250 --> 00:08:05.910
Kami menggunakan apa yang kami sebut campuran 50.

00:08:06.310 --> 00:08:08.350
Saat Anda melakukan fine tuning pada gen keuangan,

00:08:08.750 --> 00:08:11.950
Anda tidak bisa hanya menggunakan data bersih yang sempurna dari sistem perbankan inti Anda.

00:08:12.250 --> 00:08:13.430
Itu membuat model menjadi rapuh.

00:08:13.810 --> 00:08:15.230
Sebaliknya, Anda menjenuhkan set pelatihan.

00:08:15.410 --> 00:08:18.770
Setengah datanya bersih, tetapi setengah lainnya terdiri dari contoh adversarial

00:08:18.770 --> 00:08:22.030
yang dihasilkan selama sesi tantangan, ini mencakup segalanya.

00:08:22.370 --> 00:08:25.830
Mulai dari jebakan logika salami slicing hingga pengambil lalihan multimodal tersebutnya yang kita bahas.

00:08:26.270 --> 00:08:28.530
Hasilnya adalah peningkatan ketahanan sebesar 70%.

00:08:28.530 --> 00:08:32.390
Anda secara efektif memvaksinasi AI Anda terhadap eksploitasi yang saat ini,

00:08:32.730 --> 00:08:33.750
melewati firewall Anda.

00:08:34.190 --> 00:08:35.310
Namun, dengan pergeseran strukturnya.

00:08:35.630 --> 00:08:36.650
Anda tidak hanya mencari park,

00:08:36.870 --> 00:08:39.350
Anda tidak mencoba menemukan rangkaian teks spesifik yang merusak model.

00:08:39.850 --> 00:08:41.470
Anda sedang memperkuat logika penalaran itu sendiri.

00:08:41.590 --> 00:08:44.110
Dalam kontret, kami menggunakan pelatihan pemikiran yang diperkuat.

00:08:44.510 --> 00:08:46.450
Kami memaksa pihak pertahanan untuk menunjukkan cara kerjanya.

00:08:46.450 --> 00:08:50.650
Jika penyerang mencoba menggunakan injeksi berbasis permainan peran untuk mengotorisasi transfer,

00:08:50.970 --> 00:08:53.130
pihak pertahanan harus menjelaskan alasannya di setiap langkah.

00:08:53.670 --> 00:08:55.830
Jika penalaran mulai menyimpang ketindakan yang tidak sah,

00:08:55.910 --> 00:08:57.210
kontret akan segera menandainya.

00:08:58.230 --> 00:09:01.210
Anda sedang mengajari model untuk mengenali rasa dari upaya paksaan.

00:09:01.670 --> 00:09:03.230
Arsitektur ini memecahkan masalah keragam.

00:09:03.810 --> 00:09:05.570
Dengan menggunakan keluarga model yang berbeda,

00:09:05.750 --> 00:09:08.890
mungkin model antropik untuk pertahanan dan model berbasis metal untuk penyerang,

00:09:09.210 --> 00:09:11.150
Anda memastikan titik buta tidak tumpang tindih.

00:09:11.790 --> 00:09:15.110
Anda menggunakan kekuatan satu arsitektur untuk mengungkap kelemahan arsitektur lainnya.

00:09:15.110 --> 00:09:16.650
Ini adalah siklus yang terus berlanjut.

00:09:17.310 --> 00:09:19.930
Saat penyerang menjadi lebih pintar, pertahanan menjadi lebih tangguh.

00:09:20.030 --> 00:09:23.150
Ini adalah lapisan keamanan yang dapat meningkatkan diri tidak tidur, tidak lelah,

00:09:23.590 --> 00:09:26.930
dan tidak melewatkan pergeseran semantik halus yang akan terlewatkan oleh penguji manusia.

00:09:27.870 --> 00:09:32.310
Bagi lembaga keuangan, ini adalah satu-satunya cara untuk memenuhi audit berbasis efektivitas mendatang.

00:09:33.010 --> 00:09:36.570
Anda dapat menunjukkan kepada regulator riwayat terdokumentasi dari jutaan serangan simulasi,

00:09:37.030 --> 00:09:38.390
dan bagaimana sistem Anda menghadapinya.

00:09:38.890 --> 00:09:42.110
Anda beralih dari dunia di mana Anda berharap aman ke dunia di mana Anda tahu persis

00:09:42.110 --> 00:09:44.730
seberapa besar tekanan yang dapat diterima logika Anda sebelum rusak.

00:09:45.570 --> 00:09:48.090
Ini adalah pergeseran dari pertahanan pasif ke peperangan aktif.

00:09:48.690 --> 00:09:51.530
Anda tidak lagi hanya membangun tembok, Anda sedang melatih seorang prejurit.

00:09:52.530 --> 00:09:56.590
Gauntlet ini menjadi mekanisme pertahanan utama Anda terhadap ancaman musuh generasi berikutnya.

00:09:57.410 --> 00:10:01.290
Ini mengubah postur keamanan Anda dari daftar aturan menjadi sistem yang dinamis dan berkembang.

00:10:01.970 --> 00:10:04.850
Anda akhirnya menyamai kecepatan model dengan kecepatan pertahanan.

00:10:04.850 --> 00:10:09.130
Ini adalah satu-satunya cara untuk memastikan alur kerja otonom Anda tetap tangguh di dunia

00:10:09.130 --> 00:10:12.370
di mana ancaman sama pintarnya dengan sistem yang coba mereka subversi saat ini.

00:10:13.730 --> 00:10:15.050
Gerangka Kerja Audit Kota Kaca

00:10:15.050 --> 00:10:20.870
Agustus 2026 bukan lagi sekadar tanggal acak di kalender kepatuhan karena kenyataannya itu adalah batas akhir yang tegas.

00:10:21.310 --> 00:10:23.590
Ini adalah momen tepat saat persyaratan berisiko tinggi.

00:10:24.130 --> 00:10:27.310
Dalam UUA-UA beralih dari teori menjadi peningkakan aktif.

00:10:27.850 --> 00:10:32.030
Jika Anda mengoperasikan agen otonom di sektor keuangan, Anda kini berada di bawah mikroskop.

00:10:32.030 --> 00:10:34.430
Namun, sifat pemeriksaannya telah berubah.

00:10:35.090 --> 00:10:40.290
Regulator beralih dari standar berbasis proses yang berarti mereka tidak lagi peduli dengan dokumentasi atau niat Anda.

00:10:40.750 --> 00:10:42.870
Mereka beralih menuju standar berbasis efektivitas.

00:10:43.350 --> 00:10:45.990
Mereka ingin melihat bahwa keamanan Anda benar berfungsi pada saat tergeserangan.

00:10:46.610 --> 00:10:51.730
Pergeseran ini memerlukan perpindahan dari kotak hitam AI tradisional ke apa yang kami sebut kerangka kerja audit Kota Kaca.

00:10:52.330 --> 00:10:54.370
Anda harus dapat menembus logika tersebut secara waktunya.

00:10:55.090 --> 00:10:58.050
Metrik paling krusial di arah baru ini adalah waktu rekonstruksi keputusan.

00:10:58.050 --> 00:11:02.730
Jika agen memindahkan uang, Anda harus bisa membuktikan alasannya dalam waktu kurang dari 60 menit.

00:11:03.290 --> 00:11:08.330
Bagi sebagian besar institusi, jawabannya saat ini adalah tidak karena mereka memiliki log tetapi tidak memiliki rentang penalaran.

00:11:08.690 --> 00:11:10.710
Mereka memiliki output tetapi tidak memiliki alasan di baliknya.

00:11:12.470 --> 00:11:16.190
Dalam kerangka kerja kotak kaca, setiap pemanggilan alat harus terikat pada kredensial.

00:11:16.390 --> 00:11:17.170
Kenali agen Anda.

00:11:17.170 --> 00:11:23.330
Ini bukan sekadar kunci API, melainkan identitas terverifikasi yang membawa otoritas sponsor manusia.

00:11:24.050 --> 00:11:27.010
Anda pada dasarnya menciptakan rantai pengawasan digital untuk setiap keputusan.

00:11:27.470 --> 00:11:30.750
Jika agen memutuskan untuk menghapus biaya atau menyetujui transfer berisiko tinggi,

00:11:30.870 --> 00:11:34.110
keputusan itu harus berendaskan parameter yang diotorisasi manusia.

00:11:35.210 --> 00:11:37.450
Kami menerapkan ini melalui konsep yang disebut otonomi termat.

00:11:37.450 --> 00:11:42.390
Agen menangani beban berat analitik dan eksekusi sementara manusia memegang tombol pemutus fisik.

00:11:43.010 --> 00:11:45.130
Ini bukan sekadar tombol yang ditekan saat terjadi masalah,

00:11:45.370 --> 00:11:48.930
melainkan batasan struktural atas apa yang bisa dilakukan agen tanpa verifikasi ulang eksplisit.

00:11:49.490 --> 00:11:53.830
Anda menentukan batasan kotak kaca dengan meletapkan ambang batas untuk risiko, nilai, dan penyimpan.

00:11:54.150 --> 00:11:59.390
Jika agen mencoba keluar dari batasan tersebut, sistem akan membekukan transaksi dan menuntut alasan dari manusia.

00:12:00.170 --> 00:12:05.310
Ini memenuhi tuntutan regulasi untuk pengawasan manusia dalam alur kerja tanpa mengorbankan kecepatan alur kerja otonom.

00:12:05.310 --> 00:12:08.670
Anda memberi agen ruang untuk bergerak namun Anda tetap menjaga kendali yang terlihat.

00:12:09.050 --> 00:12:10.790
Taruhan untuk gagal dalam audit ini sangatlah fatal.

00:12:11.690 --> 00:12:14.070
Kita berbicara tentang denda 7% dari omzet global,

00:12:14.330 --> 00:12:17.630
dan bagi bank besar itu angka yang bisa mengancam eksistensi institusi itu sendiri.

00:12:18.550 --> 00:12:21.110
Anda tidak bisa membiarkan keraguan saat auditor datang.

00:12:21.710 --> 00:12:25.730
Anda memerlukan jejak audit anti rusak yang menunjukkan jalur penalaran dari setiap tindakan agen.

00:12:26.270 --> 00:12:28.510
Ini berarti mencatat tujuan, konteks yang diambil,

00:12:29.030 --> 00:12:31.950
pemanggilan alat, dan hasil akhir dengan cara yang tidak bisa diubah.

00:12:32.290 --> 00:12:34.750
Anda sedang membangun perangkas untuk logika itu sendiri,

00:12:34.750 --> 00:12:38.070
dan ini adalah satu-satunya cara untuk bertahan di lanskap regulasi 2026.

00:12:38.450 --> 00:12:40.890
Anda harus mampu membuka kotak tersebut dan menunjukkan mekanisme internal.

00:12:41.390 --> 00:12:44.490
Kerangka kerja ini juga melindungi Anda di serangan salami slicing yang kita bahas.

00:12:45.130 --> 00:12:47.190
Dengan memantau rentang penalaran seiring waktu,

00:12:47.350 --> 00:12:50.090
kotak kaca dapat mendeteksi saat logika agen perlahan terkikis.

00:12:50.570 --> 00:12:53.050
Ini mencari kontradiksi dalam kebijakan atau perubahan nada

00:12:53.050 --> 00:12:55.350
yang mengindikasikan adanya injeksi multilangkah.

00:12:55.810 --> 00:12:59.290
Ini memberikan visibilitas yang Anda perlukan untuk menangkap penyimpangan sebelum berubah menjadi bank.

00:12:59.710 --> 00:13:01.510
Anda tidak lagi hanya bereaksi terhadap peringatan,

00:13:01.650 --> 00:13:03.530
tetapi mengamati kesehatan dari penalaran itu sendiri.

00:13:03.530 --> 00:13:05.730
Menyiapkan ini terdengar mahal dan rumit,

00:13:05.850 --> 00:13:09.610
serta menuntut pemikiran ulang menyeluruh atas arsitektur data dan model tata kelola Anda.

00:13:10.230 --> 00:13:11.650
Namun jika melihat alternatifnya,

00:13:11.830 --> 00:13:14.830
biaya kotak kaca ini menjadi investasi terbaik yang pernah Anda lakukan.

00:13:15.730 --> 00:13:16.810
Beralih ke model ini adalah

00:13:16.810 --> 00:13:20.530
jembatan antara otomatisasi sembrono dan keuangan yang tangguh serta dapat diaudit.

00:13:21.310 --> 00:13:22.510
Ini adalah pergisarannya darah apa menucup.

00:13:23.510 --> 00:13:25.850
ROI, Perang Proaktif vs Pembersihan Reaktif

00:13:25.850 --> 00:13:29.050
Mari kita lihat hitungan matematis yang dingin dan nyata di tahun 2020.

00:13:29.050 --> 00:13:33.890
Di sektor keuangan, biaya rata-rata kebocoran data kini mendekati 5,8 juta.

00:13:34.790 --> 00:13:37.090
Angka itu bukan sekadar berita utama untuk menakuti Anda,

00:13:37.250 --> 00:13:41.090
melainkan kerugian nyata dari forensik digital, biaya hukum, dan denda regulasi.

00:13:41.970 --> 00:13:46.330
Anda juga harus mempertimbangkan hilangnya nasabah kaya raya yang kehilangan kepercayaan pada infrastruktur Anda

00:13:46.330 --> 00:13:47.670
saat data mereka muncul di dark web.

00:13:47.670 --> 00:13:49.350
Jika melihat neraca keuangan,

00:13:49.630 --> 00:13:52.090
Pembersihan Reaktif adalah cara paling mahal untuk menjalankan bab.

00:13:52.450 --> 00:13:53.950
Anda membayar mahal untuk sebuah kegalan.

00:13:54.630 --> 00:13:57.590
Sebaliknya, Perang Proaktif memberikan rasio penghindaran biaya sebesar 6,1.

00:13:58.310 --> 00:14:00.450
Untuk setiap dolar yang Anda habiskan pada uji multimodal,

00:14:00.550 --> 00:14:01.890
Anda menghemak nanda belasian dan denda.

00:14:02.470 --> 00:14:03.790
Ini bukan sekadar metrik keamanan,

00:14:04.230 --> 00:14:06.850
melainkan langkah efisiensi mendasar bagi perusahaan keuangan modern.

00:14:07.430 --> 00:14:09.090
Pengujian manual adalah biaya yang siasif.

00:14:09.090 --> 00:14:10.590
Anda membayar waktu seseorang,

00:14:10.970 --> 00:14:12.430
mereka menemukan beberapa bag dangkal,

00:14:12.630 --> 00:14:13.870
lalu beralih ke proyek berikutnya.

00:14:14.230 --> 00:14:15.550
Pengetahuan itu bersifat statis,

00:14:15.550 --> 00:14:18.470
dan tidak meningkatkan logika inti model atau ketangguhannya seiring waktu.

00:14:18.910 --> 00:14:20.670
Red teaming multimodal adalah aset strategis.

00:14:21.210 --> 00:14:24.110
Anda membangun perpustakaan kecerdasan adversarial yang terus berkembang.

00:14:24.190 --> 00:14:25.810
Anda sedang memperkuat kekayaan intelektualan.

00:14:26.330 --> 00:14:28.790
Anda menciptakan parit pertahanan di sekitar alur kerja otonom

00:14:28.790 --> 00:14:30.430
yang tidak bisa ditandingi kompetitor.

00:14:31.230 --> 00:14:34.070
Inilah perbedaan antara pusat biaya dan keunggulan strategis.

00:14:34.750 --> 00:14:36.490
Saat mereka sibuk memenuhi syarat formalitas,

00:14:36.490 --> 00:14:38.390
Anda membangun benteng yang belajar dari setiap serang.

00:14:38.730 --> 00:14:40.970
Anda mengubah anggaran keamanan dari beban pengeluaran

00:14:40.970 --> 00:14:42.450
menjadi peningkatan modal jangka panjang.

00:14:42.850 --> 00:14:44.070
Pasar sudah memperhitungkan hal ini.

00:14:44.070 --> 00:14:46.970
Asuransi SIBER tidak lagi menawarkan tarif seragam

00:14:46.970 --> 00:14:49.730
karena mereka kini memeriksa log pengujian adversarial Anda.

00:14:50.370 --> 00:14:52.450
Jika Anda dapat memberikan bukti terdokumentasi

00:14:52.450 --> 00:14:54.350
tentang red teaming multimodal berkelanjutan,

00:14:54.490 --> 00:14:56.410
kami melihat pengurangan premi hingga 20%.

00:14:56.410 --> 00:14:59.430
Pihak asuransi tahu bahwa model yang diperkuat memiliki liberitas.

00:15:00.090 --> 00:15:02.390
Mereka pada dasarnya mensubsidi peningkatan keamanan Anda

00:15:02.390 --> 00:15:04.170
karena itu mengurangi risiko pembayaran klaim yang besar.

00:15:04.310 --> 00:15:06.070
Jika Anda tidak melakukan ini,

00:15:06.230 --> 00:15:09.450
Anda sebenarnya membayar pejak kerentanan pada asuransi Anda setiap bulan.

00:15:09.990 --> 00:15:12.490
Anda membuang peluang keuntungan sambil meningkatkan paparan risiko Anda.

00:15:12.490 --> 00:15:15.170
Di luar premi, kita harus berbicara tentang nampak kerusakan yang ditimbul.

00:15:15.710 --> 00:15:16.490
Sikap reaktif.

00:15:16.790 --> 00:15:19.010
Mengasumsikan Anda bisa menahan pelanggaran setelah terjadi.

00:15:19.330 --> 00:15:21.810
Tetapi dalam lingkungan agen, itu adalah khayaran berbahaya.

00:15:22.550 --> 00:15:24.410
Satu infeksi pada korpus yang tepat dapat menyebar

00:15:24.410 --> 00:15:26.070
ke setiap sistem yang terhubung dalam rataan.

00:15:26.510 --> 00:15:27.470
Dengan merapkan gauntlet,

00:15:27.730 --> 00:15:29.710
Anda memaksakan isolasi struktural terhadap data Anda.

00:15:30.410 --> 00:15:31.990
Anda belajar mengenkripsi embedding

00:15:31.990 --> 00:15:33.330
dan membatasi pengambilan data

00:15:33.330 --> 00:15:34.850
sehingga jika satu agen dibajak,

00:15:35.030 --> 00:15:36.330
sisanya tetap terkunci rapat.

00:15:36.830 --> 00:15:38.870
Anda menciptakan strategi pertahanan mendalam

00:15:38.870 --> 00:15:41.430
yang melindungi aset paling sensitif Anda dari dasarnya.

00:15:41.950 --> 00:15:42.890
Anda sedang membeli ketahanan.

00:15:43.610 --> 00:15:45.170
Anda memastikan satu jebakan logika

00:15:45.170 --> 00:15:47.970
tidak berubah menjadi keruntuhan sistemik seluruh operasi keuangan Anda.

00:15:49.010 --> 00:15:50.770
Anda membangun sistem yang mampu menerima hantaman

00:15:50.770 --> 00:15:51.710
dan terus melangkah maju.

00:15:52.530 --> 00:15:53.870
Peta jalan untuk membesi suara pemulihan.

00:15:54.530 --> 00:15:56.690
Bagaimana cara Anda benar-benar mulai membangun ini di lingkungan Anda?

00:15:57.150 --> 00:15:59.130
Peta jalan ini bukan tentang membeli paket perangkat monopat.

00:15:59.570 --> 00:16:01.110
Ini tentang merekaya seulang visibilitas Anda.

00:16:01.610 --> 00:16:02.810
Angka pertama adalah inventarisasi.

00:16:02.870 --> 00:16:04.070
Anda harus menemukan Anda.

00:16:04.070 --> 00:16:06.270
Saat ini, ada agen di lingkungan Anda

00:16:06.270 --> 00:16:08.890
dengan kunci API yang tidak pernah dilihat tim keamanan Anda.

00:16:09.750 --> 00:16:12.570
Ini dibangun oleh pengembang atau analis untuk masalah tertentu

00:16:12.570 --> 00:16:15.010
dan mereka terhubung ke data produksi Anda

00:16:15.010 --> 00:16:16.450
tanpa pengawasan.

00:16:17.110 --> 00:16:17.750
Masalahnya sederhana.

00:16:18.290 --> 00:16:19.670
Anda tidak bisa mengaman, kenapa yang tidak bisa menelit?

00:16:20.130 --> 00:16:22.470
Anda perlu audit total setiap alur kerja otonom

00:16:22.470 --> 00:16:24.650
yang berarti mengidentifikasi setiap sponsor manusia

00:16:24.650 --> 00:16:25.930
dan tingkat izin di semua lini.

00:16:26.610 --> 00:16:28.210
Inventarisasi ini adalah langkah pertama

00:16:28.210 --> 00:16:30.390
dalam mendapatkan kembali kendali atas perimeter jicetak.

00:16:30.830 --> 00:16:33.150
Jika tidak ada sponsor, tidak ada agen, Anda harus mematikannya.

00:16:34.070 --> 00:16:37.610
Langkah kedua adalah beralih dari log sederhana ke pelacakan kausal.

00:16:38.130 --> 00:16:40.210
Log peristiwa lama hanya memberitahu bahwa transaksi terjadi

00:16:40.210 --> 00:16:41.630
tetapi tidak menjelaskan alasannya.

00:16:42.250 --> 00:16:44.770
Anda perlu menyebarkan rentang penalaran multilangka sebagai gantinya.

00:16:45.150 --> 00:16:47.430
Ini memungkinkan Anda mengikuti proses berpikir agen

00:16:47.430 --> 00:16:48.770
di seluruh rantai eksekusi.

00:16:49.630 --> 00:16:51.850
Saat agen gagal, Anda seharusnya tidak melihat pelacakan tepukan.

00:16:52.370 --> 00:16:53.550
Anda harus melihat peta kausal

00:16:53.550 --> 00:16:56.810
yang menunjukkan tepat di mana penalaran disubversi oleh input adversarial.

00:16:57.250 --> 00:16:58.270
Anda perlu melihat logikanya,

00:16:58.270 --> 00:17:00.490
bukan hanya hasilnya untuk benar-benar memahami desikonya.

00:17:00.990 --> 00:17:02.070
Inilah fondasi dari gauntlet.

00:17:02.070 --> 00:17:05.770
Tanpa pelacakan kausal, Anda hanya menebak akar penyebab kegagalan

00:17:05.770 --> 00:17:08.590
dan akhirnya hanya mengobati gejala, bukan penyakitnya.

00:17:09.650 --> 00:17:11.870
Langkah ketiga adalah penerapan optimalisasi perdagangan.

00:17:12.830 --> 00:17:15.070
Di sinilah Anda menyeimbangkan akurasi dengan ketangguhan.

00:17:15.930 --> 00:17:17.410
Dalam konteks keuangan berisiko tinggi,

00:17:17.610 --> 00:17:19.830
Anda tidak bisa memiliki model yang 9% angkurat

00:17:19.830 --> 00:17:22.190
tetapi 0% tangguh terhadap injeksi perintah.

00:17:23.150 --> 00:17:24.570
Anda menggunakan data dari gauntlet Anda

00:17:24.570 --> 00:17:26.890
untuk menyempurnakan model menggunakan minimisasi kerugian pengantis.

00:17:26.890 --> 00:17:29.770
Dengan melakukan ini, Anda secara eksplisit memberi tahu model

00:17:29.770 --> 00:17:32.770
bahwa tetap selaras di bawah tekanan sama pentingnya dengan memberikan jawabannya benar.

00:17:33.510 --> 00:17:37.050
Anda membangun kesadaran adversarial ke dalam bobot jaringan saraf tersebut.

00:17:37.770 --> 00:17:39.690
Anda membuat model cukup cerdas untuk mengetahui

00:17:39.690 --> 00:17:43.810
kapan ia dimanipulasi oleh aktor jahat yang mencoba mengeksploitasi sistem otonom Anda.

00:17:44.590 --> 00:17:46.870
Teta jalan ini mengubah pusat operasi keamanan Anda.

00:17:47.410 --> 00:17:48.930
Anda beralih dari kelelahan peringatan

00:17:48.930 --> 00:17:52.570
di mana manusia tenggelam dalam ribuan peringatan minim konteks menuju triasa otonom.

00:17:52.570 --> 00:17:55.590
Arsitektur Anda mulai mengantisipasi serangan

00:17:55.590 --> 00:17:58.330
karena telah melihatnya jutaan kali dalam simulasi gauntlet.

00:17:59.030 --> 00:18:00.890
Anda tidak hanya bereaksi terhadap ancaman hari ini.

00:18:01.610 --> 00:18:03.550
Anda mengamankan alur kerja otonom untuk masa depan.

00:18:04.190 --> 00:18:06.550
Anda beralih dari dunia di mana Anda menafigasi risiko ke dunia

00:18:06.550 --> 00:18:07.870
di mana Anda mengendarikan konteksnya.

00:18:08.210 --> 00:18:09.170
Ini adalah perubahan terakhir.

00:18:09.570 --> 00:18:11.310
Beginilah cara Anda membangun berangkas keuangan

00:18:11.310 --> 00:18:12.690
yang benar-benar kokoh di era Agen AI.

00:18:13.350 --> 00:18:15.090
Anda akhirnya membangun untuk dunia yang sebenarnya,

00:18:15.090 --> 00:18:16.310
bukan dunia yang Anda harapkan.

00:18:17.630 --> 00:18:18.030
Mulai sekarang.

00:18:19.290 --> 00:18:20.930
Anda kini memiliki kerangka kerja

00:18:20.930 --> 00:18:22.490
untuk beralih dari sekadar memenuhi syarat.

00:18:23.630 --> 00:18:24.410
Tugas Anda jelas.

00:18:25.290 --> 00:18:26.850
Audit satu alur kerja otonom minggu ini

00:18:26.850 --> 00:18:27.950
untuk melacak sponsornya.

00:18:28.730 --> 00:18:30.470
Jika Anda tidak dapat menemukan pemilik manusianya,

00:18:30.550 --> 00:18:31.490
agen tersebut adalah sponsornya.

00:18:31.950 --> 00:18:33.750
Jika perubahan pola pikir ini membantu Anda

00:18:33.750 --> 00:18:36.050
tinggalkan ulasan untuk podcast M365FM.

00:18:36.670 --> 00:18:37.890
Ini membantu lebih banyak pemimpin

00:18:37.890 --> 00:18:38.750
menemukan sinyal di tengah.

00:18:39.330 --> 00:18:40.970
Terhubunglah dengan saya, Mirko Peters, di link.

00:18:41.370 --> 00:18:43.170
Beritahu saya risiko aiman yang membuat Anda sulit tidur.

00:18:43.310 --> 00:18:44.970
Era pengujian manual telah berakhir.

00:18:45.670 --> 00:18:47.490
Saatnya membangun untuk realitas server-serapan.
