Masalah Copilot Anda sebenarnya bukanlah masalah fitur. Ini adalah masalah kepercayaan pada model di balik. Kebanyakan tim masih berpikir keamanan ada pada prom, izin, dan beberapa filter di lapisan terluar. Namun kenyataannya, penyerang tidak perlu mengalahkan prom Anda, mereka hanya perlu memajuni konteks di sekitarnya, dan disitulah segalanya rusak. Filter dasar bisa menangkap sampah yang jelas, tetapi mereka melewatkan muatan tersembunyi di email, file SharePoint, atau bidang formulir. Konten yang diambil ini berdiam diri di sana, sampai Copilot menariknya dan memperlakukannya seperti instruksi langsung. Kita sudah melihat tanda-tanda peringatan dengan kebocoran Echo di Microsoft 3 dan Share di Copilot Studio dan kebocoran Share di Copilot Studio. Dan kenyatanya adalah bahwa penambahan tidak menghentikan pola tersebut. Karena Copilot dapat mencari, meringkas, dan bertindak di seluruh lingkungan Microsoft di galur instruksi yang buruk dapat menyebar dengan cepat. Jadi ini bukan tentang menambahkan dashboard lain ketumpukan Anda, tetapi tentang menempatkan Azure Dot tersebut untuk memeriksa, menilai, dan memblokir muatan berbahaya sebelum Copilot berjalan. Bahaya yang sebenarnya adalah arsitekturnya, bukan prom. Model lama berasumsi Anda bisa menjaga sistem tetap aman dengan menulis instruksi yang lebih baik di sekitar model. Anda memberinya prom sistem yang kuat, Anda menambahkan pembatas, dan Anda memberitahu pengguna apa yang tidak boleh dilakukan. Itu terdengar masuk akal di atas kertas, tetapi kenyataannya model tidak menegakkan batasan kepercayaan seperti sistem keamanan karena ia membaca bahasa dalam satu saluran bersama di mana instruksi dan data bersaing untuk mendapatkan perhatian. Asumsi itulah kelemahan. Jika model tidak dapat membedakan andal antara pengguna yang meminta bantuan dan dokumen yang diam-diam menyuruhnya mengabaikan instruksi sebelumnya, maka titik kontrol tidak bisa hanya berada di lapisan prom. Anda mencoba mengamankan perilaku di lapisan terluar sementara risiko sebenarnya terletak pada aliran konteks yang masuk ke model. Hal ini disadari oleh banyak tim setelah beban kerja Copilot yang berat dalam pengambilan data. Saat Copilot mulai menarik data dari email, file, dan riwayat obrolan Microsoft Graph, permukaan serangan berubah sepenuhnya. Anda tidak lagi hanya mengamankan percakapan, Anda mengamankan aliran langsung input dengan tingkat kepercayaan yang berakhir. Dan satu tingkat lebih dalam, Copilot meningkat kenjangkauan. Ia tidak hanya menjawab pertanyaan, ia mengambil, meringkas, dan mengikuti referensi. Dalam beberapa pengaturan, ia bahkan dapat memicu alat atau alur. Jadi ketika konten yang tidak dipercaya yang masuk ke dalam rantai itu, model dapat membawa pengaruh tersebut ke tindakan sensitif. Itulah mengapa injeksi PROM tidak langsung sangat penting saat ini. Dalam sistem produksi, serangan umum tidak selalu berubah pengguna yang mengetik abaikan aturan Anda ke dalam kotak obrol. Versi yang lebih berbahaya ada di dalam konten yang diambil seringkali, berminggu-minggu sebelum ada yang menyadarinya. Dokumen beracun, email yang dibuat khusus, atau entry formulir mungkin tampak tidak berbahaya bagi manusia, tetapi mengandung instruksi yang ditujukan langsung ke model. Kemudian, co-pilot mengambil konten tersebut sebagai konteks yang relevan, memadukannya dengan materi terpercaya, dan model mengikuti hal yang salah. Rantai serangannya sederhana, dan itulah yang membuatnya berbahaya. Pertama, penyerang menempatkan konten di tempat yang nantinya bisa dijangkau co-pilot. Lalu pengambilan membawa konten itu ke dalam sesi, kemudian model memperlakukan pilot sebagai instruksi bukan data. Setelah itu, ia bisa mulai mengatur informasi sensitif, membentuk respons, atau mendorong data ke jalur eksfiltrasi melalui tautan atau penggunaan alat. Jadi, bagi para pemimpin, ini bukan sekadar kebersihan AI, melainkan kontrol runtime yang terikat langsung pada tata kelolaks. Jika co-pilot memiliki jangkauan luas di seluruh penyewa, dan model menggunakan konteks kepercayaan campuran tanpa pemisahan yang ketat, model keamanan Anda harus memperhitungkan apa yang masuk ke alur sebelum eksekusi. Setelah Anda melihatnya, perbaikannya juga baru. Anda berhenti terobsesi dengan prompt yang sempurna, dan mulai menerapkan penegakan di tempat konteks bergerak. Mengapa pertanda sergagal dalam produksi? Kebanyakan tim membuat kesalahan mendasar sejak awal. Mereka berasumsi kontrol keamanan yang telah mereka gunakan bertahun-tahun dalam pengembangan aplikasi akan berfungsi sama baiknya untuk kopi. Mereka menulis prompt system yang lebih kuat, memungkus input pengguna dengan karakter khusus, dan merebitkan pedoman karyawan, lalu mereka merasa aman. Langkah-langkah itu tidak buruk, dan saya tidak akan menyuruh Anda berhenti melakukannya, tetapi itu tidak menciptakan batasan keamanannya. Mereka hanya mencoba membujuk model untuk berperilaku, dan dalam keamanan, persuasi tidak sama dengan penegakan. Disitulah kesenyangannya berada. file itu ditarik ke ruang kerja. Menggunakan pembatas mungkin membantu menyusun teks, tetapi tidak memberi model cara untuk memeriksa izin keamanan. Panduan karyawan bagus untuk menghentikan kesalahan yang tidak disengaja, tetapi sama sekali tidak berpengaruh terhadap dokumen beracun atau pelu tersembunyi dalam data yang Anda ambil. Kontrol tersebut ada sebagai saran, bukan sebagai aturan ketat yang berjalan saat ekskusi. Regex memiliki masalah instruksi. Regex cepat dan murah, jadi layak digunakan sebagai pemeriksaan awalnya. Jika pengguna mengetik abaikan semua instruksi sebelumnya, sistem Anda harus menangkapnya dalam beberapa mili detik. Anda juga dapat menggunakannya untuk menandai rasa pintasan privasi yang jelas atau karakter gaya SQL dalam argumen alat Anda. Bagian itu berfungsi dengan baik, namun regex hanya mengenali pola yang telah Anda tentukan, sehingga gagal saat kata-kata sedikit berubah atau saat serangan didasarkan pada makna alih-alih kata-kata tertentu. Ini adalah sebabnya Anda menggunakan lapisan mengklasifikasi. Azure Eye Content Safety memiliki perisai PROM yang dapat mendeteksi serangan injeksi langsung maupun tidak langsung. Dalam Logic App, Anda bisa memanggil API untuk memeriksa PROM sebelum model melihatnya, lalu mengubah alur kerja jika serangan terdeteksi. Ini adalah kontrol yang jauh lebih kuat daripada pencocokan string sederhana karena mencari maksud dibalik kata-kata di seluruh PROM dan dokumen secara bersamaan. Meski begitu, deteksi saja tidak cukup karena melihat risiko tidak ada gunanya jika Anda tidak punya cara untuk menghentikannya. Keamanan seringkali meremehkan bagian spesifik dari proses ini. Peringatan di file lock bukanlah penahanan dan tampilan dashboard yang cantik juga bukan penahanan. Bahkan peringatan prioritas tinggi di CM Anda tetap gagal jika pilot telah bergerak melalui co-pilot dan memicu tindakan di sistem hilir. Meninjau apa yang terjadi setelahnya berguna untuk investigasi tetapi tidak cukup baik saat serangan terjadi dalam hitungan detik. Anda berurusan dengan model yang dapat bertindak di dalam sistem yang sudah dipercaya organisasi Anda. Ada juga masalah dengan negatif palsu yang diabaikan oleh sebagian besar pemasaran produk. Serangan tidak langsung menyebabkan sebagian besar deteksi yang terlewat di dunia nyata karena instruksi berbahaya terlihat normal sampai model menggabungkannya dengan sisa percakapan. Kesalahan input buruk tersebut sudah menyelesaikan tugasnya. Kesalahan praktis di sini sangat sederhana. Tim menghabiskan seluruh waktu mereka mengawasi apa yang dikatakan co-pilot tetapi mereka tidak mengontrol apa yang masuk ke dalamnya dengan disiplin yang sama. Mereka memeriksa jawaban setelah dihasilkan sambil membiarkan materi yang tidak terpercaya masuk sebelum pekerjaan dimulai. Urutan itu benar-benar terbalik. Setelah Anda mengenali kekurangan tersebut seluruh tujuan strategi keamanan Anda berubah. Anda berhenti bertanya bagaimana cara menulis prom yang lebih aman dan mulai bertanya di mana Anda bisa mencegat data sebelum menerima model logic app firewall. Jika pencegatan adalah tujuannya kita perlu melihat seperti apa kontrol itu sebenarnya dalam praktek. Anda harus menggunakan Azure logic apps bagi lapisan kebijakan yang berada di depan fase eksekusi. Itu seharusnya bukan alat pasif yang mengirimkan laporan setelah kerusakan terjadi. Anda perlu menempatkannya langsung di jalur tempat input pengguna dan data yang diambil berada sehingga dapat diperiksa sebelum model mulai bekerja. Perubahan ini sangat kuat karena apps dibangun untuk orkestrasi. Ini dapat memicu peristiwa tertentu memanggil API lain dan membuat keputusan berdasarkan kondisi yang kompleks. Anda dapat merutekan data mengirim peringatan ke Microsoft Sentinel dan memperkaya proses dengan informasi luar tanpa perlu membangun gateway keamanan khusus dari awal. Anda tidak sedang mencoba menggantikan copelo di sini. Anda hanya menyisipkan lapisan kontrol ke dalam alur di sekitarnya. Logika dibalik model ini dibuat sederhana dengan sengat. Pertama Anda micu prosesnya lalu Anda menormalisasi data. Anda memeriksanya menilai risikonya membuat keputusan dan akhirnya merutekan atau mencatat hasil. Itulah keseluruhan polanya. Saat permintaan atau konten masuk ke alur kerja Logic App menarik payload tersebut dan menstandardisasinya. Input mentah biasanya berantakan karena konektor yang berbeda menangani data dengan cara yang berbeda pula. Innel terlihat berbeda dari entry formulir dan konten file atau argumen alat semuanya disertai metadata dan kolom yang berbeda. Jika Anda mencoba menjalankan pemeriksaan sebelum menormalisasi data tersebut sistem deteksi Anda akan sangat berisik. Telah payload diratakan menjadi format yang konsisten tahap pemeriksaan pertama dimulai. Akhir atau perbaikan ajaib tetapi berfungsi sebagai filter yang sangat cepat di tepi sistem Anda. Anda dapat dengan cepat memindai bahasa penggantian diketahui, petunjuk pengodean atau pola mencurigakan dalam parameter alat untuk mendapatkan triasi instan atas situasi tersebut. Kemudian Anda beralih ke tahap pemeriksaan kedua yang masuk jauh lebih dalam konten. Disinilah Anda memanggil perisai prom keamanan konten Azure AI. Logic App mengirimkan prom pengguna dan dokumen yang diambil ke API lalu bercabang berdasarkan apakah serangan terdeteksi. Ini penting karena injeksi prom tidak selalu terlihat seperti kode komputer yang jelas. Terkadang bahaya hanya menjadi jelas ketika prom dan dokumen dievaluasi sebagai satu kesatuan. Ada satu lapisan lagi yang mengubah ini dari filter sederhana menjadi kontrol keamanan nyata yaitu intelijen ancaman. Jika suatu konten mereferensikan domain berbahaya yang diketahui atau URL mencurigakan yang pernah dilihat tim Anda sebelumnya itu harus mengubah keputusan Anda. Logic App dapat meriksa peristiwa tersebut terhadap intelijen ancaman defender atau fit pihak ketiga lainnya untuk menambahkan skor kepercayaan pada risiko tersebut. Ini berarti pola aneh dari sumber terpercaya mungkin diizinkan lewat. Sementara pola yang sama yang dipasangkan dengan skor reputasi buruk akan segera diblokir. Ini mengubah pohon keputusan Anda menjadi sesuatu yang lebih dari sekadar pilihannya atau tidak. Anda dapat mengizinkan permintaan jika skor risikonya rendah atau Anda dapat membersihkannya dengan menghapus fragment yang tidak aman. Anda mungkin memilih untuk mengharantina data jika sumbernya memerlukan peninjauan menurut. Jika tindakan tersebut melibatkan data sensitif Anda bahkan dapat meminta persetujuan manusia sebelum dilanjutkan. Tentu saja jika sinyal cukup kuat Anda cukup memblokir permintaan tersebut dan mengirimkan peringat. Rakaian opsi itulah yang membuat model ini benar-benar berfungsi bagi bisnis. Tim keamanan seringkali menghambat adopsi karena mereka menolak setiap kasus yang terlihat sedikit tidak pasti dan ketika kontrol terlalu ketat orang akan mencari cara untuk mengakalinya. Alur kerja dengan penilaian memberi Anda ruang untuk merespons berdasarkan risiko aktual bukan kepanik. Inilah alasan mengapa Logic Apps lebih cocok daripada kumpulan alat yang terpisah. Ini sudah terhubung dan mendorong peristiwa audit semuanya di satu tempat. Anda tidak memerlukan siklus pengembangan yang panjang setiap kali penyerang mengubah rasa mereka atau muncul cara baru untuk memasuki sistem. Aturan yang membuat semua ini berfungsi sangatlah mudah. Anda harus memperlakukan setiap bagian konteks sebagai tidak terpercaya sampai nilainya dinilai. Itu tidak hanya berarti prom pengguna tetapi juga isi email, file yang diunggah dan kolom formulir share point. Ini mencakup payload konektor, potongan dokumen yang diambil dan bahkan argumen alat. Semuanya harus diperiksa. Saat Anda menganggap salah satu sumber tersebut aman secara default, Anda telah menciptakan celah baru untuk digunakan penyerang. Setelah alur kerja Anda menerapkan aturan ini secara konsisten, Anda tidak perlu lagi mengandalkan co-pilot untuk memisahkan data baik dari data buruk secara mandiri. Prosesnya menjadi sistem entry yang terkontrol. Di atas kertas, itu terdengar seperti teori yang hebat tetapi yang sebenarnya dipedulikan orang adalah apa yang terjadi ketika pilot berbahaya benar-benar menyerang alur kerja di dunia nyata. Apa yang sebenarnya dilakukan alur kerja? Saat runtime, ketika sistem mulai beroperasi, ia tidak hanya memindai teks untuk kata-kata buruk, ia membangun gambaran lengkap tentang permintaan tersebut sebelum keputusan apapun dibuat. Sebuah peristiwa mencapai titik masuk Anda, mungkin pengiriman formulir, alur email, atau unggahan dokumen yang terikat pada proses co-pilot, dan logic apps karena membungkus peristiwa tersebut dengan metadata. Ia melacak siapa yang mengirim permintaan, aplikasi mana yang menyentuhnya, dari mana file tersebut berasal, dan apa yang akan dilakukan sistem selanjutnya. Konteks tambahan ini sangat penting karena kalimat yang sama bisa berarti hal yang sangat berbeda tergantung dari mana asalnya. Setelah data itu diambil, payload, dibagi ke dalam zona kepercayaan tertentu, Anda harus menjaga pemisahan tertentu. Prom pengguna masuk ke satu wadah, dokumen yang diambil ke wadah lain, serta file percakapan atau parameter alat mendapatkan ruangnya sendiri. Jika Anda menggabungkan semua ini terlalu dini, Anda akan kehilangan kemampuan untuk mengetahui dari mana instruksi berisiko itu sebenarnya, permula dan proses peninjauan Anda menjadi tebak-tebakan. Banyak tim melewatkan langkah ini karena menggabungkan semuanya terasa lebih cepat. Namun kenyataannya, hal itu justru menyembunyikan jalur yang perlu Anda ikuti. Selanjutnya, alur kerja beralih ke normalisasi. Ini adalah bagian pekerjaan yang membosankan, tetapi ini juga yang membuat deteksi Anda benar-benar dapat digunakan. Anda perlu menghapus markup yang menambah gangguan, mendekode URL encoding atau jejak base 64, dan meratakan bidang bertingkat agar inspeksi berjalan pada bentuk yang stabil. Jika satu konektor mengirim teks kaya, sementara yang lain mengirim fragment JSON, Anda ingin semuanya direduksi menjadi bidang yang dapat dibaca secara konsisten oleh pemeriksaan Anda. Tanpa ini, logika Anda akan menghabiskan lebih banyak waktu untuk mengatasi pergeseran format daripada menemukan serangannya. Setelah data bersih, pemeriksaan pula cepat dijalankan terlebih dahulu. Proses ini harus murah, langsung, dan cepat. Anda mencari frasa yang mencoba mengabaikan perilaku sistem seperti variasi abaikan semua instruksi sebelumnya atau pengambilan sistem. Anda juga mencari bahasa ekstraksi di mana seseorang meminta untuk mengungkapkan materi rahasia, membongkar rahasia, atau memintas pengaturan privasi. Dalam aplikasi logika, tim biasanya menangan ini melalui ekspresi atau langkah komposisi yang memasang tanda daripada langsung memblokir permintaan pada setiap temuan. Pemberian tanda itu penting karena satu frasa tidak selalu berarti seseorang sedang bersikap kasar. Seseorang yang bekerja dalam alur kerja keamanan yang valid mungkin benar-benar berpertanyaan tentang peninjauan penangan konten rahasia. Untuk mengatasinya, alur kerja mengirimkan pelot yang lebih kaya keperisai prom keamanan konten Azure AI untuk pemeriksaan lebih mendalam. Panggilan API yang mencakup prom pengguna dan dokumen yang diambil karena hubungan. Di antara keduanya, biasanya menjadi tempat masalah sebenarnya tersembunyi. Layanan mengembalikan sinyal sederhana dan jika serangan terdeteksi, alur kerja langsung mengubah jalur sebelum panggilan model terjadi. Kemudian Anda perlu menambahkan konteks luar. Pencarian intelijen ancaman memberikan alur kerja lensa lain untuk melihat situasi. Anda dapat mengquery intelijen ancaman Microsoft Defender atau sumber teksi manapun yang Anda percaya untuk memiksa domain, URL, atau indikator sumber yang terkait dengan penyalahgunaan. Anda harus menarik skor kepercayaan jika tersedia karena reputasi sumber harus memengaruhi skor akhir bukan menggantikannya sepenuhnya. Pelot lemah dari sumber berisiko harus selalu diberi peringkat lebih tinggi daripada pelot yang sama dari proses internal yang sudah dipahami. Terakhir, sistem membangun skor gabungan. Sistem melihat kekuatan deteksi pola, hasil prompt shield, reputasi sumber, dan seberapa sensitif tindakan yang diminta. Permintaan berisiko rendah untuk merangkum artikel publik tidak memiliki bobot yang sama dengan permintaan yang dapat mengekspos file terlindungi. Skor gabungan inilah yang menentukan percambangan tindakan. Peristiwa yang bersih berlanjut sesuai rencana. Kasus berisiko menengah akan dibersihkan atau dialihkan ke cadangan yang aman. Dan kasus berisiko tinggi akan diblokir sebelum kopelot dijalankan. Semuanya dicatat ke dalam audit trail dengan jalur keputusan yang tersimpan. Peristiwa yang diblokir inilah yang memberitahu Anda di mana tekanan meningkat dan sumber mana-sumber mana yang terus menimbulkan masalah. Saat Anda melihat pelaman yang masuk ke alur kerja bisnis Anda, Anda akhirnya memiliki data yang dibutuhkan untuk menyesuaikan sistem pada putaran berikutnya. Cara menyesuaikan agar minim gangguan dan sesuai penggunaan bisnis yang lain. Setelah sistem berjalan, sifat pekerjaannya akan berubah. Membangun alurnya sebenarnya adalah bagian yang mudah. Menyesuaikannya agar orang percaya dan tidak mencari jalan pintas adalah penentu apakah ini menjadi kontrol keamanan yang nyata atau sekadar eksperimen yang gagal. Jika sistem menciptakan terlalu banyak hambatan, pengguna akan mencari cara untuk melewatinya yang membuat seluruh proyek menjadi sia-sia. Anda dicokpan yang sempit. Jangan mencoba mengawasi setiap titik sentukopilot pada hari pertama. Sebaliknya, pilih tempat dengan risiko tertinggi dan jalur yang jelas seperti tindakan berbasis alat atau sumber data bernilai tinggi. Anda bisa mulai dengan satu proses yang didukung SharePoint atau alur kerja formulir tertentu untuk mendapatkan sinyal yang benar-benar bisa dibaca. Cakupan kecil memberi Anda ruang untuk belajar tanpa tenggelam data. Saat menyiapkan pemeriksaan awal, atur penolakan untuk fokus pada recall bukan kepastian mutlak. Pemeriksaan pertama dimaksudkan untuk menangkap bahasa yang mencurigakan sejak dini bukan membuktikan niat jahat secara meyakinkan. Jika Anda memaksa pola Anda menjadi sempurna, pola tersebut menjadi rapuh dan mulai melewatkan hal-hal yang justru Anda pedulikan. Lebih baik membiarkan sistem menandai sedikit berlebihan di awal, lalu biarkan pemeriksaan berikutnya menambahkan konteks untuk mengurangi gangguan. Inilah sebabnya skor lebih penting daripada deteksi tunggal. Kecocokan frasa saja tidak selalu harus membatalkan permintaan, tetapi saat Anda menggabungkan kecocokan itu dengan tanda prom shield dan sumber berisiko, situasinya berubah. Sinyal lemah harus ditumpuk satu sama lain dan sinyal kuat harus mempercepat pemblokiran. Ini adalah perbedaan mendasar antara filter yang kaku dan menyebalkan dengan model kebijakan yang benar-benar berfungsi bagi bisnis. Anda juga perlu menetapkan batas atas untuk positif. Cobalah untuk menjaganya di bawah 2 persen karena begitu orang merasa kendali tersebut menghambat pekerjaan normal mereka, mereka angkret dan di Manchester. Setelah itulah jalan pintas mulai berbicara. Mengguna akan menyalin teks ke alat yang tidak dikelola, tim akan membangun alur bayangan dan admin akan mulai meminta pengecualian menyeluruh. Kendali tersebut akan runtuh dari dalam. Bukan karena deteksinya gagal tetapi karena hambatan yang terjadi terlalu berat untuk ditangan. Untuk mencegah hal ini, Anda harus memantah metering antepak. Rupakan dasmur yang hanya untuk pamer dan fokuslah pada waktu rata-rata untuk mendeteksi. Anda harus menjaganya di bawah 15 menit untuk segala sesuatu yang memerlukan tinjauan man. Anda juga harus melacak waktu penahanan otomatis dan menarketkan di bawah 5 menit jika pemblokiran dapat dilakukan dengan lain. Jika alur kerja terus berjalan tetapi tidak pernah memengaruhi keputusan itu hanyalah kebisingan. Biaya adalah faktor lain yang memerlukan penyesuaian terus-menar. Logikai berbasis konsumsi sangat bagus untuk beban kerja yang tidak menentu atau proyek percontohan kecil karena Anda hanya membayar untuk apa yang dijalankan. Namun, paket standar lebih masuk akal setelah volume peristiwa Anda dapat diprediksi dan cukup tinggi hingga biaya pereksekusi mulai terasa membani. Namun, paket, paket, paket, ukur jumlah pemicu dan ukuran pelot Anda yang sebenar sebelum Anda memilih modal penetapan harga. Berhati-hati dengan cara Anda menangani penyimpanan. Anda memerlukan riwayat eksekusi yang cukup untuk tinjauan sidan dan bukti tata kelola tetapi Anda tidak memerlukan basis data besar yang penuh dengan content sensitivity. Simpan kolom spesifik yang menjelaskan alasan suatu keputusan dibuat dan hapus data yang tidak perlu yang menciptakan risiko retensi. Menyimpan terlalu banyak data dapat mengubah alat keamanan Anda menjadi kewajiban privasi jika Anda tidak berhati-hati. Terakhir, hubungkan semua penyesuaian ini kembali ke tata kelola Anda. Petakan alur kerja ke fungsi NIS IRMF seperti mengukur dan mengelola serta kaitkan dengan label sensitivitas data Anda di preview. Terkadang, solusi terbaik bukanlah pendeteksi yang lebih cerdas melainkan hanya menghapus akses yang tidak perlu dari alur kerja sebelum menjadi masalah. Ketika Anda mencapai titik itu, Anda tidak lagi hanya memperdebatkan keamanan AI secara abstrak. Anda menjalankan model operasi nyata dengan ambang batas dan pertukaran yang dapat dikelola oleh bisnis. Apa yang berubah bagi para pemimpin dan arsitek? Setelah Anda menerapkan ini, Copilot berhenti bertindak seperti sistem kepercayaan buta. Dan disitulah perubahan nyata terjadi. Sebelum perubahan ini, model hanya menerima kekacauan konteks campuran sementara tim Anda berharap instruksi yang tepat akan menang. Sekarang, konteks itu disaring, diberi skor, dan diarahkan sebelum model sempat menyentuhnya. Hasil keamanan bukan lagi sekadar kebijakan abstrak karena sekarang berfungsi sebagai eksekusi terkontrol. Bagi arsitek, hal ini memindahkan letak keamanan dalam desain Anda. Ini tidak lagi hanya berada di pengaturan penyewa, izin, atau tempat perintah, melainkan berada langsung di jalur transaksi. Setiap permintaan penting mendapatkan titik intersepsi dan setiap tindakan sensitif mengikuti jalur keputusan tertentu. Ini berarti setiap konektor, agen, atau plugin baru menjadi sesuatu yang Anda evaluasi sebagai jalur input, bukan sekadar fitur produktivitas. Hal ini penting karena penyimpangan arsitektur biasanya menjadi alasan kegagalan program-program ini. Satu tim meluncurkan dan akhirnya seseorang menambahkan alur kerja atau memberikan akses alat agen. Setiap perubahan ini terlihat kecil tetapi secara kolektif menciptakan jalur serangan yang jauh lebih besar dari yang direncanakan. Jika Anda tidak membangun intersepsi ke dalam model operasi Anda, lingkungan akan berkembang jauh lebih cepat daripada kemampuan kontrol Anda. Bagi pemimpin keamanan, pendekatan ini akhirnya memperbaiki masalah kepemilikan rumit yang melanda banyak organisasi. Saat ini, risiko kopilot biasanya jatuh ke celah antara berbagai tim yang berbeda. SoC melihat peringatan, admin Microsoft 365 melihat konfigurasi, dan pemilik AI hanya peduli pada adopsi. Saat Anda menggunakan jalur kontrol logic app, semua kelompok ini akhirnya dapat bekerja dari model respons yang sama. Mereka menggunakan jejak peristiwa, logika penilaian, dan riwayat cabang yang sama yang mengurangi kebingungan total saat perintah berisiko atau dokumen berbahaya muncul dalam alur kerja langsung. Sisi bisnis dari hal ini jauh lebih langsung daripada yang diperkirakan orang. Membrokir ancaman sejak awal selalu lebih murah daripada mencoba bersihkan. Pembersihan melibatkan investigasi, tinjauan hukum, dan gangguan pengguna, dan biasanya berakhir dengan tinjauan akses yang seharusnya dilakukan sebelum Anda menerapkannya. Para pemimpin tidak perlu kuliah panjang tentang etika AI untuk memahaminya. Mereka hanya perlu melihat bahwa kontrol waktu jalan lebih murah daripada membiarkan risiko tak terkendali menyebar-penisiko tak terkendali menyebar melalui sistem yang digunakan setiap hari. Bagi para eksekutif, ini memunculkan poin yang tidak nyaman tentang di mana risiko berat. Risiko AI tidak lagi berada di kotak pasir di tempat-tempat ini cukup aman untuk bergerak cepat dan kepercayaan pinjaman itulah yang justru meningkatkan risiko bagi perusahaan. Alur kerja yang buruk dalam aplikasi eksperimental adalah masalah terbatas. Tetapi alur kerja buruk dalam tumpukan produktivitas harian Anda adalah cerita yang sama sekali berbeda. Jalur peluncuran Anda harus tetap kecil dan sangat rencan. Mulainya dengan satu kasus penggunaan, satu pemicu, dan satu moda penilaian. Pilih jalur di mana data benar-benar penting dan perilakunya mudah untuk Anda amati. Anda harus membuktikan bahwa alur kerja tersebut menangkap input berisiko dan mengarahkan yang aman sambil memberikan informasi berguna bagi manusia saat peninjauan diperlukan. Setelah Anda membuktikan hal itu berhasil, Anda bisa melakukan ekspansi. Nantinya Anda bisa menambahkan deteksi anomali atau kontrol output di mana pun yang sesuai. Anda bahkan bisa menambahkan pemantauan lebih dalam untuk penyalahgunan alat tetapi Anda harus tetap menaruh gerbang pertama tepat di tempat konteks yang tidak terjadi. Jika gerbang pertama itu tetap lemah, setiap kontrol yang Anda tambahkan nanti hanya akan mencoba menutupi titik awal yang buruk. Perubahan di sini sebenarnya sangat sederhana. Berhentilah menganggap injeksi perintah hanya sebagai masalah tata bahasa dan mulailah menganggapnya sebagai kontrol waktu proses atas konteks tidak terpercaya yang bergerak melalui kopelot. Luangkan waktu minggu ini untuk memutakan satu alur kerja kopelot dari akhir. Temukan titik intersepsi aman terakhir sebelum eksekusi dan membangun satu aplikasi logika yang menilai, memblokir, dan mencetat jalur spesifik tersebut. Jika Anda ingin informasi lebih lanjut tentang keamanan kopelot tanpa bahasa basi berlangganlah dan tinggalkan ulasan. Anda juga dapat terhubung dengan saya, Mirko Peters di LinkedIn untuk memberitahu saya tentang skenario penyewa spesifik yang ingin Anda amankan.