Panduan Selalu Aktif vs. Keahlian Situasional: Menyusun Ulang Arsitektur AI Anda

By Mirko Peters · 2026-08-13

Automatically translated with AI from the original post. Read the English original

Cover: The End of AI Bloat: Why Modern Agents Need Skills

Selamat datang kembali di pendamping blog untuk podcast kami. Dalam tulisan hari ini, kita akan membahas secara mendalam sebuah hambatan teknis yang hampir dialami setiap tim perusahaan setelah menerapkan gelombang pertama solusi AI mereka. Anda membangun agen AI khusus, dan pada awalnya rasanya seperti sihir. Responsnya cepat, sangat akurat, dan sangat tanggap. Namun setelah tiga hingga enam bulan, sesuatu yang aneh terjadi. Waktu respons mulai melambat, biaya operasional perlahan naik, dan agen mulai berhalusinasi atau menyimpang dari perilaku yang dimaksudkan. Praktik standar di banyak organisasi adalah menambah daya komputasi atau meningkatkan ke model bahasa yang lebih besar. Namun seperti yang kita bahas secara mendalam, inti masalahnya bukan pada modelnya itu sendiri, melainkan pada arsitektur dasar prompt Anda.

Dalam tulisan ini, kita akan mengurai mengapa prompt monolitik menyebabkan degradasi konteks yang fatal, bagaimana memisahkan perilaku inti yang universal dari alur kerja yang spesifik untuk tugas tertentu, serta mengapa pola desain modular mengubah lanskap AI di lingkungan perusahaan.

Pendahuluan: Biaya Tersembunyi dari Prompt Monolitik

Ketika tim rekayasa pertama kali membuat prototipe agen AI percakapan, mereka biasanya mengandalkan satu system prompt yang komprehensif. Prompt ini menentukan siapa agen tersebut, bagaimana ia harus berbicara, aturan apa yang wajib diikuti, dan cara menangani kasus-kasus tepi yang kompleks. Ini adalah cara yang intuitif untuk memulai. Namun seiring bisnis berkembang, prompt pun ikut berkembang. HR menambahkan kebijakan cuti baru, kepatuhan memperkenalkan regulasi regional, dan layanan pelanggan menambahkan alur kerja pengembalian dana.

Tanpa disadari, system prompt Anda membengkak menjadi ribuan token instruksi yang padat. Setiap kali pengguna mengajukan pertanyaan sederhana, misalnya menanyakan jam kerja kantor, model AI dipaksa untuk membaca, memproses, dan menalar setiap aturan, kebijakan, serta kasus tepi dalam keseluruhan system prompt Anda. Meskipun sembilan puluh lima persen instruksi tersebut sama sekali tidak relevan dengan jam kerja kantor, model tetap harus menguraikannya. Beban tersembunyi terhadap komputasi dan penalaran inilah yang kami sebut sebagai Pajak Konteks (Context Tax), dan dalam jangka panjang hal ini secara mendasar mengubah karakteristik performa agen AI Anda.

Memahami Pajak Konteks dan Mengapa Agen Menurun Performanya Seiring Waktu

Degradasi agen di lingkungan produksi sangat dapat diprediksi. Hal ini bukan terjadi karena model dasarnya lupa cara bernalar. Hal ini terjadi karena kita membebani jendela konteks aktif model dengan noise kognitif. Ketika Anda memaksa AI untuk menyaring tumpukan dokumentasi prosedural yang tidak berkaitan pada setiap interaksi pengguna, beberapa hal terjadi secara bersamaan:

Konsumsi token melonjak, yang secara langsung mendorong naik biaya inferensi per permintaan.
Latensi respons meningkat karena konteks yang lebih besar membutuhkan waktu lebih lama untuk diproses.
Probabilitas halusinasi meningkat karena model kesulitan menimbang instruksi yang bertentangan atau tidak relevan.
Konsistensi penalaran menurun karena perhatian model terpecah ke terlalu banyak arahan yang saling bersaing.

Sistemnya tidak menjadi kurang cerdas; jalur penalarannya hanya terbebani oleh data yang tidak perlu. Untuk mengatasinya, kita harus melihat dengan saksama bagaimana kita mendistribusikan informasi dalam arsitektur kita.

Panduan Selalu Aktif vs. Keahlian Situasional

Salah satu pergeseran pola pikir paling berpengaruh dalam rekayasa AI modern adalah memisahkan instruksi sistem Anda ke dalam dua kategori yang berbeda: panduan selalu aktif dan keahlian situasional.

Panduan selalu aktif terdiri dari pagar pengaman universal dan penanda identitas yang harus berlaku untuk setiap interaksi, tanpa memandang maksud pengguna. Ini mencakup:

Identitas, persona, dan nada suara agen
Persyaratan keamanan perusahaan yang universal
Aturan kepatuhan inti dan batasan mutlak
Preferensi format dan keluaran standar

Keahlian situasional, di sisi lain, sepenuhnya bersifat kontekstual. Ini adalah informasi yang hanya bernilai ketika skenario atau alur kerja tertentu dipicu. Contohnya meliputi protokol onboarding vendor, regulasi perhitungan pajak, kebijakan pengembalian barang per wilayah, atau prosedur respons insiden TI yang kompleks.

Dalam arsitektur lama, kedua kategori tersebut digabung menjadi satu prompt besar. Dalam arsitektur modern yang sudah direstrukturisasi, hanya panduan yang selalu aktif yang tetap dimuat secara permanen. Semua yang lain dikemas menjadi komponen modular yang dimuat secara dinamis.

Anatomi Skill: Mengemas Pengetahuan untuk AI

Untuk menghilangkan Context Tax, kita memerlukan mekanisme untuk menyimpan keahlian situasional di luar prompt utama dan memuatnya hanya saat dibutuhkan. Mekanisme itu adalah AI Skill. Skill bukan sekadar potongan prompt; Skill adalah paket lengkap dan dapat digunakan kembali yang berisi instruksi dan aset khusus untuk tugas tertentu. Skill yang dirancang dengan baik biasanya mencakup:

Deskripsi pemicu yang jelas, yang memberi tahu orkestrator kapan Skill tersebut relevan
Instruksi prosedural yang terstruktur untuk menangani tugas
Dokumen referensi, formulir, atau templat kebijakan
Skrip atau definisi API opsional untuk menjalankan tindakan

Di pusat paket ini terdapat file konfigurasi inti, yang sering disusun sebagai file SKILL.md. File ini menguraikan ruang lingkup, tujuan, dan langkah eksekusi yang tepat untuk domain pengetahuan tertentu. Dengan memodulerkan pengetahuan dengan cara ini, Anda menciptakan unit kapabilitas perusahaan yang bersih dan mudah dipelihara, yang dapat diperbarui secara independen tanpa membahayakan stabilitas agen inti.

Menetapkan Batasan Penalaran yang Jelas

Memodulerkan agen AI menjadi Skill yang berbeda tidak hanya menghemat token, tetapi juga menetapkan batasan penalaran yang ketat. Ketika model diberi satu prompt monolitik, model tersebut berusaha menyelesaikan setiap masalah melalui sudut pandang setiap aturan sekaligus. Saat Anda menggunakan Skill, Anda mengisolasi domain penalaran.

Misalnya, ketika pengguna memulai alur kerja pengadaan, Skill pengadaan dimuat, dan mesin penalaran agen sepenuhnya berfokus pada kebijakan pembelian, hierarki persetujuan, dan pedoman vendor. Selama Skill tersebut aktif, aturan yang tidak terkait, seperti pajak penghasilan atau kebijakan sumber daya manusia, dikecualikan dari jendela konteks aktif. Batasan yang ketat ini secara signifikan meningkatkan presisi dan konsistensi output AI, sekaligus memastikan AI mengikuti prosedur khusus tanpa gangguan dari bagian bisnis lainnya.

Menerapkan Progressive Disclosure untuk Efisiensi

Bagaimana kita mengelola Skill ini tanpa membebani sistem? Jawabannya terletak pada pola desain yang dikenal sebagai progressive disclosure. Alih-alih memuat setiap instruksi dan alur kerja saat startup, agen Anda hanya menyimpan katalog ringan yang berisi nama dan deskripsi Skill yang tersedia.

Ketika pengguna mengirimkan prompt, alur kerjanya mengikuti urutan yang presisi:

Orkestrator menganalisis permintaan pengguna terhadap katalog Skill yang ringan.
Orkestrator mengidentifikasi Skill spesifik yang diperlukan untuk menangani skenario tersebut.
Sistem secara dinamis memuat Skill tunggal tersebut ke dalam jendela konteks.
Agen menjalankan tugas dengan presisi tinggi.
Setelah tugas selesai, Skill dibongkar, dan agen kembali ke kondisi dasar yang ringan.

Pola desain ini secara drastis mengurangi kebutuhan komputasi, memangkas latensi, dan menjaga biaya operasional tetap terkendali, sekaligus memastikan agen Anda tetap memiliki akses ke pengetahuan perusahaan yang mendalam dan khusus.

Kesimpulan: Merestrukturisasi Arsitektur AI Anda untuk Masa Depan

Prompt monolitik sangat berguna pada masa awal eksperimen AI generatif, tetapi penerapan di tingkat perusahaan menuntut skalabilitas, latensi yang lebih rendah, dan keandalan yang lebih tinggi. Dengan memisahkan panduan yang selalu aktif dari keahlian situasional serta menerapkan Skill modular melalui progressive disclosure, Anda dapat menghilangkan Context Tax, mencegah degradasi agen, dan membangun sistem AI yang tangguh serta dapat berkembang seiring pertumbuhan organisasi Anda.

Untuk mendengarkan uraian lengkap tentang pola arsitektur ini, contoh implementasi di dunia nyata, serta cara konsep-konsep ini berlaku di platform seperti Microsoft Copilot Studio, GitHub Copilot, dan Claude Code, pastikan Anda menyimak episode terkait kami: The End of AI Bloat: Why Modern Agents Need Skills. Simak, berlangganan, dan beri tahu kami bagaimana Anda menyusun agen AI perusahaan Anda!