Melampaui Prompt Engineering: Mengapa AI Perusahaan Membutuhkan Arsitek

By Mirko Peters · 2026-08-27

Selamat datang di blog pendamping resmi untuk Podcast M365 FM. Dalam artikel ini, kita akan menyelami fondasi teknis dari kecerdasan buatan perusahaan modern…

Automatically translated with AI from the original post. Read the English original

Selamat datang di blog pendamping resmi untuk Podcast M365 FM. Dalam artikel ini, kita akan menyelami fondasi teknis kecerdasan buatan perusahaan modern. Meskipun prompt engineering telah memikat pengguna biasa maupun para pemimpin bisnis, beralih dari prompt dasar ke AI yang siap produksi membutuhkan arsitek dan insinyur manusia yang khusus. Organisasi tidak bisa lagi mengandalkan implementasi yang dangkal. Sebaliknya, mereka harus memvalidasi logika bisnis, persyaratan keamanan, dan integrasi sistem secara cermat agar investasi mereka benar-benar memberikan nilai nyata.

Untuk membahas topik ini lebih mendalam, kami baru-baru ini berbincang dengan MVP Microsoft sekaligus AI Tech Lead, Yves Habersaat, dalam podcast. Jika Anda ingin mendengar percakapan lengkapnya tentang extensibility Microsoft 365 Copilot, arsitektur multi-agent, dan Model Context Protocol, pastikan Anda menonton episodenya Extending Microsoft 365 Copilot: Agents, MCP & Production-Grade AI with Yves Habersaat [MVP].

Pendahuluan: Melampaui Prompt Engineering

Prompt engineering jelas merupakan keterampilan yang berguna. Keterampilan ini membantu karyawan sehari-hari mendapatkan hasil yang lebih baik, format yang lebih rapi, dan ringkasan yang lebih bermakna dari alat AI generatif. Namun, ketika bisnis mencoba menskalakan kemampuan ini ke ribuan pengguna dan sistem internal yang sudah mengakar, prompt engineering saja tidak lagi memadai.

AI perusahaan menuntut lebih dari sekadar rangkaian kata yang cerdas. Organisasi membutuhkan profesional yang memahami teknologi yang mendasarinya, kebutuhan pelanggan yang kompleks, model keamanan menyeluruh, serta keputusan implementasi yang spesifik. Meskipun kecerdasan buatan dapat menghasilkan materi teknis dan memberikan panduan yang membantu, arsitek manusia pada dasarnya tetap tidak tergantikan. Hanya insinyur manusia yang benar-benar dapat memastikan apakah sebuah solusi otomatis sungguh menjawab kebutuhan bisnis inti tanpa menimbulkan risiko yang tidak dapat diterima.

Mengapa AI Perusahaan Membutuhkan Arsitek Manusia

Kompleksitas lingkungan perusahaan modern berarti bahwa menerapkan AI tidak pernah sesederhana latihan "plug-and-play". Sistem saling terhubung dengan basis data lama, aplikasi internal kustom, kerangka kepatuhan yang ketat, dan izin pengguna yang dinamis. Tanpa arsitek yang cakap mengawasi desainnya, organisasi sering menghadapi hambatan, halusinasi, celah keamanan, dan kegagalan integrasi.

Seorang arsitek melihat gambaran besarnya. Mereka mengevaluasi bagaimana data mengalir di dalam organisasi, di mana letak potensi hambatan, serta cara menyiapkan tumpukan teknologi agar tetap relevan di masa depan. Karena platform AI berkembang dengan sangat cepat, adanya pemikir strategis yang memegang kendali memastikan organisasi membangun solusi yang dapat diskalakan, mudah dipelihara, dan aman, bukan proof-of-concept yang rapuh dan runtuh ketika menghadapi beban produksi.

Evolusi Microsoft 365 Copilot dan Extensibility

Microsoft 365 Copilot telah berkembang pesat sejak awal kemunculannya. Banyak kemampuan yang dahulu memerlukan ekstensi kustom yang rumit kini sudah terintegrasi langsung ke dalam platform. Fungsi bawaan ini mencakup berbagai kebutuhan standar untuk produktivitas dan kolaborasi.

Namun, extensibility menjadi sangat penting ketika organisasi membutuhkan kendali yang lebih besar. Hal ini bisa mencakup kustomisasi lapisan orkestrasi, pembuatan pengalaman agentic yang khusus, penyematan agen AI ke situs web publik eksternal alih-alih membiarkannya terisolasi di dalam Microsoft 365 Copilot Chat, atau membangun kemampuan yang sepenuhnya disesuaikan. Semakin spesifik kebutuhan perusahaan, semakin krusial extensibility dan pengembangan kustom.

Mengapa Satu Copilot Raksasa Gagal: Arsitektur Multi-Agent

Jebakan umum bagi organisasi yang baru memulai perjalanan AI mereka adalah mencoba membangun satu Copilot yang masif dan monolitik. Bayangkan satu asisten AI yang dibebani setiap instruksi, alat, sumber pengetahuan, dan tanggung jawab perusahaan yang bisa dibayangkan. Tentu saja, pendekatan ini dengan cepat runtuh di bawah beratnya sendiri, menyebabkan habisnya context window, pengambilan keputusan yang buruk, dan perilaku yang tidak dapat diprediksi.

Sebagai gantinya, para ahli seperti Yves Habersaat merekomendasikan adopsi arsitektur multi-agen. Dalam model ini, setiap agen memiliki cakupan dan tanggung jawab yang didefinisikan dengan jelas. Misalnya, kerangka kerja dukungan TI perusahaan dapat memiliki agen triase di bagian depan yang tugas utamanya adalah memahami permintaan pengguna dan mengarahkannya secara cerdas ke agen khusus yang didedikasikan untuk Microsoft 365, Salesforce, portal SDM, atau platform infrastruktur internal. Setiap agen khusus memelihara instruksi lokalnya sendiri, pengetahuan yang ditargetkan, dan alat tertentu.

Anatomi Agen AI Perusahaan

Untuk memahami cara kerja sistem ini, ada baiknya kita menguraikan anatomi agen AI perusahaan standar. Setiap agen yang andal dimulai dengan tujuan yang didefinisikan dengan jelas. Dari sana, agen bergantung pada beberapa komponen inti:

• Instruksi: Panduan eksplisit yang menentukan tanggung jawab pasti agen, batasan operasional, dan batasan perilakunya.
• Sumber Pengetahuan: Repositori terkurasi yang berisi informasi dan dokumentasi organisasi yang relevan.
• Alat: Kemampuan fungsional yang memungkinkan agen menjalankan tindakan, melakukan kueri database, atau memanggil layanan eksternal.
• Lapisan Orkestrasi: Mesin pengambil keputusan yang menentukan bagaimana permintaan masuk harus diproses, diurai, dan didelegasikan.

Dalam pengaturan multi-agen, agen utama menangani triase awal sebelum mendelegasikan tugas ke agen bawahan yang khusus. Agen-agen bawahan tersebut kemudian berinteraksi dengan sumber pengetahuan internal, sistem eksternal, API, dan server Model Context Protocol untuk menyelesaikan alur kerja.

Copilot Studio versus Pengembangan Kustom

Saat membangun agen-agen ini, organisasi menghadapi keputusan platform yang penting: low-code versus kode kustom. Copilot Studio menyediakan pendekatan low-code yang mudah diakses untuk membangun dan menerapkan agen dengan cepat. Tim dapat menentukan instruksi, menghubungkan alat siap pakai, mengintegrasikan repositori pengetahuan, dan memanfaatkan protokol modern tanpa harus menulis setiap baris kode dari awal.

Sebaliknya, pengembangan kustom memberikan kontrol arsitektur yang jauh lebih besar. Namun, kontrol ini datang dengan tanggung jawab yang lebih besar. Pengembang harus secara langsung mengelola alur autentikasi, batasan keamanan, lingkungan hosting, logika orkestrasi, dan integrasi layanan. Pada akhirnya, pilihan antara Copilot Studio dan pengembangan kustom sepenuhnya bergantung pada tingkat kontrol yang dibutuhkan oleh solusi perusahaan tertentu.

Memahami Model Context Protocol (MCP)

Salah satu kemajuan paling menarik dalam arsitektur agentik adalah Model Context Protocol, yang biasa dikenal sebagai MCP. Secara historis, mengintegrasikan alat dan layanan eksternal ke dalam model AI berarti menulis API wrapper kustom untuk setiap sistem, masing-masing dengan skema autentikasi, keunikan protokol, dan standar dokumentasinya sendiri.

MCP mengatasi fragmentasi ini dengan menetapkan cara standar bagi sistem AI untuk menemukan dan berinteraksi dengan alat dan layanan eksternal. Melalui MCP, agen dapat secara dinamis memahami alat apa saja yang tersedia, cara kerja alat tersebut, dan cara menggabungkannya untuk menyelesaikan permintaan pengguna yang kompleks. MCP berfungsi sebagai penerjemah universal antara model bahasa cerdas dan ekosistem perangkat lunak perusahaan yang luas.

Mengintegrasikan Sistem: MCP versus API Tradisional

Penting untuk dicatat bahwa Model Context Protocol tidak menggantikan API tradisional. Sebaliknya, server MCP berada di depan API, database, dan microservice internal yang sudah ada, dengan memaparkan kemampuan dasar tersebut dalam format yang mudah dipahami dan digunakan oleh agen AI.

Bayangkan sebuah perusahaan yang sudah mengandalkan API mapan untuk keuangan, sumber daya manusia, dan manajemen hubungan pelanggan. Alih-alih menulis ulang API tersebut, organisasi dapat menerapkan server MCP untuk memaparkan alat yang sesuai di atas endpoint yang sudah ada. API dasar tetap melakukan pekerjaan berat, sementara MCP menyediakan lapisan semantik yang dibutuhkan agen AI otonom untuk berinteraksi dengan API tersebut secara efektif.

Keamanan, Tata Kelola, dan Pengetahuan Organisasi

Lingkungan Microsoft 365 menyimpan konteks organisasi yang sangat berharga dalam jumlah luar biasa besar, termasuk dokumen, transkrip rapat, email, bagan personel, riwayat obrolan Teams, file OneDrive, dan repositori SharePoint. Menghubungkan agen AI yang kuat ke harta data ini tanpa tata kelola yang kuat menimbulkan risiko keamanan yang serius.

Organisasi harus memulai dengan membuat inventaris menyeluruh atas lanskap data mereka. Perusahaan perlu mengetahui dengan tepat di mana informasi rahasia disimpan, siapa yang saat ini memiliki hak akses, dan aset mana yang memerlukan perlindungan lebih ketat. Alat tata kelola canggih seperti Microsoft Purview, yang mencakup label sensitivitas dan kebijakan Data Loss Prevention (DLP), harus langsung diintegrasikan ke dalam arsitektur AI sejak hari pertama.

Pentingnya Kualitas Data dan Kesiapan AI

Tata kelola AI jauh melampaui sekadar mencegah akses tidak sah. Tata kelola AI juga mencakup kenyataan praktis tentang kebersihan data. Situs SharePoint yang tidak tertata, file yang banyak terduplikasi, dokumen kebijakan yang sudah usang, ruang kerja Teams yang tidak konsisten, serta kepemilikan informasi yang tidak jelas dapat sangat menurunkan kualitas respons yang dihasilkan AI.

Menghubungkan agen cerdas ke pengetahuan organisasi yang tidak terstruktur dan berantakan tidak serta-merta mengubah data tersebut menjadi sumber daya yang bersih dan bermanfaat. Perusahaan harus memprioritaskan pembersihan data, arsitektur informasi modern, tinjauan izin yang ketat, dan klasifikasi menyeluruh sebagai prasyarat mendasar untuk kesiapan AI.

Mengelola Izin Delegated versus Application

Pengelolaan izin menjadi sangat penting begitu agen AI diberi kemampuan untuk mengambil tindakan secara otonom atas nama pengguna. Sebagai aturan praktis, arsitek sebaiknya menjadikan izin pengguna yang didelegasikan (delegated) sebagai pengaturan default.

Dalam model delegated, agen beroperasi sepenuhnya dalam batas izin pengguna tertentu yang berinteraksi dengannya. Jika pengguna tersebut tidak memiliki akses ke folder keuangan yang sensitif, agen tidak boleh begitu saja melewati pembatasan tersebut. Dalam skenario ketika izin application benar-benar diperlukan untuk otomatisasi latar belakang, kemampuan tersebut sebaiknya diisolasi secara ketat di balik lapisan layanan atau MCP yang dikendalikan dengan cermat, alih-alih memberikan izin administratif yang luas secara langsung kepada agen yang berhadapan dengan pengguna.

Retrieval-Augmented Generation (RAG) di Lingkungan Enterprise

Retrieval-Augmented Generation, atau RAG, merupakan fondasi utama AI enterprise modern. Alih-alih hanya mengandalkan parameter internal statis dari model bahasa, yang tentu tidak dapat mencakup kebijakan perusahaan yang bersifat proprietary atau pembaruan proyek secara real-time, sistem RAG secara dinamis mengambil dokumentasi yang relevan sebelum menghasilkan respons.

Konten yang diambil ini dapat berasal dari basis pengetahuan internal, situs SharePoint, penyimpanan dokumen khusus, atau basis data eksternal. Pada banyak platform modern, seperti Copilot Studio, mekanisme pengambilan data berjalan sepenuhnya di balik layar. Hal ini menyembunyikan kompleksitas dari pengguna akhir, sekaligus tetap menghasilkan jawaban yang akurat dan sadar konteks yang berlandaskan pada data enterprise yang telah terverifikasi.

Kesimpulan: Membangun Solusi AI Siap Produksi

Beralih dari prompt engineering yang bersifat eksperimental menuju AI enterprise yang tangguh memerlukan perubahan pola pikir yang mendasar. Organisasi tidak lagi dapat memperlakukan kecerdasan buatan sebagai fitur perangkat lunak sederhana yang dipasang di menit-menit terakhir. Sebaliknya, membangun solusi AI siap produksi menuntut pertimbangan matang terhadap arsitektur multi-agen, lapisan integrasi yang dapat diskalakan seperti Model Context Protocol, tata kelola data yang ketat, dan model izin yang cermat.

Arsitek dan insinyur manusia tetap menjadi kunci dari revolusi teknologi ini. Dengan memadukan fundamental teknis dan pemahaman mendalam tentang kebutuhan bisnis, arsitek memastikan AI enterprise memberikan nilai yang aman, dapat diskalakan, dan benar-benar transformatif.

Untuk menyelami lebih dalam strategi arsitektur ini dan mendengar wawasan langsung dari para ahli di lapangan, pastikan untuk mendengarkan percakapan podcast lengkapnya. Kunjungi Extending Microsoft 365 Copilot: Agents, MCP & Production-Grade AI with Yves Habersaat [MVP] dan bergabunglah dalam percakapan tentang modern work, security, dan productivity!