ID
English
Deutsch
Español
Français
Italiano
Português
Nederlands
Polski
Русский
Українська
العربية
עברית
日本語
한국어Autonomous tetapi Akuntabel: Membangun Sistem Agen Terkelola dengan Runtime Agen Azure AI Foundry
By Mirko Peters · · Updated
Sistem agen Autonomous tetapi Akuntabel dengan Azure AI Foundry memastikan tata kelola, keterlacakan, dan kepatuhan untuk solusi AI yang bertanggung jawab dan siap digunakan di perusahaan.
Automatically translated with AI from the original post. Read the English original
Azure AI Foundry memberi Anda lebih dari sekadar model yang kuat. Anda menggunakan runtime agen terkelola yang menjaga semuanya tetap tertata. Runtime ini membantu Anda melihat apa yang terjadi di setiap proses AI. Di perusahaan Anda, Anda butuh lebih dari sekadar chatbot biasa. Anda membutuhkan sistem yang memantau tindakan dan menjelaskan pilihan. Sistem tersebut juga mengikuti aturan. Perusahaan yang menggunakan sistem agen yang dapat diperiksa memperoleh hasil jauh lebih baik. Mereka berhasil membuat lebih banyak orang menggunakan sistem tersebut dan mencapai keberhasilan yang lebih besar dibandingkan chatbot sederhana. Banyak kelompok melaporkan hasil hingga 60% lebih baik. Mereka juga bekerja lebih cepat hanya dalam hitungan bulan setelah memulai sistem ini. Anda dapat melihat agen terkelola menyelesaikan masalah nyata setiap hari. Agen tersebut membantu menangani masalah pelanggan, pekerjaan faktur, dan memantau banyak sistem. Gagasan Autonomous tetapi Akuntabel memandu setiap langkah. Gagasan ini memastikan AI Anda cerdas dan bertindak secara bertanggung jawab.
Poin Penting
Azure AI Foundry memungkinkan Anda membangun agen yang bekerja secara mandiri. Agen ini dapat membuat pilihan dan menjalankan tugas sendiri. Hal ini membantu bisnis menyelesaikan pekerjaan dengan lebih cepat dan lebih baik.
Akuntabilitas sangat penting. Setiap agen memiliki ID khusus. Hal ini memungkinkan Anda memantau apa yang dilakukan agen dan memeriksa apakah mereka mengikuti aturan.
Model, instruksi, dan alat bekerja bersama dalam sistem agen. Hal ini membuat agen kuat dan dapat disesuaikan untuk berbagai tugas. Agen tetap aman saat menjalankan pekerjaannya.
Pencatatan siklus hidup menyimpan catatan yang jelas tentang apa yang dilakukan agen. Hal ini membantu perusahaan memperbaiki masalah dan mematuhi aturan dengan mudah.
Microsoft Entra membantu mengelola identitas agen. Layanan ini memastikan agen memiliki izin yang ketat. Hal ini menjaga keamanan dan kendali.
Agen Autonomous tetapi Akuntabel
Apa yang Membuat Agen Bersifat Autonomous
Anda menginginkan AI yang melakukan lebih dari sekadar mengikuti langkah. Di Azure AI Foundry, agen dapat membuat pilihan sendiri. Agen memilih alat dan merencanakan langkah berikutnya. Anda memberi mereka sebuah tugas, dan mereka mencari cara untuk menyelesaikannya. Agen tidak memerlukan Anda untuk memberi tahu setiap langkahnya. Agen dapat mengamati, memutuskan, dan bertindak sendiri.
Agen memiliki tiga bagian utama yang membantu mereka bekerja:
Komponen | Deskripsi |
|---|---|
Model (LLM) | Membantu agen berpikir dan memahami bahasa |
Instruksi | Memberi tahu agen apa yang harus dilakukan dan bagaimana bertindak |
Alat | Memungkinkan agen menemukan fakta atau menjalankan tugas |
Anda dapat mengganti model, memperbarui instruksi, atau menambahkan alat. Dengan begitu, agen Anda siap untuk tugas-tugas baru. Misalnya, Anda dapat menggunakan Agent Service dari Azure AI Foundry bersama Azure OpenAI Service atau menghubungkannya ke Azure AI Search. Anda juga dapat menggunakan Microsoft Copilot Studio, Azure API Management, Azure Functions, atau Azure Container Apps. Pilihan-pilihan ini membantu agen Anda belajar, merencanakan, dan melakukan tugas dengan berbagai cara.
Agen di Azure AI Foundry lebih dari sekadar bereaksi. Mereka mengambil tindakan terlebih dahulu. Mereka dapat memantau perubahan, memilih alat, dan memperbaiki masalah tanpa menunggu Anda. Inilah sebabnya mereka tidak sama dengan skrip sederhana.
Memastikan Akuntabilitas dalam Sistem AI
Otonomi itu kuat, tetapi Anda tetap harus mempercayai AI Anda. Anda ingin mengetahui apa yang dilakukan agen, kapan dilakukan, dan mengapa. Azure AI Foundry memastikan setiap agen terlacak. Setiap agen mendapatkan Microsoft Entra Agent ID saat Anda membuatnya. ID ini menunjukkan siapa pemilik agen, siapa yang dapat menggunakannya, dan apa yang dilakukannya.
Anda dapat melihat setiap langkah yang dilakukan agen. Sistem mencatat setiap tahap sehingga Anda dapat memeriksa apa yang terjadi. Jika terjadi masalah, Anda dapat menelusuri kembali dan melihat detailnya. Alat keamanan dari Microsoft membantu Anda menjaga keamanan. Anda dapat mengatur peringatan, memeriksa log, dan mengubah cara kerja agen jika diperlukan.
Berikut cara Azure AI Foundry menjaga agen tetap akuntabel:
Setiap agen memiliki Entra Agent ID khusus untuk pelacakan.
Tim keamanan dapat memantau agen seperti hal penting lainnya.
Anda dapat merespons peringatan dan mengubah tindakan, prompt, atau alat agen.
Sistem menyimpan setiap langkah untuk keperluan pemeriksaan dan peninjauan.
Untuk AI bisnis, Anda memerlukan otonomi sekaligus akuntabilitas. Otonomi membantu agen memperbaiki masalah dan bertindak dengan cepat. Akuntabilitas memberi Anda kendali dan kepercayaan.
Mari kita lihat perbedaan antara agen dan skrip:
Aspek | Agen AI | Agentic AI |
|---|---|---|
Otonomi Operasional | Merespons dan menunggu perintah | Bertindak sendiri dan mengambil tindakan |
Pemilihan Tugas | Hanya menjalankan tugas yang sudah ditetapkan | Memantau dan memilih tugas sendiri |
Akuntabilitas | Menjawab perintah dan peristiwa | Selalu memeriksa tindakan untuk memastikan hasil yang baik |
Skrip mengikuti jalur yang sudah ditetapkan. Skrip melakukan apa yang Anda perintahkan, langkah demi langkah. Agen di Azure AI Foundry bekerja secara mandiri. Agen merencanakan, bertindak, dan mencatat setiap langkah. Hal ini membuat sistem AI Anda Otonom tetapi Akuntabel. Anda mendapatkan tindakan yang cerdas dan kendali yang jelas.
Struktur Agen: Model, Instruksi, Tools
Agen Azure AI Foundry menggunakan struktur yang jelas untuk membantu Anda membangun sistem AI yang andal dan aman. Anda bekerja dengan tiga bagian utama: model, instruksi, dan tools. Setiap bagian memiliki tugas khusus. Ketika ketiganya dikombinasikan, Anda mendapatkan agen yang dapat merencanakan, bertindak, dan belajar dengan cara yang kuat sekaligus mudah diperiksa.
Peran Model
Model adalah otak dari agen Anda. Model membantu agen memahami bahasa, mengambil keputusan, dan memecahkan masalah. Anda dapat memilih dari berbagai model, seperti GPT-4o atau opsi open-source. Pilihan ini memungkinkan Anda menyesuaikan model dengan kebutuhan Anda. Jika nanti Anda ingin mengganti model, Anda dapat melakukannya tanpa mengubah bagian lain dari agen Anda. Fleksibilitas ini membantu Anda menjaga hasil tetap konsisten. Ketika Anda mengendalikan model dan lingkungannya, agen Anda menjadi lebih andal dan lebih mudah dipercaya.
Agen menggunakan model untuk memecah tugas yang sulit, mengumpulkan informasi, dan mengingat apa yang mereka pelajari. Misalnya, beberapa agen di bidang sains menggunakan model untuk merencanakan langkah, menganalisis data, dan bertindak berdasarkan temuan mereka. Pendekatan ini membantu di bidang seperti kedokteran, yang membutuhkan agen untuk menangani tugas-tugas kompleks.
Komponen | Deskripsi |
|---|---|
Perencanaan | Memecah tugas kompleks menjadi langkah-langkah kecil dan menyusun strategi. |
Persepsi | Memungkinkan agen melihat dan memahami lingkungannya. |
Tindakan | Menggunakan tools untuk menjalankan rencana dan berinteraksi dengan dunia. |
Memori | Menyimpan pengetahuan untuk membantu tugas dan keputusan di masa depan. |
Instruksi sebagai Guardrail
Instruksi memberi tahu agen Anda apa yang harus dilakukan dan bagaimana harus berperilaku. Instruksi berfungsi seperti aturan atau guardrail. Anda menetapkan instruksi ini untuk menjaga agen tetap pada jalurnya dan mencegahnya membuat kesalahan. Misalnya, Anda dapat menggunakan filter untuk memblokir pertanyaan yang tidak aman atau mencegah agen membagikan informasi pribadi. Anda juga dapat menetapkan aturan untuk memeriksa jawaban agen sebelum dikirim.
Jenis Guardrail | Deskripsi | Contoh |
|---|---|---|
Classifier Relevansi | Menghentikan agen penjualan agar tidak menjawab pertanyaan SDM. | |
Classifier Keamanan | Mendeteksi prompt yang tidak aman. | Memblokir upaya untuk mendapatkan detail sistem yang rahasia. |
Filter PII | Memindai data pengguna yang bersifat pribadi. | Menyembunyikan alamat email dalam laporan. |
Lapisan Moderasi | Menyaring bahasa yang tidak pantas. | Memblokir prompt yang beracun atau kasar. |
Pengaman Tools | Memeriksa penggunaan tools terhadap risiko. | Meminta persetujuan sebelum melakukan perubahan besar. |
Proteksi Berbasis Aturan | Menggunakan daftar blokir dan pola. | Menghentikan prompt yang berisi kata seperti "delete" atau "reset password". |
Validasi Output | Memeriksa jawaban sebelum dikirim. | Memastikan pesan sesuai dengan gaya perusahaan Anda. |
Tools dan Kemampuan yang Diizinkan
Tools memberi agen Anda kemampuan untuk bertindak. Anda menentukan tools mana yang boleh digunakan agen Anda. Tools ini dapat mencakup pencarian data, menjalankan kode, atau terhubung ke aplikasi bisnis. Anda mengendalikan akses ke setiap tool, sehingga agen Anda hanya menggunakan apa yang Anda izinkan. Pengaturan ini menjaga sistem tetap aman dan mudah dikelola.
Dalam sains dunia nyata, agen menggunakan tools untuk menganalisis data, memprediksi hasil, dan terhubung dengan sistem lain. Misalnya:
CellAgent menggunakan model untuk memecah tugas biologi yang kompleks.
DrugAgent memprediksi cara kerja obat dengan menggunakan tools khusus.
BioMANIA terhubung ke tools Python untuk analisis data yang mendalam.
Ketika Anda menggunakan model, instruksi, dan tools secara bersamaan, Anda membangun agen yang Otonom tetapi Akuntabel. Anda mendapatkan sistem cerdas yang mengikuti aturan Anda dan meninggalkan catatan yang jelas untuk setiap tindakan.
Pencatatan Siklus Hidup: Threads, Runs, Run Steps
Threads Persisten untuk Auditabilitas
Penting untuk memahami apa yang dilakukan agen Anda. Azure AI Foundry menggunakan utas persisten (persistent threads) untuk membantu hal ini. Setiap utas menyatukan percakapan dan tugas. Anda dapat meninjau ke belakang dan melihat apa yang terjadi sebelumnya. Ini sangat membantu bagi perusahaan dengan aturan ketat, seperti kesehatan atau keuangan. Ketika Anda dapat menunjukkan setiap langkah, orang akan lebih percaya pada sistem Anda.
Kerangka tata kelola membantu Anda membangun kepercayaan terhadap agen AI Anda.
Anda harus mencatat interaksi dan menyimpan jejak audit, terutama di industri yang diatur regulasi.
Tata kelola yang baik membantu Anda menskalakan AI dan memenuhi kebutuhan kepatuhan.
Proses Berjalan dan Status Eksekusi
Proses berjalan (runs) menunjukkan cara kerja agen Anda di setiap utas. Ketika Anda memulai sebuah tugas, sistem membuat sebuah run. Anda dapat melihat apakah run sedang menunggu, sedang berjalan, atau sudah selesai. Ini membantu Anda mengetahui apa yang sedang dilakukan agen Anda saat ini. Azure AI Foundry menangani objek percakapan dan status untuk Anda.
Fitur | Azure AI Foundry |
|---|---|
Objek Percakapan | Dibuat otomatis dengan ID unik |
Manajemen Status | Manajemen konteks otomatis |
Kesinambungan Lintas Sesi | Mempertahankan konteks percakapan di seluruh sesi |
Penggunaan Ulang Percakapan | Dapat diakses dari berbagai saluran |
Pembersihan Otomatis | Dikelola berdasarkan kebijakan retensi |
Anda dapat menggunakan kembali percakapan dan mempertahankan konteks lintas sesi. Artinya, Anda tidak kehilangan detail penting, meskipun Anda berpindah saluran atau perangkat.
Langkah Run untuk Keterlacakan
Langkah run memungkinkan Anda melihat setiap tindakan yang dilakukan agen Anda. Anda dapat memeriksa setiap pemanggilan alat dan pilihan model. Hal ini memudahkan Anda menemukan dan memperbaiki masalah. Langkah run juga membantu Anda bertindak cepat ketika terjadi sesuatu yang salah. Sistem memberi Anda peringatan, dasbor, dan panduan untuk berbagai jenis kegagalan.
Jenis Strategi | Deskripsi |
|---|---|
Mengurutkan insiden berdasarkan tingkat keparahannya, sehingga Anda dapat merespons lebih cepat. | |
Peringatan Berbasis Kualitas | Memberi tahu Anda saat validasi gagal, bukan hanya saat terjadi error. |
Mitigasi Otomatis | Menggunakan circuit breaker untuk segera memperbaiki penurunan kualitas. |
Konteks Insiden | Menyimpan detail tentang alur kerja dan agen agar mudah dilacak. |
Runbook per Mode Kegagalan | Memberi Anda panduan untuk menangani berbagai masalah. |
Strategi Pemrosesan Ulang | Menetapkan aturan untuk menjalankan ulang alur kerja, dengan menyeimbangkan biaya dan kerugian. |
Dasbor Visual | Menampilkan kondisi real-time alur kerja, sehingga Anda dapat segera menemukan masalah. |
Anda mendapatkan sistem yang Autonomous but Accountable (otonom namun dapat dipertanggungjawabkan). Anda dapat memeriksa, mengaudit, dan mengulangi setiap tindakan yang dilakukan agen Anda. Hal ini membantu Anda membangun AI yang aman dan kuat untuk bisnis Anda.
Tata Kelola, Keamanan, dan Observabilitas
Identitas dan Izin dengan Entra
Anda memerlukan aturan yang kuat untuk menjaga agen AI Anda tetap aman. Azure AI Foundry menggunakan Microsoft Entra untuk mengatur siapa yang dapat melakukan apa. Setiap agen mendapatkan identitas perusahaannya sendiri. Anda memilih apa yang dapat dilakukan setiap agen dan API mana yang dapat digunakannya. Anda menyiapkan kontrol akses berbasis peran (role-based access control), disebut RBAC, sehingga agen hanya mendapatkan izin yang mereka butuhkan. Kebanyakan orang memulai dengan peran Reader. Anda hanya memberikan peran Contributor jika benar-benar diperlukan. Hal ini menjaga sistem Anda tetap aman dan mengikuti prinsip hak akses minimum.
Manajemen identitas otomatis membantu Anda menambah, memperbarui, atau menghapus agen dengan risiko lebih rendah. Anda juga dapat menggunakan aturan akses berbasis risiko untuk memastikan agen hanya mendapatkan data dan alat yang mereka butuhkan.
Fitur | Deskripsi |
|---|---|
Identitas dan Akses | Izin berbasis peran terpusat melalui Entra ID. |
Jaringan Privat | Isolasi data dengan VNet dan private endpoint. |
Audit dan Telemetri | Keterlacakan untuk setiap pemanggilan pengguna dan API. |
Pemfilteran Konten | Memblokir output yang tidak aman menggunakan Azure AI Content Safety. |
Manajemen Kebijakan | Selaras dengan kerangka kepatuhan GDPR, HIPAA, dan SOC-2. |
Pemanggilan Alat yang Dapat Diamati
Anda ingin selalu mengetahui apa yang dilakukan agen Anda. Azure AI Foundry menyimpan log setiap pemanggilan alat dan tindakan. Anda dapat memantau perilaku agen dan menemukan masalah dengan cepat. Sistem melacak seberapa sering permintaan terjadi dan polanya. Jika ada sesuatu yang tidak biasa, Anda akan menerima peringatan. Anda menetapkan pagar pengaman (guardrails) agar agen mengikuti aturan keamanan sebelum dan sesudah setiap tindakan.
Deskripsi Bukti | Penjelasan |
|---|---|
Setiap tindakan agen dicatat untuk deteksi secara real-time dan kepatuhan terhadap kebijakan. | |
Menetapkan baseline perilaku | Melacak pola membantu Anda menemukan dan menyelidiki aktivitas yang tidak biasa. |
Penegakan kebijakan dengan Agent Guardrails | Agen harus mematuhi aturan keamanan untuk setiap pemanggilan tool. |
Jejak Bukti untuk Kepatuhan
Anda harus mengikuti aturan ketat di bidang kesehatan, keuangan, dan bidang lainnya. Azure AI Foundry membantu Anda mengumpulkan bukti untuk audit. Anda dapat melihat data, memeriksa kualitasnya, dan mengontrol siapa yang dapat mengaksesnya. Sistem mengelola metadata sehingga Anda dapat menunjukkan bahwa Anda bertanggung jawab. Anda dapat mengotomatiskan pengumpulan bukti agar audit menjadi lebih mudah.
GDPR mewajibkan Anda melindungi data pribadi.
HIPAA mencakup informasi kesehatan.
SOX mensyaratkan log audit untuk data keuangan.
EU AI Act menuntut keamanan, transparansi, dan keterlacakan.
Menggunakan model Zero Trust Security dan fitur cloud membantu Anda mematuhi aturan. Anda dapat melacak metrik penting dan menggunakan alat RegTech untuk mengikuti perkembangan undang-undang baru.
Anda membangun sistem agen yang bekerja secara mandiri, tetapi selalu meninggalkan catatan yang jelas. Hal ini membuat AI Anda dapat dipercaya dan siap digunakan di lingkungan dengan aturan ketat.
Pengalaman Developer & Quick Start
Membangun Agen Pertama yang Terkelola
Pertama, Anda memilih apa yang ingin dilakukan agen Anda. Selanjutnya, Anda memilih model dan menulis instruksi sederhana. Kemudian, Anda memilih tool yang akan digunakan agen Anda. Azure AI Foundry memudahkan penyiapan setiap bagian tersebut. Anda menggunakan Agent Service untuk menghubungkan agen Anda ke bisnis Anda. Layanan ini membantu Anda menambahkan agen dengan keamanan dan aturan yang kuat. Anda dapat menerapkan agen dalam pekerjaan Anda tanpa mengubah semuanya. Banyak developer menganggap mengelola banyak agen itu sulit. Agent Service memberi Anda fondasi yang kuat untuk membantu Anda mengontrol dan meluncurkan agen.
Tips: Mulailah dengan agen kecil yang menyelesaikan satu hal. Tambahkan fitur lain seiring Anda belajar.
Memeriksa Log dan Siklus Hidup
Anda perlu melihat apa yang dilakukan agen Anda di setiap langkah. Azure AI Foundry menyimpan catatan setiap tindakan. Anda dapat memeriksa threads, runs, dan run steps untuk melihat keseluruhan prosesnya. Setiap agen memiliki artefak SBOM khusus. Artefak ini memungkinkan Anda melacak setiap perubahan dan memeriksa identitas agen. Anda melihat tool mana yang digunakan agen dan kapan agen membuat pilihan. Anda dapat menggunakan dashboard untuk mendeteksi masalah dan memperbaikinya dengan cepat. Hal ini membantu Anda menjaga sistem tetap aman dan berfungsi dengan baik.
Kemampuan | Deskripsi |
|---|---|
Keterlacakan | Setiap agen memiliki SBOM khusus untuk melacak riwayatnya. |
Verifikasi Identitas | SBOM membuktikan siapa agen tersebut dan apa yang dapat dilakukannya sebelum bergabung dalam alur kerja. |
Akurasi | SBOM menunjukkan lingkungan nyata tempat agen berjalan. |
Kemutakhiran | Setiap kali Anda meluncurkan, Anda mendapatkan SBOM baru dengan versi terbaru. |
Penyelesaian Konflik | SBOM membantu Anda memperbaiki konflik rencana antaragen. |
Mengintegrasikan Logic Apps dan Tool MCP
Anda dapat membuat agen Anda lebih cerdas dengan menghubungkannya ke Logic Apps dan tool MCP. Logic Apps memungkinkan agen Anda terhubung ke banyak sistem bisnis. Anda dapat menghubungkan agen ke CRM, ERP, atau tool TI. Tool MCP memberi agen Anda kemampuan baru, seperti mencari data atau menjalankan kode. Anda menentukan tool mana yang boleh digunakan agen. Anda menetapkan aturan agar agen hanya bertindak di tempat yang Anda inginkan. Penyiapan ini membantu Anda mengembangkan kemampuan agen sambil tetap menjaga keamanan dan kendali.
Catatan: Mulailah dengan tool sederhana dan tambahkan lebih banyak saat dibutuhkan. Selalu periksa log untuk memastikan agen mengikuti aturan Anda.
Agen Azure AI Foundry memungkinkan Anda bekerja secara mandiri tetapi tetap mengikuti aturan. Anda dapat melihat dan memeriksa setiap tindakan dengan log yang jelas. Aturan dan pelacakan yang baik membantu Anda menurunkan risiko dan mendapatkan persetujuan lebih cepat. Hal ini juga membantu orang mempercayai sistem Anda.
Aturan otomatis dan pemantauan menjaga AI Anda tetap aman.
Pelacakan dan penyimpanan versi memudahkan pemeriksaan.
Pekerjaan selesai lebih cepat, dan masalah berkurang. Pelanggan menjadi lebih puas.
Anda dapat mulai membuat otomatisasi agen sekarang. Log yang menunjukkan setiap langkah dan tool dengan izin yang ditetapkan membantu Anda memenuhi kebutuhan bisnis dan bersiap menghadapi perkembangan berikutnya.
Pertanyaan Umum
Apa perbedaan utama antara agen dan chatbot?
Dengan agen, Anda mendapatkan kontrol yang lebih besar. Agen dapat merencanakan, bertindak, dan menggunakan alat. Chatbot hanya menjawab pertanyaan. Agen menyimpan catatan setiap tindakan. Anda dapat memeriksa apa yang telah dilakukannya kapan saja.
Bagaimana Azure AI Foundry membantu Anda melacak tindakan agen?
Anda dapat melihat setiap langkah yang diambil agen Anda. Sistem mencatat thread, run, dan run step. Anda dapat meninjau log ini untuk mengetahui apa yang terjadi, kapan, dan mengapa. Hal ini membantu Anda mempercayai AI Anda.
Bisakah Anda mengubah model atau alat setelah membangun agen?
Bisa! Anda dapat mengganti model atau menambahkan alat baru tanpa memulai dari awal. Hal ini memungkinkan Anda memperbarui agen untuk tugas baru atau hasil yang lebih baik. Instruksi dan riwayat Anda tetap aman.
Bagaimana cara menjaga agar agen tetap aman dan mematuhi aturan perusahaan?
Atur izin untuk setiap agen menggunakan Microsoft Entra. Tentukan data dan alat apa saja yang dapat digunakan setiap agen. Sistem memeriksa setiap tindakan dan menyimpan log untuk keperluan audit.
Mengapa Anda memerlukan lifecycle logging dalam AI perusahaan?
Lifecycle logging memberi Anda bukti setiap tindakan. Anda dapat men-debug masalah, memenuhi kebutuhan kepatuhan, dan menunjukkan bagaimana AI Anda mengambil keputusan. Hal ini membangun kepercayaan dan menjaga keamanan bisnis Anda.