Azure AI Foundry Threads

Menjalankan AI di Azure AI Foundry berarti lebih dari memanggil satu model bahasa besar. Model ditempatkan dalam kerangka yang terkelola, dan setiap tindakan yang relevan dicatat serta dapat dilacak: pesan, panggilan alat, hingga langkah eksekusi. Dengan begitu, AI tidak lagi menjadi entitas yang sulit dikendalikan, melainkan sistem disiplin yang bisa dikelola dan diperiksa.

Artikel ini membahas bagaimana agen, Thread, Run, dan Run Step membentuk jejak audit yang membuat eksperimen AI siap dibawa ke skala perusahaan. Kita juga akan melihat peran alat dan keamanan identitas di dalamnya.

Agen Azure AI Foundry: tiga komponen utama

Saat membuat agen di Foundry, Anda tidak sekadar membuka jendela prompt. Anda menunjuk semacam pemimpin tim digital yang dirancang untuk sebuah misi. Desain agen bertumpu pada tiga komponen: model, instruksi, dan alat. Tanpa ketiganya, reproduksibilitas dan auditabilitas sulit dicapai. Yang Anda dapatkan hanya pembuatan teks tanpa bukti yang jelas.

Model: otak agen

Model menangani bahasa. Ia mengurai kalimat manusia, merencanakan langkah, dan menyusun respons. Foundry tidak mengikat Anda pada satu model. Dari katalog Foundry Anda bisa beralih antarmodel, misalnya GPT-4 untuk strategi yang kompleks, model yang lebih ramping untuk tugas ringan, atau bahkan Mistral dan DeepSeek. Anda memilih yang paling sesuai dengan kebutuhan.

Instruksi: perintah misi

Instruksi menjaga model agar tidak melantur dan memfokuskannya pada hasil yang benar-benar Anda butuhkan. Instruksi berfungsi seperti buku aturan tetap yang harus diikuti agen, sehingga perilakunya selaras dan dapat diprediksi.

Alat: perlengkapan kerja

Alat adalah kemampuan yang dibawa agen: eksekusi kode, konektor pencarian, API pelaporan, atau sistem pihak ketiga yang Anda hubungkan. Alat inilah yang membuat agen bisa bertindak, tidak hanya menjelaskan.

Pada banyak API obrolan, Anda hanya mendapat model dan prompt. Tidak ada struktur formal untuk instruksi maupun orkestrasi alat. Layanan agen Foundry memastikan ketiga lapisan itu selalu ada. Hasilnya, agen tidak berimprovisasi, melainkan menjalankan misi dengan catatan dan titik pemeriksaan.

Thread: log percakapan yang persisten

Dalam Foundry, Thread bukan jendela obrolan santai yang hilang begitu ditutup. Thread adalah sesi percakapan yang persisten. Setiap pertukaran disimpan, baik dari pengguna, agen, maupun agen lain dalam pengaturan multi-agen. Riwayat itu dapat ditinjau lama setelah obrolan selesai.

Thread juga bukan transkrip statis, tetapi wadah terstruktur yang menangani pemotongan (truncation) secara otomatis. Konteks aktif tetap berada dalam batas model, sementara jejak audit yang lengkap tetap tersimpan. Agen terus memahami percakapan, dan perusahaan memiliki catatan permanen.

Isi sebuah Thread

Entri dalam Thread berupa pesan. Pesan tidak terbatas pada teks, tetapi dapat berisi gambar, file spreadsheet, atau blok kode yang dihasilkan. Setiap pesan diberi stempel waktu dan label peran, yaitu pengguna atau asisten. Saat memeriksa Thread, Anda melihat apa yang dikatakan, siapa yang mengatakannya, kapan, dan jenis konten apa yang terlibat.

Manfaat bagi audit, kepatuhan, dan pengembang

• Audit dan kepatuhan: regulator atau tim audit internal dapat melihat urutan lengkap, yaitu permintaan pengguna, respons agen, alat yang terlibat, dan waktunya.
• Pengembang: Thread berfungsi seperti mode debug. Jika agen menghasilkan kode yang salah, Anda bisa memutar balik ke titik permintaan dan melihat bagaimana hasilnya terbentuk.
• Alur multi-agen: komunikasi bolak-balik antaragen yang membagi tugas juga tercatat.

Tanpa Thread, pelacakan perilaku bergantung pada tangkapan layar atau ingatan yang samar. Itu tidak cukup kuat ketika pihak kepatuhan meminta bukti atau tim dukungan perlu mereproduksi bug. Tanpa catatan tidak ada bukti, dan tanpa jejak tidak ada perbaikan.

Run: saat agen mulai bekerja

Thread menyimpan riwayat percakapan, perintah, dan konteks. Run adalah pemicu yang mengaktifkan agen untuk mengambil konteks itu dan mengeksekusinya. Sebagai contoh, permintaan untuk menganalisis sebuah file CSV dan membuat grafik garis diproses agen melalui instruksi, model, dan alatnya. Agen dapat mencari data tambahan, menghitung angka, atau memanggil code interpreter untuk membuat artefak.

Run bukan kotak hitam, melainkan eksekusi yang dipantau statusnya. Status yang umum Anda temui:

• Queued
• In Progress
• Requires Action
• Completed
• Failed

Contoh SDK sering memeriksa status ini dalam sebuah loop. Dengan begitu Anda tahu hasil akhirnya sekaligus kapan hal itu terjadi.

Run Step: jejak langkah demi langkah

Jawaban yang tampak bagus belum tentu transparan. Tanpa detail, Anda tidak tahu apakah agen mengakses API eksternal, menulis kode, atau hanya mengarang teks. Di lingkungan perusahaan, ketidakjelasan seperti itu berbahaya.

Run Step menghilangkan dugaan tersebut. Setiap Run direkam langkah demi langkah: output model yang dihasilkan, alat yang dipanggil, kalkulasi yang dijalankan, dan pesan yang diproduksi. Urutannya kira-kira seperti ini: file diambil, blok kode dieksekusi, lalu artefak grafik dikembalikan, semuanya dengan stempel waktu. Anda bisa memutar ulang prosesnya seperti membaca notasi permainan catur.

Dampaknya bagi pengembang

Tanpa Run Step, Anda hanya menatap jawaban akhir tanpa tahu bagaimana jawaban itu tercipta. Dengan Run Step, Anda dapat menelusuri lini masa, menemukan kesalahan yang tepat, dan memperbaikinya. Pemecahan masalah berubah dari tebak-tebakan menjadi forensik.

Dampaknya bagi tim kepatuhan

Ketika auditor bertanya bagaimana sebuah ringkasan dibuat, Anda tidak perlu menjelaskan penalaran model secara abstrak. Pemanggilan alat, langkah interpreter, dan jawaban yang disusun semuanya berstempel waktu. Penjelasan berubah menjadi tata kelola: Anda menunjukkan bukti, bukan sekadar cerita.

Untuk operasi sehari-hari, pola ini juga berguna. Jika alur kerja perlu dijalankan ulang, Anda dapat mengikuti urutan yang sama. Jika sebuah hasil dipertanyakan, Anda dapat memutarnya kembali.

Alat Foundry: dari kata-kata ke tindakan

Alat mengubah agen dari mesin obrolan menjadi pekerja. Alih-alih hanya menjelaskan cara memeriksa dokumen atau menjalankan perhitungan, agen benar-benar melakukannya dan mengembalikan hasilnya. Foundry menyediakan tiga kategori kemampuan.

1. Alat bawaan

Alat bawaan mencakup code interpreter, Bing Search, serta konektor SharePoint dan Microsoft Fabric. Dengan alat ini agen dapat menganalisis data, menarik file, mencari konten perusahaan, dan menyusun grafik atau laporan tanpa kustomisasi tambahan.

2. Alat kustom lewat OpenAPI dan MCP

Anda tidak terkunci pada apa yang disediakan Microsoft. Alat kustom dapat didaftarkan melalui spesifikasi OpenAPI atau Model Context Protocol (MCP). MCP penting karena sistem menangani penemuan, pembuatan versi, dan pemanggilan alat secara otomatis, sehingga Anda tidak perlu menulis integrasi manual setiap kali menghubungkan agen ke server MCP jarak jauh. Beban integrasi berkurang, terutama di lingkungan dengan banyak sistem.

3. Pemanggilan alat yang dapat diamati

Setiap pemanggilan alat dicatat pada tingkat langkah, lengkap dengan identitas, input, output, dan stempel waktu. Anda dapat melihat persis apa yang dipanggil, memastikan izin yang tepat diikuti, dan menyimpan catatan permanen untuk kepatuhan.

Contoh alur sederhana

Anda mengunggah file CSV sebagai pesan ke dalam Thread. Agen memanggil code interpreter dalam langkah eksekusinya, memproses file, lalu membuat grafik. Grafik kembali sebagai gambar terlampir yang bisa langsung dimasukkan ke laporan. Perilaku ini terdokumentasi dalam contoh SDK.

Integrasi perusahaan dan keamanan identitas

Alat dapat terhubung ke Logic Apps, sehingga agen mengakses lebih dari 1.400 konektor SaaS dan on-premise yang sudah ada. Anda tidak perlu membuat ulang adaptor untuk platform CRM, ERP, atau ITSM, cukup mengonfigurasi konektor yang sudah dipakai bisnis.

Soal keamanan, alat yang terhubung ke sistem seperti SharePoint atau Fabric memakai autentikasi atas nama pengguna (on-behalf-of) yang dimediasi Microsoft Entra. Jika Anda tidak berhak membaca sebuah file kemarin, agen tidak akan melewati batas itu hari ini. Identitas dan izin tetap utuh, dan setiap panggilan dapat dilacak: siapa yang memanggil, apa yang dikirim, dan apa yang diterima. Inilah yang dibutuhkan tim kepatuhan sebelum memberi persetujuan.

Risiko dan jebakan bila struktur tidak ada

Banyak masalah AI di perusahaan muncul justru ketika salah satu lapisan di atas hilang. Beberapa jebakan yang perlu diwaspadai:

• Output tidak konsisten. Satu ringkasan kontrak berkata A, sementara ringkasan berikutnya secara halus menyanggahnya.
• Keterlacakan hilang. Tanpa log terstruktur, tidak ada catatan tentang bagaimana sebuah jawaban terbentuk.
• Debugging menjadi tebak-tebakan. Pengembang tidak dapat menelusuri kembali rantai penalaran.
• Bergantung pada tangkapan layar atau ingatan. Ini tidak memadai saat auditor meminta bukti.
• Agen hanya bicara, tidak bekerja. Tanpa alat yang terhubung secara bertanggung jawab, agen hanya menjadi sesi obrolan yang banyak bicara tetapi tidak menyelesaikan pekerjaan nyata.

Di perusahaan, ini bukan gangguan kecil. Inilah risiko nyata yang menghambat kepercayaan dan adopsi. Foundry menjawabnya dengan guardrail yang dibangun ke dalam desain agen. Instruksi menjadi buku aturan, perangkat alat dapat dibatasi ketat atau diperluas sesuai kasus penggunaan, dan model dapat ditukar dengan bebas, tetapi selalu dalam struktur yang menegakkan akuntabilitas.

Takeaways praktis

• Rancang setiap agen dengan tiga komponen yang jelas: model, instruksi, dan alat.
• Pilih model sesuai kebutuhan tugas. Katalog Foundry memungkinkan Anda beralih antarmodel tanpa meninggalkan struktur akuntabilitas.
• Manfaatkan Thread sebagai catatan permanen percakapan, lengkap dengan peran, stempel waktu, dan jenis konten.
• Pantau status Run (Queued, In Progress, Requires Action, Completed, Failed) dalam loop, seperti pada contoh SDK.
• Gunakan Run Step untuk menelusuri kesalahan dan menyiapkan bukti bagi auditor.
• Mulai dari alat bawaan, lalu perluas dengan OpenAPI, MCP, atau konektor Logic Apps bila perlu.
• Andalkan autentikasi atas nama pengguna melalui Microsoft Entra agar izin yang ada tetap berlaku.
• Langkah awal: buat proyek uji, buat agen dasar, jalankan Thread, lalu periksa Run Step di SDK maupun portal untuk memastikan log sesuai kenyataan.

Fazit

Azure AI Foundry memberi cara yang dapat diulang untuk membangun agen dengan otak, buku aturan, dan perangkat kerja. Setiap tindakan agen tercatat dalam Thread, Run, dan Run Step. Bagi pemimpin pengembangan maupun tim kepatuhan, manfaatnya sederhana: eksekusi yang dapat direproduksi dan diaudit, dengan visibilitas penuh atas siklus hidup agen. Begitulah AI beralih dari percakapan yang improvisatif menjadi rekan tim yang akuntabel, yang dapat dilacak, diuji, dan dipertanggungjawabkan.