Apa sebenarnya Azure AI Foundry itu? Apakah ini hanya layanan tambahan dari Microsoft atau sesuatu yang lebih besar? Sepanjang tahun lalu, Microsoft terus-menerus membuat pengumuman terkait AI. Mudah sekali untuk memasak bingung. Saya Mirko Peters dari Microsoft Knowledge Network. Di akhir episode ini, Anda akan tahu apa itu Foundry dan mengapa ini penting. Apa bahasa-bahasa pemasaran. Kami akan membedahnya menjadi bagian-bagian yang jelas apa itu, apa isinya, dan bagaimana semuanya terhubung. Mengapa semua orang bingung dengan namanya? Kebingungan dimulai dari namanya. Foundry telah mengalami pergantian nama lebih banyak dari yang bisa saya hittin. Awalnya, Cognitive Services, lalu Azure AI Services, Azure AI Studio, Azure AI Foundry, dan sejak akhir tahun lalu, secara resmi menjadi Microsoft Foundry. Produk yang sama 4 tahun 5 tahun sekitar 3 tahun. Itu saja sudah membingungkan, tapi situasinya lebih rumit lagi.

Saat ini, dua versi platform tersebut berjalan perdampingan. Arsitektur berbasis hub klasik adalah acara lama. Mendalap proyek Foundry yang baru adalah versi modernnya. Keduanya berada di URL yang sama, ai.azure.com. Anda pergi ke sana dan menemukan tombol saklar yang berpindah di antara dua arsitektur yang benar-benar berbeda. Ini bukan sekadar tampilan baru. Ini adalah cara yang berbeda dalam mengatur segalanya di URL. Hal ini membingungkan pemula karena saat Anda mencari bantuan, Anda menemukan artikel tentang hub dan proyek klasik. Artikel tersebut masih akurat. Microsoft mendukung kedua versi. Namun fitur baru, kemampuan agen, dan semua investasi Microsoft hanya tersedia di proyek Foundry. Anda mungkin mengikuti tutorial lama menyiapkan hub, lalu mendapati bahwa Anda tidak bisa menggunakan alat terbaru. Itu benar-benar menyusahakan. Jadi inilah saran saya. Abaikan hal lama tersebut.

Foundry modern adalah Microsoft menaruh segalanya. Jika Anda baru memulai hari ini, lewati hub dan langsung menggunakan proyek Foundry. Disitulah kemampuan baru berada. Jadi, apa sebenarnya Azure AI Foundry itu? Hari kita mulai dari nov. Apa itu Azure AI Foundry? Ini adalah platform terpadu untuk membangun, menguji, dan menerapkan aplikasi AI di satu tempat. Itulah definisi yang paling sederhana. Anggaplah seperti sebuah pabrik. Bahan baku masuk, model, data, alat. Aplikasi jadi keluar, chatbot, copilot, agen otomatisasi. Anda tidak membangun pabriknya sendiri Microsoft yang menjalankan. Anda cukup masuk, ambil apa yang Anda butuhkan dan mulai membangun. Ini bukan produk tunggal seperti Word atau Excel. Foundry adalah wadah yang berisi model, alat, proyek, dan keamanan. Buat satu sumber daya Foundry dan Anda mendapatkan seluruh katalog model, ribuan model. Anda mendapatkan alat pembuat agen, ruang uji, alat evaluasi, dan keamanan.

Semuanya digabungkan jadi satu. Nah, ini adalah perbedaan utamanya. Foundry ditujukan untuk para pengum. Jika Anda menulis kode Python atau SheStrap, jika Anda ingin membangun solusi iCustom dengan kode, inilah platform Anda. Mencari pengalaman low-code dengan fitur tarik lepas. Itu adalah Copilot Studio. Alat yang berbeda untuk audiens yang berbeda. Keduanya sama-sama berbeda. Sebelum Foundry, membangun aplikasi AI di Azure berarti harus menyediakan layanan yang terpisah-pisah. Anda harus menyiapkan Azure Open AI Cognitive Services, Azure Machine Learning, Azure AI Search, lalu menulis kode custom untuk menghubungkannya. Pekerjaan yang sangat baik. Foundry menggantikan semua itu. Cukup buat satu sumber daya dan semuanya sudah terhubung. Model tersedia, alat tersedia, dan keamanan sudah terintegrasi. Anda bisa langsung mulai membangun. Itulah intinya. Ini bukan tentang menambah alat baru, tapi menghilangkan kerumitan dalam mengelola belasan layanan terpisah.

Unit organisasi utama, yaitu Proyek Foundry. Ada sudah memiliki pabrik AI. Namun sebuah pabrik membutuhkan organisasi. Disitulah perang Proyek Foundry. Proyek Foundry adalah ruang kerja terisolasi untuk solusi AI tertentu. Jika Foundry adalah pabriknya, proyek adalah meja kerja individualnya. Masing-masing memiliki alat, bahan, dan pekerja sendiri, tanpa saling mengganggu. Tim yang membangun chatbot dukungan pelanggan tidak akan secara tidak sengaja merusak proyek asisten SDM. Apa saja yang ada dalam sebuah proyek? Penerapan model agen penyimpanan pengetahuan, evaluasi, dan pematahuan miliknya sendiri. Semua yang Anda butuhkan untuk satu solusi, semuanya di satu tempat. Berikut adalah struktur inti. Proyek berada di dalam sumber daya Foundry. Sumber daya tersebut adalah batas penagihan dan keamanan, yaitu gedungnya. Proyek adalah ruangan-ruangan di dalam. Satu gedung, satu pintu depan, satu meja keamanan, satu tagihan.

Namun setiap ruangan memiliki tujuan dan timnya sendiri. Sebagai contoh, sebuah perusahaan bernama Contoso membangun tiga solusi AI. Agen dukungan pelanggan, asisten SDM, dan sistem pemrosesan dokumen. Dengan Foundry, mereka membuat satu sumber daya untuk seluruh perusahaan, lalu membuat tiga proyek di dalam. Setiap proyek memiliki model agen dan penyimpanan pengetahuan sendiri. Tim bekerja secara mandiri tanpa saling mengganggu pekerjaan satu sama. Ini penting karena tim yang berbeda membutuhkan akses yang berbeda pun. Tim dukungan pelanggan tidak perlu melihat dokumen SDM. Tim pemrosesan dokumen tidak memerlukan kebijakan pengumilan. Proyek yang isolasi tersebut kepadanya. Pada saat yang sama, tim TI tetap memegang kendali pusat dengan mengelola satu sumber daya, satu kebijakan keamanan, dan satu anggaran. Otonomi tim dengan tata kelola terpusat. Jantung dari Foundry, yaitu katalog model.

Pikirkan seperti ini. Setiap proyek membutuhkan otak. Di Foundry, otak tersebut berada di dalam katalog model. Lebih dari 11.000 model, dan itu bukan salah ketik. Anda mendapatkan model OpenAI seperti GPT-4O dan GPT-4.1, keluarga lama dari Meta, Mistral, DeepSeq, model V milik Microsoft sendiri, Cloud dari Anthropic, Chohair, serta model untuk teks, gambar, kode, dan penyematan embedding. Saat ini, ini adalah katalog model terbesar yang akan Anda temukan di platform Cloudman. Mari kita bagi model tersebut menjadi dua jenis dasar model basa kecil. Model besar memiliki miliaran parameter. GPT-4 memiliki lebih dari 1 triliun. Sehingga mereka mampu menangani penalahan kompleks, penulisan kreatif, dan percakapan bernuansa. Namun, mereka mahal dan lambat. Model kecil memiliki parameter yang jauh lebih sedikit. V3 milik Microsoft memiliki sekitar 3,8 miliar. Sangat kecil dibandingkan GPT-4, namun cepat dan murah.

Untuk tugas-tugas terfokus, seperti mengekstrak data dari formulir atau menjawab pertanyaan sederhana, model pertanyaan yang sangat baik. Inilah manfaat praktisnya. Anda dapat menerapkan mode detik. Pilih salah satu dari katalog, klik terapkan, deploy, dan model siap digunakan. Tidak perlu menyediakan perangkat keras, tidak perlu mengonfigurasi jaringan, tidak perlu menunggu berjam-jam untuk pengaturan, hanya hitungan detik. Dan sebelum Anda berkomitmen, Anda bisa mengujinya di Playground. Coba prom yang berbeda, sesuaikan pengaturan seperti temperatur dan token maksimal, lihat responnya secara instan. Ini seperti mencoba mobil sebelum Anda memberi. Anda tidak terpaku pada satu model, dan itu adalah keuntungan besar dibandingkan menggunakan API OpenAI secara langsung. Dengan Foundry, Anda bisa menggunakan GPT-4O untuk penalaran kompleks yang mengutamakan kualitas, VV untuk klasifikasi sederhana yang mengutamakan kecepatan dan biaya, serta alamat dari meta untuk kepatuhan, jika Anda perlu menjalankan model di pusat data Anda sendiri.

Anda bisa berharap tergantung beberapa pekerjaan. Foundry juga menyertakan alat perbandingan yang membantu Anda mengevaluasi model secara berdamping. Bandingkan berdasarkan kualitas, berapa akurat respon. Berdasarkan keamanan, seberapa baik model tersebut menahan serangan injeksi prob. Berdasarkan biaya, harga perjuta token. Berdasarkan kecepatan, seberapa cepat model menghasilkan. Hal itu mengubah pemilihan model dari sekadar menebak-nembak menjadi keputusan yang tepat. Anda memilih alat yang tepat untuk pekerjaan yang tepat, bukan hanya yang sedang dibicarakan semua orang. Membangun agen AI, fitur unggulan Foundry. Sebuah model saja tidak terlalu berguna. Anda bisa mengobrol dengannya di Playground, dan mengajukan pertanyaan melihat apa yang dihasilkannya. Tapi itu hanya percakapan, keajaiban yang sebenarnya terjadi ketika Anda membangun sesuatu yang benar-benar bisa melakukan tugas dan disitulah pernik.

Sebuah agen lebih dari sekadar chat. Chatbot menjawab pertanyaan. Agen mengambil dindak. Ia bisa mencari di web, membaca file, melakukan perhitungan, mengingat apa yang Anda katakan minggu lalu, dan mengikuti serangkaian instruksi. Ini seperti memiliki asisten yang tidak hanya berbicara, tetapi benar-benar menyelesaikan pekerjaan. Foundry memberi Anda lima komponen untuk membangun sebuah agen. Ijinkan saya menjelaskan satu. Pertama, instruksi. Disinilah Anda memberitahu agen apa yang harus dilakukan, dan bagaimana ia harus bersih. Anggapnya ini seperti deskripsi pekerjaan. Anda mungkin berkata Anda adalah agen dukungan pelanggan, bersikap laharama dan profesional. Hanya jawab pertanyaan tentang kebijakan pengembalian Anda. Jika Anda tidak tahu jawabannya, katakan demikian dan teruskan kepada manusia. Tanpa instruksi, agen melakukan apapun yang menurut model tersebut benar. Dengan instruksi, ini yang jelas.

Kedua model. Ini adalah otaknya. Ia memproses setiap permintaan dan menghasilkan respon. Anda memilih model mana yang akan digunakan, JPD 4O untuk penalaran kompleks, 5 untuk tugas sederhana, apapun yang pas. Model membuat agen menjadi cerdas, tetapi itu hanya salah satu. Ketiga, disinilah agen mendapatkan tangan untuk bekerja. Alat adalah kemampuan yang bisa digunakan untuk melakukan berbagai hal. Penjalan web memungkinkan ia mencari informasi terkini. Padahal jemah kode memungkinkan ia melakukan matematika dan menjalankan penjalan. Pencarian file memungkinkan ia membaca dokumen yang Anda unggah. Tanpa alat, agen hanya bisa menghasilkan teks. Dengan alat, ia bisa berinteraksi dengan dunia. Keempat, pengetahuan. Ini adalah informasi yang dapat dirujuk oleh agen. Anda mengunggah dokumen, PDF, file JSON, apapun, data yang dibutuhkan agen Anda untuk menjawab pertanyaan dengan akurat. Foundry menggunakan Azure Eye Search di balik layar untuk mengindeks data tersebut dan membuatnya dapat dicari.

Ketika pelanggan bertanya tentang kebijakan tertentu, agen tidak mendapatkan nomor. Ia menemukan dokumen yang sebenarnya dan membaca. Kelima, memori. Ini memungkinkan agen untuk mengingat di berbagai percakapan. Anda berbicara dengannya hari ini dan ia mengingat preferensi Anda. Anda kembali besok dan ia melanjutkan dari bagian terakhir yang Anda tinggal. Ia menyimpan berkasan obrolan dan preferensi pengguna, sehingga pengalamannya terasa personal dan berkesinambungan. Berikut adalah contoh konkret dari penelitian saya lakukan. Seseorang membangun agen pelacak kado di Foundry. Ide-nya sederhana. Anda ingin melacak kado untuk keluarga Anda, apa yang sudah Anda berikan di masa lalu, apa yang mereka suka, apa yang tidak mereka suka, dan berapa banyak yang Anda habiskan. Jadi agen tersebut memiliki instruksi yang mengatakan Anda membantu merencanakan kado. Jangan pernah menyarankan sesuatu yang sudah pernah mereka terima.

Ini menggunakan JPD 4 sebagai otaknya, pencarian web untuk ide hadiah daring, pencarian file yang dimuati profil setiap anggota keluarga, kesukaan, ketidaksukaan, dan riwayat hadiah dari 3 tahun terakhir, penerjemah kode untuk menghitung anggaran, serta memori. Penerjemah kode untuk menghitung anggaran, serta memori. Jadi saat Anda membuka percakapan berikutnya, sistem akan ingat bahwa Anda sedang mencari kado ulang tahun untuk putera Anda. Anda membangun dan menguji semua ini di Playground Agen. Ini adalah antarmuka visual tempat Anda mengonfigurasi setiap komponen, menguji respons Agen, dan melihat alat mana yang digunakan serta alasannya. Setelah berhasilan, dapat menyebarkannya. Foundry memberi Anda endpoint API yang dapat dipanggil dari aplikasi manapun, atau Anda bisa menerbitkannya langsung ke Microsoft Teams sebagai Agen Co-Pilot. Bagaimanapun, Agen Anda beralih dari ide ke produksi tanpa perlu menulis satu baris kode infrastruktur pun.

Di balik layar, arsitekturnya dibuat sederhana. Itu adalah tingkat permukanya, tetapi yang sebenarnya terjadi di balik layar. Ikutanlah aset sederhana. Saat Anda membuat sumber daya Foundry, Azure menyiapkan seluruh infrastruktur secara otomatis jadi Anda tidak perlu menyediakan penyimpanan mengonfigurasi logging atau mengatur grup keamanan. Semuanya terjadi di balik layar, membuat akun penyimpanan untuk file dan log Anda menyiapkan pemantauan dan mengonfigurasi identitas. Jadi yang perlu Anda lakukan hanyalah membuat sumber daya demulian. Saat ini, Foundry menggunakan jenis sumber daya Cognitive Services yang sama dengan yang digunakan Azure Open AI dan layanan AI lama seperti Vision dan Speech. Arsitektur berbasis hub yang lama menggunakan Machine Learning Services, penyedia yang benar-benar berbeda dengan penagihan jaringan dan tata kelola yang juga berbeda. Hal itu penting karena Foundry berada di bagian infrastruktur Azure yang lebih sederhana dan terpadu.

Proyek adalah sumber daya turunan dari sumber daya Foundry sehingga keduanya berbagi identitas dan batasan keamanan yang sama. Saat Anda mengatur kontrol akses di tingkat Foundry, akses tersebut akan turun ke semua proyek, artinya Anda tidak perlu ke semua proyek, artinya Anda tidak perlu selesai untuk step right. Namun, jika Anda memerlukan izin khusus proyek, Anda juga bisa menembak. Pondiri dapet justru. Ia terhubung ke layanan Azure lainnya dan Azure iSearch adalah yang paling penting, karena itu acara agen Anda menemukan dan mengambil pengetahuan. Key Vault menyimpan rahasia dan kunci API dengan aman, sedangkan akun penyimpanan menampung file, log, dan index vector. Koneksi ini dikola melalui apa yang disebut Foundry sebagai koneksi, yaitu tautan prakonfigurasi yang memungkinkan agen Anda mengakses sumber daya ini tanpa perlu mengolah kredensial secara manual. Foundry Agent Service adalah runtime yang sebenarnya menampung agen-agen Anda.

Anggap saja itu sebagai ruang mesin. Saat pengguna mengirimkan permintaan, layanan agen menangani koordinasi, menerima permintaan, memeriksa instruksi, memanggil model, menjalankan alat yang tepat, mengambil pengetahuan, dan menghasilkan respons. Layanan ini juga menjalankan filter keamanan untuk menangkap konten berbahaya dan menangkap skala. Jadi jika seribu pengguna mengakses agen Anda secara bersamaan, sistem akan menambah kapasitas jarak. Semuanya berjalan di dalam keamanan tingkat perusahaan Azure dengan Enter ID menangani autentikasi, jaringan terkelola menjaga lalu, lintas stop pribadi, dan kontrol akses berbasis peran memastikan hanya orang berwenang yang dapat mengubah agen. Filter keamanan konten memblokir respons yang tidak pantas. Ini adalah infrastruktur keamanan yang sama yang menjalankan layanan Microsoft sendiri. Satu hal lagi, arsitektur hub dan proyek yang lama masih ada.

Jika Anda telah menggunakan Azure AI Foundry selama beberapa waktu, Anda mungkin sudah menyiapkan hub dan itu masih berfungsi dengan dukungan Microsoft. Namun hub tersebut tidak akan mendapatkan fitur agen baru seperti agent playground, layanan agen, atau kemampuan memori. Semua itu hanya tersedia di proyek Foundry yang baru. Jadi jika Anda baru memulai atau ingin membangun agen gunakan proyek yang baru, jangan membangun data fundasi yang lama. Bagaimana semuanya terhubung? Gambaran besarnya. Jadi apa yang sebenarnya terjadi saat seseorang gunakan aplikasi Foundry? Bayangkan pengguna mengetik pertanyaan dan pertanyaan itu masuk ke agen Anda. Agen memeriksa instruksinya, memilih modal yang tepat, dan mulai memproses. Namun agen tidak sekedar menebak jawaban. Agen mengakses Azure AI Search untuk menemukan pengetahuan relevan dari dokumen Anda, memanggil alat seperti pencarian web untuk informasi terkini, memproses semua konteks tersebut, dan menghasilkan respons.

Kemudian agen menyimpan percakapan dalam memori sehingga di lain waktu ia mengingat siapa Anda dan dikusikan. Itulah alur menyeluruhnya. Sebelum Foundry, Anda memerlukan 5 layanan Azure terpisah dan kode custom untuk mewujudkannya. Azure Open AI untuk model, AI Search untuk pengambilan pengetahuan, layanan terpisah untuk pencarian web, penyimpanan untuk log dan file, serta key vault untuk khasiat. Kemudian, Anda harus menulis kode untuk menghubungkan semuanya, menangani autentikasi, mengelola kesalahan, dan menyiapkan pemantauan. Foundry melakukan semua itu secara langsung. Anda cukup mengonfigurasi komponen dan agen Anda pun berjalan. Begini, semuanya saling berinteraksi? Ubah modelnya dan Anda mengubah biaya serta akurasi setiap respon. Tambahkan sumber pengetahuan yang lebih baik dan jawaban Anda menjadi lebih akurat. Aktifkan memori dan pengalamannya terasa personal, bukan robotik. Ini bukan keputusan yang terpisah.

Ini adalah sebuah sistem dan Foundry memberi Anda kontrol untuk menyesuaikan sistem tersebut dengan kebutuhan spesifik Anda. Inilah sebabnya pusan beralih dari tab uji coba keproduksi. Foundry memberi mereka kerangka kerja untuk membangun aplikasi AI yang terpercaya. Keamanan sudah terpasang, pemantauan sudah terpasang, dan evaluasi sudah terpasang. Anda tidak memulai dari nol. Anda berdiri di atas platform yang menangani bagian tersulit, jadi Anda bisa fokus pada aplikasinya. Memulai langkah pertama Anda. Di mana Anda memulai? Kunjungi ai.azure.com dan buat sumber daya Foundry pertama Anda. Anda memerlukan langganan Azure, tetapi jika belum punya, daftar akun gratis dengan beberapa kredit untuk dicoba. Seluruh pengaturan hanya memakai waktu sekitar satu. Selanjutnya, buat proyek di dalam sumber daya tersebut dan beri nama yang sesuai dengan apa yang Anda bangun. Lalu pilih model katalog.

Saya sarankan untuk memulai dengan cukup mumpuni bagi sebagian besar eksperimen. Anda bisa merapkan dengan satu klik. Setelah itu, buka arena bermain agen dan buat agen sederhana. Beri instruksi seperti Anda, asisten yang membantu menjawab pertanyaan tentang kebijakan perusahaan. Pemakan pencarian web sebagai alat. Uji dengan mengajukan pertanyaan dan pantau jejaknya untuk melihat alat apa yang digunakan dan alasan. Jangan mencoba membangun semuanya sekaligus. Pilih satu kasus penggunaan. Mungkin buat tanya jawab dokumen yang menjawab pertanyaan tentang buku panduan perusahaan dan mulailah dengan kecil. Buat agar berfungsi lalu pemakan dari satu. Tambahkan pencarian file dengan dokumen nyata. Tambahkan memori agar mengenali pengguna. Dan tambahkan interpreter kode jika perlu perhitungan. Begini intinya, Foundry menyertakan chatbot ayah bawaan yang menjawab pertanyaan tentang platform itu sendiri.

Jika Anda bingung, tanyakan hal-hal seperti model apa saja yang tersedia di wilayah saya. Atau bagaimana cara menambahkan memori ke agen saya? Chatbot itu menelusuri dokumentasi dan langsung memberi jawaban seperti memiliki insinyur dukungan yang terintegrasi di dalam portal. Jadi, itulah sistemnya sebuah platform terpadu yang menggabungkan model, proyek, agen, pengetahuan, dan keameran menjadi sesuatu yang bekerja bersama. Saat Anda melihat bagaimana semuanya terintegrasi, kebingungan akan hilang. Foundry bukan sekadar alat lain, ini adalah bengkel tempat Anda membangun aplikasi AI. Inti serinya adalah ini. Pencapaian terbesar Anda hari ini sederhana. Buat proyek Foundry dan bangun satu agen. Itu saja. Jika ini membantu, berlanggananlah untuk penjelasan bahasa muda seperti ini. Dan bagikan episode ini kepada seseorang yang juga bingung tentang jajaran AI Microsoft. Mereka berima kasih kepada Anda.