Membuka Nilai Bisnis: Cara Menggabungkan Azure OpenAI dan Power Platform
By Mirko Peters ·
Selamat datang kembali di podcast! Hari ini kita membahas topik yang sedang ramai dibicarakan di kalangan perusahaan: bagaimana organisasi dapat membangun aplikasi bertenaga AI yang aman, dapat diskalakan, dan patuh tanpa perlu banyak pengembang profesional…
Automatically translated with AI from the original post. Read the English original
Selamat datang kembali di podcast! Hari ini kita membahas topik yang sedang ramai dibicarakan di kalangan perusahaan: bagaimana organisasi dapat membangun aplikasi bertenaga AI yang aman, dapat diskalakan, dan patuh tanpa perlu banyak pengembang profesional. Jika Anda pernah bertanya-tanya bagaimana menjembatani kecerdasan buatan tingkat lanjut dengan alat produktivitas low-code, pembahasan mendalam ini untuk Anda. Pastikan juga Anda menyimak episode podcast terkait kami, Build Production AI Apps with Azure OpenAI and Power Platform, untuk penjelasan konsep-konsep ini dalam format audio.
Selama bertahun-tahun, bisnis kesulitan mendemokratisasikan teknologi canggih. Kecerdasan buatan terasa terkunci di balik skrip Python yang rumit, gelar ilmu data, dan infrastruktur yang mahal. Kini, paradigma itu telah sepenuhnya berubah. Dengan memadukan Microsoft Power Platform dan Azure OpenAI, pembuat aplikasi (makers), arsitek solusi, dan profesional TI dapat langsung membuka nilai bisnis. Baik Anda ingin meningkatkan analisis masukan pelanggan, mendukung keterlibatan pelanggan yang proaktif, atau memperkuat pengambilan keputusan, tumpukan low-code modern membuatnya mungkin.
Mari kita telusuri langkah demi langkah bagaimana Anda dapat membuka nilai bisnis ini dengan menggabungkan Azure OpenAI dan Power Platform.
Prasyarat untuk Aplikasi Bertenaga AI
Sebelum Anda mulai membangun aplikasi bertenaga AI dengan Microsoft Power Platform dan Azure OpenAI, Anda perlu menyiapkan akun, izin, dan alat yang tepat. Persiapan ini membantu Anda menciptakan lingkungan yang aman dan efisien untuk proyek Anda.
Akun dan Izin
Penyiapan Akun Azure
Anda memerlukan akun Microsoft Azure yang aktif. Jika belum memilikinya, Anda dapat mendaftar untuk uji coba gratis atau menggunakan langganan organisasi Anda. Pastikan akun Anda memiliki izin untuk membuat dan mengelola sumber daya di Azure portal. Akun ini akan Anda gunakan untuk menyiapkan layanan Azure OpenAI dan mengelola model AI Anda.
Akses Power Platform
Anda juga memerlukan akses ke Microsoft Power Platform. Ini mencakup Power Apps dan Power Automate. Anda dapat menggunakan akun kerja atau akun sekolah untuk masuk. Jika organisasi Anda menggunakan Microsoft 365, Anda mungkin sudah memiliki akses. Hubungi administrator TI Anda jika Anda ragu. Akses yang tepat memastikan Anda dapat membangun, menguji, dan menerapkan aplikasi tanpa penundaan.
Lisensi dan Hak Admin
Lisensi yang sesuai itu penting. Anda memerlukan lisensi yang valid untuk Azure dan Power Platform. Beberapa fitur, seperti konektor premium atau layanan AI tingkat lanjut, mungkin memerlukan lisensi tambahan. Anda juga sebaiknya memiliki hak admin atau bekerja sama dengan orang yang memilikinya. Hak admin memungkinkan Anda mengonfigurasi lingkungan, menetapkan peran, dan mengelola pengaturan keamanan.
Alat dan Lingkungan
Perangkat yang Didukung
Anda dapat mengembangkan aplikasi bertenaga AI di sebagian besar perangkat modern. PC Windows atau Mac dengan peramban web sudah cukup baik. Untuk pengalaman terbaik, gunakan versi terbaru Microsoft Edge, Google Chrome, atau Safari. Perangkat seluler dapat mengakses Power Apps, tetapi membangun dan mengonfigurasi aplikasi lebih mudah dilakukan di desktop atau laptop.
Mengakses Portal Microsoft
Anda akan menggunakan beberapa portal Microsoft selama pengembangan. Azure portal memungkinkan Anda membuat dan mengelola sumber daya OpenAI. Pusat admin Power Platform membantu Anda mengatur lingkungan dan memantau penggunaan. Power Apps Studio dan Power Automate menyediakan antarmuka yang mudah digunakan untuk membangun aplikasi dan alur kerja. Pastikan Anda dapat masuk ke portal-portal ini sebelum memulai.
Tip: Siapkan lingkungan yang aman dengan menggunakan kata sandi yang kuat, mengaktifkan autentikasi multifaktor, dan mengikuti kebijakan keamanan organisasi Anda. Langkah ini melindungi data Anda dan menjaga proyek tetap aman.
Penyiapan Azure OpenAI
Menyiapkan Azure OpenAI merupakan langkah kunci dalam membangun solusi bisnis yang cerdas. Anda akan membuat sumber daya, menerapkan model, dan menguji keluarannya sebelum menghubungkannya ke aplikasi bertenaga AI Anda.
Membuat Sumber Daya OpenAI
Navigasi Azure Portal
Anda mulai dengan masuk ke portal Azure. Portal ini adalah dasbor utama Anda untuk mengelola sumber daya cloud. Anda perlu memilih langganan Azure dan memilih grup sumber daya. Jika belum memiliki grup sumber daya, Anda dapat membuatnya. Berikutnya, pilih region yang mendukung model gpt-4o. Masukkan nama unik untuk sumber daya Anda dan pilih tingkat harga Standard S0. Lanjutkan melalui layar pengaturan hingga Anda mencapai halaman tinjauan, lalu kirimkan konfigurasi Anda.
Konfigurasi Layanan
Setelah sumber daya dibuat, Anda akan menemukannya di dasbor Azure. Buka Resource Management dan temukan Keys and Endpoint. Salin KEY 1 dan Endpoint Anda, karena Anda akan membutuhkannya nanti. Kemudian, buka Model deployments dan pilih Manage Deployments. Pilih Deploy model, lalu Deploy base model, dan pilih gpt-4o. Atur Tokens per Minute Rate Limit ke 100K dan terapkan model tersebut. Proses pengaturan biasanya memakan waktu beberapa menit, tetapi deployment model dapat memakan waktu lebih dari satu jam. Anda dapat memulai deployment dan memeriksanya kembali nanti.
Deployment Model
Memilih Model AI
Azure OpenAI menawarkan beberapa model untuk berbagai kebutuhan bisnis, mulai dari pembuatan konten dan otomatisasi TI hingga deteksi penipuan dan pemrosesan data medis.
Langkah Deployment
Setelah memilih model, Anda men-deploy-nya menggunakan portal Azure. Atur batas laju dan konfirmasi pilihan Anda. Proses deployment mungkin memakan waktu, jadi rencanakan dengan baik. Setelah deployment, Anda dapat mengakses model di bagian Playgrounds di bawah Chat untuk berinteraksi dengan model tersebut.
Pengujian Model
Menggunakan OpenAI Studio
Sebelum mengintegrasikan model ke aplikasi Anda, sebaiknya uji model tersebut di OpenAI Studio. Alat ini memungkinkan Anda berinteraksi dengan model dan melihat bagaimana responsnya terhadap berbagai prompt. Anda dapat mencoba berbagai skenario dan menyesuaikan pendekatan Anda berdasarkan hasilnya.
Meninjau Keluaran
Menguji model Anda penting untuk kualitas dan keandalan. Fokuslah pada prompt engineering, adaptasi model, dan fine-tuning untuk memastikan keluaran sesuai dengan standar operasional Anda.
Tips: Pengujian yang cermat membantu Anda menghindari kejutan saat memindahkan model ke produksi. Selalu tinjau keluaran untuk memastikan keluaran tersebut memenuhi standar Anda.
Mengintegrasikan Azure OpenAI dengan Power Platform
Anda dapat menghubungkan Azure OpenAI ke Microsoft Power Platform dengan dua cara utama: native connector dan custom connector. Masing-masing metode memiliki kelebihannya sendiri. Native connector menawarkan pengaturan yang cepat dan mudah untuk skenario umum, sedangkan custom connector memberi Anda fleksibilitas dan kontrol yang lebih besar.
Integrasi Native Connector
Native connector memungkinkan Anda menghubungkan layanan Azure OpenAI ke Power Platform dengan konfigurasi minimal. Anda dapat menggunakan connector ini untuk menambahkan fitur AI ke aplikasi dan alur kerja Anda tanpa menulis kode.
Pembuatan Custom Connector
Custom connector memberi Anda kemampuan untuk terhubung ke REST API mana pun, termasuk endpoint Azure OpenAI tingkat lanjut. Anda dapat menentukan pemicu, tindakan, dan pengaturan keamanan Anda sendiri, mendaftarkan API Anda di Azure API Management, dan menerapkan autentikasi keamanan yang ketat seperti OAuth 2.0 atau Azure Active Directory.
Membangun Aplikasi Bertenaga AI
Anda dapat mengubah proses bisnis dengan membangun aplikasi bertenaga AI menggunakan Microsoft Power Platform dan Azure OpenAI. Power Apps dan Power Automate bekerja sama untuk membantu Anda membuat alur kerja cerdas yang mengotomatiskan tugas, menganalisis data, dan menghasilkan wawasan.
Integrasi Power Apps
Mulailah dengan membuka Power Apps Studio. Pilih untuk membuat aplikasi baru dari awal atau gunakan templat yang sesuai dengan kebutuhan bisnis Anda. Tambahkan kolom input bagi pengguna untuk memasukkan data, seperti teks yang akan dianalisis atau dokumen yang akan diringkas, dan letakkan tombol yang memicu tindakan AI.
Alur Kerja Power Automate
Power Automate memungkinkan Anda membangun alur kerja yang menghubungkan aplikasi, data, dan model AI Anda. Mulailah dengan membuat flow baru. Pilih pemicu, misalnya ketika rekaman baru ditambahkan atau ketika pengguna mengirimkan formulir. Tambahkan tindakan AI ke flow Anda dengan menghubungkan ke Azure OpenAI melalui tindakan HTTP atau custom connector untuk mengotomatisasi klasifikasi teks, ringkasan, dan analisis sentimen.
Pengujian dan Deployment
Menguji dan men-deploy aplikasi bertenaga AI Anda memastikan aplikasi bekerja sesuai harapan dan memberikan hasil yang andal. Anda perlu mengikuti pendekatan yang terstruktur untuk mendeteksi masalah lebih awal dan menjaga standar tinggi.
Pengujian Aplikasi
Uji bagaimana aplikasi Anda berinteraksi dengan model AI. Gunakan templat untuk prompt agar konfigurasi Anda tetap konsisten, atur metadata Anda agar Anda dapat melacak perubahan, dan siapkan pemantauan untuk metrik utama seperti waktu respons dan akurasi.
Deployment Produksi
Setelah pengujian, terbitkan aplikasi Anda ke lingkungan produksi. Siapkan beberapa lingkungan, misalnya Pengembangan, Pengujian, dan Produksi. Gunakan proses Manajemen Siklus Hidup Aplikasi (ALM) yang terstruktur untuk mengelola penerapan, mengurangi kesalahan, dan memantau metrik performa AI dari waktu ke waktu.
Tata Kelola, Keamanan, dan Pengendalian Biaya
Membangun solusi berbasis AI memberikan manfaat besar, tetapi Anda juga harus memperhatikan tata kelola, keamanan, dan pengendalian biaya. Ketiga aspek ini membantu Anda melindungi data, memenuhi regulasi, dan menjaga keberlanjutan proyek Anda.
Manajemen Biaya
Saat menggunakan layanan Azure OpenAI, Anda membayar untuk token yang diproses aplikasi Anda. Setiap permintaan ke model AI menggunakan token, dan total jumlahnya memengaruhi tagihan bulanan Anda. Tetapkan anggaran yang jelas dan pantau penggunaan token dengan cermat agar terhindar dari pengeluaran yang tidak terduga.
Keamanan dan Kepatuhan
Melindungi data Anda sangat penting. Gunakan Microsoft Purview untuk mengklasifikasikan dan mengamankan informasi sensitif, enkripsi data Anda dengan Azure Storage Encryption, dan siapkan kebijakan Pencegahan Kehilangan Data (DLP) untuk mengendalikan pergerakan data antara konektor dan lingkungan.
Sumber Daya dan Langkah Selanjutnya
Anda telah mempelajari cara membangun aplikasi berbasis AI dengan Microsoft Power Platform dan Azure OpenAI. Sekarang, Anda dapat menjelajahi lebih banyak sumber daya untuk memperdalam keterampilan Anda dan terhubung dengan komunitas.
Tautan Dokumentasi
Mulailah dari dokumentasi resmi untuk memandu proyek Anda berikutnya. Microsoft menyediakan panduan terperinci dan materi referensi untuk Power Platform, Azure OpenAI, Power Apps, dan Power Automate.
Dukungan Komunitas
Anda tidak harus menyelesaikan masalah sendirian. Ikut serta dalam saluran Azure Community Support dan Stack Overflow untuk memecahkan masalah, berbagi ide, dan tetap mengikuti praktik terbaik.
Sebagai kesimpulan, menggabungkan Azure OpenAI dan Power Platform menghadirkan nilai bisnis yang luar biasa, memungkinkan organisasi membangun aplikasi yang skalabel, patuh, dan cerdas tanpa beban pengembangan perangkat lunak yang berat. Dengan menjaga standar ketat untuk keamanan, tata kelola, dan pengendalian biaya, tim Anda dapat memanfaatkan AI generatif secara aman dan efektif. Untuk mendengar lebih banyak tentang topik ini dan menyimak pembahasan dari para ahli kami, kunjungi episode podcast pendamping kami: Build Production AI Apps with Azure OpenAI and Power Platform. Terus membangun, tetap aman, dan rangkul masa depan AI low-code!