Berhenti Hard-Coding: Cara Menggunakan Parameter di Power BI Dataflows
By Mirko Peters ·
Selamat datang kembali di podcast dan di pembahasan mendalam kami tentang rekayasa data modern! Di postingan blog hari ini, kami membahas topik yang sering membuat bahkan developer berpengalaman tersandung: beralih dari nilai hard-coded yang rapuh dan menerapkan parameterisasi dalam pipeline persiapan data Anda. Jika Anda pernah kesulitan memindahkan dataflow dari pengembangan ke produksi tanpa me
Automatically translated with AI from the original post. Read the English original
Selamat datang kembali di podcast dan di pembahasan mendalam kami tentang rekayasa data modern! Di postingan blog hari ini, kami membahas topik yang sering membuat bahkan developer berpengalaman tersandung: beralih dari nilai hard-coded yang rapuh dan menerapkan parameterisasi dalam pipeline persiapan data Anda. Jika Anda pernah kesulitan memindahkan dataflow dari pengembangan ke produksi tanpa merusak setiap koneksi sumber data, panduan ini untuk Anda. Kita akan membahas cara membuat dataflow Anda benar-benar fleksibel, dapat digunakan kembali, dan siap untuk skala enterprise.
Prinsip Dataflow yang Dapat Digunakan Kembali di Power BI
Desain Modular
Anda dapat membuat dataflow Anda dapat digunakan kembali dengan desain modular. Saat Anda memecah dataflow menjadi bagian-bagian kecil, setiap bagian menjadi mudah diubah. Dataflows Gen2 di Microsoft Fabric membantu Anda melakukan hal ini. Anda dapat menggunakan dataflow untuk menyiapkan data sebelum membuat laporan. Anda hanya perlu membangun dataflow satu kali. Setelah itu, Anda dapat menggunakannya di banyak tempat. Hal ini menghemat waktu dan menjaga logika Anda tetap sama di mana pun.
- Anda dapat berbagi dataset dengan workspace lain. Artinya, Anda dapat terhubung ke satu dataset utama dari berbagai workspace. Anda tidak perlu membuat ulang model data yang sama berulang kali.
- Dataflows Gen2 memungkinkan Anda membagikan perubahan ke seluruh laporan. Hal ini menjaga dataflow Anda tetap dapat digunakan kembali dan data Anda tetap konsisten.
Parameterisasi
Parameterisasi penting untuk membuat dataflow Anda dapat digunakan kembali. Anda dapat menggunakan parameter untuk mengatur cara kerja dataflow Anda dalam berbagai kasus. Misalnya, Anda dapat menyiapkan parameter untuk sumber data atau lokasi yang berbeda. Artinya, Anda tidak perlu membuat dataflow baru untuk setiap kasus.
- Parameterisasi memungkinkan Anda menggunakan logika yang sama untuk pengujian, pembangunan, dan menjalankan dataflow Anda.
- Anda dapat mengelola koneksi dan pengaturan untuk setiap lokasi.
- Anda tidak perlu mengulang pekerjaan, dan dataflow Anda dapat digunakan kembali oleh seluruh grup Anda.
Menghindari Logika Hard-Coded
Jika Anda tidak menggunakan logika hard-coded, dataflow Anda akan lebih fleksibel. Nilai hard-coded mengikat dataflow Anda pada satu sumber atau satu kasus. Sebagai gantinya, gunakan parameter dan langkah-langkah kecil. Dataflows Gen2 membantu Anda melakukan hal ini. Anda dapat terhubung ke banyak sumber data dan menggunakan pengaturan yang dapat berubah. Hal ini membantu dataflow Anda tetap dapat digunakan kembali ketika kebutuhan Anda berubah.
Tips: Selalu pisahkan logika transformasi data dari logika pelaporan Anda. Dengan begitu, pembaruan menjadi sederhana dan dataflow Anda tetap dapat digunakan kembali untuk proyek baru.
Power BI Dataflows: Mengapa Penggunaan Kembali Itu Penting
Definisi dan Manfaat
Penting untuk memahami mengapa penggunaan kembali itu penting dalam proyek data. Ketika Anda menggunakan dataflow yang dapat digunakan kembali, Anda membangun fondasi yang kuat untuk analitik. Power BI dataflows memungkinkan Anda membuat logika transformasi sekali dan menggunakannya berkali-kali. Hal ini membantu menjaga data Anda tetap rapi dan mudah ditemukan.
Dataflow yang dapat digunakan kembali memiliki banyak keunggulan:
- Anda dapat menggunakan logika transformasi yang sama untuk setiap laporan. Artinya, semua laporan mengikuti aturan yang sama.
- Anda tidak perlu menangani logika bisnis sebanyak itu. Hal ini membuat pembaruan menjadi cepat dan sederhana.
- Anda memiliki satu tempat utama untuk data Anda. Setiap anggota tim dapat mempercayai hasilnya.
- Anda menghemat waktu karena tidak perlu mengulang langkah untuk setiap laporan.
- Anda membuat lebih sedikit kesalahan. Ketika data selalu sama, kesalahan menjadi lebih sedikit.
Dengan Dataflows Gen2, Anda mendapatkan fitur yang lebih banyak lagi. Anda dapat terhubung ke banyak sumber dan menyiapkan data Anda di satu tempat. Anda dapat membagikan dataset khusus ke laporan dan dasbor. Hal ini membantu tim Anda bekerja sama dan menjaga kekuatan analitik Anda.
Catatan: Ketika Anda menyiapkan data di satu tempat, hal itu membantu Anda mengubah data mentah menjadi gagasan yang berguna.
Kesalahan Umum
Jika Anda tidak memikirkan penggunaan kembali, Anda bisa mengalami masalah. Anda mungkin menyalin dan menempelkan logika ke laporan yang berbeda. Hal ini dapat menimbulkan kesalahan dan membuang waktu. Hal ini juga bisa menyulitkan untuk menjaga konsistensi data Anda.
Beberapa masalah umum adalah:
- Membuat dataflow baru untuk setiap proyek alih-alih menggunakan kembali satu dataflow.
- Menggunakan nilai yang tidak dapat berubah padahal seharusnya bisa diubah.
- Tidak mendokumentasikan langkah-langkah transformasi Anda.
- Tidak menyiapkan data Anda di satu tempat utama.
Dataflows Gen2 membantu Anda menghindari masalah-masalah ini. Layanan ini menyediakan alat cloud untuk mengambil, mengubah, dan menyimpan data. Anda dapat mengelola data di satu tempat dan membagikannya ke seluruh grup Anda. Hal ini membuat pekerjaan analitik Anda lancar dan mudah dipercaya.
Membangun Dataflow yang Dapat Digunakan Kembali

Merancang untuk Penggunaan Kembali
Anda dapat membuat dataflow yang bisa digunakan kembali dengan mengikuti langkah-langkah sederhana. Pertama, buka Power BI Service dan masuk ke workspace Anda. Klik New Item lalu pilih Dataflow. Tambahkan tabel dan pilih Power BI dataflow (Legacy). Periksa login Anda lalu klik Next. Pilih tabel yang Anda inginkan dan mulai ubah data Anda. Melakukan setiap langkah secara berurutan membantu Anda membangun pipeline data yang kuat.
Power Query Online memungkinkan Anda melakukan proses ETL secara mandiri. Anda dapat mengambil, mengubah, dan memuat data tanpa menunggu tim IT. Alat ini membantu Anda bekerja secara mandiri dan membuat dataflow lebih mudah digunakan kembali. Anda dapat membuat dataflow yang menjalankan satu tugas dengan baik. Misalnya, Anda dapat membangun dataflow staging yang hanya mengambil data mentah. Dataflow lain kemudian dapat menggunakan dataflow staging ini untuk melakukan perubahan lebih lanjut.
Ketika Anda ingin menggunakan kembali dataflow, pertimbangkan modularitas. Pecah dataflow Anda menjadi bagian-bagian kecil. Setiap bagian sebaiknya hanya melakukan satu tugas. Dengan begitu, memperbaiki atau memperbarui satu bagian mudah dilakukan tanpa mengubah keseluruhan. Anda dapat menggunakan Dataflows Gen2 untuk mengelola bagian-bagian ini. Cara ini membantu Anda bekerja lebih cepat dan memungkinkan tim Anda mandiri.
Tips: Ambil hanya data yang Anda butuhkan. Jangan memuat semua data untuk jaga-jaga. Hal ini membuat dataflow Anda tetap cepat dan sederhana untuk dikelola.
Menggunakan Parameter dan Template
Parameter dan template membantu Anda menggunakan dataflow di banyak workspace. Anda dapat mengatur Power Query Parameters atau Fabric Variables untuk menangani ID item. Hal ini memudahkan Anda memindahkan dataflow ke workspace baru. Anda tidak perlu mengubah logika setiap kali.
Anda dapat menggunakan parameter di Power BI Desktop untuk memilih tujuan pengiriman dataflow. Simpan file Anda sebagai template. Sekarang Anda dapat menggunakan dataflow di berbagai tempat hanya dengan beberapa klik. Cara ini membantu Anda bekerja secara mandiri dan mengurangi kesalahan. Anda dapat beralih antara pengujian dan penggunaan sungguhan dengan mudah.
- Power Query Parameters dan Fabric Variables membantu Anda mengatur setiap workspace.
- Template memungkinkan Anda menggunakan pengaturan yang sama untuk dataflow baru.
- Anda dapat memindahkan dataflow dari tahap pembangunan ke pengujian, lalu ke penggunaan sungguhan, dengan usaha yang lebih sedikit.
Menggunakan parameter dan template membuat dataflow Anda fleksibel. Anda dapat melayani banyak tim dan proyek tanpa memulai dari nol. Hal ini penting untuk data engineering swalayan.
Single Source of Truth
Single source of truth berarti Anda menyimpan satu kumpulan data utama. Hal ini membuat semua orang percaya pada hasilnya. Anda dapat menggunakan Dataflows Gen2 untuk membuat satu semantic model. Semua laporan dan dashboard Anda menggunakan model ini. Cara ini mengurangi kesalahan dan menjaga data Anda tetap konsisten.
Ketika data Anda tersimpan di satu tempat, tata kelola data menjadi lebih baik. Anda dapat melihat siapa yang menggunakan data dan bagaimana mereka menggunakannya. Hal ini membantu Anda mematuhi aturan dan mengelola data dengan benar. Dataflows Gen2 memudahkan klasifikasi dan penggabungan data. Anda dapat menetapkan aturan untuk data sensitif dan memastikan semua orang mematuhinya.
Catatan: Single source of truth membantu tim Anda mengambil keputusan yang tepat. Semua orang menggunakan angka dan istilah yang sama.
Praktik Dokumentasi
Dokumentasi yang baik membuat dataflow Anda tetap mudah digunakan dalam jangka panjang. Anda sebaiknya mencatat setiap langkah yang Anda lakukan untuk menyiapkan data. Hal ini membantu orang lain memahami apa yang Anda kerjakan. Beri setiap langkah nama yang jelas. Tambahkan catatan untuk menjelaskan alasan di balik pilihan tertentu.
- Tentukan siapa pemilik dan pihak yang memperbarui setiap dataflow.
- Tambahkan deskripsi pada dataflow dan setiap tabel.
- Catat laporan dan dashboard mana yang menggunakan dataflow Anda.
- Gunakan nama yang jelas untuk setiap langkah yang Anda buat.
Berikut tabel praktik terbaik untuk mendokumentasikan dan mengatur:
| Praktik Terbaik | Deskripsi |
|---|---|
| Template | Gunakan template agar dataflow Anda tetap konsisten dan mudah digunakan kembali. |
| Version Control | Lacak perubahan dengan alat seperti Azure DevOps atau GitHub. |
| Pisahkan Semantic dan Reporting Layer | Gunakan satu model utama untuk semua laporan agar tidak ada pengulangan dan keamanan menjadi lebih baik. |
Aturan penamaan juga penting. Gunakan nama seperti DF_HubSpot_Contacts_Daily. Tambahkan awalan DF_ untuk dataflow. Tunjukkan lingkungannya, seperti DEV_, TEST_, atau PROD_. Pilih satu gaya penulisan nama dan gunakan secara konsisten. Hal ini membuat dataflow Anda mudah ditemukan dan dipahami.
Cara Anda mengatur workspace berpengaruh terhadap kemampuan penggunaan ulang. Letakkan dataflow Anda di workspace yang berbeda. Hal ini membantu orang bekerja secara mandiri dan memungkinkan Anda mengontrol keamanan untuk setiap tim. Jangan menempatkan semua dataflow dalam satu workspace. Gunakan workspace yang berbeda untuk pekerjaan yang berbeda. Hal ini membantu Anda mengembangkan data engineering dan mendukung lebih banyak pengguna.
Tips: Self-service paling efektif ketika semua orang dapat menemukan, menggunakan, dan mempercayai dataflow yang mereka butuhkan.
Contoh & Jebakan dalam Power BI Dataflows

Refactoring One-Off Dataflows
Terkadang, Anda memulai dengan dataflow hanya untuk satu laporan. Hal ini dapat menimbulkan kebingungan dan menambah pekerjaan di kemudian hari. Refactoring berarti Anda mengubah pipeline yang berantakan menjadi blok bangunan yang sederhana. Misalnya, Trident Advisory Group memiliki banyak pipeline untuk laporan yang berbeda. Mereka menggabungkannya menjadi satu dataflow yang mengumpulkan log peristiwa mentah. Sekarang, business analyst dapat membuat laporan baru tanpa menunggu tim IT. Perubahan ini membuat proses menjadi lebih cepat dan lebih mudah. Laporan yang sebelumnya selesai dalam tiga jam kini selesai dalam lima belas menit. Tim Anda juga menggunakan logika yang sama untuk setiap laporan.
Tabel berikut menunjukkan manfaat utama:
| Manfaat | Deskripsi |
|---|---|
| Peningkatan Efisiensi | Siklus refresh turun dari 3 jam menjadi 15 menit, sehingga kapasitas sistem dapat digunakan untuk keperluan lain. |
| Analitik Layanan Mandiri | Business analyst dapat membuat laporan ad hoc langsung dari dataflow. |
| Tata Kelola Data | Memusatkan logika transformasi data memastikan ukuran yang konsisten di seluruh laporan. |
Saat melakukan refactoring, periksa bagaimana perubahan memengaruhi aplikasi lain. Pastikan Anda menggabungkan data yang tidak memiliki pemilik yang jelas. Langkah ini membantu menjaga keamanan dan keteraturan data Anda.
Kesalahan yang Harus Dihindari
Anda mungkin membuat kesalahan saat mencoba menggunakan kembali dataflow. Salah satunya adalah menyalin logika ke setiap laporan alih-alih menggunakan satu dataflow. Hal ini dapat menimbulkan kesalahan dan menyulitkan pembaruan. Kesalahan lainnya adalah menggunakan nilai yang tidak dapat berubah, sehingga membuat sistem kurang fleksibel. Tidak mencatat langkah-langkah Anda juga dapat membingungkan tim.
Dataflows Gen2 membantu Anda menghindari masalah-masalah ini. Anda dapat menggunakan alat visual untuk membangun pipeline dengan sedikit kode. Power Query mudah digunakan, dan Anda tetap dapat melakukan perubahan lanjutan jika diperlukan. Selalu ingat untuk mengatur jadwal refresh untuk laporan Anda. Saat Anda memindahkan sesuatu antarlokasi, Dataflows Gen2 memudahkan proses deployment.
Tips: Simpan logika transformasi data Anda di satu tempat. Hal ini membantu tim Anda mempercayai data dan menjaga semuanya tetap teratur.
power query di power bi dan power query online untuk membuat dataflow
Apa itu dataflow Power BI dan bagaimana hubungannya dengan Power Query?
Dataflow Power BI adalah kumpulan tabel yang dibuat dan dikelola di layanan Power BI yang menggunakan Power Query untuk mengekstrak, mentransformasi, dan memuat data dari berbagai sumber. Dataflow memusatkan persiapan data sehingga dataset di Power BI dan laporan turunannya dapat menggunakan kembali data hasil transformasi yang sama. Dengan cara ini, duplikasi berkurang dan data dapat dikelola dalam solusi data berskala besar.
Bagaimana cara membuat dataflow di layanan Power BI?
Untuk membuat dataflow, buka workspace di layanan Power BI, pilih "Create" lalu "Dataflow", gunakan editor Power Query online untuk terhubung ke data dari berbagai sumber (on-premises, Azure, atau cloud), tentukan entitas dan transformasi, lalu simpan. Anda juga dapat membuat beberapa dataflow untuk memodulasi ETL bagi data warehouse atau volume data yang besar.
Bisakah saya menggunakan dataflow di Power BI Desktop dan bagaimana cara dataflow terhubung dengan dataset?
Bisa. Anda dapat menggunakan dataflow di Power BI Desktop dengan menghubungkannya ke dataflow Power BI sebagai sumber data. Setelah terhubung, laporan Power BI Anda menggunakan data dataflow sebagai sumber, dan Anda dapat menggabungkannya dengan sumber data lain untuk membangun dataset di Power BI serta mempublikasikan laporan kembali ke layanan Power BI.
Apa saja kasus penggunaan umum untuk dataflow Power BI dan skenario untuk membuat dataflow?
Kasus penggunaan umum meliputi pemusatan logika persiapan data yang sama untuk beberapa laporan, pembuatan satu sumber kebenaran (single source of truth) untuk perusahaan, persiapan data untuk data warehouse atau Azure Data Lake Storage Gen2, penanganan volume data besar dengan jadwal refresh, serta penggunaan kembali di berbagai dataset Power BI dan aplikasi Power Platform.
Bagaimana cara kerja refresh dataflow dan bagaimana cara menjadwalkan refresh dataflow?
Refresh dataflow menjalankan transformasi Power Query yang didefinisikan dalam dataflow untuk memperbarui entitas dengan data terbaru. Anda dapat mengatur jadwal refresh di layanan Power BI agar berjalan sesuai jadwal, atau menggunakan Power Automate untuk refresh yang dipicu oleh peristiwa. Perlu diingat bahwa frekuensi refresh dan paralelisme dapat bergantung pada langganan atau kapasitas Power BI Premium Anda.
Apa perbedaan antara dataflow dan dataset di Power BI?
Dataflow berfokus pada ETL di hulu menggunakan Power Query Online untuk membuat tabel yang dapat digunakan kembali dan disimpan sebagai data dataflow. Sementara itu, dataset dioptimalkan untuk analitik dan pemodelan di Power BI (tabel, relasi, dan measure). Dataset umumnya menggunakan dataflow sebagai sumber, sehingga beberapa dataset dan laporan dapat berbagi data yang sudah disiapkan.
Bisakah dataflow menyimpan data di Azure dan bagaimana dukungan untuk ADLS Gen2?
Ya, dataflow Power BI dapat menyimpan entitas di Azure Data Lake Storage Gen2 (ADLS Gen2) saat menggunakan “Enhanced compute engine” atau saat terhubung ke ruang kerja yang didukung ADLS Gen2. Dengan begitu, skenario big data menjadi mungkin, data dapat langsung dikonsumsi oleh Azure Data Factory atau alat lain, dan dataflow dapat diintegrasikan ke dalam arsitektur data warehouse yang lebih luas.
Apakah saya memerlukan Power BI Premium untuk menggunakan dataflow, dan fitur apa saja yang memerlukan Premium?
Dataflow tersedia di layanan Power BI untuk pengguna Pro dengan kemampuan dasar. Namun, fitur seperti penyimpanan yang lebih besar, frekuensi refresh yang lebih tinggi, linked entity lintas ruang kerja, dan isolasi compute untuk volume data besar umumnya memerlukan Power BI Premium atau Premium Per User agar performa tetap dapat diskalakan dan jadwal refresh memenuhi standar perusahaan.
Bagaimana dataflow menangani data lokal dan konektor di dalam layanan Power BI?
Untuk terhubung ke sumber data lokal dari dataflow, konfigurasikan dan gunakan on-premises data gateway di layanan Power BI, pilih konektor yang sesuai di Power Query Online, lalu masukkan kredensial. Dengan cara ini, dataflow dapat mengambil data dari basis data lokal dan melakukan refresh ke cloud untuk digunakan oleh dataset dan laporan.
Apa perbedaan antara menggunakan dataflow dan menggunakan Azure Data Factory untuk ETL?
Dataflow dirancang untuk ETL self-service yang berpusat pada kebutuhan bisnis, dengan transformasi Power Query yang terintegrasi ke dalam Power BI dan Power Platform, sehingga ideal untuk digunakan ulang di berbagai dataset dan laporan. Azure Data Factory ditujukan untuk orkestrasi skala enterprise dan pipeline yang kompleks untuk data warehouse, pemrosesan big data, serta transformasi lanjutan di banyak sistem. Meski demikian, keduanya dapat digunakan bersama saat mengintegrasikan data ke ADLS Gen2.
Bagaimana cara mengelola beberapa dataflow dan menggunakan ulang transformasi di berbagai ruang kerja?
Anda dapat mengatur dataflow di dalam ruang kerja di layanan Power BI, menggunakan Linked Entities untuk memakai ulang tabel dari dataflow lain, membuat dataflow baru yang mereferensikan dataflow yang sudah ada, serta mengelola akses melalui izin ruang kerja. Dengan cara ini, berbagai solusi dan laporan Power BI dapat secara konsisten menggunakan data bersama yang telah disiapkan di dalam dataflow Power BI.
Kesimpulan
Sebagai penutup, meninggalkan nilai yang di-hard-code adalah salah satu pergeseran arsitektur paling berdampak dalam perjalanan Power BI Anda. Dengan memanfaatkan desain modular, parameterisasi, dan Dataflows Gen2, solusi Anda menjadi tangguh, mudah dipelihara, dan siap untuk promosi antar-lingkungan yang lancar. Jika Anda ingin mendalami pembangunan pipeline data modern dan penataan lingkungan Fabric yang sukses, simak juga episode podcast terkait: Build Reusable Dataflows Gen2 in Microsoft Fabric. Terima kasih telah membaca, dan selamat melaporkan!