Коли використовувати ноутбук Fabric, а коли dataflow: посібник для не-розробників
By Mirko Peters ·
Порівняння ноутбуків і dataflow у Microsoft Fabric. Дізнайтеся, коли використовувати low-code dataflow, а коли ноутбуки Spark, залежно від ваших навичок і потреб у даних.
Automatically translated with AI from the original post. Read the English original

Вибір між ноутбуком Microsoft Fabric Spark і dataflow може збентежити аналітиків, які тільки починають працювати з хмарною екосистемою даних. Цей посібник допоможе не-розробникам обрати відповідний інструмент трансформації даних у Microsoft Fabric, порівнюючи low-code dataflow з орієнтованими на код ноутбуками за складністю, масштабом і потребами в обслуговуванні.
Головне
- Dataflow надають візуальний low-code інтерфейс, ідеальний для стандартних трансформацій Power Query і повторюваного завантаження даних.
- Ноутбуки Fabric використовують Spark і код (Python або PySpark) для складного машинного навчання, ітеративної логіки та великих обсягів даних.
- Не-розробникам, як правило, варто починати з dataflow і переходити до ноутбуків лише тоді, коли стикаються з конкретними обмеженнями продуктивності або власної логіки.
- Правильний вибір інструмента запобігає зайвим витратам на супровід коду для команд без окремих інженерів-програмістів.
- Обидва інструменти безшовно інтегруються в ширші архітектури lakehouse і warehouse у Microsoft Fabric.
Розуміння ландшафту даних Fabric
Коли ви вперше заходите в Microsoft Fabric, кількість елементів робочої області може легко вразити. Інженери даних, дата-сайентисти та аналітики бізнес-інформації раптом працюють на спільній уніфікованій аналітичній платформі. Однією з найпоширеніших плутанин є вибір основного механізму для підготовки даних: створити візуальний dataflow чи відкрити ноутбук, orientований на код?
Протягом десятиліть фахівці з даних борються з цим поділом. З одного боку є графічні інтерфейси, які приховують основний механізм. З іншого боку є порожній аркуш текстового редактора, що чекає на код Python чи Scala. У Fabric це безпосередньо зводиться до вибору між Dataflows Gen2 і ноутбуками Spark. Розуміння того, коли використовувати кожен із них, критично важливе для підтримки чистого, масштабованого середовища даних без вигорання аналітиків.
Що таке Dataflow Gen2?
Dataflows Gen2 у Microsoft Fabric є хмарною еволюцією Power Query. Якщо ви колись створювали звіти в Power BI, ви, імовірно, стикалися з редактором Power Query. Dataflows переносять цей знайомий досвід трансформації на масштаб і запускають його безпосередньо у Fabric.
Вони по суті візуальні. Ви натискаєте кнопки, щоб видалити стовпці, об’єднати таблиці, змінити типи даних і відфільтрувати рядки. Під капотом Power Query перетворює ці дії на код M, але вам рідко доводиться на нього дивитися, якщо ви самі цього не хочете. Це робить dataflow надзвичайно зрозумілими для бізнес-аналітиків і досвідчених користувачів, які вже вміють готувати дані для звітів.
Потужність і складність ноутбуків
З іншого боку, ноутбуки створені для Apache Spark. Коли ви вперше відкриваєте ноутбук Fabric, вас зустрічає щось схоже на майданчик розробника: комірки з кодом, незвичні повідомлення про помилки та параметри конфігурації пулів Spark.
Ноутбуки дають повний контроль. Ви можете писати власні скрипти Python, виконувати алгоритми машинного навчання, обробляти неструктуровані файли та реалізовувати складну ітеративну логіку, з якою візуальні інструменти просто не справляються. Однак ця потужність має крутий поріг входу. Якщо ваше основне завдання — прибрати звичайну таблицю продажів, занурення в ноутбук може нагадувати спробу зібрати двигун автомобіля, коли потрібна була лише заміна масла.
Матриця рішень: Dataflows чи notebooks
Щоб зробити правильний вибір для наступного конвеєра даних, потрібно оцінити свій конкретний сценарій із урахуванням сильних сторін кожного інструмента. Розберімо ключові критерії, які варто врахувати, перш ніж писати перший рядок коду або створювати перший крок перетворення.
Обсяг даних і масштабованість
Хоча Dataflows Gen2 можуть обробляти значні обсяги даних, використовуючи серверні можливості Fabric, саме для надзвичайно великих наборів даних або складних розподілених обчислень найбільш корисні Spark notebooks. Якщо ви обробляєте терабайти лог-файлів, передаєте телеметрію в реальному часі або виконуєте важкі розподілені з’єднання даних із кількох різнорідних джерел, notebook забезпечить необхідну обчислювальну потужність.
Натомість для стандартних корпоративних транзакційних і вимірних даних, що зберігаються в реляційних базах даних або SaaS-застосунках, dataflows забезпечують більш ніж достатню продуктивність без накладних витрат на запуск і керування сесіями обчислень Spark.
Навички команди та супровід
Один із найчастіше недооцінюваних факторів в архітектурних рішеннях — довгостроковий супровід. Хто підтримуватиме цей конвеєр через півроку? Якщо ви створите складний конвеєр із власним кодом на Python у notebook, а команда, яка його супроводжує, знає лише SQL і Power Query, ви створили операційне вузьке місце.
Простота сприяє супроводу. Якщо завдання можна чисто виконати в dataflow, часто розумніше залишитися з низькокодовим підходом. Notebooks варто зберегти для сценаріїв, де бізнес-логіка справді потребує розширених можливостей програмування або інтеграції з data science.
Об’єднання підходів: прагматичний робочий процес
Не обов’язково обирати один інструмент для всієї організації. Насправді зрілі архітектури Fabric часто використовують обидва в гармонії. Гарна практика для непрограмістів — почати з дослідження.
Використовуйте dataflows, щоб завантажити, очистити та розмістити ключові вимірні таблиці в Lakehouse. Коли ваші дані структуровані й надійні, можна підключати notebooks для розширеної аналітики, навчання моделей машинного навчання або спеціалізованих завдань data science, які потребують програмного керування.
Розділивши архітектуру на окремі частини, ви гарантуєте, що бізнес-аналітики можуть комфортно працювати в межах своїх навичок, тоді як інженери даних і просунуті фахівці використовують повну потужність Spark за потреби.
Висновок
Вибір між notebook Fabric і dataflow зводиться до того, щоб відповідати інструменту реальній бізнес-вимозі, а не обирати найскладніший варіант за замовчуванням. Почніть з оцінки обсягу даних, навичок команди та складності ваших перетворень. Щоб глибше розібратися, як подолати початковий страх перед інструментами на основі коду, обов’язково послухайте повний епізод подкасту з експертними порадами щодо опанування робочих процесів з даними в Microsoft Fabric.
Поширені запитання
Чи можуть непрограмісти успішно використовувати notebooks Fabric?
Так, але це потребує терпіння та бажання вивчити базовий синтаксис Python або PySpark. Рекомендовано почати з простіших завдань або низькокодових dataflows, перш ніж переходити до повноцінної розробки в notebooks.
Чи повільніші Dataflows Gen2, ніж Spark notebooks?
Не обов’язково. Для стандартних перетворень у сфері бізнес-аналітики та помірних обсягів даних Dataflows Gen2 працюють надзвичайно швидко й приховують налаштування продуктивності.
Коли варто відмовитися від dataflow і перейти на notebook?
Варто розглянути перехід на notebook, коли логіка перетворень потребує ітеративних циклів, бібліотек машинного навчання, складного розбору неструктурованих файлів або розподілених обчислень, продуктивність яких виходить за межі стандартних можливостей Power Query.
Чи можна запустити dataflow і notebook в одному конвеєрі Fabric?
Безперечно. Конвеєри Fabric дозволяють послідовно оркеструвати і dataflows, і notebooks, що дає змогу поєднувати низькокодове завантаження з розширеними програмними перетвореннями.