Microsoft Fabric Lakehouse чи Warehouse: що обрати як рушій зберігання?
By Mirko Peters ·
Порівняйте Microsoft Fabric Lakehouse і Warehouse. Дізнайтеся, коли варто обрати lakehouse на основі Spark, а коли warehouse з T-SQL, для архітектури аналітики вашого підприємства.
Automatically translated with AI from the original post. Read the English original
![Cover: Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]](https://d3wo5wojvuv7l.cloudfront.net/t_rss_itunes_square_1400/images.spreaker.com/original/bfbd20ad8a411469d5aad58275f070a5.jpg)
Вибір між Microsoft Fabric Lakehouse і Microsoft Fabric Warehouse – одне з найважливіших архітектурних рішень для команд, які працюють з даними. Цей посібник розглядає ключові відмінності в роботі зі структурованими та неструктурованими даними, у рушіях виконання T-SQL і PySpark, можливостях подорожі в часі та ізоляції обчислень, щоб допомогти вам спроєктувати оптимальну стратегію аналітики.
Головне
- Lakehouse працює як із структурованими, так і з неструктурованими даними та нативно керується через Apache Spark.
- Warehouse орієнтований виключно на структуровані дані та забезпечує знайомий високопродуктивний досвід запитів T-SQL.
- Обидва типи сховищ використовують відкритий формат Delta на нижньому рівні, що усуває потребу в зайвих фізичних копіях ваших даних.
- Lakehouse пропонує кращу тривалість збереження історії для аудиту, тоді як Warehouse керує збереженням історичних даних у визначених межах у днях.
- Наявні навички вашої команди, будь то розробка на SQL чи просунута наука про дані, мають значною мірою впливати на вибір платформи.
Основи зберігання в Fabric
Перш ніж заглиблюватися в дискусію про Lakehouse і Warehouse, корисно зрозуміти, яку проблему намагається вирішити Microsoft Fabric. Традиційні архітектури аналітики змушували організації обирати між озерами даних для сирої обробки та сховищами даних для бізнес-аналітики. Такий поділ неминуче призводив до дублювання даних, розрізненого управління та завищених витрат на сховище й обчислення. Microsoft Fabric об'єднує ці підходи навколо спільної основи під назвою OneLake.
У межах OneLake організації можуть розгортати різні аналітичні робочі навантаження. Однак, коли йдеться про структуровані табличні дані, і Lakehouse, і Warehouse зберігають інформацію у стандартизованому форматі Delta Parquet. Це означає, що незалежно від обраного рушія ваш базовий формат даних залишається відкритим, доступним і сумісним у всій екосистемі Fabric.
Архітектура Lakehouse і сценарії використання
Досвід Lakehouse у Microsoft Fabric поєднує найкращі риси озер даних із надійністю сховищ даних. Призначений для підтримки як структурованих, так і неструктурованих файлів, таких як зображення, PDF, журнали та CSV, Lakehouse є природним домом для сучасних конвеєрів інженерії даних.
Spark як основний рушій
У Lakehouse основним рушієм обробки є Apache Spark. Фахівці з даних використовують блокноти PySpark, Spark SQL і Scala для виконання розподілених трансформацій даних у великих масштабах. Для організацій, які працюють із величезними наборами даних, складними робочими навантаженнями машинного навчання або потоковими даними, Lakehouse забезпечує неперевершену гнучкість.
Просунута подорож у часі та гнучкість
Оскільки Lakehouse побудовано на таблицях Delta, він нативно підтримує такі можливості, як подорож у часі. Організації можуть запитувати історичні стани своїх даних, відкочувати випадкові оновлення та зберігати практично необмежені історичні вікна. Такий рівень детального контролю є надзвичайно цінним для команд інженерії даних, яким потрібно глибоко розуміти, як дані змінюються з часом.
Архітектура Warehouse і сценарії використання
Натомість Microsoft Fabric Warehouse створено спеціально для структурованих даних і реляційного моделювання. Якщо ваша організація десятиліттями покладалася на традиційні корпоративні сховища даних на SQL Server, середовище Warehouse пропонує знайоме, високооптимізоване середовище T-SQL.
T-SQL як повноправний інструмент
На відміну від Lakehouse, де життєвим циклом даних керує Spark, у Warehouse головна роль відведена T-SQL. Адміністратори баз даних, SQL-розробники та традиційні BI-аналітики можуть писати стандартні збережені процедури, представлення та складні з'єднання, не вивчаючи PySpark і не керуючи середовищами блокнотів. Це суттєво знижує поріг входу для команд з усталеними навичками роботи з SQL.
Передбачувана продуктивність і керування
Warehouse приховує керування базовим кластером і пропонує досвід транзакційної бази даних, налаштованої для аналітичних запитів. Хоча подорож у часі підтримується в межах налаштовуваних обмежень (наприклад, 120 днів), основна увага приділяється високопродуктивним реляційним запитам, які безперешкодно живлять семантичні моделі та звіти Power BI.
Вибір правильної архітектури
Проєктуючи середовище Microsoft Fabric, не обов'язково обирати щось одне. Багато зрілих архітектур використовують Lakehouse на шарах перетворення Bronze і Silver для завантаження сирих файлів і очищення даних за допомогою Spark, а на шарі Gold використовують Warehouse, щоб надавати бізнес-користувачам остаточні, високоструктуровані вимірні моделі.
Оцініть типи вихідних даних, ключові інженерні навички вашої команди та інтенсивність робочих навантажень. Щоб детальніше розглянути ці наскрізні архітектурні питання разом із галузевими експертами, послухайте повний епізод і дізнайтеся, як MVP проєктують сучасні корпоративні платформи даних.
Поширені запитання
Чи можна отримати доступ до даних Microsoft Fabric Lakehouse через T-SQL?
Так. Кожен Microsoft Fabric Lakehouse автоматично надає типову кінцеву точку SQL, що дозволяє запитувати таблиці Delta стандартним T-SQL разом із блокнотами Spark.
Чи потрібно створювати фізичні копії даних під час переходу між Lakehouse і Warehouse?
Ні. Оскільки обидва механізми зберігання використовують формат таблиць Delta поверх OneLake, ви можете легко створювати ярлики або виконувати перехресні запити без дублювання фізичних файлів.
Який механізм зберігання краще підходить для робочих навантажень машинного навчання?
Lakehouse зазвичай кращий для машинного навчання та просунутої науки про дані завдяки нативній інтеграції з Apache Spark, бібліотеками Python і зберіганням неструктурованих файлів.
Чи можуть SQL-розробники використовувати PySpark у Microsoft Fabric Warehouse?
Так, але з обмеженнями. Хоча до Warehouse можна під'єднатися через Spark, базовим механізмом залишається T-SQL, тому деякі операції, специфічні для Spark, можуть потребувати окремих бібліотек Synapse.