M365Con 2027 – безкоштовна онлайн-конференція · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Розбираємо архітектуру Microsoft Fabric: Lakehouse чи Warehouse

By ·

Раді вітати вас знову на нашому блозі! Якщо ви стежите за нашими останніми випусками подкасту, то знаєте, що ми детально розбираємо світ сучасних платформ даних, аналітики та корпоративної архітектури. Проєктування аналітичного ландшафту ніколи не було універсальним рішенням, але з появою Microsoft Fabric організації отримують єдине середовище, яке об’єднує інженерію даних, сховища даних, бізнес-а

Automatically translated with AI from the original post. Read the English original

Cover: Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]

Раді вітати вас знову на нашому блозі! Якщо ви стежите за нашими останніми випусками подкасту, то знаєте, що ми детально розбираємо світ сучасних платформ даних, аналітики та корпоративної архітектури. Проєктування аналітичного ландшафту ніколи не було універсальним рішенням, але з появою Microsoft Fabric організації отримують єдине середовище, яке об’єднує інженерію даних, сховища даних, бізнес-аналітику та штучний інтелект в одній операційній моделі. Проте єдина платформа не означає, що архітектурних рішень не потрібно ухвалювати. Одне з перших рішень, перед якими стоять архітектори даних та інженерні команди на старті роботи з Microsoft Fabric, — вибір між Lakehouse і Data Warehouse.

Це архітектурне рішення формує основу того, як ваша організація зберігає, обробляє та надає дані. Чи варто використовувати гнучкість і відкритий характер Lakehouse, чи залишитися при структурованій, реляційній потужності традиційного сховища даних? Щоб справді опанувати цей вибір, потрібно розібрати шари сховища Microsoft Fabric, з’ясувати, як різні навички команди впливають на рішення, і подивитися, як сучасні формати даних, наприклад Delta Lake, поєднують ці два підходи. Розберемося з архітектурою Microsoft Fabric і з’ясуємо, як обрати правильний шлях для вашої організації.

Вступ до варіантів зберігання в Microsoft Fabric

До появи Microsoft Fabric побудова комплексної платформи даних часто означала поєднання окремих сервісів в Azure: налаштування Azure Data Lake Storage, розгортання виділених пулів SQL, керування кластерами Azure Databricks і підключення робочих просторів Power BI. Такий підхід був потужним, але часто призводив до ізольованих масивів даних, дубльованих копій інформації та додаткових адміністративних витрат на безпеку й керування обчислювальними ресурсами в різних сервісах.

Microsoft Fabric вирішує цю фрагментацію завдяки OneLake, єдиному SaaS-озеру даних із багатоорендною архітектурою, яке працює як OneDrive для даних вашої організації. Усе у Fabric, будь то Lakehouse, Data Warehouse, база даних KQL чи семантична модель Power BI, розташоване поверх OneLake. У межах цього єдиного шару зберігання організації можуть самостійно вирішувати, як структурувати аналітичні дані та працювати з ними. Два основні движки для зберігання та запитів аналітичних даних у Fabric — це Lakehouse і Data Warehouse. Хоча вони мають спільні базові технології, їх створено з урахуванням різних навантажень, користувацьких ролей і операційних підходів.

Розуміння Lakehouse у Microsoft Fabric

Microsoft Fabric Lakehouse — це архітектурний патерн даних, створений для поєднання найкращих елементів озер даних і сховищ даних в одному середовищі. Він оптимізований як для файлових навантажень інженерії даних, так і для структурованих аналітичних запитів, тому його полюбляють інженери даних і фахівці з data science.

По суті, Lakehouse у Fabric керує файлами та папками так само, як традиційне озеро даних, але додає важливий транзакційний шар на основі відкритого формату Delta Parquet. Це означає, що неструктуровані дані (наприклад, зображення, PDF-файли, аудіо та необроблені журнали JSON) можна зберігати разом зі структурованими та напівструктурованими табличними даними. Крім того, Lakehouse нативно інтегрується з Apache Spark. Якщо ваша команда користується блокнотами PySpark, розподіленими трансформаціями даних і масштабною інженерією даних, Lakehouse є ідеальним майданчиком. Він дає змогу фахівцям з даних виконувати складні трансформації, навчати моделі машинного навчання та будувати надійні конвеєри даних за методологіями, орієнтованими на код.

Розуміння Data Warehouse у Microsoft Fabric

На іншому полюсі спектра — Microsoft Fabric Data Warehouse. Якщо ваша організація роками працювала з традиційними корпоративними сховищами даних, SQL Server або виділеними аналітичними базами даних, Fabric Data Warehouse одразу здаватиметься знайомим і зручним.

На відміну від Lakehouse, який поєднує різні формати зберігання та приймає неструктуровані файли, Fabric Data Warehouse орієнтований виключно на реляційні дані та структуровані таблиці. Його створено для високопродуктивних запитів на T-SQL. Коли ви створюєте Warehouse у Fabric, ви отримуєте розділену модель зберігання та обчислень, оптимізовану для реляційних операцій, складних з’єднань і звітності бізнес-аналітики. Адміністратори баз даних, розробники SQL та аналітики даних можуть писати стандартні скрипти T-SQL, керувати схемами баз даних, створювати представлення та застосовувати збережені процедури без потреби вивчати Spark або керувати конфігураціями кластерів. Він забезпечує передбачуване управління, безпеку та транзакційну узгодженість, яких традиційні корпоративні команди даних очікують від корпоративного сховища даних.

Ключові архітектурні відмінності: Lakehouse проти Warehouse

Якщо порівняти Microsoft Fabric Lakehouse і Data Warehouse поруч, відмінності стосуються не лише того, використовуєте ви Spark чи T-SQL. Розуміння цих архітектурних відмінностей допомагає командам уникнути надмірного ускладнення або вибору моделі зберігання, яка суперечить їхнім звичним робочим процесам.

По-перше, зверніть увагу на типи даних, на які орієнтується кожен варіант. Lakehouse працює з усім: від сирих неструктурованих документів до структурованих таблиць Delta. Data Warehouse оптимізовано виключно для структурованих і напівструктурованих реляційних даних. По-друге, розгляньте обчислювальні рушії. Lakehouse значною мірою покладається на Apache Spark для обробки даних, тоді як Data Warehouse використовує SQL-рушій з масово паралельною обробкою (MPP). По-третє, подивіться, як керуються дані. Lakehouse забезпечує відкритий доступ до базових файлів, дозволяючи фахівцям з даних читати файли Parquet безпосередньо за допомогою зовнішніх інструментів або бібліотек Python. Warehouse тісніше абстрагує базове сховище, надаючи зрозумілий реляційний інтерфейс SQL-бази даних, оптимізований для аналітичної звітності та продуктивності одночасних запитів.

Узгодження навичок команди з вибором сховища

Архітектурне рішення ніколи не можна ухвалювати у вакуумі; воно має враховувати практичні реалії наявних навичок вашої команди. Технологія працює лише настільки добре, наскільки добре нею користуються люди.

Якщо у вашій організації переважають розробники Power BI, традиційні адміністратори баз даних і аналітики SQL, які живуть T-SQL, примусове переведення їх на архітектуру Lakehouse з важким навантаженням Spark може створити зайву криву навчання та уповільнити доставку. У цьому сценарії Fabric Data Warehouse забезпечує зручний перехід, дозволяючи вашим фахівцям із SQL одразу використовувати наявний досвід. І навпаки, якщо у вашій організації працюють інженери даних і фахівці з даних, які вільно володіють Python, Scala та розподіленими обчислювальними фреймворками, Lakehouse надає програмну гнучкість і обчислювальний масштаб, потрібні для створення складних конвеєрів перетворення та рішень зі штучним інтелектом. Вибір правильного варіанта зберігання в Fabric означає чесно оцінити можливості вашої команди та спроєктувати архітектуру, яка їх підсилює, а не відштовхує.

Обробка різних типів даних і навантажень

Вимоги до навантаження та різноманітність даних часто є вирішальними факторами під час вибору між Lakehouse і Data Warehouse у Microsoft Fabric. Не всі дані надходять акуратно організованими у реляційні таблиці, і не вся аналітика виглядає однаково.

Якщо ваші конвеєри приймання отримують величезні обсяги сирої телеметрії, потоки даних від IoT-сенсорів, неструктуровані текстові файли та системні журнали, Lakehouse є природною зоною першого розміщення. Він дає гнучкість швидко записувати сирі дані в шар Bronze архітектури Medallion, обробляти їх за допомогою блокнотів Spark і перетворювати на чисті аналітичні таблиці. З іншого боку, якщо ваше основне навантаження полягає в живленні дашбордів бізнес-аналітики з високим рівнем одночасних запитів чистими, добре структурованими дименсіональними моделями даних, Data Warehouse показує себе найкраще. Його рушій T-SQL добре налаштований на виконання складних аналітичних запитів із низькою затримкою, гарантуючи, що бізнес-користувачі отримують швидкі й надійні відповіді зі своїх семантичних моделей Power BI.

Використання формату Delta для уніфікованого сховища

Один із найвдаліших архітектурних рішень Microsoft під час створення Fabric – це впровадження відкритого формату Delta Parquet для всіх структурованих таблиць. Цей вибір значною мірою стирає межі між Lakehouse і Warehouse у цікавий спосіб.

Незалежно від того, чи дані обробляються в Fabric Lakehouse за допомогою PySpark, чи завантажуються в Fabric Data Warehouse за допомогою T-SQL, фізичні файли, що зберігаються в OneLake, мають формат Delta-таблиць. Цей відкритий стандарт зберігання забезпечує транзакції ACID, «подорож у часі» та високу продуктивність в обох середовищах. Оскільки і Lakehouse, і Warehouse можуть читати та записувати Delta-таблиці, організаціям більше не потрібно турбуватися про прив'язку до пропрієтарного сховища. Це означає, що інженер даних може підготувати дані за допомогою Spark у Lakehouse, а SQL-розробник може виконувати запити до тих самих таблиць за допомогою T-SQL у Warehouse, не створюючи дублікатів фізичних копій даних.

Найкращі практики вибору правильного підходу в організації

Плануючи впровадження Microsoft Fabric, як вирішити, чи варто використовувати Lakehouse, Warehouse або їх комбінацію? Успішні організації зазвичай дотримуються кількох ключових найкращих практик під час проєктування середовищ Fabric.

По-перше, за потреби застосовуйте гібридний підхід. Microsoft Fabric створено так, щоб ви могли використовувати Lakehouse і Warehouse поруч в одній структурі клієнта та робочих областей. Lakehouse можна використовувати для сирого приймання даних, складних трансформацій у межах інженерії даних і робочих навантажень data science, а в Data Warehouse можуть розміщуватися звітні вітрини даних нижчого рівня або узгоджені корпоративні виміри. По-друге, використовуйте ярлики OneLake, щоб уникати непотрібного переміщення та дублювання даних між вашими доменами. По-третє, завжди проєктуйте з огляду на споживачів: оцінюйте типи даних, які ви збираєте, навички людей, що трансформують дані, та вимоги до продуктивності для бізнес-користувачів, які споживають фінальні інсайти.

Щоб почути практичний розбір того, як ці архітектурні елементи поєднуються від сирого приймання даних до ухвалення управлінських рішень, обов'язково послухайте наш відповідний епізод подкасту: Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]. В епізоді Аміт розповідає, як організації можуть використовувати OneLake, розв'язувати питання вибору між Lakehouse і Warehouse, оптимізувати трансформації та створювати масштабовані аналітичні рішення, які підсилюють як людей, що ухвалюють рішення, так і AI-орієнтовані сценарії.

Microsoft Fabric OneDrive Power BI Semantic model

Related articles

RSS