Rozwikłanie architektury Microsoft Fabric: Lakehouse kontra Warehouse
By Mirko Peters ·
Witamy ponownie na blogu! Jeśli śledzisz nasze ostatnie odcinki podcastu, wiesz, że zagłębiamy się w świat nowoczesnych platform danych, analityki i architektury przedsiębiorstwa. Projektowanie krajobrazu analitycznego nigdy nie było uniwersalnym rozwiązaniem, ale wraz z wprowadzeniem Microsoft Fabric organizacje otrzymują zunifikowane środowisko, które łączy inżynierię danych, hurtownie danych, b
Automatically translated with AI from the original post. Read the English original
![Cover: Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]](https://d3wo5wojvuv7l.cloudfront.net/t_rss_itunes_square_1400/images.spreaker.com/original/bfbd20ad8a411469d5aad58275f070a5.jpg)
Witamy ponownie na blogu! Jeśli śledzisz nasze ostatnie odcinki podcastu, wiesz, że zagłębiamy się w świat nowoczesnych platform danych, analityki i architektury przedsiębiorstwa. Projektowanie krajobrazu analitycznego nigdy nie było uniwersalnym rozwiązaniem, ale wraz z wprowadzeniem Microsoft Fabric organizacje otrzymują zunifikowane środowisko, które łączy inżynierię danych, hurtownie danych, business intelligence i AI pod jednym operacyjnym parasolem. Posiadanie zunifikowanej platformy nie oznacza jednak, że nie trzeba podejmować decyzji architektonicznych. Jedną z pierwszych decyzji, przed którymi stają architekci danych i zespoły inżynierskie na początku drogi z Microsoft Fabric, jest wybór między Lakehouse a Data Warehouse.
Ta decyzja architektoniczna stanowi fundament tego, jak organizacja przechowuje, przetwarza i udostępnia dane. Czy wykorzystać elastyczność i otwartoźródłowy charakter Lakehouse, czy trzymać się ustrukturyzowanej, relacyjnej mocy tradycyjnej hurtowni danych? Aby naprawdę opanować ten wybór, musimy zdjąć kolejne warstwy magazynu danych Microsoft Fabric, przeanalizować, jak różne zestawy umiejętności zespołu wpływają na całe równanie, i sprawdzić, jak nowoczesne formaty danych, takie jak Delta Lake, łączą oba podejścia. Przejdźmy więc do rozwikłania architektury Microsoft Fabric i zobaczmy, jak wybrać właściwą ścieżkę dla swojej organizacji.
Wprowadzenie do opcji przechowywania w Microsoft Fabric
Zanim pojawił się Microsoft Fabric, budowa kompleksowej platformy danych często oznaczała łączenie osobnych usług w ramach Azure: konfigurowanie Azure Data Lake Storage, udostępnianie dedykowanych pul SQL, zarządzanie klastrami Azure Databricks i łączenie przestrzeni roboczych Power BI. Choć było to potężne, takie podejście często prowadziło do silosów danych, nadmiarowych kopii informacji oraz obciążenia administracyjnego przy zarządzaniu zabezpieczeniami i zasobami obliczeniowymi w rozproszonych usługach.
Microsoft Fabric rozwiązuje ten problem fragmentacji, wprowadzając OneLake, zunifikowane, oparte na modelu SaaS, wielodzierżawcze jezioro danych, które działa jak OneDrive dla danych organizacji. Wszystko w Fabric – czy to Lakehouse, Data Warehouse, baza danych KQL, czy model semantyczny Power BI – opiera się na OneLake. W ramach tej zunifikowanej warstwy magazynowania organizacje mogą wybrać, jak strukturyzują swoje dane analityczne i jak z nimi pracują. Dwoma głównymi silnikami do przechowywania i wykonywania zapytań na danych analitycznych w Fabric są Lakehouse i Data Warehouse. Choć wspólnie korzystają z podstawowych technologii, zostały zaprojektowane z myślą o różnych obciążeniach, personach użytkowników i paradygmatach operacyjnych.
Zrozumienie Lakehouse w Microsoft Fabric
Microsoft Fabric Lakehouse to wzorzec architektury danych zaprojektowany tak, aby łączyć najlepsze elementy jezior danych i hurtowni danych w jednym środowisku. Jest zoptymalizowany zarówno pod kątem obciążeń inżynierii danych opartych na plikach, jak i ustrukturyzowanych zapytań analitycznych, dzięki czemu cieszy się dużą popularnością wśród inżynierów danych i data scientistów.
U podstaw Lakehouse w Fabric zarządza plikami i folderami tak jak tradycyjne jezioro danych, ale dodaje kluczową warstwę transakcyjną opartą na otwartym formacie Delta Parquet. Oznacza to, że możesz przechowywać dane nieustrukturyzowane (takie jak obrazy, pliki PDF, pliki audio i surowe logi JSON) obok danych tabelarycznych ustrukturyzowanych i częściowo ustrukturyzowanych. Ponadto Lakehouse natywnie integruje się z Apache Spark. Jeśli Twój zespół korzysta z notatników PySpark, rozproszonych transformacji danych i rozbudowanej inżynierii danych na dużą skalę, Lakehouse stanowi idealne środowisko. Pozwala specjalistom od danych wykonywać złożone transformacje, trenować modele uczenia maszynowego i budować solidne potoki danych, stosując metodykę code-first.
Zrozumienie hurtowni danych w Microsoft Fabric
Po drugiej stronie spektrum znajduje się Microsoft Fabric Data Warehouse. Jeśli Twoja organizacja przez lata opierała się na tradycyjnych korporacyjnych hurtowniach danych, SQL Server lub dedykowanych bazach analitycznych, hurtownia danych Fabric będzie od razu znajoma i wygodna w obsłudze.
W przeciwieństwie do Lakehouse, który łączy różne formaty przechowywania i przyjmuje pliki nieustrukturyzowane, Fabric Data Warehouse koncentruje się wyłącznie na danych relacyjnych i tabelach ustrukturyzowanych. Został zaprojektowany z myślą o wydajnych zapytaniach T-SQL. Po utworzeniu magazynu Warehouse w usłudze Fabric otrzymujesz model z oddzielonym magazynem i mocą obliczeniową, zoptymalizowany pod kątem operacji relacyjnych, złożonych złączeń oraz raportowania biznesowego (BI). Administratorzy baz danych, deweloperzy SQL i analitycy danych mogą pisać standardowe skrypty T-SQL, zarządzać schematami baz danych, tworzyć widoki i stosować procedury składowane, bez konieczności nauki Spark i zarządzania konfiguracjami klastrów. Zapewnia on przewidywalne zarządzanie, bezpieczeństwo i spójność transakcyjną, których tradycyjne zespoły danych w przedsiębiorstwach oczekują od hurtowni danych klasy korporacyjnej.
Kluczowe różnice architektoniczne: Lakehouse a Warehouse
Porównując obok siebie Microsoft Fabric Lakehouse i Data Warehouse, różnice wykraczają poza samo to, czy używasz Spark, czy T-SQL. Zrozumienie tych różnic architektonicznych pomaga zespołom uniknąć nadmiernej komplikacji lub wyboru modelu przechowywania, który jest sprzeczny z ich dotychczasowymi nawykami operacyjnymi.
Po pierwsze, warto zwrócić uwagę na typy danych, które priorytetowo traktuje każda z opcji. Lakehouse obsługuje wszystko, od surowych dokumentów nieustrukturyzowanych po tabele Delta o ustrukturyzowanej postaci. Data Warehouse jest ściśle zoptymalizowany pod kątem danych relacyjnych ustrukturyzowanych i semi-ustrukturyzowanych. Po drugie, należy przyjrzeć się silnikom obliczeniowym. Lakehouse w dużym stopniu opiera się na Apache Spark do przetwarzania danych, natomiast Data Warehouse wykorzystuje silnik SQL typu MPP (massively parallel processing). Po trzecie, zwróć uwagę na sposób zarządzania danymi. Lakehouse zapewnia otwarty dostęp do bazowych plików, dzięki czemu analitycy danych mogą bezpośrednio odczytywać pliki Parquet za pomocą zewnętrznych narzędzi lub bibliotek Python. Warehouse ściślej izoluje magazyn danych, udostępniając przejrzysty, relacyjny interfejs bazy danych SQL, zoptymalizowany pod kątem raportowania analitycznego i wydajności zapytań równoległych.
Dopasowanie umiejętności zespołu do wyboru magazynu danych
Decyzja architektoniczna nigdy nie powinna być podejmowana w próżni; musi uwzględniać praktyczne realia istniejących umiejętności zespołu. Technologia jest tylko tak skuteczna, jak ludzie, którzy ją wykorzystują.
Jeśli w Twojej organizacji przeważają deweloperzy Power BI, tradycyjni administratorzy baz danych i analitycy SQL, którzy na co dzień pracują w T-SQL, wymuszanie na nich architektury Lakehouse opartej na Spark może wydłużyć okres nauki i spowolnić realizację projektów. W takim scenariuszu Fabric Data Warehouse zapewnia łagodne wdrożenie, pozwalając istniejącym specjalistom SQL od razu wykorzystać swoje dotychczasowe kompetencje. Z drugiej strony, jeśli w organizacji pracują inżynierowie danych i naukowcy danych biegli w Pythonie, Scali i rozproszonych frameworkach obliczeniowych, Lakehouse zapewnia elastyczność programistyczną i skalę obliczeniową, których potrzebują do budowy zaawansowanych potoków transformacji oraz rozwiązań AI. Wybór właściwej opcji magazynowania w Fabric oznacza uczciwą ocenę możliwości zespołu i projektowanie architektury, która go wzmacnia, a nie zniechęca.
Obsługa różnych typów danych i obciążeń
Wymagania dotyczące obciążeń i różnorodność danych są często ostatecznymi czynnikami decydującymi o wyborze między Lakehouse a Data Warehouse w Microsoft Fabric. Nie wszystkie dane trafiają w uporządkowanej postaci do tabel relacyjnych, a nie wszystkie analizy wyglądają tak samo.
Jeśli potoki pozyskiwania danych dostarczają ogromne ilości surowej telemetrii, strumieni z czujników IoT, plików tekstowych nieustrukturyzowanych i logów systemowych, Lakehouse jest naturalnym miejscem docelowym. Pozwala szybko zapisać surowe dane w warstwie Bronze architektury Medallion, przetworzyć je w notatnikach Spark i przekształcić w czyste tabele analityczne. Z kolei jeśli główne obciążenie stanowią pulpity BI o dużej liczbie równoczesnych użytkowników, zasilane czystymi, silnie ustrukturyzowanymi modelami wymiarowymi, prym wiedzie Data Warehouse. Jego silnik T-SQL jest precyzyjnie dostrojony do wykonywania złożonych zapytań analitycznych z niskim opóźnieniem, dzięki czemu użytkownicy biznesowi otrzymują szybkie i wiarygodne odpowiedzi z modeli semantycznych Power BI.
Wykorzystanie formatu Delta do ujednoliconego magazynowania
Jednym z najbardziej trafnych architektonicznie wyborów, jakich Microsoft dokonał przy budowie Fabric, jest przyjęcie u podstaw otwartego formatu Delta Parquet dla wszystkich tabel ustrukturyzowanych. Ten wybór w istotny sposób zaciera granice między Lakehouse a Warehouse.
Niezależnie od tego, czy dane są pobierane i przetwarzane w Fabric Lakehouse za pomocą PySpark, czy ładowane do Fabric Data Warehouse za pomocą T-SQL, pliki fizyczne przechowywane w OneLake mają format tabel Delta. Ten otwarty standard przechowywania zapewnia transakcje ACID, podróże w czasie i wysoką wydajność w obu środowiskach. Ponieważ zarówno Lakehouse, jak i Warehouse mogą odczytywać i zapisywać tabele Delta, organizacje nie muszą już martwić się uzależnieniem od zastrzeżonego formatu przechowywania. Oznacza to, że inżynier danych może przygotować dane za pomocą Spark w Lakehouse, a deweloper SQL może wysyłać zapytania do dokładnie tych samych tabel za pomocą T-SQL w Warehouse, bez tworzenia zduplikowanych fizycznych kopii danych.
Najlepsze praktyki wyboru właściwego podejścia w Twojej organizacji
Planując wdrożenie Microsoft Fabric, jak zdecydować, czy wdrożyć Lakehouse, Warehouse, a może kombinację obu? Organizacje odnoszące sukces zazwyczaj stosują kilka podstawowych najlepszych praktyk podczas projektowania środowisk Fabric.
Po pierwsze, w razie potrzeby stosuj podejście hybrydowe. Microsoft Fabric został zaprojektowany tak, aby umożliwiać korzystanie z Lakehouse i Warehouse obok siebie, w ramach tej samej dzierżawy i struktury obszarów roboczych. Lakehouse możesz wykorzystać do pobierania surowych danych, zaawansowanych transformacji inżynierii danych i obciążeń związanych z nauką o danych, a hurtownia danych może przechowywać dalsze, raportowe zestawy danych oraz wspólne wymiary przedsiębiorstwa. Po drugie, wykorzystuj skróty OneLake, aby uniknąć zbędnego przenoszenia i duplikowania danych między domenami. Po trzecie, zawsze projektuj z myślą o odbiorcach: oceniaj typy zbieranych danych, umiejętności osób przekształcających dane oraz wymagania dotyczące wydajności użytkowników biznesowych korzystających z ostatecznych wniosków.
Aby usłyszeć praktyczne, rzeczywiste omówienie tego, jak te elementy architektury łączą się od pobierania surowych danych aż po decyzje na poziomie kierownictwa, koniecznie posłuchaj naszego powiązanego odcinka podcastu Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]. W tym odcinku Amit omawia, jak organizacje mogą wykorzystywać OneLake, rozstrzygać kwestie wyboru między Lakehouse a Warehouse, optymalizować transformacje i budować skalowalne rozwiązania analityczne, które wspierają zarówno osoby podejmujące decyzje, jak i doświadczenia oparte na AI.