פענוח ארכיטקטורת Microsoft Fabric: Lakehouse לעומת Warehouse
By Mirko Peters ·
ברוכים השבים לבלוג! אם מעקבתם אחר פרקי הפודקאסט האחרונים שלנו, אתם יודעים שאנחנו צוללים לעומק עולם פלטפורמות הנתונים המתפתח, ניתוח נתונים מודרני וארכיטקטורה ארגונית. תכנון נוף אנליטי מעולם לא היה עניין של גישה אחת שמתאימה לכולם, אבל עם כניסתו של Microsoft Fabric, ארגונים מקבלים סביבה מאוחדת שמביאה יחד הנדסת נתונים, מחסני נתונים, בינה עסקית ובינה מלאכותית תחת מטרייה תפעולית אחת. עם זאת, פלטפורמה מא
Automatically translated with AI from the original post. Read the English original
![Cover: Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]](https://d3wo5wojvuv7l.cloudfront.net/t_rss_itunes_square_1400/images.spreaker.com/original/bfbd20ad8a411469d5aad58275f070a5.jpg)
ברוכים השבים לבלוג! אם מעקבתם אחר פרקי הפודקאסט האחרונים שלנו, אתם יודעים שאנחנו צוללים לעומק עולם פלטפורמות הנתונים המתפתח, ניתוח נתונים מודרני וארכיטקטורה ארגונית. תכנון נוף אנליטי מעולם לא היה עניין של גישה אחת שמתאימה לכולם, אבל עם כניסתו של Microsoft Fabric, ארגונים מקבלים סביבה מאוחדת שמביאה יחד הנדסת נתונים, מחסני נתונים, בינה עסקית ובינה מלאכותית תחת מטרייה תפעולית אחת. עם זאת, פלטפורמה מאוחדת לא אומרת שאין בחירות ארכיטקטוניות לעשות. אחת ההחלטות הראשונות שאדריכלי נתונים וצוותי הנדסה נדרשים לקבל כשהם מתחילים את מסע ה-Microsoft Fabric שלהם היא הבחירה בין Lakehouse ל-Data Warehouse.
ההחלטה הארכיטקטונית הזו מהווה את הבסיס לאופן שבו הארגון שלכם מאחסן, מעבד ומגיש נתונים. האם כדאי לנצל את הגמישות והאופי הקוד-פתוח של Lakehouse, או להישאר עם העוצמה המובנית והיחסית של Data Warehouse מסורתי? כדי לשלוט באמת בבחירה הזו, נצטרך לקלף את השכבות של האחסון ב-Microsoft Fabric, לנתח כיצד כישורי הצוות משפיעים על המשוואה, ולבחון כיצד פורמטים מודרניים של נתונים כמו Delta Lake מגשרים על הפער בין שתי הגישות. בואו נצלול לפענוח ארכיטקטורת Microsoft Fabric ונבחן כיצד לבחור את הדרך הנכונה לארגון שלכם.
הכרות עם אפשרויות האחסון ב-Microsoft Fabric
לפני Microsoft Fabric, בניית פלטפורמת נתונים מקיפה כללה לרוב חיבור של שירותים נפרדים ב-Azure: הקמת Azure Data Lake Storage, הקצאת מאגרי SQL ייעודיים, ניהול אשכולות Azure Databricks וחיבור סביבות עבודה של Power BI. למרות עוצמתה, גישה זו הובילה לעיתים קרובות לסילואים של נתונים, לעותקים כפולים של מידע ולעומס ניהולי בעת ניהול אבטחה ומשאבי חישוב על פני שירותים מפוזרים.
Microsoft Fabric פותרת את הפיצול הזה באמצעות OneLake, אגם נתונים מאוחד, מבוסס SaaS ורב-דיירי, שפועל כ-OneDrive של נתוני הארגון. כל מה שנמצא ב-Fabric – בין שמדובר ב-Lakehouse, ב-Data Warehouse, במסד נתונים של KQL או במודל סמנטי של Power BI – יושב מעל OneLake. בתוך שכבת האחסון המאוחדת הזו, ארגונים יכולים לבחור כיצד לבנות את נתונים האנליטיים ולהתקשר איתם. שתי המנועים העיקריים לאחסון ולשאילתות של נתונים אנליטיים ב-Fabric הם ה-Lakehouse וה-Data Warehouse. למרות שהם חולקים טכנולוגיות יסוד משותפות, הם תוכננו עם עומסי עבודה, פרסונות משתמשים ודפוסי הפעלה שונים בראש.
הבנת ה-Lakehouse של Microsoft Fabric
Microsoft Fabric Lakehouse הוא דפוס ארכיטקטוני לנתונים שנועד לשלב את היתרונות המרכזיים של אגמי נתונים ושל מחסני נתונים בסביבה אחת. הוא מותאם הן לעומסי עבודה של הנדסת נתונים מבוססת קבצים והן לשאילתות אנליטיות מובְנוֹת, ולכן הוא אהוב במיוחד על מהנדסי נתונים ומדעני נתונים.
בליבתו, Lakehouse ב-Fabric מנהל קבצים ותיקיות בדומה לאגם נתונים מסורתי, אך מוסיף שכבה טרנזקציונית חשובה באמצעות פורמט Delta Parquet הקוד-פתוח. המשמעות היא שאפשר לאחסן נתונים לא מובְנים (כמו תמונות, קבצי PDF, קבצי אודיו ולוגים גולמיים בפורמט JSON) לצד נתונים טבלאיים מובְנים ו-semi-structured. יתרה מכך, ה-Lakehouse משתלב באופן מובנה עם Apache Spark. אם הצוות שלכם מסתמך על מחברות PySpark, טרנספורמציות נתונים מבוזרות והנדסת נתונים כבדה בקנה מידה גדול, ה-Lakehouse מספק את המגרש האידיאלי. הוא מאפשר לאנשי נתונים לבצע טרנספורמציות מורכבות, לאמן מודלים של למידת מכונה ולבנות צינורות נתונים חזקים בגישה של קוד-תחילה.
הבנת מחסן הנתונים של Microsoft Fabric
בקצה השני של הספקטרום נמצא Data Warehouse של Microsoft Fabric. אם הארגון שלכם הסתמך במשך שנים על מחסני נתונים ארגוניים מסורתיים, על SQL Server או על מסדי נתונים אנליטיים ייעודיים, ה-Data Warehouse של Fabric ירגיש מוכר ונוח מיד.
בניגוד ל-Lakehouse, שמשלב פורמטים של אחסון ומקבל קבצים לא מובנים, ה-Fabric Data Warehouse מתמקד בנתונים רלציוניים ובטבלאות מובנות בלבד. הוא תוכנן לספק יכולות שאילתות T-SQL בביצועים גבוהים. כשמקימים Warehouse ב-Fabric, מקבלים מודל הפרדה בין אחסון לחישוב, שעבר אופטימיזציה לפעולות רלציוניות, לחיבורים מורכבים (joins) ולדיווח מודיעין עסקי. מנהלי בסיסי נתונים, מפתחי SQL ואנליסטים של נתונים יכולים לכתוב סקריפטים סטנדרטיים של T-SQL, לנהל סכמות של בסיסי נתונים, ליצור תצוגות (views) ולהפעיל נהלים מאוחסנים (stored procedures), בלי צורך ללמוד Spark או לנהל הגדרות אשכולות. הוא מספק את הממשל, האבטחה והעקביות הטרנזקציונית שצוותי נתונים ארגוניים מסורתיים מצפים לקבל ממחסן נתונים ברמה ארגונית.
הבדלים ארכיטקטוניים מרכזיים: Lakehouse לעומת Warehouse
כשמשווים זה לצד זה בין Lakehouse ב-Microsoft Fabric לבין Data Warehouse, ההבדלים חורגים מעצם השאלה אם משתמשים ב-Spark או ב-T-SQL. הבנת ההבדלים הארכיטקטוניים האלה עוזרת לצוותים להימנע מהנדסת-יתר או מבחירת מודל אחסון שמתנגש עם הרגלי העבודה התפעוליים שלהם.
ראשית, יש לבחון אילו סוגי נתונים כל אפשרות מעדיפה. Lakehouse מטפל בכל דבר, החל ממסמכים גולמיים לא מובנים ועד לטבלאות Delta מובנות. Data Warehouse מותאם בצורה מחמירה לנתונים רלציוניים מובנים ושחצי-מובנים. שנית, יש לבחון את מנועי החישוב. ה-Lakehouse נשען במידה רבה על Apache Spark לעיבוד נתונים, ואילו ה-Data Warehouse משתמש במנוע SQL של עיבוד מקבילי מסיבי (MPP). שלישית, יש לבחון כיצד מנוהלים הנתונים. ה-Lakehouse מספק גישה פתוחה לקבצים הבסיסיים, ומאפשר למדעני נתונים לקרוא קבצי Parquet ישירות באמצעות כלים חיצוניים או ספריות Python. ה-Warehouse מפשט את שכבת האחסון הבסיסית ומציג ממשק מסד נתונים רלציוני נקי של SQL, שעבר אופטימיזציה לדיווח אנליטי ולביצועי שאילתות במקביל.
יישור כישורי הצוות עם בחירת האחסון
החלטה ארכיטקטונית לעולם לא צריכה להתקבל בוואקום; היא חייבת להתחשב במציאות המעשית של הכישורים הקיימים בצוות. טכנולוגיה אפקטיבית רק כמו האנשים שמפעילים אותה.
אם בארגון שלכם יש מספר רב של מפתחי Power BI, מנהלי בסיסי נתונים מסורתיים ואנליסטים של SQL שחיים ונושמים T-SQL, כפייה שלהם לעבוד בארכיטקטורת Lakehouse כבדה ב-Spark עלולה ליצור עקומת למידה מיותרת ולהאט את קצב הפיתוח. במקרה כזה, ה-Fabric Data Warehouse מספק מסלול הטמעה נוח, שמאפשר לכישרון ה-SQL הקיים להשתמש מיד בידע שלו. לעומת זאת, אם בארגון יש מהנדסי נתונים ומדעני נתונים שדוברים Python, Scala ומסגרות מחשוב מבוזר ברמה שוטפת, ה-Lakehouse מספק את הגמישות התכנותית ואת עוצמת החישוב שהם צריכים כדי לבנות צינורות טרנספורמציה מתקדמים ופתרונות AI. בחירת אפשרות האחסון הנכונה ב-Fabric פירושה הסתכלות כנה על היכולות של הצוות שלכם ותכנון ארכיטקטורה שמעצימה אותם ולא מרחיקה אותם.
טיפול בסוגי נתונים ועומסי עבודה שונים
דרישות עומס העבודה והמגוון של הנתונים הם לעתים קרובות הגורמים המכריעים בבחירה בין Lakehouse ל-Data Warehouse ב-Microsoft Fabric. לא כל הנתונים מגיעים מסודרים היטב בטבלאות רלציוניות, וגם לא כל הניתוחים נראים אותו דבר.
אם צינורות ההטמעה שלכם מושכים כמויות עצומות של טלמטריה גולמית, זרמי חיישנים מסוג IoT, קבצי טקסט לא מובנים ולוגים של מערכות, ה-Lakehouse הוא נקודת הנחיתה הטבעית. הוא מעניק לכם את הגמישות להטמיע נתונים גולמיים במהירות לשכבת ה-Bronze של ארכיטקטורת Medallion, לעבד אותם באמצעות מחברות Spark ולזקק אותם לטבלאות אנליטיות נקיות. מנגד, אם עומס העבודה העיקרי שלכם כולל הזנה של לוחות מחוונים של מודיעין עסקי בעלי מקביליות גבוהה בנתוני מודלים מימדיים נקיים ומובנים מאוד, ה-Data Warehouse מצטיין. מנוע ה-T-SQL שלו מכוונל היטב להרצת שאילתות אנליטיות מורכבות עם השהיה נמוכה, ומבטיח שמשתמשים עסקיים יקבלו תשובות מהירות ואמינות ממודלים סמנטיים של Power BI.
שימוש בפורמט Delta לאחסון מאוחד
אחת הבחירות הארכיטקטוניות המבריקות ביותר ש-Microsoft עשתה בבניית Fabric היא אימוץ הבסיס של פורמט Delta Parquet בקוד פתוח עבור כל הטבלאות המובנות. הבחירה הזו עוזרת לטשטש את הגבולות בין Lakehouse ל-Warehouse בדרכים רבות ועוצמתיות.
בין אם הנתונים נטענים ומעובדים בתוך Lakehouse של Fabric באמצעות PySpark ובין אם הם נטענים ל-Data Warehouse של Fabric באמצעות T-SQL, הקבצים הפיזיים שמאוחסנים ב-OneLake מעוצבים כטבלאות Delta. תקן האחסון הפתוח הזה מביא עמו עסקאות ACID, נסיעה בזמן וביצועים גבוהים לשתי הסביבות. מכיוון שגם ה-Lakehouse וגם ה-Warehouse יכולים לקרוא ולכתוב לטבלאות Delta, ארגונים כבר לא צריכים לדאוג להיקשרות לאחסון קנייני. המשמעות היא שמהנדס נתונים יכול להכין נתונים באמצעות Spark ב-Lakehouse, ומפתח SQL יכול לשאול את אותן טבלאות בדיוק באמצעות T-SQL ב-Warehouse, בלי ליצור עותקים פיזיים כפולים של הנתונים.
שיטות עבודה מומלצות לבחירת הגישה הנכונה בארגון שלכם
כשאתם מתכננים את הפריסה של Microsoft Fabric, איך מחליטים אם לממש Lakehouse, Warehouse או שילוב של שניהם? ארגונים מצליחים בדרך כלל פועלים לפי כמה עקרונות מרכזיים בעת תכנון סביבות Fabric שלהם.
ראשית, אמצו גישה היברידית כשהיא נחוצה. Microsoft Fabric נבנה כך שתוכלו להשתמש ב-Lakehouse וב-Warehouse זה לצד זה, באותו דייר ובאותה מבנה סביבות עבודה. ייתכן שתשתמשו ב-Lakehouse לקליטת נתונים גולמיים, לטרנספורמציות הנדסת נתונים כבדות ולעומסי עבודה של מדע נתונים, בעוד שמרכזי דיווח במורד הזרם או ממדים ארגוניים מאוחדים יישבו ב-Data Warehouse. שנית, השתמשו ב-OneLake shortcuts כדי להימנע מהעברת נתונים מיותרת ומשכפול בין התחומים שלכם. שלישית, תמיד תכננו עם הצרכנים בראש – הערכו את סוגי הנתונים שאתם אוספים, את הכישורים של האנשים שמעבדים את הנתונים, ואת דרישות הביצועים של משתמשי העסק שצורכים את התובנות הסופיות.
כדי לשמוע פירוק מעשי, מהחיים האמיתיים, של האופן שבו רכיבי הארכיטקטורה הללו משתלבים יחד – מקליטת נתונים גולמיים ועד לקבלת החלטות ברמה הניהולית – הקשיבו לפרק הפודקאסט הקשור לנושא, Microsoft Fabric End-to-End: From Raw Data to Business Decisions with Amit Chandak [MVP]. בפרק זה, Amit מסביר כיצד ארגונים יכולים למנף את OneLake, לנווט בין ההחלטות בין Lakehouse ל-Warehouse, לייעל טרנספורמציות ולבנות פתרונות אנליטיקה ניתנים להרחבה שמעצימים הן מקבלי החלטות אנושיים והן חוויות מונעות AI.