M365Con 2027 – die kostenlose Online-Konferenz · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Lakehouse-Governance in Microsoft Fabric meistern: Ein umfassender Leitfaden

Von ·

Willkommen zurück im Podcast-Blog! Wenn Sie unseren letzten Audio-Folgen gefolgt sind, wissen Sie, dass wir uns gern intensiv mit den technischen Architekturen und Strategien beschäftigen, die moderne Datenplattformen reibungslos am Laufen halten…

Automatisch mit KI aus dem Originalbeitrag übersetzt. Englisches Original lesen

▶ BLOGMastering MicrosoftFabric Lakehouse…M365.FM
Titelbild: Mastering Microsoft Fabric Lakehouse Governance: A Comprehensive Guide

Willkommen zurück im Podcast-Blog! Wenn Sie unseren letzten Audio-Folgen gefolgt sind, wissen Sie, dass wir uns gern intensiv mit den technischen Architekturen und Strategien beschäftigen, die moderne Datenplattformen reibungslos am Laufen halten. Heute widmen wir uns ausführlich einem Thema, das praktisch jede Dateninstanz beschäftigt: Lakehouse-Governance, Sicherheitsbaselines und Datenherkunft (Data Lineage). Wenn Sie noch tiefer in das Audio-Gespräch einsteigen möchten, das diesen Beitrag angeregt hat, schauen Sie sich unbedingt die passende Folge an: Microsoft Fabric Lakehouse Governance and Data Lineage.

Mit Lakehouse-Governance in Microsoft Fabric behalten Sie Ihre Daten unter Kontrolle, schützen sie und verwalten sie zuverlässig. Sie erhalten vollständige Transparenz über den Weg Ihrer Daten, was für die Einhaltung von Compliance-Vorgaben und fundierte Entscheidungen unerlässlich ist. Heute stellen über 65 % der Dateninstanz-Verantwortlichen Governance an die Spitze ihrer Strategie, und 71 % der Organisationen haben bereits ein entsprechendes Programm etabliert. Microsoft Fabric überzeugt mit automatischer Datenherkunftsverfolgung (Data Lineage), arbeitsbereichsbasierten Berechtigungen und einem einheitlichen Purview-Katalog. Diese Funktionen helfen Ihnen, Ihren Daten zu vertrauen und sie wirksam zu nutzen.

Das Wichtigste in Kürze

8 überraschende Fakten zur Datenherkunft in Microsoft Fabric mit Purview

  1. End-to-End-Lineage über hybride Quellen hinweg: Purview, integriert mit Microsoft Fabric, kann die Datenherkunft aus lokalen, Multi-Cloud- und SaaS-Datenquellen automatisch in Fabric-Assets erfassen. So entsteht eine einheitliche Gesamtsicht ohne manuelle Zuordnung.
  2. Visuelle Lineage ist interaktiv und abfragbar: Lineage-Diagramme in Fabric und Purview sind keine statischen Bilder. Sie können Datasets, Pipelines, Notebooks und Berichte anklicken und so Upstream- und Downstream-Beziehungen sowie Metadaten-Details in Echtzeit erkunden.
  3. Code-Level-Lineage für Notebooks und Transformationen: Purview kann die Datenherkunft auf Code- oder Transformationsebene extrahieren und anzeigen (z. B. Synapse-Notebooks, Spark-Jobs). Dabei wird sichtbar, welche konkreten Spalten und Codeblöcke zu nachgelagerten Spalten beigetragen haben.
  4. Schema- und Spalten-Lineage werden unterstützt: Über Datenflüsse auf Dataset-Ebene hinaus erfasst Purview Schemaänderungen und Zuordnungen auf Spaltenebene. Das ermöglicht präzise Auswirkungsanalysen, wenn eine Spalte umbenannt, hinzugefügt oder entfernt wird.
  5. Automatische Erfassung der Datenherkunft aus Power BI und Fabric: Power-BI-Berichte, Dashboards und Fabric-Dataflows werden automatisch gescannt und in den Lineage-Graphen eingebunden. So erscheinen BI-Artefakte zusammen mit Rohdaten und ETL-Prozessen.
  6. Lineage-Metadaten unterstützen Governance-Workflows: Informationen zur Datenherkunft lassen sich für Richtlinien, Datenschutz und Zertifizierungsprozesse nutzen. Sie können beispielsweise die Weitergabe von Vertraulichkeitsbezeichnungen und Auswirkungsbenachrichtigungen anhand von Lineage-Pfaden automatisieren.
  7. Zeitreisen und historische Lineage-Ansichten: Purview kann mit Fabric historische Lineage-Snapshots speichern. So lässt sich vergleichen, wie sich Datenflüsse und Transformationen im Zeitverlauf verändert haben, was für Audits und Compliance hilfreich ist.
  8. Integration mit Observability und operativen Tools: Lineage-Metadaten lassen sich exportieren oder in Monitoring- und Incident-Response-Systeme integrieren. So können Betriebsteams Fehler schnell bis zum zugrunde liegenden Quelldatensatz oder Codeartefakt zurückverfolgen.

Governance im Microsoft Fabric Lakehouse

Kernprinzipien

Für ein wirksames Datenmanagement brauchen Sie solide Grundlagen. Microsoft Fabric Lakehouse stützt seine Governance auf drei zentrale Prinzipien:

  1. Sicherheitsbasislinien: Sie legen für jeden Arbeitsbereich eine einheitliche Sicherheitsbasislinie fest. Das hilft Ihnen, zu steuern, wer auf Daten zugreifen kann und wie sich Daten bewegen.
  2. Überwachung: Sie verfolgen zentrale Kennzahlen und nutzen zentrale Dashboards. So behalten Sie den Zustand und die Zuverlässigkeit Ihrer Plattform ständig im Blick.
  3. Deployment-Governance: Sie behandeln alle Datenartefakte wie Code. Mit automatisierten Pipelines spielen Sie Änderungen kontrolliert ein.

Außerdem definieren Sie Sicherheitsgrenzen für Arbeitsbereiche. Sie wenden Standard-Vertraulichkeitsbezeichnungen an, um Daten nach ihrer Auswirkung zu klassifizieren. Auf Basis dieser Bezeichnungen setzen Sie Schutzrichtlinien durch. Diese Schritte helfen Ihnen, sensible Informationen zu schützen und Ihre Daten sicher zu halten.

Governance-Säulen

Sie können Governance in Microsoft Fabric Lakehouse als vier zentrale Säulen betrachten. Jede Säule unterstützt einen anderen Teil Ihrer Datenmanagementstrategie.

Governance-SäuleBeschreibung
DatenmanagementSie gruppieren Daten in Domänen und Subdomänen. Das erleichtert es, Ihre Daten zu finden und zu steuern.
MetadatenmanagementDer OneLake-Katalog fungiert als zentrales Steuerungspanel. Sie nutzen ihn, um Ihre Daten zu erkennen, zu verwalten und abzusichern.
Sicherheit/ComplianceVertraulichkeitsbezeichnungen aus Microsoft Purview helfen Ihnen, Daten zu schützen und Datenschutzvorschriften einzuhalten.
AuffindbarkeitDie Registerkarte „Govern“ zeigt Ihnen den Zustand Ihrer Daten und hilft Ihnen, Kuratierung und Auffindbarkeit zu verbessern.

Mit Microsoft Purview schützen Sie sensible Daten und stellen die Einhaltung von Vorgaben sicher. Sie können Daten mit Vertraulichkeitsbezeichnungen kennzeichnen und Benutzeraktionen mit Überwachungsprotokollen nachverfolgen. Purview-DLP-Richtlinien helfen Ihnen, sensible Informationen zu erkennen und Ihre Organisation compliant zu halten.

Herausforderungen bei der Lakehouse-Governance

Bei der Einführung von Governance in einer Lakehouse-Umgebung können verschiedene Herausforderungen auftreten. Diese können Ihre Datenqualität, Sicherheit und Abläufe beeinträchtigen.

HerausforderungBeschreibung
DatenqualitätSie müssen eine hohe Datenqualität für korrekte Berichte und Analysen sicherstellen. Qualitätsprüfungen sollten an jedem Pipeline-Schritt erfolgen.
ZugriffskontrolleSie benötigen feingranulare Berechtigungen und Überwachungsprotokolle. Rollenbasierter Zugriff hilft Ihnen, den Datenzugriff zu steuern.
MetadatensynchronisierungManchmal zeigt der SQL-Endpunkt nicht die neuesten Daten an. Das kann durch Timing- oder Aktualisierungsprobleme verursacht werden.
Pipeline-FehlerÄnderungen von Datentypen oder Schema-Abweichungen können Pipeline-Fehler verursachen. Sie müssen diese überwachen und schnell beheben.
Notebook-AusführungNotebooks können sich in unterschiedlichen Umgebungen unterschiedlich verhalten. Sie müssen Laufzeiteinstellungen und Abhängigkeiten sorgfältig verwalten.

Sie können Risiken verringern, indem Sie bewährte Data-Governance-Praktiken anwenden. Legen Sie beispielsweise klare Richtlinien fest, nutzen Sie rollenbasierte Zugriffssteuerung und integrieren Sie Microsoft Purview. Diese Schritte helfen Ihnen, Integrität und Sicherheit über alle Datenbestände hinweg zu wahren.

💡 Wussten Sie schon? Die weltweiten durchschnittlichen Kosten eines Datenlecks haben historische Höchstwerte erreicht. Schlechte Governance kann zudem durch schwache Zusammenarbeit zu erheblichen jährlichen Verlusten führen. Wenn Sie jetzt handeln, schützen Sie Ihre Organisation und Ihre Daten.

Datenherkunft (Data Lineage) in Fabric Lakehouse

Was ist Datenherkunft?

Datenherkunft zeigt Ihnen den vollständigen Weg Ihrer Daten. Sie sehen, wo Ihre Daten beginnen, wie sie sich bewegen und wo sie ankommen. In Microsoft Fabric Lakehouse wird die Datenherkunft auf Artefaktebene dargestellt. Lakehouse und Warehouse erscheinen als separate Knoten, auch wenn sie in OneLake dieselben Daten nutzen. Bei Dataflow Gen2 sehen Sie jeden Schritt als eigenen Teil der Datenbewegung. Manchmal erzeugt ein SQL-Analyseendpunkt in einem Lakehouse zusätzliche Knoten. Auch unterschiedliche Verbindungsmethoden können für dieselbe Quelle oder dasselbe Ziel mehrere Knoten erzeugen. Derzeit können Sie Lakehouse und Warehouse nicht zu einem einzigen Herkunftsknoten zusammenführen. Diese klare Zuordnung hilft Ihnen, Ablauf und Struktur Ihrer Daten zu verstehen.

Automatische Herkunftsverfolgung

Microsoft Fabric Lakehouse bietet Ihnen eine automatische Herkunftsverfolgung. Manuelle Prozesse müssen Sie nicht einrichten. Materialized Lake Views übernehmen das für Sie. Sie können ein automatisch generiertes Herkunftsdiagramm anzeigen, das zeigt, wie Ihre Views von Quelltabellen abhängen. Das System steuert Aktualisierungen anhand von Änderungen in Ihren Quelldaten. So sehen Sie immer die aktuellen Verbindungen und Abhängigkeiten. Sie erkennen schnell, woher Ihre Daten stammen und wie sie sich im Zeitverlauf verändern. Diese Funktion spart Zeit und reduziert Fehler.

Vorteile für Compliance & Vertrauen

Datenherkunft und Auswirkungsanalyse spielen eine zentrale Rolle, wenn es darum geht, Compliance-Anforderungen zu erfüllen und Vertrauen in Ihre Daten aufzubauen. Sie können Herkunftsfunktionen nutzen, um wichtige Vorschriften zu unterstützen:

Compliance-StandardBeschreibung
FedRAMPEin Programm der US-Regierung, das einen standardisierten Ansatz für die Sicherheitsbewertung, Autorisierung und kontinuierliche Überwachung von Cloud-Produkten und -Diensten bereitstellt.
HIPAAEin US-Gesetz, das Datenschutzstandards festlegt, um die Patientenakten und andere Gesundheitsinformationen von Patienten zu schützen.
SOC 2Ein Framework für den Umgang mit Kundendaten, das auf fünf Trust-Service-Prinzipien basiert: Sicherheit, Verfügbarkeit, Verarbeitungsintegrität, Vertraulichkeit und Datenschutz.

Sie gewinnen klare Transparenz über Ihren Datenfluss und dessen Abhängigkeiten. So können Sie Fehler bis zu ihrer Ursache zurückverfolgen und die Auswirkungen von Änderungen einschätzen.

Data Lineage in Microsoft Fabric Lakehouse stärkt das Vertrauen in die Unternehmensdaten, indem es klare Transparenz über den Datenfluss und dessen Abhängigkeiten schafft. So können Benutzer Fehler bis zu ihrer Ursache zurückverfolgen und die Auswirkungen von Änderungen einschätzen. Diese Transparenz hilft den Benutzern, die Genauigkeit und Zuverlässigkeit der verwendeten Daten zu überprüfen.

Sie können Data Lineage und Impact Analysis für die Ursachenanalyse nutzen. Sie verfolgen einen Fehler schnell bis zu seiner Quelle zurück. Außerdem können Sie eine Impact Analysis durchführen, um die Folgen von Änderungen zu verstehen, bevor Sie sie vornehmen. Diese Möglichkeiten helfen Ihnen, Probleme zu beheben, die Compliance einzuhalten und in Ihrer gesamten Organisation Transparenz sicherzustellen.

Lakehouse-Architektur

Datenaufnahme & Speicherung

Sie können Daten auf mehreren flexiblen Wegen in Ihr Lakehouse laden. Microsoft Fabric unterstützt eine Reihe von Ingestion-Tools, die zu unterschiedlichen Kenntnisständen und Anforderungen passen. Wenn Sie große Datenmengen schnell verschieben müssen, können Sie beispielsweise die Pipeline-Kopieraktivität ohne Code nutzen. Wenn Sie eine visuelle Oberfläche bevorzugen, transformieren Sie Daten mit Dataflows Gen 2 per Low-Code. Für anspruchsvollere Aufgaben bietet Apache Spark die Möglichkeit, eigenen Code zu schreiben. Data Pipelines automatisieren die Verschiebung von Batch- und Echtzeitdaten, während Transact-SQL komplexe Vorgänge mit vertrauten SQL-Befehlen unterstützt.

Beim Organisieren Ihrer Daten arbeiten Sie häufig mit einem mehrschichtigen Ansatz:

Diese Struktur hilft Ihnen, die Datenqualität zu steuern und den Weg der Daten von der Quelle bis zur Erkenntnis nachzuvollziehen. Jeder Schritt umfasst Validierungsprüfungen, die die Datenintegrität schützen und Fehler verhindern. Auditing-Funktionen protokollieren jede Aktion, sodass Sie jederzeit wissen, wer auf Ihre Daten zugegriffen oder sie geändert hat. Diese Werkzeuge unterstützen die Einhaltung von Vorschriften wie DSGVO und HIPAA.

Metadaten & Kataloge

Metadaten bilden das Rückgrat Ihres Lakehouse. Sie beschreiben Ihre Daten und machen sie leichter auffindbar, verständlich und vertrauenswürdig. Microsoft Fabric bietet leistungsstarke Funktionen zum Scannen von Metadaten, mit denen Sie jedes Asset bis auf Spaltenebene katalogisieren können. Sie sehen Details zu Datenstrukturen, etwa Tabellennamen und Spaltentypen, und können Daten so mit Zuversicht bewerten und nutzen.

Ein gut verwalteter Katalog verbessert sowohl die Auffindbarkeit als auch die Governance. Sie können Verantwortlichkeiten zuweisen, Sicherheitsregeln festlegen und die Datenqualität überwachen. Wenn Sie Metadaten als Brücke nutzen, verbinden Sie Ihre Analytics-Grundlage mit vertrauenswürdigen, qualitativ hochwertigen Datenprodukten. Dieser Ansatz verhindert wiederkehrende Probleme mit der Datenqualität und unterstützt eine gesteuerte, KI-fähige Umgebung.

Tipp: Nutzen Sie Metadaten, um Änderungen nachzuverfolgen und eine klare Historie Ihrer Daten zu führen. Das vermeidet Verwirrung und stellt sicher, dass alle mit den genauesten Informationen arbeiten.

Integration mit Microsoft Purview

Microsoft Purview bringt erweiterte Katalogisierung und Governance in Ihr Lakehouse. Der Dienst scannt Tabellen und Dateien und liefert detaillierte Informationen zu jeder Spalte und ihrem Datentyp. Diese Detailtiefe erleichtert das Onboarding neuer Datenquellen und unterstützt klare Datenverträge zwischen Teams.

Purview zeigt zudem Erkenntnisse zu sensiblen Daten an, damit Sie die Datenschutzgesetze einhalten. Die umfangreichen Metadaten sind mit Tools zur Datenqualität verknüpft, sodass Sie Ihre Assets profilieren und validieren können. Das Lineage-Tracking zeigt, woher Ihre Daten stammen und wie sie sich verändern. Das ist entscheidend für die Impact Analysis, wenn Sie Schemas oder Prozesse aktualisieren.

Dies sind die wichtigsten Komponenten der Architektur von Microsoft Fabric Lakehouse:

Komponente
OneLake-Architektur
Data Factory-Pipelines
Lakehouse-Engine
Warehouse-Engine
Engine für Echtzeitanalysen
KI- & ML-Schicht
Governance- & Sicherheitsschicht

Mit diesen integrierten Werkzeugen schaffen Sie eine sichere, gut gesteuerte Datenumgebung, die sowohl Analysen als auch Compliance unterstützt.

Sicherheit & Zugriffssteuerung

Berechtigungen auf Basis von Arbeitsbereichen

Sie steuern den Zugriff auf Ihre Daten in einem Microsoft Fabric Lakehouse über Berechtigungen auf Basis von Arbeitsbereichen. Arbeitsbereiche dienen als sichere Container für Ihre Daten und Analyseobjekte. Sie weisen Benutzern innerhalb jedes Arbeitsbereichs bestimmte Rollen zu. Diese Rollen legen fest, welche Aktionen Benutzer ausführen dürfen. Ein Benutzer in der Rolle Anzeigeberechtigter kann beispielsweise nur Daten lesen, während ein Mitwirkender Elemente bearbeiten und neue erstellen kann.

Sie können Berechtigungen außerdem auf Elementebene festlegen. So können Sie einem Benutzer Zugriff auf ein einzelnes Dataset oder eine einzelne Tabelle gewähren, ohne ihm Zugriff auf den gesamten Arbeitsbereich zu geben. Diese Flexibilität hilft Ihnen, sensible Informationen zu schützen und die Angriffsfläche zu begrenzen.

Hier ein kurzer Überblick, wie Berechtigungen funktionieren:

BerechtigungstypBeschreibung
ArbeitsbereichsrollenGelten für alle Elemente im Arbeitsbereich und steuern den Zugriff auf einer übergeordneten Ebene.
ElementberechtigungenGelten für einzelne Elemente. Ein Benutzer erhält damit Zugriff, auch ohne Arbeitsbereichsrolle, sofern die Berechtigung direkt vergeben wurde.

Berechtigungen auf Basis von Arbeitsbereichen erzwingen die Sicherheit über alle Compute-Engines in OneLake hinweg. Sie müssen für jede Engine keine eigenen Regeln einrichten. Dieser einheitliche Ansatz vereinfacht die Verwaltung des Zugriffs und reduziert das Risiko von Fehlern.

Tipp: Weisen Sie Benutzern nur die Berechtigungen zu, die sie tatsächlich benötigen. Dieses Vorgehen folgt dem Prinzip der minimalen Berechtigungen und schützt Ihre Daten zuverlässiger.

Rollenbasierter Zugriff

Die rollenbasierte Zugriffssteuerung (Role-Based Access Control, RBAC) ermöglicht noch präzisere Steuerung. Sie können Rollen vergeben, die zur jeweiligen Tätigkeit jedes Benutzers passen. Beispielsweise können Sie Data Scientists Zugriff auf bestimmte Schemas oder Tabellen geben, während Business Analysten Zugriff auf kuratierte Berichte erhalten.

Die Einrichtung des rollenbasierten Zugriffs ist einfach:

ProzessschritteVorteile
Standardschemas Benutzern zuweisenVereinfacht die Zugriffsverwaltung, indem Benutzern je nach Rolle automatisch der passende Datenzugriff bereitgestellt wird.
Berechtigungen auf Schema- und Tabellenebene verwaltenReduziert das Risiko, sensible Daten offenzulegen, und stellt sicher, dass Benutzer angemessenen Zugriff auf Datasets haben.

Für eine detaillierte Steuerung können Sie SQL-Befehle verwenden. So legen Sie genau fest, wer bestimmte Daten anzeigen oder bearbeiten darf. Außerdem profitieren Sie von dynamischem Datenmaskieren, das sensible Informationen vor nicht autorisierten Benutzern verbirgt. Purview-Vertraulichkeitsbezeichnungen und Funktionen für Informationsschutz helfen Ihnen, Daten automatisch zu klassifizieren und zu schützen.

Hinweis: Der rollenbasierte Zugriff hilft Ihnen, Compliance-Anforderungen zu erfüllen, indem nur autorisierte Benutzer sensible Daten sehen können.

Vermeidung von Sicherheitsabweichungen

Sicherheitsabweichungen entstehen, wenn Berechtigungen und Rollen im Laufe der Zeit inkonsistent werden. Dadurch können Lücken in Ihren Abwehrmaßnahmen entstehen. Sie beugen Sicherheitsabweichungen vor, indem Sie Ihr Sicherheitsmodell standardisieren und Zugriffe regelmäßig überprüfen.

Folgende Bereiche sollten Sie standardisieren:

SteuerungsbereichWas standardisiert werden sollteBetrieblicher Nutzen
SicherheitsmodellArbeitsbereichsrollen, SQL-Berechtigungen, Eigentümerschaft von Datenpfaden, Prozess zur ZugriffsüberprüfungBeschleunigt die Fehlersuche bei Zugriffsproblemen und verhindert Verwirrung

Planen Sie regelmäßige Zugriffsüberprüfungen ein. Prüfen Sie, wer Zugriff auf jeden Arbeitsbereich und jedes Element hat. Entfernen Sie Berechtigungen, die nicht mehr benötigt werden. Nutzen Sie Microsoft Purview Data Security Posture Management, um Risiken zu erkennen und zügig zu handeln.

Regelmäßige Überprüfungen und ein klares Sicherheitsmodell halten Ihre Lakehouse-Umgebung sicher und compliant.

Governance und Best Practices für Lineage

Arbeitsbereiche strukturieren

Mit einer sorgfältigen Organisation Ihrer Arbeitsbereiche legen Sie das Fundament für eine starke Governance. Ein gut strukturierter Arbeitsbereich hilft Ihnen, den Zugriff zu steuern, sensible Daten zu schützen und Ihre Umgebung auch mit wachsendem Datenbestand überschaubar zu halten. Definieren Sie zunächst klare Sicherheitsgrenzen für jeden Arbeitsbereich. Legen Sie fest, wer neue Arbeitsbereiche anlegen darf und wer den Zugriff innerhalb dieser Arbeitsbereiche verwaltet. Bestimmen Sie einen primären Administrator, der Berechtigungen und Änderungen überwacht.

Sie sollten Ihre Daten immer mit Standard-Vertraulichkeitsbezeichnungen versehen. Dieser Schritt stellt sicher, dass jedes Dataset von Anfang an das richtige Schutzniveau erhält. Setzen Sie Schutzrichtlinien durch, um zu steuern, wie Benutzer Daten freigeben und darauf zugreifen. Diese Richtlinien helfen, eine unbefugte Offenlegung zu verhindern, und halten Ihre Organisation compliant.

Hier einige Best Practices für die Strukturierung von Arbeitsbereichen:

Best PracticeBeschreibung
Sicherheitsgrenzen für Arbeitsbereiche definierenRichtlinien festlegen, wer Arbeitsbereiche erstellen darf und wie der Zugriff innerhalb davon gesteuert wird.
Standard-Vertraulichkeitsbezeichnungen anwendenSicherstellen, dass Daten angemessen klassifiziert und gekennzeichnet werden, um die Sicherheit zu gewährleisten.
Schutzrichtlinien durchsetzenRichtlinien umsetzen, die Datenzugriff und Freigabe regeln, um eine unbefugte Offenlegung zu verhindern.

Sie können außerdem diese Schritte befolgen, um Ihre Arbeitsbereichsstruktur zu stärken:

Tipp: Überprüfen Sie die Berechtigungen der Arbeitsbereiche regelmäßig, um Sicherheitsabweichungen zu vermeiden und Ihre Daten zu schützen.

Metadaten verwalten

Metadaten bilden das Rückgrat Ihrer Data-Governance-Strategie. Wenn Sie Metadaten gut verwalten, fällt es allen leichter, Ihre Daten zu finden, zu verstehen und ihnen zu vertrauen. Erfassen Sie jedes Asset, einschließlich Tabellen, Dateien und Berichten, im Katalog. Weisen Sie klare Verantwortlichkeiten zu, damit Benutzer wissen, an wen sie sich bei Fragen oder Änderungen wenden können.

Aktualisieren Sie Metadaten immer dann, wenn Sie Daten hinzufügen oder ändern. Diese Gewohnheit hält Ihren Katalog aktuell und beugt Verwirrung vor. Verwenden Sie Tags und Beschreibungen, um sensible Felder oder besondere Datentypen hervorzuheben. Diese Angaben unterstützen die Compliance und erleichtern Audits.

Ein durchdachter Prozess für die Metadatenverwaltung verbessert außerdem die Datenerkennung. Benutzer können Datensätze anhand von Schlüsselwörtern, Tags oder Klassifizierungen suchen. So sparen Sie Zeit und verringern das Risiko, veraltete oder falsche Daten zu verwenden.

Hinweis: Einheitliche Metadatenpraktiken helfen Ihnen, die Datenqualität zu sichern und die automatisierte Nachverfolgung der Datenherkunft (Lineage) zu unterstützen.

Namenskonventionen

Klare Namenskonventionen machen Ihre Datenumgebung leichter navigierbar und steuerbar. Wenn Sie standardisierte Namen verwenden, helfen Sie Benutzern, das Gesuchte zu finden, und verdeutlichen den Zweck jedes Assets. Einheitliche Namen unterstützen zudem automatisierte Tools, die die Datenherkunft nachverfolgen und Richtlinien durchsetzen.

Hier sind einige gängige Namensmuster, die Sie in Microsoft Fabric Lakehouse verwenden können:

KategorieFormatBeispiel
Lakehouseslakehouse_lakehouse_sales_analytics
Pipelinespl_pl_ingest_orders
Notebooksnb_nb_data_quality_checks
Power BI-Berichte & Modellerpt_rpt_executive_dashboard

Vermeiden Sie vage oder allgemeine Namen. Nehmen Sie stattdessen die Domäne, das Projekt oder den geschäftlichen Zweck in jeden Namen auf. Diese Praxis erleichtert die Nachverfolgung der Datenherkunft und die Verwaltung von Berechtigungen.

Tipp: Dokumentieren Sie Ihre Namenskonventionen und teilen Sie sie mit Ihrem Team, damit alle denselben Standards folgen.

Kontinuierliche Überwachung

Die kontinuierliche Überwachung hilft Ihnen, Ihre Datenumgebung gesund und sicher zu halten. Sie müssen Ihre Datenpipelines, Berechtigungen und die Datenqualität täglich im Blick behalten. So erkennen Sie Probleme frühzeitig und beheben sie, bevor sie zu größeren Schwierigkeiten werden.

Sie können die integrierten Überwachungstools in Microsoft Fabric Lakehouse nutzen. Diese Tools zeigen Ihnen den Status Ihrer Datenpipelines, Aktualisierungen und Arbeitsbereichsaktivitäten. Sie erhalten Warnmeldungen, wenn etwas fehlschlägt oder Daten die Qualitätsstandards nicht erfüllen. Außerdem können Sie Dashboards einrichten, die zentrale Kennzahlen verfolgen, etwa Erfolgsquoten von Pipelines, Aktualität der Daten und Benutzeraktivität.

Gehen Sie für eine effektive kontinuierliche Überwachung die folgenden Schritte durch:

  1. Warnungen einrichten: Konfigurieren Sie Warnungen für fehlgeschlagene Datenladevorgänge, Berechtigungsänderungen oder ungewöhnliche Aktivitäten. So werden Sie sofort benachrichtigt und können schnell reagieren.
  2. Datenqualität überwachen: Verwenden Sie Tools zur Datenprofilierung, um nach fehlenden Werten, Duplikaten oder Ausreißern zu suchen. Planen Sie regelmäßige Prüfungen, damit Ihre Daten sauber bleiben.
  3. Zugriffe und Änderungen prüfen: Sehen Sie Protokolle durch, um nachzuvollziehen, wer auf Daten zugegriffen oder sie geändert hat. Das hilft Ihnen, unbefugte Aktionen zu erkennen und die Compliance zu wahren.
  4. Überwachungsaufgaben automatisieren: Nutzen Sie Automatisierung, um Prüfungen auszuführen und Berichte zu versenden. Automatisierung spart Zeit und verringert menschliche Fehler.
  5. Kennzahlen regelmäßig prüfen: Sehen Sie Ihre Dashboards häufig an. Verfolgen Sie Trends bei der Pipeline-Leistung und der Datennutzung, um Muster oder Risiken zu erkennen.

Tipp: Verwenden Sie Microsoft Purview Data Security Posture Management, um Risiken zu erkennen und Handlungsempfehlungen zu erhalten. Dieses Tool hilft Ihnen, Bedrohungen und Compliance-Probleme frühzeitig zu erkennen.

Wenn Sie auf kontinuierliche Überwachung verzichten, können typische Fallstricke auftreten. Sie könnten beispielsweise eine fehlgeschlagene Pipeline übersehen und am Ende mit veralteten Berichten arbeiten. Oder Sie übersehen eine Berechtigungsänderung, die vertrauliche Daten offenlegt. Regelmäßige Überwachung hilft Ihnen, diese Risiken zu vermeiden.

Hier ist eine kurze Checkliste für die kontinuierliche Überwachung in Fabric Lakehouse:

AufgabeHäufigkeitTool/Funktion
Pipeline-Status prüfenTäglichÜberwachungs-Dashboard
Zugriffsprotokolle prüfenWöchentlichÜberwachungsprotokolle, Purview
Auf Datenqualitätsprobleme prüfenWöchentlich/MonatlichDatenprofilierung, Automatisierung
Warnungseinstellungen aktualisierenMonatlichWarnungskonfiguration

Indem Sie die kontinuierliche Überwachung zur Gewohnheit machen, schützen Sie Ihre Daten, unterstützen die Compliance und stärken das Vertrauen in Ihre Analysen. Sie schaffen so eine sicherere und zuverlässigere Datenumgebung für alle in Ihrer Organisation.

Praxisszenarien

Compliance-Audits

Compliance-Audits kommen auf Sie zu, wenn Sie nachweisen müssen, dass Ihre Daten gesetzliche und branchenspezifische Standards erfüllen. Microsoft Fabric Lakehouse hilft Ihnen, sich mit klaren Nachweisen und automatisierter Nachverfolgung auf diese Audits vorzubereiten. Sie können Prüfern zeigen, woher Ihre Daten stammen, wie sie sich bewegen und wer Zugriff hat. Das System protokolliert jede Aktion, sodass Sie immer eine lückenlose Spur verfolgen können.

Sie verwenden Vertraulichkeitsbezeichnungen und Datenklassifizierungen, um private Informationen zu schützen. Microsoft Purview katalogisiert Ihre Daten und hebt sensible Felder hervor. So lassen sich wichtige Daten während eines Audits leicht finden und prüfen. Sie können außerdem Berichte erstellen, die Datenherkunft und Zugriffsverlauf zeigen. Diese Funktionen helfen Ihnen, Fragen schnell zu beantworten und Strafen zu vermeiden.

Tipp: Planen Sie regelmäßige Überprüfungen Ihres Datenkatalogs und der Berechtigungen. So bleibt Ihre Umgebung für jedes Audit vorbereitet.

Fehlerbehebung bei Datenproblemen

Datenprobleme können Ihre Arbeit verlangsamen oder Fehler in Berichten verursachen. Microsoft Fabric Lakehouse bietet Ihnen Werkzeuge, um diese Probleme schnell zu finden und zu beheben. Sie können den Weg Ihrer Daten nachverfolgen, um Stellen zu erkennen, an denen etwas schiefläuft. Die automatischen Herkunftsdiagramme zeigen Ihnen jeden Schritt, von der Quelle bis zum Ziel.

Wenn Sie Probleme bei der Datenübertragung oder beim Zugriff haben, können Sie folgende Schritte ausführen:

Diese Schritte helfen Ihnen, häufige Probleme wie fehlgeschlagene Datenkopien oder fehlende Datensätze zu lösen. Sie können schnell handeln und Ihre Daten reibungslos fließen lassen.

Wenn Sie Probleme früh beheben, vermeiden Sie später größere Schwierigkeiten. Regelmäßige Prüfungen helfen Ihnen, Ihre Daten gesund zu halten.

Datenerkennung aktivieren

Sie müssen die richtigen Daten finden, um kluge Entscheidungen zu treffen. Microsoft Fabric Lakehouse macht die Datenerkennung einfach und sicher. Der Purview-Katalog ermöglicht es Ihnen, nach Datensätzen, Tabellen und Berichten zu suchen, und zwar nach Name, Tag oder Klassifizierung. Sie sehen Details zu jedem Element, etwa Eigentümer, Vertraulichkeit und letzte Aktualisierung.

Ein gut strukturierter Katalog spart Zeit. Sie müssen nicht raten, wo Daten liegen oder ob sie aktuell sind. Sie können den Informationen vertrauen, weil Sie deren vollständigen Verlauf und ihre Herkunft sehen. So nutzen Sie Daten mit Zuversicht und teilen Erkenntnisse im gesamten Team.

Funktion zur DatenerkennungNutzen
Durchsuchbarer KatalogDaten schnell finden
DatenherkunftDen Weg der Daten nachvollziehen
VertraulichkeitsbezeichnungenPrivate Informationen schützen
Angaben zum EigentümerWissen, wen Sie kontaktieren müssen

Hinweis: Ermutigen Sie Ihr Team, Metadaten aktuell zu halten. Gute Metadaten erleichtern die Datenerkennung für alle.


Echten Mehrwert erzielen Sie, wenn Sie robuste Governance und Datenherkunft in Microsoft Fabric Lakehouse nutzen. Automatische Herkunftsverfolgung, Arbeitsbereichsberechtigungen und der Purview-Katalog geben Ihnen Kontrolle und Einblick. Organisationen berichten von schnellerer Leistung, geringerer Komplexität und mehr Vertrauen in ihre Daten.

NutzenBeschreibung
LeistungsgewinneSchnellere Analysen und Berichte über Teams hinweg
Mehr Vertrauen in BerichteVerlässliche, konsistente Daten für Entscheidungen
Optimierte AnalysenKürzere Zyklen und einfacheres Datenmanagement

Um Ihr Wissen zu vertiefen, können Sie:

Starten Sie jetzt und schaffen Sie eine sichere, vertrauenswürdige Datenumgebung, die Ihre Ziele unterstützt.

Checkliste: Datenherkunft in Microsoft Fabric mit Purview

Nutzen Sie diese Checkliste, um die Datenherkunft für Microsoft Fabric mit Microsoft Purview zu planen, umzusetzen, zu validieren und zu pflegen.

  1. Umfang und Ziele festlegen — Bestimmen Sie Datensätze, Berichte, Pipelines und Anwendungsfälle, die Sie mit der Datenherkunft in Microsoft Fabric nachverfolgen möchten.
  2. Datenobjekte inventarisieren — Erfassen Sie Fabric-Arbeitsbereiche, Lakehouses, Tabellen, Power BI-Berichte, Notebooks und Pipelines im Purview-Katalog.
  3. Berechtigungen prüfen — Stellen Sie sicher, dass Purview die erforderlichen Berechtigungen zum Scannen der Fabric-Elemente hat und dass Dienstprinzipale oder verwaltete Identitäten konfiguriert sind.
  4. Microsoft Fabric-Quellen registrieren — Fügen Sie Fabric-Endpunkte (Lakehouse, OneLake, Power BI, Synapse oder andere Quellen) als Datenquellen in Purview hinzu.
  5. Scans konfigurieren — Planen und konfigurieren Sie Purview-Scans für Fabric-Quellen, um Schemas, Klassifizierungen und Metadaten zur Datenherkunft zu erfassen.
  6. Datenherkunft durchgängig aktivieren — Prüfen Sie, ob die Erfassung der Datenherkunft durchgängig funktioniert: von der Aufnahme über die Transformation (z. B. Spark, Dataflow) bis zur Berichterstellung in Fabric.
  7. Logische und physische Entitäten zuordnen — Stellen Sie sicher, dass logische Datensätze und physische Speicherorte miteinander verknüpft sind, damit die Datenherkunft Beziehungen klar darstellt.
  8. Klassifizierungen und Vertraulichkeitsbezeichnungen anwenden — Verwenden Sie Klassifizierungsregeln in Purview und Bezeichnungen von Microsoft Information Protection, um sensible Daten in Fabric zu kennzeichnen.
  9. Bei Bedarf benutzerdefinierte Connectors implementieren — Erstellen oder konfigurieren Sie benutzerdefinierte Connectors für die Datenherkunft, wenn Fabric-Komponenten oder Tools von Drittanbietern nicht unterstützt werden.
  10. Erfasste Datenherkunft validieren — Gleichen Sie die Datenherkunft in Purview mit den tatsächlichen Fabric-Pipelines, SQL-Abfragen und Notebooks ab, um Genauigkeit und Vollständigkeit sicherzustellen.
  11. ETL- und Transformationslogik dokumentieren — Pflegen Sie Beschreibungen, Transformationsregeln und Verantwortliche für jeden Schritt der Datenherkunft im Purview-Glossar oder in den Asset-Beschreibungen.
  12. Datenverantwortliche und Data Stewards zuweisen — Legen Sie fest, wer für die Pflege der Datenherkunft, die Qualität der Metadaten und die Reaktion auf Probleme mit der Datenherkunft verantwortlich ist.
  13. Zugriffssteuerungen prüfen — Stellen Sie das Least-Privilege-Prinzip für Fabric-Assets und Purview sicher und beschränken Sie, wer Metadaten zur Datenherkunft bearbeiten darf.
  14. Zustand von Scans und Datenherkunft überwachen — Richten Sie Warnungen ein und prüfen Sie regelmäßig Scanprotokolle, Fehler und Kennzahlen zur Vollständigkeit der Datenherkunft.
  15. Änderungen an der Datenherkunft auditieren — Verfolgen Sie Änderungen an Datenherkunft und Metadaten über die Zeit hinweg, für Compliance und Fehlersuche.
  16. Fachteams schulen — Schulen Sie Data Engineers, Analysten und Data Stewards darin, wie Purview in die Datenherkunft von Microsoft Fabric integriert ist und wie sich die Ansichten zur Datenherkunft nutzen lassen.
  17. Governance-Richtlinien durchsetzen — Implementieren Sie Richtlinien für Aufbewahrung, Zugriff, Klassifizierung und erforderliche Metadaten für Fabric-Assets in Purview.
  18. Ein Geschäftsglossar pflegen — Ordnen Sie Geschäftsbegriffe Fabric-Datensätzen und Datenherkunftsketten zu, um Auffindbarkeit und Verständnis zu verbessern.
  19. Scanleistung optimieren — Passen Sie Scanpläne, Umfang und Ressourcennutzung an, um die Aktualität der Datenherkunft mit der Systemlast in Einklang zu bringen.
  20. Überprüfen und verbessern — Überprüfen Sie regelmäßig die Genauigkeit und Abdeckung der Datenherkunft sowie die Governance-Prozesse und optimieren Sie Scans, Zuordnungen und Schulungen fortlaufend.

Sichtbarkeit der Datenherkunft in Fabric

Was ist die Datenherkunft in Microsoft Fabric und warum ist sie wichtig?

Die Datenherkunft in Microsoft Fabric verfolgt den Datenfluss von der Quelle bis zum Ziel über Fabric-Elemente hinweg und zeigt, wie Daten durch Pipelines, Semantikmodelle und Ausgaben fließen. Sie ist wichtig, weil sie Data Governance und Auswirkungsanalysen ermöglicht. Außerdem hilft sie Data-Science- und Business-Intelligence-Teams, die Ursache von Datenproblemen zu finden, Transformationen (einschließlich Delta-Ladevorgängen) zu validieren und korrekte Berichte über mehrere Workloads hinweg sicherzustellen.

Wie unterstützt die Ansicht der Datenherkunft Auswirkungsanalysen und die Abbildung von Abhängigkeiten?

Die Ansicht visualisiert vor- und nachgelagerte Abhängigkeiten zwischen Fabric-Elementen wie Dataflows, Tabellen und Berichten. Diese Zuordnung ermöglicht Auswirkungsanalysen, sodass Sie erkennen, welche nachgelagerten Assets von einer Änderung betroffen sind. Außerdem unterstützt sie die Nachverfolgung von Abhängigkeiten innerhalb von Fabric sowie über mehrere Arbeitsbereiche und Quellen hinweg.

Kann die Datenherkunft in Microsoft Fabric die Strecke von der Quelle bis zum Ziel über mehrere Dienste wie Azure und SQL Server hinweg nachvollziehen?

Ja. Die Datenherkunft in Fabric erfasst den Datenfluss über mehrere Dienste hinweg, einschließlich Komponenten der Azure-Datenplattform und SQL Server. Sie kann die Strecke von der Quelle bis zum Ziel innerhalb von Fabric nachvollziehen und zeigt Verbindungen von lokalen Datenbanken, Azure Data Factory-Pipelines und Cloudspeichern bis hin zu Semantikmodellen und BI-Ausgaben.

Wie unterstützen die Funktionen zur Datenherkunft Data-Science- und Business-Intelligence-Workflows?

Die Funktionen zur Datenherkunft geben Data-Science- und BI-Teams Einblick, wie Datensätze aufgebaut werden, welche Transformationen stattfinden und welche Ausgaben von ihnen abhängen. Das unterstützt reproduzierbare Experimente, die Überprüfung von Trainingsdaten für Modelle und die Nachvollziehbarkeit von Berichten und Dashboards in BI. So sinken Risiken und das Vertrauen in die Ergebnisse steigt.

Was zeigt die Ansicht der Datenherkunft für Delta- und inkrementelle Datenflüsse?

Die Lineage-Ansicht kann Delta- und inkrementelle Datenflüsse darstellen, indem sie die konkreten Schritte oder Pipelines kennzeichnet, die inkrementelle Aktualisierungen oder Delta-Ladevorgänge ausführen. So erkennen Sie, wo Change Data Capture oder Delta-Verarbeitung stattfindet und wie sich diese inkrementellen Aktualisierungen bis zu semantischen Modellen und finalen Ausgaben fortsetzen.

Wie kann ich Lineage nutzen, um die Quelle eines Datenqualitätsproblems zu finden?

Nutzen Sie den Lineage-Graphen, um die betroffene Ausgabe über Transformationen, Pipelines und Quellsysteme bis zum Ursprung zurückzuverfolgen. Die Ansicht hilft Ihnen, die Quelltabelle, API oder Datei zu identifizieren, die das Problem verursacht hat. Außerdem können Sie Zwischenelemente von Fabric und semantische Modelle prüfen, um die Ursache weiter einzugrenzen.

Bietet Microsoft Fabric APIs oder technischen Support für die Automatisierung des Lineage-Zugriffs?

Microsoft Fabric stellt APIs und Integrationen bereit, mit denen Lineage-Metadaten programmgesteuert abgefragt werden können. Microsoft Learn bietet Dokumentation und Beispiele für den Einstieg. Bei Produktionsproblemen stehen technischer Support und Sicherheitsupdates über die üblichen Microsoft-Supportkanäle und Azure-Supportpläne zur Verfügung.

Wie hängen Sicherheit und Governance mit Lineage und Transparenz in Fabric zusammen?

Lineage unterstützt die Data Governance, indem es die Durchsetzung von Richtlinien erleichtert und die Herkunft von Daten nachvollziehbar macht. In Kombination mit den Zugriffssteuerungen der Datenplattform und von Azure hilft Lineage sicherzustellen, dass sensible Daten korrekt behandelt werden. Sicherheitsupdates und Audit-Trails lassen sich so bestimmten Fabric-Elementen und Prozessen zuordnen.

Welche typischen Einschränkungen hat Lineage über Fabric hinweg, und wie lassen sie sich abmildern?

Zu den typischen Einschränkungen zählen unvollständige Metadaten für bestimmte Quellen, Leistungsgrenzen bei sehr großen Graphen und Lücken bei proprietären Konnektoren. Zu den Gegenmaßnahmen gehören das Anreichern der Metadaten während der Aufnahme, das Aufteilen großer Datenflüsse in modulare Pipelines und die Nutzung von APIs, um Lineage-Informationen durch externe Dokumentation oder eigene Nachverfolgung zu ergänzen.

Wie integriert sich Lineage mit semantischen Modellen und BI-Ausgaben?

Lineage verknüpft semantische Modelle mit ihren vorgelagerten Datasets und ETL-Pipelines und zeigt, welche Berichte und Dashboards diese Modelle nutzen. So sehen BI-Teams, wie sich Änderungen in der Datenplattform auf semantische Modelle und Ausgaben auswirken, und können Aktualisierungen oder Refreshs entsprechend planen.

Wo finde ich zusätzliche Ressourcen und Lernmaterialien zu Fabric Lineage?

Zu den zusätzlichen Ressourcen gehören Microsoft Learn-Module, die offizielle Dokumentation auf der Microsoft Fabric-Website, Community-Blogs und Anleitungen zu Azure Data Factory. Diese Quellen behandeln die Nutzung von Lineage-Ansichten und APIs, Governance-Praktiken sowie bewährte Methoden zur Abbildung von Datenflüssen über Fabric-Elemente und semantische Modelle hinweg.

Wie beginne ich mit dem Aufbau einer Lineage-Ansicht für meine Data Factory-Pipelines und SQL-Quellen?

Beginnen Sie damit, Ihre Quellen zu katalogisieren (SQL Server, Azure Storage, APIs), Pipelines und Fabric-Elemente so zu instrumentieren, dass sie Metadaten ausgeben, und die Lineage-Erfassung in Fabric zu aktivieren. Nutzen Sie die Funktionen für Pipeline- und Abhängigkeitszuordnung, um Datenflüsse über Fabric hinweg zu visualisieren. Prüfen Sie anschließend, ob semantische Modelle und BI-Ausgaben die erwarteten vorgelagerten Verbindungen korrekt widerspiegeln.

Microsoft Fabric Governance Microsoft Purview Power BI Compliance

Verwandte Artikel

RSS