Verwalten der Herkunft von materialisierten Seeansichten in Fabric

Fabric materialized lake views (MLVs) helfen Ihnen, große Datasets zu verwalten und zu abfragen, indem Sie Abfrageergebnisse vorab komputieren und speichern. In Fabric hilft Ihnen die Linienführung, Abhängigkeiten und Aktualisierungsfluss zu verstehen, damit Sie MLVs zuverlässiger bedienen können.

In diesem Artikel wird erläutert, wie Sie Linien anzeigen, die Linienschnittstelle verstehen und erweiterte Linien verwenden, um Abhängigkeiten über Seehäuser hinweg zu verfolgen.

Lineage anzeigen

Eine materialisierte Seeansichtslinie zeigt die Abhängigkeitsreihenfolge für Aktualisierungsvorgänge. Bei MLVs stellt die Lineage die Reihenfolge der Ansichten dar, die ausgeführt werden müssen, wenn neue Daten verfügbar sind.

Nachdem du das MLV in Fabric erstellt hast, wähle im Ribbon den Tab Materialized Lake Views aus und wähle dann Manage, um zur MLV-Linie zu navigieren.

Materialisierte Seeansicht

Der Notizbuchcode definiert die Linie (MLV-Fluss), und Fabric erstellt sie, wenn Sie den End-to-End-MLV-Fluss erstellen.

Von Bedeutung

In der Abstammungsansicht werden alle Verknüpfungen als Quelleinheiten behandelt. In der Linienansicht werden alle Tabellen oder materialisierten Seeansichten in einem Verknüpfungsschema als Quellentitäten behandelt.

Screenshot eines Auftragsdiagramms in Linien.

Planen Sie den Ablauf der Abstammung basierend auf Ihren Aktualisierungsanforderungen. Nachdem der Auftrag geplant wurde, wechseln Sie zum aktuellen Durchlauf, um die Lineage-Ausführung anzuzeigen.

Screenshot einer ausgeführten Linienansicht.

Verstehen Sie die Linienansicht

In der materialisierten Lake-Views-Abstammungsansicht verarbeitet das System Daten in Abhängigkeitsreihenfolge. Jede materialisierte Seeansicht stellt einen Vorgang dar (z. B. Lesen aus einer Quelltabelle oder Ausführen einer Transformation). Pfeile zeigen die Art der einzelnen Abhängigkeitsbeziehungs- und Ausführungsreihenfolgen an.

Wählen Sie einen materialisierten Seeblick aus, um vor- und nachgelagerte Beziehungen zu untersuchen.

Die Seite "Lineage" enthält die folgenden Aktionen:

  • Aktualisieren: Aktualisiert die Linienansicht, um aktuelle Statusänderungen widerzuspiegeln.

    Hinweis

    Diese Aktion aktualisiert nur die Linienansicht. Es werden keine Daten aktualisiert. Die Linienansicht wird alle 2 Minuten automatisch aktualisiert, wenn ein Lauf läuft und der Browsertab aktiv ist.

    Screenshot, der zeigt, wie eine Linien-UI aktualisiert wird.

  • Suche in Linien: Suchen Sie nach einer bestimmten materialisierten Seeansicht oder -tabelle anhand des Namens innerhalb des Liniendiagramms.

Screenshot, der zeigt, wie Sie in der Benutzeroberfläche von Linien suchen.

  • Neue materialisierte Seeansicht: Öffnet ein Notizbuch, in dem Sie MLVs erstellen oder ändern können.

    Hinweis

    Diese Notizbücher sind nicht direkt mit der Linienansicht verknüpft.

    Screenshot einer neuen materialisierten Seeansicht.

  • Zeitpläne verwalten: Öffnet den Bereich Planen verwalten, um Aktualisierungspläne zu erstellen oder zu verwalten.

    Screenshot der Schaltfläche

  • Stammbaum zurücksetzen: Setzt das Stammbäumelayout für die aktuelle Bildschirmgröße zurück.

    Screenshot, der zeigt, wie Sie das Layout der Linienansicht wechseln.

Erweiterte Linien anzeigen

Die Standardlinie zeigt Abhängigkeiten im Kontext des aktuellen Seehauses und seiner unmittelbar vorgelagerten Seehäuser oder Quellen (eine Ebene tief). Erweiterte Linien erweitern diese Ansicht, damit Sie jede Abhängigkeit bis zur Quelle zurückverfolgen können – rekursiv über Seehäuser hinweg.

Standardlinie Erweiterte Linie
Bereich Aktuelles Seehaus + eine Ebene von Cross-Lakehouse Eltern Vollständige rekursive Kette über alle Lakehouses
Upstream-MLVs Als Blattknoten angezeigt – Sie können nicht sehen, wodurch sie gespeist werden Vollständig erweitert – jede vorgelagerte Ansicht und ihre Quellen sind sichtbar
Cross-Lakehouse Nicht angezeigt Sichtbar, wenn Sie Lesezugriff auf den übergeordneten Arbeitsbereich haben

Erweiterte Lineage anzeigen:

  1. Öffnen Sie die Registerkarte "Verwalten " der materialisierten Seeansicht.

  2. Aktivieren Sie die Umschaltfläche "Erweitert" in der Symbolleiste.

Die Linienaktualisierungen, um alle vorgelagerten Abhängigkeiten anzuzeigen, einschließlich materialisierter Seeansichten und Quelltabellen in anderen Seehäusern. Jeder Knoten im Diagramm zeigt den Namen und das Seehaus an. Der Knotentyp (Tabellen-, Verknüpfungs- oder materialisierte Seeansicht) wird durch ein Symbol gekennzeichnet.

Hinweis

Sie können vorgelagerte Abhängigkeiten nur in Arbeitsbereichen anzeigen, in denen Sie mindestens Leseberechtigungen haben. Abhängigkeiten in Arbeitsbereichen, auf die Sie nicht zugreifen können, werden als fehlerhafter Knoten angezeigt.

Fehlerhafte Knoten

Wenn eine Upstreamabhängigkeit fehlt, gelöscht oder nicht darauf zugegriffen werden kann, wird sie als fehlerhafter Knoten im Liniendiagramm angezeigt. Fehlerhafte Knoten zeigen einen Fehlerindikator mit einer Meldung an, die das Problem erläutert (z. B. "fehlt oder nicht zugänglich").

Lakehouse-übergreifende Ausführung

Erweiterte Linien ermöglichen die Cross-Lakehouse-Ausführung. Ein einzelnes Lakehouse kann materialisierte Lake-Ansichten definieren und aktualisieren, die auf Tabellen in mehreren Lakehouses verweisen – einschließlich Lakehouses in anderen Arbeitsbereichen –, sodass die Transformationslogik nicht in jedem einzelnen dupliziert werden muss.

Wenn Sie beispielsweise drei Seehäuser haben – Bronze, Silber und Gold – können Sie alle Ihre materialisierten Seeansichten im Gold Lakehouse definieren, während Sie auf Quelltabellen oder materialisierte Seeansichten in Bronze und Silber verweisen. Diese Lakehouses können sich im gleichen Arbeitsbereich oder in verschiedenen Arbeitsbereichen befinden. Fabric behandelt während der Aktualisierung das Cross-Lakehouse-Lesevorgang, sodass Sie einen Satz von Definitionen anstelle von drei beibehalten.

Zeitplanung für vorgelagerte materialisierte Lake-Views

Aus der erweiterten Linienansicht können Sie Aktualisierungen für vorgelagerte materialisierte Seeansichten in anderen Seehäusern planen – ohne separat zu jedem vorgelagerten Seehaus zu navigieren. Beim Erstellen eines Zeitplans oder einer Ad-hoc-Ausführung können Sie auswählen, welche Seehäuser in die Aktualisierung einbezogen werden sollen. Ausführliche Informationen finden Sie unter Aktualisierung einer materialisierten Lake-Ansicht planen.

Berechtigungen für erweiterte Linien

Befehl Erforderliche Berechtigung
Erweiterte Linien anzeigen Lesezugriff auf übergeordnete Arbeitsbereiche
Zeitplanung für vorgelagerte materialisierte Lake-Views Mitwirkender am vorgelagerten Seehaus
Anzeigen von Details zu upstream-Abhängigkeiten Lesezugriff auf das Element

Linienabstammung für Dateieingabe anzeigen

Wenn eine materialisierte Lake-Ansicht Dateien mit USING OneLake_Files aufnimmt, ist ihre Quelle ein physischer OneLake-Ordner, eine OneLake-Ordnerverknüpfung oder eine einzelne Datei und nicht eine vorgelagerte Tabelle. Die Linienansicht stellt den Quellstandort als Upstream-Knoten dar, der die Datei-Erfassungsansicht versorgt, sodass Sie eine komplette, dateibasierte Medaillon-Pipeline verfolgen und überwachen können.

Das Lineage-Diagramm beginnt bei dem Quellspeicherort, aus dem die Ansicht Daten bezieht. Der Quellknoten verbindet sich mit der datei-aufnehmenden materialisierten Lake-Ansicht, die wiederum stromabwärts Silber- und Goldansichten einspeisen kann, wobei sie derselben Abhängigkeitsreihenfolge folgt, die Fabric auf tabellenbasierte Ansichten anwendet.

Screenshot eines materialisierten See-Ansichts-Liniendiagramms, das einen Quellordner zeigt, der eine Bronzedatei-Aufnahmeansicht sowie Silber- und Goldansichten liefert.

Um eine dateigestützte Pipeline zu inspizieren und sicherzustellen, dass die Aktualisierung Quelländerungen erkannt hat, folgen Sie diesen Schritten:

  1. Wählen Sie den Quellordnerknoten aus, um dessen Detailbereich zu öffnen. Der Bereich zeigt den OneLake-Pfad und die im Ordner entdeckten Dateien.

    Screenshot des Informationsfensters des Quellordners, der den OneLake-Pfad und die Dateien im Ordner zeigt.

  2. Wählen Sie den dateieinlesenden Knoten der materialisierten Lake View aus, um dessen Details anzuzeigen, einschließlich des Quellformats, des Schemamodus und des Aktualisierungsmodus.

    Screenshot des Detailsbereichs der materialisierten Lake-Ansicht zur Dateiaufnahme mit Format, Schemamodus und Aktualisierungsmodus.

  3. Öffnen Sie die Registerkarte „Letzte Ausführungen“, wechseln Sie in eine verwaltete Ausführung, und wählen Sie die Ansicht für die Dateiaufnahme aus, um die Metriken zu verarbeiteten Dateien und hinzugefügten Zeilen anzuzeigen.

    Screenshot der Details eines Durchlaufs, der die Anzahl der verarbeiteten Dateien und hinzugefügten Zeilen für eine datei-importierte materialisierte Seeansicht zeigt.

Dateiverarbeitungsmetriken interpretieren

Verarbeitete Dateien sind eine Laufebene-Metrik, nicht die Gesamtzahl der derzeit im Quellverzeichnis vorhandenen Dateien. Die Anzahl hängt vom Aktualisierungsmodus der Ansicht ab:

  • Für den APPEND_ONLY Aktualisierungsmodus zählt er die neuen Dateien, die der Lauf einführt. Es berücksichtigt keine Dateien, die durch frühere Läufe bereits materialisiert wurden.
  • Für den FULL Aktualisierungsmodus zählt er die gelesenen Dateien, während die Ansicht aus dem aktuellen Ordner-Snapshot neu erstellt wird.
  • Ein erfolgreicher Durchlauf kann keine verarbeiteten Dateien melden, wenn die verwaltete Aktualisierung keine neuen Quelldateien erkennt.

Verwenden Sie den Detailbereich des Quellordners für das aktuelle Ordnerinventar und den Detailbereich der Ausführung für die Dateien, die von einer bestimmten Aktualisierung verarbeitet wurden. Die beiden Zählungen beantworten unterschiedliche Fragen und stimmen nicht unbedingt bei einem inkrementellen Durchlauf überein.

Tipp

Wenn die Ansicht die __filepath__ Quellmetadatenspalte enthält, verwenden Sie GROUP BY __filepath__, um die Dateien zu überprüfen, die im aktuellen materialisierten Ergebnis dargestellt werden. Diese Ansicht spiegelt die aktuelle Zeilenlinie wider, während die verarbeiteten Dateien die Arbeit widerspiegelt, die ein Refresh-Run ausführt.