Oppgrader Azure Data Factory pipelines med Mapping Data Flows to Fabric (Preview)

Important

Oppgradering av Azure Data Factory Mapping Data Flows til Fabric er for øyeblikket i offentlig forhåndsvisning og kan endres.

Bruk den innebygde oppgraderingsopplevelsen i Azure Data Factory for å oppgradere kvalifiserte pipelines som inneholder Mapping Data Flows til Microsoft Fabric Data Factory. Under oppgraderingen konverteres støttede Mapping Data Flows til mapping data flow (MDF)-transformasjoner i Dataflow Gen2, og de tilhørende pipelines oppgraderes til Fabric-pipelines.

Denne artikkelen beskriver de ekstra validerings-, kjørings- og overvåkingstrinnene for oppgraderte MDF-transformasjoner. For en oversikt over hele Azure Data Factory-oppgraderingsopplevelsen, se Upgrade your Azure Data Factory pipelines to Fabric Data Factory.

Forutsetninger

Før du starter oppgraderingen, sørg for at du har følgende:

  • En Azure Data Factory-instans med minst én pipeline som inneholder en Mapping Dataflyt.
  • Tillatelse til å få tilgang til Azure Data Factory-instansen og dens pipelines.
  • Tilgang til en Microsoft Fabric-aktivert leietaker.
  • En Fabric-lisens. Hvis du ikke har en, ber onboarding-opplevelsen View in Fabric (Preview) deg om å registrere deg for en gratis lisens, hvis selvbetjeningsregistrering er aktivert for leietakeren din.
  • Tilgang til en Fabric-kapasitet, som en Trial-kapasitet.
  • Bidragsyter eller høyere tillatelser for å opprette og oppdatere elementer i Fabric-arbeidsområdet.
  • Fabric-tilkoblinger for kilde- og destinasjonsdatalagre som ikke opprettes automatisk under oppgraderingen.

Oppgraderingsopplevelsen skaper støttede Fabric-tilkoblinger automatisk når deres Azure Data Factory-autentiseringskonfigurasjoner kan kartlegges trygt. For andre tilkoblinger, velg en eksisterende Fabric-tilkobling eller lag en før du starter oppgraderingen.

Støttede oppgraderingsscenarier

Den innebygde oppgraderingsopplevelsen støtter kvalifiserte Azure Data Factory-pipelines som inneholder Mapping Data Flows. Under oppgraderingsprosessen:

  • De valgte Azure Data Factory-pipelinene oppgraderes til Fabric-pipelines.
  • Støttede kartleggingsdataflyter konverteres til MDF-transformasjoner i Dataflow Gen2.
  • Pipelines og deres refererte Mapping Data Flows oppgraderes sammen.
  • Støttede tilknyttede tjenester mappes til nye eller eksisterende Fabric-tilkoblinger.
  • De opprinnelige Azure Data Factory-pipelinene og kartleggingsdataflytene forblir uendret.

Før oppgradering, bør du gjennomgå MDF-transformasjonsbegrensningene, støttede koblinger, transformasjoner, autentiseringsmetoder og nettverkskrav.

Oppgrader pipelines som inneholder kartleggingsdataflyter

Start oppgraderingen i Azure Data Factory via View in Fabric (Preview). Å se fabrikken din i Fabric oppgraderer eller endrer ikke rørledningene dine. Oppgraderingen starter først etter at du har gjennomgått beredskap, valgt pipelines og eksplisitt valgt Start oppgradering (Forhåndsvisning).

Trinn 1: Se din Azure Data Factory i Fabric

  1. Åpne din Azure Data Factory-portal.

  2. Velg View in Fabric (forhåndsvisning).

    Skjermbilde som viser View in Fabric Preview-inngangspunktet i Azure Data Factory.

  3. Hvis dette er første gang du bruker opplevelsen, gjennomgå og godta vilkårene og betingelsene, og velg deretter Try Fabric Data Factory.

    Skjermbilde som viser vilkårene og betingelsene for å prøve Fabric Data Factory.

  4. Følg onboarding-stegene for å:

    • Verifiser eller skaff deg en Fabric-lisens.
    • Velg en Fabric-kapasitet.
    • Opprett eller gjenbruk Fabric-arbeidsområdet som er tilknyttet din Azure Data Factory.
    • overflate Azure Data Factory som et element i arbeidsområdet.
    • Del eventuelt arbeidsområdetilgang med eksisterende brukere og grupper i Azure Data Factory.

    Skjermbilde som viser stegene for å sette opp en Azure Data Factory i Fabric.

Etter oppsett er Azure Data Factory synlig i Fabric. Ingenting oppgraderes, og pipeline-kjøring og fakturering forblir i Azure Data Factory.

For fullstendige onboarding-detaljer, se Oppgrader dine Azure Data Factory-pipelines til Fabric Data Factory.

Steg 2: Gå gjennom beredskap

  1. I Azure Data Factory-elementet i Fabric, velg Assess og oppgrader.

    Skjermbilde som viser Assess og Oppgrader-knappen for et Azure Data Factory-element i Fabric.

  2. Gå gjennom beredskapsvurderingen.

  3. Identifiser pipelinene som inneholder Mapping Data Flows som du ønsker å oppgradere.

  4. Gjennomgå alle pipelines kategorisert som Gjennomgå og ta opp ikke-støttede eller delvis støttede kapasiteter før oppgradering.

  5. Velg de kvalifiserte rørledningene du ønsker å oppgradere.

Vurderingen er skrivebeskyttet og endrer eller oppgraderer ikke de valgte pipelinene.

Skjermbilde som viser resultater av Azure Data Factory pipeline readiness assessment i Fabric.

Trinn 3: Gå gjennom forbindelser

  1. Velg Anmeldelsesforbindelser.
  2. Gå gjennom de Azure Data Factory-lenkede tjenestene som brukes av de valgte pipelinene og Mapping Data Flows.
  3. Verifiser tilkoblinger som ble opprettet automatisk.
  4. For tilkoblinger som ikke ble opprettet automatisk, velg en eksisterende Fabric-tilkobling eller lag en ny tilkobling.
  5. Bekreft at hver nødvendig kilde og destinasjon er kartlagt til en gyldig Fabric-forbindelse.

Skjermbilde som viser kartleggingen av Azure Data Factory-tilknyttede tjenester til Fabric-tilkoblinger.

Bemerkning

Pipelines kan fortsatt oppgraderes hvis noen tilkoblinger ikke er kartlagt. Aktiviteter som er avhengige av ikke-kartlagte forbindelser deaktiveres. Konfigurer de nødvendige Fabric-tilkoblingene og aktiver disse aktivitetene igjen før du kjører de oppgraderte pipelinene.

Trinn 4: Start oppgraderingen

  1. Gå gjennom de valgte pipelinene og tilkoblingskartleggingene.
  2. Velg Start oppgradering (Forhåndsvisning).
  3. Vent til oppgraderingen er ferdig.
  4. Gå gjennom statusen til hver oppgradert gjenstand.

Under oppgraderingen:

  • Utvalgte Azure Data Factory-pipelines oppgraderes til Fabric-pipelines.
  • Støttede kartleggingsdataflyter referert av de valgte pipelinene konverteres til MDF-transformasjoner i Dataflow Gen2.
  • Pipelines og deres Mapping Data Flows oppgraderes sammen.
  • Oppgraderte elementer plasseres i en mappe med kildenavnet Azure Data Factory som prefiks.
  • Kilde-Azure Data Factory-pipelines og Mapping Data Flows forblir uendret.

Skjermbilde som viser resultatene etter oppgradering av Azure Data Factory-pipelines til Fabric.

Valider oppgraderte mapping dataflyt-transformasjoner

Etter oppgraderingen er ferdig, åpne oppgraderingsresultatene eller mappen som inneholder de oppgraderte elementene, og valider MDF-transformasjonene før du kjører pipelinene.

Åpne den oppgraderte Dataflow Gen2-gjenstanden

  1. Åpne den oppgraderte Dataflow Gen2-gjenstanden.

  2. Gå gjennom den oppgraderte MDF-transformasjonslogikken.

  3. Valider transformasjonsgrafen.

    Skjermbilde av prosessen med å lage mapping data flow transform som viser den migrerte transformasjonsgrafen.

Lagre den oppgraderte mapping data flow-transformasjonen

  1. Åpne menyen Save & run .

  2. Velg Lagre.

    Skjermbilde av Lagre og kjør-menyen i kartleggingsdataflyt-transformasjonsopplevelsen.

Bemerkning

Kun Lagre-handlingen støttes for øyeblikket for MDF-transformasjoner under offentlig forhåndsvisning.

Kjør oppgraderte rørledninger

Etter validering, kjør den oppgraderte Fabric-pipelinen.

Konfigurer pipeline-kjøringen

  1. Åpne den oppgraderte Fabric-pipelinen.

  2. Velg Dataflow-aktiviteten.

  3. Gå gjennom den valgte MDF-transformasjonsforespørselen.

  4. Konfigurer Spark-runtime-innstillingene om nødvendig.

    Skjermbilde av pipeline-editoren som viser Dataflow-aktivitetskonfigurasjonen for en mapping dataflow-transformasjon.

Kjør den oppgraderte rørledningen

  1. Valider pipelinen.

  2. Verifiser at alle nødvendige tilkoblinger er kartlagt og autentisert.

  3. Aktiver alle aktiviteter du har deaktivert på grunn av ikke-kartlagte tilkoblinger.

  4. Kjør rørledningen manuelt.

  5. Sammenlign resultatene med den opprinnelige Azure Data Factory-pipelinen.

  6. Etter validering, kjør eller konfigurer, og aktiver tidsplaner og triggere igjen etter behov.

    Skjermbilde av pipeline-kjøringen og planleggingsalternativene for den migrerte pipelinen.

Valider oppgraderingsresultater

Før produksjonsovergang, valider den oppgraderte arbeidsmengden i et ikke-produksjonsmiljø:

  • Bekreft at du har kartlagt og autentisert alle nødvendige Fabric-tilkoblinger.
  • Sammenlign antall kilde- og sink-rader med den opprinnelige Azure Data Factory-kjøringen.
  • Valider skjema, datatyper, nullhåndtering og skjema-drift.
  • Valider Mapping Dataflyt-uttrykk og transformasjonsresultater.
  • Bekreft innsetting, oppdatering, oppgradering og sletting av oppførsel.
  • Valider parametere og dynamisk innhold.
  • Bekreft idempotent oppførsel når pipelines kjøres på nytt.
  • Gå gjennom feilhåndtering og overvåking.
  • Sammenlign kjøretidsoppførsel og ytelse uten å anta identisk utførelsesvarighet.
  • Aktiver og konfigurer triggere på nytt kun etter å ha fullført ende-til-ende-validering.

De opprinnelige Azure Data Factory-pipelinene og Mapping Data Flows er fortsatt tilgjengelige for side-ved-side-validering.

Overvåk oppgraderte kartleggingsdataflyt-transformasjoner

Du kan overvåke oppgraderte pipeline- og MDF-transformasjonsutførelser gjennom:

  • Pipeline-utgangspanel
  • Overvåkingshub
  • Aktivitetsløp
  • Detaljer om utførelse av dataflytaktivitet

Skjermbilde av pipeline-utgangspanelet som viser statusen for kjøring av Dataflow-aktiviteten.

For å gjennomgå gjennomføringsdetaljer:

  1. Åpne detaljene for pipeline-kjøringen.

  2. Velg Dataflow-aktiviteten fra Activity Runs.

  3. Gjennomgå kjørestatus og kjøretidsdetaljer.

    Skjermbilde av Monitoring Hub som viser pipeline-aktivitetskjøringer og deres status.

    Skjermbilde av detaljene for dataflytaktivitetens utførelse som viser behandlingsmålinger.

Begrensninger

De generelle begrensningene for Azure Data Factory-oppgraderinger gjelder også for pipelines som inneholder Mapping Data Flows. Gå gjennom kjente begrensninger før du velger pipelines som skal oppgraderes.

Følgende begrensninger gjelder for tiden for MDF-transformasjoner under offentlig forhåndsvisning:

Areal Begrensning
Flowlets Støttes ikke.
Dataflyt Library Støttes ikke.
Brukerdefinerte funksjoner (UDF-er) Støttes ikke.
Dataflytkjøring MDF-transformasjoner kan kun utføres gjennom pipeline Dataflow-aktiviteten. Direct Dataflow Gen2 refresh støttes ikke.
Administrert virtuelt nettverk Managed virtuelt nettverk-støtte er ikke tilgjengelig.
Spark-kjøretidskjøring MDF-transformasjoner bruker for tiden Spark runtime-infrastruktur som ligner på Azure Data Factory og Azure Synapse Analytics Mapping Data Flows.
Funksjonsparitet Ikke alle Azure Data Factory Mapping Dataflyt-funksjoner er tilgjengelige i den nåværende forhåndsvisningen.