Opgraderingsplanlægning for Azure Data Factory til Fabric Data Factory

Denne guide dækker opgraderingsstrategier, beslutningskriterier og trin-for-trin tilgange til at flytte Azure Data Factory (ADF) pipelines til Fabric Data Factory. For implementeringsniveau bedste praksis for hver opgraderingskomponent, se Upgrade best practices.

Hvorfor opgradere?

Opgradering fra ADF- og Synapse-pipelines til Fabric Data Factory er mere end bare en lift-and-shift: det er en mulighed for at forenkle governance, standardisere mønstre og bruge nye funktioner til at forbedre din dataintegrationsstrategi.

Fabric tilbyder mange nye funktioner, herunder:

For en detaljeret sammenligning, se sammenligningsguiden til Azure Data Factory og Fabric Data Factory.

Kritiske arkitektoniske forskelle

Før du opgraderer fra Azure Data Factory til Fabric Data Factory, bør du overveje disse kritiske arkitektoniske forskelle, som ofte har størst indflydelse på opgraderingsplanlægningen:

Kategori Azure Data Factory Fabric Data Factory Opgraderingseffekt
Brugerdefineret kode Brugerdefineret aktivitet Azure Batch-aktivitet Aktivitetsnavnet er anderledes, men understøtter samme funktionalitet.
Dataflows Kortlægning af dataflows med Spark-baseret eksekvering Dataflow Gen2 understøtter Mapping dataflow (MDF)-transformationer med Spark-baseret eksekvering. MDF-transformationer er i øjeblikket i preview. Berettigede Azure Data Factory og Azure Synapse Analytics Mapping Data Flows kan migreres til MDF-transformationer i Dataflow Gen2 ved at bruge den indbyggede migrationsoplevelse. Gennemgå de understøttede connectors, transformationer, autentificeringsmetoder og forhåndsvisningsbegrænsninger før migrering. For scenarier, der ikke understøttes, redesign transformationen ved at bruge Power Query i Dataflow Gen2, Fabric Warehouse SQL, notebooks eller en anden Fabric-funktionalitet.
Datasæt Separate, genanvendelige datasætobjekter Ejendomme defineres inden for aktiviteterne Når du konverterer fra ADF til Fabric, er 'datasæt'-informationen i hver aktivitet.
Dynamiske forbindelser Linked service-egenskaber kan være dynamiske ved hjælp af parametre Forbindelsesegenskaber understøtter ikke dynamiske egenskaber, men pipeline-aktiviteter kan bruge dynamisk indhold til forbindelsesobjekter For metadatadrevne arkitekturbaserede løsninger, der er afhængige af parameteriserede forbindelser, parameteriser forbindelsesobjektet i Fabric.
Globale parametre Globale parametre Fabric Variabelbibliotek Forskellige implementeringsmønstre og datatyper, men vi har en opgraderingsguide.
HDInsight-aktiviteter Fem separate aktiviteter (Hive, Pig, MapReduce, Spark, Streaming) Enkelt HDInsight-aktivitet Du behøver kun én aktivitetstype, når du konverterer, men al funktionalitet understøttes.
Identitet Administreret id Fabric Workspace Identity Forskellige identitetsmodeller, med noget planlægning nødvendig for at skifte.
Key Vault- Moden integration med alle autentificeringstyper Begrænset integration via Fabric Key Vault Reference Sammenlign nuværende understøttede Key Vault kilder og autentificering med dine eksisterende konfigurationer.
Pipeline-udførelse Udfør pipelineaktivitet Kald Pipeline-aktivitet med FabricDataPipeline-forbindelsestypen Aktivitetsnavn og forbindelseskrav ændrer sig ved konvertering.
Planlægning Én trigger for mange pipelines eller mange triggers per pipeline med centraliseret styring Én tidsplan pr. rørledning eller mange tidsplaner pr. rørledning uden genbrug eller central hub Fabric kræver i øjeblikket planlægning pr. pipeline.

Opgraderingsstier

Opgraderingsveje afhænger af dine ADF-assets og deres funktionsparitet. Der findes følgende valgmuligheder:

Azure Data Factory-elementer i din Fabric workspace

Tilføj en eksisterende ADF til dit Fabric-arbejdsområde for at få øjeblikkelig synlighed og styring, mens du opgraderer gradvist. Denne tilgang er ideel til opdagelse, ejerskabstildeling og side-om-side testning, fordi teams kan se pipelines, organisere dem under Fabric-arbejdsområder og planlægge cutovers pr. domæne. Brug Azure Data Factory-elementer til at katalogisere, hvad der findes, prioriter de højeste/lavest risiko pipelines først, og etabler konventioner (navngivning, mapper, genanvendelse af forbindelser), som dine konverteringsscripts og partnerværktøjer kan følge konsekvent.

Du monterer i Fabric via Azure Data Factory artikeltype: Bring din Azure Data Factory til Fabric.

Opgrader Azure Data Factory-pipelines ved hjælp af den indbyggede erfaring

Fabric tilbyder en indbygget, vurderingsbaseret opgraderingsoplevelse, som du kan bruge til at evaluere og opgradere Azure Data Factory-pipelines direkte gennem Azure Data Factory og Fabric-brugeroplevelser – uden scripts eller brugerdefineret værktøj. Denne erfaring hjælper dig med:

  • Vurder pipeline- og aktivitetsparathed direkte i Azure Data Factory.
  • Forstå kompatibilitetshuller, før du opgraderer.
  • Montér din Azure Data Factory i et Fabric-arbejdsområde for side-om-side gennemgang.
  • Opgrader understøttede pipelines gradvist til Fabric fra din monterede datafabrik.
  • Opgradering understøttede Mapping Data Flows i udvalgte pipelines til MDF-transformationer i Dataflow Gen2.
  • Planlæg udbedring eller redesign for ting, der kræver opdateringer, bruger ikke-understøttede funktioner eller snart kommer.

Hver pipeline og aktivitet er klart kategoriseret (Klar, Behovsgennemgang, Kommer snart eller Ikke kompatibel), hvilket hjælper teams med bevidst at planlægge opgraderinger og validere resultater, før de skifter produktionsarbejdsbyrder. Denne tilgang er velegnet til kunder, der ønsker en guidet, lavrisiko og inkrementel opgraderingsvej, samtidig med at de bevarer synlighed i ikke-understøttede funktioner og næste skridt. For trin-for-trin vejledning, se Opgrader dine Azure Data Factory-pipelines til Fabric.

Den indbyggede opgraderingsoplevelse understøtter også berettigede pipelines, der indeholder Mapping Data Flows. Understøttede mapping dataflows opgraderes til MDF-transformationer i Dataflow Gen2, hvilket bevarer deres transformationslogik og Spark-baserede eksekveringsmodel. Denne funktion er i øjeblikket en prøveversion. For krav, begrænsninger og opgraderingsinstruktioner, se Upgrade Azure Data Factory Mapping dataflow pipelines to Fabric.

Manuel opgradering

Manuelle opgraderinger er nødvendige for komplekse pipelines med lav paritet, men det er også en mulighed for at modernisere din arkitektur og tage Fabric's integrerede funktioner i brug. Denne vej kræver mere forudgående planlægning og udvikling, men kan give langsigtede fordele i vedligeholdelse, ydeevne og omkostninger.

For at opgradere effektivt, følg disse trin:

  1. Vurder og opgør inventar: Katalogiser alle ADF-aktiver, inklusive pipelines, datasæt, linked services og integrationsruntimes. Identificer afhængigheder og brugsmønstre.
  2. Identificer dubletter og ubrugte elementer: Ryd op i ubrugte eller overflødige elementer i ADF for at effektivisere opgraderingen og dit dataintegrationsmiljø.
  3. Identificer huller: Brug pipeline-vurderingsværktøjet og gennemgå connector-paritet og aktivitetsparitet for at identificere huller mellem dine ADF-pipelines og Fabric-pipelines, og planlæg alternativer.
  4. Gennemgå nye funktioner: Brug vores databevægelsesbeslutningsguide og dataintegrationsbeslutningsguide til at afgøre, hvilke Fabric værktøjer der passer bedst til dine behov.
  5. Plan: Gennemgå opgraderingspraksis for hensyn til hvert af dine produkter og retningslinjer for at få mest muligt ud af Fabric' forbedrede egenskaber.
  6. Hvis du bruger globale parametre i ADF, så planlæg at opgradere dem til Fabric-variabelbiblioteker. Se Convert ADF Global Parameters to Fabric Variable Libraries for detaljerede trin.
  7. ADF-overgang: Overvej at tilføje et Azure Data Factory-element i Microsoft Fabric som et første skridt i opgraderingen, så der kan ske gradvis overgang på én platform.
  8. Prioriter: Ranger dine pipelines baseret på forretningspåvirkning, kompleksitet og opgraderingsnemhed.
  9. Automatiser hvor du kan: Brug den indbyggede opgraderingsoplevelse til at vurdere, opgradere og validere pipelines gradvist, før du flytter produktionsarbejdsbyrder. For mere information, se Opgraderingsværktøjet.
  10. Overvej værktøj: Brug disse værktøjer til at gøre rekreation lettere:
  11. Manuel opgradering: For scenarier, der ikke understøttes af andre opgraderingsmetoder, genopbyg dem i Fabric:
    1. Genskab forbindelser: Opsæt Connections i Fabric for at erstatte Linked Services i ADF
    2. Genskab aktiviteter: Opsæt dine aktiviteter i dine pipelines, erstat unsupported activities med Fabric alternativer eller brug aktiviteten Invoke pipeline
    3. Planlæg og sæt triggere: Genopbyg tidsplaner og begivenhedstriggere i Fabric for at matche dine ADF-skemaer
  12. Test grundigt: Valider opgraderede pipelines mod forventede output, ydelsesbenchmarks og compliance-krav.

Eksempler på opgraderingsscenarier

Overgangen fra ADF til Fabric kan involvere forskellige strategier afhængigt af din brugssituation. Dette afsnit beskriver almindelige opgraderingsveje og overvejelser, der hjælper dig med at planlægge effektivt.

Scenarie 1: ADF-pipelines og dataflow

Moderniser dit ETL-miljø ved at opgradere pipelines og dataflows til Fabric. Planlæg for disse elementer:

  • Genskab linked services som Fabric-forbindelser, eller kortlæg linked services til eksisterende Fabric-forbindelser under den indbyggede opgraderingsoplevelse.
  • Genskab globale parametre som variabelbiblioteker.
  • Definer egenskaber for datasæt indbygget i pipelineaktiviteter.
  • Erstat SHIR'er (selvhostede integrationsruntimes) med OPDG'er (on-premises datagateways) og VNet IR'er med virtuelle netværksdatagateways.
  • For berettigede pipelines, der indeholder Mapping Data Flows, brug den indbyggede opgraderingsoplevelse til at opgradere understøttede Mapping Data Flows til MDF-transformationer i Dataflow Gen2.
  • Gennemgå MDF-transformens begrænsninger, understøttede connectors, transformationer, autentificeringsmetoder og netværkskrav, før opgradering.
  • For mapping data flows, der bruger kapabiliteter, der ikke understøttes i den nuværende forhåndsvisning, bør du rette de ikke-understøttede komponenter eller redesigne transformationen ved at bruge Power Query i Dataflow Gen2, Fabric Warehouse SQL, Spark-notebooks eller en anden passende Fabric-funktionalitet.
  • Genopbyg uunderstøttede ADF-aktiviteter ved hjælp af Fabric alternativer eller aktiviteten Invoke pipeline. Ikke-støttede aktiviteter omfatter:
    • Data Lake Analytics (U-SQL), en udfaset Azure-tjeneste.
    • Valideringsaktivitet, som du kan genopbygge ved at bruge Get Metadata, pipeline-løkker og Hvis-aktiviteter.
    • Power Query, som er fuldt integreret i Fabric som dataflow, hvor M-kode kan genbruges.
    • Notebook-, Jar- og Python-aktiviteter, som du kan erstatte med Databricks-aktiviteten i Fabric.
    • Hive-, Pig-, MapReduce-, Spark- og Streaming-aktiviteter, som du kan erstatte med HDInsight-aktiviteten i Fabric.

For krav og trin-for-trin instruktioner, se Upgrade Azure Data Factory Mapping dataflow pipelines to Fabric.

Som et eksempel, her er ADF-datasætets konfigurationsside med dens filsti og komprimeringsindstillinger:

Skærmbillede af ADF-datasættets konfigurationsside.

Og her er en Copy activity for Data Factory in Fabric, hvor komprimering og filsti er inline i aktiviteten:

Skærmbillede af Fabric Copy activity komprimeringskonfiguration.

Scenarie 2: ADF med CDC, SSIS og Airflow

Genopret CDC som Kopiér jobelementer . For Airflow skal du kopiere dine DAGs ind i Fabric's Apache Airflow-tilbud. Udfør SSIS-pakker ved hjælp af ADF-pipelines og kald dem fra Fabric.

Scenarie 3: Opgradering af pipeline ved brug af den indbyggede oplevelse

Denne guidede, vurderingsbaserede erfaring hjælper dig med at evaluere parathed, identificere kompatibilitetshuller og gradvist opgradere understøttede pipelines til et Fabric-arbejdsområde – alt sammen uden scripts.

Den indbyggede opgraderingsoplevelse understøtter også berettigede pipelines, der indeholder Mapping Data Flows. Understøttede mapping dataflows opgraderes til MDF-transformationer i Dataflow Gen2, hvilket bevarer deres transformationslogik og Spark-baserede eksekveringsmodel. Denne funktion er i øjeblikket en prøveversion.

Du kan finde flere oplysninger under:

Scenarie 4: ADF-elementer i et Fabric-arbejdsområde

Du kan tilføje en hel ADF-fabrik i et Fabric-arbejdsområde som en native genstand. Dette lader dig administrere ADF-fabrikker sammen med Fabric-artefakter inden for samme interface. ADF-brugerfladen forbliver fuldt tilgængelig, så du kan overvåge, administrere og redigere dine ADF-fabrikselementer direkte fra Fabric-arbejdsområdet. Dog foregår udførelsen af pipelines, aktiviteter og integrationsruntimes stadig inden for dine Azure-ressourcer.

Denne funktion er nyttig for organisationer, der overgår til Fabric, da den giver et samlet overblik over både ADF- og Fabric-ressourcer, hvilket forenkler styring og planlægning af opgraderingen.

For mere information, se Bring dit Azure Data Factory ind i Fabric.