Skapa ett dataflödesdiagram i Azure IoT Operations

Ett dataflödesdiagram är en sammansättningsbar bearbetningspipeline som transformerar data när de flyttas mellan källor och mål. Ett standarddataflöde följer en fast sekvens av berika, filtrera och kartlägga. Med ett dataflödesdiagram kan du länka transformeringar i valfri ordning, förgrena till parallella sökvägar och aggregera data över tidsfönster.

Den här artikeln går igenom hur du skapar ett dataflödesdiagram steg för steg. En översikt över dataflödesdiagram och tillgängliga transformeringar finns i Översikt över dataflödesdiagram.

Dataflödesdiagram stöder för närvarande endast MQTT-, Kafka- och OpenTelemetry-slutpunkter. De stöder inte andra endpoint-typer som Data Lake, Microsoft Fabric OneLake, Azure Data Explorer och Local Storage.

Transformer använder ett uttrycksspråk för att beräkna värden, testvillkor och referensfält. Uttryck hänvisar till indata efter position, inte namn: den första indatan i inputs listan är $1, den andra är $2, och så vidare. Inbyggda funktioner som cToF konvertera och manipulera dessa värden.

För den fullständiga listan över operatorer, funktioner, datatyper och metadatafält, se referensen Expressions.

Förutsättningar

  • Azure CLI installerat på utvecklingsdatorn. Kontrollera tillgängliga Azure CLI-tillägg för den minsta versionen som krävs för att använda azure-iot-ops-tillägget. Använd az --version för att kontrollera din version och az upgrade uppdatera om det behövs. Mer information finns i Installera Azure CLI.

  • Tillägget Azure IoT Operations för Azure CLI. Använd följande kommando för att lägga till tillägget eller uppdatera det till den senaste versionen:

    az extension add --upgrade --name azure-iot-ops
    
  • Azure IoT Operations version 1.2 eller senare.

  • En dataflödesprofil. Du kan använda standardprofilen.

  • En dataflödesslutpunkt för din källa och ditt mål. Standardslutpunkten för MQTT-koordinatorn fungerar för att komma igång.

De Azure CLI exemplen i denna artikel använder miljövariabler så att du kan sätta varje värde en gång och sedan kopiera och klistra in kommandona as-is. Om du använder Azure IoT Operations Codespaces-miljön från quickstart är dessa variabler redan inställda för dig och du kan hoppa över detta steg. Annars, ställ in följande miljövariabler i ditt skal innan du kör kommandona.

Följande skript anger de mest använda miljövariablerna:

Miljövariabel Beskrivning
SUBSCRIPTION_ID ID:t för prenumerationen som innehåller din Azure IoT Operations-instans.
RESOURCE_GROUP Namnet på resursgruppen som innehåller din Azure IoT Operations-instans.
AIO_INSTANCE_NAME Namnet på din Azure IoT Operations-instans. För att lista dina instanser, kör az iot ops list -o table.
CLUSTER_NAME Namnet på det Azure Arc-aktiverade Kubernetes-klustret som hostar din instans.
LOCATION Azure-regionen att använda för nya resurser, till exempel eastus.
SUBSCRIPTION_ID=<subscription-id>
RESOURCE_GROUP=<resource-group-name>
AIO_INSTANCE_NAME=<instance-name>
CLUSTER_NAME=<cluster-name>
LOCATION=<region>

Du behöver bara ställa in de variabler som denna artikel använder. Den här artikeln kan använda ytterligare miljövariabler för resursnamn som du väljer. Artikeln förklarar hur man placerar dem där de introduceras.

Denna artikel använder GRAPH_NAME också och PROFILE miljövariablerna för dataflödesgrafen och profilnamnen. Ställ in varje innan du kör de relaterade kommandona.

Skapa ett dataflödesdiagram

Ett dataflödesdiagram innehåller tre typer av element: källor som tar in data, transformerar den och mål som skickar ut dem. Anslut dem i den ordning du vill att data ska flöda.

  1. I operationserfarenheten, gå till din Azure IoT Operations-instans.

  2. Välj Dataflödesdiagram>Skapa dataflödesdiagram.

    Skärmbild av driftupplevelsen som visar dataflödesdiagram.

  3. Ange ett namn för dataflödesdiagrammet och välj en dataflödesprofil. Standardprofilen är markerad som standard.

    Skärmbild av dialogrutan för att skapa operationsupplevelse som visar namnfältet och profildropdown.

  4. Skapa din pipeline genom att lägga till objekt på duken.

    1. Lägg till en källa: Välj källslutpunkten och konfigurera ämnena att prenumerera på för inkommande meddelanden.

      Skärmbild av konfigurationspanelen för operations experience-källan som visar listrutan för slutpunkter och ämnesindata.

    2. Lägg till transformeringar: Välj en eller flera transformeringar för att bearbeta data. Tillgängliga transformationer inkluderar karta, filter, förgrening, sammanfogning, fönster och gas. Mer information om varje transformeringstyp finns i Översikt över dataflödesdiagram.

      Skärmbild av menyn för val av transformeringar i operationsupplevelse som visar tillgängliga transformtyper.

      Skärmbild av driftupplevelsen som visar ett konfigurationsexempel för grentransformering.

    3. Lägg till ett mål: Välj målslutpunkten och konfigurera ämnet eller sökvägen för att skicka bearbetade data till.

      Skärmbild av driftupplevelsen som visar ett målexempel.

  5. Anslut elementen i den ordning du vill att data ska flöda.

    Skärmbild av arbetsytan för driftupplevelse som visar en ansluten käll-, transformerings- och målpipeline.

  6. Välj Spara för att distribuera dataflödesdiagrammet.

Konfigurera källan

Källan definierar var data kommer in i pipelinen. Ange en slutpunktsreferens och ett eller flera avsnitt.

I dataflödesgrafredigeraren väljer du källelementet och konfigurerar:

Inställning Beskrivning
Slutpunkt Den dataflödesslutpunkt som ska användas. Välj standard för den lokala MQTT-koordinatorn.
Topics Ett eller flera avsnitt att prenumerera på för inkommande meddelanden.

Lägga till transformationer

Transformeringar bearbetar data mellan källan och målet. Varje transform refererar till en inbyggd artefakt och har konfigurationsregler.

De tillgängliga inbyggda transformerna är:

Omvandla Artifact Beskrivning
Karta azureiotoperations/graph-dataflow-map:1.0.0 Byt namn på, omstrukturera, beräkna och kopiera fält.
Filter azureiotoperations/graph-dataflow-filter:1.0.0 Ta bort meddelanden som matchar ett villkor.
Gren azureiotoperations/graph-dataflow-branch:1.0.0 Dirigera varje meddelande till en true eller false sökväg baserat på ett villkor.
Concatenate azureiotoperations/graph-dataflow-concatenate:1.0.0 Sammanfoga två eller flera sökvägar tillbaka till en enda sökväg.
Fönster azureiotoperations/graph-dataflow-window:1.0.0 Samla in meddelanden över ett tidsintervall och aggregera sedan.
Throttle azureiotoperations/graph-dataflow-throttle:1.0.0 Begränsa meddelandefrekvensen per MQTT-ämnesmönster.

Mer information om hur du berikar meddelanden med externa data finns i Berika med externa data.

I dataflödesdiagramredigeraren väljer du Lägg till transformering och väljer transformeringstyp. Konfigurera reglerna i det visuella redigeringsprogrammet.

Länka flera transformationer

Kedja ett valfritt antal transformationer. Anslut dem i avsnittet nodeConnections i den ordning du vill att data ska flöda:

Dra anslutningar mellan transformeringar på arbetsytan för att definiera bearbetningsordningen.

Konfigurera målet

Destinationen avgör vart bearbetad data går. Ange en slutpunktsreferens och ett ämne eller en sökväg.

Välj målelementet och konfigurera:

Inställning Beskrivning
Slutpunkt Dataflödesslutpunkten som data ska skickas till.
Topic Ämnet eller sökvägen för att publicera bearbetade data till.

Dynamisk ämnesroutning baserat på meddelandeinnehåll finns i Dirigera meddelanden till olika ämnen.

Kontrollera att dataflödesdiagrammet fungerar

När du har distribuerat ett dataflödesdiagram kontrollerar du att det körs:

I operationsupplevelsen, välj din dataflödesgraf för att se dess status. Ett felfritt diagram visar tillståndet Körs .