Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Azure Machine Learning maakt het mogelijk om batch-eindpunten en -implementaties te implementeren voor het uitvoeren van langdurige, asynchrone inferentie met machine learning-modellen en -pijplijnen. Wanneer u een machine learning-model of pijplijn traint, moet u het implementeren zodat anderen het kunnen gebruiken met nieuwe invoergegevens om voorspellingen te genereren. Dit proces voor het genereren van voorspellingen met het model of de pijplijn wordt deductie genoemd.
Batch-eindpunten ontvangen pointers naar gegevens en voeren taken asynchroon uit om de gegevens parallel op rekenclusters te verwerken. Batch-eindpunten slaan uitvoer op in een gegevensarchief voor verdere analyse. Batch-eindpunten gebruiken wanneer:
- U hebt dure modellen of pijplijnen waarvoor langere tijd nodig is om uit te voeren.
- U wilt machine learning-pijplijnen operationeel maken en onderdelen opnieuw gebruiken.
- U moet deductie uitvoeren over grote hoeveelheden gegevens, gedistribueerd in meerdere bestanden.
- U hebt geen vereisten voor lage latentie.
- De invoer van uw model wordt opgeslagen in een opslagaccount of in een Azure Machine Learning gegevensasset.
- U kunt profiteren van parallelle uitvoering.
Batch-implementaties
Een implementatie is een set resources en berekeningen die nodig zijn om de functionaliteit te implementeren die het eindpunt biedt. Een eindpunt kan meerdere implementaties hosten, elk met een eigen configuratie, waarbij de eindpuntinterface wordt losgekoppeld van de implementatie-implementatiedetails. Wanneer een batch-eindpunt wordt aangeroepen, wordt de client automatisch doorgestuurd naar de standaardimplementatie. Deze standaardimplementatie kan op elk gewenst moment worden geconfigureerd en gewijzigd.
Er zijn twee typen implementaties mogelijk in Azure Machine Learning batch-eindpunten:
Modelimplementatie
Met modelimplementatie kunt u modeldeductie op schaal operationeel maken, zodat u grote hoeveelheden gegevens op een langlopende en asynchrone manier kunt verwerken. Azure Machine Learning zorgt automatisch voor schaalbaarheid door de inferentieprocessen te parallelliseren over meerdere knooppunten in een rekencluster.
Modelimplementatie gebruiken wanneer:
- U hebt dure modellen waarvoor langere tijd nodig is om deductie uit te voeren.
- U moet deductie uitvoeren over grote hoeveelheden gegevens, gedistribueerd in meerdere bestanden.
- U hebt geen vereisten voor lage latentie.
- U kunt profiteren van parallelle uitvoering.
Het belangrijkste voordeel van modelimplementaties is dat u dezelfde assets kunt gebruiken die zijn geïmplementeerd voor realtime inferentie naar online-eindpunten, maar nu kunt u ze op schaal uitvoeren in batchverwerking. Als uw model eenvoudige voorverwerking of naverwerking vereist, kunt u een scorescript maken waarmee de vereiste gegevenstransformaties worden uitgevoerd.
Als u een modelimplementatie in een batch-eindpunt wilt maken, moet u de volgende elementen opgeven:
- Model
- Rekencluster
- Scorescript (optioneel voor MLflow-modellen)
- Omgeving (optioneel voor MLflow-modellen)
Implementatie van pijplijnonderdelen
Met de implementatie van pijplijnonderdelen kunt u volledige verwerkingsgrafieken (of pijplijnen) operationeel maken om batchdeductie op een langlopende en asynchrone manier uit te voeren.
Gebruik pipelinecomponentimplementatie wanneer:
- U moet volledige rekengrafieken operationeel maken die in meerdere stappen kunnen worden uitgevouwen.
- U moet onderdelen uit trainingspijplijnen in uw deductiepijplijn opnieuw gebruiken.
- U hebt geen vereisten voor lage latentie.
Het belangrijkste voordeel van implementaties van pijplijnonderdelen is de herbruikbaarheid van onderdelen die al bestaan in uw platform en de mogelijkheid om complexe deductieroutines te operationeel te maken.
Als u een implementatie van een pijplijnonderdeel in een batch-eindpunt wilt maken, moet u de volgende elementen opgeven:
- Pijplijnonderdeel
- Configuratie van rekencluster
Met Batch-eindpunten kunt u ook pijplijnonderdeelimplementaties maken vanuit een bestaande pijplijntaak. Wanneer u dit doet, creëert Azure Machine Learning automatisch een pijplijncomponent vanuit de taak. Dit vereenvoudigt het gebruik van dit soort implementaties. Het is echter een best practice om altijd pijplijnonderdelen expliciet te maken om uw MLOps-praktijk te stroomlijnen.
Kostenbeheer
Als u een batch-eindpunt aanroept, wordt een asynchrone batchdeductietaak geactiveerd. Azure Machine Learning zal automatisch rekenbronnen inrichten wanneer de taak wordt gestart en maakt deze vrij nadat de taak voltooid is. Op deze manier betaalt u alleen voor rekenkracht wanneer u deze gebruikt.
Tip
Wanneer u modellen implementeert, kunt u de rekenresource-instellingen (zoals het aantal exemplaren) en geavanceerde instellingen (zoals minibatchgrootte, foutdrempel, enzovoort) overschrijven voor elke afzonderlijke batchdeductietaak. Door deze specifieke configuraties te gebruiken, kunt u de uitvoering mogelijk versnellen en de kosten verlagen.
Batch-eindpunten kunnen ook worden uitgevoerd op VM's met lage prioriteit. Batch-eindpunten kunnen automatisch herstellen van niet-toegewezen knooppunten door de betrokken minibatches opnieuw te plannen. Het systeem behoudt werk van al voltooide minibatches, maar biedt geen controlepunten op taakniveau. Zie VM's met lage prioriteit gebruiken in batch-eindpunten voor meer informatie over het gebruik van VM's met lage prioriteit om de kosten van workloads voor batchinferentie te verlagen.
Note
Azure Machine Learning heeft VM's met lage prioriteit op 31 maart 2026 buiten gebruik gesteld. Bestaande configuraties die VM's met lage prioriteit aanvragen, maken nu gebruik van spot-VM's. Zie VM's met lage prioriteit gebruiken in batch-eindpunten voor actuele prijzen en uitzettingsgedrag.
Ten slotte brengt Azure Machine Learning u geen kosten in rekening voor batch-eindpunten of batchimplementaties zelf, zodat u uw eindpunten en implementaties zo goed mogelijk kunt ordenen in uw scenario. Eindpunten en implementaties kunnen gebruikmaken van onafhankelijke of gedeelde clusters, zodat u nauwkeurig kunt bepalen welke rekenkracht de jobs verbruiken. Gebruik scale-to-zero in clusters om ervoor te zorgen dat er geen resources worden verbruikt wanneer ze niet actief zijn.
De MLOps-praktijk stroomlijnen
Batch-eindpunten kunnen meerdere implementaties onder hetzelfde eindpunt verwerken, zodat u de implementatie van het eindpunt kunt wijzigen zonder de URL te wijzigen die uw consumenten gebruiken om het aan te roepen.
U kunt implementaties toevoegen, verwijderen en bijwerken zonder dat dit van invloed is op het eindpunt zelf.
Flexibele gegevensbronnen en opslag
Batch-eindpunten lezen en schrijven gegevens rechtstreeks vanuit de opslag. U kunt Azure Machine Learning gegevensarchieven, Azure Machine Learning gegevensassets of opslagaccounts opgeven als invoer. Zie Taken en invoergegevens maken voor batcheindpunten voor meer informatie over de ondersteunde invoeropties en hoe deze opgegeven moeten worden.
Veiligheid
Batch-eindpunten bieden alle mogelijkheden die nodig zijn voor het uitvoeren van workloads op productieniveau in een bedrijfsinstelling. Ze ondersteunen privénetwerken op beveiligde werkruimten en Microsoft Entra-authenticatie, hetzij met behulp van een gebruikersprincipal (zoals een gebruikersaccount) of een serviceprincipal (zoals een beheerde of onbeheerde identiteit). Taken die door een batch-eindpunt worden gegenereerd, worden uitgevoerd onder de identiteit van de aanroeper, wat u de flexibiliteit biedt om elk scenario te implementeren. Zie Verificatie op batch-eindpunten voor meer informatie over autorisatie tijdens het gebruik van batcheindpunten.