Använda virtuella datorer med låg prioritet för batchdistributioner

GÄLLER FÖR:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (aktuell)

Important

Virtuella datorer med låg prioritet drogs tillbaka för Azure Machine Learning den 31 mars 2026. Beräkningskluster som anger tier: low_priority fortfarande godkänd validering och fortfarande kör jobb, men Azure Batch allokerar nu sina noder som virtuella datorer med oanvänd kapacitet via en systeminitierad migrering. Spotprissättning och beteende för avhysning av oanvänd kapacitet gäller för alla kluster som beskrivs i den här artikeln, oavsett om du skapade det före eller efter slutdatumet. Information på Batch-nivå finns i Köra Batch-arbetsbelastningar på kostnadseffektiva virtuella datorer med oanvänd kapacitet.

Azure Batch distributioner stöder virtuella datorer med låg prioritet för att minska kostnaden för batchinferensarbetsbelastningar. Virtuella datorer med låg prioritet gör det möjligt att använda en stor mängd beräkningskraft till en låg kostnad. Virtuella datorer med låg prioritet drar nytta av överkapacitet i Azure. När du anger virtuella datorer med låg prioritet i dina pooler kan Azure använda det här överskottet när det är tillgängligt.

Dricks

Kompromissen med att använda lågprioriterade virtuella datorer är att dessa virtuella datorer kanske inte är tillgängliga eller att de kan föregås när som helst, beroende på tillgänglig kapacitet. Därför är den här metoden mest lämplig för batch- och asynkrona bearbetningsarbetsbelastningar, där jobbets slutförandetid är flexibel och arbetet distribueras över många virtuella datorer.

Eftersom dessa noder nu allokeras som virtuella datorer med oanvänd kapacitet debiteras du den aktuella spothastigheten för VM-storleken i den region där klustret körs. Den kursen är variabel snarare än en fast rabatt. Det ändras med region och efterfrågan, och det kan närma sig betala per användning-priset när en region har liten överskottskapacitet. Du debiteras aldrig mer än betala per användning-priset för samma VM-storlek. Mer information finns i Azure Spot Virtual Machines.

Kontrollera den aktuella hastigheten för din VM-storlek och region innan du väljer en region. Du kan kontrollera det i priskalkylatorn för Azure eller via API:et för Azure detaljhandelspriser. Allmän prisinformation finns i Azure Machine Learning prissättning.

Kommentar

Azure Batch har inte stöd för att ange ett högsta pris för virtuella datorer med oanvänd kapacitet, så du kan inte begränsa den hastighet som ett beräkningskluster betalar. Noder avlägsnas endast av kapacitetsskäl, aldrig på grund av priset. Se Köra Batch-arbetsbelastningar på kostnadseffektiva virtuella datorer med oanvänd kapacitet.

Så här fungerar batchdistribution med lågprioriterade virtuella datorer

Azure Machine Learning Batch Deployments innehåller flera funktioner som gör det enkelt att använda och dra nytta av lågprioriterade virtuella datorer:

Batchdistributionsjobb förbrukar virtuella datorer med låg prioritet genom att köras på Azure Machine Learning-beräkningskluster som skapats med lågprioriterade virtuella datorer. När en distribution har associerats med ett kluster med låg prioritet för virtuella datorer använder alla jobb som skapas av en sådan distribution virtuella datorer med låg prioritet. Konfiguration per jobb är inte möjlig.
Batchdistributionsjobb söker automatiskt efter målantalet virtuella datorer i det tillgängliga beräkningsklustret baserat på antalet uppgifter som ska skickas. Om virtuella datorer är fördefinierade eller otillgängliga försöker batchdistributionsjobb ersätta den förlorade kapaciteten genom att köa de misslyckade uppgifterna till klustret.
Virtuella datorer med låg prioritet har en separat vCPU-kvot som skiljer sig från den för dedikerade virtuella datorer. Kärnor med låg prioritet per region har en standardgräns på 100 till 3 000, beroende på din prenumeration. Antalet lågprioritetskärnor per prenumeration kan ökas och är ett enskilt värde för VM-familjer. Se Beräkningskvoter för Azure Machine Learning.

Överväganden och användningsfall

Många batcharbetsbelastningar passar bra för virtuella datorer med låg prioritet. Om du använder virtuella datorer med låg prioritet kan körningsfördröjningar uppstå när de virtuella datorerna frigörs. Om du har flexibilitet när jobben måste slutföras kan du tolerera potentiella kapacitetsfall.

När du distribuerar modeller under batchslutpunkter kan du schemalägga om på minibatchnivå. Den metoden har fördelen att frigöring endast påverkar de minibatcher som för närvarande bearbetas och inte slutförs på den berörda noden. Alla slutförda förlopp behålls.

Begränsningar

När en distribution har associerats med ett kluster med låg prioritet för virtuella datorer använder alla jobb som skapas av en sådan distribution virtuella datorer med låg prioritet. Konfiguration per jobb är inte möjlig.
Omplanering görs på minibatchnivå, oavsett förloppet. Det finns ingen kontrollpunktsfunktion.
Du debiteras för varje nod i klustret när den är påslagen, inklusive noder som avlägsnas innan de slutför något arbete, och inklusive den tid som varje ersättningsnod ägnar åt att starta. Avhysning ger ingen återbetalning eller kredit, och virtuella spotdatorer har inget serviceavtal. Se Tillstånd för virtuella datorer och faktureringsstatus och Metodtips för Azure Batch.
Frekventa borttagningar kan göra att ett kluster kostar mer än ett dedicated kluster för samma arbetsbelastning, särskilt i regioner där spotpriset ligger nära betala per användning-priset.

Varning

I de fall då hela klustret förinstalleras eller körs i ett kluster med en nod avbryts jobbet eftersom det inte finns någon tillgänglig kapacitet för körning. I det här fallet krävs en ny inskickning.

Skapa batchdistributioner som använder virtuella datorer med låg prioritet

Batchdistributionsjobb förbrukar virtuella datorer med låg prioritet genom att köras på Azure Machine Learning-beräkningskluster som skapats med lågprioriterade virtuella datorer.

Kommentar

När en distribution har associerats med ett kluster med låg prioritet för virtuella datorer använder alla jobb som skapas av en sådan distribution virtuella datorer med låg prioritet. Det går inte att konfigurera per jobb.

Du kan skapa ett Azure Machine Learning-beräkningskluster med låg prioritet på följande sätt:

Azure CLI
Python

Skapa en beräkningsdefinition YAML som följande, low-pri-cluster.yml:

$schema: https://azuremlschemas.azureedge.net/latest/amlCompute.schema.json 
name: low-pri-cluster
type: amlcompute
size: STANDARD_DS3_v2
min_instances: 0
max_instances: 2
idle_time_before_scale_down: 120
tier: low_priority

Skapa beräkningen med följande kommando:

az ml compute create -f low-pri-cluster.yml

Om du vill skapa ett nytt beräkningskluster med lågprioriterade virtuella datorer där distributionen ska skapas använder du följande skript:

from azure.ai.ml.entities import AmlCompute

compute_name = "low-pri-cluster"
compute_cluster = AmlCompute(
   name=compute_name, 
   description="Low priority compute cluster", 
   min_instances=0, 
   max_instances=2,
   tier='LowPriority'
)

ml_client.begin_create_or_update(compute_cluster)

När du har skapat den nya beräkningen kan du skapa eller uppdatera distributionen så att den använder det nya klustret:

Azure CLI
Python

Om du vill skapa eller uppdatera en distribution under det nya beräkningsklustret skapar du en YAML konfigurationsfil endpoint.yml:

$schema: https://azuremlschemas.azureedge.net/latest/batchDeployment.schema.json
endpoint_name: heart-classifier-batch
name: classifier-xgboost
description: A heart condition classifier based on XGBoost
type: model
model: azureml:heart-classifier@latest
compute: azureml:low-pri-cluster
resources:
  instance_count: 2
settings:
  max_concurrency_per_instance: 2
  mini_batch_size: 2
  output_action: append_row
  output_file_name: predictions.csv
  retry_settings:
    max_retries: 3
    timeout: 300

Skapa sedan distributionen med följande kommando:

az ml batch-endpoint create -f endpoint.yml

Om du vill skapa eller uppdatera en distribution under det nya beräkningsklustret använder du följande skript:

deployment = ModelBatchDeployment(
    name="classifier-xgboost",
    description="A heart condition classifier based on XGBoost",
    endpoint_name=endpoint.name,
    model=model,
    compute=compute_name,
    settings=ModelBatchDeploymentSettings(
      instance_count=2,
      max_concurrency_per_instance=2,
      mini_batch_size=2,
      output_action=BatchDeploymentOutputAction.APPEND_ROW,
      output_file_name="predictions.csv",
      retry_settings=BatchRetrySettings(max_retries=3, timeout=300),
   )
)

ml_client.batch_deployments.begin_create_or_update(deployment)

Visa och övervaka nodallokering

Nya mått är tillgängliga i Azure Portal för virtuella datorer med låg prioritet för att övervaka virtuella datorer med låg prioritet. Dessa mått är:

Fördefinierade noder
Fördefinierade kärnor

Så här visar du dessa mått i Azure Portal:

Gå till din Azure Machine Learning-arbetsyta i Azure Portal.
Välj Mått i avsnittet Övervakning .
Välj de mått som du vill använda i listan Mått .

Feedback

Var den här sidan till hjälp?

Last updated on 2026-07-31