VM's met lage prioriteit gebruiken voor batchimplementaties

VAN TOEPASSING OP:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

Azure Batch implementaties ondersteunen VM's met lage prioriteit om de kosten van batchdeductieworkloads te verlagen. Vm's met lage prioriteit maken het mogelijk om een grote hoeveelheid rekenkracht te gebruiken voor een lage kosten. VM's met lage prioriteit profiteren van overtollige capaciteit in Azure. Wanneer u VM's met lage prioriteit in uw pools opgeeft, kan Azure dit overschot gebruiken, indien beschikbaar.

Omdat deze knooppunten nu worden toegewezen als spot-VM's, wordt het huidige spottarief in rekening gebracht voor de VM-grootte in de regio waar het cluster wordt uitgevoerd. Dat tarief is variabel in plaats van een vaste korting. Het verandert met regio en vraag en kan de prijs voor betalen per gebruik benaderen wanneer een regio weinig overschotcapaciteit heeft. Er worden nooit meer kosten in rekening gebracht dan de betalen per gebruik-prijs voor dezelfde VM-grootte. Zie Azure Spot Virtual Machines voor meer informatie.

Controleer de huidige snelheid voor uw VM-grootte en -regio voordat u een regio kiest. U kunt deze inchecken in de Azure prijscalculator of via de API voor Azure detailhandelprijzen. Zie Azure Machine Learning prijzen voor algemene prijsinformatie.

Hoe batchimplementatie werkt met VM's met lage prioriteit

Azure Machine Learning Batch-implementaties biedt verschillende mogelijkheden waarmee u eenvoudig VM's met lage prioriteit kunt gebruiken en profiteren:

• Batch-implementatietaken verbruiken VM's met lage prioriteit door te worden uitgevoerd op Azure Machine Learning-rekenclusters die zijn gemaakt met VM's met lage prioriteit. Nadat een implementatie is gekoppeld aan een cluster met vm's met lage prioriteit, gebruiken alle taken die door een dergelijke implementatie worden geproduceerd VM's met lage prioriteit. Configuratie per taak is niet mogelijk.
• Batch-implementatietaken zoeken automatisch het doelaantal VM's in het beschikbare rekencluster op basis van het aantal taken dat moet worden verzonden. Als VM's zijn afgekraakt of niet beschikbaar zijn, proberen batchimplementatietaken de verloren capaciteit te vervangen door de mislukte taken in de wachtrij te plaatsen bij het cluster.
• VM's met lage prioriteit hebben een afzonderlijk vCPU-quotum dat verschilt van het quotum voor toegewezen VM's. Kernen met lage prioriteit per regio hebben een standaardlimiet van 100 tot 3000, afhankelijk van uw abonnement. Het aantal kernen met lage prioriteit per abonnement kan worden verhoogd en is één waarde voor alle VM-families. Zie De rekenquota van Azure Machine Learning.

Overwegingen en use cases

Veel batchworkloads zijn geschikt voor VM's met lage prioriteit. Het gebruik van VM's met lage prioriteit kan leiden tot uitvoeringsvertragingen wanneer de toewijzing van VM's plaatsvindt. Als u flexibiliteit hebt in de tijdstaken die moeten worden voltooid, kunt u de potentiële dalingen in capaciteit tolereren.

Wanneer u modellen onder batch-eindpunten implementeert, kan het opnieuw plannen worden uitgevoerd op minibatchniveau. Deze aanpak heeft het voordeel dat deallocatie alleen van invloed is op die minibatches die momenteel worden verwerkt en niet zijn voltooid op het betrokken knooppunt. Alle voltooide voortgang wordt bewaard.

Beperkingen

• Nadat een implementatie is gekoppeld aan een cluster met vm's met lage prioriteit, gebruiken alle taken die door een dergelijke implementatie worden geproduceerd VM's met lage prioriteit. Configuratie per taak is niet mogelijk.
• Het opnieuw plannen wordt uitgevoerd op minibatchniveau, ongeacht de voortgang. Er is geen controlepuntmogelijkheid beschikbaar.
• U wordt gefactureerd voor elk knooppunt in het cluster terwijl dit is ingeschakeld, inclusief knooppunten die worden verwijderd voordat ze alle werkzaamheden voltooien, en inclusief de tijd die elk vervangend knooppunt besteedt aan het opstarten. Verwijdering levert geen restitutie of tegoed op en spot-VM's hebben geen SLA. Zie statussen en factureringsstatus van virtuele machines enaanbevolen procedures voor Azure Batch.
• Frequente verwijderingen kunnen ervoor zorgen dat een cluster meer kost dan een dedicated cluster voor dezelfde workload, met name in regio's waar het spottarief dicht bij het tarief voor betalen per gebruik ligt.

Batchimplementaties maken die vm's met lage prioriteit gebruiken

Batch-implementatietaken verbruiken VM's met lage prioriteit door te worden uitgevoerd op Azure Machine Learning-rekenclusters die zijn gemaakt met VM's met lage prioriteit.

U kunt als volgt een Azure Machine Learning-rekencluster met lage prioriteit maken:

$schema: https://azuremlschemas.azureedge.net/latest/amlCompute.schema.json 
name: low-pri-cluster
type: amlcompute
size: STANDARD_DS3_v2
min_instances: 0
max_instances: 2
idle_time_before_scale_down: 120
tier: low_priority

az ml compute create -f low-pri-cluster.yml

from azure.ai.ml.entities import AmlCompute

compute_name = "low-pri-cluster"
compute_cluster = AmlCompute(
   name=compute_name, 
   description="Low priority compute cluster", 
   min_instances=0, 
   max_instances=2,
   tier='LowPriority'
)

ml_client.begin_create_or_update(compute_cluster)

Nadat u de nieuwe berekening hebt gemaakt, kunt u uw implementatie maken of bijwerken om het nieuwe cluster te gebruiken:

$schema: https://azuremlschemas.azureedge.net/latest/batchDeployment.schema.json
endpoint_name: heart-classifier-batch
name: classifier-xgboost
description: A heart condition classifier based on XGBoost
type: model
model: azureml:heart-classifier@latest
compute: azureml:low-pri-cluster
resources:
  instance_count: 2
settings:
  max_concurrency_per_instance: 2
  mini_batch_size: 2
  output_action: append_row
  output_file_name: predictions.csv
  retry_settings:
    max_retries: 3
    timeout: 300

az ml batch-endpoint create -f endpoint.yml

deployment = ModelBatchDeployment(
    name="classifier-xgboost",
    description="A heart condition classifier based on XGBoost",
    endpoint_name=endpoint.name,
    model=model,
    compute=compute_name,
    settings=ModelBatchDeploymentSettings(
      instance_count=2,
      max_concurrency_per_instance=2,
      mini_batch_size=2,
      output_action=BatchDeploymentOutputAction.APPEND_ROW,
      output_file_name="predictions.csv",
      retry_settings=BatchRetrySettings(max_retries=3, timeout=300),
   )
)

ml_client.batch_deployments.begin_create_or_update(deployment)

Deallocation van knooppunten weergeven en bewaken

Nieuwe metrische gegevens zijn beschikbaar in Azure Portal voor VM's met lage prioriteit om VM's met lage prioriteit te bewaken. Deze metrische gegevens zijn:

• Vooraf geïmplementeerde knooppunten
• Vooraf getempte kernen

Ga als volgt te werk om deze metrische gegevens weer te geven in Azure Portal:

1. Navigeer naar uw Azure Machine Learning-werkruimte in Azure Portal.
2. Selecteer Metrische gegevens in de sectie Bewaking .
3. Selecteer de gewenste metrische gegevens in de lijst met metrische gegevens .

Gerelateerde inhoud

• Een Azure Machine Learning-rekencluster maken
• MLflow-modellen implementeren in batchimplementaties
• Rekenresources beheren voor modeltraining