NVIDIA GPU Operator gebruiken in Azure Kubernetes Service (AKS)

De NVIDIA GPU Operator automatiseert het beheer en de implementatie van alle NVIDIA-softwareonderdelen die nodig zijn om GPU in te richten, inclusief installatie van stuurprogramma's, de NVIDIA-apparaatinvoegtoepassing voor Kubernetes, de NVIDIA-containerruntime en meer. Omdat de NVIDIA GPU-operator deze onderdelen afhandelt, is het niet nodig om de NVIDIA-apparaatinvoegtoepassing afzonderlijk te installeren op uw AKS-cluster. Dit betekent ook dat de automatische installatie van het GPU-stuurprogramma moet worden overgeslagen om de NVIDIA GPU-operator op AKS te kunnen gebruiken.

Tip

Als u de volledige controle van de NVIDIA GPU-operator niet nodig hebt, installeren en onderhouden AKS-beheerde GPU-knooppuntgroepen (preview) het NVIDIA-stuurprogramma , de Kubernetes-apparaatinvoegtoepassing en de metrische DCGM-gegevensexporteur voor u.

Belangrijk

Opensource-software wordt vermeld in AKS-documentatie en -voorbeelden. Software die u implementeert, is uitgesloten van AKS-serviceovereenkomsten, beperkte garantie en ondersteuning voor Azure. Wanneer u opensource-technologie naast AKS gebruikt, raadpleegt u de beschikbare ondersteuningsopties van de respectieve community's en projectonderhouders om een plan te ontwikkelen.

Microsoft neemt de verantwoordelijkheid voor het bouwen van de opensource-pakketten die we implementeren op AKS. Deze verantwoordelijkheid omvat het volledige eigendom van het bouw-, scan-, onderteken-, validatie- en hotfixproces, samen met controle over de binaire bestanden in container images. Zie Beveiligingsbeheer voor AKS- en AKS-ondersteuningsdekking voor meer informatie.

Voordat u begint

  • In dit artikel wordt ervan uitgegaan dat u een bestaand AKS-cluster hebt. Als u geen cluster hebt, maakt u er een met behulp van de Azure CLI, Azure PowerShell of Azure Portal.
  • U moet Azure CLI versie 2.72.2 of hoger hebben geïnstalleerd om het --gpu-driver veld in te stellen. Voer az --version uit om de versie te vinden. Als u Azure CLI wilt installeren of upgraden, raadpleegt u Azure CLI installeren.

Opmerking

GPU-ingeschakelde virtuele machines bevatten gespecialiseerde hardware die onderhevig is aan hogere prijsstelling en beschikbaarheid per regio. Raadpleeg voor meer informatie het prijsgereedschap en de beschikbaarheid per regio.

Beperkingen

NVIDIA GPU Operator wordt niet ondersteund voor de volgende besturingssysteemopties: Windows Server-versies, Flatcar Container Linux voor AKS (preview)en Azure Linux met OS Guard voor AKS (preview).

Verkrijg de inloggegevens voor uw cluster

Verkrijg de inloggegevens voor je AKS-cluster door de az aks get-credentials-opdracht te gebruiken. De volgende voorbeeldcommandoregel haalt de referenties voor het cluster myAKSCluster in de myResourceGroup resourcegroep op.

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

Opmerking

De NVIDIA GPU-operator is niet compatibel met meerdere besturingssysteemversies in hetzelfde AKS-cluster.

  1. Sla de automatische installatie van GPU-stuurprogramma's over door een knooppuntgroep met NVIDIA GPU te maken met behulp van de az aks nodepool add opdracht en het API-veld --gpu-driver in te stellen op de waarde none. Als u dit API-veld none instelt op tijdens het maken van een knooppuntgroep, wordt de standaardinstallatie van het GPU-stuurprogramma overgeslagen. Zie De installatie van GPU-stuurprogramma's overslaan voor een voorbeeld. Met deze instelling worden bestaande knooppunten niet gewijzigd. U kunt de knooppool schalen naar nul en vervolgens weer opschalen om de wijziging door te voeren.
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. Volg de NVIDIA-documentatie om de GPU-operator te installeren.

  2. Nadat u de GPU-operator hebt geïnstalleerd, controleert u of uw GPU's beschikbaar zijn en voert u een GPU-workload uit.

Opmerking

Er kunnen aanvullende overwegingen zijn bij het gebruik van de NVIDIA GPU Operator en het inzetten op SPOT-instanties. Verwijs naar https://github.com/NVIDIA/gpu-operator/issues/577

  • Laatst bijgewerkt om