Dowiedz się więcej o zarządzanym rozszerzeniu Kueue w Azure Kubernetes Service (AKS)

Usługa Kueue zapewnia kolejkowanie zadań natywnych dla platformy Kubernetes i dopuszczanie zasobów dla obciążeń wsadowych i sztucznej inteligencji. Decyduje, kiedy obciążenie może być uruchamiane na podstawie dostępnego limitu przydziału kolejek i skonfigurowanych zasad. Po przyjęciu planista Kubernetesa umieszcza zasobniki obciążenia roboczego w węzłach.

W usłudze Azure Kubernetes Service (AKS) preferuj zarządzane rozszerzenie Kueue (wersja zapoznawcza) do instalowania obsługiwanego kontrolera Kueue i zarządzania nim oraz generowania zasobów zarządzanych dla klastra. Zobacz Instalowanie zarządzanego rozszerzenia Kueue w usłudze AKS.

W tym artykule wyjaśniono podstawowe pojęcia dotyczące usługi Kueue i rozszerzenia Managed Kueue.

Important

Oprogramowanie typu open source jest wymienione w dokumentacji i przykładach usługi AKS. Oprogramowanie, które wdrażasz, jest wykluczone z umów dotyczących poziomu usług AKS, ograniczonej gwarancji i wsparcia technicznego platformy Azure. W miarę korzystania z technologii open source wraz z usługą AKS zapoznaj się z opcjami pomocy technicznej dostępnymi w odpowiednich społecznościach i opiekunami projektów, aby opracować plan.

Firma Microsoft ponosi odpowiedzialność za tworzenie pakietów typu open source wdrażanych w usłudze AKS. Ta odpowiedzialność obejmuje posiadanie pełnej kontroli nad procesem kompilacji, skanowania, podpisywania, weryfikacji i szybkich poprawek, a także nad plikami binarnymi w obrazach kontenerów. Aby uzyskać więcej informacji, zobacz zarządzanie podatnościami dla AKS i zakres wsparcia dla AKS.

Kiedy używać Kueue

Użyj usługi Kueue dla obciążeń, które mogą czekać na wystarczający przydział i zasoby przed ich uruchomieniem, takie jak:

  • Szkolenie z zakresu sztucznej inteligencji i uczenia maszynowego.
  • Zadania wsadowe intensywnie korzystające z procesora GPU.
  • Przetwarzanie i analiza danych.
  • Dostrajanie hiperparametrów i wnioskowanie wsadowe.
  • Kodowanie multimediów i inne ograniczone zadania przetwarzania.

Usługa Kueue integruje się z zadaniami Kubernetes i obsługiwanymi interfejsami API obciążeń, takimi jak RayJob. Integracje obsługiwane przez rozszerzenie zarządzane są wymienione w przewodniku instalacji zarządzanej.

Dopuszczenie Kueue nie jest tym samym co harmonogramowanie podów ani alokacja pojemności na platformie Azure. Dostępny limit przydziału kolejki nie gwarantuje, że pod może zostać natychmiast przydzielony przez harmonogram. Aby uzyskać informacje na temat aprowizacji pojemności przed przyjęciem, zobacz Korzystanie z zarządzanego Kueue z funkcją automatycznego skalowania klastra.

Poznaj podstawowe pojęcia dotyczące usługi Kueue

Następujące zasoby łączą przesłane obciążenie robocze z limitem przydziału i polityką dopuszczania:

Resource Purpose
ResourceFlavor Opisuje charakterystykę węzła używaną podczas przypisywania zasobów do obciążeń. Rozszerzenie zarządzane generuje warianty dla kwalifikujących się węzłów użytkowników.
ClusterQueue Definiuje przydziały zasobów o zakresie klastra, odwołania do flavorów i zasady, takie jak kolejkowanie i wywłaszczenie zadań.
LocalQueue Udostępnia punkt przesyłania w zakresie przestrzeni nazw, który odwołuje się do elementu ClusterQueue. LocalQueue jest zwykle nazywany od nazwy zespołu, jednostki biznesowej, użytkownika lub projektu.
Workload Rejestruje żądania zasobów obciążenia roboczego, rezerwację limitu i stan przyjęcia. Integracje obsługiwanych obciążeń tworzą ten obiekt.
WorkloadPriorityClass Przypisuje priorytet do obciążeń na potrzeby kolejności dopuszczania i odpowiednich zasad wywłaszczenia. Rozszerzenie dla kodu zarządzanego udostępnia klasy domyślne.

Proces przyjęcia:

Zadanie lub inne obsługiwane obciążenie → LocalQueue → ClusterQueue → kontrole dopuszczenia i rezerwacja limitu przydziału → dopuszczenie obciążenia → planowanie podów

Etykieta kueue.x-k8s.io/queue-name obciążenia identyfikuje LocalQueue w przestrzeni nazw. LocalQueue kieruje obciążenie do swojego ClusterQueue. Jeśli wymagany limit przydziału lub kontrola dopuszczenia nie jest gotowa, obciążenie robocze czeka, a nie uruchamia zasobników.

Limit przydziału ClusterQueue jest zasadą dopuszczania, a nie rozmiarem puli węzłów lub limitem przydziału subskrypcji Azure. Właściciele kolejek konfigurują limity przydziału zgodnie z pojemnością kolejki i zasadami udostępniania.

Poznaj zasoby i priorytety dla zarządzanego przez usługę AKS rozszerzenia Kueue

Rozszerzenie zarządzane generuje zasoby, takie jak ResourceFlavor aks-cpu dla kwalifikujących się węzłów użytkownika CPU, i udostępnia klasy priorytetu obciążenia aks-low-priority, aks-medium-priority i aks-high-priority. Nazwy wariantów GPU zależą od wykrytego sprzętu GPU. Sprawdź zasoby wygenerowane dla klastra, zamiast zakładać nazwę.

Odwołuj się do zasobów zarządzanych z kolejek i obciążeń roboczych. Nie należy ich ponownie utworzyć za pomocą zastrzeżonych nazw usługi AKS ani zmienić ich znaczników ochrony. Nadal jesteś właścicielem obiektów ClusterQueues, LocalQueues, żądań obciążenia i zasad przydziału.

Priorytet ma wpływ na kolejność przyjęć. Umożliwia wywłaszczanie tylko wtedy, gdy polityka wywłaszczania ClusterQueue na to zezwala. Sam wyższy priorytet nie uprawnia obciążenia do wyparcia innego obciążenia. Zobacz przykład zadania o niskim i wysokim priorytcie.

Kueue jest dostępne w zarządzanym rozszerzeniu

Zarządzana wersja zapoznawcza udostępnia następującą konfigurację funkcji:

Funkcja Konfiguracja zarządzana
Planowanie obsługujące topologię (TopologyAwareScheduling) Włączone domyślnie. Skonfiguruj kolejki i obciążenia tak, aby korzystały z rozmieszczania z uwzględnieniem topologii tam, gdzie jest to obsługiwane.
Metryki LocalQueue (LocalQueueMetrics) Włączone domyślnie. Usługa Kueue udostępnia metryki dotyczące aktywności w trybie LocalQueue i dopuszczenia.
Metryki zasobów ClusterQueue Włączona. Usługa Kueue uwidacznia metryki kwoty i użycia zasobów dla każdego ClusterQueue.
Integracje obciążeń roboczych Kubernetes Job, Pod, Deployment, StatefulSet, JobSet, RayJob, RayService, RayCluster, MPIJob i Trainer v2 TrainJob są włączone. Legacy Kubeflow Trainer v1 jobs, AppWrapper i LeaderWorkerSet nie są włączone.
MultiKueue Wyłączone domyślnie. Usługi Azure zarządzają własną konfiguracją w obsługiwanych scenariuszach obejmujących wiele klastrów.

Uwidacznianie metryk nie konfiguruje ich kolekcji ani przechowywania. Skonfiguruj monitorowanie oddzielnie.

Flagi funkcji, konfiguracja kontrolera i integracje obciążeń roboczych są zarządzane w ramach wydania rozszerzenia. Nie można ich nadpisać za pomocą ustawień konfiguracji rozszerzenia dostarczonego przez klienta ani wartości programu Helm. Nadal możesz skonfigurować własne ClusterQueues, LocalQueues, quotas i zasady obciążenia za pomocą interfejsów API Kueue.

Responsibilities

Administratorzy platformy zazwyczaj:

  • Provisionowanie i zarządzanie pulami węzłów AKS.
  • Zainstaluj zarządzane rozszerzenie i sprawdź stan kontrolera.
  • Konfigurowanie ClusterQueues, przydziałów, udostępniania i zasad wywłaszczania.
  • Udostępnij LocalQueues i monitoruj dopuszczanie oraz pojemność klastra.

Właściciele obciążeń zazwyczaj:

  • Prześlij obsługiwane obciążenia do LocalQueue.
  • Wybierz odpowiednią klasę priorytetu obciążenia.
  • Ustaw żądania zasobów i wszelkie wymagane ograniczenia umieszczania.
  • Monitorowanie przyjmowania obciążeń, planowania podów i wyników aplikacji.

Wybór podejścia do instalacji

Użyj zarządzanego rozszerzenia, aby zarządzać obsługiwaną wersją Kueue i konfiguracją kontrolera za pośrednictwem platformy Azure. Usługa AKS generuje również zarządzane klasy ResourceFlavors i udostępnia domyślne klasy priorytetu obciążenia. Wykonaj instrukcje z artykułu Instalowanie zarządzanego rozszerzenia Kueue w usłudze AKS.

Aby uzyskać informacje o wymaganiach dotyczących klastra i klienta, zobacz wymagania wstępne dotyczące rozszerzenia zarządzanego.

Aby uzyskać informacje na temat operacji cyklu życia, zobacz Odinstalowywanie zarządzanego rozszerzenia Kueue. Odinstalowywanie usuwa niestandardowe zasoby Kueue i konfigurację kolejki; nie jest to obejście problemów ze stanem kontrolera.

Jeśli musisz wybrać własną wersję Kueue lub konfigurację kontrolera i zarządzać nimi, możesz też zainstalować projekt open source, na przykład za pomocą Helm. Użyj instrukcji instalacji upstream Kueue dla tej ścieżki zamiast stosowania poleceń instalacji upstream do zarządzanego rozszerzenia.

Oddzielnie zarządzaj konfiguracją i cyklem życia instalacji hostowanej samodzielnie. Nie uruchamiaj własnego kontrolera Kueue obok zarządzanego rozszerzenia w tym samym klastrze.

Następne kroki