Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Kueue tillhandahåller Kubernetes-inbyggda jobbköer och resursgodkännande för batch- och AI-arbetsbelastningar. Den bestämmer när en arbetslast kan starta baserat på tillgänglig kvot för kön och konfigurerade policyer. Efter godkännande placerar Kubernetes-schemaläggaren arbetsbelastningens poddar på noder.
På Azure Kubernetes Service (AKS) använder du helst det hanterade Kueue-tillägget (förhandsversion) för att installera och hantera den Kueue-kontrollant som stöds och generera hanterade resurser för klustret. Se Installera det hanterade Kueue-tillägget på AKS.
I den här artikeln beskrivs de grundläggande begreppen kueue och det hanterade Kueue-tillägget.
Important
Programvara med öppen källkod nämns i hela AKS-dokumentationen och exemplen. Programvaran som du distribuerar är undantagen från AKS-servicenivåavtal, begränsad garanti och Azure-support. När du använder open-source-teknik tillsammans med AKS, konsultera de supportalternativ som finns tillgängliga från respektive gemenskaper och projektunderhållare för att utveckla en plan.
Microsoft tar ansvar för att skapa de paket med öppen källkod som vi distribuerar på AKS. Det ansvaret omfattar att ha fullständigt ägarskap för bygg-, genomsöknings-, signerings-, validerings- och snabbkorrigeringsprocessen, tillsammans med kontroll över binärfilerna i containeravbildningar. Mer information finns i Sårbarhetshantering för AKS - och AKS-stödtäckning.
När du ska använda Kueue
Använd Kueue för arbetsbelastningar som kan vänta på tillräcklig kvot och resurser innan de körs, till exempel:
- Träning i AI och maskininlärning.
- GPU-intensiva batchjobb.
- Databearbetning och analys.
- Hyperparameterjustering och batchinferens.
- Mediekodning och andra avgränsade bearbetningsjobb.
Kueue integreras med Kubernetes-jobb och arbetsbelastnings-API:er som stöds, till exempel RayJob. De integreringar som stöds av det hanterade tillägget visas i guiden för hanterad installation.
Kueue admission är inte samma sak som poddschemaläggning eller Azure kapacitetsallokering. Tillgänglig kvot för kö garanterar inte att en podd kan schemaläggas omedelbart. Information om kapacitetsetablering före insläppning finns i Använda hanterad Kueue med Cluster Autoscaler.
Förstå grundläggande begrepp i Kueue
Följande resurser kopplar en skickad arbetslast till en kvot- och antagningspolicy:
| Resource | Purpose |
|---|---|
ResourceFlavor |
Beskriver de nodegenskaper som används när du tilldelar resurser till arbetsbelastningar. Det hanterade tillägget genererar flavors för kvalificerade användarnoder. |
ClusterQueue |
Definierar klusteromfattande resurskvoter, flavor-referenser och principer som köning och preemption. |
LocalQueue |
Tillhandahåller en inlämningspunkt inom ett namnområde som refererar till en ClusterQueue.
LocalQueue namnges vanligtvis efter ett team, en affärsenhet, en användare eller ett projekt. |
Workload |
Registrerar resursbegäranden för en arbetslast, kvotreservation och admissionstillstånd. Arbetsbelastningsintegreringar som stöds skapar det här objektet. |
WorkloadPriorityClass |
Tilldelar en prioritet till arbetslaster för ordning för antagning och tillämpliga preemptionspolicyer. Det hanterade tillägget tillhandahåller standardklasser. |
Antagningsflödet är:
Jobb eller annan arbetsbelastning som stöds → LocalQueue → ClusterQueue → godkännandekontroller och kvotreservation → godkännande av arbetsbelastning → poddschemaläggning
Etiketten för en arbetsbelastning kueue.x-k8s.io/queue-name identifierar en LocalQueue i dess namnområde. LocalQueue dirigerar arbetsbelastningen till sin ClusterQueue. Om den nödvändiga kvoten eller en admission-kontroll inte är klar väntar arbetsbelastningen i stället för att starta poddarna.
En ClusterQueue-kvot är en antagningspolicy, inte en nodpoolsstorlek eller en Azure-prenumerationskvot. Köägare konfigurerar kvoter enligt kapacitets- och delningspolicy.
Förstå hanterade resurser och prioriteringar för det AKS-hanterade Kueue-tillägget
Det hanterade tillägget genererar resurser som aks-cpu ResourceFlavor för kvalificerade CPU-användarnoder och tillhandahåller arbetsbelastningsprioritetsklasserna aks-low-priority, aks-medium-priority och aks-high-priority. Namn på GPU-varianter beror på den identifierade GPU-maskinvaran. Granska de resurser som genererats för klustret i stället för att förutsätta ett resursnamn.
Resurser som refereras från dina köer och arbetslaster. Återskapa dem inte med reserverade AKS-namn eller ändra deras skyddsmarkörer. Du äger fortfarande dina ClusterQueues, LocalQueues, arbetsbelastningsbegäranden och kvotprinciper.
Prioritet påverkar antagningsordningen. Det möjliggör endast preemption när ClusterQueues preemption-princip tillåter det. Enbart en högre prioritet tillåter inte att en arbetsbelastning tränger undan en annan arbetsbelastning. Se exemplet med låg- och högprioriterade jobb.
Kueue finns i det hanterade tillägget
Den hanterade förhandsvisningen innehåller följande funktionskonfiguration:
| Egenskap | Hanterad konfiguration |
|---|---|
Topologimedveten schemaläggning (TopologyAwareScheduling) |
Aktiverad som standard. Konfigurera dina köer och arbetsbelastningar så att de använder topologimedveten placering där det stöds. |
LocalQueue-mått (LocalQueueMetrics) |
Aktiverad som standard. Kueue visar mätvärden om LocalQueue-aktivitet och admissions. |
| Resursmått för ClusterQueue | Aktiverad. Kueue tillhandahåller kvot- och resursanvändningsmätvärden per ClusterQueue. |
| Arbetsbelastningsintegrationer | Kubernetes Job, Pod, Deployment, StatefulSet, JobSet, RayJob, RayService, RayCluster, MPIJob och Trainer v2 TrainJob är aktiverade. Äldre Kubeflow Trainer v1-jobb, AppWrapper och LeaderWorkerSet är inte aktiverade. |
| MultiKueue | Inaktiverat som standard. Azure-tjänster hanterar sin konfiguration för scenarier med flera kluster som stöds. |
Att exponera mätvärden konfigurerar inte deras samling eller lagring. Konfigurera övervakning separat.
Feature-flaggor, konfiguration av styrenheter och integreringar för arbetsbelastningar hanteras som en del av utgåvan av tillägget. Du kan inte åsidosätta dem via konfigurationsinställningar för tillägg som tillhandahålls av kunden eller Helm values. Du kan fortfarande konfigurera egna ClusterQueues-, LocalQueues-, kvot- och arbetsbelastningsprinciper via Kueue-API:erna.
Responsibilities
Administratörer för plattformen vanligtvis:
- Etablera och hantera AKS-nodpooler.
- Installera det hanterade tillägget och verifiera styrenhetens hälsotillstånd.
- Konfigurera ClusterQueues, kvoter, delning och preemptionsprinciper.
- Ange LocalQueues och övervaka admissions- och klusterkapacitet.
Arbetsbelastningsägare brukar:
- Skicka arbetsbelastningar som stöds till en LocalQueue.
- Välj en lämplig prioritetsklass för arbetsbelastning.
- Ange resursbegäranden och eventuella obligatoriska placeringsbegränsningar.
- Övervaka arbetsbelastningsinmatning, podschemaläggning och programutdata.
Välj en installationsmetod
Rekommenderat: hanterat tillägg för Kueue
Använd det hanterade tillägget för att hantera den Kueue-version och den styrenhetskonfiguration som stöds via Azure. AKS genererar även hanterade ResourceFlavors och tillhandahåller standardprioritetsklasser för arbetsbelastningar. Följ anvisningarna i Installera det hanterade Kueue-tillägget på AKS.
För kluster- och klientkrav, se förutsättningarna för det hanterade tillägget.
För livscykelåtgärder, se Avinstallera det hanterade Kueue-tillägget. Avinstallationen tar bort kueue-anpassade resurser och kökonfiguration. Det är inte en tillfällig lösning för styrenhetens hälsa.
Alternativ (rekommenderas inte)
Om du behöver välja och hantera din egen Kueue-version eller konfiguration för kontrollern kan du också installera projektet med öppen källkod, inklusive via Helm. Använd installationsanvisningarna för Kueue uppströms för den sökvägen i stället för att tillämpa installationskommandon uppströms på ett hanterat tillägg.
Hantera konfigurationen och livscykeln för en självhostad installation separat. Kör inte en självhanterad Kueue-styrenhet tillsammans med det hanterade tillägget i samma kluster.