Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Aby umożliwić klastrowi usługi Azure Kubernetes Service (AKS) lub klastrowi Kubernetes z obsługą usługi Azure Arc uruchamianie zadań trenowania lub obciążeń inferencyjnych, najpierw wdroż rozszerzenie Azure Machine Learning. Rozszerzenie Azure Machine Learning jest rozszerzeniem klastra Standard dla AKS oraz rozszerzeniem klastra dla klastra Kubernetes z włączoną usługą Azure Arc. Można zarządzać jego cyklem życia za pomocą Azure CLI k8s-extension.
Z tego artykułu dowiesz się więcej o:
- Wymagania wstępne
- Ograniczenia
- Przegląd ustawień konfiguracji rozszerzenia usługi Azure Machine Learning
- Scenariusze wdrażania rozszerzenia usługi Azure Machine Learning
- Weryfikacja wdrożenia rozszerzenia usługi Azure Machine Learning
- Przegląd składników rozszerzenia usługi Azure Machine Learning
- Zarządzanie rozszerzeniem usługi Azure Machine Learning
Wymagania wstępne
- Klaster usługi AKS uruchomiony na platformie Azure. Jeśli wcześniej nie używasz rozszerzeń klastra, musisz zarejestrować dostawcę usługi KubernetesConfiguration.
- Lub klaster Kubernetes z obsługą usługi Azure Arc, który już działa. Postępuj zgodnie z instrukcjami w artykule Łączenie istniejącego klastra Kubernetes z usługą Azure Arc.
- Jeśli klaster jest klastrem usługi Azure Red Hat OpenShift (ARO) lub klastrem OpenShift Container Platform (OCP), należy spełnić inne kroki wymagań wstępnych zgodnie z opisem w artykule Reference for configuring Kubernetes cluster (Dokumentacja konfigurowania klastra Kubernetes).
- W celach produkcyjnych klaster Kubernetes musi mieć co najmniej 4 rdzenie wirtualne i 14 GB pamięci. Aby uzyskać więcej informacji na temat szczegółów zasobów i zaleceń dotyczących rozmiaru klastra, zobacz Zalecane planowanie zasobów.
- Klaster działający za serwerem proxy dla ruchu wychodzącego lub zaporą wymaga dodatkowych konfiguracji sieciowych.
- Zainstaluj lub uaktualnij interfejs wiersza polecenia platformy Azure do wersji 2.51.0 lub nowszej.
- Zainstaluj lub uaktualnij rozszerzenie
k8s-extensioninterfejsu wiersza polecenia platformy Azure do wersji 1.2.3 lub nowszej.
Ograniczenia
- Azure Machine Learning nie obsługujeużywania jednostki usługi z usługą AKS. Klaster AKS musi zamiast tego korzystać z tożsamości zarządzanej. Obsługiwana jest zarówno tożsamość zarządzana przypisana przez system, jak i tożsamość zarządzana przypisana przez użytkownika. Aby uzyskać więcej informacji, zobacz Use a managed identity in Azure Kubernetes Service (Używanie tożsamości zarządzanej w usłudze Azure Kubernetes Service).
- Podczas konwersji klastra AKS z jednostki usługi na tożsamość zarządzaną należy usunąć i ponownie utworzyć wszystkie pule węzłów przed zainstalowaniem rozszerzenia. Nie można bezpośrednio zaktualizować pul węzłów.
- Azure Machine Learning nie obsługujewyłączania kont lokalnych w usłudze AKS. Podczas wdrażania klastra usługi AKS konta lokalne są domyślnie włączone.
- Jeśli klaster usługi AKS ma włączony autoryzowany zakres adresów IP umożliwiający dostęp do serwera interfejsu API, należy włączyć zakresy adresów IP płaszczyzny sterowania usługi Azure Machine Learning dla klastra usługi AKS. Płaszczyzna sterowania usługi Azure Machine Learning jest wdrożona we wszystkich sparowanych regionach. Bez dostępu do serwera interfejsu API zasobniki uczenia maszynowego nie mogą zostać wdrożone. Podczas włączania zakresów IP w klastrze AKS użyj ich dla obu sparowanych regionów.
- Usługa Azure Machine Learning nie obsługuje dołączania klastra AKS z innej subskrypcji. Jeśli masz klaster usługi AKS w innej subskrypcji, musisz najpierw połączyć go z usługą Azure Arc i określić w tej samej subskrypcji co obszar roboczy usługi Azure Machine Learning.
- Usługa Azure Machine Learning nie gwarantuje obsługi wszystkich funkcji etapu w wersji zapoznawczej w usłudze AKS. Na przykład tożsamość zarządzana Microsoft Entra (przestarzała) nie jest obsługiwana. Zamiast tego użyj Tożsamość obciążeń Microsoft Entra.
- Jeśli wykonano kroki opisane w dokumencie Azure Machine Learning AKS w wersji 1, aby utworzyć lub dołączyć klaster AKS jako klaster wnioskowania, przed przejściem do następnego kroku użyj następującego linku, aby usunąć starsze zasoby powiązane z azureml-fe.
- Rozszerzenie Azure Machine Learning nie jest obecnie obsługiwane w architekturach ARM64. Użyj pul węzłów z architekturą x86_64 (
amd64) dla rozszerzenia. Pula węzłów usługi AKS nie może łączyćamd64i typów SKU maszyn wirtualnych ARM64, dlatego wybierz typy SKU maszyn wirtualnych dla puli węzłów zgodne z obsługiwaną architekturą i nie łącz architektur w obrębie tej samej puli węzłów. Jeśli klaster ma mieszane pule węzłów, użyjnodeSelector, aby kierować rozszerzenie i obciążenia robocze do węzłów z obsługiwaną architekturą.
Przegląd ustawień konfiguracji rozszerzenia usługi Azure Machine Learning
Użyj polecenia Azure CLI az k8s-extension create, aby wdrożyć rozszerzenie Azure Machine Learning. Polecenie az k8s-extension create akceptuje ustawienia konfiguracji jako pary key=value rozdzielone spacjami za pośrednictwem parametru --config lub --config-protected. W poniższej tabeli wymieniono dostępne ustawienia konfiguracji, które można określić podczas wdrażania.
| Nazwa klucza ustawienia konfiguracji | Opis | Szkolenia | Wnioskowanie | Uczenie i wnioskowanie |
|---|---|---|---|---|
enableTraining |
True lub False, wartość domyślna False.
Musi być ustawione na True w przypadku wdrażania rozszerzenia Azure Machine Learning z obsługą trenowania modeli uczenia maszynowego i oceniania wsadowego. |
✓ | Nie dotyczy | ✓ |
enableInference |
True lub False, wartość domyślna False.
Musi być ustawiona na True na potrzeby wdrożenia rozszerzenia Azure Machine Learning z obsługą inferencji uczenia maszynowego. |
Nie dotyczy | ✓ | ✓ |
allowInsecureConnections |
True lub False, wartość domyślna False.
Można ustawić na wartość True, aby używać punktów końcowych HTTP inferencji do celów programistycznych lub testowych. |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
inferenceRouterServiceType |
loadBalancer, nodePortlub clusterIP.
Wymagane , jeśli enableInference=True. |
Nie dotyczy | ✓ | ✓ |
internalLoadBalancerProvider |
Ta konfiguracja ma zastosowanie tylko do klastra usługi Azure Kubernetes Service(AKS). Ustaw na azure, aby zezwolić routerowi inferencji na korzystanie z wewnętrznego modułu równoważenia obciążenia. |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
sslSecret |
Nazwa sekretu Kubernetes w przestrzeni nazw azureml. Ta konfiguracja służy do przechowywania cert.pem (certyfikatu TLS/SSL zakodowanego za pomocą protokołu PEM) i key.pem (klucza TLS/SSL zakodowanego za pomocą protokołu PEM), które są wymagane do obsługi punktu końcowego HTTPS wnioskowania, gdy allowInsecureConnections jest ustawiona wartość False. Przykładową definicję YAML elementu sslSecret znajdziesz w artykule Konfigurowanie sslSecret. Użyj tej konfiguracji lub kombinacji ustawień chronionej konfiguracji sslCertPemFile i sslKeyPemFile. |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
sslCname |
Rekord CNAME TLS/SSL jest używany przez punkt końcowy HTTPS do wnioskowania.
Wymagane , jeśli allowInsecureConnections=False |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
inferenceRouterHA |
True lub False, wartość domyślna True. Domyślnie rozszerzenie usługi Azure Machine Learning wdraża trzy repliki routera wnioskowania w celu zapewnienia wysokiej dostępności, co wymaga co najmniej trzech węzłów roboczych w klastrze. Ustaw na False, jeśli klaster ma mniej niż trzy węzły robocze; w takim przypadku zostanie wdrożona tylko jedna usługa routera inferencyjnego. |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
nodeSelector |
Domyślnie wdrożone zasoby kubernetes i obciążenia uczenia maszynowego są losowo wdrażane w co najmniej jednym węźle klastra, a zasoby daemonSet są wdrażane we wszystkich węzłach. Jeśli chcesz ograniczyć wdrażanie rozszerzenia oraz zadania trenowania/wnioskowania do określonych węzłów oznaczonych etykietami key1=value1 i key2=value2, użyj odpowiednio nodeSelector.key1=value1 i nodeSelector.key2=value2. |
Opcjonalnie | Opcjonalnie | Opcjonalnie |
installNvidiaDevicePlugin |
True lub False, wartość domyślna False.
Wtyczka urządzenia NVIDIA jest wymagana w przypadku obciążeń uczenia maszynowego na sprzęcie GPU firmy NVIDIA. Domyślnie wdrożenie rozszerzenia usługi Azure Machine Learning nie instaluje wtyczki urządzenia NVIDIA, niezależnie od tego, czy klaster Kubernetes ma sprzęt procesora GPU, czy nie. Użytkownik może określić to ustawienie na True, aby je zainstalować, ale upewnij się, że spełnia wymagania wstępne. |
Opcjonalnie | Opcjonalnie | Opcjonalnie |
installPromOp |
True lub False, wartość domyślna True. Rozszerzenie Azure Machine Learning wymaga operatora Prometheus do zarządzania usługą Prometheus. Ustaw na False, aby ponownie użyć istniejącego operatora Prometheus. Aby uzyskać więcej informacji na temat ponownego użycia istniejącego operatora Prometheus, zobacz ponowne użycie operatora Prometheus |
Opcjonalnie | Opcjonalnie | Opcjonalnie |
installVolcano |
True lub False, wartość domyślna True. Rozszerzenie Azure Machine Learning wymaga schedulera Volcano do planowania zadania. Ustaw na False, aby ponownie użyć istniejącego harmonogramu Volcano. Aby uzyskać więcej informacji o ponownym użyciu istniejącego harmonogramu wulkanów, zobacz ponowne używanie harmonogramu wulkanu |
Opcjonalnie | Nie dotyczy | Opcjonalnie |
installDcgmExporter |
True lub False, wartość domyślna False. Eksporter Dcgm może uwidaczniać metryki procesora GPU dla obciążeń usługi Azure Machine Learning, które można monitorować w witrynie Azure Portal. Ustaw installDcgmExporter na True, aby zainstalować dcgm-exporter. Ale jeśli chcesz wykorzystać własny eksporter dcgm, zobacz eksporter DCGM |
Opcjonalnie | Opcjonalnie | Opcjonalnie |
| Nazwa klucza chronionego ustawienia konfiguracji | Opis | Szkolenia | Wnioskowanie | Uczenie i wnioskowanie |
|---|---|---|---|---|
sslCertPemFile, sslKeyPemFile |
Ścieżka do certyfikatu TLS/SSL i pliku klucza prywatnego (w formacie PEM), wymagana do wdrożenia rozszerzenia Azure Machine Learning z obsługą punktu końcowego inferencji HTTPS, gdy allowInsecureConnections ma wartość False.
Uwaga: plik PEM zabezpieczony hasłem nie jest obsługiwany |
Nie dotyczy | Opcjonalnie | Opcjonalnie |
Jak widać w tabeli ustawień konfiguracji, kombinacje różnych ustawień konfiguracji umożliwiają wdrażanie rozszerzenia usługi Azure Machine Learning dla różnych scenariuszy obciążeń uczenia maszynowego:
- W przypadku zadania szkoleniowego i obciążenia wnioskowania wsadowego określ
enableTraining=True - Tylko w przypadku obciążenia związanego z wnioskowaniem określ
enableInference=True - Dla wszystkich typów obciążeń związanych z uczeniem maszynowym określ zarówno
enableTraining=True, jak ienableInference=True
Jeśli planujesz wdrożyć rozszerzenie usługi Azure Machine Learning dla obciążenia wnioskowania w czasie rzeczywistym i chcesz określić enableInference=True, zwróć uwagę na następujące ustawienia konfiguracji związane z obciążeniem wnioskowania w czasie rzeczywistym:
-
azureml-feusługa routera jest wymagana do obsługi wnioskowania w czasie rzeczywistym i należy określić ustawienie konfiguracyjneinferenceRouterServiceTypedlaazureml-fe. Router jest wdrażany jakoazureml-fe-v2wdrożenie platformy Kubernetes, które jest wyświetlane w składnikach rozszerzenia.azureml-femożna wdrożyć przy użyciu jednego z następujących elementówinferenceRouterServiceType:- Wpisz
loadBalancer. Uwidaczniaazureml-fezewnętrznie przy użyciu modułu równoważenia obciążenia dostawcy usług w chmurze. Aby określić tę wartość, upewnij się, że klaster obsługuje udostępnianie usługi równoważenia obciążenia. Zwróć uwagę, że większość lokalnych klastrów Kubernetes może nie obsługiwać zewnętrznego modułu równoważenia obciążenia. - Wpisz
nodePort. Uwidaczniaazureml-feadres IP każdego węzła na porcie statycznym. Możesz skontaktować się zazureml-fe, spoza klastra, wysyłając żądanie<NodeIP>:<NodePort>. UżycienodePortumożliwia również skonfigurowanie własnego rozwiązania do równoważenia obciążenia i kończenia żądań TLS/SSL dla usługiazureml-fe. Aby uzyskać więcej informacji na temat konfigurowania własnego ingressu, zobacz Integrowanie innego kontrolera ingress z rozszerzeniem Azure Machine Learning przez HTTP lub HTTPS. - Wpisz
clusterIP. Udostępniaazureml-fepod wewnętrznym adresem IP klastra i sprawia, żeazureml-fejest dostępny tylko z wnętrza klastra. Abyazureml-femogło obsługiwać żądania inferencyjne przychodzące spoza klastra, musisz skonfigurować własne rozwiązanie do równoważenia obciążenia oraz terminację TLS/SSL dlaazureml-fe. Aby uzyskać więcej informacji na temat konfigurowania własnego ingressu, zobacz Integrowanie innego kontrolera ingress z rozszerzeniem Azure Machine Learning przez HTTP lub HTTPS.
- Wpisz
- Aby zapewnić wysoką dostępność usługi routingu
azureml-fe, wdrożenie rozszerzenia usługi Azure Machine Learning domyślnie tworzy trzy repliki klastrówazureml-fez trzema węzłami lub więcej. Jeśli klaster ma mniej niż 3 węzły, ustaw wartośćinferenceRouterHA=False. - Należy również rozważyć użycie protokołu HTTPS w celu ograniczenia dostępu do punktów końcowych modelu i zabezpieczenia przesyłanych danych. W tym celu należy określić ustawienie konfiguracyjne
sslSecretlub kombinację chronionych ustawień konfiguracyjnychsslKeyPemFileisslCertPemFile. - Domyślnie wdrożenie rozszerzenia usługi Azure Machine Learning oczekuje ustawień konfiguracji dla obsługi protokołu HTTPS . Do celów programistycznych lub testowych obsługa HTTP jest dostępna poprzez ustawienie konfiguracyjne
allowInsecureConnections=True.
Wdrażanie rozszerzenia usługi Azure Machine Learning — przykłady interfejsu wiersza polecenia i portalu Azure
Aby wdrożyć rozszerzenie Azure Machine Learning przy użyciu interfejsu wiersza polecenia, użyj polecenia az k8s-extension create i podaj wartości obowiązkowych parametrów.
Poniższa lista zawiera opis czterech typowych scenariuszy wdrażania rozszerzeń. Aby wdrożyć rozszerzenie dla użycia produkcyjnego, dokładnie przeczytaj pełną listę ustawień konfiguracji.
Użyj klastra usługi AKS w Azure w celu szybkiego weryfikacji koncepcji uruchamiania wszelkiego rodzaju obciążenia uczenia maszynowego, na przykład do uruchamiania zadań szkoleniowych lub wdrażania modeli jako punktów końcowych w trybie online/partii
W przypadku wdrożenia rozszerzenia Azure Machine Learning w klastrze usługi AKS określ wartość
managedClustersdla parametru--cluster-type. Uruchom następujące polecenie interfejsu wiersza polecenia platformy Azure, aby wdrożyć rozszerzenie usługi Azure Machine Learning:az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=loadBalancer allowInsecureConnections=True inferenceRouterHA=False --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <your-RG-name> --scope clusterUżyj klastra Kubernetes z obsługą Azure Arc poza platformą Azure w celu szybkiego sprawdzenia koncepcji oraz do uruchamiania tylko zadań szkoleniowych
W przypadku wdrażania rozszerzenia Azure Machine Learning w klastrze Kubernetes z obsługą usługi Azure Arc określ wartość
connectedClustersdla parametru--cluster-type. Uruchom następujące polecenie interfejsu wiersza polecenia platformy Azure, aby wdrożyć rozszerzenie usługi Azure Machine Learning:az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <your-RG-name> --scope clusterWłącz klaster AKS w usłudze Azure na potrzeby produkcyjnych obciążeń związanych ze szkoleniem i wnioskowaniem W przypadku wdrażania rozszerzenia Azure Machine Learning w usłudze AKS określ wartość
managedClustersdla parametru--cluster-type. Zakładając, że klaster ma więcej niż trzy węzły i używasz publicznego modułu równoważenia obciążenia platformy Azure i protokołu HTTPS do obsługi obciążeń wnioskowania. Uruchom następujące polecenie interfejsu wiersza polecenia platformy Azure, aby wdrożyć rozszerzenie usługi Azure Machine Learning:az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=loadBalancer sslCname=<ssl cname> --config-protected sslCertPemFile=<file-path-to-cert-PEM> sslKeyPemFile=<file-path-to-cert-KEY> --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <your-RG-name> --scope clusterWłączanie klastra Kubernetes z obsługą usługi Azure Arc w dowolnym miejscu na potrzeby trenowania produkcyjnego i wnioskowania obciążenia przy użyciu procesorów GPU FIRMY NVIDIA
W przypadku wdrażania rozszerzenia Azure Machine Learning w klastrze Kubernetes z obsługą usługi Azure Arc określ wartość
connectedClustersdla parametru--cluster-type. Zakładając, że klaster ma więcej niż trzy węzły, użyj typu usługi NodePort i protokołu HTTPS na potrzeby obsługi obciążenia wnioskowania, uruchom następujące polecenie interfejsu wiersza polecenia platformy Azure, aby wdrożyć rozszerzenie usługi Azure Machine Learning:az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=nodePort sslCname=<ssl cname> installNvidiaDevicePlugin=True installDcgmExporter=True --config-protected sslCertPemFile=<file-path-to-cert-PEM> sslKeyPemFile=<file-path-to-cert-KEY> --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <your-RG-name> --scope cluster
Weryfikacja wdrożenia rozszerzenia usługi Azure Machine Learning
Uruchom odpowiednie polecenie interfejsu wiersza polecenia, aby sprawdzić szczegóły rozszerzenia usługi Azure Machine Learning:
AKS
az k8s-extension show --name <extension-name> --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <resource-group>Kubernetes obsługiwany przez Azure Arc
az k8s-extension show --name <extension-name> --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <resource-group>W odpowiedzi poszukaj
"name"i"provisioningState": "Succeeded". Przez pierwsze kilka minut może wyświetlać się"provisioningState": "Pending".Jeśli parametr provisioningState ma wartość Succeeded, uruchom na swoim komputerze następujące polecenie, używając pliku kubeconfig wskazującego klaster, aby sprawdzić, czy wszystkie pody w przestrzeni nazw
azuremlsą w stanieRunning:kubectl get pods -n azureml
Przegląd składnika rozszerzenia usługi Azure Machine Learning
Po zakończeniu wdrażania rozszerzenia Azure Machine Learning użyj kubectl get deployments -n azureml, aby wyświetlić listę zasobów utworzonych w klastrze. Lista zwykle składa się z podzestawu następujących zasobów, w zależności od ustawień konfiguracji, które określisz.
| Nazwa zasobu | Typ zasobu | Szkolenia | Wnioskowanie | Uczenie i wnioskowanie | Opis | Komunikacja z chmurą |
|---|---|---|---|---|---|---|
| serwer pośredniczący | Wdrożenie rozwiązania Kubernetes | ✓ | ✓ | ✓ | Wdrożenie tworzy serwer przekaźnika tylko dla klastrów Kubernetes z obsługą usługi Azure Arc, a nie w klastrach AKS. Serwer relay współpracuje z usługą Azure Relay w celu komunikowania się z usługami w chmurze. | Odbierz żądanie utworzenia zadania, wdrożenie modelu z usługi w chmurze; zsynchronizuj stan zadania z usługą w chmurze. |
| brama | Wdrożenie rozwiązania Kubernetes | ✓ | ✓ | ✓ | Brama służy do komunikowania się i wysyłania danych tam i z powrotem. | Wysyłaj węzły i informacje o zasobach klastra do usług w chmurze. |
| aml-operator | Wdrożenie rozwiązania Kubernetes | ✓ | Nie dotyczy | ✓ | Zarządzanie cyklem życia zadań szkoleniowych. | Wymiana tokenów z usługą tokenu w chmurze na potrzeby uwierzytelniania i autoryzacji usługi Azure Container Registry. |
| metryki-kontroler-menedżer | Wdrożenie rozwiązania Kubernetes | ✓ | ✓ | ✓ | Zarządzanie konfiguracją rozwiązania Prometheus | Nie dotyczy |
| {EXTENSION-NAME}-kube-state-metrics | Wdrożenie rozwiązania Kubernetes | ✓ | ✓ | ✓ | Wyeksportuj metryki związane z klastrem do rozwiązania Prometheus. | Nie dotyczy |
| {EXTENSION-NAME}-prometheus-operator | Wdrożenie rozwiązania Kubernetes | Opcjonalnie | Opcjonalnie | Opcjonalnie | Zapewnia natywne wdrażanie w środowisku Kubernetes oraz zarządzanie rozwiązaniem Prometheus i powiązanymi komponentami monitoringu. | Nie dotyczy |
| amlarc-identity-controller | Wdrożenie rozwiązania Kubernetes | Nie dotyczy | ✓ | ✓ | Zażądaj i odnów token usługi Azure Blob/Azure Container Registry za pomocą tożsamości zarządzanej. | Wymiana tokenów z usługą tokenów w chmurze do uwierzytelniania i autoryzacji usług Azure Container Registry i Azure Blob używanych do wdrażania inferencji/modeli. |
| amlarc-identity-proxy | Wdrożenie rozwiązania Kubernetes | Nie dotyczy | ✓ | ✓ | Zażądaj i odnów token usługi Azure Blob/Azure Container Registry za pomocą tożsamości zarządzanej. | Wymiana tokenów z usługą tokenów w chmurze do uwierzytelniania i autoryzacji usług Azure Container Registry i Azure Blob używanych do wdrażania inferencji/modeli. |
| azureml-fe-v2 | Wdrożenie rozwiązania Kubernetes | Nie dotyczy | ✓ | ✓ | Składnik front-endu, który kieruje przychodzące żądania inferencyjne do wdrożonych usług. | Wysyłanie dzienników usługi do obiektu blob platformy Azure. |
| Menadżer operacji wnioskowania zarządcy kontrolera | Wdrożenie rozwiązania Kubernetes | Nie dotyczy | ✓ | ✓ | Zarządzanie cyklem życia punktów końcowych wnioskowania. | Nie dotyczy |
| wstęp do wulkanu | Wdrożenie rozwiązania Kubernetes | Opcjonalnie | Nie dotyczy | Opcjonalnie | Webhook dopuszczający Volcano. | Nie dotyczy |
| kontrolery wulkanów | Wdrożenie rozwiązania Kubernetes | Opcjonalnie | Nie dotyczy | Opcjonalnie | Zarządzanie cyklem życia zasobników zadań szkoleniowych usługi Azure Machine Learning. | Nie dotyczy |
| planista wulkanu | Wdrożenie rozwiązania Kubernetes | Opcjonalnie | Nie dotyczy | Opcjonalnie | Służy do planowania zadań w klastrze. | Nie dotyczy |
| fluent-bit | DaemonSet Kubernetes | ✓ | ✓ | ✓ | Pobierz dziennik systemowy składników. | Prześlij dziennik systemowy składników do chmury. |
| {EXTENSION-NAME}-dcgm-exporter | DaemonSet Kubernetes | Opcjonalnie | Opcjonalnie | Opcjonalnie | dcgm-exporter udostępnia metryki GPU dla Prometheusa. | Nie dotyczy |
| nvidia-device-plugin-daemonset | DaemonSet Kubernetes | Opcjonalnie | Opcjonalnie | Opcjonalnie | nvidia-device-plugin-daemonset udostępnia procesory graficzne (GPU) w każdym węźle twojego klastra | Nie dotyczy |
| prometheus-prom-prometheus | Stanowy zestaw kubernetes | ✓ | ✓ | ✓ | Zbieranie i wysyłanie metryk zadań do chmury. | Wysyłaj metryki zadań, takie jak użycie procesora CPU/procesora GPU/pamięci do chmury. |
Ważne
- Zasób Azure Relay znajduje się w tej samej grupie zasobów co zasób klastra Arc. Służy do komunikowania się z klastrem Kubernetes. Zmiana tego powoduje uszkodzenie dołączonych celów obliczeniowych.
- Domyślnie zasoby Deployment są rozmieszczane losowo na co najmniej jednym węźle klastra, a zasoby DaemonSet są rozmieszczane na wszystkich węzłach. Aby ograniczyć wdrożenie rozszerzenia do określonych węzłów, użyj
nodeSelectorustawienia konfiguracji opisanego w tabeli ustawień konfiguracji.
Uwaga
-
{EXTENSION-NAME}: to nazwa rozszerzenia, którą określasz za pomocą polecenia interfejsu wiersza polecenia
az k8s-extension create --name.
Zarządzanie rozszerzeniem usługi Azure Machine Learning
Aktualizowanie, wyświetlanie listy, pokazywanie i usuwanie rozszerzenia Azure Machine Learning.
- W przypadku klastrów usługi AKS niepołączonych z usługą Azure Arc zobacz Wdrażanie rozszerzeń klastra i zarządzanie nimi.
- W przypadku usługi Kubernetes z obsługą usługi Azure Arc zobacz Wdrażanie rozszerzeń klastra usługi Kubernetes z obsługą usługi Azure Arc i zarządzanie nimi.