Izolacja sieci dzięki zarządzanym punktom końcowym online

DOTYCZY:Rozszerzenie interfejsu wiersza polecenia platformy Azure ml w wersji 2 (bieżąca)Zestaw PYTHON SDK azure-ai-ml v2 (bieżąca)

Podczas wdrażania modelu uczenia maszynowego w zarządzanym punkcie końcowym online można zabezpieczyć komunikację z punktem końcowym online przy użyciu prywatnych punktów końcowych. Z tego artykułu dowiesz się, jak prywatny punkt końcowy może zabezpieczyć komunikację przychodzącą z zarządzanym punktem końcowym online. Dowiesz się również, jak zarządzana sieć wirtualna obszaru roboczego może zapewnić bezpieczną komunikację między wdrożeniami i zasobami.

Możesz zabezpieczyć przychodzące żądania oceniania od klientów do internetowego punktu końcowego i zabezpieczyć komunikację wychodzącą między wdrożeniem, używanymi przez nie zasobami platformy Azure i zasobami prywatnymi. Zabezpieczenia dla komunikacji przychodzącej i wychodzącej można skonfigurować oddzielnie. Aby uzyskać więcej informacji na temat punktów końcowych i wdrożeń, zobacz Co to są punkty końcowe i wdrożenia.

Na poniższym diagramie architektury pokazano, jak komunikacja przepływa przez prywatne punkty końcowe do zarządzanego punktu końcowego online. Przychodzące żądania oceniania z sieci wirtualnej klienta przepływają przez prywatny punkt końcowy przestrzeni roboczej do zarządzanego punktu końcowego online. Komunikacja wychodząca z wdrożonych zasobów do usług jest obsługiwana za pośrednictwem prywatnych punktów końcowych z zarządzanej sieci wirtualnej obszaru roboczego do tych wystąpień usługi.

Ograniczenia

• Flaga v1_legacy_mode musi zostać ustawiona na false, aby wyłączyć tryb wstecznej kompatybilności wersji 1 w obszarze roboczym usługi Azure Machine Learning. Jeśli to ustawienie jest włączone, nie można utworzyć zarządzanego punktu końcowego online. Aby uzyskać więcej informacji, zobacz Zmiana izolacji sieci za pomocą nowej platformy interfejsu API w usłudze Azure Resource Manager.

• Jeśli obszar roboczy usługi Azure Machine Learning ma prywatny punkt końcowy, który został utworzony przed 24 maja 2022 r., należy ponownie utworzyć ten prywatny punkt końcowy przed skonfigurowaniem punktów końcowych online do korzystania z prywatnych punktów końcowych. Aby uzyskać więcej informacji na temat tworzenia prywatnego punktu końcowego dla obszaru roboczego, zobacz Konfigurowanie prywatnego punktu końcowego dla obszaru roboczego usługi Azure Machine Learning.

  Napiwek

  Aby wyświetlić datę utworzenia obszaru roboczego, możesz sprawdzić właściwości obszaru roboczego.

  1. W usłudze Azure Machine Learning Studio przejdź do prawego górnego rogu i wybierz nazwę obszaru roboczego.
  2. W oknie Katalog + subskrypcja i obszar roboczy wybierz pozycję Wyświetl wszystkie właściwości w witrynie Azure Portal.
  3. Na stronie Przegląd portalu Azure, przejdź do prawego górnego rogu i wybierz Widok JSON.
  4. W oknie Zasób JSON w obszarze Wersje interfejsu API wybierz najnowszą wersję interfejsu API.
  5. W sekcji properties kodu JSON sprawdź wartość creationTime.

  Alternatywnie należy użyć jednej z następujących metod:

  • Zestaw SDK języka Python: Workspace.get(name=<workspace-name>, subscription_id=<subscription-ID>, resource_group=<resource-group-name>).get_details()
  • Interfejs API REST: curl https://management.azure.com/subscriptions/<subscription-ID>/resourceGroups/<resource-group-name>/providers/Microsoft.MachineLearningServices/workspaces/?api-version=2023-10-01 -H "Authorization:Bearer <access-token>"
  • PowerShell:Get-AzMLWorkspace -Name <workspace-name> -ResourceGroupName <resource-group-name>

• W przypadku korzystania z izolacji sieciowej w celu zabezpieczenia punktów końcowych online można użyć zasobów skojarzonych z obszarem roboczym z innej grupy zasobów niż grupa zasobów obszaru roboczego. Jednak te zasoby muszą należeć do tej samej subskrypcji i dzierżawcy co obszar roboczy. Zasoby skojarzone z obszarem roboczym obejmują usługę Azure Container Registry, usługę Azure Storage, usługę Azure Key Vault i usługę Application Insights.

Zabezpieczanie przychodzących żądań oceniania

Komunikację przychodzącą z klienta do zarządzanego punktu końcowego online można zabezpieczyć przy użyciu prywatnego punktu końcowego dla obszaru roboczego usługi Azure Machine Learning. Ten prywatny punkt końcowy w sieci wirtualnej klienta komunikuje się z obszarem roboczym zarządzanego punktu końcowego online i jest sposobem, za pomocą którego zarządzany punkt końcowy online odbiera przychodzące żądania oceniania od klienta.

Aby zabezpieczyć żądania oceniania do punktu końcowego online, aby klient mógł uzyskać do niego dostęp tylko za pośrednictwem prywatnego punktu końcowego obszaru roboczego, ustaw flagę public_network_access dla punktu końcowego na disabled. Po utworzeniu punktu końcowego możesz zaktualizować to ustawienie, aby w razie potrzeby włączyć dostęp do sieci publicznej.

Ustaw flagę punktu końcowego public_network_access na disabled:

az ml online-endpoint create \
  --file endpoint.yml \
  --set public_network_access=disabled

# Optionally specify the workspace and resource group explicitly
az ml online-endpoint create \
  --file endpoint.yml \
  --resource-group <resource-group-name> \
  --workspace-name <workspace-name> \
  --set public_network_access=disabled

from azure.ai.ml.entities import ManagedOnlineEndpoint

endpoint = ManagedOnlineEndpoint(name='my-online-endpoint',  
                         description='this is a sample online endpoint', 
                         tags={'foo': 'bar'}, 
                         auth_mode="key", 
                         public_network_access="disabled" 
                         # public_network_access="enabled" 
)

Po wyłączeniu public_network_accessprywatny punkt końcowy obszaru roboczego odbiera przychodzące żądania oceniania, a sieci publiczne nie mogą uzyskać dostępu do punktu końcowego.

Jeśli włączysz public_network_accessopcję , punkt końcowy może odbierać przychodzące żądania oceniania z Internetu.

Zabezpieczanie ocen przychodzących przy użyciu dostępu do sieci publicznej z określonych adresów IP

Obszar roboczy usługi Azure Machine Learning obsługuje włączanie dostępu do sieci publicznej z określonych adresów IP lub zakresów adresów. Ta funkcja ma pewne interakcje z flagą public_network_access zarządzanego punktu końcowego online, o których należy pamiętać podczas korzystania z zarządzanych punktów końcowych online. Aby uzyskać więcej informacji, zobacz Scenariusz: Zarządzane punkty końcowe online z dostępem z określonych adresów IP.

Zabezpiecz dostęp wychodzący za pomocą zarządzanej sieci wirtualnej obszaru roboczego

Aby zabezpieczyć komunikację wychodzącą z wdrożonego zasobu do usług, należy włączyć izolację zarządzanej sieci wirtualnej dla obszaru roboczego usługi Azure Machine Learning, aby usługa Azure Machine Learning mogła utworzyć zarządzaną sieć wirtualną dla obszaru roboczego. Wszystkie zarządzane punkty końcowe online w obszarze roboczym (i zarządzane zasoby obliczeniowe dla obszaru roboczego, takie jak klastry obliczeniowe i wystąpienia obliczeniowe) automatycznie używają tej zarządzanej sieci wirtualnej obszaru roboczego, a wdrożenia w punktach końcowych współużytkują prywatne punkty końcowe zarządzanej sieci wirtualnej na potrzeby komunikacji z zasobami obszaru roboczego.

Po zabezpieczeniu obszaru roboczego za pomocą zarządzanej sieci wirtualnej flaga egress_public_access dla zarządzanych wdrożeń online nie ma już zastosowania. Unikaj ustawiania tej flagi podczas tworzenia zarządzanego wdrożenia online.

W przypadku komunikacji wychodzącej przy użyciu zarządzanej sieci wirtualnej obszaru roboczego usługa Azure Machine Learning:

• Tworzy prywatne punkty końcowe dla zarządzanej sieci wirtualnej do użycia do komunikacji z zasobami platformy Azure używanymi przez obszar roboczy, takimi jak Azure Storage, Azure Key Vault i Azure Container Registry.
• Umożliwia wdrożeniom dostęp do usługi Microsoft Container Registry (MCR), co może być przydatne, gdy chcesz użyć wyselekcjonowanych środowisk lub wdrożenia bez kodu platformy MLflow.
• Umożliwia użytkownikom konfigurowanie reguł ruchu wychodzącego dla prywatnego punktu końcowego do zasobów prywatnych i konfigurowanie reguł ruchu wychodzącego (tagu usługi lub nazwy FQDN) dla zasobów publicznych. Aby uzyskać więcej informacji na temat zarządzania regułami ruchu wychodzącego, zobacz Zarządzanie regułami ruchu wychodzącego.

Ponadto można skonfigurować dwa tryby izolacji dla ruchu wychodzącego z zarządzanej sieci wirtualnej obszaru roboczego:

• Zezwalaj na ruch wychodzący do Internetu, aby zezwolić na cały ruch wychodzący z zarządzanej sieci wirtualnej
• Zezwalaj tylko na zatwierdzony ruch wychodzący, aby kontrolować ruch wychodzący przy użyciu prywatnych punktów końcowych, reguł dla ruchu wychodzącego FQDN i reguł dla ruchu wychodzącego tagów usług.

Jeśli na przykład zarządzana sieć wirtualna obszaru roboczego zawiera dwa wdrożenia w zarządzanym punkcie końcowym online, oba wdrożenia mogą używać prywatnych punktów końcowych obszaru roboczego do komunikowania się z:

• obszar roboczy usługi Azure Machine Learning
• Obiekt blob usługi Azure Storage skojarzony z przestrzenią roboczą
• Usługa Azure Container Registry dla przestrzeni roboczej
• Usługa Azure Key Vault
• (Opcjonalnie) dodatkowe zasoby prywatne, które obsługują prywatne punkty końcowe.

Aby dowiedzieć się więcej o konfiguracjach sieci wirtualnej zarządzanej przez obszar roboczy, zobacz Architektura zarządzanej sieci wirtualnej.

Scenariusze konfiguracji izolacji sieci

Obszar roboczy usługi Azure Machine Learning i zarządzany punkt końcowy w trybie online mają każdy flagę public_network_access, której można użyć do konfigurowania komunikacji przychodzącej. Z drugiej strony komunikacja wychodząca wdrożenia zależy od zarządzanej sieci wirtualnej obszaru roboczego.

Komunikacja z zarządzanym internetowym punktem końcowym

Załóżmy, że zarządzany punkt końcowy online ma wdrożenie korzystające z modelu SI i chcesz za pomocą aplikacji wysyłać żądania oceniania do tego punktu końcowego. Możesz określić, jaką konfigurację izolacji sieci zastosować dla zarządzanego punktu końcowego online, w następujący sposób:

Dla komunikacji przychodzącej:

Jeśli aplikacja jest publicznie dostępna w Internecie, musisz włączyć ruch przychodzącypublic_network_access dla punktu końcowego, aby mógł on odbierać przychodzące żądania oceniania z aplikacji.

Jeśli jednak aplikacja jest prywatna, taka jak aplikacja wewnętrzna w organizacji, chcesz, aby model sztucznej inteligencji był używany tylko w organizacji, a nie uwidaczniał go w Internecie. W związku z tym należy wyłączyć publiczny dostęp punktu końcowegopublic_network_access, aby mógł on odbierać przychodzące żądania oceniania wyłącznie za pośrednictwem prywatnego punktu końcowego swojego obszaru roboczego.

Dla komunikacji wychodzącej (wdrożenie):

Jeśli wdrożenie musi mieć dostęp do prywatnych zasobów Azure (takich jak obiekty blob usługi Azure Storage, ACR i Azure Key Vault) lub dostęp tego wdrożenia do internetu jest niedopuszczalny. W takim przypadku należy włączyćzarządzaną sieć wirtualną obszaru roboczego z trybem izolacji zezwalaj tylko na zatwierdzony ruch wychodzący. Ten tryb izolacji umożliwia komunikację wychodzącą z wdrożenia tylko do zatwierdzonych lokalizacji docelowych, co chroni przed eksfiltracją danych. Ponadto można dodać reguły ruchu wychodzącego dla obszaru roboczego, aby zezwolić na dostęp do większej liczby zasobów prywatnych lub publicznych. Aby uzyskać więcej informacji, zobacz Konfigurowanie zarządzanej sieci wirtualnej tak, aby zezwalała tylko na zatwierdzony ruch wychodzący.

Jeśli jednak chcesz, aby wdrożenie uzyskiwało dostęp do Internetu, możesz użyć zarządzanej sieci wirtualnej obszaru roboczego z trybem izolacji zezwalaj na wychodzący ruch internetowy. Poza dostępem do Internetu będziesz mieć możliwość korzystania z prywatnych punktów końcowych zarządzanej sieci wirtualnej w celu uzyskania dostępu do potrzebnych zasobów platformy Azure.

Na koniec jeśli wdrożenie nie musi uzyskiwać dostępu do prywatnych zasobów platformy Azure i nie musisz kontrolować dostępu do Internetu, nie musisz używać zarządzanej sieci wirtualnej obszaru roboczego.

Komunikacja przychodząca do obszaru roboczego usługi Azure Machine Learning

Możesz użyć flagi public_network_access obszaru roboczego usługi Azure Machine Learning, aby włączyć lub wyłączyć dostęp przychodzący do obszaru roboczego. Zwykle, jeśli zabezpieczysz komunikację przychodzącą do obszaru roboczego (wyłączając flagę public_network_access obszaru roboczego), zechcesz również zabezpieczyć komunikację przychodzącą do zarządzanego punktu końcowego online.

Na poniższym wykresie przedstawiono typowy przepływ pracy na potrzeby zabezpieczania komunikacji przychodzącej do obszaru roboczego usługi Azure Machine Learning i zarządzanego punktu końcowego online. Aby zapewnić najlepsze zabezpieczenia, zalecamy wyłączenie ustawień public_network_access dla obszaru roboczego i zarządzanego punktu końcowego online, aby żaden z nich nie był dostępny za pośrednictwem publicznego Internetu. Jeśli obszar roboczy nie ma prywatnego punktu końcowego, możesz go utworzyć, pamiętając o odpowiednim rozwiązywaniu nazw DNS. Następnie możesz uzyskać dostęp do zarządzanego punktu końcowego online przy użyciu prywatnego punktu końcowego obszaru roboczego.

Aby uzyskać więcej informacji na temat rozwiązywania nazw DNS dla obszaru roboczego i prywatnego punktu końcowego, zobacz Jak używać obszaru roboczego z niestandardowym serwerem DNS.

Aneks

Zabezpieczanie dostępu wychodzącego przy użyciu starszej metody izolacji sieciowej

W przypadku zarządzanych punktów końcowych online można zabezpieczyć komunikację wychodzącą między wdrożeniami i zasobami przy użyciu zarządzanej sieci wirtualnej usługi Azure Machine Learning dla każdego wdrożenia w punkcie końcowym. Bezpieczna komunikacja wychodząca jest również obsługiwana przy użyciu prywatnych punktów końcowych do tych wystąpień usługi.

Aby ograniczyć komunikację między wdrożeniem a zasobami zewnętrznymi, w tym używanymi zasobami platformy Azure, należy upewnić się, że:

• Flaga wdrożenia egress_public_network_access to disabled. Ta flaga gwarantuje, że pobieranie modelu, kodu i obrazów wymaganych przez wdrożenie jest zabezpieczone za pomocą prywatnego punktu końcowego. Po utworzeniu wdrożenia nie można zaktualizować flagi (włączyć lub wyłączyć).egress_public_network_access Próba zmiany flagi podczas aktualizowania wdrożenia kończy się niepowodzeniem z powodu wystąpienia błędu.

• Obszar roboczy ma łącze prywatne, które umożliwia dostęp do zasobów platformy Azure za pośrednictwem prywatnego punktu końcowego.

• Obszar roboczy ma flagę public_network_access , którą można włączyć lub wyłączyć. Jeśli planujesz użycie zarządzanego wdrożenia online, które korzysta z publicznego ruchu wychodzącego, musisz również skonfigurować obszar roboczy, aby zezwolić na dostęp publiczny. To wymaganie istnieje, ponieważ komunikacja wychodząca z wdrożenia online jest kierowana do interfejsu API obszaru roboczego. Podczas konfigurowania wdrożenia do korzystania z publicznego ruchu wychodzącego obszar roboczy musi być w stanie zaakceptować tę komunikację publiczną (zezwalać na dostęp publiczny).

Jeśli masz wiele wdrożeń i skonfigurujesz egress_public_network_access na disabled dla każdego wdrożenia w zarządzanym punkcie końcowym online, każde wdrożenie ma własną niezależną sieć wirtualną zarządzaną w usłudze Azure Machine Learning. W przypadku każdej sieci wirtualnej usługa Azure Machine Learning tworzy trzy prywatne punkty końcowe do komunikacji z następującymi usługami:

• obszar roboczy usługi Azure Machine Learning
• Obiekt blob usługi Azure Storage skojarzony z przestrzenią roboczą
• Usługa Azure Container Registry dla przestrzeni roboczej

Jeśli na przykład dla dwóch wdrożeń zarządzanego punktu końcowego online zostanie ustawiona flaga egress_public_network_access na disabled, zostanie utworzonych łącznie sześć prywatnych punktów końcowych. Każde wdrożenie korzysta z trzech prywatnych punktów końcowych do komunikacji z przestrzenią roboczą, blobem i rejestrem kontenerów.

Na poniższym diagramie przedstawiono przychodzące żądania oceniania z sieci wirtualnej klienta, przepływające przez prywatny punkt końcowy obszaru roboczego do zarządzanego punktu końcowego online. Na diagramie przedstawiono również dwa wdrożenia online, z których każde ma własną zarządzaną sieć wirtualną usługi Azure Machine Learning. Sieć wirtualna każdego wdrożenia ma trzy prywatne punkty końcowe do komunikacji wychodzącej z obszarem roboczym usługi Azure Machine Learning, obiektem blob usługi Azure Storage skojarzonym z obszarem roboczym i usługą Azure Container Registry dla obszaru roboczego.

Aby wyłączyć egress_public_network_access i utworzyć prywatne punkty końcowe:

az ml online-deployment create -f deployment.yml --set egress_public_network_access=disabled

blue_deployment = ManagedOnlineDeployment(name='blue', 
                                          endpoint_name='my-online-endpoint', 
                                          model=model, 
                                          code_configuration=CodeConfiguration(code_local_path='./model-1/onlinescoring/',
                                                                               scoring_script='score.py'),
                                          environment=env, 
                                          instance_type='Standard_DS2_v2', 
                                          instance_count=1, 
                                          egress_public_network_access="disabled"
                                          # egress_public_network_access="enabled" 
) 
                              
ml_client.begin_create_or_update(blue_deployment) 

Aby potwierdzić tworzenie prywatnych punktów końcowych, najpierw sprawdź konto magazynu i rejestr kontenerów skojarzone z obszarem roboczym (zobacz Pobieranie pliku konfiguracji), znajdź każdy zasób w portalu Azure i sprawdź kartę Private endpoint connections w menu Networking.

W poniższej tabeli wymieniono obsługiwane konfiguracje podczas konfigurowania komunikacji przychodzącej i wychodzącej dla punktu końcowego online:

Następne kroki

• Zarządzana izolacja sieci obszaru roboczego
• Jak zabezpieczyć zarządzane punkty końcowe online przy użyciu izolacji sieciowej