Architektura i nadzór nad sztuczną inteligencją

W tym artykule wyjaśniono, jak obciążenia sztucznej inteligencji pasują do strefy docelowej platformy Azure i architektury przedsiębiorstwa. Identyfikuje dodatkowe możliwości platformy, które organizacje powinny wziąć pod uwagę w miarę wzrostu skali wdrażania sztucznej inteligencji.

Zastosuj te same zasady Azure landing zone i najlepsze rozwiązania dotyczące obciążeń sztucznej inteligencji, co w przypadku innych obciążeń. Obciążenia sztucznej inteligencji nie wymagają innej architektury strefy docelowej platformy Azure ani modelu zarządzania. Zespoły platform powinny używać istniejącego bazowego poziomu ładu zarządczego i rozszerzać go tam, gdzie jest to konieczne, aby uwzględnić usługi i modele sztucznej inteligencji, z których organizacja planuje korzystać.

Wynik: Po zakończeniu planowania architektury i ładu powinieneś mieć zaktualizowany plan bazowy ładu, który obsługuje technologie sztucznej inteligencji, które mają być używane w Azure.

Architektury i drzewo decyzyjne

Strefa lądowania platformy

Wdrożenie sztucznej inteligencji powinno opierać się na istniejącej strefie lądowania platformy Azure zamiast wprowadzać oddzielną strukturę platformy. Obciążenia sztucznej inteligencji używają tej samej hierarchii grup zarządzania i możliwości platformy co inne obciążenia Azure. Organizacje zazwyczaj nie potrzebują grup zarządzania specyficznych dla sztucznej inteligencji. Zamiast tego zespoły platform powinny rozszerzyć istniejące możliwości zapewniania ładu i łączności, aby objąć usługi Azure używane przez obciążenia sztucznej inteligencji.

Plan bazowy ładu: istniejący plan bazowy ładu strefy docelowej Azure powinien pozostać punktem wyjścia dla obciążeń sztucznej inteligencji. Zespoły platform powinny rozszerzyć ten punkt odniesienia, gdy usługi sztucznej inteligencji wprowadzają wymagania, których istniejące zasady nie uwzględniają.

• Azure Policy: Organizacje powinny zacząć od zasad bazowych z platform landing zone accelerator. Zespoły ds. platformy powinny następnie dodawać definicje Azure Policy dla usług sztucznej inteligencji zatwierdzanych przez organizację, takich jak modele Microsoft Foundry, Foundry Tools, Wyszukiwanie AI platformy Azure i Azure Virtual Machines. Stosowanie tych zasad za pomocą istniejącej hierarchii grup zarządzania zapewnia spójne ramy kontrolne dla obciążeń AI bez konieczności używania oddzielnego modelu ładu. Wskazówki firmy Microsoft zawierają zalecenia dotyczące stosowania zasad specyficznych dla sztucznej inteligencji za pomocą hierarchii grup zarządzania strefy docelowej, dzięki czemu zasoby obciążeń dziedziczą je.

• Sieć komputerowa: Istniejące wzorce sieciowe landing zone platformy Azure powinny również pozostać podstawą obciążeń sztucznej inteligencji. Zespoły ds. platform powinny rozszerzać łączność współdzieloną i ochronę sieci tam, gdzie obciążenia sztucznej inteligencji tworzą dodatkowe wymagania, szczególnie w przypadku usług dostępnych z internetu lub dostępu do danych lokalnych (on-premises).

  • Ochrona przed atakami DDoS: obciążenia sztucznej inteligencji dostępne z Internetu powinny używać usługi Azure DDoS Protection. Zespół ds. platformy może zapewnić tę ochronę w ramach udostępnionych możliwości sieciowych organizacji, zamiast wymagać od poszczególnych zespołów odpowiedzialnych za obciążenia ustanowienia własnego podejścia na poziomie platformy.

  • Łączność hybrydowa: organizacje, które uzyskują dostęp do danych lokalnych z obciążeń Azure AI, powinny wybierać łączność na podstawie swoich wymagań dotyczących wydajności i dostępności. Azure ExpressRoute zapewnia łączność prywatną i jest odpowiedni, gdy organizacje wymagają przewidywalnej łączności z Azure. Azure VPN Gateway zapewnia szyfrowaną łączność za pośrednictwem publicznego Internetu i może odpowiadać mniej wymagającym wymaganiom dotyczącym łączności. Istniejące wskazówki dotyczące strefy docelowej Azure obsługują również VPN Gateway i usługę ExpressRoute jako wzorce łączności hybrydowej.

Strefy lądowania obciążeń

Obciążenia sztucznej inteligencji używają tych samych zasad strefy docelowej dla obciążeń co inne obciążenia Azure. Każde obciążenie powinno mieć własną strefę docelową dla obciążenia i używać co najmniej jednej subskrypcji Azure do oddzielania środowisk na podstawie wymagań organizacji dotyczących ładu i izolacji. Subskrypcje platformy Azure wyznaczają granice dla obszarów, takich jak limit, koszt, nadzór i zabezpieczenia.

Zespół platformy powinien umieścić subskrypcje strefy docelowej obciążeń dla obciążeń AI w istniejącej grupie zarządzania, która zapewnia odpowiednie mechanizmy kontroli ładu. Obciążenia sztucznej inteligencji dostępne z Internetu zwykle należą do grupy zarządzania online. Wewnętrzne obciążenia sztucznej inteligencji zazwyczaj należą do wewnętrznej grupy zarządzającej („Corp”). Zespoły platform powinny używać tych istniejących granic zamiast tworzyć Management Groups specjalnie dla sztucznej inteligencji. Przypisania Azure Policy na poziomie grupy zarządzania zapewniają następnie spójne zabezpieczenia platformy w środowiskach AI i innych obciążeniach.

Reliability

W przypadku obciążeń AI należy stosować istniejące w organizacji standardy dostępności i odzyskiwania po awarii. Zespoły platformy powinny przygotować Azure landing zone do obsługi wielu regionów, aby zespoły odpowiedzialne za obciążenia mogły wdrażać obciążenia sztucznej inteligencji w różnych regionach, gdy ich wymagania dotyczące ciągłości działania uzasadniają dodatkowy koszt i złożoność. Wskazówki dotyczące regionów stref docelowych platformy Azure w szczególności zalecają projektowanie platformy tak, aby obsługiwała strefy docelowe obciążeń w wielu regionach.

• Lokalizacja danych: lokalizacja danych powinna być również częścią projektu regionalnego. Zespoły ds. obciążeń powinny umieszczać dane do odczytu w pobliżu usług AI, które z nich korzystają, gdy opóźnienie i wydajność są ważne. Umieszczanie w regionie musi również spełniać wymagania organizacji dotyczące rezydencji danych.

• Dostępność i pojemność: sztuczna inteligencja wprowadza dodatkowe zagadnienia regionalne, ponieważ dostępność usług, dostępność modelu i pojemność mogą się różnić w zależności od regionu Azure. Organizacje powinny zidentyfikować regiony, które obsługują zatwierdzone usługi i modele sztucznej inteligencji przed udostępnieniem tych regionów dla obciążeń sztucznej inteligencji.

• Tryb failover: zespoły odpowiedzialne za obciążenie, wymagające regionalnego przejścia w tryb failover, powinny również uwzględniać zasoby sztucznej inteligencji, od których zależy obciążenie, takie jak wdrożenia modelu i dane wyszukiwania. Projekt odzyskiwania powinien zapewnić, że region zapasowy ma zasoby i dane niezbędne do przywrócenia obciążenia roboczego.

Integracja dla przedsiębiorstw

Obciążenia sztucznej inteligencji powinny być zintegrowane z platformami przedsiębiorstwa za pomocą tych samych zasad architektury co inne obciążenia. Podstawową kwestią specyficzną dla sztucznej inteligencji jest dostęp do zaufanych danych organizacji.

Organizacje powinny ustanowić ujednolicone podejście do danych, które udostępnia zarządzane dane obciążeniom AI bez konieczności tworzenia oddzielnych wzorców integracji danych przez każdy zespół obciążeń. Microsoft Fabric może przygotować i udostępnić dane organizacyjne na potrzeby analiz i scenariuszy sztucznej inteligencji. Obciążenia Azure AI mogą następnie korzystać z odpowiednich danych za pośrednictwem zatwierdzonych wzorców integracji. Aby uzyskać wskazówki dotyczące ustanawiania tej podstawy, zobacz Ujednolicona platforma danych.

Następne kroki

Zagadnienia dotyczące architektury i nadzoru dla strefy docelowej dla obciążenia zależą od platform i technologii sztucznej inteligencji używanych przez obciążenie. Poniższe wskazówki zawierają bardziej szczegółowe zalecenia dotyczące architektury dla różnych wzorców wdrażania sztucznej inteligencji.