Architektura i zarządzanie agentami sztucznej inteligencji

Ten artykuł pomaga osobom podejmującym decyzje określić architekturę agentów i ład organizacyjny w całej organizacji.

Diagram przedstawiający proces Cloud Adoption Framework firmy Microsoft na potrzeby wdrażania agentów AI.

Agenci AI wprowadzają nowe wymagania dotyczące architektury i ryzyka związane z zarządzaniem, ponieważ uzyskują dostęp do systemów przedsiębiorstwa i wykonują autonomiczne działania. Organizacje powinny rozszerzyć istniejącą architekturę i struktury ładu, aby obsługiwać agentów sztucznej inteligencji, a nie tworzyć oddzielnych systemów.

Wynik: Po zakończeniu planowania architektury i ładu organizacja powinna mieć zdefiniowane standardy architektury i zasady ładu, które obsługują bezpieczne wdrożenie agenta sztucznej inteligencji w całym przedsiębiorstwie.

Architektura sztucznej inteligencji i drzewo decyzyjne

Diagram przedstawiający koncepcyjny widok Azure landing zone.

Sztuczna inteligencja w strefie docelowej platformy Azure. Pobierz plik PowerPoint tej architektury.

1. architektura Azure landing zone

Jak zaktualizować naszą landing zone Azure? Agenci AI hostowani na platformie Azure powinni być zgodni z istniejącą architekturą strefy docelowej Azure. Organizacje muszą określić, czy ich bieżące standardy platformy obsługują obciążenia sztucznej inteligencji i gdzie powinna znajdować się infrastruktura agenta.

  • Platformowa strefa docelowa: Agenci hostowani w Azure powinni być umieszczani w istniejącej hierarchii zasobów platformowej strefy docelowej. Nie potrzebują oddzielnych grup zarządzania. Zespół ds. platformy powinien używać definicji Azure Policy do obsługi infrastruktury specyficznej dla sztucznej inteligencji, takiej jak zasoby usługi Foundry i infrastruktura Azure. Azure Policy wymusza te reguły w ramach subskrypcji.

  • Strefy docelowe obciążeń: zasoby agenta powinny znajdować się w subskrypcjach stref docelowych obciążeń. Współdzielona infrastruktura agentów może obsługiwać wiele obciążeń, nie stając się zasobem strefy docelowej platformy. Organizacje mogą przypisać dedykowany zespół do zarządzania udostępnioną infrastrukturą i ustanawiania zasad dostępu dla obciążeń korzystających z niej. Zespoły ds. obciążeń roboczych powinny zarządzać zasobami agentowymi zgodnie z istniejącymi standardami ładu obciążeń roboczych.

Zobacz Architektura dla sztucznej inteligencji.

2. Zarządzanie

Jak powinniśmy regulować agentów? Nadzór nad agentami ustanawia zasady, które określają, którzy agenci mogą działać i co mogą robić. Rozszerz istniejące struktury ładu i zastosuj dodatkowe mechanizmy kontroli na podstawie ryzyka agenta. Centralne jednostki powinny ustanawiać obowiązkowe ramy. Zespoły ds. platform i obciążeń powinny zarządzać agentami w tych granicach. Nadzór powinien być oparty na ryzyku. Poziom autonomii i wpływ nieprawidłowego działania określają ryzyko agenta.

2.1 Odpowiedzialna sztuczna inteligencja

Jak należy odpowiedzialnie używać agentów? Istniejące zasady odpowiedzialnej sztucznej inteligencji powinny mieć zastosowanie do wszystkich agentów. Twoja organizacja powinna rozszerzyć te zasady, aby uwzględnić autonomiczne działania i ich potencjalne konsekwencje. Agent, który podejmuje istotne decyzje biznesowe, może wymagać dodatkowego nadzoru i zatwierdzenia przez człowieka. Zobacz Zasady odpowiedzialnej sztucznej inteligencji.

2.2 Suwerenność

Jak powinniśmy spełnić wymagania dotyczące suwerenności? Twoja organizacja powinna rozszerzyć istniejące polityki dotyczące suwerenności na agentów sztucznej inteligencji na podstawie odpowiednich przepisów prawnych i zobowiązań umownych. Oceń, gdzie dane agenta są przechowywane i przetwarzane, w tym dane wymieniane z modelami i połączonymi usługami. Platformy agentów i konfiguracje wdrożenia muszą obsługiwać wymagane granice geograficzne i operacyjne. Jeśli platforma nie spełnia tych wymagań, zespoły ds. obciążeń powinny wybrać alternatywną opcję wdrożenia lub ograniczyć użycie agenta. Zobacz Architektura i ład na potrzeby suwerenności.

2.3 Scentralizowane sterowanie

Jak centralnie kontrolować agentów? Twoja organizacja potrzebuje scentralizowanej widoczności na różnych platformach agentów. Scentralizowana widoczność nie wymaga centralnego zatwierdzania każdego agenta. Microsoft Agent 365 zapewnia wspólne środowisko zarządzania dla agentów Microsoft i agentów z obsługiwanych platform innych firm. Platformy połączone w programie Microsoft Agent 365 przedstawia aktualny zakres obsługi. Agenci spoza tego zakresu korzystają z natywnych dla platformy możliwości zarządzania.

  • Centralna widoczność: każdy agent powinien być wykrywalny za pośrednictwem zatwierdzonego procesu spisu. Microsoft Agent 365 Agent Registry odnajduje agentów i zarządza nimi w swoim zakresie. Zespoły ds. ładu powinny dodawać dane spisu z innych platform, aby spis pozostał ukończony. Każdy wpis spisu powinien identyfikować odpowiedzialnego właściciela agenta i klasyfikację ryzyka agenta.

  • Kontrola cyklu życia: Organizacja powinna ustanowić spójne zasady dotyczące widoczności agenta, dostępu, dystrybucji i wycofywania w całej dzierżawie. Centrum administracyjne platformy Microsoft 365 zapewnia możliwości zarządzania ładem i cyklem życia agentów za pośrednictwem rejestru agentów Microsoft Agent 365.

2.4 Nadzór nad danymi

Jak powinniśmy zarządzać danymi agenta? Zespoły ds. ładu danych powinny zdefiniować, do których agentów klasyfikacji danych może uzyskiwać dostęp i czy agenci mogą korzystać z tych informacji w usługach zewnętrznych. Zespoły ds. obciążeń powinny wymuszać te wymagania za pomocą uprawnień systemu źródłowego i obsługiwanych mechanizmów kontroli platformy. Użyj Microsoft Purview, aby zastosować obsługiwane funkcje ochrony danych i zgodności. Zobacz Zarządzanie danymi.

2.5 Zarządzanie zabezpieczeniami

Jak należy zabezpieczyć agentów? Organizacja powinna rozszerzyć istniejące zasady zabezpieczeń, aby uwzględnić tożsamości agentów i autonomiczny dostęp do systemów przedsiębiorstwa. Wymagania dotyczące zabezpieczeń powinny odzwierciedlać uprawnienia otrzymywane przez agentów i konsekwencje nieautoryzowanych akcji. Uprawnienia agenta powinny odzwierciedlać działania, do których wykonania agent jest upoważniony, a nie maksymalny dostęp, który obsługuje jego platforma.

  • Tożsamość agenta: dostęp agenta powinien być zgodny z zasadą najmniejszych uprawnień, a właściciele powinni okresowo przeglądać uprawnienia. Agenci, którzy działają w imieniu użytkowników, powinni przestrzegać uprawnień delegowanych przez użytkowników. Autonomiczni agenci powinni otrzymywać tylko uprawnienia wymagane przez ich zatwierdzone działania. Na przykład agent podsumowujący bilety pomocy technicznej wymaga dostępu do odczytu do systemu obsługi biletów, a nie dostępu do zapisu. Identyfikator agenta Microsoft Entra zapewnia zarządzanie tożsamościami i dostępem dla obsługiwanych agentów.

  • Ochrona przed zagrożeniami: zespoły ds. zabezpieczeń powinny rozszerzyć istniejące procesy wykrywania zagrożeń i reagowania na zdarzenia na agentów. Zasady zabezpieczeń powinny uwzględniać zagrożenia specyficzne dla agentów, takie jak prompt injection. Możliwości zabezpieczeń Microsoft Agent 365 rozszerzają mechanizmy kontroli dostępu Microsoft Entra i ochronę przed zagrożeniami Microsoft Defender tam, gdzie jest to obsługiwane. Ochrona przed zagrożeniami sztucznej inteligencji w Microsoft Defender dla Chmury obejmuje agentów hostowanych na Azure AI services. Zobacz możliwości zabezpieczeń rozwiązania Microsoft Agent 365.

Następny krok