Najlepsze rozwiązania dotyczące zabezpieczeń sztucznej inteligencji platformy Azure

Ten artykuł zawiera najlepsze rozwiązania dotyczące zabezpieczania obciążeń sztucznej inteligencji (AI) specjalnie na platformie Azure. Ponieważ organizacje wdrażają możliwości sztucznej inteligencji w bezprecedensowym tempie, zespoły ds. zabezpieczeń muszą aktywnie uzyskiwać wgląd w użycie sztucznej inteligencji i wdrażać odpowiednie mechanizmy kontroli w celu ograniczenia ryzyka.

Ten artykuł koncentruje się na zagadnieniach dotyczących zabezpieczeń sztucznej inteligencji specyficznych dla platformy Azure. Kompleksowe, platformowo niezależne od platformy wskazówki dotyczące bezpieczeństwa AI, w tym strategię organizacyjną, ramy zarządzania oraz pełny cykl życia bezpieczeństwa AI, zobacz Security for AI w dokumentacji rozwiązania zabezpieczające firmy Microsoft.

Ten artykuł jest uzupełnieniem modelu współdzielonej odpowiedzialności AI oraz modelu współdzielonej odpowiedzialności agentów AI, które wyjaśniają podział odpowiedzialności bezpieczeństwa między Tobą a Microsoft dla obciążeń AI i autonomicznych agentów. Aby dowiedzieć się o preskryptywnych mechanizmach kontroli zabezpieczeń za pomocą wymuszania usługi Azure Policy, zobacz Test porównawczy zabezpieczeń w chmurze firmy Microsoft w wersji 2 — zabezpieczenia sztucznej inteligencji.

Umożliwienie wglądu w procesy i wykorzystanie sztucznej inteligencji

Zanim będzie można zabezpieczyć obciążenia sztucznej inteligencji, musisz mieć wgląd w używane i wbudowane aplikacje sztucznej inteligencji w organizacji.

• Użyj Microsoft Defender dla Chmury, aby odkrywać obciążenia AI w środowisku Azure. Plan Defender Cloud Security Posture Management (CSPM) zapewnia możliwości zarządzania stanem bezpieczeństwa AI, w tym wykrywanie zestawienia komponentów generatywnej AI (AI BOM), wbudowane zalecenia dotyczące zabezpieczeń oraz analizę ścieżek ataku. Aby uzyskać więcej informacji, zobacz Zarządzanie stanem zabezpieczeń sztucznej inteligencji za pomocą usługi Defender dla Chmury.

• Użyj Microsoft Defender for Cloud Apps, aby odkrywać aplikacje AI SaaS. Katalog Defender for Cloud Apps zawiera ponad tysiąc generatywnych aplikacji AI. Możesz wyświetlać oceny ryzyka, sankcje lub blokować aplikacje oraz tworzyć zasady wykrywania nowych aplikacji sztucznej inteligencji. Aby uzyskać więcej informacji, zobacz Zarządzaj odnalezionymi aplikacjami.

• Śledź tożsamości agentów AI za pomocą Identyfikator agenta Microsoft Entra. Identyfikator agenta Microsoft Entra zapewnia zunifikowany katalog tożsamości agentów utworzony w Microsoft Copilot Studio i Azure AI Foundry, pomagając zarządzać cyklem życia agentów i uprawnieniami.

Zabezpieczanie wdrożeń usługi Azure OpenAI

Usługa Azure OpenAI Service zapewnia dostęp interfejsu API REST do zaawansowanych modeli językowych. Zabezpieczanie tych wdrożeń ma kluczowe znaczenie dla ochrony danych i zapobiegania niewłaściwemu użyciu.

• Używaj prywatnych punktów końcowych do izolacji sieci. Konfiguruj Azure OpenAI Service tak, aby korzystał z prywatnych punktów końcowych, usuwając publiczny punkt końcowy i ograniczając dostęp do wirtualnej sieci. Aby uzyskać więcej informacji, zobacz Konfiguracja sieci i dostępu dla usługi Azure OpenAI.

• Używaj zarządzanej tożsamości do uwierzytelniania. Konfiguruj aplikacje do uwierzytelniania, używając zarządzanych tożsamości Microsoft Entra zamiast kluczy API, eliminując potrzebę zarządzania i rotowania sekretów. Aby uzyskać więcej informacji, zobacz Configure Azure OpenAI Service with Microsoft Entra ID authentication (Konfigurowanie usługi Azure OpenAI przy użyciu uwierzytelniania identyfikatora Entra firmy Microsoft).

• Wprowadź wielowarstwowe filtrowanie treści. Wdrażaj filtrowanie treści na wielu etapach, aby stworzyć szczegółową obronę:

  • Filtrowanie danych wejściowych: Użyj usługi Bezpieczeństwo zawartości platformy Azure AI do analizowania promptów pod kątem złośliwych treści, w tym prób wstrzykiwania promptów i ataków jailbreak.
  • Filtrowanie wyników: Konfiguruj filtrowanie treści Azure OpenAI, aby blokować szkodliwe reakcje przed ich dostawą.
  • Kontrola bram API: Użyj Azure API Management do egzekwowania ograniczeń szybkości i walidacji schematów.

Aby uzyskać więcej informacji, zobacz Filtrowanie zawartości i Bezpieczeństwo zawartości usługi Azure AI.

• Używaj metapromptów bezpieczeństwa do kierowania zachowaniem modelu. Projektuj monity systemowe, które jasno definiują rolę modelu, zawierają wyraźne instrukcje odrzucania złośliwych danych wejściowych oraz nakazują modelowi nadawać priorytet instrukcjom systemowym przed danymi wejściowymi użytkownika. Użyj technik spotlightingu do izolowania niezaufanych danych w monitach i zintegrowania osłon monitu Prompt Shields w celu wykrycia prób jailbreaku.

• Monitoruj zużycie za pomocą logów diagnostycznych. Włącz logowanie diagnostyczne do śledzenia żądań API, użycia tokenów, wyników filtrowania treści oraz błędów. Wysyłanie dzienników do usługi Azure Monitor na potrzeby analizy i alertów. Aby uzyskać więcej informacji, zobacz Monitorowanie usługi Azure OpenAI.

Zabezpieczanie usługi Azure AI Foundry i Azure Machine Learning

Usługa Azure AI Foundry i Usługa Azure Machine Learning udostępniają platformy do tworzenia i wdrażania aplikacji sztucznej inteligencji. Zabezpieczanie tych środowisk wymaga uwagi na izolację sieci, kontrolę dostępu i nadzór nad modelem.

• Użyj zarządzanej izolacji sieci. Stwórz huby Azure AI Foundry i przestrzenie robocze Azure Machine Learning z zarządzanymi sieciami wirtualnymi, które zapewniają prywatne punkty końcowe dla usług zależnych i kontroli ruchu wychodzącego. Aby uzyskać więcej informacji, zobacz Managed network isolation for Azure AI Foundry and Configure a private endpoint for Azure Machine Learning ( Izolacja sieci zarządzanej dla usługi Azure AI Foundry ) i Configure a private endpoint for Azure Machine Learning (Konfigurowanie prywatnego punktu końcowego dla usługi Azure Machine Learning).

• Wprowadź kontrolę dostępu z najmniejszymi uprawnieniami. Konfiguruj RBAC, używając wbudowanych ról i przypisuj uprawnienia na poziomie projektu lub przestrzeni roboczej. Użyj identyfikatora Microsoft Entra Agent do zarządzania tożsamościami agenta AI, stosując tokeny o określonym zakresie, krótkotrwałe w celu dostępu do funkcji agenta. Aby uzyskać więcej informacji, zobacz Kontrola dostępu oparta na rolach dla rozwiązania Microsoft Foundry.

• Wdrażaj tylko zatwierdzone modele AI. Użyj rejestru modeli Azure Machine Learning, aby śledzić pochodzenie modelu, status weryfikacji i historię zatwierdzeń. Skonfiguruj automatyczne skanowanie w celu zweryfikowania integralności modelu i przetestowania odporności na dane wejściowe przed wdrożeniem. Wdróż politykę Azure "[wersja zapoznawcza]: Wdrożenia usługi Azure Machine Learning powinny używać tylko zatwierdzonych modeli rejestru" w celu zapewnienia zgodności z zasadami ładu. Aby uzyskać więcej informacji, zobacz Zarządzanie modelami i wdrażanie.

• Zabezpieczanie zasobów obliczeniowych. Konfiguruj instancje obliczeniowe bez publicznych adresów IP, korzystaj z uwierzytelniania tożsamości zarządzanej, włączaj izolację użytkownika dla klastrów współdzielonych oraz szyfruj dyski kluczami zarządzanymi przez klienta. Aby uzyskać więcej informacji, zobacz Zabezpieczanie środowiska szkoleniowego usługi Azure Machine Learning.

Implementowanie ochrony przed zagrożeniami specyficznymi dla sztucznej inteligencji

Obciążenia sztucznej inteligencji napotykają unikatowe zagrożenia, w tym wstrzyknięcie danych wejściowych, ataki typu jailbreak i manipulowanie modelem. Implementowanie wykrywania zagrożeń i ciągłego testowania przeznaczonego specjalnie dla sztucznej inteligencji.

• Korzystaj z ochrony przed zagrożeniami związanymi ze sztuczną inteligencją w usłudze Microsoft Defender dla Chmury. Wdroż Microsoft Defender dla usług AI, aby wykrywać ataki prompt injection, ekspozycję wrażliwych danych oraz nietypowe wzorce korzystania z API. Aby uzyskać więcej informacji, zobacz Ochrona przed zagrożeniami sztucznej inteligencji w usłudze Microsoft Defender dla Chmury.

• Wdróż ciągły red teaming systemów AI. Regularnie przeprowadzaj testy przeciwnika, korzystając ze specjalistycznych narzędzi:

  • PyRIT (Python Risk Identification Tool for GenAI) do automatycznego testowania adwersarialnego.
  • Azure AI Red Teaming Agent do ukierunkowanych symulacji ataków.

Zintegrować red teaming z potokami ciągłej integracji/ciągłego wdrażania, aby zweryfikować zabezpieczenia przed wdrożeniem. Testuj na znanych wzorcach ataków z MITRE ATLAS,OWASP Top 10 dla zastosowań LLM oraz OWASP Top 10 dla Agentic AI.

• Wdróż mechanizm udziału człowieka w przypadku krytycznych działań. W przypadku operacji AI o wysokim ryzyku, takich jak zewnętrzne transfery danych czy zmiany konfiguracji systemu, korzystaj z Azure Logic Apps lub Power Automate do projektowania przepływów pracy, które zatrzymują się na przegląd i zatwierdzenie przez człowieka przed wykonaniem.

• Monitoruj ryzykowne wzorce użytkowania AI. Użyj narzędzia Zarządzanie ryzykiem wewnętrznym w Microsoft Purview z szablonem zasad używania ryzykownej SI do wykrywania i analizowania działań związanych z ryzykiem dotyczącym SI. Aby uzyskać więcej informacji, zobacz Szablony zasad zarządzania ryzykiem wewnętrznym.

Ochrona poufnych danych w interakcjach sztucznej inteligencji

Aplikacje sztucznej inteligencji często współdziałają z poufnymi danymi. Zaimplementuj mechanizmy kontroli ochrony danych, aby zapobiec utracie danych i zapewnić zgodność.

• Korzystaj z Zarządzanie stanem bezpieczeństwa danych w Microsoft Purview (DSPM) do AI. DSPM dla AI zapewnia wgląd w aktywność AI, gotowe do użycia zasady chroniące dane zawarte w promptach oraz oceny ryzyka związanego z danymi pod kątem potencjalnego nadmiernego ujawniania. Aby uzyskać więcej informacji, zobacz Zarządzanie stanem zabezpieczeń danych dla sztucznej inteligencji.

• Stosuj etykiety wrażliwości i polityki DLP. Rozszerzenie etykiet wrażliwości Microsoft Purview na dane dostępne przez aplikacje AI oraz konfigurowanie polityk DLP do wykrywania i blokowania wrażliwych danych w promptach AI. Więcej informacji znajduje się w temacie Rozpoczęcie pracy z etykietami poufności.

Zarządzanie sztuczną inteligencją pod kątem zgodności

Aplikacje sztucznej inteligencji muszą być zgodne z wymaganiami prawnymi i zasadami organizacyjnymi.

• Wprowadź odpowiedzialne systemy sterowania AI. Stosuj się do zasad odpowiedzialnej AI Microsoft w zakresie sprawiedliwości, przejrzystości, prywatności i odpowiedzialności. Aby uzyskać więcej informacji, zobacz Microsoft Responsible AI Standard (Standardowa odpowiedzialnej sztucznej inteligencji firmy Microsoft).

• Prowadź rejestr audytu. Włącz audyt dla usług AI: Inspekcja w Microsoft Purview rejestruje interakcje Copilot, Azure Monitor śledzi korzystanie z usług Azure AI, a Defender for Cloud Apps monitoruje aktywność AI SaaS. Aby uzyskać więcej informacji, zobacz Dziennik inspekcji działań.

Dalsze kroki

• Dowiedz się o modelu współdzielonej odpowiedzialności AI.
• Poznaj model współdzielonej odpowiedzialności agenta AI.
• Przejrzyj Microsoft Cloud Security Benchmark v2 – Artificial Intelligence Security.
• Poznaj Security for AI , aby uzyskać kompleksowe porady dotyczące bezpieczeństwa AI.
• Poznaj zasady Zero Trust i jak stosują się do obciążeń AI.
• Poznaj inicjatywę Microsoft Secure Future Initiative (SFI), najlepsze praktyki Microsoft w zakresie bezpieczeństwa wewnętrznego, które Microsoft również zaleca organizacjom.