Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ochrona przed zagrożeniami dla usług sztucznej inteligencji w usłudze Microsoft Defender dla Chmury chroni obciążenia microsoft Foundry w subskrypcji platformy Azure, zapewniając szczegółowe informacje o zagrożeniach, które mogą mieć wpływ na generowane aplikacje i agenci sztucznej inteligencji.
Wymagania wstępne
Zapoznaj się z Przeglądem - ochrona przed zagrożeniami związanymi ze sztuczną inteligencją.
Potrzebna jest subskrypcja platformy Microsoft Azure. Jeśli nie masz subskrypcji platformy Azure, możesz zarejestrować się w celu uzyskania bezpłatnej subskrypcji.
Włącz Defender dla Chmury w ramach subskrypcji platformy Azure.
Wymagane uprawnienia: aby włączyć plan, potrzebujesz poziomu Właściciel lub Współautor .
Włączanie ochrony przed zagrożeniami dla usług sztucznej inteligencji
Zaloguj się do portalu Azure.
Wyszukaj i wybierz Microsoft Defender dla Chmury.
W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.
Wybierz odpowiednią subskrypcję usługi Azure.
Na stronie planów Defender przełącz usługi AI na Włączone.
Włącz składniki planu
Po włączeniu planu ochrony przed zagrożeniami usług sztucznej inteligencji możesz kontrolować, czy są włączone różne składniki planu. Obejmuje to:
Podejrzane dowody monitów: otrzymywanie alertów dotyczących podejrzanych części monitów użytkownika i odpowiedzi modelu w celu ułatwienia analizowania alertów zabezpieczeń związanych z sztuczną inteligencją z danymi poufnymi automatycznie redagowanych. Te fragmenty monitu są wyświetlane w portalu usługi Defender w ramach dowodów każdego alertu.
Zabezpieczenie danych dla interakcji ze sztuczną inteligencją: umożliwia usłudze Microsoft Purview dostęp do monitów, odpowiedzi i powiązanych metadanych w celu zapewnienia bezpieczeństwa i zgodności danych, takich jak klasyfikacja SIT, audyt, ryzyko insiderów, zgodność komunikacyjna i eDiscovery. Jest to płatna funkcja Purview i nie jest uwzględniona w planie usług Defender dla usług AI.
Zabezpieczenia modeli sztucznej inteligencji: skanowanie modeli sztucznej inteligencji zapewnia jasny, ujednolicony widok wszystkich modeli zarejestrowanych w rejestrach Azure Machine Learning. Pomaga to zespołom wyprzedzać zagrożenia bezpieczeństwa, automatycznie sprawdzając, czy występują problemy, takie jak luki w zabezpieczeniach serializacji, złośliwe oprogramowanie i brakujące skanowania. Dzięki ujawnieniu błędnych konfiguracji i bezproblemowej integracji z usługą Defender dla Chmury oraz procesami deweloperskimi gwarantuje, że modele sztucznej inteligencji są stale chronione i gotowe do produkcji.
Włącz dowody podejrzanych monitów
Po włączeniu planu ochrony przed zagrożeniami usług sztucznej inteligencji możesz kontrolować, czy alerty obejmują podejrzane segmenty bezpośrednio z monitów użytkownika, czy też odpowiedzi modelu z aplikacji lub agentów sztucznej inteligencji. Włączenie danych z monitu użytkownika pomaga w klasyfikowaniu alertów oraz intencji użytkownika.
Dowody polecenia użytkownika składają się z poleceń i odpowiedzi generowanych przez model. Oba są uznawane za Twoje dane. Dowody są dostępne za pośrednictwem portalu Azure, portalu Defender i wszelkich dołączonych integracji partnerów.
Jeśli dowody monitu użytkownika są wyłączone, usługa Microsoft Defender dla Chmury kontynuuje analizowanie monitów i odpowiedzi na potrzeby wykrywania zagrożeń, ale zawartość monitu jest maskowana w alertach.
Zaloguj się do portalu Azure.
Wyszukaj i wybierz Microsoft Defender dla Chmury.
W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.
Wybierz odpowiednią subskrypcję usługi Azure.
Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.
Przełącz opcję Włączenia monitu użytkownika na Włącz.
Wybierz Kontynuuj.
Włącz bezpieczeństwo danych dla Microsoft z Microsoft Purview
Ważna
Obecna metoda konfiguracji Microsoft Purview dla Microsoft Foundry jest wycofywana. Dostępna jest nowa metoda konfiguracji. Więcej informacji można znaleźć w artykule Zarządzaj zgodnością i bezpieczeństwem w Microsoft Foundry.
Note
Ta funkcja wymaga licencji usługi Microsoft Purview, która nie jest dołączona do planu usługi Defender for AI w usłudze Microsoft Defender dla Chmury.
Aby rozpocząć pracę z programem Microsoft Purview DSPM for AI, zobacz Konfigurowanie platformy Microsoft Purview DSPM dla sztucznej inteligencji.
Włącz usługę Microsoft Purview, aby uzyskiwać dostęp, przetwarzać i przechowywać dane monitów i odpowiedzi — w tym skojarzone metadane — z witryny Microsoft Foundry. Ta integracja obsługuje kluczowe scenariusze zabezpieczeń danych i zgodności, takie jak:
Klasyfikacja typu informacji poufnych (SIT)
Analiza i raportowanie za pośrednictwem platformy Microsoft Purview DSPM dla sztucznej inteligencji
Zarządzanie ryzykiem wewnętrznym
Zgodność dotycząca komunikacji
Inspekcja w Microsoft Purview
Zarządzanie cyklem życia danych
Zbieranie elektronicznych materiałów dowodowych
Ta funkcja pomaga organizacji zarządzać danymi generowanymi przez sztuczną inteligencję i monitorować je zgodnie z zasadami przedsiębiorstwa i wymaganiami prawnymi.
Note
Integracja usługi Microsoft Purview nie obejmuje danych ani kontekstu z agentów usługi Foundry. Obsługa integracji agenta Foundry nie jest obecnie dostępna i informacje na ten temat pojawią się w przyszłych aktualizacjach, jeśli jest to planowane.
Note
Zasady zabezpieczeń danych dla interakcji rozwiązania Microsoft Foundry są obsługiwane tylko w przypadku wywołań interfejsu API korzystających z uwierzytelniania identyfikatora Entra firmy Microsoft z tokenem kontekstu użytkownika lub wywołań interfejsu API, które jawnie zawierają kontekst użytkownika. Aby dowiedzieć się więcej, zobacz Uzyskiwanie kontekstu użytkownika końcowego dla wywołań interfejsu API sztucznej inteligencji platformy Azure. W przypadku wszystkich innych scenariuszy uwierzytelniania interakcje użytkownika przechwycone w usłudze Purview są wyświetlane tylko w usłudze Purview Audit and DSPM for AI Activity Explorer (Inspekcja usługi Purview i DSPM dla Eksploratora działań sztucznej inteligencji).
Zaloguj się do portalu Azure.
Wyszukaj i wybierz Microsoft Defender dla Chmury.
W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.
Wybierz odpowiednią subskrypcję usługi Azure.
Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.
Przełącz Włącz zabezpieczenia danych dla interakcji ze sztuczną inteligencją na Włączone.
Wybierz Kontynuuj.
Troubleshooting
Jeśli nie widzisz interakcji użytkownika dla uwierzytelnionych użytkowników usługi Entra w Eksploratorze działań usługi Microsoft Purview po włączeniu przełącznika, wykonaj następujące kroki, aby rozwiązać problemy:
Uruchom następujące polecenia w programie Azure PowerShell
- Zainstaluj następujące moduły Az (w razie potrzeby):
Install-Module -Name Az -AllowClobber Import-Module Az.Accounts - Połącz się z programem Azure PowerShell jako administrator dzierżawy:
Connect-AzAccount -Tenant $yourTenantIdHere - Na stronie internetowej, która zostanie otwarta, zaloguj się przy użyciu poświadczeń administratora dzierżawy.
- Sprawdź, czy główny obiekt usługi Microsoft Purview znajduje się w dzierżawie.
Get-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a" - Jeśli zasadniczy element usługi nie istnieje, dodaj zasadniczy element usługi aplikacji Microsoft Purview do dzierżawy:
New-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a"
Włączanie zabezpieczeń modelu AI
Zabezpieczenia modelu sztucznej inteligencji w usłudze Defender dla Chmury zapewniają organizacjom proaktywną ochronę modeli uczenia maszynowego (ML). Usługa skanuje modele pod kątem zagrożeń bezpieczeństwa, takich jak osadzone złośliwe oprogramowanie, niebezpieczne operatory i ujawnione wpisy tajne, zanim modele dotrą do środowiska produkcyjnego.
Dzięki bezpośredniej integracji z obszarami roboczymi Azure Machine Learning, rejestrami oraz potokami ciągłej integracji i ciągłego dostarczania (CI/CD), zabezpieczenia modeli AI zapewniają zespołom odpowiedzialnym za bezpieczeństwo pełny wgląd w stan bezpieczeństwa i zgodności modeli sztucznej inteligencji, które działają w ich środowiskach.
Zaloguj się do portalu Azure.
Wyszukaj i wybierz Microsoft Defender dla Chmury.
W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.
Wybierz odpowiednią subskrypcję usługi Azure.
Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.
Ustaw zabezpieczenia modelu AI na włączone.
Wybierz Kontynuuj.
Dowiedz się więcej o zabezpieczeniach modelu sztucznej inteligencji.