Włączanie ochrony przed zagrożeniami dla usług sztucznej inteligencji

Ochrona przed zagrożeniami dla usług sztucznej inteligencji w usłudze Microsoft Defender dla Chmury chroni obciążenia microsoft Foundry w subskrypcji platformy Azure, zapewniając szczegółowe informacje o zagrożeniach, które mogą mieć wpływ na generowane aplikacje i agenci sztucznej inteligencji.

Wymagania wstępne

Włączanie ochrony przed zagrożeniami dla usług sztucznej inteligencji

  1. Zaloguj się do portalu Azure.

  2. Wyszukaj i wybierz Microsoft Defender dla Chmury.

  3. W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.

  4. Wybierz odpowiednią subskrypcję usługi Azure.

  5. Na stronie planów Defender przełącz usługi AI na Włączone.

    Zrzut ekranu przedstawiający sposób przełączania ochrony przed zagrożeniami dla usług sztucznej inteligencji do włączonej.

Włącz składniki planu

Po włączeniu planu ochrony przed zagrożeniami usług sztucznej inteligencji możesz kontrolować, czy są włączone różne składniki planu. Obejmuje to:

  • Podejrzane dowody monitów: otrzymywanie alertów dotyczących podejrzanych części monitów użytkownika i odpowiedzi modelu w celu ułatwienia analizowania alertów zabezpieczeń związanych z sztuczną inteligencją z danymi poufnymi automatycznie redagowanych. Te fragmenty monitu są wyświetlane w portalu usługi Defender w ramach dowodów każdego alertu.

  • Zabezpieczenie danych dla interakcji ze sztuczną inteligencją: umożliwia usłudze Microsoft Purview dostęp do monitów, odpowiedzi i powiązanych metadanych w celu zapewnienia bezpieczeństwa i zgodności danych, takich jak klasyfikacja SIT, audyt, ryzyko insiderów, zgodność komunikacyjna i eDiscovery. Jest to płatna funkcja Purview i nie jest uwzględniona w planie usług Defender dla usług AI.

  • Zabezpieczenia modeli sztucznej inteligencji: skanowanie modeli sztucznej inteligencji zapewnia jasny, ujednolicony widok wszystkich modeli zarejestrowanych w rejestrach Azure Machine Learning. Pomaga to zespołom wyprzedzać zagrożenia bezpieczeństwa, automatycznie sprawdzając, czy występują problemy, takie jak luki w zabezpieczeniach serializacji, złośliwe oprogramowanie i brakujące skanowania. Dzięki ujawnieniu błędnych konfiguracji i bezproblemowej integracji z usługą Defender dla Chmury oraz procesami deweloperskimi gwarantuje, że modele sztucznej inteligencji są stale chronione i gotowe do produkcji.

Włącz dowody podejrzanych monitów

Po włączeniu planu ochrony przed zagrożeniami usług sztucznej inteligencji możesz kontrolować, czy alerty obejmują podejrzane segmenty bezpośrednio z monitów użytkownika, czy też odpowiedzi modelu z aplikacji lub agentów sztucznej inteligencji. Włączenie danych z monitu użytkownika pomaga w klasyfikowaniu alertów oraz intencji użytkownika.

Dowody polecenia użytkownika składają się z poleceń i odpowiedzi generowanych przez model. Oba są uznawane za Twoje dane. Dowody są dostępne za pośrednictwem portalu Azure, portalu Defender i wszelkich dołączonych integracji partnerów.

Jeśli dowody monitu użytkownika są wyłączone, usługa Microsoft Defender dla Chmury kontynuuje analizowanie monitów i odpowiedzi na potrzeby wykrywania zagrożeń, ale zawartość monitu jest maskowana w alertach.

  1. Zaloguj się do portalu Azure.

  2. Wyszukaj i wybierz Microsoft Defender dla Chmury.

  3. W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.

  4. Wybierz odpowiednią subskrypcję usługi Azure.

  5. Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.

    Zrzut ekranu przedstawiający lokalizację przycisku ustawień na ekranie Plany.

  6. Przełącz opcję Włączenia monitu użytkownika na Włącz.

    Zrzut ekranu pokazujący, jak przełączyć żądanie użytkownika na włączone.

  7. Wybierz Kontynuuj.

Włącz bezpieczeństwo danych dla Microsoft z Microsoft Purview

Ważna

Obecna metoda konfiguracji Microsoft Purview dla Microsoft Foundry jest wycofywana. Dostępna jest nowa metoda konfiguracji. Więcej informacji można znaleźć w artykule Zarządzaj zgodnością i bezpieczeństwem w Microsoft Foundry.

Note

Ta funkcja wymaga licencji usługi Microsoft Purview, która nie jest dołączona do planu usługi Defender for AI w usłudze Microsoft Defender dla Chmury.

Aby rozpocząć pracę z programem Microsoft Purview DSPM for AI, zobacz Konfigurowanie platformy Microsoft Purview DSPM dla sztucznej inteligencji.

Włącz usługę Microsoft Purview, aby uzyskiwać dostęp, przetwarzać i przechowywać dane monitów i odpowiedzi — w tym skojarzone metadane — z witryny Microsoft Foundry. Ta integracja obsługuje kluczowe scenariusze zabezpieczeń danych i zgodności, takie jak:

  • Klasyfikacja typu informacji poufnych (SIT)

  • Analiza i raportowanie za pośrednictwem platformy Microsoft Purview DSPM dla sztucznej inteligencji

  • Zarządzanie ryzykiem wewnętrznym

  • Zgodność dotycząca komunikacji

  • Inspekcja w Microsoft Purview

  • Zarządzanie cyklem życia danych

  • Zbieranie elektronicznych materiałów dowodowych

Ta funkcja pomaga organizacji zarządzać danymi generowanymi przez sztuczną inteligencję i monitorować je zgodnie z zasadami przedsiębiorstwa i wymaganiami prawnymi.

Note

Integracja usługi Microsoft Purview nie obejmuje danych ani kontekstu z agentów usługi Foundry. Obsługa integracji agenta Foundry nie jest obecnie dostępna i informacje na ten temat pojawią się w przyszłych aktualizacjach, jeśli jest to planowane.

Note

Zasady zabezpieczeń danych dla interakcji rozwiązania Microsoft Foundry są obsługiwane tylko w przypadku wywołań interfejsu API korzystających z uwierzytelniania identyfikatora Entra firmy Microsoft z tokenem kontekstu użytkownika lub wywołań interfejsu API, które jawnie zawierają kontekst użytkownika. Aby dowiedzieć się więcej, zobacz Uzyskiwanie kontekstu użytkownika końcowego dla wywołań interfejsu API sztucznej inteligencji platformy Azure. W przypadku wszystkich innych scenariuszy uwierzytelniania interakcje użytkownika przechwycone w usłudze Purview są wyświetlane tylko w usłudze Purview Audit and DSPM for AI Activity Explorer (Inspekcja usługi Purview i DSPM dla Eksploratora działań sztucznej inteligencji).

  1. Zaloguj się do portalu Azure.

  2. Wyszukaj i wybierz Microsoft Defender dla Chmury.

  3. W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.

  4. Wybierz odpowiednią subskrypcję usługi Azure.

  5. Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.

  6. Przełącz Włącz zabezpieczenia danych dla interakcji ze sztuczną inteligencją na Włączone.  

    Zrzut ekranu przedstawiający lokalizację przełącznika dla interakcji ze sztuczną inteligencją.

  7. Wybierz Kontynuuj.

Troubleshooting

Jeśli nie widzisz interakcji użytkownika dla uwierzytelnionych użytkowników usługi Entra w Eksploratorze działań usługi Microsoft Purview po włączeniu przełącznika, wykonaj następujące kroki, aby rozwiązać problemy:

Uruchom następujące polecenia w programie Azure PowerShell

  1. Zainstaluj następujące moduły Az (w razie potrzeby):
    Install-Module -Name Az -AllowClobber
    Import-Module Az.Accounts
    
  2. Połącz się z programem Azure PowerShell jako administrator dzierżawy:
    Connect-AzAccount -Tenant $yourTenantIdHere
    
  3. Na stronie internetowej, która zostanie otwarta, zaloguj się przy użyciu poświadczeń administratora dzierżawy.
  4. Sprawdź, czy główny obiekt usługi Microsoft Purview znajduje się w dzierżawie.
    Get-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a"
    
  5. Jeśli zasadniczy element usługi nie istnieje, dodaj zasadniczy element usługi aplikacji Microsoft Purview do dzierżawy:
    New-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a"
    

Włączanie zabezpieczeń modelu AI

Zabezpieczenia modelu sztucznej inteligencji w usłudze Defender dla Chmury zapewniają organizacjom proaktywną ochronę modeli uczenia maszynowego (ML). Usługa skanuje modele pod kątem zagrożeń bezpieczeństwa, takich jak osadzone złośliwe oprogramowanie, niebezpieczne operatory i ujawnione wpisy tajne, zanim modele dotrą do środowiska produkcyjnego.

Dzięki bezpośredniej integracji z obszarami roboczymi Azure Machine Learning, rejestrami oraz potokami ciągłej integracji i ciągłego dostarczania (CI/CD), zabezpieczenia modeli AI zapewniają zespołom odpowiedzialnym za bezpieczeństwo pełny wgląd w stan bezpieczeństwa i zgodności modeli sztucznej inteligencji, które działają w ich środowiskach.

  1. Zaloguj się do portalu Azure.

  2. Wyszukaj i wybierz Microsoft Defender dla Chmury.

  3. W menu Defender dla Chmury wybierz pozycję Ustawienia środowiska.

  4. Wybierz odpowiednią subskrypcję usługi Azure.

  5. Znajdź usługi sztucznej inteligencji i wybierz pozycję Ustawienia.

  6. Ustaw zabezpieczenia modelu AI na włączone.

    Zrzut ekranu przedstawiający lokalizację przełącznika zabezpieczeń modelu sztucznej inteligencji.

  7. Wybierz Kontynuuj.

Dowiedz się więcej o zabezpieczeniach modelu sztucznej inteligencji.