Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ważna
Ta funkcja jest obecnie w publicznej wersji zapoznawczej. Warunki Microsoft Defender wersji zapoznawczej dotyczą funkcji dostępnych w publicznej wersji zapoznawczej.
Wdrożeni agenci SI działają autonomicznie, korzystają z narzędzi, uzyskują dostęp do danych i wykonują działania w połączonych systemach w odpowiedzi na polecenia w języku naturalnym. To sprawia, że ciągłe wykrywanie i analiza mają kluczowe znaczenie. Microsoft Defender wykrywa podejrzane i złośliwe zachowanie agenta, zapewnia alerty niemal w czasie rzeczywistym i umożliwia zespołom ds. zabezpieczeń badanie zdarzeń i śledzenie pełnej głównej przyczyny i promienia wybuchu.
Microsoft Defender wykrywa i umożliwia zespołom ds. zabezpieczeń badanie zagrożeń dla agentów sztucznej inteligencji zarządzanych za pośrednictwem Microsoft agenta 365, w tym rozszerzonych funkcji wykrywania dostępnych dla obsługiwanych platform agentów. Aby zablokować niebezpieczne akcje agenta podczas wykonywania, zobacz Protect AI agents in real time using Microsoft Defender (Ochrona agentów sztucznej inteligencji w czasie rzeczywistym przy użyciu Microsoft Defender).
Wymagania wstępne
Włącz zabezpieczenia dla agentów AI, w tym łącznik aplikacji Microsoft 365, aby zbierać dane obserwowalności Agent 365 dotyczące działań agentów AI. Zobacz Włączanie zabezpieczeń dla agentów sztucznej inteligencji przy użyciu Microsoft Defender.
Upewnij się, że Twój agent AI przesyła dane o obserwowalności do Microsoft 365:
- Agenci zbudowani w Microsoft Copilot Studio, Microsoft Foundry oraz agenci deklaratywni z Microsoft Copilot Agent Builder domyślnie przesyłają dane obserwacji do Microsoft 365.
- W przypadku agentów sztucznej inteligencji opartych na innych platformach włącz możliwość obserwowania przy użyciu zestawu Microsoft Agent 365 SDK, zgodnie z opisem w dokumentacji cyklu życia tworzenia Agent 365.
Uwaga
Wykrywanie zagrożeń jest obsługiwane wyłącznie dla opublikowanych agentów Microsoft Foundry. Niepublikowani agenci, w tym agenci używani wyłącznie w środowisku placu zabaw, nie są wspierani. Więcej informacji można znaleźć w temacie Publikowanie agentów w usłudze Microsoft Copilot i Microsoft Teams w portalu Foundry
Aby wykryć zagrożenia dla lokalnych agentów sztucznej inteligencji uruchamianych w punktach końcowych, skonfiguruj ochronę środowiska uruchomieniowego agenta sztucznej inteligencji w Ochrona punktu końcowego w usłudze Microsoft Defender. Ochrona punktu końcowego w usłudze Microsoft Defender musi działać w trybie aktywnym. Agenty lokalne są wdrażane oddzielnie od agentów chmurowych.
(Opcjonalnie) Aby uwzględnić fragmenty promptów, które spowodowały wykrycie, jako materiał dowodowy w alertach, włącz zbieranie materiału dowodowego z promptów. To ustawienie jest domyślnie włączone.
Wykrywanie zagrożeń agenta sztucznej inteligencji niemal w czasie rzeczywistym
Microsoft Defender nieustannie monitoruje aktywność agentów AI i wykrywa podejrzane oraz złośliwe zachowania wszystkich agentów zarządzanych przez Agent 365. Defender analizuje telemetrię agentów, użycie narzędzi oraz wzorce wykonywania, aby zidentyfikować zagrożenia takie jak próby jailbreaku, pośrednie próby wtrysku promptów (XPIA),propagacja złośliwych treści, wycieki sekretów i danych uwierzytelniających, techniki unikania, rozpoznanie dużych modeli językowych (LLM) oraz podejrzany dostęp użytkowników lub IP.
Microsoft Defender prezentuje wykrycia jako alerty prawie w czasie rzeczywistym w portalu Defender i umożliwia zespołom ds. bezpieczeństwa analizowanie ich przy użyciu znanych przepływów pracy w operacjach bezpieczeństwa, w tym klasyfikacji alertów, korelacji incydentów i funkcji Advanced Hunting.
Aby uzyskać więcej informacji, zobacz Incydenty i alerty w portalu Microsoft Defender.
Detekcje w czasie zbliżonym do rzeczywistego opierają się na danych obserwowalności z Agent 365, które również dostarczają cennego kontekstu do badania incydentów i polowania na zagrożenia. Microsoft Defender analizuje te dane, aby zidentyfikować podejrzane zachowanie agenta i wygenerować alerty.
Aby wzbogacić analizę alertów o fragmenty monitów, które spowodowały wykrycie, włącz gromadzenie materiału dowodowego dotyczącego monitów. Aby uzyskać więcej informacji, zobacz Kontrolowanie dowodów dotyczących monitów w alertach.
Badanie zagrożeń agenta sztucznej inteligencji i wyszukiwanie zagrożeń przy użyciu zaawansowanego wyszukiwania zagrożeń
Microsoft Defender koreluje alerty agenta sztucznej inteligencji ze zdarzeniami i wyświetla powiązany kontekst, dzięki czemu zespoły ds. zabezpieczeń mogą szybko ocenić wpływ i określić priorytety reakcji. Advanced Hunting umożliwia następnie analitykom przeszukiwanie danych telemetrycznych agenta 365 za pomocą zapytań w języku Kusto Query Language (KQL) w celu badania incydentów i identyfikowania zagrożeń w całym środowisku.
Badanie zdarzeń i alertów
Microsoft Defender koreluje alerty agenta sztucznej inteligencji z wykrywania niemal w czasie rzeczywistym do zdarzeń. Zdarzenia inspekcji ochrony w czasie rzeczywistym i blokowania są rejestrowane jako zachowania w tabeli BehaviorInfo, które można skorelować z alertami podczas analizy.
Analitycy zabezpieczeń mogą korzystać z grafu incydentu i interfejsu dochodzeniowego, aby zrozumieć pełny kontekst potencjalnego ataku, w tym relacje między zaangażowanymi encjami oraz zasięg oddziaływania zagrożeń związanych z agentami SI. Aby uzyskać więcej informacji, zobacz Incydenty i alerty w portalu Microsoft Defender.
Uwaga
Zdarzenia blokowania z Microsoft Prompt Shields dla usługi Foundry oraz Microsoft Copilot Agent Builder są również rejestrowane jako zachowania. Nie jest to jeszcze obsługiwane w przypadku agentów utworzonych przy użyciu Microsoft Copilot Studio.
Koreluj alerty i dane obserwowalności z usługi Agent 365 oraz wyszukuj zagrożenia za pomocą funkcji Advanced Hunting
Zaawansowane wyszukiwanie w Microsoft Defender umożliwia zespołom ds. zabezpieczeń wykonywanie zapytań dotyczących danych obserwowalności Agent 365 wraz z innymi danymi zabezpieczeń przy użyciu języka zapytań Kusto (KQL). Obsługuje to proaktywne wyszukiwanie zagrożeń, badanie zdarzeń i analizę głównych przyczyn agentów, aplikacji, tożsamości i urządzeń.
Na przykład użyj funkcji Advanced Hunting, aby:
Śledzenie wywołań określonego narzędzia agenta i korelowanie ich z powiązanymi alertami lub zdarzeniami blokowymi
Badanie głównej przyczyny i zakresu wykrytego zagrożenia agenta sztucznej inteligencji
Identyfikuj anomalne wzorce działania lub ryzykowne zachowanie agenta w różnych środowiskach
Tworzenie niestandardowych reguł wykrywania na podstawie sygnałów aktywności agenta
Zaawansowane tabele wyszukiwania zagrożeń na potrzeby badania agenta sztucznej inteligencji
Poniższe tabele funkcji Advanced Hunting zapewniają wgląd w konfigurację agenta SI, alerty i aktywność. Możesz wysyłać zapytania do tych tabel pojedynczo lub skorelować je w celu zbadania zdarzeń i wyszukiwania zagrożeń związanych z agentem.
| Nazwa tabeli | Opis | Typowe przypadki użycia |
|---|---|---|
| AlertInfo | Zawiera metadane alertów generowane przez Microsoft Defender, w tym alerty związane z wykrywaniem niemal w czasie rzeczywistym. | Zbadaj alerty agenta sztucznej inteligencji, zapoznaj się z kontekstem alertów i przeprowadź przejście do powiązanych zdarzeń i jednostek. |
| CloudAppEvents | Zawiera Agent 365 dane dotyczące obserwowalności działania agenta sztucznej inteligencji, w tym akcje agenta, wywołania narzędzi i zdarzenia dostępu do danych. | Wyszukiwanie podejrzanego zachowania agenta, śledzenie akcji agenta i przeprowadzanie analizy głównej przyczyny przy użyciu Agent 365 danych obserwowalności. |
| AgentsInfo | Zawiera szczegóły spisu i konfiguracji agentów sztucznej inteligencji, w tym tożsamość agenta, platformę, własność i metadane. | Przejrzyj stan agenta, zidentyfikuj ryzykownych lub nieprawidłowo skonfigurowanych agentów oraz skoreluj tożsamość agenta z alertami i działaniami. |
| AlertEvidence | Zawiera jednostki i artefakty skojarzone z alertami, takie jak agenci, użytkownicy, narzędzia, adresy URL lub zasoby. | Poznaj zakres alertu i zidentyfikuj powiązane jednostki biorące udział w zdarzeniu agenta sztucznej inteligencji. |
| BehaviorInfo | Obejmuje zachowania rejestrujące działanie reguł ochrony w czasie rzeczywistym, w tym zdarzenia audytu i blokowania, jako dane telemetryczne, które można odpytywać. | Twórz niestandardowe reguły wykrywania, zapytania do wyszukiwania zagrożeń i automatyzację działań następczych na podstawie zdarzeń ochrony w czasie rzeczywistym. |
| BehaviorEntities | Zawiera jednostki i artefakty skojarzone z zachowaniami, takimi jak agenci, użytkownicy, narzędzia i zasoby. | Skorelowanie zachowań z powiązanymi jednostkami w celu zbadania zakresu zdarzeń ochrony w czasie rzeczywistym. |