Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ważna
Niektóre informacje zawarte w tym artykule odnoszą się do wersji wstępnej produktu, który może zostać znacznie zmodyfikowany do czasu wydania wersji komercyjnej. Firma Microsoft nie udziela żadnych gwarancji, wyrażonych ani dorozumianych, w odniesieniu do informacji podanych tutaj.
Lokalni agenci sztucznej inteligencji, w tym asystenci kodowania, narzędzia interfejsu wiersza polecenia, aplikacje klasycznej sztucznej inteligencji i autonomiczne platformy agentów, działają z uprawnieniami użytkownika w punktach końcowych. Ci agenci działają na podstawie tekstu z promptów, plików, treści internetowych oraz wyników narzędzi. Nie potrafią niezawodnie oddzielić zaufanej treści od ukrytych instrukcji. Pojedyncza wstrzyknięta instrukcja może nieprawidłowo wykorzystywać dostęp agenta do eksfiltrowania danych, modyfikowania kodu lub uruchamiania szkodliwych poleceń.
Microsoft Defender zapewnia ochronę środowiska uruchomieniowego agentów AI, sprawdzając krytyczne punkty w pętli agenta, gdzie zawartość trafia do procesu wnioskowania agenta lub go opuszcza. Pomaga to wykrywać złośliwe prompty i szkodliwe działania agentów, które te prompty mogą spowodować, poddawać je audytowi i blokować te działania przed ich uruchomieniem, gdy metoda inspekcji na to pozwala. Defender stosuje dwa podejścia inspekcyjne: natywną dla agentów inspekcję zdarzeń dla agentów udostępniających interfejsy zdarzeń wspierane przez dostawców oraz inspekcję sieci dla pokrytych ścieżek sieciowych. Aby dowiedzieć się więcej o tym, jak ochrona środowiska uruchomieniowego audytuje i blokuje ataki, zobacz Co wykrywa ochrona środowiska uruchomieniowego i Jak działa.
Dowiedz się, co zatrzymuje ochrona w czasie działania, jak działa i jak badać wykrycia.
Porada
Ochrona w czasie działania uzupełnia możliwości wykrywania i inwentaryzacji Microsoft Defender, które inwentaryzują lokalnych agentów AI oraz ich konfiguracje serwerów MCP na Twoich urządzeniach. Aby uzyskać więcej informacji, zobacz Odnajdywanie lokalnych agentów SI za pomocą Ochrona punktu końcowego w usłudze Microsoft Defender.
Porada
Aby bezpiecznie zweryfikować ochronę w czasie wykonywania na urządzeniu testowym, uruchom demonstrację ochrony agenta AI w czasie wykonywania.
Co wykrywa ochrona środowiska uruchomieniowego
Ochrona w czasie wykonywania pomaga chronić przed atakami z udziałem złośliwych promptów i wynikającym z tego naruszeniem zachowania agenta. Defender sprawdza kluczowe punkty w pętli agenta, gdzie treść trafia do rozumowania agenta lub je opuszcza, i wychwytuje ataki niezależnie od miejsca pochodzenia treści – czy to pliku, strony internetowej, repozytorium czy wyjścia narzędzia.
Na przykład agent kodowania pobiera dokumentację projektu w celu udzielenia odpowiedzi na pytanie, a strona zawiera ukryty tekst, który nakazuje agentowi odczytanie lokalnego pliku env i publikowanie jego zawartości w zewnętrznym adresie URL. Agent traktuje instrukcję jako część strony i zamierza się do niej zastosować, ale usługa Defender wykrywa atak prompt injection w odpowiedzi narzędzia i blokuje działanie, zanim jakiekolwiek dane opuszczą urządzenie.
Jak to działa
Ochrona w czasie wykonywania wykorzystuje dwa podejścia do inspekcji aktywności agentów: inspekcję zdarzeń natywnych dla agenta oraz inspekcję sieci.
Inspekcja zdarzeń natywnych dla agentów
Natywna dla agenta inspekcja zdarzeń korzysta z obsługiwanych przez dostawcę interfejsów zdarzeń udostępnianych przez agenta. Agenci tacy jak Claude Code, Codex CLI i GitHub Copilot CLI udostępniają te interfejsy, a Defender wykorzystuje je do inspekcji aktywności agentów oraz stosowania decyzji audytowych lub blokujących w kluczowych momentach przepływu pracy.
Defender skanuje aktywność agentów pod kątem złośliwych komunikatów i działań wysokiego ryzyka. W zależności od interfejsów zdarzeń, które agent obsługuje, Defender może zatrzymać dalsze przetwarzanie złośliwych treści w pętli agenta lub zapobiec uruchomieniu szkodliwej akcji narzędzia.
Każde skanowanie to szybka, inline kontrola, a nie ciągłe monitorowanie procesu agenta, więc dodatkowe opóźnienia są minimalne.
Inspekcja sieci
Inspekcja sieci rozszerza ochronę środowiska uruchomieniowego na agentów, którzy nie uwidaczniają interfejsów zdarzeń natywnych dla agentów. Zamiast polegać na ustrukturyzowanych zdarzeniach agentów, Defender sprawdza przepływy sieci agent-to-Large Language Model (LLM) pokryte macierzą wsparcia, aby wykryć prompt injection podczas transmisji.
Użyj inspekcji sieci, gdy chcesz chronić agentów, którzy komunikują się z usługami LLM przez sieć, ale nie udostępniają interfejsu zdarzeń obsługiwanego przez dostawcę. Takie podejście pomaga zmniejszyć lukę w ochronie dla agentów, którzy w przeciwnym razie nie mieliby ochrony przed interakcją z modelem lub w jej trakcie.
Note
Inspekcja sieci nie obsługuje agentów korzystających z przypinania certyfikatu ani PROTOKOŁU HTTP/3.
Co się stanie po włączeniu ochrony środowiska uruchomieniowego
Po włączeniu na urządzeniu Defender kontroluje aktywność agenta w dostępnych punktach inspekcji, nie zmieniając sposobu korzystania z agenta przez użytkowników. To, co dzieje się po wykryciu, zależy od skonfigurowanego trybu:
- Blokuj: Defender blokuje zagrożenie i stosuje reguły powiadomień skonfigurowane dla urządzenia. Usługa Defender powiadamia użytkownika zarówno w interfejsie użytkownika agenta, jak i za pośrednictwem wyskakujących powiadomień systemu Windows. Wykrycie jest rejestrowane w historii ochrony Defender na urządzeniu, a alert bezpieczeństwa jest wysyłany do Defender i korelowany w incydenty w celu zbadania przez SOC.
- Audyt: Defender pozwala na kontynuowanie akcji i rejestruje wykrycie. Alert bezpieczeństwa jest nadal generowany w usłudze Defender do zbadania.
- Wyłączone: Ochrona środowiska uruchomieniowego jest wyłączona. Usługa Defender nie sprawdza działania agenta, a agenci działają bez monitowego wykrywania iniekcji lub blokowania.
Microsoft zaleca rozpoczęcie pracy w trybie inspekcji, aby monitorować wykrycia i zweryfikować ich dokładność przed przełączeniem do trybu blokowania w celu aktywnego egzekwowania. Ustawienie ochrony środowiska uruchomieniowego jest chronione przez ochronę przed naruszeniami, co zapobiega nieautoryzowanym zmianom i współdziała z istniejącymi kontrolkami usługi Defender.
Aby poznać lokalne opcje konfiguracji PowerShell i Microsoft Intune dla całej organizacji, zobacz Konfiguruj ochronę przed działaniem agentów AI w Ochrona punktu końcowego w usłudze Microsoft Defender.
Znane problemy (Zapowiedź)
Ważna
Podczas podglądu powiadomienia o wstrzykiwaniu promptów w portalu Microsoft Defender mogą błędnie zgłaszać Podejrzane wstrzyknięcie promptu AI zostało zablokowane, gdy ochrona środowiska uruchomieniowego agentów AI jest skonfigurowana w trybie audytu. To jest kwestia zgłaszania alertów. W trybie audytu ochrona w czasie wykonywania pozwala na kontynuowanie akcji i rejestruje wykrycie; tytuł alertu nie oznacza, że ochrona w czasie wykonywania blokowała tę akcję.
Sprawdź tryb ochrony środowiska uruchomieniowego w czasie wykonywania na urządzeniu, którego dotyczy problem, jak opisano w Skonfiguruj ochronę środowiska uruchomieniowego agenta AI w czasie wykonywania. Nie polegaj wyłącznie na tytule alertu, by ocenić, czy akcja została zablokowana. Kontynuuj badanie detekcji, aby ocenić, czy aktywność jest złośliwa.
Ważna
W wersji zapoznawczej Claude Code może nadal przetwarzać odpowiedź narzędzia, nawet gdy ochrona agentów AI w czasie działania jest skonfigurowana w trybie Block, a Defender zgłasza blok po odpowiedzi narzędzia. To jest ograniczenie o charakterze blokującym, a nie tylko problem z raportowaniem alertów. Na dotkniętych urządzeniach alert blokujący nie oznacza, że ochrona w czasie działania uniemożliwiła agentowi przetwarzanie wykrytej treści.
Nie polegaj wyłącznie na tytule alertu, aby ocenić, czy odpowiedź narzędzia została zablokowana. Kontynuuj analizę wykrycia, aby ocenić, czy aktywność jest złośliwa. Inspekcja po odpowiedzi narzędzia odbywa się po uruchomieniu narzędzia i nie może cofnąć już wykonanych przez narzędzie działań.
Dochodzenia
Gdy ochrona środowiska uruchomieniowego wykryje monit o wstrzyknięcie, usługa Defender zgłasza alert dotyczący iniekcji podejrzanej sztucznej inteligencji i koreluje powiązane działania z zdarzeniami na potrzeby badania.
Aby zapoznać się z pełnym procesem badania, w tym ze środowiskami użytkownika i SOC, zobacz Przeglądanie i analizowanie wykryć.
Obsługiwani agenci
Informacje o agentach, trybach, metodzie inspekcji, minimalnej wersji oraz dokumentacji hooków dostawców można znaleźć w Ochrona punktu końcowego w usłudze Microsoft Defender AI agent support matrix.
Szersze możliwości zabezpieczeń sztucznej inteligencji
Możliwości ochrony środowiska uruchomieniowego usługi Defender są częścią kompleksowego podejścia do zabezpieczeń sztucznej inteligencji. Defender oferuje inne możliwości w ekosystemie AI Twojej organizacji:
- Odkryj lokalnych agentów AI: Wykryj lokalnych agentów AI i ich skonfigurowane serwery MCP na swoich urządzeniach po tym, jak Defender zaobserwuje aktywność agentów. Aby uzyskać więcej informacji, zobacz Odnajdywanie lokalnych agentów SI za pomocą Ochrona punktu końcowego w usłudze Microsoft Defender.
- Odkryj agentów chmurowych i platformowych: Znajdź agentów stworzonych w Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock oraz Google Cloud Platform (GCP) Vertex AI.
- Oceń stan bezpieczeństwa: Oceń konfiguracje agentów, zidentyfikuj zagrożenia, uzyskaj priorytetowe rekomendacje i ujawnij ścieżki ataku.
- Wykrywaj i badaj zagrożenia: Koreluj alerty i badaj podejrzane zachowania agentów w swojej infrastrukturze bezpieczeństwa.
Aby uzyskać szczegółowe informacje na temat tych możliwości i sposobu ich stosowania, zobacz Ochrona zasobów sztucznej inteligencji przed pojawiającym się zagrożeniami i lukami w zabezpieczeniach przy użyciu Microsoft Defender.