Ocenianie ryzyka związanego ze sztuczną inteligencją w organizacji przy użyciu pulpitu nawigacyjnego rozwiązania zabezpieczające firmy Microsoft dla sztucznej inteligencji

Pulpit nawigacyjny zabezpieczeń firmy Microsoft dla sztucznej inteligencji to ujednolicony pulpit nawigacyjny zabezpieczeń, który ułatwia liderom ds. zabezpieczeń zrozumienie i rozwiązanie ryzyka związanego ze sztuczną inteligencją w organizacji. Pulpit nawigacyjny wyposaża kierownictwo w narzędzie do zarządzania, które zapewnia jasne i kompleksowe informacje na temat bezpieczeństwa AI oraz odpowiedzi na najbardziej palące pytania dotyczące ryzyk związanych z AI, w tym:

Które zasoby sztucznej inteligencji istnieją w naszym środowisku?
Jaki jest ich bieżący stan zabezpieczeń?
Gdzie musimy podjąć działania?

W tym artykule wyjaśniono podstawowe możliwości pulpitu nawigacyjnego zabezpieczeń dla sztucznej inteligencji oraz sposób używania pulpitu nawigacyjnego do zarządzania zabezpieczeniami sztucznej inteligencji w całym przedsiębiorstwie.

Kompleksowa widoczność zabezpieczeń i zarządzanie sztuczną inteligencją

Pulpit nawigacyjny zabezpieczeń dla sztucznej inteligencji udostępnia w czasie rzeczywistym widok stanu zabezpieczeń i ryzyka sztucznej inteligencji w ramach rozwiązań zabezpieczeń firmy Microsoft — w tym firmy Microsoft Entra, Microsoft Purview i Microsoft Defender — co umożliwia proaktywne zarządzanie i reaktywną ochronę przed zagrożeniami. Dzięki temu zespoły ds. zabezpieczeń mogą nadal korzystać z zaufanych narzędzi, umożliwiając liderom zabezpieczeń bezproblemowe zarządzanie i współpracę.

Pulpit nawigacyjny zapewnia:

Widoczność ryzyka sztucznej inteligencji w czasie rzeczywistym: zagregowane szczegółowe informacje w usługach Microsoft Entra, Defender i Purview.
Kompleksowy wykaz zasobów AI: Panel obejmuje rozwiązania AI firmy Microsoft — w tym Microsoft Copilot, agentów Microsoft Copilot Studio oraz aplikacje i agentów Microsoft Foundry — a także modele, aplikacje i agentów AI innych firm, takie jak Google Gemini, OpenAI ChatGPT i serwery MCP.
Zalecenia i ścieżki korygowania: bezpośrednia integracja z narzędziami zwiększającymi produktywność firmy Microsoft i portalami praktyków.
Informacje napędzane przez sztuczną inteligencję: Narzędzie Microsoft Security Copilot oferuje sugerowane podpowiedzi, które ułatwiają przechodzenie do kluczowych informacji oraz szybki dostęp do inteligentnych ocen ryzyka, podsumowań i zaleceń.
Raportowanie dla zarządu: analiza i informacje na temat zgodności przygotowane do prezentacji przed zarządem.

Jak działa pulpit zabezpieczeń sztucznej inteligencji

rozwiązania zabezpieczające firmy Microsoft i usługi partnerskie zapewniają czujniki i sygnały używane przez pulpit nawigacyjny. Jeśli nie wdrożono wymaganej usługi, na pulpicie nawigacyjnym znajdziesz instrukcje dotyczące brakujących możliwości i sposobu wzmocnienia zabezpieczeń sztucznej inteligencji.

Obsługiwane produkty:

produkt	Kluczowe możliwości i szczegółowe informacje dotyczące pulpitu nawigacyjnego
Microsoft Entra	Zarządzanie tożsamościami: scentralizowany nadzór nad tożsamościami użytkowników i aplikacji Dostęp warunkowy: kontrola dostępu oparta na ryzyku dla aplikacji sztucznej inteligencji Zarządzanie tożsamościami uprzywilejowanymi: monitorowanie i kontrola podwyższonego dostępu Aby uzyskać więcej informacji, zobacz Co to jest platforma tożsamości agenta firmy Microsoft.
Microsoft Defender	Wykrywanie zagrożeń: ciągłe monitorowanie i obserwowanie agentów i obciążeń sztucznej inteligencji Ochrona w czasie rzeczywistym: blokowanie niebezpiecznych akcji inicjowanych przez agentów sztucznej inteligencji dla obsługiwanych agentów Stan zabezpieczeń chmury: ocena luk w zabezpieczeniach infrastruktury App Security: ocena ryzyka aplikacji SaaS AI Aby uzyskać więcej informacji, zobacz Protect AI assets from emerging threats and vulnerabilities using Microsoft Defender (Ochrona zasobów sztucznej inteligencji przed pojawiającymi się zagrożeniami i lukami w zabezpieczeniach przy użyciu Microsoft Defender.
Microsoft Purview	Klasyfikacja danych: automatyczne etykietowanie i ochrona danych z dostępem do sztucznej inteligencji Zapobieganie utracie danych: zapobieganie narażeniu poufnych informacji za pośrednictwem sztucznej inteligencji Zarządzanie ryzykiem niejawnym: wykrywanie nietypowych wzorców użycia sztucznej inteligencji Aby uzyskać więcej informacji, zobacz Microsoft Purview data security and compliance protections for generative AI apps (Zabezpieczenia danych i zgodność usługi Microsoft Purview dla generowanych aplikacji sztucznej inteligencji).
Microsoft Security Copilot	Eksploracja oparta na monitach: eksplorowanie zagrożeń związanych ze sztuczną inteligencją, aktywności agentów i zaleceń dotyczących zabezpieczeń za pośrednictwem monitów Ulepszone szczegółowe informacje o ryzyku sztucznej inteligencji: agregowanie sygnałów w rozwiązaniach zabezpieczeń firmy Microsoft i partnerów w celu dokładniejszej analizy Ulepszone odnajdywanie i kategoryzacja agentów: poprawa identyfikacji zarządzanych, niezarejestrowanych i niezarządzanych agentów AI w celu wzmocnienia ochrony sztucznej inteligencji Aby uzyskać więcej informacji, zobacz Co to jest Microsoft Security Copilot?

Permissions

W tabelach w tej sekcji opisano poziomy dostępu do danych dla wbudowanych ról firmy Microsoft Entra. Aby uzyskać więcej informacji na temat ról firmy Microsoft Entra, zobacz Role wbudowane firmy Microsoft.

Important

Security Reader jest minimalną rolą Microsoft Entra wymaganą do wyświetlania wszystkich pulpitów nawigacyjnych zabezpieczeń związanych z danymi AI oraz do przypisywania zaleceń bezpieczeństwa. Ta rola jest zalecana dla CISO i liderów bezpieczeństwa, którzy potrzebują pełnego wglądu w stan bezpieczeństwa AI bez konieczności stosowania uprawnień administracyjnych na poziomie dzierżawy, jak edytowanie zasad.

Uprawnienia strony przeglądu

Te role mogą wyświetlać dane na kartach podsumowania na stronie Przegląd .

Karta podsumowania	Przeglądarka zabezpieczeń	Administrator sztucznej inteligencji	Administrator zgodności	Administrator zabezpieczeń	Globalny czytelnik	Administrator identyfikatora agenta	Administrator rejestru agentów
Spis sztucznej inteligencji	✅	✅	✅	✅	✅	❌	❌
Ryzyko związane ze sztuczną inteligencją: błędy konfiguracji i ścieżki ataków	✅	❌	❌	✅	✅	❌	❌
Ryzyko związane ze sztuczną inteligencją: Agenci z poufnymi interakcjami	✅	✅	✅	✅	✅	❌	❌

Te role mogą wyświetlać instrukcje i przypisywać zadania na stronie Przegląd , zgodnie z opisem w artykule Przeglądanie i przypisywanie zaleceń dotyczących zabezpieczeń, ale nie mogą wyświetlać stanu zalecenia, chyba że określono poniżej:

Kategoria rekomendacji	Przeglądarka zabezpieczeń	Administrator sztucznej inteligencji	Administrator zgodności	Administrator zabezpieczeń	Globalny czytelnik	Administrator identyfikatora agenta	Administrator rejestru agentów
Zapobieganie rozrastaniu agentów i nieautoryzowanemu dostępowi (Microsoft Entra)	✅	✅	✅	✅ Z wyjątkiem konfigurowania kolekcji globalnej w rejestrze agentów Entra	✅	❌	❌
Zapobieganie wyciekom danych i nadmiernemu udostępnianiu (Microsoft Purview)	✅	✅ Z wyjątkiem Włącz inspekcję usługi Microsoft Purview	✅	✅ Z wyjątkiem Włącz inspekcję usługi Microsoft Purview	✅	✅ Włącz tylko zgodność komunikacji, zarządzanie ryzykiem niejawnych i zarządzanie cyklem życia danych	✅ Włącz tylko zgodność komunikacji, zarządzanie ryzykiem niejawnych i zarządzanie cyklem życia danych
Rozwiązywanie problemów z ryzykiem i lukami w zabezpieczeniach sztucznej inteligencji (Microsoft Defender)	✅	✅	✅	✅ Z wyjątkiem umożliwienia zarządzania aplikacją	✅	❌	❌

Uprawnienia strony inwentarza AI

Te role mogą wyświetlać dane na stronie spisu sztucznej inteligencji, zgodnie z opisem w artykule Eksplorowanie zasobów sztucznej inteligencji i zarządzanie zagrożeniami bezpieczeństwa zasobów.

Typ zasobu	Przeglądarka zabezpieczeń	Administrator sztucznej inteligencji	Administrator zgodności	Administrator zabezpieczeń	Globalny czytelnik	Administrator identyfikatora agenta	Administrator rejestru agentów
Agenci sztucznej inteligencji	✅	✅	✅	✅	✅	❌	❌
Modele sztucznej inteligencji	✅	❌	❌	✅	✅	❌	❌
Serwery MCP	✅	❌	✅	✅	✅	❌	❌
Inne aplikacje sztucznej inteligencji	✅	❌	✅	✅	✅	❌	❌

Uprawnienia dostępu do strony ryzyka AI

Te role mogą wyświetlać dane na stronie ryzyka związanego ze sztuczną inteligencją, zgodnie z opisem w temacie Wyświetlanie i określanie priorytetów zagrożeń bezpieczeństwa sztucznej inteligencji w całej organizacji.

Kategoria ryzyka	Przeglądarka zabezpieczeń	Administrator sztucznej inteligencji	Administrator zgodności	Administrator zabezpieczeń	Globalny czytelnik	Administrator identyfikatora agenta	Administrator rejestru agentów
Ryzyko związane z tożsamością i dostępem	✅	✅	✅	✅	✅	❌	❌
Ryzyko związane z bezpieczeństwem danych	✅	✅	✅	✅	✅	❌	❌
Ryzyko związane z zabezpieczeniami chmury	✅	❌	✅	✅	✅	❌	❌
Błędna konfiguracja i ścieżki ataków	✅	❌	❌	✅	✅	❌	❌
Agenci z poufnymi interakcjami	✅	✅	✅	✅	✅	❌	❌

Przeglądanie i przypisywanie zaleceń dotyczących zabezpieczeń

Strona Przegląd pulpitu nawigacyjnego zawiera kluczowe informacje o zasobach sztucznej inteligencji i powiązanych zagrożeniach bezpieczeństwa. Ocenia również implementację zabezpieczeń firmy Microsoft pod kątem możliwości sztucznej inteligencji w organizacji i udostępnia zalecenia dotyczące poprawy stanu zabezpieczeń sztucznej inteligencji w organizacji.

Każde zalecenie pokazuje bieżący stan, taki jak Nie uruchomiono lub Completed i należy do kategorii rekomendacji skojarzonej z produktem rozwiązania zabezpieczające firmy Microsoft (Microsoft Entra, Microsoft Purview lub Microsoft Defender). Wybierz kategorię rekomendacji, aby ją rozwinąć i wyświetlić poszczególne zalecenia.

Przydziel rekomendację

Aby przypisać implementację rekomendacji do określonego użytkownika lub grupy:

Wybierz zalecenie na stronie Przegląd .
Na stronie z szczegółami rekomendacji wybierz pozycję Przypisz.
Na stronie Szczegóły przypisania skonfiguruj następujące ustawienia:
- Przypisz do: wybierz pozycję Przypisz do użytkownika lub grupy, aby wybrać osobę lub grupę do przypisania.
- Termin realizacji: ustaw termin realizacji zalecenia. Na pulpicie jest wyświetlana liczba dni, które pozostały.
- Utwórz powiadomienie: Wybierz, w jaki sposób chcesz powiadomić przypisanego użytkownika — Teams, Email lub Nie twórz powiadomienia. Po zapisaniu przypisania spowoduje to utworzenie wstępnie wypełnionego powiadomienia, które można edytować i wysyłać.
Wybierz Zapisz zadanie. Strona szczegółów rekomendacji zawiera teraz kartę Delegowane do z osobą przypisaną, odliczaniem do daty ukończenia i szczegółami przypisania. Aby zaktualizować lub usunąć przypisanie, wybierz pozycję Zarządzaj przypisaniem.

Przypisane zalecenia wyświetlają wskaźnik Przypisane na stronie Przegląd .

Pomiń zalecenie

Jeśli zalecenie nie jest istotne dla twojej organizacji, możesz pominąć go, aby pulpit nawigacyjny był skoncentrowany na elementach z możliwością działania:

Na stronie szczegółów rekomendacji wybierz wielokropek (...) obok przycisku Przypisz .
Wybierz pozycję Pomiń to zalecenie.

Pominięte zalecenia są ukryte w widoku domyślnym. Aby wyświetlić lub przywrócić pominięte zalecenia, wybierz pozycję Pokaż pominięte zalecenia na stronie Przegląd .

Eksplorowanie zasobów sztucznej inteligencji i zarządzanie zagrożeniami bezpieczeństwa zasobów

Strona inwentarza AI na pulpicie nawigacyjnym oferuje szczegółowe widoki, które pomogą w odkrywaniu aktywów sztucznej inteligencji, ocenianiu ryzyka oraz wdrażaniu działań naprawczych w agentach sztucznej inteligencji zarejestrowanych w Microsoft Agent 365, a także w modelach AI, serwerach MCP i aplikacjach AI w organizacji.

Co znajduje się w inwentarzu sztucznej inteligencji

Zasoby sztucznej inteligencji inwentaryzowane na pulpicie nawigacyjnym są udostępniane przez bazowe usługi Microsoftu. Pokrycie i terminologia są definiowane przez źródłowe usługi — poniższa tabela podsumowuje, co oznaczają poszczególne typy zasobów na pulpicie nawigacyjnym i jaki mają zakres.

Typ zasobu	Co to oznacza na pulpicie nawigacyjnym	Źródło pokrycia	Learn more
Agenci sztucznej inteligencji	Jednostki oprogramowania, które wykonują zadania w imieniu użytkowników, zazwyczaj przy użyciu modeli i narzędzi sztucznej inteligencji.	Agenci zarejestrowani w programie Microsoft Agent 365.	Co to jest Microsoft Agent 365?
Modele sztucznej inteligencji	Generatywna sztuczna inteligencja i inne modele wdrożone w Twoim środowisku, w tym te, które napędzają Twoich agentów i aplikacje AI.	Modele odnalezione przez Microsoft Defender.	Chroń zasoby sztucznej inteligencji przy użyciu Microsoft Defender
Serwery MCP i inne aplikacje sztucznej inteligencji	Aplikacje SaaS AI i serwery protokołu MCP (Model Context Protocol) używane w organizacji.	Aplikacje i serwery odnalezione przez Microsoft Defender.	Chroń zasoby sztucznej inteligencji przy użyciu Microsoft Defender

Zasoby, które nie są zarejestrowane w programie Microsoft Agent 365 lub nie są widoczne dla Microsoft Defender nie są wyświetlane w spisie. Aby rozszerzyć pokrycie, zarejestruj dodatkowych agentów w agencie 365 i upewnij się, że Microsoft Defender jest wdrożona w całym środowisku.

Aby odnajdywać zagrożenia bezpieczeństwa zasobów sztucznej inteligencji i zarządzać nimi:

Wybierz Inwentarz AI, aby przejrzeć odnalezione zasoby AI w organizacji.
Zastosuj filtry, aby skoncentrować się na określonych typach zasobów lub poziomach ryzyka.
Wybierz dowolny zasób sztucznej inteligencji, aby wyświetlić szczegółowe informacje, przejrzeć konfigurację zabezpieczeń i stan zgodności oraz przeanalizować wzorce dostępu użytkowników i interakcje z danymi.
Wybierz pozycję Eksportuj , aby wyeksportować przefiltrowane widoki na potrzeby docelowej analizy i raportowania.

Agenci sztucznej inteligencji

Karta agentów AI strony spisu AI przedstawia agentów sztucznej inteligencji zarejestrowanych w Microsoft Agent 365 oraz udostępnia kluczowe informacje z rejestru agentów Microsoft Entra i Zarządzanie stanem bezpieczeństwa danych w Microsoft Purview (DSPM) dla sztucznej inteligencji.

Wybierz agenta sztucznej inteligencji, aby wyświetlić szczegóły agenta i działania. Wybierz pozycję Wyświetl wszystkie działania , aby otworzyć Eksplorator działań w programie DSPM dla sztucznej inteligencji i przejrzeć działanie agenta związane z zawartością zawierającą poufne informacje lub zastosowane etykiety.

Modele AI

Zakładka modeli AI na stronie inwentarza AI przedstawia modele sztucznej inteligencji odnalezione przez Microsoft Defender w twoim środowisku. Wybierz pozycję Pokaż więcej w usłudze Defender, aby otworzyć spis zasobów w chmurze usługi Microsoft Defender , aby uzyskać szczegółowe informacje i środki zaradcze dotyczące ryzyka.

Serwery MCP i inne aplikacje sztucznej inteligencji

Wyświetlanie i zarządzanie zabezpieczeniami serwerów MCP i innych aplikacji sztucznej inteligencji odnalezionych przez Microsoft Defender w obrębie całego środowiska. Wybierz pozycję Pokaż więcej w Defender aby otworzyć spis aplikacji Microsoft Defender for Cloud Apps aby uzyskać szczegółowe informacje i środki zaradcze.

Wyświetlanie i określanie priorytetów zagrożeń bezpieczeństwa sztucznej inteligencji w całej organizacji

Strona ryzyka związanego ze sztuczną inteligencją na pulpicie nawigacyjnym zapewnia skonsolidowany widok zagrożeń bezpieczeństwa związanych ze sztuczną inteligencją — w tym ryzyka związane z tożsamością i dostępem, zagrożenia bezpieczeństwa danych i zagrożenia bezpieczeństwa w chmurze — co umożliwia efektywne określanie priorytetów i reagowanie na zagrożenia. Każda kategoria ryzyka łączy się bezpośrednio z odpowiednim produktem rozwiązania zabezpieczające firmy Microsoft na potrzeby korygowania.

Aby zbadać i skorygować zagrożenia bezpieczeństwa sztucznej inteligencji:

Przejrzyj karty podsumowania ryzyka dla natychmiastowych priorytetów, przejrzyj wykresy trendów, aby zidentyfikować pojawiające się zagrożenia i skorzystaj z sugerowanych przez firmę Microsoft monitów dotyczących zabezpieczeń, aby zapoznać się ze złożonymi scenariuszami ryzyka.
Wybierz Zobacz w Microsoft Purview, Zobacz w Microsoft Defender lub Zobacz szczegóły w Entra, aby przejść do odpowiedniego produktu rozwiązania zabezpieczające firmy Microsoft w celu uzyskania szczegółowej analizy ryzyka i jego naprawy.

Opinia

Czy ta strona była pomocna?

Last updated on 2026-05-06