Przyspieszanie i zabezpieczanie wdrażania sztucznej inteligencji

W tym artykule wyjaśniono, jak szybko i bezpiecznie wdrażać sztuczną inteligencję przy użyciu zasad Zero Trust w ramach modelu wdrażania Microsoft zabezpieczenia.

Ten scenariusz biznesowy pomaga osiągnąć następujący wynik:

Szybkie i bezpieczne wdrażanie technologii sztucznej inteligencji

Jako lider biznesowy jesteś pod presją, aby szybko wdrożyć sztuczną inteligencję w celu uzyskania przewagi konkurencyjnej, jednocześnie chroniąc organizację przed nowymi i zmieniającymi się zagrożeniami.

Ten scenariusz biznesowy jest częścią naszego modelu wdrażania ustrukturyzowanego który pomaga osiągnąć cele biznesowe przy użyciu nowoczesnego podejścia do zabezpieczeń zakorzenionego w zasadach Zero Trust.

Te wskazówki pomagają organizacjom szybko i bezpiecznie wdrażać sztuczną inteligencję przy zachowaniu silnych zabezpieczeń, ochronie poufnych danych i zachowaniu odporności biznesowej.

Jak działają te wskazówki

Ten artykuł jest częścią ustrukturyzowanego modelu wdrażania , który łączy strategię zabezpieczeń z implementacją:

  • Zacznij od scenariuszy biznesowych , takich jak ten, aby zdefiniować wynik, który chcesz osiągnąć.

  • Określ dziedziny zabezpieczeń, które mają zastosowanie w tym scenariuszu.

    Te dyscypliny służą do definiowania wymaganej strategii, architektury, procesów i kontrolek dla scenariusza. Współpracuj z każdą dyscypliną, aby zrozumieć, co należy zaplanować, zaprojektować i zaimplementować w całej organizacji.

  • Użyj rozwiązań technicznych w celu zaimplementowania tych wymagań przy użyciu technologii Microsoft, stosowania kontrolek w filarach technologii takich jak tożsamość i dane.

Takie podejście gwarantuje, że wdrożenie sztucznej inteligencji jest zabezpieczone w ramach ogólnej architektury Zero Trust, a nie jako oddzielnego nakładu pracy.

Dlaczego wdrażanie sztucznej inteligencji wymaga nowego podejścia

Technologie generowania sztucznej inteligencji i agenci sztucznej inteligencji są zaawansowanymi czynnikami biznesowymi, ale także wprowadzają nowe klasy ryzyka. Należą do nich (ale nie są ograniczone do):

  • Przyspieszanie i wzmacnianie istniejącego ryzyka cyberbezpieczeństwa przy użyciu sztucznej inteligencji.
  • Niezamierzone ujawnienie danych powoduje utratę własności intelektualnej (IP) i przewagę konkurencyjną.
  • Zmiana danych, rekordów lub procesów przez ataki, takie jak zatrucie danych.

Wdrażanie bezpiecznej sztucznej inteligencji

Aby bezpiecznie włączyć sztuczną inteligencję podczas zarządzania tymi zagrożeniami, organizacje muszą równolegle wykonywać dwie czynności:

  • Bezpieczna technologia AI — wdrażaj nowe mechanizmy zabezpieczeń i praktyki opracowane z myślą o AI, jednocześnie zmieniając priorytety istniejących inwestycji w zabezpieczenia. Przykład:

    • Klasyfikowanie i ochrona poufnych danych w celu zapobiegania nieautoryzowanemu ujawnieniu za pośrednictwem modeli, aplikacji lub użytkowników sztucznej inteligencji.
    • Stosowanie zasad Zero Trust do tożsamości sztucznej inteligencji, dostępu i przepływów danych.
    • Rozszerz monitorowanie zabezpieczeń i mechanizmy kontroli na obciążenia i agentów opartych na AI.

  • Użyj sztucznej inteligencji, aby zwiększyć bezpieczeństwo — użyj sztucznej inteligencji, aby zwiększyć szybkość, skalę i skuteczność operacji zabezpieczeń, w tym:

    • Zarządzanie stanem zabezpieczeń.
    • Odnajdywanie luk w zabezpieczeniach i środki zaradcze.
    • Wykrywanie, badanie i reagowanie na zdarzenia.
    • Rozwój kompetencji zespołów ds. bezpieczeństwa i IT.

Oba są wymagane. Zabezpieczanie sztucznej inteligencji zmniejsza ryzyko, a jednocześnie korzystanie ze sztucznej inteligencji na potrzeby zabezpieczeń pomaga zespołom nadążać za zwiększonym ilością ataków i wyrafinowaniem opartym na sztucznej inteligencji

Wartość biznesowa

Wartość szybkiego i bezpiecznego wdrażania sztucznej inteligencji różni się od roli, ale przynosi korzyści całej organizacji.

Role Wartość
Kierownictwo firmy Wykorzystaj nowe możliwości i zwiększ efektywność, jednocześnie ograniczając ryzyko związane ze sztuczną inteligencją, takie jak utrata własności intelektualnej, szkody wizerunkowe i zakłócenia operacyjne.
Role technologii Zmniejsz częstotliwość incydentów, ich skutki oraz nakład pracy potrzebny do usunięcia ich następstw, jednocześnie ograniczając utrudnienia związane ze spełnianiem wymagań dotyczących bezpieczeństwa i zgodności.
Role zabezpieczeń Zwiększ skuteczność i wydajność operacji zabezpieczeń przy użyciu sztucznej inteligencji, aby wykrywać zagrożenia szybciej, ustalać priorytety zagrożeń dokładniej i automatyzować czasochłonne zadania.

Dopasowywanie dyscyplin zabezpieczeń

Dyscypliny zabezpieczeń reprezentują ustrukturyzowane obszary odpowiedzialności wymagane do realizacji tego scenariusza biznesowego.

  • Dyscypliny planowania i nadzoru definiują wymaganą strategię, ład i koordynację między organizacjami.
  • Dyscypliny strategii technicznej definiują wymagane możliwości architektury, działania i kontroli.
  • Dyscypliny operacyjne zapewniają, że mechanizmy kontroli zabezpieczeń pozostają skuteczne w czasie dzięki monitorowaniu, reagowaniu i ciągłym ulepszaniu. Wykrywają nieprawidłowe użycie, reagują na zagrożenia i prowadzą do ciągłych ulepszeń stanu zabezpieczeń.

Planowanie i dyscypliny nadzoru

Discipline Action
Strategia, integracja i ład Ustanów lub zaktualizuj procesy między zespołami w celu zapewnienia skoordynowanego podejścia w zakresie zabezpieczeń, technologii i zespołów biznesowych, w tym:

Zdefiniuj wyraźną strategię zabezpieczania sztucznej inteligencji i używania sztucznej inteligencji na potrzeby zabezpieczeń.

Aktualizowanie ładu, zasad i procesów w celu sprostania zagrożeniom specyficznym dla sztucznej inteligencji.

Ciągłe uczenie się i dostosowywanie w miarę rozwoju możliwości i zagrożeń sztucznej inteligencji.
Kompleksowa architektura zabezpieczeń Upewnij się, że architektura zabezpieczeń oraz mechanizmy kontroli technicznej i możliwości obejmują mechanizmy kontroli dotyczące technologii sztucznej inteligencji i użycia sztucznej inteligencji.

Napędzaj zintegrowane podejście, które umożliwia szybkie stosowanie lekcji w jednym obszarze w całej organizacji, przy zachowaniu tempa zmian opartych na sztucznej inteligencji.

Dyscypliny strategii technicznej

Discipline Action
Dostęp i tożsamość Upewnij się, że agenci i aplikacje sztucznej inteligencji używają zarządzanych, bezpiecznych tożsamości.

Stosuj zasadę minimalnych uprawnień, uwzględniając priorytety biznesowe i wywiad o zagrożeniach.

Włącz kompleksowe rejestrowanie i wykrywanie anomalii w celu obsługi szybkiej reakcji i odzyskiwania.
Zabezpieczenia infrastruktury Modelowanie zagrożeń umożliwia ocenę i ograniczenie ryzyka związanego z infrastrukturą sztucznej inteligencji i aplikacjami obsługującymi sztuczną inteligencję.

Stosowanie sztucznej inteligencji w celu ulepszenia odnajdywania luk w zabezpieczeniach, określania priorytetów i korygowania.

Zapewnij niezawodne możliwości rejestrowania i wykrywania.
Zabezpieczenia programistyczne Ocenianie ryzyka związanego z aplikacjami wprowadzonymi przez składniki sztucznej inteligencji, w tym zarówno tradycyjne luki w zabezpieczeniach oprogramowania, jak i inżynierię społeczną lub manipulację opartą na monitach.

Użyj sztucznej inteligencji, aby przyspieszyć odnajdywanie i korygowanie luk w zabezpieczeniach, kierując się ryzykiem biznesowym i analizą zagrożeń.

Obsługa rejestrowania aktywności i wykrywania nietypowych działań (potencjalnych ataków) w celu umożliwienia efektywnej reakcji i odzyskiwania.
Zabezpieczenia danych Klasyfikuj i oznaczaj dane wrażliwe, aby zapobiec ich niewłaściwemu przetwarzaniu lub ujawnieniu przez modele sztucznej inteligencji.

Rozszerzanie mechanizmów kontroli zabezpieczeń danych — takich jak ochrona przed utratą danych (DLP), aby obejmować aplikacje i agenci sztucznej inteligencji.

Zapewnianie widoczności i monitorowania zagrożeń związanych z danymi.

Obsługa rejestrowania aktywności i wykrywania nietypowych działań (potencjalnych ataków) w celu umożliwienia efektywnej reakcji i odzyskiwania.
Zabezpieczenia OT i IoT Stosowanie modelowania zagrożeń do interakcji sztucznej inteligencji z systemami OT/IoT, szczególnie w przypadku, gdy sztuczna inteligencja wpływa na procesy fizyczne.

Określanie priorytetów ochrony i monitorowania na podstawie wpływu na działalność biznesową i analizy zagrożeń.

Obsługa rejestrowania aktywności i wykrywania nietypowych działań (potencjalnych ataków) w celu umożliwienia efektywnej reakcji i odzyskiwania.

Dyscypliny operacyjne

Discipline Action
SecOps Przygotuj się do uzyskania wyższej jakości i większej liczby ustalonych technik ataków.

Integrowanie analizy sztucznej inteligencji w celu wzmocnienia i rozszerzania działań ludzkich oraz umiejętności w zakresie badania, wyszukiwania zagrożeń i symulowania zagrożeń.

Użyj sztucznej inteligencji, aby zwiększyć gotowość do umiejętności młodszych analityków. Określanie priorytetów działań zabezpieczeń przy użyciu priorytetów biznesowych i analiz analizy zagrożeń.
Zarządzanie stanem zabezpieczeń Skoncentruj się na szybkim tworzeniu i dojrzewaniu tej dyscypliny, aby sprostać rosnącej jakości i ilości ataków przyspieszonych przez sztuczną inteligencję.

Integrowanie korzystania ze sztucznej inteligencji w celu szybszego analizowania danych, identyfikowania środków zaradczych i zwiększania gotowości umiejętności specjalistów ds. zarządzania stanem.

Wymagane filary techniczne

Filary technologii reprezentują podstawowe Microsoft możliwości zabezpieczeń, które obsługują ten scenariusz biznesowy.

Filar Zakresu Zabezpieczenia zaawansowane w usłudze GitHub
AI Microsoft Purview zapewnia funkcje zabezpieczeń i nadzoru nad sztuczną inteligencją, w tym AI Hub zapewniający wgląd w sposób korzystania ze sztucznej inteligencji, etykiety poufności dla treści generowanych przez sztuczną inteligencję oraz mechanizmy zapewniania zgodności dla usługi Copilot i innych usług AI. GitHub Advanced Security wykorzystuje analizę kodu opartą na sztucznej inteligencji za pośrednictwem Copilot Autofix, aby automatycznie sugerować poprawki bezpieczeństwa dla zidentyfikowanych luk, przyspieszając ich usuwanie.

Następne kroki

Dowiedz się, jak zabezpieczyć Microsoft Copilot.

  • Last updated on