Model wspólnej odpowiedzialności sztucznej inteligencji (AI)

Rozważając i oceniając integrację opartą na AI, kluczowe jest zrozumienie modelu wspólnej odpowiedzialności oraz tego, które zadania obsługuje platforma AI lub dostawca aplikacji, a jakie Ty. Obowiązki związane z obciążeniem różnią się w zależności od tego, czy integracja AI opiera się na oprogramowaniu jako usłudze (SaaS), platformie jako usłudze (PaaS) czy infrastrukturze jako usłudze (IaaS).

Niniejszy artykuł rozszerza wspólną odpowiedzialność w modelu chmurowym na generatywne obciążenia AI. Aby poznać autonomicznych agentów AI korzystających z narzędzi, zobacz model współodpowiedzialności agentów AI.

Podział odpowiedzialności

Podobnie jak w przypadku usług chmurowych, istnieje wiele opcji, gdy wdrażasz możliwości AI w swojej organizacji. W zależności od wybranej opcji ponosisz odpowiedzialność za różne części niezbędnych operacji i zasad potrzebnych do bezpiecznego korzystania ze sztucznej inteligencji.

Na poniższym diagramie przedstawiono obszary odpowiedzialności między Tobą a firmą Microsoft zgodnie z typem wdrożenia.

Omówienie warstwy sztucznej inteligencji

Aplikacja oparta na AI składa się z trzech warstw funkcjonalności, które grupują zadania wykonywane przez Ciebie lub dostawcę AI. Obowiązki związane z bezpieczeństwem zazwyczaj spoczywają na stronie wykonującej zadania, ale dostawca AI może zdecydować się udostępnić bezpieczeństwo lub inne mechanizmy jako opcję konfiguracyjną, w zależności od potrzeb. Te trzy warstwy obejmują:

Platforma sztucznej inteligencji

Warstwa platformy sztucznej inteligencji zapewnia możliwości sztucznej inteligencji aplikacjom. Na warstwie platformy trzeba budować i zabezpieczać infrastrukturę uruchamiającą model AI, dane treningowe oraz konkretne konfiguracje zmieniające zachowanie modelu, takie jak wagi i uprzedzenia. Ta warstwa platformy zapewnia dostęp do funkcjonalności za pośrednictwem API. API przekazują tekst zwany metapromptem do modelu AI do przetwarzania, a następnie zwracają wygenerowany wynik, zwany prompt-response.

Aspekty bezpieczeństwa platformy AI – Aby chronić platformę AI przed złośliwymi wejściami, system bezpieczeństwa musi filtrować potencjalnie szkodliwe instrukcje wysyłane do modelu AI (dane wejściowe). Ponieważ modele AI są generatywne, mogą również generować i zwracać użytkownikowi szkodliwe treści (wyjścia). Każdy system bezpieczeństwa powinien przede wszystkim chronić przed potencjalnie szkodliwymi danymi wejściowymi i wyjściowymi różnych kategorii, w tym treściami nacechowanymi nienawiścią, próbami obejścia zabezpieczeń i innymi zagrożeniami. Te klasyfikacje uszkodzeń prawdopodobnie będą ewoluować w zależności od wiedzy o modelu, lokalizacji i branży.

Firma Microsoft ma wbudowane systemy bezpieczeństwa zarówno dla ofert PaaS, jak i SaaS:

• PaaS — Azure OpenAI Service
• SaaS — Microsoft Security Copilot

Aplikacja sztucznej inteligencji

Aplikacja sztucznej inteligencji uzyskuje dostęp do funkcji sztucznej inteligencji i udostępnia usługę lub interfejs używany przez użytkownika. Składniki w tej warstwie mogą się różnić od stosunkowo prostych do wysoce złożonych, w zależności od aplikacji. Najprostsze samodzielne aplikacje AI działają jako interfejs do zestawu API, które przyjmują tekstowy prompt użytkownika i przekazują te dane do modelu jako odpowiedzi. Bardziej złożone aplikacje AI obejmują możliwość uzupełnienia polecenia użytkownika o dodatkowy kontekst, w tym warstwę trwałego przechowywania danych, indeks semantyczny lub wtyczki umożliwiające dostęp do większej liczby źródeł danych. Zaawansowane aplikacje sztucznej inteligencji mogą również być interfejsem z istniejącymi aplikacjami i systemami. Istniejące aplikacje i systemy mogą przetwarzać tekst, dźwięk i obrazy, generując różne rodzaje treści.

Aspekty bezpieczeństwa aplikacji AI – Zbuduj system bezpieczeństwa aplikacji, aby chronić aplikację AI przed złośliwymi działaniami. System bezpieczeństwa zapewnia dogłębną analizę treści użytej w metapromptie przesyłanym do modelu AI. System bezpieczeństwa sprawdza również interakcje z wtyczkami, złączami danych i innymi aplikacjami AI (znanymi jako orkiestracja AI). Jednym ze sposobów, w jaki możesz włączyć to do własnej aplikacji AI opartej na IaaS/PaaS, jest użycie usługi Bezpieczeństwo zawartości platformy Azure AI. Inne możliwości są dostępne w zależności od potrzeb.

Użycie sztucznej inteligencji

Warstwa użycia sztucznej inteligencji opisuje sposób, w jaki możliwości sztucznej inteligencji są ostatecznie wykorzystywane i konsumowane. Generatywna AI oferuje nowy typ interfejsu użytkownika/komputer, który zasadniczo różni się od innych interfejsów komputerowych, takich jak API, wiersze poleceń czy graficzne interfejsy użytkownika (GUI). Interfejs generowania sztucznej inteligencji jest zarówno interaktywny, jak i dynamiczny, dzięki czemu możliwości komputera mogą dostosować się do użytkownika i ich intencji. Interfejs generowania sztucznej inteligencji kontrastuje z poprzednimi interfejsami, które przede wszystkim wymuszają na użytkownikach poznanie projektu i funkcjonalności systemu i dostosowanie się do niego. Ta interaktywność pozwala użytkownikowi, a nie projektantom aplikacji, mieć duży wpływ na wyniki systemu, co czyni bariery bezpieczeństwa kluczowymi dla ochrony ludzi, danych i zasobów biznesowych.

Aspekty bezpieczeństwa korzystania z AI – Ochrona korzystania z AI jest podobna do ochrony dowolnego systemu komputerowego, ponieważ opiera się na gwarancjach bezpieczeństwa dotyczących kontroli tożsamości i dostępu, ochrony i monitorowania urządzeń, ochrony i zarządzania danymi, kontroli administracyjnej oraz innych kontroli.

Zachowanie użytkowników i odpowiedzialność wymagają większego nacisku, ponieważ użytkownicy wywierają większy wpływ na wyniki systemów. Kluczowe jest aktualizowanie polityk dopuszczalnego użytkowania i edukowanie użytkowników na temat różnic między standardowymi aplikacjami IT a aplikacjami opartymi na AI. Polityki akceptowalnego użytkowania powinny uwzględniać specyficzne dla AI kwestie związane z bezpieczeństwem, prywatnością i etyką. Dodatkowo edukuj użytkowników na temat ataków opartych na AI, które atakujący mogą wykorzystać, by oszukać ich przekonującymi fałszywymi tekstami, głosami, filmami i innymi materiałami.

Poniższe zasoby definiują specyficzne dla AI typy ataków:

• Klasyfikacja ważności luk w zabezpieczeniach usługi Centrum zabezpieczeń firmy Microsoft (MSRC) dla systemów sztucznej inteligencji
• Krajobraz Zagrożeń Adwersarialnych MITRE dla Systemów Sztucznej Inteligencji (ATLAS)
• OWASP top 10 dla aplikacji z dużymi modelami językowymi (LLM)
• 10 najważniejszych zagrożeń bezpieczeństwa OWASP Machine Learning (ML)
• Struktura zarządzania ryzykiem NIST AI

Konfiguruj przed dostosowaniem

Microsoft zaleca, aby organizacje zaczęły od podejść opartych na SaaS, takich jak model Copilot, przy początkowym wdrażaniu AI oraz we wszystkich kolejnych zadaniach AI. Takie podejście minimalizuje poziom odpowiedzialności i wiedzy, jaką Twoja organizacja musi zapewnić, aby projektować, obsługiwać i zabezpieczać te wysoce złożone możliwości.

Jeśli obecne gotowe możliwości nie spełniają specyficznych potrzeb obciążenia, możesz przyjąć model PaaS, korzystając z usług AI, takich jak Azure OpenAI Service, aby spełnić te wymagania.

Tylko organizacje posiadające głęboką wiedzę w dziedzinie data science oraz bezpieczeństwa, prywatności i etyki AI powinny wdrażać budowanie modeli na zamówienie.

Aby pomóc wprowadzić AI na świat, Microsoft opracowuje rozwiązania Copilot dla każdego z głównych rozwiązań produktywności: od Binga i Windows po GitHub i Microsoft 365. Microsoft opracowuje rozwiązania full-stack dla wszystkich typów scenariuszy produktywności. Microsoft oferuje te możliwości jako rozwiązania SaaS. Microsoft integruje te możliwości w interfejsie użytkownika produktu, gdzie są one dostosowywane do pomocy użytkownikowi w konkretnych zadaniach zwiększających produktywność.

Microsoft projektuje każde rozwiązanie Copilot zgodnie z solidnymi zasadami zarządzania AI Microsoft.

Następne kroki

Dowiedz się więcej o najlepszych rozwiązaniach dotyczących zabezpieczeń sztucznej inteligencji platformy Azure.

Dowiedz się więcej o wymaganiach firmy Microsoft dotyczących tworzenia produktów odpowiedzialnej sztucznej inteligencji w Standardzie Odpowiedzialnej SI firmy Microsoft.

Dowiedz się więcej o wspólnych obowiązkach związanych z przetwarzaniem w chmurze.

Poznaj model współodpowiedzialności agentów AI dla autonomicznych, narzędziowych systemów AI.

Przeczytaj o unikalnym charakterze testowania zagrożeń AI w Microsoft AI Red Team buduje przyszłość bezpieczniejszej AI.