Modell för delat ansvar för artificiell intelligens (AI)

När du överväger och utvärderar AI-baserad integration är det avgörande att förstå modellen för delat ansvar och vilka uppgifter AI-plattformen eller applikationsleverantören hanterar och vilka du hanterar. Arbetsbelastningens ansvar varierar beroende på om AI-integrationen baseras på software as a service (SaaS), plattform som tjänst (PaaS) eller infrastructure as a service (IaaS).

Denna artikel utvidgar det delade ansvaret i molnmodellen till generativa AI-arbetsbelastningar. För autonoma, verktygsanvändande AI-agenter, se AI-agentens delade ansvarsmodell.

Ansvarsfördelning

Precis som med molntjänster finns flera alternativ när du implementerar AI-funktioner för din organisation. Beroende på vilket alternativ du väljer tar du ansvar för olika delar av de åtgärder och principer som krävs för att använda AI på ett säkert sätt.

Följande diagram illustrerar ansvarsområden mellan dig och Microsoft beroende på typen av distribution.

Översikt över AI-lager

En AI-driven applikation består av tre lager av funktionalitet som grupperar samman uppgifter som du eller en AI-leverantör utför. Säkerhetsansvaret ligger vanligtvis hos den part som utför uppgifterna, men en AI-leverantör kan välja att exponera säkerhet eller andra kontroller som en konfigurationsmöjlighet för dig när det är lämpligt för dig. Dessa tre lager omfattar:

AI-plattform

AI-plattformsskiktet tillhandahåller AI-funktionerna till programmen. På plattformslaget behöver du bygga och skydda infrastrukturen som kör AI-modellen, träningsdata och specifika konfigurationer som förändrar modellens beteende, såsom vikter och bias. Detta plattformslager ger tillgång till funktionalitet via API:er. API:erna skickar text som kallas metaprompt till AI-modellen för bearbetning och returnerar sedan det genererade resultatet, kallat prompt-svar.

AI-plattformens säkerhetsöverväganden – För att skydda AI-plattformen från skadliga inmatningar måste ett säkerhetssystem filtrera bort potentiellt skadliga instruktioner som skickas till AI-modellen (indata). Eftersom AI-modeller är generativa kan de också generera och returnera skadligt innehåll till användaren (outputs). Alla säkerhetssystem måste i första hand skydda mot potentiellt skadlig indata och utdata av många slag, inklusive hatinnehåll, jailbreak-försök och annan skadlig påverkan. Dessa skadeklassificeringar kommer sannolikt att utvecklas över tid baserat på modellkunskap, plats och bransch.

Microsoft har inbyggda säkerhetssystem för både PaaS- och SaaS-erbjudanden:

• PaaS – Azure OpenAI-tjänsten
• SaaS – Microsoft Security Copilot

AI-applikation

AI-programmet har åtkomst till AI-funktionerna och tillhandahåller den tjänst eller det gränssnitt som användaren använder. Komponenterna i det här lagret kan variera från relativt enkla till mycket komplexa, beroende på programmet. De enklaste fristående AI-applikationerna fungerar som ett gränssnitt till en uppsättning API:er som tar en textbaserad användarprompt och skickar den datan till modellen för ett svar. Mer komplexa AI-applikationer inkluderar möjligheten att förankra användarprompten med extra kontext, inklusive ett persistenslager, semantiskt index eller plugins som ger tillgång till fler datakällor. Avancerade AI-program kan också samverka med befintliga program och system. Befintliga applikationer och system kan bearbeta text, ljud och bilder för att generera olika typer av innehåll.

AI-applikationssäkerhetsöverväganden – Bygg ett applikationssäkerhetssystem för att skydda AI-applikationen från skadliga aktiviteter. Säkerhetssystemet ger en djup inspektion av innehållet som används i metaprompten som skickas till AI-modellen. Säkerhetssystemet inspekterar också interaktioner med eventuella plugins, datakopplingar och andra AI-applikationer (känt som AI-orkestrering). Ett sätt du kan integrera detta i din egen AI-applikation baserad på IaaS/PaaS är att använda Azure AI Innehållsäkerhet-tjänsten. Andra funktioner är tillgängliga beroende på dina behov.

AI-användning

AI-användningsskiktet beskriver hur AI-funktionerna i slutändan utnyttjas och konsumeras. Generativ AI erbjuder en ny typ av användar-/datorgränssnitt, som är fundamentalt annorlunda än andra datorgränssnitt, såsom API:er, kommandopromptar och grafiska användargränssnitt (GUI). Det generativa AI-gränssnittet är både interaktivt och dynamiskt, vilket gör att datorfunktionerna kan anpassas efter användaren och deras avsikt. Det generativa AI-gränssnittet står i kontrast till tidigare gränssnitt som främst tvingar användarna att lära sig systemdesignen och funktionerna och anpassa sig till det. Denna interaktivitet gör att användarinmatning, snarare än applikationsdesigners, kan ha ett högt inflytande på systemets resultat, vilket gör säkerhetsräcken avgörande för att skydda människor, data och affärstillgångar.

Säkerhetsaspekter vid AI-användning – Att skydda AI-användning liknar att skydda vilket datorsystem som helst eftersom det bygger på säkerhetsgarantier för identitets- och åtkomstkontroller, enhetsskydd och övervakning, dataskydd och styrning, administrativa kontroller och andra kontroller.

Användarbeteende och ansvarstagande kräver större fokus eftersom användarna utövar större inflytande på systemens resultat. Det är avgörande att uppdatera acceptabla användningspolicys och utbilda användare om skillnaderna mellan standard-IT-applikationer och AI-aktiverade applikationer. Acceptabla användningspolicys bör inkludera AI-specifika överväganden relaterade till säkerhet, integritet och etik. Dessutom utbilda användare om AI-baserade attacker som angripare kan använda för att lura dem med övertygande falsk text, röster, videor och mer.

Följande resurser definierar AI-specifika attacktyper:

• Sårbarhetsklassificering för MICROSOFT Security Response Center (MSRC) för AI-system
• MITRE:s adversariella hotlandskap för system för artificiell intelligens (ATLAS)
• OWASP topp 10 för LLM-program (Large Language Model)
• Säkerhet för OWASP strojové učenie (ML) topp 10
• NIST AI-ramverk för riskhantering

Konfigurera innan du anpassar

Microsoft rekommenderar att organisationer börjar med SaaS-baserade metoder som Copilot-modellen för sin initiala användning av AI och för alla efterföljande AI-arbetsbelastningar. Denna metod minimerar den nivå av ansvar och expertis som din organisation måste tillhandahålla för att designa, driva och säkra dessa mycket komplexa kapaciteter.

Om de nuvarande färdiga funktionerna inte uppfyller de specifika behoven för en arbetsbelastning kan du anta en PaaS-modell genom att använda AI-tjänster, såsom Azure OpenAI Service, för att uppfylla dessa specifika krav.

Endast organisationer med djup expertis inom datavetenskap samt säkerhet, integritet och etiska överväganden kring AI bör anta skräddarsydd modellbyggande.

För att hjälpa till att föra AI till världen utvecklar Microsoft Copilot-lösningar för var och en av de viktigaste produktivitetslösningarna: från Bing och Windows till GitHub och Microsoft 365. Microsoft utvecklar fullstacklösningar för alla typer av produktivitetsscenarier. Microsoft erbjuder dessa funktioner som SaaS-lösningar. Microsoft bygger in dessa funktioner i produktens användargränssnitt, där de är anpassade för att hjälpa användaren med specifika uppgifter och öka produktiviteten.

Microsoft utvecklar varje Copilot-lösning enligt Microsoft starka principer för AI-styrning.

Nästa steg

Läs mer om metodtips för Azure AI-säkerhet.

Läs mer om Microsofts krav på produktutveckling för ansvarsfull AI i Microsoft Responsible AI Standard.

Lär dig mer om delat ansvar för molnbaserad databehandling.

Lär dig om AI-agentens delade ansvarsmodell för autonoma, verktygsanvändande AI-system.

Läs om den unika naturen hos AI-hottestning i Microsoft AI Red Team bygger framtiden för säkrare AI.