Metodtips för Azure AI-säkerhet

Den här artikeln innehåller metodtips för att skydda AI-arbetsbelastningar (artificiell intelligens) specifikt i Azure. När organisationer använder AI-funktioner utan motstycke måste säkerhetsteam proaktivt få insyn i AI-användning och implementera lämpliga kontroller för att minska riskerna.

Den här artikeln fokuserar på Azure-specifika AI-säkerhetsöverväganden. För omfattande, plattformsoberoende AI-säkerhetsguider, inklusive organisationsstrategi, styrningsramverk och hela AI-säkerhetslivscykeln, se Security for AI i Microsoft Security-dokumentationen.

Denna artikel är en följeslagare till AI-modellen för delat ansvar och AI-agentens delade ansvarsmodell, som förklarar fördelningen av säkerhetsansvar mellan dig och Microsoft för AI-arbetsbelastningar och autonoma agenter. Mer information om förebyggande säkerhetskontroller med Azure Policy-tillämpning finns i Microsoft Cloud Security Benchmark v2 – Artificiell intelligens.

Aktivera insyn i AI-arbetsbelastningar och användning

Innan du kan skydda AI-arbetsbelastningar behöver du insyn i vilka AI-program som används och byggs in i din organisation.

  • Använd Microsoft Defender för molnet för att upptäcka AI-arbetsbelastningar i din Azure-miljö. Defender Cloud Security Posture Management (CSPM)-planen tillhandahåller AI-funktioner för hantering av säkerhetsposition, inklusive upptäckt av den generativa AI-materiallistan (AI BOM), inbyggda säkerhetsrekommendationer och analys av attackvägar. Mer information finns i AI-hantering av säkerhetsstatus med Defender för molnet.

  • Använd Microsoft Defender for Cloud Apps för att upptäcka SaaS AI-applikationer. Defender for Cloud Apps-katalogen inkluderar mer än tusen generativa AI-appar. Du kan visa riskbedömningar, sanktionera eller blockera appar och skapa principer för att identifiera nya AI-appar. Mer information finns i Uppdagade appar.

  • Spåra AI-agentidentiteter med Microsoft Entra agent-ID. Microsoft Entra agent-ID tillhandahåller en enhetlig katalog över agentidentiteter skapade över Microsoft Copilot Studio och Azure AI Foundry, vilket hjälper dig att hantera agentlivscykel och behörigheter.

Säkra Distributioner av Azure OpenAI-tjänsten

Azure OpenAI Service ger REST API-åtkomst till kraftfulla språkmodeller. Det är viktigt att skydda dessa distributioner för att skydda dina data och förhindra missbruk.

  • Använd privata endpoints för nätverksisolering. Konfigurera Azure OpenAI Service för att använda privata endpoints, ta bort den publika endpointen och begränsa åtkomsten till ditt virtuella nätverk. Mer information finns i Nätverks- och åtkomstkonfiguration för Azure OpenAI.

  • Använd managed identity för autentisering. Konfigurera applikationer att autentisera genom att använda Microsoft Entra-hanterade identiteter istället för API-nycklar, vilket eliminerar behovet av att hantera och rotera hemligheter. Mer information finns i Konfigurera Azure OpenAI-tjänsten med Microsoft Entra ID-autentisering.

  • Implementera filtrering av flerskiktat innehåll. Använd innehållsfiltrering i flera steg för att skapa djupförsvar:

    • Inmatningsfiltrering: Använd Azure AI Innehållsäkerhet för att analysera prompts för skadligt innehåll, inklusive promptinjektionsförsök och jailbreak-attacker.
    • Utgångsfiltrering: Konfigurera Azure OpenAI-innehållsfiltrering för att blockera skadliga svar innan leverans.
    • API-gatewaykontroller: Använd Azure API Management för att upprätthålla hastighetsbegränsning och schemavalidering.

Mer information finns i Innehållsfiltrering och Azure AI Innehållsäkerhet.

  • Använd säkerhetsmeta-prompts för att styra modellbeteende. Designsystempromptar som tydligt definierar modellens roll, inkluderar explicita instruktioner för att avvisa skadliga indata och instruerar modellen att prioritera systeminstruktioner framför användarens inmatningar. Använd spotlight-tekniker för att isolera ej betrodda data i prompter och integrera Prompt Shields för att identifiera jailbreak-försök.

  • Övervaka användningen med diagnostiska loggar. Aktivera diagnostisk loggning för att spåra API-förfrågningar, tokenanvändning, innehållsfiltreringsresultat och fel. Skicka loggar till Azure Monitor för analys och aviseringar. Mer information finns i Övervaka Azure OpenAI.

Skydda Azure AI Foundry och Azure Machine Learning

Azure AI Foundry och Azure Machine Learning tillhandahåller plattformar för att skapa och distribuera AI-program. För att skydda dessa miljöer måste nätverksisolering, åtkomstkontroll och modellstyrning uppmärksammas.

  • Använd hanterad nätverksisolering. Skapa Azure AI Foundry-hubbar och Azure Machine Learning-arbetsytor med hanterade virtuella nätverk som tillhandahåller privata endpoints för beroende tjänster och utgående trafikkontroll. Mer information finns i Hanterad nätverksisolering för Azure AI Foundry och Konfigurera en privat slutpunkt för Azure Machine Learning.

  • Implementera åtkomstkontroll med minsta privilegium. Konfigurera RBAC genom att använda inbyggda roller och tilldela behörigheter på projekt- eller arbetsytnivå. Använd Microsoft Entra-agent-ID för AI-agentidentitetshantering och tillämpa begränsade, kortlivade token för agentfunktionsåtkomst. Mer information finns i Rollbaserad åtkomstkontroll för Microsoft Foundry.

  • Distribuera endast godkända AI-modeller. Använd Azure Machine Learning modellregister för att spåra modellens proveniens, verifieringsstatus och godkännandehistorik. Konfigurera automatisk genomsökning för att verifiera modellintegriteten och testa mot indata mot angripare före distributionen. Distribuera Azure-principen "[Preview]: Azure Machine Learning Deployments bör endast använda godkända Registry Models för att upprätthålla styrning." Mer information finns i Modellhantering och distribution.

  • Skydda beräkningsresurser. Konfigurera beräkningsinstanser utan publika IP-adresser, använd hanterad identitetsautentisering, aktivera användarisolering för delade kluster och kryptera diskar med kundhanterade nycklar. Mer information finns i Skydda en Azure Machine Learning-träningsmiljö.

Implementera AI-specifikt skydd mot hot

AI-arbetsbelastningar står inför unika hot, inklusive snabbinmatning, jailbreak-attacker och modellmanipulering. Implementera hotidentifiering och kontinuerlig testning som är särskilt utformad för AI.

Integrera röd teamindelning i CI/CD-pipelines för att verifiera säkerheten före distributionen. Testa mot kända attackmönster från MITRE ATLAS,OWASP Top 10 för LLM-applikationer och OWASP Top 10 för Agentic AI.

  • Inför mänsklig kontroll för kritiska åtgärder. För högrisk-AI-operationer såsom externa dataöverföringar eller systemkonfigurationsändringar, använd Azure Logic Apps eller Power Automate för att utforma arbetsflöden som pausar för mänsklig granskning och godkännande innan exekvering.

  • Övervaka riskfyllda AI-användningsmönster. Använd Hantering av interna risker i Microsoft Purview med mallen för användning av Risky AI för att upptäcka och undersöka riskaktiviteter relaterade till AI. Mer information finns i Principmallar för hantering av insiderrisk.

Skydda känsliga data i AI-interaktioner

AI-program interagerar ofta med känsliga data. Implementera dataskyddskontroller för att förhindra dataförlust och säkerställa efterlevnad.

  • Använd Hantering av datasäkerhetsstatus i Microsoft Purview (DSPM) för AI. DSPM för AI ger insikter i AI-aktivitet, färdiga policyer för att skydda data i uppmaningar och bedömningar av datarisker vid potentiell överdelning. Mer information finns i Hantering av datasäkerhetsstatus för AI.

  • Applicera känslighetsetiketter och DLP-policyer. Utöka Microsoft Purview-känslighetsetiketter till data som AI-applikationer får tillgång till och konfigurera DLP-policyer för att upptäcka och blockera känslig data i AI-promptar. Mer information finns i Komma igång med känslighetsetiketter.

Styra AI för efterlevnad

AI-program måste uppfylla regelkrav och organisationsprinciper.

  • Implementera ansvarsfulla AI-kontroller. Följ Microsoft principer för ansvarsfull AI för rättvisa, transparens, integritet och ansvarstagande. Mer information finns i Microsoft Responsible AI Standard.

  • Bibehåll granskningsspår. Aktivera granskning av AI-tjänster: Microsoft Purview Granskning fångar Copilot-interaktioner, Azure Monitor spårar användningen av Azure AI-tjänster och Defender for Cloud Apps övervakar SaaS AI-aktivitet. Mer information finns i Granskningsloggaktiviteter.

Nästa steg

  • Last updated on