Best practices voor Azure AI-beveiliging

Dit artikel bevat aanbevolen procedures voor het beveiligen van AI-workloads (kunstmatige intelligentie) specifiek in Azure. Naarmate organisaties AI-mogelijkheden met een ongekend tempo gebruiken, moeten beveiligingsteams proactief inzicht krijgen in AI-gebruik en passende controles implementeren om risico's te beperken.

Dit artikel is gericht op azure-specifieke AI-beveiligingsoverwegingen. Voor uitgebreide, platformonafhankelijke AI-beveiligingsrichtlijnen, inclusief organisatiestrategie, governancekaders en de volledige AI-beveiligingslevenscyclus, zie Security for AI in de Microsoft Beveiliging-documentatie.

Dit artikel is een aanvulling op het AI-model voor gedeelde verantwoordelijkheid en het AI-agent gedeelde verantwoordelijkheidsmodel, waarin de verdeling van beveiligingsverantwoordelijkheden tussen jou en Microsoft voor AI-workloads en autonome agenten wordt uitgelegd. Voor prescriptieve beveiligingscontroles met Azure Policy-afdwinging, zie Microsoft Cloud Security Benchmark v2 - Artificial Intelligence Security.

Inzicht in AI-workloads en -gebruik inschakelen

Voordat u AI-workloads kunt beveiligen, hebt u inzicht nodig in welke AI-toepassingen worden gebruikt en ingebouwd in uw organisatie.

  • Gebruik Microsoft Defender voor Cloud om AI-workloads in je Azure-omgeving te ontdekken. Het Defender Cloud Security Posture Management (CSPM)-plan biedt AI-beveiligingshoudingsbeheermogelijkheden, waaronder het ontdekken van de generatieve AI Bill of Materials (AI BOM), ingebouwde beveiligingsaanbevelingen en analyse van aanvalspaden. Zie Ai-beveiligingspostuurbeheer met Defender voor Cloud voor meer informatie.

  • Gebruik Microsoft Defender for Cloud Apps om SaaS AI-toepassingen te ontdekken. De catalogus van Defender for Cloud Apps bevat meer dan duizend generatieve AI-apps. U kunt risicobeoordelingen bekijken, apps goedkeuren of blokkeren en beleid maken om nieuwe AI-apps te detecteren. Zie Gedetecteerde apps beheren voor meer informatie.

  • Volg AI-agentidentiteiten met Microsoft Entra Agent-ID. Microsoft Entra Agent-ID biedt een uniforme directory van agentidentiteiten die zijn aangemaakt in Microsoft Copilot Studio en Azure AI Foundry, waarmee je de agentlevenscyclus en -rechten kunt beheren.

Implementaties van Azure OpenAI-service beveiligen

Azure OpenAI Service biedt REST API-toegang tot krachtige taalmodellen. Het beveiligen van deze implementaties is essentieel voor het beveiligen van uw gegevens en het voorkomen van misbruik.

  • Gebruik privé-endpoints voor netwerkisolatie. Configureer Azure OpenAI Service om private endpoints te gebruiken, verwijder het publieke endpoint en beperk de toegang tot je virtuele netwerk. Zie Netwerk- en toegangsconfiguratie voor Azure OpenAI voor meer informatie.

  • Gebruik een beheerde identiteit voor authenticatie. Configureer applicaties om te authenticeren door Microsoft Entra beheerde identiteiten te gebruiken in plaats van API-sleutels, waardoor het beheren en roteren van geheimen overbodig wordt. Zie Azure OpenAI-service configureren met Microsoft Entra ID-verificatie voor meer informatie.

  • Implementeer meerlaagse contentfiltering. Zet contentfiltering in meerdere fasen in om defense-in-depth te creëren:

    • Invoerfiltering: Gebruik Azure AI Content Veiligheid om prompts te analyseren op kwaadaardige inhoud, waaronder promptinjectiepogingen en jailbreak-aanvallen.
    • Outputfiltering: Configureer Azure OpenAI-contentfiltering om schadelijke reacties vóór levering te blokkeren.
    • API-gatewaycontroles: Gebruik Azure API Management om snelheidsbeperking en schemavalidatie af te dwingen.

Zie Inhoudsfiltering en Azure AI Content Veiligheid voor meer informatie.

  • Gebruik veiligheids-metaprompts om modelgedrag te sturen. Ontwerpsysteemprompts die duidelijk de rol van het model definiëren, expliciete instructies bevatten om kwaadaardige invoer te weigeren, en het model instrueren om systeeminstructies boven gebruikersinvoer te prioriteren. Gebruik spotlight-technieken om niet-vertrouwde gegevens binnen prompts te isoleren en Prompt Shields te integreren om jailbreakpogingen te detecteren.

  • Monitor het gebruik met diagnostische logs. Schakel diagnostische logging in om API-verzoeken, tokengebruik, contentfilterresultaten en fouten te volgen. Logboeken verzenden naar Azure Monitor voor analyse en waarschuwingen. Zie Azure OpenAI bewaken voor meer informatie.

Azure AI Foundry en Azure Machine Learning beveiligen

Azure AI Foundry en Azure Machine Learning bieden platforms voor het bouwen en implementeren van AI-toepassingen. Voor het beveiligen van deze omgevingen is aandacht vereist voor netwerkisolatie, toegangsbeheer en modelbeheer.

  • Gebruik beheerde netwerkisolatie. Creëer Azure AI Foundry-hubs en Azure Machine Learning-werkruimtes met beheerde virtuele netwerken die privé-endpoints bieden voor afhankelijke diensten en uitgaande verkeerscontrole. Zie Beheerde netwerkisolatie voor Azure AI Foundry en een privé-eindpunt configureren voor Azure Machine Learning voor meer informatie.

  • Implementeer toegangscontrole volgens het principe van minimale bevoegdheden. Configureer RBAC door ingebouwde rollen te gebruiken en ken rechten toe op project- of werkruimteniveau. Gebruik de Microsoft Entra Agent-id voor het identiteitsbeheer van AI-agenten, waarbij scoped en kortstondige tokens worden toegepast voor agentfunctietoegang. Zie Op rollen gebaseerd toegangsbeheer voor Microsoft Foundry voor meer informatie.

  • Zet alleen goedgekeurde AI-modellen in. Gebruik het Azure Machine Learning model registry om de herkomst, verificatiestatus en goedkeuringsgeschiedenis bij te houden. Configureer geautomatiseerd scannen om modelintegriteit te valideren en te testen op adversarial invoer vóór de implementatie. Implementeer de Azure Policy "[Preview]: Azure Machine Learning-implementaties mogen alleen goedgekeurde registermodellen gebruiken" om governance af te dwingen. Zie Modelbeheer en -implementatie voor meer informatie.

  • Beveilig rekenresources. Configureer compute-instanties zonder publieke IP-adressen, gebruik beheerde identiteitsauthenticatie, schakel gebruikersisolatie in voor gedeelde clusters en versleutel schijven met door klanten beheerde sleutels. Zie Een Azure Machine Learning-trainingsomgeving beveiligen voor meer informatie.

AI-specifieke bedreigingsbeveiliging implementeren

AI-workloads hebben te maken met unieke bedreigingen, waaronder promptinjectie, jailbreakaanvallen en modelmanipulatie. Implementeer bedreigingsdetectie en doorlopende tests die speciaal zijn ontworpen voor AI.

Integreer red teaming in CI/CD-pijplijnen om de beveiliging vóór de uitrol te valideren. Test met bekende aanvalspatronen van MITRE ATLAS, de OWASP Top 10 voor LLM-toepassingen en de OWASP Top 10 voor Agentic AI.

  • Implementeer human-in-the-loop voor kritieke acties. Voor risicovolle AI-operaties zoals externe datatransfers of systeemconfiguratiewijzigingen, gebruik Azure Logic Apps of Power Automate om workflows te ontwerpen die pauzeren voor menselijke beoordeling en goedkeuring voordat ze worden uitgevoerd.

  • Houd risicovolle AI-gebruikspatronen in de gaten. Gebruik Microsoft Purview Beheer van insider-risico's met het Risky AI-gebruiksbeleidsjabloon om risicogerelateerde activiteiten gerelateerd aan AI te detecteren en te onderzoeken. Zie Insider-beleidssjablonen voor risicobeheer voor meer informatie.

Gevoelige gegevens beveiligen in AI-interacties

AI-toepassingen communiceren vaak met gevoelige gegevens. Implementeer maatregelen voor gegevensbescherming om gegevensverlies te voorkomen en naleving van wetgeving te garanderen.

  • Gebruik Microsoft Purview Data Security Posture Management (DSPM) voor AI. DSPM voor AI biedt inzichten in AI-activiteiten, kant-en-klare beleidsmaatregelen om data in prompts te beschermen, en datarisicobeoordelingen voor mogelijke oversharing. Zie Gegevensbeveiligingspostuurbeheer voor AI voor meer informatie.

  • Pas gevoeligheidslabels en DLP-beleidsregels toe. Verleng Microsoft Purview-gevoeligheidslabels naar gegevens die door AI-applicaties worden benaderd en configureer DLP-beleidsmaatregelen om gevoelige gegevens in AI-prompts te detecteren en blokkeren. Zie Aan de slag met vertrouwelijkheidslabels voor meer informatie.

AI beheren voor naleving

AI-toepassingen moeten voldoen aan wettelijke vereisten en organisatiebeleid.

  • Implementeer verantwoorde AI-controles. Volg de verantwoorde AI-principes van Microsoft voor eerlijkheid, transparantie, privacy en verantwoording. Zie Microsoft Responsible AI Standard voor meer informatie.

  • Houd auditsporen bij. Schakel auditing in voor AI-diensten: Microsoft Purview-controle legt Copilot-interacties vast, Azure Monitor volgt het gebruik van Azure AI-diensten, en Defender for Cloud Apps monitort SaaS AI-activiteiten. Zie Activiteiten in het auditlogboek voor meer informatie.

Volgende stappen

  • Last updated on