Meilleures pratiques en matière de sécurité Azure AI

Cet article fournit les meilleures pratiques pour sécuriser les charges de travail d’intelligence artificielle (IA) spécifiquement dans Azure. À mesure que les organisations adoptent des fonctionnalités d’IA à un rythme sans précédent, les équipes de sécurité doivent obtenir de manière proactive une visibilité sur l’utilisation de l’IA et implémenter des contrôles appropriés pour atténuer les risques.

Cet article se concentre sur les considérations relatives à la sécurité IA spécifiques à Azure. Pour des conseils complets et indépendants de la sécurité de l’IA, incluant la stratégie organisationnelle, les cadres de gouvernance et le cycle de vie complet de la sécurité de l’IA, consultez la section Sécurité pour l’IA dans la documentation Sécurité Microsoft.

Cet article est un complément du modèle de responsabilité partagée de l’IA et du modèle de responsabilité partagée des agents IA, qui expliquent la répartition des responsabilités de sécurité entre vous et Microsoft pour les charges de travail IA et les agents autonomes. Pour connaître les contrôles de sécurité préscriptifs avec l’application d’Azure Policy, consultez Microsoft Cloud Security Benchmark v2 - Artificial Intelligence Security.

Activer la visibilité des charges de travail et de l’utilisation d’IA

Avant de pouvoir sécuriser les charges de travail IA, vous avez besoin d’une visibilité sur les applications IA utilisées et intégrées à votre organisation.

  • Utilisez Microsoft Defender for Cloud pour découvrir des charges de travail IA dans votre environnement Azure. Le plan Defender Cloud Security Posture Management (CSPM) offre des capacités de gestion de la posture de sécurité de l’IA, notamment la découverte de l’inventaire des composants de l’IA générative (AI BOM), des recommandations de sécurité intégrées et l’analyse des chemins d’attaque. Pour plus d’informations, consultez Gestion de la posture de sécurité IA avec Defender pour Cloud.

  • Utilisez Microsoft Defender for Cloud Apps pour découvrir les applications IA SaaS. Le catalogue Defender for Cloud Apps comprend plus d’un millier d’applications d’IA générative. Vous pouvez afficher les évaluations des risques, approuver ou bloquer des applications et créer des stratégies pour détecter de nouvelles applications IA. Pour plus d’informations, consultez Gérer les applications détectées.

  • Suivez les identités des agents IA avec Identifiant d’assistant Microsoft Entra. Identifiant d’assistant Microsoft Entra fournit un annuaire unifié des identités d’agents créées sur Microsoft Copilot Studio et Azure AI Foundry, vous aidant à gérer le cycle de vie et les permissions des agents.

Sécuriser les déploiements du service Azure OpenAI

Le service Azure OpenAI fournit un accès à l’API REST aux modèles de langage puissants. La sécurisation de ces déploiements est essentielle pour protéger vos données et empêcher les mauvaises utilisations.

  • Utilisez des points de terminaison privés pour l’isolation du réseau. Configurez Azure OpenAI Service pour utiliser des points de terminaison privés, supprimant le point public et restreignant l’accès à votre réseau virtuel. Pour plus d’informations, consultez Configuration du réseau et de l’accès pour Azure OpenAI.

  • Utilisez l’identité gérée pour l’authentification. Configurez les applications pour s’authentifier en utilisant des identités gérées par Microsoft Entra au lieu de clés API, éliminant ainsi le besoin de gérer et de faire pivoter les secrets. Pour plus d’informations, consultez Configurer le service Azure OpenAI avec l’authentification Microsoft Entra ID.

  • Implémentez un filtrage de contenu à plusieurs niveaux. Déployez le filtrage de contenu à plusieurs étapes pour créer une défense en profondeur :

    • Filtrage des entrées : Utilisez Azure AI Sécurité du Contenu pour analyser les invites de contenu malveillant, y compris les tentatives d’injection de prompts et les attaques de jailbreak.
    • Filtrage des sorties : Configurez le filtrage de contenu Azure OpenAI pour bloquer les réponses nuisibles avant la livraison.
    • Contrôles de passerelle API : Utilisez Gestion des API Azure pour appliquer la limitation de débit et la validation du schéma.

Pour plus d’informations, consultez Filtrage de contenu et Sécurité du contenu Azure AI.

  • Utilisez des méta-prompts de sécurité pour guider le comportement des modèles. Concevez des prompts système qui définissent clairement le rôle du modèle, incluent des instructions explicites pour rejeter les entrées malveillantes et indiquent au modèle de faire passer les instructions système avant les entrées utilisateur. Utilisez des techniques de focalisation pour isoler les données non approuvées dans les prompts et intégrer Prompt Shields pour détecter les tentatives de jailbreak.

  • Surveillez l’utilisation avec des journaux de diagnostic. Activez la journalisation de diagnostic pour suivre les requêtes API, l’utilisation des jetons, les résultats de filtrage de contenu et les erreurs. Envoyez des journaux de diagnostics à Azure Monitor pour l’analyse et l’alerte. Pour plus d’informations, consultez Surveiller Azure OpenAI.

Sécuriser Azure AI Foundry et Azure Machine Learning

Azure AI Foundry et Azure Machine Learning fournissent des plateformes pour créer et déployer des applications IA. La sécurisation de ces environnements nécessite une attention particulière à l’isolation réseau, au contrôle d’accès et à la gouvernance des modèles.

  • Utilisez l’isolation réseau gérée. Créez des hubs Azure AI Foundry et des espaces de travail Azure Machine Learning avec des réseaux virtuels gérés qui fournissent des points de terminaison privés pour les services dépendants et le contrôle du trafic sortant. Pour plus d’informations, consultez Isolation réseau managée pour Azure AI Foundry et Configurer un point de terminaison privé pour Azure Machine Learning.

  • Mettez en place un contrôle d’accès à privilèges minimes. Configurez RBAC en utilisant des rôles intégrés et attribuez des permissions au niveau du projet ou de l’espace de travail. Utilisez l'ID de Microsoft Entra Agent pour la gestion des identités de l'agent IA, en appliquant des jetons à portée limitée et de courte durée pour l'accès aux fonctions de l'agent. Pour plus d’informations, consultez Contrôle d’accès en fonction du rôle pour Microsoft Foundry.

  • Déploie uniquement des modèles d’IA approuvés. Utilisez Azure Machine Learning Model Registry pour suivre la provenance du modèle, son statut de vérification et son historique d’approbation. Configurez l’analyse automatisée pour valider l’intégrité du modèle et tester les entrées contradictoires avant le déploiement. Mettre en œuvre la stratégie Azure Policy « [préversion] : les déploiements Azure Machine Learning ne doivent utiliser que des modèles de registre approuvés » afin de consolider la gouvernance. Pour plus d’informations, consultez Gestion et déploiement des modèles.

  • Sécuriser les ressources de calcul. Configurez des instances de calcul sans adresses IP publiques, utilisez l’authentification d’identité gérée, activez l’isolement utilisateur pour les clusters partagés et chiffrez les disques avec des clés gérées par le client. Pour plus d’informations, consultez Sécuriser un environnement de formation Azure Machine Learning.

Implémenter une protection contre les menaces spécifique à l’IA

Les charges de travail IA sont exposées à des menaces spécifiques, notamment l’injection de requête, les attaques de jailbreak et l’altération de modèles. Implémentez la détection des menaces et les tests continus spécifiquement conçus pour l’IA.

Intégrer le red teaming aux pipelines CI/CD afin de valider la sécurité avant toute mise en production. Testez contre les schémas d’attaque connus de MITRE ATLAS, le Top 10 OWASP pour les applications LLM, et le Top 10 OWASP pour l’IA Agentique.

  • Mettez en place une validation humaine pour toute action critique. Pour les opérations d’IA à haut risque telles que les transferts de données externes ou les modifications de configuration système, utilisez Azure Logic Apps ou Power Automate pour concevoir des flux de travail qui s’arrêtent pour une revue et une approbation humaine avant leur exécution.

  • Surveillez les schémas d’utilisation risqués de l’IA. Utilisez Gestion des risques internes Microsoft Purview avec le modèle de politique d’utilisation de l’IA risquée pour détecter et enquêter sur les activités de risque liées à l’IA. Pour plus d’informations, consultez les modèles de stratégie de gestion des risques Insider.

Protéger les données sensibles dans les interactions IA

Les applications IA interagissent souvent avec des données sensibles. Implémentez des contrôles de protection des données pour empêcher la perte de données et garantir la conformité.

  • Utilisez Gestion de la posture de sécurité des données Microsoft Purview (DSPM) pour l’IA. Le DSPM pour l’IA fournit une visibilité sur l’activité liée à l’IA, des politiques prêtes à l’emploi pour protéger les données dans les requêtes, ainsi que des évaluations des risques de divulgation excessive de données. Pour plus d’informations, consultez Data Security Posture Management for AI.

  • Appliquez des étiquettes de sensibilité et des politiques DLP. Étendez les étiquettes de sensibilité Microsoft Purview aux données accessibles par les applications d’IA et configurez les politiques DLP pour détecter et bloquer les données sensibles dans les invites IA. Pour plus d’informations, consultez Commencer avec les étiquettes de sensibilité.

Régir l’IA pour la conformité

Les applications IA doivent se conformer aux exigences réglementaires et aux stratégies organisationnelles.

  • Mettez en place des contrôles IA responsables. Suivez les principes responsables de l'IA de Microsoft en matière d'équité, de transparence, de confidentialité et de responsabilité. Pour plus d’informations, consultez Microsoft Responsible AI Standard.

  • Maintenez les traces d’audit. Activez l’audit pour les services d’IA : Microsoft Purview Audit capture les interactions avec Copilot, Azure Monitor suit l’utilisation des services IA Azure, et Defender for Cloud Apps surveille l’activité de l’IA SaaS. Pour plus d’informations, consultez Activités du journal d’audit.

Prochaines étapes

  • Last updated on