Modèle de responsabilité partagée pour l'intelligence artificielle (IA)

Lorsque vous considérez et évaluez l’intégration compatible IA, il est essentiel de comprendre le modèle de responsabilité partagée et les tâches que la plateforme d’IA ou le fournisseur d’applications gère ainsi que celles que vous gérez. Les responsabilités liées à la charge de travail varient selon que l’intégration de l’IA est basée sur le logiciel en tant que service (SaaS), la plateforme en tant que service (PaaS) ou l’infrastructure en tant que service (IaaS).

Cet article étend la responsabilité partagée dans le modèle cloud aux charges de travail en IA générative. Pour les agents IA autonomes utilisant des outils, voir le modèle de responsabilité partagée des agents IA.

Répartition des responsabilités

Comme pour les services cloud, plusieurs options existent lorsque vous mettez en place des capacités d’IA pour votre organisation. Selon l'option choisie, vous assumez la responsabilité de différentes parties des opérations et politiques nécessaires à l'utilisation de l'IA en toute sécurité.

Le diagramme suivant illustre les domaines de responsabilité entre vous et Microsoft, en fonction du type de déploiement.

Vue d'ensemble de la couche d'IA

Une application compatible IA se compose de trois couches de fonctionnalités qui regroupent les tâches que vous ou un fournisseur d’IA effectuez. Les responsabilités de sécurité reviennent généralement à la partie qui effectue les tâches, mais un fournisseur d’IA peut choisir de vous exposer la sécurité ou d’autres contrôles comme option de configuration selon les besoins. Ces trois couches sont :

Plateforme Intelligence artificielle

la couche de plate-forme d'IA qui fournit les capacités d'IA aux applications. Au niveau de la plateforme, il faut construire et protéger l’infrastructure qui fait tourner le modèle d’IA, les données d’entraînement et des configurations spécifiques qui modifient le comportement du modèle, comme les poids et les biais. Cette couche de plateforme offre un accès aux fonctionnalités via des API. Les API transmettent un texte appelé métaprompt au modèle d’IA pour traitement, puis retournent le résultat généré, appelé prompt-response.

Considérations de sécurité des plateformes d’IA – Pour protéger la plateforme d’IA contre les entrées malveillantes, un système de sécurité doit filtrer les instructions potentiellement nuisibles envoyées au modèle d’IA (les entrées). Parce que les modèles d’IA sont génératifs, ils peuvent aussi générer et retourner du contenu nuisible à l’utilisateur (outputs). Tout système de sécurité doit d’abord se prémunir contre les entrées comme les sorties potentiellement nuisibles, relevant de diverses catégories, notamment les contenus haineux, les jailbreaks et d’autres formes de nuisance. Ces classifications des dommages évolueront probablement au fil du temps en fonction des connaissances du modèle, du lieu et de l’industrie.

Microsoft a intégré des systèmes de sécurité pour les offres PaaS et SaaS :

• PaaS – Azure OpenAI Service
• SaaS – Microsoft Security Copilot

Application d'IA

L'application d'IA accède aux capacités d'IA et fournit le service ou l'interface que l'utilisateur utilise. Les composants de cette couche peuvent varier de relativement simples à très complexes, en fonction de l'application. Les applications d’IA autonomes les plus simples agissent comme une interface pour un ensemble d’API qui prennent une invite utilisateur textuelle et transmettent ces données au modèle pour une réponse. Les applications d’IA plus complexes incluent la capacité d’enrichir l’invite de l’utilisateur avec un contexte supplémentaire, notamment une couche de persistance, un index sémantique ou des extensions permettant d’accéder à davantage de sources de données. Les applications d'IA avancées peuvent également servir d'interface avec des applications et des systèmes existants. Les applications et systèmes existants peuvent traiter du texte, de l’audio et des images pour générer divers types de contenu.

Considérations sur la sécurité des applications IA - Construisez un système de sécurité des applications pour protéger l’application IA contre les activités malveillantes. Le système de sécurité permet une inspection approfondie du contenu utilisé dans le métaprompte envoyé au modèle d’IA. Le système de sécurité inspecte également les interactions avec tout plugin, connecteur de données et autres applications d’IA (connue sous le nom d’orchestration IA). Une façon d’intégrer cela dans votre propre application d’IA basée sur IaaS/PaaS est d’utiliser le service Azure AI Sécurité du Contenu. Des capacités supplémentaires sont disponibles en fonction de vos besoins.

Utilisation de l'IA

La couche d'utilisation de l'IA décrit comment les capacités d'IA sont finalement utilisées et consommées. L’IA générative offre un nouveau type d’interface utilisateur/ordinateur, fondamentalement différente des autres interfaces informatiques, telles que les API, les invites de commande et les interfaces graphiques utilisateur (GUI). L'interface d'IA générative est à la fois interactive et dynamique, permettant ainsi aux capacités de l'ordinateur de s'adapter à l'utilisateur et à ses intentions. L'interface d'IA générative met en contraste les interfaces précédentes qui obligent principalement les utilisateurs à découvrir la conception et la fonctionnalité du système et à s'y adapter. Cette interactivité permet à l’entrée des utilisateurs, plutôt qu’aux concepteurs d’applications, d’avoir un haut niveau d’influence sur la production du système, rendant les garde-fous de sécurité essentiels pour protéger les personnes, les données et les actifs de l’entreprise.

Considérations de sécurité de l’utilisation de l’IA – La protection de l’utilisation de l’IA est similaire à la protection de tout système informatique car elle repose sur des garanties de sécurité pour les contrôles d’identité et d’accès, la protection et la surveillance des appareils, la protection et la gouvernance des données, les contrôles administratifs et d’autres contrôles.

Le comportement des utilisateurs et la responsabilité nécessitent plus d’importance car les utilisateurs exercent une plus grande influence sur la production des systèmes. Il est essentiel de mettre à jour les politiques d’utilisation acceptable et d’informer les utilisateurs sur les différences entre les applications informatiques standard et les applications compatibles avec l’IA. Les politiques d’utilisation acceptable doivent inclure des considérations spécifiques à l’IA liées à la sécurité, à la vie privée et à l’éthique. De plus, informez les utilisateurs sur les attaques basées sur l’IA que les attaquants peuvent utiliser pour les tromper avec des textes, des voix, des vidéos et plus encore de faux textes convaincants.

Les ressources suivantes définissent les types d’attaques spécifiques à l’IA :

• Classification des vulnérabilités du Centre de réponse à la sécurité Microsoft (MSRC) pour les systèmes d'IA
• Paysage des menaces adversaires MITRE pour les systèmes d'intelligence artificielle (ATLAS)
• Le top 10 de l'OWASP pour les applications de type Large Language Model (LLM)
• Top 10 de l'OWASP sur la sécurité de l'apprentissage automatique (ML)
• Cadre de gestion des risques liés à l'IA du NIST

Configurez avant de personnaliser

Microsoft recommande aux organisations de commencer par des approches basées sur le SaaS comme le modèle Copilot pour leur adoption initiale de l’IA et pour toutes les charges de travail suivantes en IA. Cette approche minimise le niveau de responsabilité et d’expertise que votre organisation doit fournir pour concevoir, exploiter et sécuriser ces capacités hautement complexes.

Si les capacités existantes ne répondent pas aux besoins spécifiques d'une charge de travail, vous pouvez adopter un modèle PaaS en utilisant des services d'IA, tels qu'Azure OpenAI Service, pour répondre à ces exigences spécifiques.

Seules les organisations ayant une expertise approfondie en science des données et en matière de sécurité, de confidentialité et d’éthique de l’IA devraient adopter la création de modèles personnalisés.

Pour aider à faire connaître l’IA, Microsoft développe des solutions Copilot pour chacune des principales solutions de productivité : de Bing et Windows à GitHub et Microsoft 365. Microsoft développe des solutions full-stack pour tous types de scénarios de productivité. Microsoft propose ces fonctionnalités sous forme de solutions SaaS. Microsoft intègre ces capacités dans l'interface utilisateur du produit, où elles sont réglées pour aider l'utilisateur dans des tâches spécifiques afin d'augmenter la productivité.

Microsoft conçoit chaque solution Copilot selon les principes solides de Microsoft pour la gouvernance de l'IA.

Étapes suivantes

En savoir plus sur les meilleures pratiques de sécurité Azure AI.

Pour en savoir plus sur les exigences de Microsoft en matière de développement de produits pour une IA responsable, reportez-vous à Norme Microsoft Responsible AI Standard.

En savoir plus sur les responsabilités partagées en matière de cloud computing.

Découvrez le modèle de responsabilité partagée des agents IA pour les systèmes d’IA autonomes utilisant des outils.

Lisez sur la nature unique des tests de menaces en IA dans Microsoft AI : L’équipe rouge construit l’avenir d’une IA plus sûre.