Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
L’IA responsable est guidée par un ensemble de principes qui définissent la façon dont les systèmes IA doivent fonctionner. Ces principes se concentrent sur l’équité, la fiabilité, la sécurité, la confidentialité, la sécurité, l’inclusion, la transparence et la responsabilité. Ils établissent les normes qui régissent la façon dont Microsoft évalue les risques, conçoit les fonctionnalités d’IA et garantit le comportement responsable du système.
L’application de ces principes à la conception de l’agent permet d’éviter des dommages inattendus tels que le biais, la mauvaise information ou les violations de la vie privée. Il prend également en charge l’approbation des utilisateurs et l’adoption à long terme. En suivant ces instructions, vous pouvez créer des agents IA qui s’exécutent efficacement tout en respectant les normes d’intégrité et de respect que les utilisateurs et la société attendent de Microsoft produits.
Cet article propose une introduction générale à l’IA responsable appliquée à la conception d’agents. Pour obtenir des conseils complets, consultez Microsoft principes et approche de l'IA responsable.
Principes de l’IA responsable
Les principes de l’IA responsable guident la conception, la génération et l’exploitation des agents dans Microsoft 365 Copilot. Ils établissent une norme partagée pour le comportement de l’agent, la gestion des données et l’interaction utilisateur pour garantir que les systèmes IA sont fiables, sécurisés et alignés sur les valeurs humaines.
Ces principes s’appliquent à l’ensemble du cycle de vie de l’agent, de la conception et du développement au déploiement et à l’utilisation continue. Ils informent les décisions relatives à la conception d’interaction, au modèle et à la sélection des connaissances, à l’autonomie, à la sécurité et à la gouvernance. En suivant ces principes, vous assurez que les agents fournissent une valeur responsable tout en conservant la confiance des utilisateurs et l’adoption à long terme.
| Principe | Ce que cela implique pour la conception de l’agent |
|---|---|
| Impartialité | Les systèmes IA doivent fournir des résultats cohérents et équitables pour tous les utilisateurs. Les comportements de l’agent doivent éviter de créer ou de renforcer un traitement injuste en fonction des attributs sensibles ou du contexte utilisateur. |
| Fiabilité et sécurité | Les systèmes IA doivent s’exécuter comme prévu dans un large éventail de conditions. Les agents doivent gérer la variabilité, les cas de périphérie et les entrées inattendues de manière à prendre en charge un comportement sûr et prévisible. |
| Confidentialité et sécurité | Les systèmes IA doivent protéger les données utilisateur et respecter les exigences de confidentialité et de sécurité établies. Les agents doivent utiliser uniquement les informations auxquelles ils sont autorisés à accéder et doivent gérer ces informations de manière responsable. |
| Inclusivité | Les systèmes IA doivent permettre à tous les utilisateurs de répondre à divers besoins. Les agents doivent prendre en compte l’accessibilité, la variation linguistique et différents niveaux de compétence technique pour garantir une expérience inclusive. |
| Transparence | Les systèmes IA doivent rendre leurs fonctionnalités et limitations claires. Les agents doivent communiquer ce qu’ils peuvent faire, comment les informations sont utilisées et comment les sorties sont générées afin que les utilisateurs puissent prendre des décisions éclairées. |
| Responsabilité | Les systèmes IA nécessitent une supervision claire. Les équipes qui développent des agents sont responsables de s’assurer que le système respecte les principes d’IA responsables, répond aux exigences de conformité et fonctionne sous la gouvernance humaine appropriée. |
Application de l’IA responsable dans le développement d’agents
Microsoft utilise un modèle structuré pour intégrer des principes d’IA responsables tout au long du développement d’agents IA. Ce modèle aide les équipes à identifier les risques, à trouver les mesures d’atténuation appropriées et à maintenir le comportement responsable tout au long du cycle de vie de l’agent.
En tant que concepteur, vos décisions affectent directement la façon dont ces fonctions sont remplies. Les fonctions clés suivantes décrivent la façon dont l’IA responsable est mise en pratique :
| Function | Description |
|---|---|
| Govern | Établit les stratégies, les rôles et les processus que les équipes suivent lors de la conception et du déploiement d’agents. La gouvernance garantit l’alignement avec les principes de l’IA responsable et fournit une responsabilité claire. |
| Carte | Identifie et hiérarchise les risques potentiels associés à un scénario IA. Le mappage permet de prendre des décisions éclairées sur les stratégies d’atténuation et de déterminer si une solution IA est appropriée pour le contexte prévu. |
| Unité : | Évalue les risques et les performances du système pour guider la conception et l’affinement des atténuations. La mesure est essentielle à mesure que les fonctionnalités d’IA augmentent en complexité et nécessitent une évaluation continue. |
| Gérer | Applique et maintient les atténuations des risques tout au long du déploiement et de l’opération continue. Teams surveille le comportement du système et ajuste les atténuations en fonction des besoins pour garantir que les agents restent responsables au fil du temps. |
Filtres de transparence et de sécurité de l’IA
La transparence est une pierre angulaire de l’IA responsable. Lors de la conception d’agents, communiquez clairement la présence et le rôle de l’IA au sein de l’expérience produit. Informez les utilisateurs sur l’objectif, les fonctionnalités, les limitations et les risques potentiels de l’agent. Cette transparence permet aux utilisateurs de prendre des décisions éclairées et favorise la confiance dans le système.
Les applications concrètes de la transparence incluent les Notes de transparence et les informations fournies dans le produit qui expliquent comment l’IA fonctionne et ce que les utilisateurs peuvent en attendre. Par exemple, dans l’expérience Business Chat, l’agent utilise des indicateurs clairs, comme des libellés tels que « Le contenu généré par l’IA peut être incorrect », pour aider à établir des attentes appropriées et à favoriser une utilisation responsable.
Filtres de sécurité
Les filtres de sécurité permettent de s'assurer que les agents se comportent de manière appropriée, respectueuse et alignée sur les principes d'IA responsables de Microsoft. Ces mesures de protection réduisent le risque de sorties dangereuses, biaisées ou trompeuses tout en protégeant la confidentialité des utilisateurs et les informations sensibles tout au long de l’interaction.
Les agents basés sur Copilot héritent des engagements d'IA responsables de Microsoft, qui se concentrent sur l'équité, la fiabilité, la confidentialité et la transparence. Les filtres de sécurité jouent un rôle essentiel dans l’application de ces engagements en guidant la façon dont les agents répondent aux entrées utilisateur, gèrent les rubriques sensibles et gèrent l’accès aux données.
Important
En tant que concepteur, vous ne configurez pas directement les filtres de sécurité. Microsoft les applique au niveau de la plateforme. Toutefois, vos décisions de conception autour du ton, de l’étendue et de la transparence renforcent directement ou sapent la confiance que les filtres de sécurité sont conçus pour protéger.
En appliquant systématiquement des filtres de sécurité, les agents peuvent renforcer la confiance des utilisateurs. Les utilisateurs sont mieux en mesure de s’appuyer sur les réponses de l’agent sachant que les mesures de protection sont en place pour promouvoir le comportement responsable et l’utilisation éthique de l’IA.
Tip
Pour obtenir des conseils complets sur l'approche ia responsable de Microsoft, notamment des principes détaillés, des frameworks de gouvernance et des rapports de transparence, accédez aux principes et approches de l'IA responsable de Microsoft.