Carte d’application : Enquêtes sur la sécurité des données Microsoft Purview

Qu’est-ce qu’une carte d’application ou de plateforme ?

Les cartes Application et Plateforme de Microsoft sont destinées à vous aider à comprendre le fonctionnement de notre technologie IA, les choix que les propriétaires d’applications peuvent faire qui influencent les performances et le comportement de l’application, et l’importance de prendre en compte l’ensemble de l’application, y compris la technologie, les personnes et l’environnement. Les cartes d’application sont créées pour les applications IA et les cartes de plateforme sont créées pour les services de plateforme IA. Ces ressources peuvent prendre en charge le développement ou le déploiement de vos propres applications et peuvent être partagées avec les utilisateurs ou les parties prenantes concernés.

Dans le cadre de son engagement envers l’IA responsable, Microsoft adhère à six principes fondamentaux : l’équité, la fiabilité et la sécurité, la confidentialité et la sécurité, l’inclusion, la transparence et la responsabilité. Ces principes sont incorporés dans le Standard d’IA responsable, qui guide les équipes dans la conception, la création et le test d’applications IA. Les cartes d’application et de plateforme jouent un rôle clé dans l’opérationnalisation de ces principes en offrant une transparence sur les fonctionnalités, les utilisations prévues et les limitations. Pour plus d’informations, les lecteurs sont encouragés à explorer le rapport de transparence de l’IA responsable et le code de conduite de Microsoft, qui décrivent comment les clients d’entreprise et les individus peuvent s’engager avec l’IA de manière responsable.

Vue d’ensemble

Enquêtes sur la sécurité des données Microsoft Purview est une application d’investigation prenant en charge l’IA pour les équipes de cybersécurité et de sécurité des données. Il aide les organisations à analyser les données associées aux violations potentielles, aux incidents internes et aux événements d’exfiltration en combinant la recherche, l’analyse IA et la planification de l’atténuation dans un même workflow. L’application utilise l’IA générative pour identifier les risques de contenu sensibles, hiérarchiser les éléments à fort impact et produire des recommandations qui prennent en charge l’endiguement et la correction.

L’application est conçue pour réduire le temps et la complexité des enquêtes post-violation et à haut risque. Au lieu d’examiner manuellement de très grands ensembles de fichiers, d’e-mails et de messages, les analystes peuvent utiliser des outils de recherche vectorielle, de catégorisation et d’examen pour se concentrer sur le contenu le plus pertinent et le plus risqué. Cela améliore l’efficacité du triage, prend en charge la coordination entre les équipes et aide les organisations à prendre des mesures en temps opportun, telles que la planification de l’atténuation pilotée par les enquêtes et les opérations de vidage.

Enquêtes sur la sécurité des données est destiné aux clients d’entreprise et aux utilisateurs en aval, tels que les analystes de sécurité, les répondants aux incidents, les enquêteurs sur les menaces et les équipes de protection des données. La documentation clé inclut En savoir plus sur Enquêtes sur la sécurité des données amd Learn about AI analysis in Enquêtes sur la sécurité des données .

Termes clés

La liste suivante fournit un glossaire des termes clés liés à Enquêtes sur la sécurité des données Microsoft Purview :

  • Catégorisation : fonctionnalité IA qui regroupe le contenu d’investigation délimité en catégories par défaut, personnalisées ou suggérées par l’IA pour accélérer la hiérarchisation. Standard et options de traitement avancées aident les analystes à passer d’un tri général à un clustering plus approfondi au niveau du sujet.
  • Examen : mode d’analyse IA qui effectue une révision ciblée au niveau des éléments pour des domaines tels que les informations d’identification, les risques et les conseils d’atténuation. Les sorties d’examen aident les enquêteurs à comprendre la gravité et les actions suivantes recommandées.
  • Étendue de l’examen : ensemble d’éléments de contenu sélectionnés pour révision et analyse dans une investigation.
  • Plan d’atténuation : ensemble structuré d’actions pour les éléments identifiés comme prioritaires pendant l’examen. Il permet aux analystes de suivre et d’exécuter des tâches de correction et de réduction des risques.
  • Purge (soft/hard) : action d’atténuation pour supprimer les éléments à risque identifiés dans une enquête. Le vidage réversible déplace les éléments vers des emplacements récupérables, tandis que le vidage physique supprime définitivement les éléments.
  • Score de risque : score généré lors de l’examen qui aide les analystes à hiérarchiser le contenu en fonction de l’impact potentiel sur la sécurité. Il prend en charge les décisions de triage et d’escalade.
  • Recherche IA (préversion) : expérience de recherche augmentée de récupération qui combine la récupération sémantique avec des résumés et des citations générés par l’IA. Il permet aux analystes d’évaluer si les résultats de la recherche correspondent à l’intention d’investigation.
  • Recherche vectorielle : méthode de recherche sémantique qui utilise des incorporations pour récupérer du contenu contextuel pertinent, même quand des mots clés exacts sont manquants. Il prend en charge les requêtes prenant en charge l’intention et le classement basé sur la pertinence.

Fonctionnalités clés

Les fonctionnalités clés décrites ici décrivent ce que Enquêtes sur la sécurité des données Microsoft Purview est conçu pour effectuer et comment il s’exécute sur les tâches prises en charge.

  • Flux de travail d’incident à investigation intégré : l’application prend en charge la création d’enquêtes à partir d’incidents Microsoft Defender XDR, de cas de gestion des risques internes, d’insights Gestion de la posture de sécurité des données (préversion) ou du mode brouillon manuel. Cela permet aux équipes de sécurité de passer de l’alerte à l’analyse axée sur les données sans changer d’outils. Il améliore également la collaboration entre les équipes de cybersécurité, de conformité et de risque.
  • Récupération sémantique basée sur l’IA : la recherche vectorielle permet une récupération prenant en charge l’intention sur le contenu textuel délimité. Les analystes peuvent trouver des éléments pertinents même si le contenu ne contient pas de termes de requête exacts. Cela améliore le rappel et réduit les mot clé manuels d’essai et d’erreur.
  • Hiérarchisation assistée par IA par catégorisation : la catégorisation organise les données en catégories par défaut, personnalisées et suggérées par l’IA afin que les analystes puissent se concentrer rapidement sur les domaines à risque plus élevé. La catégorisation avancée fournit des organization supplémentaires au niveau de la rubrique pour un examen plus approfondi. Cela réduit les efforts de révision dans les enquêtes de grande envergure en exposant le contenu hiérarchisé au lieu d’exiger d’abord une révision manuelle complète.
  • Risque ciblé et examen des justificatifs : les outils d’examen extraient les justificatifs, évaluent les risques liés aux éléments et génèrent des sorties axées sur l’atténuation pour le contenu sélectionné. Les analystes comprennent plus rapidement ce qui peut être exposé et ce qu’il faut faire ensuite. Cela prend en charge l’endiguement et la correction plus rapides dans les incidents actifs.
  • Actions d’atténuation et de vidage : les enquêteurs peuvent convertir les résultats en actions concrètes par le biais de plans d’atténuation et de flux de travail de vidage. Cette analyse lie les résultats de l’analyse directement à l’exécution de la réduction des risques. Teams peut suivre la progression et status des décisions d’atténuation dans le cycle de vie d’investigation.
  • Audit et intégration de l’écosystème : la solution s’intègre aux workflows d’audit Microsoft Purview et aux solutions de sécurité Microsoft, ce qui permet aux équipes de préserver le contexte des preuves et d’aligner les actions de réponse. Il prend également en charge la journalisation des activités d’investigation dans le journal d’audit unifié pour renforcer la responsabilité opérationnelle.

Utilisations prévues

Enquêtes sur la sécurité des données Microsoft Purview peut être utilisé dans plusieurs scénarios. Voici quelques exemples de cas d’usage :

  • Réponse à la violation d’un incident Defender XDR : un analyste peut créer une enquête de sécurité des données directement à partir d’un incident Defender XDR pour évaluer le rayon d’explosion d’un utilisateur compromis. L’examen basé sur l’IA expose les informations d’identification, les documents sensibles et les communications auxquels l’attaquant aurait pu accéder, avec des données réglementées et ayant un impact sur le client prioritaires. Les mesures d’atténuation sont prises dans le cadre de la même enquête, produisant une réponse documentée pour l’audit et le suivi.
  • Suivi de l’exfiltration des données des employés via le journal d’audit : lorsqu’un employé est soupçonné d’exfiltrer un grand volume de données, un enquêteur interroge le journal d’audit unifié via Enquêtes sur la sécurité des données pour suivre les fichiers téléchargés et consultés. La catégorisation par IA sépare l’activité de routine du contenu suspect et concentre l’attention sur les données à risque le plus élevé. Les résultats enrichis par l’IA sont remis aux équipes juridiques et de confidentialité pour d’autres actions.
  • Repérage des données sensibles dans un site SharePoint surexposé : après avoir appris qu’un site SharePoint contenant du contenu sensible est largement surpartagé, un enquêteur étend une investigation à ce site et exécute une analyse IA pour identifier ce qui est réellement à risque. Recherche vectorielle et catégorisation des concentrations de surface de contenu sensible qu’il serait difficile d’examiner manuellement.
  • Examen des interactions ia risquées : un enquêteur étend une investigation DSI aux invites ia et aux réponses impliquant des données sensibles, qu’elles proviennent d’outils IA Microsoft Copilot ou tiers. Les examens identifient où le contenu réglementé, les informations d’identification ou les informations d’identification personnelles sont apparus dans les interactions, et la catégorisation met en évidence les modèles récurrents d’utilisation risquée. Les résultats informent à la fois la correction immédiate du contenu exposé et un suivi plus large avec les utilisateurs et les outils impliqués.

Modèles et données d’entraînement

Enquêtes sur la sécurité des données Microsoft Purview tire parti d’une variété de modèles IA pour alimenter l’expérience que les utilisateurs voient. Exemples : Azure modèles OpenAI Service et Microsoft Security Copilot fonctionnalités de plateforme utilisées pour les incorporations vectorielles, la catégorisation et les sorties IA liées à l’examen. Pour en savoir plus sur les données utilisées pour entraîner les modèles de base derrière Enquêtes sur la sécurité des données Microsoft Purview, reportez-vous aux cartes de modèle liées pour trouver les cartes de données pertinentes.

Performances

Enquêtes sur la sécurité des données Microsoft Purview est conçu pour s’exécuter de manière fiable dans les flux de travail d’investigation post-violation et d’analyse des risques de données dans l’entreprise, où l’étendue d’investigation est correctement définie et où les utilisateurs se voient attribuer les groupes de rôles requis. Dans ces conditions, les analystes peuvent affiner de manière itérative les résultats de recherche, hiérarchiser les données par catégorisation et effectuer un examen sur les éléments sélectionnés pour prendre des décisions d’atténuation.

Les entrées prévues sont principalement du contenu d’entreprise et des invites d’enquête. Les entrées incluent les fichiers, les e-mails et les messages délimités à partir de sources de données Microsoft 365 prises en charge ; métadonnées et contexte lié à l’audit ; et les requêtes en langage naturel ou mot clé utilisées dans la recherche vectorielle et la recherche avec IA (préversion). Les sorties attendues incluent des résultats de recherche classés par pertinence, des regroupements de catégories, des sorties d’examen des risques et des informations d’identification, ainsi que des recommandations axées sur l’atténuation.

La principale modalité d’interaction IA évaluée et documentée est le texte. La vectorisation et la récupération sémantique dépendent du contenu textuel. Certains types de contenu qui n’incluent pas de texte utilisable sont exclus des flux de travail de vectorisation. Les enquêteurs doivent donc tenir compte de cela lors de la planification de l’étendue.

Les performances et l’utilité sont influencées par la qualité de la configuration de l’examen, notamment la précision de l’étendue, la sélection des catégories et l’examen humain itératif. Dans les jeux de données volumineux, la catégorisation retourne des sous-ensembles hiérarchisés plutôt qu’une couverture exhaustive pour chaque catégorie. Pour une analyse complète au niveau des éléments, les équipes doivent combiner la catégorisation avec l’examen et la validation de l’enquêteur.

Limitations

Il est essentiel de comprendre les limites de Enquêtes sur la sécurité des données Microsoft Purview pour déterminer s’il est utilisé dans des limites sûres et efficaces. Bien que nous encourageons les clients à tirer parti de Enquêtes sur la sécurité des données Microsoft Purview dans leurs solutions ou applications innovantes, il est important de noter que Enquêtes sur la sécurité des données Microsoft Purview n’a pas été conçu pour tous les scénarios possibles. Nous encourageons les utilisateurs à se référer au Code de conduite microsoft Enterprise AI Services (pour les organisations) ou à la section Code de conduite dans le Contrat de services Microsoft (pour les particuliers) ainsi que les considérations suivantes lors du choix d’un cas d’usage :

  • Contraintes de fiabilité de sortie ia : les résultats générés par l’IA générative peuvent ne pas toujours être entièrement précis ou complets. Cette limitation est importante, car les enquêteurs peuvent autrement surestimer la confiance et manquer le contexte qui change la gravité de l’incident. Les utilisateurs doivent valider les résultats critiques, en particulier avant des actions techniques légales, de conformité ou irréversibles. Le jugement humain reste requis dans les décisions finales.
  • Dépendance de contenu de texte pour les outils sémantiques : la recherche vectorielle et les workflows sémantiques associés nécessitent un contenu textuel. Certains types de contenu, tels que les éléments d’image uniquement ou le contenu sans texte extractible, peuvent être exclus de la vectorisation et, par conséquent, de certains flux de travail de récupération assistés par IA. Teams doit évaluer si des preuves clés peuvent nécessiter des méthodes de révision supplémentaires en dehors de la recherche sémantique. Cela permet d’éviter les fausses hypothèses concernant la couverture complète.
  • Comportement de catégorisation hiérarchisé et non exhaustif : la catégorisation est optimisée pour exposer du contenu pertinent pour les catégories sélectionnées, et non pour garantir une révision complète de chaque élément dans l’étendue par catégorie. Dans les jeux de données volumineux, les éléments pertinents avec un score inférieur peuvent ne pas apparaître dans les sorties de catégorie. Les utilisateurs doivent utiliser l’examen pour une analyse complète au niveau des éléments lorsqu’une couverture complète est requise. Cela est particulièrement important dans les enquêtes à fort impact.
  • Limites opérationnelles et limites de capacité : les limites d’investigation et de fonctionnalités s’appliquent, y compris les limites du nombre total de documents, la taille totale des fichiers par investigation et les limites des workflows de recherche et de vidage d’audit. Ces contraintes peuvent affecter la façon dont les équipes segmentent les équipes et séquencent des enquêtes volumineuses. Les utilisateurs doivent planifier l’étendue et la stratégie de traitement autour des limites publiées pour éviter les retards. La planification prenant en charge la capacité améliore à la fois le contrôle des coûts et la continuité des enquêtes.
  • Non destiné à des scénarios non pris en charge ou à une utilisation interdite : Enquêtes sur la sécurité des données est destiné aux contextes d’investigation et d’atténuation des incidents de sécurité des données. Son utilisation en tant que seul décideur, en dehors des workflows de gouvernance et de sécurité, ou d’une manière interdite par les conditions et les exigences du code de conduite peut créer un risque pour la sécurité et la conformité. Les organisations doivent conserver l’outil dans les limites opérationnelles prévues et appliquer des contrôles en couches. Cela inclut l’examen juridique et politique avant les actions à conséquences élevées.

Évaluations

Les évaluations des performances et de la sécurité évaluent si les applications IA fonctionnent de manière fiable et sécurisée en examinant des facteurs tels que la base, la pertinence et la cohérence, tout en identifiant les risques liés à la génération de contenu nuisible. Les évaluations suivantes ont été effectuées avec des composants de sécurité déjà en place, qui sont également décrits dans 9. Composants de sécurité et atténuations.

Évaluations des performances et de la qualité

Les évaluations des performances et de la qualité des fonctionnalités d’IA dans Enquêtes sur la sécurité des données Microsoft Purview se concentrent sur les résultats d’investigation pratiques, notamment la pertinence de la recherche vectorielle, la précision de catégorisation et l’utilité de la sortie de l’examen. En fonction de la documentation du produit, les activités d’évaluation incluent des tests en préversion et une validation basée sur des scénarios pour déterminer si les fonctionnalités de découverte, de hiérarchisation et d’analyse assistées par l’IA aident les enquêteurs à agir sur les risques identifiés.

Pour les expériences IA actuelles, la modalité évaluée principale est le texte. Les résultats idéaux sont des résultats précis et pertinents qui aident les analystes à identifier rapidement les éléments à risque élevé et à prendre des mesures d’enquête éclairées. Les résultats non optimaux incluent des résultats incomplets, non pertinents ou nécessitant une analyse et une validation supplémentaires substantielles.

Évaluations des risques et de la sécurité

Nos données d’évaluation sont personnalisées pour évaluer les performances des applications IA dans des domaines clés de sécurité et de qualité, en simulant des scénarios et des risques réels. Nous commençons par identifier les aspects pertinents de l’évaluation des préoccupations en nous appuyant sur la recherche multidisciplinaire et les commentaires d’experts. Ces préoccupations se traduisent par des objectifs d’évaluation ciblés et guident la formulation des métriques d’évaluation. Pour la sécurité, nous créons des invites contradictoires pour obtenir des réponses indésirables ou de cas de périphérie, qui sont ensuite notées à l’aide d’annotateurs assistés par IA formés pour évaluer l’alignement avec les normes de sécurité de Microsoft. Pour la qualité, nous créons des invites basées sur des rubriques pertinentes pour les scénarios, y compris l’évaluation des applications et des agents de génération augmentée de récupération (RAG). Les jeux de données sont organisés à partir de diverses sources, notamment des jeux de données synthétiques et publics pour simuler des scénarios utilisateur réels. À l’aide des jeux de données organisés, les deux évaluations font l’objet d’un affinement itératif et d’un alignement humain pour améliorer l’efficacité et la fiabilité des métriques. Cette méthodologie constitue la base d’évaluations reproductibles et rigoureuses qui reflètent la façon dont les clients utilisent les évaluations pour créer une IA meilleure et plus sûre.

Évaluations personnalisées

Enquêtes sur la sécurité des données a été évalué à l’aide de plusieurs indicateurs de qualité et de fiabilité, notamment la précision de l’IA, la pertinence des résultats et la clarté de la sortie. Basées sur des pratiques documentées, les évaluations utilisent une combinaison d’équipes rouges manuelles et de notation humaine pour tester si les sorties assistées par IA sont utiles et fiables pour les flux de travail d’investigation des incidents. La principale modalité évaluée pour les expériences IA actuelles est le texte.

Les scénarios d’évaluation incluent la récupération sémantique, la pertinence de catégorisation et les sorties d’examen utilisées pour hiérarchiser et atténuer les risques. Les résultats idéaux sont des résultats contextuels pertinents qui aident les analystes à identifier rapidement les éléments à haut risque et à prendre les mesures suivantes éclairées. Les résultats non optimaux incluent des sorties incomplètes, peu claires ou moins pertinentes qui nécessitent une itération et une validation supplémentaires par les enquêteurs.

Les commentaires opérationnels sont également utilisés pour améliorer les performances au fil du temps. Le produit collecte des métriques sélectionnées axées sur la qualité sur les entrées et sorties d’IA pour aider à optimiser la pertinence et l’utilité, tandis que les contrôles de confidentialité documentés décrivent le contenu qui est et n’est pas collecté. Cette boucle continue prend en charge les améliorations continues de la qualité après la publication.

Composants de sécurité & atténuations

  • Contrôles d’accès en fonction du rôle : Enquêtes sur la sécurité des données utilise des groupes de rôles dédiés (administrateurs, enquêteurs, réviseurs) pour contrôler l’accès aux fonctionnalités et les responsabilités. Cela permet de limiter les personnes autorisées à exécuter des activités sensibles telles que le vidage et la configuration administrative. Une séparation claire des tâches réduit les risques d’utilisation abusive et renforce la responsabilité dans les workflows d’investigation.
  • Prise de décision humaine dans la boucle : les sorties d’IA sont conçues pour aider les analystes, et non pour remplacer le jugement des enquêteurs. Les équipes sont censées valider les résultats à fort impact et les recommandations d’atténuation avant de prendre des mesures conséquentes. Cela atténue la dépendance excessive et réduit le risque d’agir sur une sortie d’IA incomplète.
  • Affinement de l’étendue et contrôles d’exclusion : les enquêteurs peuvent limiter de manière itérative l’étendue d’investigation et exclure les éléments non pertinents avant l’analyse avancée de l’IA. Cela améliore la pertinence, réduit le bruit et réduit l’exposition au traitement inutile du contenu. La gestion de l’étendue ciblée prend également en charge le contrôle des coûts et une réponse plus rapide aux incidents.
  • Journalisation d’audit et traçabilité des preuves : les activités liées aux investigations sont journalisées par le biais de workflows d’audit intégrés. La journalisation prend en charge la traçabilité d’investigation, la révision opérationnelle et la responsabilité de conformité. Il s’agit d’une atténuation essentielle des exigences de gouvernance et de validation post-incident.
  • Protections de la confidentialité et de la gestion des données : les contrôles documentés décrivent le stockage d’investigation isolé du locataire et les protections de la confidentialité pour le traitement de l’IA. Les contrôles de partage, de journalisation et d’analyse des données dans les chemins de traitement intégrés sont documentés comme désactivés par défaut pour des contextes de traitement Copilot spécifiques. Ces protections permettent de réduire les risques liés à la confidentialité et de prendre en charge les attentes en matière de conformité de l’entreprise.

Bonnes pratiques pour le déploiement et l’adoption de Enquêtes sur la sécurité des données Microsoft Purview

L’IA responsable est un engagement partagé entre Microsoft et ses clients. Bien que Microsoft crée des applications IA avec la sécurité, l’équité et la transparence à la base, les clients jouent un rôle essentiel dans le déploiement et l’utilisation de ces technologies de manière responsable dans leur propre contexte. Pour prendre en charge ce partenariat, nous proposons les meilleures pratiques suivantes pour les déploiements et les utilisateurs finaux afin d’aider les clients à implémenter efficacement une IA responsable. Les déployeurs et les utilisateurs finaux (administrateurs) doivent :

  • Faites preuve de prudence et évaluez les résultats lors de l’utilisation de Enquêtes sur la sécurité des données Microsoft Purview pour prendre des décisions consécutives ou dans des domaines sensibles : les décisions consécutives sont celles qui peuvent avoir un impact juridique ou significatif sur l’accès d’une personne à l’éducation, à l’emploi, aux plateformes financières, aux prestations gouvernementales, aux soins de santé, au logement, aux assurances, aux plateformes juridiques ou qui pourraient entraîner des dommages physiques, psychologiques ou financiers. Les domaines sensibles, tels que les plateformes financières, les soins de santé et le logement, nécessitent une attention particulière en raison du risque d’impact disproportionné sur différents groupes de personnes. Lorsque vous utilisez l’IA pour prendre des décisions dans ces domaines, assurez-vous que les parties prenantes concernées peuvent comprendre comment les décisions sont prises, faire appel des décisions et mettre à jour les données d’entrée pertinentes.
  • Évaluer les considérations juridiques et réglementaires : les clients doivent évaluer les obligations légales et réglementaires spécifiques potentielles lors de l’utilisation de plateformes et de solutions IA, qui peuvent ne pas être appropriées pour une utilisation dans tous les secteurs ou scénarios. En outre, les plateformes ou solutions IA ne sont pas conçues pour et ne peuvent pas être utilisées de manière interdite dans les conditions d’utilisation applicables et les codes de conduite pertinents.
  • Planifier les investigations pour l’analyse itérative : Enquêtes sur la sécurité des données flux de travail sont intentionnellement itératifs, en particulier pour l’affinement de la recherche, le réglage de l’étendue et le tri assisté par l’IA. Teams doit définir des points de contrôle reproductibles pour savoir quand exécuter la recherche vectorielle, la catégorisation et l’examen. Cela améliore la cohérence, réduit l’utilisation inutile du calcul et renforce la qualité des investigations.
  • Coordonner rapidement la réponse interfonctionnale : les incidents de sécurité impliquent souvent la sécurité, l’informatique, le droit, la conformité et les propriétaires d’entreprise. Intégrez ces parties prenantes au processus d’enquête dès que les conclusions à haut risque sont identifiées. Une coordination précoce améliore la vitesse d’endiguement et réduit les frictions de correction en aval.

Les utilisateurs finaux doivent :

  • Utiliser des invites d’investigation claires et ciblées : pour la recherche vectorielle et la recherche avec IA (préversion), les invites doivent inclure le contexte, l’objet et l’intention (par exemple, les informations d’identification dans un projet nommé ou le contenu à risque d’accès pour un incident spécifique). Les invites claires produisent une récupération plus pertinente et réduisent le bruit d’investigation. Les utilisateurs doivent itérer et comparer les sorties avant de tirer des conclusions.
  • Valider les résultats de l’IA avec des preuves à l’appui : passez en revue les citations, les détails de l’élément et le contexte d’activité avant d’augmenter ou d’atténuer. Les sorties d’IA peuvent accélérer le triage, mais peuvent manquer des cas de périphérie ou inclure des résultats de confiance inférieure. La vérification croisée avec la recherche, les vues d’étendue et les entrées des parties prenantes réduit le risque d’erreur.
  • Exercer la supervision humaine le cas échéant : la supervision humaine est une protection importante lors de l’interaction avec les applications IA. Bien que nous améliorions continuellement nos applications IA, l’IA peut toujours faire des erreurs. Les sorties générées peuvent être inexactes, incomplètes, biaisées, mal alignées ou non pertinentes par rapport à vos objectifs prévus. Cela peut se produire pour diverses raisons, telles que l’ambiguïté dans les entrées ou les limitations des modèles sous-jacents. Par conséquent, les utilisateurs doivent examiner les réponses générées par Enquêtes sur la sécurité des données Microsoft Purview et vérifier qu’elles correspondent à leurs attentes et exigences.
  • Soyez conscient du risque de dépendance excessive : une dépendance excessive à l’égard de l’IA se produit lorsque les utilisateurs acceptent des sorties IA incorrectes ou incomplètes, principalement parce que les erreurs dans les sorties d’IA peuvent être difficiles à détecter. Pour l’utilisateur final, une dépendance excessive peut entraîner une baisse de productivité, une perte de confiance, un abandon de l’application, une perte financière, des dommages psychologiques, des dommages physiques, entre autres. (par exemple, un médecin accepte une sortie IA incorrecte).
  • Soyez prudent lors de la conception d’une IA agentique dans des domaines sensibles : les utilisateurs doivent faire preuve de prudence lors de la conception et/ou du déploiement d’applications d’IA agentiques dans des domaines sensibles où les actions de l’agent sont irréversibles ou très conséquentes.
  • Des précautions supplémentaires doivent également être prises lors de la création d’une IA agentique autonome, comme décrit plus en détail dans le Code de conduite microsoft Enterprise AI Services (pour les organisations) ou la section Code de conduite du Contrat de services Microsoft (pour les particuliers).

Les déployeurs doivent :

  • Configurer les autorisations et le modèle de propriété à l’avance : attribuez Enquêtes sur la sécurité des données groupes de rôles en fonction des privilèges minimum et de la responsabilité opérationnelle avant que les incidents ne se produisent. Incluez les administrateurs de sauvegarde et effacez la couverture des rôles pour éviter les retards de réponse. Cela réduit les risques liés à l’accès trop long et renforce la continuité lors des incidents actifs.
  • Conception des limites, des coûts et du débit : les limites d’investigation, de recherche d’audit et de vidage doivent informer les équipes sur la façon dont les équipes segmentent les incidents volumineux. Teams doit également surveiller l’utilisation de la capacité et préparer le traitement de l’IA pour s’aligner sur l’urgence et le budget. Cela évite les goulots d’étranglement et prend en charge des performances de réponse prévisibles.
  • Flux de travail d’atténuation des tests et chemins d’escalade : exécutez des investigations tabletop ou pilote à l’aide de données représentatives pour valider les modèles de requête, la stratégie de catégorisation et les remises d’atténuation. Les workflows prétestés réduisent la confusion pendant les incidents réels et améliorent le temps d’action. Incluez des vérifications des exigences légales et de notification de conformité dans le cadre de ce test.

En savoir plus sur Enquêtes sur la sécurité des données Microsoft Purview

Pour obtenir des conseils supplémentaires ou pour en savoir plus sur l’utilisation responsable des Enquêtes sur la sécurité des données Microsoft Purview, nous vous recommandons de consulter la documentation suivante :

En savoir plus sur l’IA responsable

  • Last updated on