Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Le profilage des données est le processus d’examen des données disponibles dans différentes sources de données et de collecte de statistiques et d’informations sur ces données. Le profilage des données vous aide à évaluer le niveau de qualité des données en fonction d’un ensemble défini d’objectifs. Si les données sont de mauvaise qualité ou gérées dans des structures qui ne peuvent pas être intégrées pour répondre aux besoins de l’organisation, les processus métier et la prise de décision en souffrent. Le profilage des données vous permet de comprendre la fiabilité et la qualité de vos données, ce qui est une condition préalable pour prendre des décisions basées sur les données qui augmentent les revenus et favorisent la croissance.
Configuration requise
- Pour exécuter et planifier des analyses d’évaluation de la qualité des données, vos utilisateurs doivent avoir le rôle de responsable de la qualité des données.
- Actuellement, vous pouvez configurer le compte Microsoft Purview pour autoriser l’accès public ou l’accès au réseau virtuel géré afin que les analyses de qualité des données puissent s’exécuter.
Cycle de vie de la qualité des données
Le profilage des données est la cinquième étape du cycle de vie de la qualité des données pour un actif de données. Les étapes précédentes sont les suivantes :
- Attribuez aux utilisateurs des autorisations de gestion de la qualité des données dans le catalogue unifié pour utiliser toutes les fonctionnalités de qualité des données.
- Enregistrez et analysez une source de données dans votre mappage de données Purview.
- Ajoutez votre ressource de données à un produit de données.
- Configurez une connexion de source de données pour préparer votre source à l’évaluation de la qualité des données.
Sources de données multicloud prises en charge
Parcourez le document de source de données pris en charge pour afficher la liste des sources de données prises en charge, y compris les formats de fichier pour le profilage et l’analyse de la qualité des données, avec et sans prise en charge du réseau virtuel.
Importante
La qualité des données du fichier Parquet est conçue pour prendre en charge :
- Répertoire avec le fichier pièce Parquet. Par exemple : ./Sales/{Parquet Part Files}. Le nom complet doit suivre
https://(storage account).dfs.core.windows.net/(container)/path/path2/{SparkPartitions}. Assurez-vous de ne pas avoir {n} modèles dans la structure des répertoires ou des sous-répertoires ; il doit s’agir d’un FQN direct menant à {SparkPartitions}. - Répertoire avec des Files Parquet partitionnés, partitionnés par colonnes dans le jeu de données, comme des données de ventes partitionnées par année et par mois. Par exemple : ./Sales/{Year=2018}/{Month=Dec}/{Parquet Part Files}.
Ces deux scénarios essentiels, qui présentent un schéma de jeu de données Parquet cohérent, sont pris en charge. Limitation : Il n’est pas conçu pour prendre en charge N hiérarchies arbitraires de répertoires avec des fichiers Parquet. Nous vous recommandons de présenter les données dans une structure construite (1) ou (2).
Méthodes d’authentification prises en charge
Actuellement, Microsoft Purview peut uniquement exécuter des analyses de qualité des données à l’aide de l’identité gérée comme option d’authentification. Les services de qualité des données s’exécutent sur Apache Spark 3.5 et Delta Lake 3.2.1. Pour plus d’informations sur les régions prises en charge, consultez la vue d’ensemble de la qualité des données.
Importante
- Si vous mettez à jour le schéma sur la source de données, vous devez importer le schéma à partir de la page Vue d’ensemble de la qualité des données à l’aide de la fonctionnalité d’importation de schéma avant d’exécuter le profilage des données.
- Le réseau virtuel n’est pas pris en charge pour Google BigQuery.
- Dans la version actuelle, vous pouvez profiler 50 colonnes par lot. Si votre ressource de données comporte plus de 50 colonnes, vous pouvez profiler des colonnes supplémentaires dans plusieurs lots.
- Le profilage utilise un échantillon aléatoire de la ressource de données sélectionnée, la taille de l’échantillon est de 1 million d’enregistrements.
- Si une colonne contient une valeur distincte, ne profilez pas cette colonne. Une colonne avec des valeurs distinctes ne peut pas créer une distribution normale.
Étapes de configuration du travail de profilage des données
Si vous ne l’avez pas déjà fait, configurez une connexion de source de données aux ressources que vous analysez pour la qualité des données .
Dans le Catalogue unifié Microsoft Purview, sélectionnez Gestion de la santé, puis Qualité des données.
Sélectionnez un domaine de gouvernance dans la liste.
Sélectionnez un produit de données pour profiler une ressource de données liée à ce produit.
Sélectionnez une ressource de données pour accéder à la page Vue d’ensemble de la qualité des données pour le profilage.
Sélectionner le bouton Profil pour exécuter le travail de profilage pour la ressource de données sélectionnée.
Le moteur de recommandations IA suggère des colonnes potentiellement importantes pour exécuter le profilage des données. Vous pouvez désélectionner les colonnes recommandées et/ou sélectionner d’autres colonnes à profiler.
Une fois que vous avez sélectionné les colonnes appropriées, sélectionnez Exécuter le profil.
Pendant l’exécution du travail, vous pouvez suivre sa progression à partir de la page de surveillance de la qualité des données dans le domaine de gouvernance.
Une fois le travail terminé, sélectionnez l’onglet Profil dans le menu gauche de la page de qualité des données de la ressource pour répertorier le résultat du profilage et l’instantané statistique. Il peut y avoir plusieurs pages de résultats de profil en fonction du nombre de colonnes de vos ressources de données.
Parcourez les résultats du profilage et les mesures statistiques pour chaque colonne.
Présentation des résultats du profilage
- Minimum : longueur minimale des caractères dans la colonne.
- Maximum : longueur maximale des caractères dans la colonne.
- Distribution : distribution normale de vos données.
- Valeurs uniques : valeurs qui ne se répètent pas ; ils sont uniques.
- Valeurs dupliquées : valeurs qui se répètent plusieurs fois.
- Valeurs vides/vides : La colonne est vide ou vide.
- Null : valeurs Null dans la colonne.
- Moyenne : valeur moyenne ou moyenne arithmétique.
- Standard écart : mesure statistique qui quantifie le degré de variation ou de dispersion d’un ensemble de valeurs.
Contenu connexe
- Qualité des données pour le parc de données Fabric
- Qualité des données pour les sources de données en miroir Fabric
- Qualité des données des sources de données de raccourci Fabric
- Qualité des données pour les entrepôts de données et sans serveur Azure Synapse
- Qualité des données pour le catalogue Unity Databricks d’Azure
- Qualité des données pour les sources de données Snowflake
- Qualité des données pour Google BigQuery
Étapes suivantes
- Configurez des règles de qualité des données basées sur les résultats du profilage et appliquez-les à votre ressource de données.
- Configurez et exécutez une analyse de la qualité des données sur un produit de données afin d’évaluer la qualité de toutes les ressources prises en charge dans le produit de données.
- Passez en revue les résultats de l’analyse pour évaluer la qualité actuelle des données de votre produit de données.