Qu’est-ce que l’agent d’ingénierie des données Fabric (Project Osmos) ? Preview

L’agent d’ingénierie des données Fabric (Project Osmos) est une capacité autonome d’ingénierie des données pour Microsoft Fabric. Il exécute des tâches persistantes qui planifient, exécutent et valident le travail d’ingénierie des données sur les ressources Fabric auxquelles vous êtes autorisé à accéder.

Depuis un client en ligne de commande supporté, vous saisissez un résultat Project (une description complète de la tâche complète d’ingénierie des données de bout en bout) et sélectionnez le lakehouse Fabric qui héberge la tâche. Project Osmos peut inspecter des données, créer et tester des carnets Spark, transformer des données, écrire des tableaux Delta et valider les résultats. Les tâches continuent de s’exécuter dans Fabric après la déconnexion du client local.

Important

L’agent d’ingénierie des données (Project Osmos) est en aperçu. Les fonctionnalités de prévisualisation sont publiées avec des capacités limitées et sont soumises à des conditions supplémentaires distinctes pour les prévisualisations. Ils ne sont pas destinés à la production, ne sont pas soumis à des accords de niveau de service, et peuvent être disponibles uniquement dans certaines régions. Pour plus d’informations, consultez les informations d’aperçu de Microsoft Fabric.

Fonctionnalités clés

L’agent d’ingénierie des données (Project Osmos) implémente et exécute des tâches d’ingénierie des données dans une tâche Fabric gérée. Il utilise SparkCore, l’état persistant, les contrôles d’accès, le suivi de la progression et la validation par rapport aux données cibles. Plusieurs agents coordonnés créent et évaluent plusieurs options d’implémentation pour fournir un résultat de qualité production.

Project Osmos ajoute des fonctionnalités spécifiques à Fabric :

  • Exécution hébergée par Fabric : Les opérations de code et de données s’exécutent avec Fabric Spark et OneLake plutôt que dans un environnement de développement local.
  • État persistant de la tâche : La tâche continue de s’exécuter après la déconnexion du client local et peut être reprise sans recommencer.
  • Contexte du lakehouse : Project Osmos détermine l’espace de travail Fabric et le lakehouse par défaut de la session Spark à partir de l’URL du lakehouse que vous fournissez.
  • Garde-fous opérationnels : Avant l’exécution, vous examinez les paramètres pour les permissions, la sécurité des écritures, le comportement de relecture, l’évolution du schéma, les artefacts et les efforts de raisonnement.
  • Validation intégrée : La tâche peut exécuter du code généré et vérifier le nombre de lignes, les nulls, les schémas et d’autres critères de réussite dans l’environnement cible.
  • Visibilité partagée : Toute personne ayant accès à la maison du lac où vous avez lancé la tâche peut vérifier son avancement et donner son avis si besoin.

Ces capacités transforment un résultat de Project en une unité gérée de travail d’ingénierie des données plutôt qu’en une réponse de chat transitoire.

Comment fonctionne l’agent d’ingénierie des données (Project Osmos)

Project Osmos utilise un cycle de vie géré pour chaque tâche d’ingénierie des données :

  • Définissez : Le résultat du projet désigne la tâche complète d’ingénierie des données, de bout en bout, et l’URL du lakehouse désigne le lakehouse Fabric qui l’héberge.
  • Plan : Project Osmos analyse le contexte disponible et recommande les paramètres opérationnels à examiner.
  • Exécuter : La tâche s’exécute dans Fabric et peut créer, tester et affiner des artefacts d’ingénierie des données.
  • Valider : La tâche vérifie ses résultats par rapport aux critères de réussite spécifiés et rapporte les résultats.
  • Surveillance : La tâche est toujours disponible dans le client en ligne de commande et dans l’interface des tâches de Lakehouse.

La maison de lac sélectionnée est la maison par défaut pour la session Spark. Ce n’est pas automatiquement la seule source ou destination. Le résultat de votre Project, les permissions Fabric et les paramètres d'exploitation révisés déterminent la portée de la tâche.

Pour les étapes de création de votre première tâche, consultez Commencer avec Project Osmos.

Choisissez un cas d’usage approprié

Le Project Osmos est conçu pour un travail d’ingénierie des données orienté résultats, bénéficiant d’une planification, d’une exécution et d’une validation autonomes.

Cas d’utilisation Exemple de résultat
Préparation des données Nettoyez les fichiers de vente, standardisez les types, supprimez les lignes invalides et écrivez une table Delta validée.
Intégration de tableau Rejoignez les commandes, les données clients et produits, puis créez un tableau sélectionné pour les analyses en aval.
Modernisation du lakehouse Convertir une transformation existante vers Spark, produire un notebook testé et valider le nouveau résultat.
Architecture en médaillon Construis des transformations en bronze, argent et or à partir de fichiers sources comme une tâche complète.
Correction de la qualité des données Profilez un tableau, identifiez les problèmes de qualité, appliquez les correctifs approuvés et rapportez les indicateurs avant/après.
Amélioration des performances Examinez les tableaux Delta, recommandez des modifications de partitionnement ou de mise en page, mettez en place les modifications approuvées et mesurez les résultats.
Assistance à la migration Transformez les extraits hérités en un modèle prêt pour Fabric tout en préservant les règles métier et en validant les totaux.

Project Osmos est conçu pour résoudre les défis de l’ingénierie des données. Il n'est pas destiné à une requête rapide, à un changement de rapport Power BI ou à d'autres tâches non liées à l'ingénierie des données.

Travail à travers le CLI et Fabric

Project Osmos utilise deux expériences connectées. Vous créez et dirigez des tâches depuis votre ligne de commande et voyez l’avancement des tâches dans l’application Fabric :

  • Expérience en ligne de commande : Utilisez GitHub Copilot CLI, Codex ou Claude Code pour créer une tâche, saisir un résultat Project, revoir les paramètres d’exploitation et envoyer des conseils complémentaires.
  • Expérience Lakehouse dans Fabric : parcourez les tâches du lakehouse, vérifiez l’état, ouvrez une tâche, consultez l’activité et les erreurs, et inspectez les sorties produites.

Les deux expériences concernent la même tâche et le même identifiant de tâche hébergés sur Fabric.

Étapes suivantes