Utilisez Lakehouse Real-Time avec des tableaux de bord IA/BI

Important

Lakehouse Real-Time (Lakehouse//RT) est en phase Bêta et en développement intense. Les caractéristiques de performances et le jeu de fonctionnalités pris en charge changent avant la disponibilité générale. Pour l’activer dans votre compte, contactez votre équipe de compte Azure Databricks.

Vous pouvez utiliser un entrepôt Lakehouse//RT pour alimenter des tableaux de bord IA/BI qui nécessitent des réponses en moins d’une seconde pour des centaines voire des milliers d’utilisateurs simultanés. Utilisez Lakehouse//RT pour créer de nouveaux tableaux de bord qui correspondent aux limites actuelles. La migration d’un tableau de bord existant n’est pas recommandée, car ces derniers dépendent souvent de fonctionnalités que Lakehouse//RT ne prend pas encore en charge, comme Genie, des tables externes ou la matérialisation de la vue métrique.

Usage prévu

Lakehouse//RT offre une latence inférieure à une seconde pour les requêtes sélectives qui lisent une petite quantité de données. Il n’accélère pas les requêtes coûteuses, comme celles qui analysent de grandes quantités de données ou joignent de nombreuses tables volumineuses.

Les garde-fous Lakehouse//RT (voir Guardrails) imposent des limites strictes plutôt que de fonctionner en mode dégradé, alors préparez vos charges de travail avant de les déplacer dans un entrepôt Lakehouse//RT :

  • Optimisez les requêtes coûteuses en filtrant tôt afin qu’elles scannent moins de données.
  • Pré-agréger les résultats avec des vues matérialisées lorsqu’un tableau de bord lit beaucoup moins de données qu’il n’en scanne.

Configurer un tableau de bord sur un entrepôt Lakehouse//RT

Pour publier un tableau de bord AI/BI qui s’exécute sur Lakehouse//RT, créez l’entrepôt et sélectionnez-le comme entrepôt du tableau de bord :

  1. Créez un entrepôt Lakehouse//RT, comme n’importe quel autre entrepôt SQL. Voir Lakehouse en temps réel.
  2. Accordez aux utilisateurs l’autorisation Can user ou une autorisation supérieure sur l’entrepôt. L’entrepôt apparaît alors dans le sélecteur de ressources de calcul de création de tableaux de bord pour ces utilisateurs.
  3. Dans votre tableau de bord, sélectionnez le warehouse Lakehouse//RT comme warehouse du tableau de bord.
  4. Publiez le tableau de bord comme d’habitude.

Balises de sécurité

Pour protéger le service partagé et à faible latence, Lakehouse//RT applique des limites de ressources par requête. Une requête de tableau de bord qui dépasse une limite de protection renvoie une erreur au lieu de s’exécuter lentement. Concevez donc vos requêtes de façon à rester largement en deçà de ces limites.

Ces valeurs ont été définies lors des tests bêta et peuvent changer avant la disponibilité générale :

  • Durée d’exécution de la requête : 2 minutes. Lakehouse//RT annule une requête de widget qui s’exécute trop longtemps. Une requête qui approche cette limite n’atteindra pas l’objectif d’un temps de réponse inférieur à la seconde, même si elle aboutit, et risque davantage d’atteindre les limites de shuffle ou de débordement indiquées ci-dessous. Considérez cela comme un signal pour filtrer davantage ou pré-agréger.
  • Délai d’expiration de l’instruction: 1 minute par défaut. Vous pouvez configurer le délai d’attente par instruction jusqu’à la limite d’exécution de requête de 2 minutes.
  • Octets de shuffle écrits par étape : 300 Go. Les jointures larges ou les agrégations sur de grandes tables peuvent dépasser cette limite. Si une requête la dépasse, pré-agrégez avec des vues matérialisées au lieu de faire des jointures entre de grandes tables au moment de la requête.
  • Taille du débordement : 30 Go, lorsque le débordement est activé.
  • Liste des fichiers après élagage : 10 000 fichiers, réglable jusqu’à 50 000. Si une requête dépasse cette limite, filtrez sur les colonnes de partition ou de clustering liquide afin que le tableau de bord ne lise que les fichiers dont il a besoin.

Limitations

Les tableaux de bord sur un entrepôt Lakehouse//RT héritent de toutes les limitations de Lakehouse//RT, notamment la prise en charge des seules tables managées Unity Catalog et des seules requêtes SELECT conformes à la norme ANSI. Convertissez d’autres types de tables, comme les tables externes, en tables gérées avant de les interroger.

Les limitations suivantes sont spécifiques aux tableaux de bord publiés avec un entrepôt Lakehouse//RT :

  • Genie n’est pas pris en charge.
  • La matérialisation des vues métriques locales n’est pas prise en charge.

Obtenir de l’aide

Si vous continuez à rencontrer des problèmes avec un tableau de bord sur Lakehouse//RT, rassemblez les informations suivantes et contactez le support Azure Databricks :

  • Les messages d’erreur que vous voyez.
  • Une exportation de votre profil de requête, y compris le texte brut de la requête.
  • Un lien vers votre tableau de bord.
  • Confirmation du fait que la même erreur ne se produit pas sur un entrepôt SQL serverless.