Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Les budgets vous aident à surveiller et contrôler les dépenses mensuelles de Unity Gateway en utilisant des filtres appliqués aux enregistrements de facturation. Vous pouvez définir un budget spécifiquement pour le produit Unity Gateway afin de suivre uniquement les dépenses Unity Gateway, ou inclure Unity Gateway dans un budget à l’échelle du compte.
Les administrateurs de compte et d’espace de travail peuvent afficher un résumé de l’état budgétaire de l’IA et des dépenses sur la page IA dans Le Hub de gouvernance.
Tip
Pour les budgets portant sur Unity Gateway, l’application et le déclenchement des alertes sont presque en temps réel. Lorsque les dépenses dépassent un seuil, les emails de blocage d’utilisation et d’alerte entrent en vigueur en quelques instants. Le suivi du budget en quasi temps réel est indépendant du calendrier d’actualisation system.billing.usage.
Pour plus d’informations sur la création et la surveillance des budgets, consultez Créer et surveiller des budgets. Pour définir qui peut consulter et gérer un budget, consultez Gérer les autorisations budgétaires.
Requirements
- Gateway Unity activé pour votre compte.
Que couvrent les budgets pour Unity Gateway ?
Les budgets de la passerelle Unity couvrent les dépenses qui passent par la passerelle Unity :
- facturation au jeton
- Fonctions IA. Consultez Voir les coûts pour les charges de travail des fonctions IA.
- Génie. Consultez Gérer les budgets et les contrôles de coûts pour Genie.
- (Optionnel) Fournisseurs modèles externes (services de fournisseurs modèles).
Ces budgets ne couvrent pas les éléments suivants :
- Capacité de traitement provisionnée
- Le trafic envoyé directement vers des terminaux Model Serving autonomes qui ne passe pas par Unity Gateway
Comment fonctionnent les budgets avec Unity Gateway
Lors de l’élaboration d’un budget, sélectionnez Unity Gateway comme type de ressource pour ne suivre que les dépenses de Unity Gateway.
Types de seuils : Pour les budgets liés à Unity Gateway, vous pouvez configurer :
- Seuils partagés : Une limite collective de dépenses pour tous les utilisateurs dans le cadre du budget.
- Seuils par utilisateur : Une limite mensuelle applicable à chaque utilisateur individuel.
- Dérogations par utilisateur : Accordez à certains utilisateurs ou groupes une limite de dépense supérieure au seuil par utilisateur par défaut. Les utilisateurs couverts par une dérogation peuvent dépenser jusqu’au montant de la dérogation au lieu de la limite par défaut par utilisateur. Si un utilisateur appartient à plusieurs groupes de remplacement, le seuil le plus élevé s’applique.
Pour les seuils partagés et par utilisateur, vous pouvez configurer une ou plusieurs des actions suivantes lorsqu’un seuil est atteint :
- Envoyer un e-mail : Envoie une notification par e-mail aux adresses configurées. Les utilisateurs conservent l’accès à Unity Gateway.
- Bloquer l’utilisation : Empêche l’utilisateur de faire d’autres requêtes via Unity Gateway. L’utilisateur voit un message indiquant que son budget est épuisé. L’accès reprend une fois le budget réinitialisé ou un administrateur augmente le seuil.
- Déclencheur de webhook (Bêta) : Envoie une charge utile JSON à une ou plusieurs destinations webhook au niveau du compte. Pour les seuils par utilisateur, la charge utile identifie l’utilisateur ayant atteint ce seuil. Voir Déclencher des webhooks personnalisés.
Les administrateurs de compte peuvent consulter les estimations de dépenses quasi en temps réel sur la page des détails du budget.
Inclure l’utilisation de modèles externes
Important
Cette fonctionnalité est en version bêta. Les administrateurs de compte peuvent gérer l’accès à cette fonctionnalité à partir de la page Aperçus de la console de compte. Consultez Gérer les versions préliminaires du compte.
Lorsque vous créez un budget Unity Gateway, sélectionnez Inclure l’utilisation de modèles externes pour inclure les dépenses estimées des requêtes acheminées vers des modèles externes via les services du fournisseur de modèles.
Une fois activées, les dépenses de modèles externes comptent dans les seuils partagés et par utilisateur du budget. Les actions d’alerte configurée et d’utilisation par blocage s’appliquent lorsque la dépense combinée atteint un certain seuil. Si vous ne sélectionnez pas cette option, le budget exclut les dépenses de modèles externes mais continue d'inclure l'utilisation des modèles hébergés sur Azure Databricks.
Azure Databricks estime les coûts liés aux modèles externes à partir de l’utilisation de jetons et des tarifs publiés par le fournisseur externe. Ces devis peuvent différer de la facture finale de votre fournisseur. Pour analyser l’historique des coûts liés aux modèles externes, interrogez la table système system.ai_gateway.external_model_spend. Consultez les modèles externes. Les dépenses externes du modèle incluses dans le budget reflètent tout multiplicateur de prix configuré sur le service fournisseur modèle.
Les filtres de balises à budget s’appliquent aux étiquettes de service modèles. Les balises de requête sont disponibles dans la table externe du système de suivi des dépenses des modèles, mais n’ont aucune incidence sur la correspondance budgétaire.
Limitations
Important
Les budgets pour Unity Gateway fournissent une estimation quasi en temps réel des dépenses mesurées par rapport aux seuils configurés, et les coûts réels engagés peuvent différer des seuils configurés. Cette fonctionnalité vise à faciliter le contrôle des coûts en temps réel. N’utilisez pas cette fonctionnalité pour garantir un plafond absolu de dépenses sur les montants facturés finaux. Azure Databricks n’est pas responsable des coûts encourus dépassant les seuils budgétaires configurés.
L'inférence de débit provisionné n'est actuellement pas suivie.
Les demandes de fonctions IA spécifiques à une tâche comptent dans les budgets de la passerelle Unity, mais ne sont pas enregistrées dans le
system.ai_gateway.usagetableau. Pour voir l’utilisation facturée, interrogezsystem.billing.usage. Consultez Voir les coûts pour les charges de travail des fonctions IA.Chaque budget permet un maximum de quatre seuils partagés et 100 remplacements par utilisateur.
Votre compte peut avoir un maximum de 1 000 budgets.
Les seuils d’utilisation des blocs sont appliqués de manière approximative. L’application de cette limite repose sur une estimation des dépenses en quasi temps réel ; les dépenses réelles peuvent donc être supérieures ou inférieures au seuil configuré. Cela signifie :
- Un utilisateur peut être bloqué avant que sa dépense réelle n’atteigne le seuil.
- Un montant de dépenses supérieur au seuil peut être réalisé avant que l’application ne prenne effet. Les requêtes actives en cours lorsque le seuil est atteint ne sont pas interrompues.
system.billing.usagereste la source de vérité pour l’utilisation réelle facturée par Databricks. Pour les écarts entre l’utilisation suivie par rapport au budget et les coûts réels, Azure Databricks peut ajuster rétroactivement les estimations budgétaires pour les concilier. Pour l’utilisation de modèles externes, la facture du fournisseur externe est la source de véracité pour les frais réels du fournisseur.Les montants dépensés dans les emails d’alerte budgétaire, la page des détails du budget,
system.billing.usage, etsystem.ai_gateway.external_model_spendpeuvent différer lorsqu’ils sont comparés au même moment. Cela est attendu, car chaque source est mise à jour à un rythme différent :- E-mails d’alerte budgétaire : reflètent les dépenses au moment où l’alerte a été déclenchée.
- La page des détails du budget : se met à jour fréquemment, mais peut afficher un montant inférieur à celui d’un e-mail d’alerte récent lorsqu’elle est consultée peu après.
-
system.billing.usage: Se met à jour toutes les quelques heures. L’interrogation des tables système peu de temps après réception d’une alerte peut retourner un chiffre de dépense inférieur à la page détails du budget ou aux e-mails d’alerte. -
system.ai_gateway.external_model_spend: Mise à jour horaire avec l’estimation des dépenses en modèles externes. Les devis peuvent différer de la facture finale de votre fournisseur.
L’application du budget, y compris le blocage de l’utilisation et les seuils d’alerte, est basée sur le suivi des dépenses en temps quasi réel et n’est pas affectée par le minutage de l’actualisation de la table système.