Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Cette page explique le débit provisionné réservé pour Foundation Model APIs : de quoi il s’agit, quand l’utiliser, comment dimensionner une réservation, et comment créer et gérer un point de terminaison qui l’utilise.
Qu’est-ce que le débit provisionné réservé ?
Le débit provisionné réservé est une option de capacité pour les API Azure Databricks Foundation Model. Au lieu d’utiliser une offre par token, qui s’appuie sur un pool partagé de capacité, vous réservez une quantité fixe de capacité dédiée pour une durée déterminée. Vous mesurez cette capacité en unités de modèle, et Azure Databricks la conserve pour vous pendant toute la durée de la réservation.
Parce que la capacité est dédiée et réservée à l’avance, le débit et la latence restent constants pour cette capacité même lorsque la demande globale dans le modèle partagé à paiement par jeton est élevée. Le trafic au-delà de votre capacité de réserve est soumis à une limitation de débit, il n’est pas servi automatiquement avec la facturation au jeton. Pour envoyer ce dépassement au pay-per-token au lieu de le rejeter, configurez un mécanisme de repli sur le service de modèle devant votre point de terminaison. Voir Gérer le trafic au-delà de votre capacité réservée.
Quand utiliser un débit provisionné réservé
Le débit approvisionné réservé est conçu pour des charges de travail nécessitant une capacité fiable plutôt qu’un accès non garanti à un pool partagé. Databricks le recommande lorsque :
- Vous utilisez une application ou un agent critique pour l’entreprise, où une fonctionnalité de production dépend du modèle et ne peut pas rivaliser avec d’autres trafics pour la capacité partagée.
- Vous avez besoin d’une disponibilité et d’un temps de fonctionnement plus cohérents que l’offre partagée à la demande par jeton, donc une forte demande sur le pool partagé a moins d’impact sur votre débit.
- Vous évoluez vers des volumes élevés ou soutenus de trafic prévisible, et vous atteignez des contraintes de capacité ou de limite de débit sur le pay-per-token ou le priority pay-per-token.
Si votre trafic est exploratoire ou à faible volume, voir pay-per-token ou pay-per-token prioritaire.
Modèles pris en charge
Un débit provisionné réservé est disponible sur les modèles de fondation pris en charge. Azure Databricks sélectionne l’éligibilité par modèle, et le flux de création ne montre que les modèles que vous pouvez réserver.
Un débit provisionné réservé est disponible pour les modèles suivants :
| Fournisseur | Model | Nom du point de terminaison |
|---|---|---|
| Zhipu AI | GLM 5.3 | databricks-glm-5-3 |
| Zhipu AI | GLM 5.3 Flash | databricks-glm-5-3-flash |
| Zhipu AI | GLM 5.2 (ancien) | databricks-glm-5-2 |
| IA Moonshot | Kimi K3 | databricks-kimi-k3 |
| DeepSeek | DeepSeek V4.1 Flash (1017) | databricks-deepseek-v4-1-flash-1017 |
| DeepSeek | DeepSeek V4.1 Flash | databricks-deepseek-v4-1-flash |
| Alibaba Cloud | Qwen3.5 122B A10B | databricks-qwen35-122b-a10b |
Note
Qwen3.5 122B A10B est en aperçu public. Contactez votre équipe commerciale Databricks pour obtenir un accompagnement.
Comment fonctionne le débit provisionné réservé
Vous réservez la capacité dans les unités de modèle. Une unité modèle est une unité de débit provisionné qui détermine la quantité de travail que votre point de terminaison peut gérer par minute. Plus il y a d’unités de modèles, plus vous bénéficiez d’un débit élevé. Vous réservez les unités modèles par tranches de 50, en commençant au minimum à 50.
Vous créez une réservation en choisissant combien d’unités de modèles réserver et pour combien de temps (la durée). Azure Databricks alloue cette capacité dédiée pendant toute la durée du contrat. Un endpoint peut avoir plus d’une réservation à la fois, et sa capacité totale réservée est la somme des unités de modèle de ses réservations actives.
Les termes suivants décrivent les parties d’un point de terminaison provisionné à débit réservé :
| Terme | Ce que cela signifie |
|---|---|
| Unité modèle | L’unité de capacité provisionnée. Plus d’unités de modèle signifie un débit réservé plus élevé. Utilisez l’estimateur d’unités de modèle pour dimensionner votre pool selon votre trafic attendu. |
| Reservation | Un octroi prépayé d’unités de modèle et une durée de validité sur un point de terminaison. Un point de terminaison de l’API peut contenir plusieurs réservations simultanément, chacune avec ses propres unités de modèles et sa date de fin de période. |
| Terme | La durée d’une réservation : 1 mois ou 3 mois. Une durée d’engagement plus longue s’accompagne d’un tarif unitaire plus bas. |
| Couverture | Le nombre total d’unités modélisées que représentent les réservations actives de votre endpoint. |
| Solution de repli | Une destination de secours que vous configurez sur le service de modèle pour le trafic au-dessus de votre quota. Azure Databricks ne redirige pas automatiquement le trafic vers le pay-per-token. Sans solution de secours, le trafic au-delà de votre capacité est soumis à une limitation de débit. Voir Gérer le trafic au-delà de votre capacité réservée. |
Décidez combien réserver
Le nombre d’unités de modèle que vous réservez dépend de vous. Vous pouvez mettre toute votre charge de travail sur une capacité dédiée, ou en réserver moins et envoyer le dépassement vers le pay-per-token avec un plan de secours (voir Gérer le trafic au-dessus de votre capacité réservée) :
- Réservez un niveau de référence et envoyez les pics vers une solution de secours. Réservez suffisamment d’unités de modèles pour couvrir votre trafic régulier et quotidien, et configurez une solution de secours pour que les pointes au-delà de cette base soient facturées au jeton. Vous vous engagez sur une capacité inférieure et ne payez par jeton que pour le dépassement, en échange d’une capacité partagée au meilleur effort lors de ces augmentations.
- Réservez pour vos périodes de pointe. Réservez suffisamment d’unités de modèles pour couvrir votre charge la plus importante prévue, afin que toute votre charge de travail fonctionne sur une capacité dédiée. Cela donne le comportement le plus cohérent, en échange d’un engagement plus important.
Dans tous les cas, vous traduisez votre charge de travail en unités de modèles grâce à l’outil intégré Estimer les unités de modèles dans le flux de création. Entrez la structure de requête attendue et l’estimateur retourne les unités de modèle dont vous avez besoin :
- Le nombre de demandes par minute que vous attendez.
- Nombre moyen de jetons d’entrée par requête.
- Nombre moyen de jetons de sortie par requête.
- Votre taux de succès du cache attendu.
Pour établir une référence, saisissez votre trafic habituel. Pour réserver pour votre période de pointe, entrez votre trafic maximal prévu. Vous pouvez exécuter l’estimateur autant de fois que vous le souhaitez avant de valider.
Débit provisionné de réserve comparé au paiement par jeton
Le débit provisionné réservé et le paiement par jeton sont complémentaires, pas l’un ou l’autre. Vous pouvez réserver une capacité dédiée à votre trafic principal et configurer un mécanisme de repli avec facturation au token pour tout ce qui dépasse votre pool réservé. Le tableau suivant montre où chaque option s’insère.
| Capacité | Paiement par jeton | Débit provisionné réservé |
|---|---|---|
| Base de tarification | Par jeton, tel qu’il est utilisé | Capacité réservée, facturée pour l’intégralité du terme |
| Capacité | Pool partagé, meilleur effort | Piscine dédiée, réservée pour vous |
| Latence sous charge | Cela peut varier selon la demande partagée | Cohérent pour la capacité réservée |
| Reservation | None | 1 ou 3 mois |
| Idéal pour | Trafic imprévisible, interne ou exploratoire | Applications ou agents externes, critiques pour l’entreprise, en production |
Comment fonctionne la tarification
Le débit provisionné réservé est facturé en fonction de la capacité que vous réservez, et non des requêtes que vous envoyez. Vous êtes facturé pour l’intégralité de la réservation pendant toute sa durée, que vous utilisiez ou non la capacité réservée.
| Que se passe-t-il ? | Comment c’est facturé |
|---|---|
| Trafic compris dans votre capacité réservée | Facturé comme capacité réservée pendant toute la durée de l’engagement. |
| Trafic au-dessus de votre capacité réservée, avec une solution de secours configurée | Paiement au jeton uniquement sur le surplus, facturé par la destination de secours. |
| Trafic au-dessus de votre capacité réservée, sans solution de secours | Limité en débit, non facturé. |
| Trafic après l’expiration d’une réservation | Traité comme tout trafic au-dessus de votre capacité réservée : facturation au jeton si vous avez configuré une solution de repli, sinon limité par le débit. |
- Un terme plus long comporte un taux unitaire plus bas qu’un terme plus court.
- Lorsqu’un point de terminaison détient des réservations de différentes durées simultanément, chacune est tarifée indépendamment à son propre tarif.
- Les tarifs spécifiques dépendent du modèle et du terme.
Avant de commencer
| Requirement | Détails |
|---|---|
| Autorisation accordée au modèle | Vous avez besoin de MANAGE sur le modèle de base dans Unity Catalog (le modèle enregistré system.ai.<model>). Si vous ne l’avez pas, demandez à un administrateur de l’autoriser dans l’Explorateur de catalogue. Consultez les autorisations d’Unity Catalog pour le modèle de fondation. |
| Un modèle éligible | Vous pouvez créer un débit réservé provisionné uniquement sur les modèles éligibles. Consultez Modèles pris en charge. |
Créer un point de terminaison à débit provisionné réservé
Vous créez un débit réservé provisionné depuis Unity Gateway.
Dans Unity Gateway, sélectionnez + Model.
Nommez le service de modèle.
Pour la destination, choisissez le débit provisionné, puis sélectionnez le lien pour créer un nouveau point de terminaison de service dans l’espace de travail. La boîte de dialogue Configurer un point de terminaison de débit provisionné s’ouvre.
Sélectionnez un modèle de base éligible.
Réglez vos unités de modèle, par incréments de 50. Pour dimensionner le pool, sélectionnez Estimer les unités de modèle, saisissez votre charge de travail attendue (requêtes par minute, jetons d’entrée et de sortie moyens par requête, et votre taux de réussite attendu du cache), et l’estimateur renvoie les unités de modèle dont vous avez besoin. Voir Comment décider du volume à réserver.
Choisissez une durée de réservation : 1 mois ou 3 mois. Une durée d’engagement plus longue s’accompagne d’un tarif unitaire plus bas.
Examinez vos unités de modèles et votre durée, puis créez le point de terminaison. Azure Databricks fournit la capacité dédiée.
Note
Le type de capacité d’un point de terminaison est fixé lors de sa création. Vous ne pouvez pas convertir un point de terminaison existant en débit provisionné réservé plus tard. Créez plutôt un nouveau point de terminaison provisionné à débit réservé.
Visualiser et surveiller
La page de détail du point d’arrivée affiche une section de configuration activeintitulée Débit provisionné réservé qui liste vos unités modèles réservées ainsi que la durée, la date d’expiration et le statut de chaque réservation. Lorsqu’un endpoint contient plusieurs réservations empilées, issues de montées à l’échelle ou de transitions de modèle, elles apparaissent sous forme de liste.
L’onglet Métriques affiche la télémétrie habituelle de service, incluant les requêtes par minute, le nombre d’erreurs, la latence (p50, p90, p95 et p99), le nombre de tokens et le temps jusqu’au premier jeton, afin que vous puissiez surveiller l’utilisation et décider quand l’échelon.
Augmenter la capacité
Pour ajouter de la capacité, ouvrez Modifier>Ajouter la capacité, entrez le nombre d’unités de modèle à ajouter (par incréments de 50), puis choisissez un terme. Cela crée une nouvelle réservation par-dessus vos réservations existantes. Cela ne modifie ni n’interrompt ce que vous avez déjà. La page de détail liste ensuite chaque réservation, expirant selon son propre calendrier.
Déplacer une réservation vers un autre modèle
Les sorties de modèles avancent rapidement, et le modèle pour lequel vous réservez la capacité aujourd’hui pourrait ne pas être celui que vous souhaitez faire fonctionner dans trois mois. Vous pouvez transférer une réservation active, en tout ou en partie, d’un point de terminaison de débit provisionné réservé à un autre qui sert un modèle différent, sans attendre la fin de votre durée d’engagement.
Une transition déplace les unités du modèle entre deux points de terminaison qui existent déjà dans le même espace de travail :
- Les unités modèles déplacées sont réémises sous forme de nouvelle réservation sur le point de départ, avec un nouveau terme qui commence lorsque la transition est terminée.
- Les unités modèles laissées sur place conservent leur durée d’origine, leur date d’expiration, leur réglage de renouvellement automatique et leur historique de temps de recharge.
- Votre nombre total d’unités de modèle engagées ne change pas. Une transition réaffecte la capacité à laquelle vous vous êtes déjà engagé et n’en ajoute pas. Pour ajouter de la capacité, voir Augmenter la capacité.
Note
Une transition déplace la capacité, pas le trafic. Une fois terminé, mettez à jour le service de modèle Unity Gateway devant vos points de terminaison pour envoyer le trafic vers la destination. Voir Configurer le routage et les solutions de repli pour les modèles.
Transitions éligibles
Databricks détermine quels modèles sont des destinations éligibles, sous réserve de la disponibilité de la capacité. Les modèles suivants sont des destinations éligibles pour un transfert de capacité :
| Fournisseur | Model | Nom du point de terminaison |
|---|---|---|
| Zhipu AI | GLM 5.3 | databricks-glm-5-3 |
| Zhipu AI | GLM 5.3 Flash | databricks-glm-5-3-flash |
| IA Moonshot | Kimi K3 | databricks-kimi-k3 |
| DeepSeek | DeepSeek V4.1 Flash (1017) | databricks-deepseek-v4-1-flash-1017 |
| DeepSeek | DeepSeek V4.1 Flash | databricks-deepseek-v4-1-flash |
Effectuer la transition d’une réservation
Assurez-vous que le point de terminaison de destination existe. Si ce n’est pas le cas, créez d’abord un endpoint de débit provisionné réservé pour le modèle de destination. Si le point de terminaison n’est là que pour recevoir les unités de modèle transférées, sélectionnez 0 (point de terminaison vide) pour sa capacité. Voir Créer un endpoint de débit provisionné réservé.
Ouvrez le point de terminaison source et sélectionnez Modifier>Modèle de transition.
Pour Modèle de transition, sélectionnez le point de terminaison de destination.
Dans Réservations à transférer, sélectionnez les réservations que vous souhaitez transférer. Les réservations en période de refroidissement ne sont pas sélectionnables.
Sous Capacité et durée d’engagement, pour chaque réservation sélectionnée :
- Réglez le nombre d’unités du modèle à déplacer, par incréments de 50. La valeur par défaut est la réservation complète.
- Choisissez la condition de réservation pour commencer.
Consultez le résumé de ce qui sera réémis sur la destination, puis sélectionnez Mettre à jour.
Vérifiez la section Configuration active sur les deux pages de détail du point de terminaison pour confirmer les nouvelles réservations, puis redirigez votre trafic vers le service modèle de destination.
Règles de transition
| Rule | Détails |
|---|---|
| Les deux points de terminaison doivent déjà exister | Une transition déplace la capacité entre deux points de terminaison de débit provisionné réservé dans le même espace de travail. La destination peut être vide ou déjà contenir ses propres réservations. |
| Délai de refroidissement : vous ne pouvez effectuer la transition d’une réservation qu’une fois tous les 7 jours (168 heures) | Une réservation peut être transférée une fois tous les 7 jours. Les réservations encore en période d’attente ne peuvent pas être sélectionnées, et les unités modèles nouvellement achetées ne peuvent pas être déplacées immédiatement. Azure Databricks se réserve le droit de limiter le nombre de transferts de réservation par espace de travail. |
| Vous pouvez transférer des unités de modèle par incréments de 50 | Déplacer la réservation complète, ou une partie par tranches de 50 unités de modèle. |
| Une transition réinitialise la durée d’engagement | Les unités modèle que vous déplacez commencent un nouveau terme complet sur le point de départ, peu importe le temps restant sur la réservation source, et le temps déjà écoulé sur le terme source n’est pas crédité. Si vous déplacez une réservation de 200 unités modèles avec une semaine restante sur une durée d’un mois, vous obtenez une réservation de 200 unités modèles pour une nouvelle durée d’un mois. |
| Le renouvellement automatique est transféré vers le point de terminaison de destination | Les unités de modèle transitionnées conservent leur paramètre de renouvellement automatique depuis le point de terminaison source. Les unités restantes à la source conservent leurs réglages de renouvellement automatique et leurs temps de recharge. |
| La facturation suit le tarif du modèle de destination | Les unités de modèle déplacées sont facturées au tarif du modèle de destination pour le terme que vous sélectionnez. Découvrez comment fonctionne la tarification. |
| Un point de terminaison source vidé reste | Si vous déplacez chaque unité de modèle hors d’un point de terminaison, celui-ci n’est pas supprimé. Il reste dans votre espace de travail sans réservations et sans aucune unité de modèle, donc vous pouvez y réintégrer la capacité plus tard ou la supprimer vous-même. |
Examples
| Scenario | Avant | Après |
|---|---|---|
| Transition complète : Transférer les 200 unités de modèle du GLM 5.3 vers le Kimi K3 et conserver la durée d’un mois. |
|
|
| Transition partielle : Le 10 novembre, transférer 100 unités du modèle GLM 5.3 vers le Kimi K3. |
|
|
| Allonger une durée : Transférer les 100 unités modèles du GLM 5.3 vers le Kimi K3 et choisir une durée de 3 mois. |
|
|
Note
Les durées sont calculées en UTC, en utilisant 30 jours pour une durée d’un mois et 90 jours pour une durée de 3 mois. L’expiration est arrondie au prochain minuit UTC.
Expiration
- À l’expiration, le pool réservé expire. Le trafic est ensuite traité comme tout trafic au-dessus de votre capacité réservée : il est envoyé vers votre solution de secours pay-per-token configurée, ou est limité en taux si vous n’avez pas de solution de secours. Voir Gérer le trafic au-delà de votre capacité réservée.
- Pour conserver la capacité réservée après la fin d’un trimestre, créez une nouvelle réservation avant l’expiration de celle actuelle. Voir Augmenter la capacité
- Les réservations expirées restent visibles avec un badge expiré et sont conservées, non supprimées.
Gérez le trafic au-delà de votre capacité réservée
Un point de terminaison de débit réservé et provisionné sert uniquement le trafic provenant de votre capacité réservée. Azure Databricks ne redirige pas automatiquement le dépassement vers le pay-per-token. Lorsque le trafic dépasse votre capacité réservée, que ce soit par rafale ou parce qu’une réservation a expiré, ces demandes sont rejetées avec une erreur de limitation du débit.
Pour continuer à gérer ce surplus de trafic, configurez un plan de secours sur le service de modèle Unity Gateway devant votre point de terminaison. Définissez votre point de terminaison provisionné réservé comme destination principale et un point de terminaison pay-per-token ou pay-per-token prioritaire comme solution de secours. Lorsque le point de terminaison réservé renvoie une erreur de limite de débit, le service modèle réessaie la requête contre la destination de secours, donc votre charge de travail continue de tourner et vous payez par jeton uniquement pour le dépassement.
Pour les étapes de configuration, voir Configurer le routage et les plans de secours pour les modèles.
Limitations
- Vous pouvez créer un point de terminaison à débit provisionné réservé par modèle et par espace de travail dans la version actuelle.
- Les réservations sont prépayées et se valident pour toute leur durée de service. Vous ne pouvez pas annuler une réservation en cours de route.
- Vous ne pouvez pas supprimer un point de terminaison qui a une réservation active tant que la réservation n’est pas terminée.
- Les utilisateurs sans
MANAGEsur le modèle voient des vues en lecture seule. - Une réservation peut passer à un autre modèle tous les 7 jours, et uniquement vers un ensemble sélectionné de modèles de destination. Voir Déplacer une réservation vers un autre modèle.
Pour en savoir plus sur les limites des Foundation Model APIs, consultez Limites et quotas des Foundation Model APIs.