Quotas et limites de service

Cet article contient à la fois une référence rapide et une description détaillée de Azure Document Intelligence dans les quotas et limites des outils Foundry pour tous les niveaux de tarification . Il présente également les meilleures pratiques pour éviter la limitation des demandes.

Utilisation du modèle

Description détaillée, ajustement du quota et bonnes pratiques

Les limites par défaut peuvent être étendues en demandant une augmentation via un ticket de support. Avant de demander une augmentation de quota (le cas échéant), assurez-vous qu’elle est nécessaire.

Si votre application retourne le code de réponse 429 (Trop de demandes) vous dépassez le seuil d’une ou plusieurs transactions par seconde limites (TPS) :

• Analyser la limite de transactions par seconde Le TPS pour l’envoi de requêtes d’analyse (POST)
• Obtenir la limite d’opérations par seconde Le TPS pour l’interrogation des résultats des opérations d’analyse (GET)
• Opérations de gestion des modèles par seconde limite Opérations liées à la gestion des modèles, telles que la génération/l’apprentissage et la copie.
• Limiter le nombre d'opérations de liste par seconde Opérations liées à l'énumération des modèles et des opérations.

Meilleures pratiques pour atténuer la limitation de requêtes

Pour réduire les problèmes liés à la limitation (code de réponse 429), nous vous recommandons d’utiliser les techniques suivantes :

• Implémenter une logique de nouvelle tentative dans votre application
• Évitez les modifications nettes dans la charge de travail. Augmenter progressivement la charge de travail
  Exemple. Votre application utilise Document Intelligence et votre charge de travail actuelle est de 10 TPS (transactions par seconde). La seconde suivante, vous augmentez la charge à 40 TPS. Le résultat est un code de réponse 429 pour certaines demandes, car la limite de 15 TPS pour soumettre des opérations d'analyse est dépassée. Vous pouvez soit ralentir le traitement pour rester en dessous des 15 TPS, soit demander une augmentation du TPS pour prendre en charge vos volumes plus élevés.

Les sections suivantes décrivent des cas spécifiques d’ajustement des quotas. Accéder à Document Intelligence : augmentation de la limite de requêtes simultanées

Augmentation de la mimite de demandes de transactions par seconde

Par défaut, le nombre de transactions par seconde est limité à 15 transactions par seconde pour une ressource Document Intelligence. Pour le niveau tarifaire Standard, les demandes d’augmentation tpS peuvent être soumises, mais si elles peuvent être approuvées et à quel niveau de tpS l’ajustement dépend des modèles d’utilisation quotidiens et des meilleures pratiques qui sont suivies. Avant de soumettre la demande, assurez-vous que vous êtes familiarisé avec le matériel de cette section et que vous connaissez ces meilleures pratiques.

L’augmentation de la limite de demandes simultanées n’affecte pas directement vos coûts. Le service Document Intelligence utilise le modèle « Payer uniquement pour ce que vous utilisez ». La limite définit jusqu'où le service peut se développer avant qu'il ne commence à restreindre vos requêtes.

La valeur existante de différentes catégories de limites de requête est disponible via Azure portail, sous l’onglet Surveillance du panneau Vue d’ensemble des ressources.

Créer et envoyer une demande d’assistance pour l’augmentation du TPS

Lancez l’augmentation des transactions par seconde (TPS) limite pour votre ressource en envoyant la demande de support :

• Connectez-vous au portail Azure
• Sélectionnez la ressource Document Intelligence pour laquelle vous souhaitez augmenter la limite TPS
• Sélectionnez -Nouvelle demande de support- (-Support + résolution des problèmes- groupe). Une nouvelle fenêtre s’affiche avec des informations renseignées automatiquement sur votre abonnement Azure et Azure ressource
• Entrez -Summary- (par exemple, « Augmenter la limite de TPS de Document Intelligence »)
• Sélectionnez « Validation du quota ou de l’utilisation » pour le champ de type de problème.
• Sélectionner -Suivant : Solutions
• Poursuivre la création de la demande
• Entrez les informations suivantes dans le champ -Description, sous l’onglet Détails :
  • Veuillez noter que la demande concerne le quota Document Intelligence.
  • Fournir une prévision TPS pour laquelle vous souhaitez effectuer une mise à l’échelle. Bien que les augmentations de TPS soient gratuites, vous devez uniquement demander un niveau de TPS adapté à votre charge de travail.
  • informations sur les ressources Azure
  • Complétez la saisie des informations requises et sélectionnez le bouton -Créer- dans l'onglet -Réviser + créer-.
  • Notez le numéro de demande de support dans les notifications du portail Azure. Attendez que le support technique vous contacte prochainement pour un suivi ultérieur.

Exemple de bonne pratique de modèle de charge de travail

Cet exemple présente l’approche que nous vous recommandons de suivre pour atténuer le possible étranglement des demandes. Ce n’est pas une recette exacte, mais simplement un modèle que nous invitons à suivre et à ajuster si nécessaire.

Supposons qu’une ressource Document Intelligence a la limite par défaut définie. Lancez la charge de travail pour soumettre vos requêtes d'analyse. Si vous observez des limitations fréquentes avec le code de réponse 429 lors de la vérification de l’achèvement, commencez par implémenter un mécanisme de recul exponentiel sur la requête GET de réponse d’analyse. En utilisant un temps d’attente progressivement plus long entre les nouvelles tentatives pour les réponses d’erreur consécutives, par exemple un modèle 2-5-13-34 de retards entre les requêtes. En général, nous vous recommandons de ne pas appeler la réponse d'analyse "get" plus d'une fois toutes les 2 secondes pour une requête POST correspondante. La analyze réponse contient également un en-tête retry-after qui indique la durée en secondes pendant laquelle vous devez attendre avant de vérifier l’achèvement de cette demande.

Si vous constatez que vous êtes limité au nombre de demandes POST pour les documents envoyés, envisagez d’ajouter un délai entre les demandes. Si votre charge de travail nécessite un plus grand degré de traitement simultané, vous devez ensuite créer une demande de support pour augmenter vos limites de service sur les transactions par seconde.

En règle générale, nous vous recommandons de tester la charge de travail et les modèles de charge de travail avant de passer en production.

Étapes suivantes