Dienstkontingente und Grenzwerte

Dieser Artikel enthält eine Kurzübersicht und eine ausführliche Beschreibung der Kontingente und Grenzwerte für den Azure Document Intelligence in Foundry Tools für alle Tarife. Es enthält auch einige bewährte Methoden, um eine Anforderungsdrosselung zu vermeiden.

Modellnutzung

Detaillierte Beschreibung, Kontingentanpassung und bewährte Methoden

Die Standardgrenzwerte können durch Anfordern einer Erhöhung über ein Supportticket verlängert werden. Stellen Sie vor dem Anfordern einer Kontingenterhöhung (sofern zutreffend) sicher, dass sie erforderlich ist.

Wenn Ihre Anwendung Den Antwortcode 429 (Zu viele Anforderungen) zurückgibt, überschreiten Sie den Schwellenwert für mindestens eine der Transaktionen pro Sekunde (TPS):

• Analyse-Transaktionslimit pro Sekunde Das TPS für das Übermitteln von Analyseanforderungen (POST)
• Limit für Abrufvorgänge pro Sekunde Die TPS für die Abfrage von Ergebnissen bei Analysevorgängen (GET)
• Modellverwaltungsvorgänge pro Sekunde Vorgänge im Zusammenhang mit der Modellverwaltung, wie Erstellen/Trainieren und Kopieren.
• Auflisten-Vorgänge pro Sekunde Limit Vorgänge im Zusammenhang mit dem Auflisten von Modellen, Vorgängen.

Allgemeine bewährte Methoden zur Vermeidung von Drosselung

Um Probleme im Zusammenhang mit der Drosselung zu minimieren (Antwortcode 429), empfehlen wir die Verwendung der folgenden Techniken:

• Implementieren der Wiederholungslogik in Ihrer Anwendung
• Vermeiden Sie scharfe Änderungen an der Arbeitsauslastung. Schrittweises Erhöhen der Arbeitsauslastung
  Beispiel. Ihre Anwendung verwendet Document Intelligence, und Ihre aktuelle Arbeitsauslastung beträgt 10 TPS (Transaktionen pro Sekunde). Die nächste Sekunde erhöhen Sie die Last auf 40 TPS. Das Ergebnis ist ein 429-Antwortcode für einige Anfragen, da Sie das Limit von 15 TPS für das Einreichen von Analysevorgängen überschreiten. Sie könnten die Verarbeitung entweder wieder deaktivieren, um unter den 15 TPS zu bleiben, oder eine Erhöhung des TPS anfordern, um Ihre höheren Volumes zu unterstützen.

In den nächsten Abschnitten werden bestimmte Fälle der Anpassung von Kontingenten beschrieben. Zu Dokumentintelligenz springen: Erhöhen des Grenzwerts für gleichzeitige Anforderungen

Erhöhen des Anforderungsgrenzwerts für Transaktionen pro Sekunde

Die Anzahl der Transaktionen pro Sekunde ist standardmäßig auf 15 Transaktionen pro Sekunde für eine Document Intelligence-Ressource beschränkt. Für die Standard-Preisstufe können Anfragen zur Erhöhung der TPS übermittelt werden. Ob diese genehmigt werden können und welche Anpassung der TPS-Ebene möglich ist, hängt von den täglichen Nutzungsmustern und den befolgten bewährten Methoden ab. Stellen Sie vor der Übermittlung der Anforderung sicher, dass Sie mit dem Material in diesem Abschnitt vertraut sind und diese bewährten Methoden kennen.

Das Erhöhen des Grenzwerts für gleichzeitige Anforderungen wirkt sich nicht direkt auf Ihre Kosten aus. Der Dokumentintelligenzdienst verwendet das Modell "Nur bezahlen für das, was Sie verwenden". Der Grenzwert gibt an, wie hoch der Dienst skaliert werden kann, bevor Ihre Anforderungen gedrosselt werden.

Der vorhandene Wert verschiedener Anforderungsgrenzkategorien ist über Azure Portal unter der Registerkarte "Überwachung" auf dem Blatt "Ressourcenübersicht" verfügbar.

Supportanfrage zur TPS-Erhöhung erstellen und einreichen

Initiieren Sie die Erhöhung der Transaktionen pro Sekunde(TPS)-Grenzwert für Ihre Ressource, indem Sie die Supportanfrage übermitteln:

• Melden Sie sich beim portal Azure
• Wählen Sie die Document Intelligence-Ressource aus, für die Sie den TPS-Grenzwert erhöhen möchten.
• Wählen Sie die Option -Neue Supportanfrage- (-Support- und Problembehandlungsgruppe-) aus. Ein neues Fenster wird mit automatisch ausgefüllten Informationen zu Ihrem Azure-Abonnement und Azure Ressource angezeigt.
• Geben Sie -Zusammenfassung- ein (wie "Erhöhen des TPS-Limits für Dokumentenintelligenz")
• Wählen Sie "Kontingent- oder Verwendungsüberprüfung" für das Problemtypfeld aus.
• Wählen Sie -Weiter: Lösungen-
• Fahren Sie mit der Anforderungserstellung fort.
• Geben Sie die folgenden Informationen im Feld "-Beschreibung" unter der Registerkarte "Details" ein:
  • Beachten Sie, dass die Anfrage das Dokumentintelligenzkontingent betrifft.
  • Geben Sie eine TPS-Erwartung an, auf die Sie skalieren möchten. Während TPS-Erhöhungen kostenlos sind, sollten Sie nur einen TPS anfordern, der für Ihre Arbeitsauslastung angemessen ist.
  • Azure Ressourceninformationen
  • Schließen Sie die Eingabe der erforderlichen Informationen ab und wählen Sie die Schaltfläche „Erstellen“ im Tab „Prüfen + Erstellen“ aus.
  • Notieren Sie sich die Supportanfragenummer in Azure Portalbenachrichtigungen. Erwarten Sie, dass der Support Sie in Kürze kontaktiert, um die weitere Bearbeitung fortzusetzen.

Beispiel für bewährte Methoden für ein Arbeitsauslastungsmuster

In diesem Beispiel ist ein Ansatz vorhanden, den wir empfehlen, um eine mögliche Drosselung von Anfragen zu beheben. Es ist kein genaues Rezept, sondern nur eine Vorlage, die wir einladen, nach Bedarf zu folgen und anzupassen.

Angenommen, eine Document Intelligence-Ressource hat den Standardgrenzwert festgelegt. Starten Sie die Workload, um Ihre Analyseanforderungen zu übermitteln. Wenn Sie feststellen, dass bei der Überprüfung des Abschlusses eine häufige Drosselung mit dem Antwortcode 429 auftritt, sollten Sie zunächst ein exponentielles Backoff für die Antwortanforderung „GET analyze“ implementieren. Durch die Verwendung einer schrittweise längeren Wartezeit zwischen Wiederholungsversuchen für aufeinanderfolgende Fehlerantworten, wie zum Beispiel ein 2-5-13-34-Muster von Verzögerungen zwischen den Anfragen. Im Allgemeinen wird empfohlen, die Get-Analyseantwort nicht mehr als einmal alle 2 Sekunden für eine entsprechende POST-Anforderung aufzurufen. Die analyze-Antwort enthält außerdem einen retry-after-Header, der angibt, wie lange in Sekunden gewartet werden sollte, bevor geprüft wird, ob die Anfrage abgeschlossen ist.

Wenn Sie feststellen, dass die Anzahl der POST-Anforderungen für übermittelte Dokumente gedrosselt wird, sollten Sie eine Verzögerung zwischen den Anforderungen hinzufügen. Wenn Ihre Workload ein höheres Maß an gleichzeitiger Verarbeitung erfordert, müssen Sie eine Supportanfrage erstellen, um Ihre Dienstgrenzwerte für Transaktionen pro Sekunde zu erhöhen.

Im Allgemeinen empfehlen wir, die Arbeitslast und die Arbeitslastmuster zu testen, bevor Sie in den produktiven Betrieb übergehen.

Nächste Schritte