Quote e limiti del servizio

Questo articolo contiene sia un riferimento rapido che una descrizione dettagliata di Azure Document Intelligence nelle quote e limiti degli strumenti Foundry per tutti i livelli di prezzo. Contiene inoltre alcune procedure consigliate per evitare la limitazione delle richieste.

Utilizzo del modello

Descrizione dettagliata, rettifica delle quote e procedure consigliate

I limiti predefiniti possono essere estesi richiedendo un aumento tramite un ticket di supporto. Prima di richiedere un aumento della quota (se applicabile), assicurarsi che sia necessario.

Se l'applicazione restituisce il codice di risposta 429 (troppe richieste) si supera la soglia per una o più transazioni al secondo (TPS):

• Analizzare il limite di transazioni al secondo TPS per l'invio di richieste di analisi (POST)
• Limite di operazioni GET al secondo Il TPS per il polling dei risultati delle operazioni di analisi (GET)
• Limite di operazioni di gestione dei modelli al secondo Operazioni correlate alla gestione dei modelli, ad esempio compilazione/training e copia.
• Limite di operazioni di elenco per secondo Operazioni correlate all'elenco di modelli e operazioni.

Procedure consigliate generali per mitigare la limitazione

Per ridurre al minimo i problemi relativi alla limitazione (codice di risposta 429), è consigliabile usare le tecniche seguenti:

• Implementare la logica di ripetizione dei tentativi nell'applicazione
• Evitare modifiche nitide nel carico di lavoro. Aumentare gradualmente il carico di lavoro
  Esempio. L'applicazione usa Document Intelligence e il carico di lavoro corrente è 10 TPS (transazioni al secondo). Il secondo successivo si aumenta il carico a 40 TPS. Il risultato è un codice di risposta 429 per alcune richieste quando si supera il limite di 15 TPS per l'invio di operazioni di analisi. È possibile eseguire il back-off dell'elaborazione per rimanere sotto i 15 TPS o richiedere un aumento del TPS per supportare i volumi più elevati.

Le sezioni successive descrivono casi specifici di regolazione delle quote. Passare a Document Intelligence: aumento del limite di richieste simultanee

Aumento del limite di richieste di transazioni al secondo

Per impostazione predefinita, il numero di transazioni al secondo è limitato a 15 transazioni al secondo per una risorsa di Document Intelligence. Per il piano tariffario Standard, è possibile inviare richieste di aumento TPS, ma la possibilità di approvazione e a quale modifica del livello TPS dipenderanno dai modelli di utilizzo giornalieri e dalle procedure consigliate seguite. Prima di inviare la richiesta, assicurarsi di avere familiarità con il materiale in questa sezione e conoscere queste procedure consigliate.

L'aumento del limite di richieste simultanee non influisce direttamente sui costi. Il servizio Document Intelligence usa il modello "Pagamento solo per ciò che si usa". Il limite definisce il livello di scalabilità del servizio prima che inizi la limitazione delle richieste.

Il valore esistente di diverse categorie di limiti delle richieste è disponibile tramite Azure portale, nella scheda monitoraggio del pannello panoramica delle risorse.

Creare e inviare una richiesta di supporto per aumentare i TPS

Avviare l'aumento del limite di transazioni al secondo (TPS) per la risorsa inviando la richiesta di supporto:

• Accedere al portale di Azure
• Selezionare la risorsa di Intelligenza Documentale per la quale desideri aumentare il limite TPS
• Selezionare -Nuova richiesta di supporto- (-gruppo Supporto + Risoluzione problemi-). Viene visualizzata una nuova finestra con informazioni popolate automaticamente sulla sottoscrizione Azure e sulla risorsa Azure
• Immettere -Summary- (ad esempio, aumentare il limite TPS di Intelligence per i documenti)
• Selezionare "Convalida quota o utilizzo" per il campo tipo di problema.
• Selezionare -Avanti: Soluzioni-
• Continuare con la creazione della richiesta
• Immettere le informazioni seguenti nel campo -Description- nella scheda Dettagli:
  • Nota che la richiesta riguarda la quota di Document Intelligence.
  • Indicare il valore TPS che si vuole raggiungere attraverso la scalabilità. Anche se gli aumenti tps sono gratuiti, è consigliabile richiedere solo un TPS ragionevole per il carico di lavoro.
  • informazioni sulla risorsa Azure
  • Completare l'immissione delle informazioni necessarie e selezionare il pulsante -Crea- in -Review + crea- scheda
  • Prendere nota del numero di richiesta di supporto nelle notifiche del portale di Azure. Attendete che il Supporto vi contatti a breve per ulteriori procedure.

Esempio di procedura consigliata per il modello di carico di lavoro

Questo esempio presenta l'approccio consigliato per ridurre la possibile limitazione delle richieste. Non è una ricetta esatta, ma semplicemente un modello che invitiamo a seguire e regolare in base alle esigenze.

Si supponga che una risorsa di Document Intelligence abbia impostato il limite predefinito. Avvia il carico di lavoro per inviare le vostre richieste di analisi. Se notate di ricevere frequentemente una limitazione con il codice di risposta 429 quando verificate il completamento, iniziate implementando un backoff esponenziale sulla richiesta di analisi GET. Usando un tempo di attesa progressivamente più lungo tra i tentativi per le risposte di errore consecutive, ad esempio un modello 2-5-13-34 di ritardi tra le richieste. In generale, è consigliabile non chiamare la risposta get analyze più di una volta ogni 2 secondi per una richiesta POST corrispondente. La analyze risposta contiene anche un'intestazione retry-after che indica per quanto tempo è necessario attendere in secondi prima di verificare il completamento della richiesta.

Se si ritiene di essere limitato al numero di richieste POST per i documenti inviati, è consigliabile aggiungere un ritardo tra le richieste. Se il carico di lavoro richiede un livello superiore di elaborazione simultanea, è necessario creare una richiesta di supporto per aumentare i limiti di servizio per le transazioni al secondo.

In genere, è consigliabile testare il carico di lavoro e i modelli di carico di lavoro prima di passare all'ambiente di produzione.

Passaggi successivi