Limity przydziału i limity usługi

Ten artykuł zawiera zarówno krótki przegląd, jak i szczegółowy opis usługi Azure Document Intelligence w kontekście limitów i kwot narzędzi Foundry we wszystkich warstwach cenowych. Zawiera również pewne najlepsze rozwiązania, aby uniknąć ograniczania żądań.

Użycie modelu

Limity użycia modelu różnią się w zależności od wersji interfejsu API i warstwy cenowej. Zapoznaj się z obsługiwanymi typami dokumentów i limitami przydziałów usług, które mają zastosowanie do zasobu.

Limity usług

W poniższej tabeli porównaliśmy limity przydziałów użycia modelu dla warstw cenowych Bezpłatna (F0) i Standardowa (S0).

Szczegółowy opis, korekta limitu przydziału i najlepsze rozwiązania

Limity domyślne można rozszerzyć, składając wniosek o zwiększenie za pośrednictwem zgłoszenia do pomocy technicznej. Przed zażądaniem zwiększenia limitu przydziału (jeśli ma to zastosowanie), upewnij się, że jest to konieczne.

Jeśli aplikacja zwraca kod odpowiedzi 429 (zbyt wiele żądań), przekracza próg dla co najmniej jednego limitu transakcji na sekundę (TPS):

• Analizowanie limitu transakcji na sekundę Moduł TPS do przesyłania żądań analizy (POST)
• Limit operacji GET na sekundę Limity TPS dotyczące sondowania wyników operacji analizy (GET)
• Operacje zarządzania modelami - limit na sekundę Operacje związane z zarządzaniem modelami, np. budowaniem/trenowaniem i kopiowaniem.
• Limit operacji listowania na sekundę Operacje związane z listowaniem modeli, operacji.

Ogólne najlepsze rozwiązania dotyczące ograniczania przepustowości

Aby zminimalizować problemy związane z ograniczaniem przepustowości (kod odpowiedzi 429), zalecamy użycie następujących technik:

• Implementowanie logiki ponawiania prób w aplikacji
• Unikaj gwałtownych zmian w obciążeniu. Stopniowe zwiększanie obciążenia
  Przykład. Aplikacja korzysta z analizy dokumentów, a bieżące obciążenie to 10 TPS (transakcje na sekundę). W następnej sekundzie zwiększasz obciążenie do 40 TPS. Wynikiem jest kod odpowiedzi 429 dla niektórych żądań, ponieważ przekraczasz limit 15 TPS przy przesyłaniu operacji analizy. Możesz ograniczyć przetwarzanie, aby pozostać w ramach 15 TPS, lub poprosić o zwiększenie TPS w celu obsługi większych woluminów.

W następnych sekcjach opisano konkretne przypadki dostosowywania limitów przydziału. Przechodzenie do analizy dokumentów: zwiększanie limitu żądań współbieżnych

Zwiększanie liczby transakcji na sekundę limitu żądań

Domyślnie liczba transakcji na sekundę jest ograniczona do 15 transakcji na sekundę dla zasobu analizy dokumentów. Dla warstwy cenowej Standard można przesłać żądania zwiększenia TPS, ale to, czy mogą być zatwierdzone i na jakim poziomie TPS, będzie zależeć od wzorców dziennego użycia i najlepszych praktyk, jakie są wdrażane. Przed przesłaniem żądania upewnij się, że znasz materiał w tej sekcji i zapoznasz się z tymi najlepszymi rozwiązaniami.

Zwiększenie limitu żądań współbieżnych nie ma bezpośredniego wpływu na koszty. Usługa Analizy dokumentów używa modelu "Płatność tylko za to, czego używasz". Limit określa, do jakiego poziomu usługa może się skalować przed rozpoczęciem ograniczania prędkości przetwarzania twoich żądań.

Istniejąca wartość różnych kategorii limitów żądań jest dostępna za pośrednictwem portalu Azure w bloku przeglądu zasobów na karcie monitorowanie.

Tworzenie i przesyłanie wniosku o pomoc techniczną dla zwiększenia tpS

Zainicjuj zwiększenie limitu transakcji na sekundę (TPS) dla zasobu, przesyłając wniosek o pomoc techniczną:

• Zaloguj się do portalu Azure
• Wybierz zasób analizy dokumentów, dla którego chcesz zwiększyć limit TPS
• Wybierz -Nowe żądanie pomocy technicznej- (-Support + rozwiązywanie problemów- grupa). Zostanie wyświetlone nowe okno z automatycznie wypełnionymi informacjami o subskrypcji Azure i zasobie Azure
• Wprowadź -Podsumowanie- (na przykład "Zwiększ limit TPS Inteligencji Dokumentu")
• W polu Typ problemu wybierz pozycję "Weryfikacja przydziału lub użycia".
• Wybierz pozycję -Next: Solutions- (Dalej: rozwiązania)
• Kontynuuj tworzenie żądania
• Wprowadź następujące informacje w polu -Description- na karcie Szczegóły:
  • zwróć uwagę, że żądanie dotyczy limitu analizy dokumentów.
  • Podaj oczekiwanie dotyczące TPS, do którego chcesz się dostosować. Chociaż zwiększenie TPS jest bezpłatne, należy żądać tylko takiego wzrostu TPS, który jest rozsądny dla obciążenia.
  • informacje o zasobach Azure
  • Wypełnij wprowadzanie wymaganych informacji i wybierz przycisk -Create- w -Review + create-tab
  • Zanotuj numer żądania pomocy technicznej w powiadomieniach w portalu Azure. Oczekuj, że wsparcie skontaktuje się z Tobą wkrótce w celu dalszego przetwarzania.

Przykład najlepszych rozwiązań dotyczących wzorca obciążenia

W tym przykładzie przedstawiamy podejście, które zalecamy dla złagodzenia potencjalnego ograniczania żądań. Nie jest to dokładny przepis, ale tylko szablon, który zachęcamy do naśladowania i dostosowywania w razie potrzeby.

Załóżmy, że zasób analizy dokumentów ma ustawiony domyślny limit. Uruchom zadanie, aby przesłać żądania analiz. Jeśli okaże się, że podczas sprawdzania ukończenia występuje częste ograniczanie przepustowości z kodem odpowiedzi 429, rozpocznij od zaimplementowania wykładniczego wycofywania w żądaniu analizy GET. Używając stopniowo dłuższego czasu oczekiwania między kolejnymi próbami odpowiedzi na błędy, na przykład wzorzec 2-5-13-34 opóźnień między żądaniami. Ogólnie rzecz biorąc, zalecamy nie wywoływanie odpowiedzi get analyze więcej niż raz co 2 sekundy dla odpowiedniego żądania POST. analyze Odpowiedź zawiera również nagłówek retry-after, który wskazuje, ile sekund należy odczekać przed sprawdzeniem zakończenia tego żądania.

Jeśli okaże się, że ograniczana jest liczba żądań POST dla dokumentów przesyłanych do systemu, rozważ dodanie opóźnienia między żądaniami. Jeśli obciążenie wymaga wyższego stopnia przetwarzania współbieżnego, należy utworzyć wniosek o pomoc techniczną, aby zwiększyć limity usług dla transakcji na sekundę.

Ogólnie rzecz biorąc, zalecamy przetestowanie obciążenia i wzorców obciążenia przed przejściem do środowiska produkcyjnego.

Następne kroki