quota en limieten voor foundry-modellen Microsoft

Dit artikel bevat een beknopt overzicht en een gedetailleerde beschrijving van de quota en limieten voor Foundry Models verkocht door Azure. Zie Quota en limieten in Azure OpenAI voor quota en limieten die specifiek zijn voor de Azure OpenAI in Foundry Models.

Quotabeheer op abonnementsniveau

Important

Quotabeheer op abonnementsniveau in Microsoft Foundry is gestart na 7 mei 2026.

Vanaf Realtime Vertalen en Realtime Transcriberen, en binnenkort alle modellen, houdt Foundry het quotum voor implementaties bij op abonnementsniveau in plaats van per resource of per regio. Deze aanpak brengt consistentie en voorspelbaarheid met zich mee hoe het quotum wordt beheerd in implementaties, omdat alle resources en regio's in een abonnement dezelfde quotumgroep delen.

Met deze wijziging wordt het quotum samengevoegd tot gedeelde pools:

  • Globale standaard: implementaties van hetzelfde model en dezelfde versie delen één quotumgroep in alle regio's in een abonnement.
  • Data Zone Standard: implementaties van hetzelfde model en dezelfde versie delen één quotumgroep per gegevenszone (bijvoorbeeld VS of EU).

Quotumlagen

Quotumniveaus helpen Foundry Models-workloads te schalen door het quotum automatisch te verhogen naarmate het gebruik toeneemt. Er zijn zeven niveaus beschikbaar: gratis niveau en niveaus 1 tot en met 6, met niveau 6 dat de hoogste quota biedt. Initiële niveautoewijzing houdt rekening met het gebruik en de relatie van de klant met Microsoft, waaronder enterprise-overeenkomsten zoals EA en MCA-E.

Wat verandert er voor mij?

Beoordeel de geschiktheid voor een quotaniveau op het niveau van het Azure-abonnement. Geschiktheid kan afhankelijk zijn van het gebruik, de betalingsgeschiedenis en de Azure aanbieding van het abonnement. Sommige modellen en implementatietypen hebben ook aanbiedingsspecifieke quotumlimieten.

Voor sommige modellen is een hogere quotumlaag vereist voordat u ze kunt implementeren. Als uw abonnement niet voldoet aan het vereiste abonnementsniveau van een model, gebruikt u een model dat beschikbaar is in uw huidige abonnementsniveau, totdat uw abonnement in aanmerking komt voor een upgrade.

U kunt extra quota aanvragen zonder de niveaus te wijzigen. Als de aanvraag is goedgekeurd, wijst u het extra quotum toe terwijl uw abonnement in het huidige niveau blijft.

Hoe gaat mijn abonnement over naar een hoger niveau?

Automatische upgrades houden voornamelijk rekening met gebruikstrends in Foundry Models in de loop van de tijd. Naarmate het gebruik toeneemt en het huidige niveau dat gebruik beperkt, kunnen in aanmerking komende abonnementen worden opgewaardeerd naar een hoger niveau.

Geschiktheid houdt ook rekening met de relatie van de klant met Microsoft en betalingsgeschiedenis. Enterprise-relaties, waaronder EA- en MCA-E-overeenkomsten, zijn factoren bij het toewijzen van hogere niveaus.

Kan ik automatische upgrades uitschakelen?

Yes. U kunt uw abonnement in het huidige niveau houden door het beleid voor niveau-upgrades in te stellen op NoAutoUpgrade.

Sommige klanten gebruiken quota om uitgaven te beperken. Quota is echter niet het aanbevolen hulpprogramma voor het beheren van kosten. Zie Cost management voor richtlijnen.

Voordat u het Bash-voorbeeld uitvoert:

  • Installeer de Azure CLI en meld u aan met az login.
  • Vervang {YOUR-SUBSCRIPTION-ID} door uw Azure-abonnements-id.

Met de volgende opdracht stelt u het upgradebeleid voor het abonnement in op NoAutoUpgrade:

subscription_id="{YOUR-SUBSCRIPTION-ID}"
az rest --method patch \
  --url "https://management.azure.com/subscriptions/${subscription_id}/providers/Microsoft.CognitiveServices/quotaTiers/default?api-version=2025-10-01-preview" \
  --headers "Content-Type=application/json" \
  --body '{"properties":{"tierUpgradePolicy":"NoAutoUpgrade"}}'

Naslaginformatie: az rest, Quota Tiers - Update.

Opmerking

Het uitschakelen van automatische tier-upgrades is een preview-functie en kan worden gewijzigd of verwijderd.

Kan ik meer quotum aanvragen?

Ja, als uw abonnement in aanmerking komt. U kunt een quotumverhoging aanvragen in de Microsoft Foundry-portal. Deze ervaring is beschikbaar als openbare preview. Als u geen aanvraag in de portal kunt indienen, gebruikt u het aanvraagformulier voor quotumverhoging.

Als dit is goedgekeurd, ontvangt uw abonnement extra quotum, maar blijft het in het huidige niveau. Een quotumverhoging is geen upgrade van een niveau.

Hoe controleer ik de quotumlaag van mijn abonnement?

Gebruik de Quota Tiers - Get REST API om het huidige niveau van het abonnement en het upgradebeleid op te halen.

Voordat u het Python voorbeeld uitvoert:

  • Installeer de azure-identity en requests pakketten met pip install azure-identity requests.
  • Configureer een identiteit die wordt ondersteund door DefaultAzureCredential, bijvoorbeeld door u aan te melden met az login voor lokale ontwikkeling.
  • Vervang {YOUR-SUBSCRIPTION-ID} door uw Azure-abonnements-id.

In het volgende voorbeeld wordt het quotumniveau van het abonnement opgehaald en afgedrukt:

import json

import requests
from azure.identity import DefaultAzureCredential

subscription_id = "{YOUR-SUBSCRIPTION-ID}"
api_version = "2025-10-01-preview"
url = (
    f"https://management.azure.com/subscriptions/{subscription_id}"
    "/providers/Microsoft.CognitiveServices/quotaTiers/default"
    f"?api-version={api_version}"
)

with DefaultAzureCredential() as credential:
    token = credential.get_token("https://management.azure.com/.default")
    response = requests.get(
        url,
        headers={"Authorization": f"Bearer {token.token}"},
        timeout=30,
    )
    response.raise_for_status()
    print(json.dumps(response.json(), indent=2))

Referentie: DefaultAzureCredential, Quotaniveaus - Ophalen.

Het antwoord is één object, geen value array. Het volgende voorbeeldantwoord is afgekort:

{
  "name": "default",
  "type": "Microsoft.CognitiveServices/quotaTiers",
  "id": "/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers/default",
  "properties": {
    "assignmentDate": "2025-06-09T18:13:29.389Z",
    "currentTierName": "Free-Tier",
    "tierUpgradePolicy": "OnceUpgradeIsAvailable"
  }
}

Referentie: Quota Tiers - Get.

Modelspecifieke quotumlimieten

Zie Naslaginformatie over Azure OpenAI-quotumniveaus voor limieten van Azure OpenAI-modellen per niveau. Zie de toepasselijke modelspecifieke quotasecties in dit artikel voor andere Foundry-modellen.

Quotumbeheerbereik controleren

U vindt het quotabeheersysteem dat van toepassing is op een bepaald model door naar de pagina Quota van de Foundry-portal te gaan. De waarde in de kolom Bereik voor een bepaald model geeft aan hoe Foundry het quotum voor dat model beheert. Een bereikwaarde van:

  • Global of Data Zone, duidt op quotumbeheer op abonnementsniveau.
  • Een regio (bijvoorbeeld VS - oost of VS - west), geeft quotumbeheer per regio aan voor dat abonnement en model.

Wijzigingen voor onboarded modellen

Voor de modellen die worden toegevoegd aan het quotabeheersysteem op abonnementsniveau:

  • Alle Global Standard-implementaties van hetzelfde model en dezelfde versie onder een abonnement maken nu gebruik van één gedeelde quotumgroep in alle regio's.
  • Alle standaardimplementaties voor gegevenszones van hetzelfde model en dezelfde versie onder een abonnement zijn nu afkomstig van een gedeelde quotumgroep binnen elke gegevenszone.
  • Het bestaande goedgekeurde quotum wordt bewaard en wordt automatisch toegepast op abonnementsniveau. Er is geen actie vereist.

Dankzij deze samenvoeging kan Microsoft Foundry ondersteunde modellen consistent aanbieden in alle Foundry-regio's, ongeacht hoe het quotum wordt verdeeld over resources of regio's.

Quotumlimieten wanneer een model wordt bijgewerkt

Wanneer een bestaand model wordt geüpgraded, wordt de nieuwe quotumlimiet voor de Global Zone of Data Zone ingesteld op de hoogste van:

  • De toepasselijke niveaulimiet.
  • Het totale quotum dat is toegewezen aan alle bestaande implementaties van dat model binnen het quotumbereik.

Als een model bijvoorbeeld Global Standard-implementaties heeft in vijf regio's, is de nieuwe globale quotumlimiet gelijk aan het gecombineerde quotum van deze implementaties als dat totaal de laaglimiet overschrijdt. Anders geldt de tierlimiet.

Grok 4.7 quota’s

Grok 4.7-versie 1 maakt gebruik van quotabeheer op abonnementsniveau. De volgende tabel bevat tokens per minuut (TPM) quota en bijbehorende aanvragen per minuut (RPM) limieten per abonnementslaag. Elke eenheid van inzetcapaciteit biedt 1.000 TPM en 1 RPM. De snelheidslimieten van uw implementatie zijn afhankelijk van de geconfigureerde capaciteit en het toegewezen quotum.

Implementatietype Abonnementsniveau TPM-quotum Overeenkomende RPM
Algemene standaard Gratis versie 0 0
Algemene standaard Niveau 1 80,000 80
Algemene standaard Niveau 2 315.000 315
Algemene standaard Niveau 3 1,000,000 1,000
Algemene standaard Niveau 4 2,000,000 2,000
Algemene standaard Laag 5 10,000,000 10,000
Algemene standaard Niveau 6 15.000.000 15,000
Data Zone Standard (VS) Gratis versie 0 0
Data Zone Standard (VS) Niveau 1 80,000 80
Data Zone Standard (VS) Niveau 2 315.000 315
Data Zone Standard (VS) Niveau 3 1,000,000 1,000
Data Zone Standard (VS) Niveau 4 2,000,000 2,000
Data Zone Standard (VS) Laag 5 10,000,000 10,000
Data Zone Standard (VS) Niveau 6 15.000.000 15,000

De quota's van Microsoft-Decision-1.1

De volgende tabel bevat tokens per minuut (TPM) en aanvragen per minuut (RPM) voor Microsoft-Decision-1.1 per abonnementslaag. De snelheidslimieten van uw implementatie zijn afhankelijk van de geconfigureerde capaciteit en het toegewezen quotum.

Abonnementsniveau TPM RPM
Niveau 1 2.16M 2,160
Niveau 2 4,50M 4,500
Niveau 3 6,00M 6,000
Niveau 4 9,00M 9.000
Laag 5 10,20M 10,200
Niveau 6 15,00M 15,000

Referentie voor quota en limieten

Important

In deze sectie wordt het quotum voor modellen besproken die niet worden toegevoegd aan het quotabeheersysteem op abonnementsniveau. Zie Quotabeheer op abonnementsniveau voor onboardingmodellen.

In de volgende secties vindt u een beknopt overzicht van de standaardquota en limieten die van toepassing zijn op Foundry-modellen. Quota en limieten worden niet afgedwongen op tenantniveau. In plaats daarvan wordt het hoogste niveau van quotumbeperkingen ingesteld op het niveau van het Azure abonnement. Tokens per minuut (TPM) en aanvragen per minuut (RPM) worden gedefinieerd per regio, per abonnement en per model of implementatietype.

Resourcelimieten (per Azure abonnement, per regio)

Naam beperken Limietwaarde
De Foundry-resources per regio binnen elk Azure-abonnement 100
Maximum aantal projecten per resource 250
Maximum aantal implementaties per resource (modelimplementaties binnen een Foundry-resource) 32

Frequentielimieten

Zie Microsoft-Decision-1.1-quota's voor frequentielimieten van Microsoft-Decision-1.1.

De volgende tabel bevat limieten voor Foundry Models voor de volgende tarieven:

  • Tokens per minuut
  • Aanvragen per minuut
  • Gelijktijdige aanvraag
Modellen Tokens per minuut Aanvragen per minuut Gelijktijdige aanvragen
Azure OpenAI-modellen Verschilt per model en SKU. Zie limits voor Azure OpenAI. Verschilt per model en SKU. Zie limits voor Azure OpenAI. Varieert. Zie Azure OpenAI-limieten.
- Llama 3.3 70B Instruct
- Llama-4-Maverick-17B-128E-Instruct-FP8
400,000 1,000 300
- Flux.2-Pro niet van toepassing - Laag (standaard): 15
- Gemiddeld: 30
- Hoog (Onderneming): 100
niet van toepassing
- FLUX-1.1-pro
- Flux.1-Kontext Pro
niet van toepassing 2 capaciteitseenheden (6 aanvragen per minuut) niet van toepassing
Rest van modellen 400,000 1,000 300

Als u uw quotum wilt verhogen, gebruikt u Microsoft Foundry Service: Aanvraag voor quotumverhoging om uw aanvraag in te dienen. Vanwege een hoge vraag worden aanvragen om het quotum te verhogen afzonderlijk geëvalueerd. Zie aanvraagverhogingen tot de standaardlimieten voor meer informatie over aanvragen voor quotumverhoging.

Andere limieten

Naam beperken Limietwaarde
Maximum aantal aangepaste headers in API-aanvragen1 10

1 Huidige API's staan maximaal 10 aangepaste headers toe, die de pijplijn doorgeeft en retourneert. Als u het aantal headers overschrijdt, resulteert uw aanvraag in een HTTP 431-fout. Verminder het headervolume om deze fout op te lossen. Toekomstige API-versies geven geen aangepaste headers door. Wees niet afhankelijk van aangepaste headers in toekomstige systeemarchitecturen.

Gebruikslagen

Global Standard-implementaties maken gebruik van de wereldwijde infrastructuur van Azure om het klantverkeer dynamisch naar het datacenter met de beste beschikbaarheid voor de inferenceverzoeken van de klant te routeren. Deze infrastructuur maakt consistentere latentie mogelijk voor klanten met een laag tot gemiddeld verkeersniveau. Klanten met een hoog blijvend gebruiksniveau zien mogelijk meer variabiliteiten in reactielatentie.

De gebruikslimiet bepaalt het gebruiksniveau waarop klanten grotere variabiliteit in reactielatentie kunnen zien. Het gebruik van een klant wordt per model gedefinieerd en is het totale aantal tokens dat wordt gebruikt voor alle implementaties in alle abonnementen in alle regio's voor een bepaalde tenant.

Verzoek om de standaardlimieten te verhogen

Een quotumverhoging aanvragen in de Microsoft Foundry-portal (openbare preview)

Gebruik de Microsoft Foundry-portal om een quotumverhoging aan te vragen voor ondersteunde modellen. Deze ervaring is beschikbaar als openbare preview. Beschikbaarheid en mogelijkheden kunnen veranderen en de aanvullende gebruiksvoorwaarden voor Microsoft Azure previews zijn van toepassing.

Afhankelijk van het model en het implementatietype kunt u extra Standard-quotum (betalen per gebruik) aanvragen, gemeten in tokens per minuut (TPM) of aanvragen per minuut (RPM), of ingerichte doorvoereenheidquotum (PTU). Ondersteunde modellen zijn Foundry-modellen die worden verkocht door Azure, Azure OpenAI-modellen en Anthropic modellen.

Quotumverhogingen zijn over het algemeen niet beschikbaar voor andere modellen van partners en community's. Raadpleeg de documentatie van het model voor uitzonderingen.

Voordat u begint

  • Een Azure-abonnement en toegang hebben tot Microsoft Foundry.
  • Bevestig dat u gemachtigd bent om een quotumaanvraag in te dienen. U hebt bijvoorbeeld de rol Operator voor quotumaanvragen nodig die is toegewezen via op rollen gebaseerde toegangsbeheer van Azure (Azure RBAC).
  • Abonnementen op de gratis laag (laag 0) komen niet in aanmerking voor aanvragen voor quotumverhoging.

Een aanvraag indienen

  1. Meld u aan bij Microsoft Foundry en open uw project.
  2. Selecteer Beheren, en selecteer Quotum.
  3. Kies het quotum token per minuut (TPM) of het quotum ingerichte doorvoereenheid (PTU).
  4. Selecteer Aanvraagquotum. Voltooi de aanvraag en dien deze in.

Nadat u het hebt verzonden

Het indienen van een aanvraag garandeert geen goedkeuring. Aanvragen worden verwerkt in de volgorde waarin ze worden ontvangen, met prioriteit aan klanten die hun bestaande quotum actief gebruiken. Een aanvraag kan worden geweigerd als u uw bestaande quotum niet actief gebruikt.

Als u uw aanvragen wilt weergeven, selecteert u Aanvraag weergeven onder het tabblad Token per minuut of Ingerichte doorvoereenheid, afhankelijk van het quotumtype.

Als uw aanvraag is goedgekeurd, controleert u het beschikbare quotum en wijst u dit indien nodig toe aan deployments.

PTU-quotum is een limiet, geen reservering van capaciteit. Goedgekeurd quotum garandeert niet dat de capaciteit beschikbaar is in de aangevraagde regio. Controleer de capaciteit voordat u implementeert of een reservering aanschaft. Zie PTU-quotum en -capaciteit voor meer informatie.

Als u geen aanvraag kunt indienen

Gebruik het oude aanvraagformulier voor quotumverhoging. Voeg een opmerking toe waarin wordt uitgelegd dat u de aanvraag niet kon indienen in de Foundry-portal.

Algemene aanbevolen procedures om binnen frequentielimieten te blijven

Gebruik de volgende technieken om problemen met betrekking tot frequentielimieten te minimaliseren:

  • Implementeer logica voor opnieuw proberen in uw toepassing.
  • Vermijd scherpe wijzigingen in de workload. Verhoog de workload geleidelijk.
  • Test verschillende patronen voor belastingverhoging.
  • Verhoog het quotum dat is toegewezen aan uw implementatie. Quota verplaatsen van een andere uitrol, indien nodig.

Time-out aan clientzijde instellen

Stel de time-out aan de clientzijde expliciet in op basis van de volgende richtlijnen.

Opmerking

Als dit niet expliciet is ingesteld, geldt de time-out aan de clientzijde zoals gedefinieerd in de gebruikte bibliotheek, en kunnen deze afwijken van de bovenstaande limieten.

  • Redeneringsmodellen (modellen die tussenliggende redeneringstokens genereren voordat een samengevat antwoord wordt gegenereerd): maximaal 29 minuten.
  • Niet-redenerende modellen:
    • Voor streaming is het maximaal 60 seconden.
    • Voor niet-streaming-aanvragen duurt het maximaal 29 minuten.

29 minuten hier betekent niet dat alle aanvragen 29 minuten duren, maar dat het maximaal 29 minuten kan duren, afhankelijk van contexttokens, gegenereerde tokens en cachetrefferpercentages.

Stel een time-out in die kleiner is dan deze waarden, afgestemd op uw verkeerspatronen.

Voor redeneringsmodellen, inclusief streamingaanvragen, worden eerst alle redeneringstokens gegenereerd en vervolgens samengevat voordat het eerste antwoordtoken naar de gebruiker wordt verzonden.

U kunt de parameter voor de redeneringsinspanning wijzigen om het aantal redeneringstokens te bepalen dat in het proces is gegenereerd.

Probleemoplossing

Symptoom Oorzaak Resolutie
HTTP 429 Te veel aanvragen Token-per-minuut- of aanvraag-per-minuutlimiet overschreden Implementeer logica voor opnieuw proberen met exponentiële terugval. Gebruik de Retry-After headerwaarde.
HTTP 431 Verzoekheadervelden te groot Meer dan 10 aangepaste headers verzonden Verminder aangepaste headers tot 10 of minder.
Op de quotapagina ziet u dat er 0 beschikbaar is. Volledig toegewezen abonnement of regionaal quotum Ongebruikt quotum van een andere implementatie verplaatsen. Als u uw limiet wilt verhogen, vraagt u een quotumverhoging aan.
Model niet beschikbaar in regio Model wordt niet geïmplementeerd of ondersteund in de geselecteerde regio Controleer de beschikbaarheid van modellen en kies een beschikbare regio.