Azure OpenAI in Microsoft Foundry-Modelle Kontingenten und Grenzwerte

Dieser Artikel enthält eine Kurzübersicht und eine detaillierte Beschreibung der Kontingente und Grenzwerte für Azure OpenAI.

Umfang des Kontingents

Kontingente und Begrenzungen gelten nicht auf Mandantenebene. Stattdessen wird die höchste Ebene der Kontingenteinschränkungen auf der Azure Abonnementebene festgelegt.

Kontingentverwaltung auf Abonnementebene

Important

Die Kontingentverwaltung auf Abonnementebene in Microsoft Foundry begann nach dem 7. Mai 2026.

Beginnend mit "Realtime Translate" und "Realtime Whisper" und bald allen Modellen verfolgt Foundry das Kontingent für Bereitstellungen auf Abonnementebene statt pro Ressource oder Region. Dieser Ansatz bringt Konsistenz und Vorhersagbarkeit dazu, wie das Kontingent über Bereitstellungen hinweg verwaltet wird, da alle Ressourcen und Regionen in einem Abonnement den gleichen Kontingentpool aufweisen.

Diese Änderung konsolidiert Quoten in gemeinsamen Pools.

  • Globaler Standard: Bereitstellungen desselben Modells und derselben Version teilen einen Kontingentpool für alle Regionen in einem Abonnement. Standard - und Flex-Verarbeitungsanforderungen verwenden diesen Pool.
  • Data Zone Standard: Bereitstellungen desselben Modells und der Version teilen einen Kontingentpool pro Datenzone (z. B. USA oder EU).

Weitere Informationen zur Kontingentzuweisung auf Abonnementebene finden Sie unter Microsoft Kontingente und Grenzwerte für Foundry Models.

Kontingentstufen

Microsoft führt Kontingentebenen ein, um die Erfahrung der Foundry Models zu verbessern und die Reibung bei der Skalierung von Workloads zu verringern. Kontingente steigen jetzt automatisch mit der Nutzung, was dabei hilft, Fehler aufgrund von Ratenbegrenzungen zu vermeiden und gleichzeitig ein faireres Umfeld für alle Benutzer zu schaffen. Sieben Stufen sind verfügbar: die kostenlose Stufe und die Stufen 1 bis 6 – wobei Stufe 6 die höchsten Kontingente bietet. Die erste zugewiesene Stufe eines Kunden basiert auf der aktuellen Nutzung dieses Modells und seiner aktuellen Beziehung zu Microsoft, z. B. enterprise Agreement (EA oder MCA-E) Status. 

Was ändert sich für mich?

Die Berechtigung für Kontingentstufen wird auf Ebene des Azure-Abonnements ausgewertet und kann von der Nutzung, dem Zahlungsverlauf und dem Azure-Angebot des Abonnements abhängen. Einige Modelle oder Bereitstellungstypen weisen angebotsbezogene Kontingentgrenzwerte auf. Um ein weiteres Kontingent anzufordern, senden Sie das Kontingentanforderungsformular. Wenn die Anfrage genehmigt wurde, bleibt der aktuelle Tarif des Abonnements gleich, und das genehmigte Kontingent wird hinzugefügt.

Wie wird ein Kunde automatisch von einer Ebene zu einer anderen wechseln, z. B. was sind die Ebenenänderungskriterien? 

Automatische Upgrades auf eine höhere Stufe hängen in erster Linie vom Nutzungsverhalten der Kunden über die Zeit hinweg bei Foundry Models ab. Wenn die Nutzung eines Kunden so erhöht wird, dass seine aktuelle Kontingentebene ihre Fähigkeit zur Verwendung von Foundry Models begrenzt, aktualisiert das System den Kunden automatisch auf die nächste höhere Stufe. Das System betrachtet auch die Beziehung eines Kunden mit Microsoft. Kunden mit Enterprise-Beziehungen (einschließlich EA und MCA-E) mit Microsoft werden höheren Kontingentstufen zugewiesen. Darüber hinaus berücksichtigt Microsoft auch den Zahlungsverlauf eines Kunden, um die Berechtigung für automatische Upgrades zu ermitteln. 

Kann ich automatische Upgrades deaktivieren?

Ja, Sie können automatische Upgrades deaktivieren, um unabhängig von Änderungen ihres Verbrauchs in Ihrer aktuellen Stufe zu bleiben. Einige Kunden verwenden das Kontingent, um ihre Abrechnung zu verwalten. Die Verwendung des Kontingents zum Verwalten der Abrechnung ist nicht die Azure bewährte Methode, aber wenn Ihr System auf diese Weise konfiguriert ist, sollten Sie es möglicherweise nicht unterbrechen. Weitere Informationen zum Abrechnungsmanagement und bewährten Methoden finden Sie unter Kostenverwaltung.

Um dies zu deaktivieren, können Sie die folgende Kennzeichnung auf NoAutoUpgrade festlegen:

curl -X PATCH \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers/default?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer <YOUR_ACCESS_TOKEN>" \
  -H "Content-Type: application/json" \
  -d '{
    "properties": {
      "tierUpgradePolicy": "NoAutoUpgrade"
    }
  }'

Hinweis

Das Feature "Abmelden" ist eine Vorschau und kann in Zukunft geändert/entfernt werden.

Kann ich mehr Kontingent anfordern?

Die Berechtigung für eine Kontingenterhöhung hängt von der aktuellen Kontingentebene Ihres Abonnements und dem Zugriff auf das angeforderte Modell ab.

Abonnements in der Kostenlosen Stufe (Stufe 0) sind nicht für Kontingenterhöhungen berechtigt. Verwenden Sie die Modelle und das Kontingent, die in Ihrer aktuellen Stufe verfügbar sind. Informationen zum Wechseln zu einer höheren Stufe finden Sie unter Kriterien für das Stufenupgrade.

Wenn Ihr Abonnement berechtigt ist, können Sie mehr Kontingent für unterstützte Modelle im Microsoft Foundry-Portal anfordern. Diese Erfahrung befindet sich in der öffentlichen Vorschau. Die ergänzenden Nutzungsbedingungen für Microsoft Azure Previews gelten.

Wählen Sie in Ihrem Projekt "Verwalten" und dann " Kontingent" aus. Wählen Sie Token pro Minute (TPM) oder Provisioned Throughput Unit (PTU) aus, und wählen Sie dann Kontingent anfordern aus.

Wenn Sie im Portal keinen Antrag absenden können, verwenden Sie das Formular für den Kontingentantrag. Fügen Sie einen Kommentar ein, der erklärt, dass Sie die Anforderung nicht im Portal übermitteln konnten.

Anfragen unterliegen der Überprüfung und Genehmigung. Eine genehmigte Erhöhung fügt ein Kontingent hinzu, ohne Ihre Stufe zu ändern oder die Modellzugriffsanforderungen zu umgehen.

Wie kann ich die Kontingentebene meines Abonnements überprüfen?

Sie können aktuell Ihre Kontingentebene mit der Control Plane-API überprüfen.

curl -X GET \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer $(az account get-access-token --resource https://management.azure.com --query accessToken -o tsv)" \
  -H "Content-Type: application/json"

Referenz für Quotenebene

Bei globalen Standardbereitstellungen verwenden alle gpt-chat-latest Versionen denselben TPM-Grenzwert auf Tarifstufenebene, der in jeder Ebene angezeigt wird. Versionen 2026-05-05, 2026-05-28, und 2026-06-241 verwenden 10 U/min je 1.000 TPM. Versionen 2026-08-06 und 2026-10-072 verwenden 1 U/MIN pro 1.000 TPM, sodass die Tabellen die Versionen separat auflisten.

Für gpt-chat-latest Version 2026-10-073 verwenden Data Zone Standard-Bereitstellungen auch 1 RPM pro 1.000 TPM. In den Tabellen werden die Grenzwerte des Data Zone Standard separat aufgelistet.

Ebene 1

Modellname Bereitstellungstyp Anforderungen pro Minute (RPM) Token pro Minute (TPM)
codex-mini GlobalStandard 1,000 1,000,000
Computerverwendungsvorschau GlobalStandard 4,500 450.000
gpt-4.1 DataZoneStandard 300 300,000
gpt-4.1 GlobalStandard 1,000 1,000,000
gpt-4.1-mini DataZoneStandard 2.000 2,000,000
gpt-4.1-mini GlobalStandard 5,000 5,000,000
gpt-4.1-mini Standard 6,000 6,000,000
gpt-4.1-nano DataZoneStandard 2.000 2,000,000
gpt-4.1-nano GlobalStandard 5,000 5,000,000
gpt-4o DataZoneStandard 300 / 10 Sekunden 300,000
gpt-4o-mini DataZoneStandard 10.000 1,000,000
gpt-4o-mini GlobalStandard 20,000 2,000,000
gpt-5 DataZoneStandard 1,000 100,000
gpt-5 GlobalStandard 2,500 250,000
gpt-5-chat GlobalStandard 1,000 1,000,000
gpt-5-codex GlobalStandard 1,000 1,000,000
gpt-5-mini DataZoneStandard 300 300,000
gpt-5-mini GlobalStandard 1,000 1,000,000
gpt-5-nano DataZoneStandard 2.000 2,000,000
gpt-5-nano GlobalStandard 5,000 5,000,000
gpt-5-pro GlobalStandard 1,600 160,000
gpt-5.1 DataZoneStandard 1,000 100,000
gpt-5.1 GlobalStandard 2,500 250,000
gpt-5.1 Standard 3,000 300,000
gpt-5.1-chat GlobalStandard 10.000 1,000,000
gpt-5.1-codex DataZoneStandard 3,000 300,000
gpt-5.1-codex GlobalStandard 1,000 1,000,000
gpt-5.1-codex-max GlobalStandard 10.000 1,000,000
gpt-5.1-codex-mini GlobalStandard 1,000 1,000,000
gpt-5.2 DataZoneStandard 1,000 100,000
gpt-5.2 GlobalStandard 2,500 250,000
gpt-5.2-chat GlobalStandard 10.000 1,000,000
gpt-5.3-chat GlobalStandard 1,000 1,000,000
gpt-5.2-codex GlobalStandard 10.000 1,000,000
gpt-5.3-codex GlobalStandard 10.000 1,000,000
gpt-5.4 DataZoneStandard 100 100,000
gpt-5.4 GlobalStandard 2,500 250,000
gpt-5.4-pro GlobalStandard 160 160,000
gpt-5.4-mini GlobalStandard 1,000 1,000,000
gpt-5.4-nano DataZoneStandard 2.000 2,000,000
gpt-5.4-nano GlobalStandard 5,000 5,000,000
gpt-5.5 DataZoneStandard 333 333,000
gpt-5.5 GlobalStandard 1,000 1,000,000
gpt-5.6-luna DataZoneStandard 100 100,000
gpt-5.6-luna GlobalStandard 250 250,000
gpt-5.6-sol DataZoneStandard 100 100,000
gpt-5.6-sol GlobalStandard 250 250,000
gpt-5.6-terra DataZoneStandard 100 100,000
gpt-5.6-terra GlobalStandard 250 250,000
gpt-6-astra DataZoneStandard 100 100,000
gpt-6-astra GlobalStandard 250 250,000
gpt-6-luna DataZoneStandard 100 100,000
gpt-6-luna GlobalStandard 250 250,000
gpt-6-sol DataZoneStandard 100 100,000
gpt-6-sol GlobalStandard 250 250,000
gpt-6.1-sol DataZoneStandard 100 100,000
gpt-6.1-sol GlobalStandard 250 250,000
gpt-6.1-terra DataZoneStandard 100 100,000
gpt-6.1-terra GlobalStandard 250 250,000
gpt-6.2-astra DataZoneStandard 100 100,000
gpt-6.2-astra GlobalStandard 250 250,000
gpt-6.2-sol DataZoneStandard 100 100,000
gpt-6.2-sol GlobalStandard 250 250,000
gpt-chat-latest1 GlobalStandard 10.000 1,000,000
gpt-chat-latest2 GlobalStandard 1,000 1,000,000
gpt-chat-latest3 DataZoneStandard 333 333,000
gpt-audio GlobalStandard 30000 / 10s 30,000,000
gpt-image-1 GlobalStandard 9 -
gpt-image-1-mini GlobalStandard 12 -
gpt-image-1.5 DataZoneStandard 3 -
gpt-image-1.5 GlobalStandard 9 -
gpt-image-2 DataZoneStandard 2 -
gpt-image-2 GlobalStandard 6 -
gpt-image-2.5-flare GlobalStandard 2 -
gpt-image-2.5-sunburst GlobalStandard 2 -
gpt-Echtzeit GlobalStandard 200 100,000
Model-Router DataZoneStandard 300 300,000
Model-Router GlobalStandard 1,000 1,000,000
O1 DataZoneStandard 100 600,000
O1 GlobalStandard 500 3,000,000
O3 DataZoneStandard 300 300,000
O3 GlobalStandard 1,000 1,000,000
o3-deep-research GlobalStandard 3,000 3,000,000
o3-mini DataZoneStandard 200 2,000,000
o3-mini GlobalStandard 500 5,000,000
o3-pro GlobalStandard 160 1,600,000
o4-mini DataZoneStandard 300 / 10 Sekunden 300,000
o4-mini GlobalStandard 1,000 1,000,000
text-embedding-3-large DataZoneStandard 1,000 1,000,000
text-embedding-3-large GlobalStandard 1000 / 10 Sekunden 1,000,000
text-embedding-3-small DataZoneStandard 1,000 1,000,000
text-embedding-3-small GlobalStandard 1000 / 10 Sekunden 1,000,000

Referenz zu Kontingenten und Grenzwerten

Im folgenden Abschnitt finden Sie eine Kurzanleitung zu den Standardkontingenten und Grenzwerten, die für Azure OpenAI gelten:

Name des Grenzwerts Grenzwert
Azure OpenAI-Ressourcen pro Region, pro Azure Abonnement 30.
Standardmäßige GPT-image-1-Kontingentbeschränkungen 9 Anforderungen pro Minute
Standardmäßige GPT-image-1-Mini-Kontingentbeschränkungen 12 Anforderungen pro Minute
Standardmäßige GPT-image-1.5-Kontingentbeschränkungen 9 Anforderungen pro Minute
Standardmäßige GPT-image-2-Kontingentbeschränkungen 9 Anforderungen pro Minute
Standardmäßige Sora-Kontingentbeschränkungen 60 Anforderungen pro Minute.
Standardmäßige Sora 2-Kontingentbeschränkungen 2 Auftragsanfragen1 pro Minute
Standardgrenzwerte für Sprach-zu-Text-Audio-API 3 Anforderungen pro Minute.
Maximale Anzahl der Prompt-Token pro Anforderung Variiert je Modell. Weitere Informationen finden Sie unter Azure OpenAI-Modelle.
Maximale Standardbereitstellungen pro Ressource 32.
Max. optimierte Modellbereitstellungen 10.
Gesamtzahl der Schulungsaufträge pro Ressource 100.
Maximale gleichzeitige Ausführung von Schulungsaufträgen pro Ressource Standard- und globale Schulung: 3;
Entwicklerschulung: 5
Max. Anzahl von Trainingsaufträgen in der Warteschlange 20.
Maximale Anzahl von Dateien pro Ressource (Feinabstimmung) 100.
Gesamtgröße aller Dateien pro Ressource (Feinabstimmung) 1 GB.
Maximale Schulungsarbeitszeit (Auftrag schlägt fehl, wenn überschritten) 720 Stunden.
Maximale Größe des Schulungsauftrags (tokens in training file) x (# of epochs) 2 Mrd.
Maximale Größe aller Dateien pro Upload (Azure OpenAI auf Ihren Daten) 16 MB.
Maximale Anzahl von Eingaben in Arrays mit /embeddings 2,048.
Maximale Token pro /embeddings Anforderung (Summe für alle Eingaben) 300,000.
Maximale Anzahl von /chat/completions Nachrichten 2,048.
Maximale Anzahl von /chat/completions Funktionen 128.
Maximale Anzahl von /chat/completions Tools 128.
Maximale Anzahl bereitgestellter Durchsatzeinheiten pro Bereitstellung 100,000.
Maximale Anzahl von Dateien pro Assistent oder Thread 10.000 bei Verwendung der API oder des Microsoft Foundry-Portals.
Maximale Dateigröße für Assistenten und Feinabstimmung 512 MB über die API

200 MB über das Foundry-Portal.
Maximale Dateiuploadanforderungen pro Ressource 30 Anforderungen pro Sekunde.
Maximale Größe für alle hochgeladenen Dateien für Assistenten 200 GB.
Tokenlimit für Assistenten 2.000.000 Token-Limit.
GPT-4o und GPT-4.1 maximale Bilder pro Anforderung (Anzahl der Bilder im Nachrichtenarray oder Unterhaltungsverlauf) 50.
GPT-4 vision-preview und GPT-4 turbo-2024-04-09 standardmäßige maximale Anzahl an Token 16.

Erhöhen Sie den max_tokens Parameterwert, um abgeschnittene Antworten zu vermeiden. GPT-4o Die maximale Anzahl an Token beträgt standardmäßig 4.096.
Maximale Anzahl von benutzerdefinierten Headern in API-Anforderungen2 10.
Grenzwert für Nachrichtenzeichen 1,048,576.
Nachrichtengröße für Audiodateien 20 MB.

1 Das Sora 2 RPM-Kontingent zählt nur Anfragen für Videojobs. Andere Arten von Anfragen sind nicht ratenbeschränkt.

2 Unsere aktuellen APIs ermöglichen bis zu 10 benutzerdefinierte Header, die über die Pipeline übergeben und zurückgegeben werden. Einige Kunden überschreiten jetzt diese Headeranzahl, was zu HTTP 431-Fehlern führt. Für diesen Fehler gibt es keine Lösung, außer um die Kopfzeilenlautstärke zu reduzieren. In zukünftigen API-Versionen werden keine benutzerdefinierten Header übergeben. Es wird empfohlen, dass Kunden nicht von benutzerdefinierten Headern in zukünftigen Systemarchitekturen abhängen.

Hinweis

Kontingentbeschränkungen können geändert werden.

Batchgrenzwerte

Name des Grenzwerts Grenzwert
Maximale Batcheingabedateien (kein Ablauf) 500
Maximale Anzahl von Batch-Eingabedateien (Ablaufdatum festgelegt) 10.000
Maximale Größe der Eingabedatei 200 MB
Maximale Größe der Eingabedatei – Bring your own storage (BYOS) 1 GB
Maximale Anforderungen pro Datei 100,000

Hinweis

Legen Sie fest, wann Eingabedateien ablaufen, um das Limit pro Ressource zu erhöhen und gespeicherte Dateien zu verwalten. Beschränkungen für Batch-Eingabedateien gelten nicht für Ausgabedateien wie result.jsonl und error.jsonl. Um Datei-API-Eingabedateibeschränkungen zu vermeiden, verwenden Sie Batch mit Azure Blob Storage.

Batch-Kontingent

Die Tabelle zeigt den Grenzwert für batchkontingente. Kontingentwerte für den globalen Batch werden in Bezug auf enqueuierte Token dargestellt. Wenn Sie eine Datei für die Batchverarbeitung übermitteln, wird die Anzahl der Token in der Datei gezählt. Bis der Batchauftrag einen endgültigen Status erreicht, werden diese Tokens auf Ihren Gesamtgrenzwert der Tokens in der Warteschlange angerechnet.

Globaler Stapel

Modell Unternehmen und MCA-E Standard Monatliche Kreditkartenabonnements MSDN-Abonnements Azure für Studenten, kostenlose Testversionen
gpt-4.1 5B 200M 50M 90K N/A
gpt-4.1 mini 15B 1B 50M 90K N/A
gpt-4.1-nano 15B 1B 50M 90K N/A
gpt-4o 5B 200M 50M 90K N/A
gpt-4o-mini 15B 1B 50M 90K N/A
gpt-4-turbo 300 M 80M 40M 90K N/A
gpt-4 150 Mio. 30M 5 Millionen 100K N/A
o3-mini 15B 1B 50M 90K N/A
o4-mini 15B 1B 50M 90K N/A
gpt-5 5B 200M 50M 90K N/A
gpt-5.1 5B 200M 50M 90K N/A
gpt-5.2 5B 200M 50M N/A N/A
gpt-5.4 5B 200M 50M N/A N/A
gpt-5.4-mini 5B 200M 50M N/A N/A
gpt-5.4-nano 5B 200M 50M N/A N/A
gpt-5.5 5B 200M 50M 90K N/A

B = Milliarde | M = Million | K = Tausend

Datenzonenbatch

Modell Unternehmen und MCA-E Standard Monatliche Kreditkartenabonnements MSDN-Abonnements Azure für Studenten, kostenlose Testversionen
gpt-4.1 500 Millionen 30M 30M 90K N/A
gpt-4.1-mini 1,5 Mrd. 100 Mio. 50M 90K N/A
gpt-4o 500 Millionen 30M 30M 90K N/A
gpt-4o-mini 1,5 Mrd. 100 Mio. 50M 90K N/A
o3-mini 1,5 Mrd. 100 Mio. 50M 90K N/A
gpt-5 5B 200M 50M 90K N/A
gpt-5.1 5B 200M 50M 90K N/A
gpt-5.4 5B 200M 50M N/A N/A
gpt-5.4-mini 5B 200M 50M N/A N/A
gpt-5.5 5B 200M 50M 90K N/A

gpt-oss

Modell Token pro Minute (TPM) Anforderungen pro Minute (RPM)
gpt-oss-120b 5 Mio. 5.000

GPT-Live gleichzeitige Sitzungsgrenzwerte

Ratenlimits für die GPT-Live API sind die maximale Anzahl gleichzeitiger Sitzungen pro Abonnement, abhängig von Ihrer Tarifstufe.

Tarif Maximale Anzahl gleichzeitiger Sitzungen
Standard (nicht abgestuft) 10
Ebene 1 25
Ebene 2 50
Ebene 3 200
Ebene 4 300
Ebene 5 500

Verwendungsebenen

Globale Standardbereitstellungen verwenden die globale Infrastruktur von Azure. Sie leiten den Kundendatenverkehr dynamisch an das Rechenzentrum weiter, wobei die beste Verfügbarkeit für die Rückschlussanforderungen des Kunden verfügbar ist. Ebenso ermöglichen Datenzonenstandardbereitstellungen die Verwendung der globalen Infrastruktur von Azure, um den Datenverkehr dynamisch an das Rechenzentrum innerhalb der Microsoft definierten Datenzone mit der besten Verfügbarkeit für jede Anforderung weiterzuleiten. Diese Vorgehensweise ermöglicht eine konsistentere Latenz für Kunden mit geringem bis mittlerem Datenverkehrsgrad. Kunden mit einem hohen dauerhaften Nutzungsgrad sehen möglicherweise eine größere Variabilität bei der Antwortlatenz.

Azure OpenAI-Nutzungsebenen sind darauf ausgelegt, für die meisten Kunden mit geringem bis mittlerem Datenverkehr eine konsistente Leistung zu bieten. Jede Verwendungsebene definiert den maximalen Durchsatz (Token pro Minute), den Sie mit vorhersagbarer Latenz erwarten können. Wenn Ihre Nutzung innerhalb der zugewiesenen Ebene verbleibt, bleibt die Latenz stabil, und die Reaktionszeiten sind konsistent.

Was geschieht, wenn Sie die Nutzungsstufe überschreiten?

  • Wenn ihr Anforderungsdurchsatz Ihre Nutzungsebene überschreitet – insbesondere in Zeiträumen mit hoher Nachfrage – kann sich die Antwortlatenz erheblich erhöhen.
  • Die Latenz kann variieren und ist in manchen Fällen möglicherweise mehr als doppelt so hoch wie bei der Nutzung innerhalb Ihrer Nutzungsstufe.
  • Diese Variabilität ist für Kunden mit hohem kontinuierlichen Gebrauch oder stoßartigen Verkehrsmustern am deutlichsten.

Wenn 429 Fehler auftreten oder eine erhöhte Latenzvariabilität festgestellt wird, führen Sie die folgenden Schritte aus:

  • Fordern Sie eine Kontingenterhöhung an: Besuchen Sie das Azure-Portal, um ein höheres Kontingent für Ihr Abonnement anzufordern.
  • Erwägen Sie ein Upgrade auf ein Premium-Angebot (PTU): Für latenzenkritische oder hochvolumige Workloads, führen Sie ein Upgrade auf Bereitgestellte Durchsatzeinheiten (PTU) durch. PTU bietet dedizierte Ressourcen, garantierte Kapazität und vorhersehbare Latenz – auch in großem Umfang. Dies ist die beste Wahl für unternehmenskritische Anwendungen, die eine konsistente Leistung erfordern.
  • Überwachen Sie Ihre Nutzung: Überprüfen Sie regelmäßig Ihre Nutzungsmetriken im Azure-Portal, um sicherzustellen, dass Sie innerhalb Ihrer Ebenengrenzwerte arbeiten. Passen Sie Ihre Workload- oder Bereitstellungsstrategie nach Bedarf an.

Möglicherweise erhalten Sie 429 (Zu viele Anforderungen) Antworten, auch wenn Tokenverwendungsmetriken unter Ihrem Kontingent angezeigt werden. Eine Erläuterung dazu, warum dies geschieht, finden Sie unter "Warum möglicherweise 429s angezeigt werden, auch wenn Tokennutzungsmetriken unter dem Kontingent liegen.

Der Nutzungsgrenzwert bestimmt den Umfang der Nutzung, über dem Kunden möglicherweise eine größere Variabilität bei der Antwortlatenz sehen können. Die Nutzung eines Kunden wird pro Modell definiert. Es ist die Gesamtanzahl der Token, die in allen Bereitstellungen in allen Abonnements in allen Regionen für einen bestimmten Mandanten verbraucht werden.

Hinweis

Verwendungsebenen gelten nur für Die Bereitstellungstypen "Standard", "Data Zone Standard" und "Global Standard". Nutzungsebenen gelten nicht für globale Batch-Bereitstellungen und bereitgestellte Durchsatzkapazitäten.

Globalstandard, Datenzonestandard und Standard

Modell Nutzungsstufen pro Monat
gpt-5 32 Milliarden Token
gpt-5-mini 160 Milliarden Token
gpt-5-nano 800 Milliarden Token
gpt-5-chat 32 Milliarden Token
gpt-4 + gpt-4-32k (alle Versionen) 6 Milliarden Token
gpt-4o 12 Milliarden Token
gpt-4o-mini 85 Milliarden Token
o3-mini 50 Milliarden Token
o1 4 Milliarden Token
o4-mini 50 Milliarden Token
o3 5 Milliarden Token
gpt-4.1 30 Milliarden Token
gpt-4.1-mini 150 Milliarden Token
gpt-4.1-nano 550 Milliarden Token
gpt-5.1 86 Milliarden Token
gpt-5.1-codex 86 Milliarden Token
gpt-5.2 60 Milliarden Token
gpt-5.3-codex 60 Milliarden Token
gpt-5.4 50 Milliarden Token
gpt-5.4-mini 165 Milliarden Token
gpt-5.4-nano 605 Milliarden Token
gpt-5.5 25 Milliarden Token
gpt-5.6-sol 25 Milliarden Token

Allgemeine bewährte Methoden, um innerhalb von Zinsgrenzwerten zu bleiben

Um Probleme im Zusammenhang mit Zinslimits zu minimieren, ist es ratsam, die folgenden Techniken zu verwenden:

  • Implementieren Sie die Wiederholungslogik in Ihrer Anwendung.
  • Vermeiden Sie scharfe Änderungen an der Arbeitsauslastung. Erhöhen Sie die Arbeitsauslastung schrittweise.
  • Testen Sie unterschiedliche Auslastungserhöhungsmuster.
  • Erhöhen Sie das Kontingent, das Ihrer Bereitstellung zugewiesen ist. Verschieben Sie das Kontingent bei Bedarf aus einer anderen Bereitstellung.

Ausführliche bewährte Methoden, Codebeispiele für Wiederholungen mit Backoff und eine Anleitung zur Fehlerbehebung bei 429-Fehlern finden Sie unter Verwalten des Azure OpenAI-Kontingents in Microsoft Foundry Models.

Anfordern von Kontingenterhöhungen

Anfordern einer Kontingenterhöhung im Foundry-Portal (öffentliche Vorschau)

Verwenden Sie das Microsoft Foundry-Portal, um eine Kontingenterhöhung für unterstützte Modelle anzufordern. Diese Erfahrung befindet sich in der öffentlichen Vorschau. Verfügbarkeit und Funktionen können sich ändern, und die ergänzenden Nutzungsbedingungen für Microsoft Azure Previews gelten.

Je nach Modell und Bereitstellungstyp können Sie zusätzliches Standardkontingent (Pay-as-you-go) anfordern, in Token pro Minute (TPM) oder Anforderungen pro Minute (RPM) oder bereitgestelltes Durchsatzeinheitskontingent (PTU) anfordern. Zu den unterstützten Modellen gehören von Azure verkaufte Foundry Models, Azure OpenAI-Modelle und Anthropic-Modelle.

Quotenerhöhungen stehen in der Regel nicht für andere Modelle von Partnern und Communitys zur Verfügung. Überprüfen Sie die Dokumentation des Modells auf Ausnahmen.

Bevor Sie beginnen

  • Verfügen Sie über ein Azure-Abonnement und Zugriff auf Microsoft Foundry.
  • Vergewissern Sie sich, dass Sie über die Berechtigung zum Senden einer Kontingentanforderung verfügen. Beispielsweise benötigen Sie möglicherweise die Rolle „Kontingentanforderungsoperator“, die über Azure rollenbasierte Zugriffssteuerung (Azure RBAC) zugewiesen wurde.
  • Abonnements der kostenlosen Stufe (Stufe 0) sind für Kontingenterhöhungsanforderungen nicht berechtigt.

Anforderung senden

  1. Melden Sie sich bei Microsoft Foundry an, und öffnen Sie das Projekt.
  2. Wählen Sie "Verwalten" und dann " Kontingent" aus.
  3. Wählen Sie token pro Minute (TPM)-Kontingent oder Provisioned Throughput Unit (PTU)-Kontingent aus.
  4. Wählen Sie das Anfragekontingent aus. Füllen Sie den Antrag aus, und übermitteln Sie ihn.

Nach dem Senden

Das Einreichen eines Antrags ist keine Garantie für die Genehmigung. Anfragen werden in der Reihenfolge verarbeitet, in der sie empfangen werden, wobei Kunden, die ihr vorhandenes Kontingent aktiv verwenden, prioritätsberechtigt sind. Eine Anfrage wird möglicherweise verweigert, wenn Sie Ihr vorhandenes Kontingent nicht aktiv verwenden.

Wenn Sie Ihre Anfragen anzeigen möchten, wählen Sie unter der Registerkarte Token pro Minute oder Bereitgestellte Durchsatzeinheit je nach Kontingenttyp Anfrage anzeigen aus.

Wenn Ihr Antrag genehmigt ist, überprüfen Sie Ihr verfügbares Kontingent und weisen Sie es nach Bedarf Bereitstellungen zu.

Das PTU-Kontingent ist ein Grenzwert und keine Kapazitätsreservierung. Das genehmigte Kontingent garantiert nicht, dass die Kapazität in der angeforderten Region verfügbar ist. Überprüfen Sie die Kapazität vor der Bereitstellung oder dem Kauf einer Reservierung. Weitere Informationen finden Sie unter PTU-Kontingent und Kapazität.

Wenn Sie keine Anfrage senden können

Verwenden Sie das Anforderungsformular für die Erhöhung des Legacykontingents. Fügen Sie einen Kommentar ein, der erklärt, dass Sie die Anforderung nicht im Foundry-Portal übermitteln konnten.

Regionale Kapazitätsgrenzen für Kontingente

Sie können die Verfügbarkeit von Kontingenten nach Region für Ihr Abonnement im Foundry-Portal anzeigen.

Informationen zum programmgesteuerten Überprüfen von Kontingenten und Kapazität finden Sie unter Programmgesteuertes Überprüfen des Kontingents und der Kapazität im Kontingentverwaltungshandbuch. Dieser Abschnitt befasst sich mit zwei ergänzenden REST-APIs: der Verwendungs-API für die Überprüfung des Verbrauchs anhand von Grenzwerten und der Modellkapazitäts-API zur Überprüfung der verfügbaren Bereitstellungskapazität nach Modell und Region.

Hinweis

Derzeit geben sowohl das Foundry-Portal als auch die Kapazitäts-APIs Informationen zu Kontingenten und Kapazitäten für Modelle zurück, die außer Dienst gestellt sind und für neue Bereitstellungen nicht mehr verfügbar sind.