Ratenbegrenzungen, Regionsunterstützung und Unternehmensfunktionen zur Evaluierung

Dieser Artikel enthält eine Übersicht darüber, welche Regionen KI-unterstützte Bewertungen unterstützen, welche Ratengrenzwerte für Auswertungen gelten, wie Sie die Unterstützung des virtuellen Netzwerks für die Netzwerkisolation konfigurieren und Ihr eigenes Speicherkonto zum Ausführen von Auswertungen verwenden.

Regionale Verfügbarkeit

Unterstützte Regionen für Agent-Spielplatzbewertungen

Die Agent-Spielplatzbewertungen werden in den folgenden Regionen unterstützt:

Amerika Europe
Ost-USA 2 Frankreich Zentral
USA, Westen Norwegen Ost
USA, Westen 2 Schweden Zentral
USA, Westen 3 Deutschland West Central
Central US Italien Nord
Ost-USA Poland Central
Nord-Mittel-USA Spanien Zentral
Süd-Mittel-USA

Unterstützte Regionen für Batchauswertungen

Die Batchauswertungen werden in den folgenden Regionen unterstützt:

Amerika Europe Asia Pacific Naher Osten/Afrika
Brasilien Süd Frankreich Zentral Australia East Südafrika Nord
Kanada Zentral Deutschland West Central Zentralindien UAE North
Kanada Ost Italien Nord Ostasien
Central US Nordeuropa Japan East
Ost-USA Norwegen Ost Japan Westen
Ost-USA 2 Poland Central Korea Central
Nord-Mittel-USA Spanien Zentral Südindien
Süd-Mittel-USA Schweden Zentral Südostasien
Zentralwesten der USA Switzerland North
USA, Westen Vereinigtes Königreich Süd
USA, Westen 2 Westeuropa
USA, Westen 3

Unterstützte Regionen für Risiko- und Sicherheitsbewertungen

Diese Regionen unterstützen die folgenden Sicherheitsevaluatoren: Hass und Unfairness, sexuelle Inhalte, gewalttätige Inhalte, Selbstverletzung, indirekte Angriffe, Code-Sicherheitslücken und nicht fundierte Attribute.

Amerika Europe Asia Pacific
Brasilien Süd Frankreich Zentral Australia East
Kanada Zentral Deutschland West Central
Kanada Ost Italien Nord
Central US Norwegen Ost
Ost-USA Poland Central
Ost-USA 2 Spanien Zentral
Nord-Mittel-USA Schweden Zentral
Süd-Mittel-USA Switzerland North
Zentralwesten der USA Westschweiz
USA, Westen Westeuropa
USA, Westen 3

Unterstützte Regionen für Groundedness Pro:

  • Ost-USA 2
  • Schweden Zentral

Unterstützte Regionen für geschütztes Material:

  • Ost-USA 2

Unterstützte Regionen für KI-Red-Teaming

KI-Red-Teaming wird in den folgenden Regionen unterstützt.

  • Ost-USA 2
  • Nord-Mittel-USA

Hinweis

Informationen zu unterstützten Regionen für lokales Red Teaming finden Sie unter Regionen für AI Red Teaming (klassisch).

Unterstützte Regionen für die Datengenerierung

Die folgenden Regionen unterstützen die Generierung synthetischer Daten und die Trace-to-Dataset-Generierung:

Amerika Europe Asia Pacific Naher Osten/Afrika
Ost-USA Frankreich Zentral Australia East Südafrika Nord
Ost-USA 2 Deutschland West Central Japan East UAE North
Nord-Mittel-USA Italien Nord Südindien
Süd-Mittel-USA Norwegen Ost
USA, Westen Poland Central
USA, Westen 3 Schweden Zentral
Switzerland North
Vereinigtes Königreich Süd
Westeuropa

Regionale Verfügbarkeit von OpenAI-Gradern in Azure

Eine Liste der regionalen Verfügbarkeit für Azure OpenAI-Grader finden Sie unter Regionale Verfügbarkeit.

Ratenbeschränkungen

Die folgenden Grenzwerte gelten für Auswertungsläufe:

Grenzwert Wert
Maximale Größe pro Zeile 2 MB
Maximale Anzahl von Zeilen pro Batchauswertung 100,000

Die Erstellung von Auswertungsausführungen ist auf Mandanten-, Abonnement- und Projektebenen eingeschränkt. Wenn Sie den Grenzwert überschreiten:

  • Die Antwort enthält eine retry-after Kopfzeile mit der Wartezeit.
  • Der Antworttext enthält Details zum Ratelimit.

Verwenden Sie exponentielles Backoff, wenn Sie fehlgeschlagene Anforderungen wiederholen.

Unterstützung für virtuelle Netzwerke für die Auswertung

Für die Netzwerkisolation können Sie Ihr eigenes virtuelles Netzwerk zur Auswertung mitbringen. Weitere Informationen finden Sie unter Konfigurieren eines privaten Links.

Für die Unterstützung des virtuellen Netzwerks für die Auswertung ist eine Netzwerkeinfügung (Subnetzdelegierung) erforderlich. Wenn Sie jedoch nur Auswertungsfunktionen benötigen und keine vollständige Agentunterstützung (Cosmos DB, AI Search oder Projektfunktionshost) benötigen, sollten Sie stattdessen die vereinfachte Setupvorlage "Nur Auswertung" (15a) verwenden. Sie stellt eine minimale netzwerkgeschützte Umgebung bereit, die auf Evaluierungsszenarien mit weniger Ressourcen und geringerer Komplexität zugeschnitten ist.

Hinweis

Wenn Sie Application Insights verbinden, werden Auswertungsdaten an sie gesendet.

Wichtig

Um Auswertungs- und Red-Teaming-Ausführungsfehler zu verhindern, weisen Sie der verwalteten Projektidentität bei der anfänglichen Projekteinrichtung die Rolle „Foundry-Benutzer“ zu.

Wichtig

Die Foundry-RBAC-Rollen wurden kürzlich umbenannt. Foundry User, Foundry Owner, Foundry Account Owner und Foundry Project Manager wurden zuvor Azure KI-Benutzer, Azure KI-Besitzer, Azure KI-Kontobesitzer und Azure AI Project Manager benannt. Möglicherweise werden die vorherigen Namen an einigen Stellen weiterhin angezeigt, während der Umbenennungsrollout ausgeführt wird. Die Rollen-IDs und Kernberechtigungen bleiben durch die Umbenennung unverändert.

Unterstützung für virtuelle Netzwerkregionen

Sie können Ihr eigenes virtuelles Netzwerk zur Auswertung in den folgenden Regionen mitbringen:

Amerika Europe Asia Pacific Naher Osten/Afrika
Brasilien Süd Frankreich Zentral Australia East Südafrika Nord
Kanada Zentral Deutschland West Central Japan East UAE North
Kanada Ost Italien Nord Korea Central
Ost-USA Norwegen Ost Südindien
Ost-USA 2 Poland Central Südostasien
Nord-Mittel-USA Spanien Zentral
Süd-Mittel-USA Schweden Zentral
USA, Westen Switzerland North
USA, Westen 2 Vereinigtes Königreich Süd
USA, Westen 3 Westeuropa

Unterstützung des virtuellen Netzwerks für die Datengenerierung

Die Datengenerierung (Generierung synthetischer Daten und Generierung von Datensätzen aus Ablaufverfolgungen) verwendet dieselbe Netzwerkinjektion (Subnetzdelegierung) und Vorlage für die Nur-Auswertungs-Einrichtung (15a) wie die Auswertung. Weitere Informationen finden Sie unter Konfigurieren eines privaten Links. Unterstützte Regionen stimmen mit unterstützten Regionen für die Datengenerierung überein.

Bringen Sie Ihren eigenen Speicher mit

Sie können Ihr eigenes Speicherkonto verwenden, um Auswertungen für Ihr Foundry-Projekt auszuführen, unabhängig davon, ob das Projekt mit einem virtuellen Netzwerk oder ohne eins konfiguriert ist.

Für Projekte ohne virtuelles Netzwerk können Sie die Verbindungsvorlage für Speicherkonten verwenden. Bei Projekten mit einem virtuellen Netzwerk ist das Speichersetup bereits in der Setupvorlage "Nur-Auswertung" (15a) enthalten.

  1. Für Projekte ohne virtuelles Netzwerk erstellen und verbinden Sie Ihr Speicherkonto mit Ihrem Foundry-Projekt auf Ressourcenebene. Sie können eine Bicep-Vorlage verwenden, die ein Speicherkonto mit Ihrem Foundry-Projekt mit der Schlüsselauthentifizierung verbindet.
  2. Stellen Sie sicher, dass das verbundene Speicherkonto Zugriff auf alle Projekte hat.
  3. Wenn Sie Ihr Speicherkonto mithilfe von Microsoft Entra ID verbunden haben, stellen Sie sicher, dass Sie der verwalteten Identität Storage Blob Data Owner Berechtigungen für Ihr Konto und die Foundry-Projektressource im Azure-Portal erteilen.