Hastighetsbegränsningar, regionstöd och företagsfunktioner för utvärdering

Den här artikeln innehåller en översikt över vilka regioner som stöder AI-assisterade utvärderare, de hastighetsgränser som gäller för utvärderingskörningar, hur du konfigurerar stöd för virtuella nätverk för nätverksisolering och hur du använder ditt eget lagringskonto för att köra utvärderingar.

Regional tillgänglighet

Regioner som stöds för utvärderingar i agentens testmiljö

Utvärderingar i agentens testmiljö stöds i följande regioner:

Regioner som stöds för batchutvärderingar

Batchutvärderingarna stöds i följande regioner:

Regioner som stöds för risk- och säkerhetsutvärderingar

Dessa regioner stöder följande säkerhetsutvärderingar: Hat och orättvisa, Sexuell, Våldsam, Självskadebeteende, Indirekt attack, Kodsårbarheter och Ogrundade attribut.

Regioner som stöds för Groundedness Pro:

• USA, östra 2
• Sweden Central

Regioner som stöds för skyddat material:

• USA, östra 2

Regioner som stöds för röd AI-teamindelning

AI-röd teamindelning stöds i följande regioner.

• USA, östra 2
• Norra centrala USA

Regioner som stöds för datagenerering

Följande regioner stöder syntetisk datagenerering och generering av spårning till datamängd:

regional tillgänglighet för Azure OpenAI-bedömare

Den regionala listan för Azure OpenAI-bedömare finns i Regional tillgänglighet.

Hastighetsgränser

Följande frekvensgränser gäller för utvärderingskörningar:

Skapandet av utvärderingskörningar är hastighetsbegränsade på klient-, prenumerations- och projektnivå. Om du överskrider gränsen:

• Svaret innehåller en retry-after rubrik med väntetiden.
• Svarstexten innehåller information om hastighetsbegränsning.

Använd exponentiell backoff när du försöker utföra misslyckade begäranden igen.

Stöd för virtuellt nätverk för utvärdering

För nätverksisolering kan du använda ett eget virtuellt nätverk för utvärdering. Mer information finns i Konfigurera en privat länk.

Stöd för virtuella nätverk för utvärdering kräver nätverksinmatning (delegering av undernät), men om du bara behöver utvärderingsfunktioner och inte behöver fullständigt agentstöd (Cosmos DB, AI Search eller projektkapacitetsvärd) bör du överväga att använda den förenklade konfigurationsmallen för utvärdering (15a) i stället. Den distribuerar en minimal nätverksskyddad miljö som är skräddarsydd för utvärderingsscenarier med färre resurser och minskad komplexitet.

Stöd för virtuell nätverksregion

Du kan ta med ditt eget virtuella nätverk för utvärdering i följande regioner:

Stöd för virtuella nätverk för datagenerering

Datagenerering (syntetisk datagenerering och generering av spårning till datamängd) använder samma nätverksinmatning (undernätsdelegering) och konfigurationsmall för endast utvärdering (15a) som utvärdering. Mer information finns i Konfigurera en privat länk. Regioner som stöds matchar regioner som stöds för datagenerering.

Ta med ditt eget lagringsutrymme

Du kan använda ditt eget lagringskonto för att köra utvärderingar för ditt Foundry-projekt, oavsett om projektet har konfigurerats med ett virtuellt nätverk eller utan något.

För projekt utan ett virtuellt nätverk kan du använda mallen för lagringskontoanslutning. För projekt med ett virtuellt nätverk ingår lagringskonfigurationen redan i konfigurationsmallen för endast utvärdering (15a)..

1. För projekt utan ett virtuellt nätverk skapar och ansluter du ditt lagringskonto till ditt Foundry-projekt på resursnivå. Du kan använda en Bicep mall som etablerar och ansluter ett lagringskonto till ditt Foundry-projekt med nyckelautentisering.
2. Kontrollera att det anslutna lagringskontot har åtkomst till alla projekt.
3. Om du har anslutit ditt lagringskonto med hjälp av Microsoft Entra ID ska du ge den hanterade identiteten Storage Blob Data Owner behörighet till både ditt konto och Foundry-projektresursen i Azure portalen.

Relaterat innehåll

• Så här konfigurerar du en privat länk
• Observerbarhet för generativa AI-program
• Tilldela Azure roller för åtkomst till blobdata