Modellversioner i Microsoft Foundry Models

Microsoft Foundry Models släpper regelbundet nya modellversioner som innehåller de senaste funktionerna och förbättringarna från modellleverantörer. Den här artikeln förklarar hur versionshantering av modeller fungerar, vilka uppdateringsprinciper som är tillgängliga för dina distributioner och hur Azure OpenAI- och partnermodellversioner hanteras.

När du har läst den här artikeln vet du vilken uppgraderingsprincip du ska välja när du distribuerar en modell, hur Azure hanterar versionsuppgraderingar automatiskt och hur versionshantering av partnermodeller skiljer sig från Azure OpenAI-modellversioner.

Så här fungerar modellversioner

Du kan välja att börja med en viss modellversion och behålla den, eller automatiskt uppdatera när nya versioner släpps.

Det finns två olika versioner att tänka på när du arbetar med modeller:

  • Versionen av själva modellen.
  • Den version av API:et som används för att förbruka en modellimplementering.

Modellversion

Observera

Följande uppgraderingsvägledning gäller endast för standarddistributionstyper. Information om hur du uppdaterar eller migrerar etablerade distributionstyper finns i dokumentationen för modellhantering.

Du konfigurerar uppdateringsprinciper när du distribuerar en modell i Foundry-portalen. Du kan också ändra principen senare i distributionsinställningarna. Uppdateringsprinciper konfigureras per distribution och varierar beroende på modell och leverantör.

Versionsuppgraderingsprinciper innehåller följande alternativ:

  • Distributioner inställda på väljer bort automatiska uppgraderingar av modellversioner måste uppgraderas manuellt om en ny version släpps. När modellen har dragits tillbaka slutar dessa implementeringar att fungera.
  • Distributioner som är inställda på Uppgradera när den nya standardversionen blir tillgänglig uppdateras automatiskt för att använda den nya standardversionen.
  • Distribueringar som är inställda på att automatiskt uppdateras när deras nuvarande version upphör att gälla, uppdateras automatiskt när versionen dras tillbaka.

"En distribution av gpt-4o kan till exempel rikta in sig på version 2024-08-06." När version 2024-11-20 blir tillgänglig växlar distributioner som är inställda på att uppdateras automatiskt till den nya versionen.

Om du vill kontrollera den aktuella versionen av en distribution använder du någon av följande metoder:

  • Foundry-portalen: Gå till distributionen i Foundry-portalen och öppna sedan fliken Information för att se den aktuella modellversionen.
  • REST API: Fråga distributionsslutpunkten för din resurs. Svaret innehåller modellversionen för varje distribution.

Version av API:et som används för att konsumera en modellutbyggnad

API-versionen anger det kontrakt som du använder för att interagera med modellen i koden. När du använder REST-API:er anger du API-versionen med frågeparametern api-version. Azure SDKs versioner är vanligtvis kopplade till specifika API-versioner, men du kan ange den API-version som du vill använda.

En viss modelldistribution kan ha stöd för flera API-versioner. Versionen av en ny modellversion kräver inte alltid att du uppgraderar till en ny API-version, vilket är fallet när det finns en uppdatering av modellens vikter. Azure underhåller den tidigare huvudversionen av en modell fram till dess tillbakadragningsdatum, så att du kan växla tillbaka till den om det behövs.

Azure OpenAI-modelluppgraderingar

Azure har ett nära samarbete med OpenAI för att släppa nya modellversioner. När en ny version av en modell släpps kan du omedelbart testa den i nya distributioner. Azure publicerar när nya versioner av modeller släpps och meddelar kunderna minst två veckor innan en ny version blir standardversionen av modellen. Azure underhåller också den tidigare huvudversionen av modellen fram till dess slutdatum, så att kunderna kan växla tillbaka till den om så önskas.

Förbereda för Azure OpenAI-modellversionsuppgraderingar

Som kund hos Azure OpenAI-modeller kan du märka några ändringar i modellbeteendet och kompatibiliteten efter en versionsuppgradering. Dessa ändringar kan påverka dina program och arbetsflöden som är beroende av modellerna. Här följer några tips som hjälper dig att förbereda dig för versionsuppgraderingar och minimera påverkan:

  • Läs vad som är nytt och modeller för att förstå ändringar och nya funktioner.
  • Läs dokumentationen om Distribuera Foundry-modeller och versionsuppgraderingar för att förstå hur du arbetar med modellversioner.
  • Testa dina program och arbetsflöden med den nya modellversionen efter lanseringen.
  • Uppdatera din kod och konfiguration för att använda de nya funktionerna i den nya modellversionen.

Kommer en modelluppgradering att ske om den nya modellversionen ännu inte är tillgänglig i den regionen?

Ja, även om den senaste modellversionen ännu inte är tillgänglig i en region uppgraderar Azure distributioner automatiskt under det schemalagda uppgraderingsfönstret. Teknikteamet påbörjar distributionen av den nya modellversionen från och med det angivna uppgraderingsdatumet. Om gpt-4o versionen 2024-11-20 till exempel ännu inte är tillgänglig i Japan, östra, distribuerar Azure teknikteamet version gpt-4o till Japan, östra för att uppgradera äldre modellversioner 2024-11-20 som en del av standardprocessen för modellversionsuppgradering.

Uppgraderingar av partnermodell

Azure har ett nära samarbete med modellleverantörer för att släppa nya modellversioner. När en ny version av en modell släpps kan du omedelbart testa den i nya distributioner.

Nya modellversioner kan resultera i att ett nytt modell-ID publiceras. Till exempel, Meta-Llama-3-70B-Instruct och Meta-Llama-3.1-70B-Instruct drogs båda tillbaka till förmån för Llama-3.3-70B-Instruct. Varje generation använder ett annat modell-ID. I vissa fall kan alla modellversioner vara tillgängliga i samma API-version. I andra fall kan du också behöva justera DEN API-version som används för att använda modellen, eftersom API-kontraktet kan ha ändrats från en modell till en annan.

Vad händer när modeller dras tillbaka

När en modellversion når sitt slutdatum beror vad som händer härnäst på den uppgraderingsprincip som konfigurerats för distributionen:

  • Avregistrera dig från automatiska modellversionsuppgraderingar: Distributionen slutar acceptera begäranden och returnerar fel när modellen har dragits tillbaka. Uppdatera distributionen till en modellversion som stöds före slutdatumet för att undvika avbrott i tjänsten.
  • Uppgradera när den nya standardversionen blir tillgänglig: Distributionen uppdateras automatiskt till den aktuella standardversionen. Ingen åtgärd krävs.
  • När den aktuella versionen upphör att gälla: Distributionen uppdateras automatiskt till nästa tillgängliga version när den aktuella versionen upphör att gälla.

Azure meddelar dig om kommande avvecklingar via e-post till prenumerationsägare och bidragsgivare, Azure Service Health-varningar och kommande avvecklingstabeller i Modellutfasning och avveckling för Microsoft Foundry Models.

Relaterat innehåll

  • Last updated on