Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Microsoft Foundry Models regularnie udostępniają nowe wersje modelu, które zawierają najnowsze funkcje i ulepszenia dostawców modeli. W tym artykule wyjaśniono, jak działa wersjonowanie modeli, jakie zasady aktualizacji są dostępne dla wdrożeń oraz jak zarządza się wersjami modeli Azure OpenAI i partnerów.
Po przeczytaniu tego artykułu dowiesz się, którą zasadę aktualizacji wybrać podczas wdrażania modelu, jak platforma Azure automatycznie zarządza aktualizacjami wersji oraz czym różni się wersjonowanie modeli partnerów od wersjonowania modeli Azure OpenAI.
Jak działają wersje modelu
Możesz rozpocząć pracę z określoną wersją modelu i pozostać na nim lub automatycznie aktualizować w miarę wydawania nowych wersji.
Podczas pracy z modelami należy wziąć pod uwagę dwie różne wersje:
- Wersja samego modelu.
- Wersja interfejsu API używana do korzystania z wdrożenia modelu.
Wersja modelu
Uwaga
Poniższe wskazówki dotyczące aktualizacji mają zastosowanie wyłącznie do wdrożeń typu Standard. Aby uzyskać wskazówki dotyczące aktualizacji lub migracji typów wdrożeń aprowizowanych, zapoznaj się z dokumentacją zarządzania modelami.
Zasady aktualizacji można skonfigurować podczas wdrażania modelu w portalu Foundry. Zasady można również zmienić w dalszej części ustawień wdrożenia. Zasady aktualizacji są konfigurowane na wdrożenie i różnią się w zależności od modelu i dostawcy.
Zasady uaktualniania wersji obejmują następujące opcje:
- Wdrożenia ustawione na rezygnację z automatycznych uaktualnień wersji modelu wymagają ręcznego uaktualnienia , jeśli zostanie wydana nowa wersja. Po wycofaniu modelu te wdrożenia przestaną działać.
- Wdrożenia ustawione na Aktualizuj po udostępnieniu nowej wersji domyślnej są automatycznie aktualizowane, aby korzystać z nowej wersji domyślnej.
- Wdrożenia ustawione na Gdy bieżąca wersja wygaśnie zostaną automatycznie zaktualizowane, gdy ich bieżąca wersja zostanie wycofana.
Na przykład wdrożenie gpt-4o może być ukierunkowane na wersję 2024-08-06. Gdy wersja 2024-11-20 stanie się dostępna, wdrożenia skonfigurowane do automatycznej aktualizacji automatycznie przechodzą na nową wersję.
Aby sprawdzić bieżącą wersję wdrożenia, użyj jednej z następujących metod:
- Portal foundry: przejdź do wdrożenia w portalu Foundry, a następnie otwórz kartę Szczegóły , aby wyświetlić bieżącą wersję modelu.
- REST API: wyślij zapytanie do punktu końcowego wdrożeń dla swojego zasobu. Odpowiedź zawiera wersję modelu dla każdego wdrożenia.
Wersja interfejsu API używana do korzystania z wdrożonego modelu
Wersja interfejsu API wskazuje kontrakt używany do interfejsu z modelem w kodzie. Podczas korzystania z interfejsów API REST należy określić wersję interfejsu API za pomocą parametru zapytania api-version. Azure SDK wersje są zwykle sparowane z określonymi wersjami interfejsu API, ale można określić wersję interfejsu API, której chcesz użyć.
Wdrożenie danego modelu może obsługiwać wiele wersji interfejsu API. Wydanie nowej wersji modelu nie zawsze wymaga przejścia na nową wersję interfejsu API, jak ma to miejsce w przypadku aktualizacji wag modelu. Azure zachowuje poprzednią główną wersję modelu do momentu jej wycofania, dzięki czemu w razie potrzeby można się na nią przełączyć z powrotem.
Aktualizacje modeli Azure OpenAI
Azure ściśle współpracuje z usługą OpenAI w celu wydania nowych wersji modelu. Po wydaniu nowej wersji modelu można go natychmiast przetestować w nowych wdrożeniach. Azure publikuje, gdy są wydawane nowe wersje modeli, i powiadamia klientów co najmniej dwa tygodnie, zanim nowa wersja stanie się domyślną wersją modelu. Azure również utrzymuje poprzednią główną wersję modelu do dnia wycofania, aby klienci mogli w razie potrzeby wrócić do niej.
Przygotowanie do uaktualnień wersji modeli Azure OpenAI
Jako klient Azure modeli OpenAI możesz zauważyć pewne zmiany w zachowaniu modelu i zgodności po uaktualnieniu wersji. Te zmiany mogą mieć wpływ na aplikacje i przepływy pracy, które opierają się na modelach. Poniżej przedstawiono kilka wskazówek, które pomogą Ci przygotować się do uaktualnień wersji i zminimalizować wpływ:
- Przeczytaj co nowego i modele, aby zrozumieć zmiany i nowe funkcje.
- Przeczytaj dokumentację dotyczącą Wdrażania modeli Foundry i aktualizacji wersji, aby dowiedzieć się, jak pracować z wersjami modeli.
- Przetestuj aplikacje i przepływy pracy przy użyciu nowej wersji modelu po wydaniu.
- Zaktualizuj kod i konfigurację, aby korzystać z nowych funkcji i możliwości nowej wersji modelu.
Czy uaktualnienie modelu zostanie wykonane, jeśli nowa wersja modelu nie jest jeszcze dostępna w tym regionie?
Tak, nawet jeśli najnowsza wersja modelu nie jest jeszcze dostępna w regionie, Azure automatycznie uaktualnia wdrożenia w zaplanowanym oknie uaktualniania. Zespół inżynierów rozpoczyna wdrażanie nowej wersji modelu, począwszy od ogłoszonej daty uaktualnienia. Jeśli na przykład gpt-4o wersja 2024-11-20 nie jest jeszcze dostępna w Japonii Wschodniej, zespół inżynierów Azure wdraża gpt-4o wersję 2024-11-20 na Japonii Wschodniej w celu uaktualnienia starszych wersji modelu w ramach domyślnego procesu uaktualniania wersji modelu.
Uaktualnienia modelu partnerskiego
Azure ściśle współpracuje z dostawcami modeli w celu wydania nowych wersji modelu. Po wydaniu nowej wersji modelu można go natychmiast przetestować w nowych wdrożeniach.
Nowe wersje modelu mogą spowodować opublikowanie nowego identyfikatora modelu. Na przykład Meta-Llama-3-70B-Instruct i Meta-Llama-3.1-70B-Instruct zostały wycofane na rzecz Llama-3.3-70B-Instruct. Każda generacja używa innego identyfikatora modelu. W niektórych przypadkach wszystkie wersje modelu mogą być dostępne w tej samej wersji interfejsu API. W innych przypadkach może być również konieczne dostosowanie wersji interfejsu API używanej do korzystania z modelu, ponieważ kontrakt interfejsu API mógł ulec zmianie z jednego modelu na inny.
Co się stanie po wycofaniu modeli
Gdy wersja modelu osiągnie datę wycofania, to, co się stanie dalej, zależy od zasad uaktualniania skonfigurowanych dla tego wdrożenia:
- Rezygnacja z automatycznych uaktualnień wersji modelu: wdrożenie zatrzymuje akceptowanie żądań i zwraca błędy po wycofaniu modelu. Zaktualizuj wdrożenie do obsługiwanej wersji modelu przed datą wycofania, aby uniknąć przerw w działaniu usługi.
- Uaktualnij po udostępnieniu nowej wersji domyślnej: wdrożenie automatycznie aktualizuje bieżącą wersję domyślną. Nie jest wymagana żadna akcja.
- Po wygaśnięciu bieżącej wersji: wdrożenie zostanie automatycznie zaktualizowane do następnej dostępnej wersji po wygaśnięciu bieżącej wersji.
Azure powiadamia Cię o planowanych wycofaniach w wiadomościach e-mail wysyłanych do właścicieli subskrypcji i współpracowników, w alertach Azure Service Health oraz w tabelach dotyczących planowanych wycofań w dokumencie Wycofywanie i wycofanie modeli w usłudze Microsoft Foundry Models.