Wdrażaj modele dostrojone w usłudze Microsoft Foundry

Wdróż dostosowany model w portalu Microsoft Foundry przy użyciu rozwiązań bezserwerowych, zarządzanych zasobów obliczeniowych lub Fireworks w narzędziu Foundry. Zacznij od dostosowanego modelu, który jest gotowy do wdrożenia.

Aby zapoznać się z porównaniami wdrożeń, zgodnością modelu i wymaganiami dotyczącymi artefaktów, zobacz omówienie dostrajania i tabelę obsługiwanych modeli.

Prerequisites

• Dostosowany model dostępny w narzędziu Foundry z identyfikatorem modelu i wersją.
• Projekt Foundry, który obsługuje wybraną opcję wdrożenia.
• Rola Właściciel usługi Foundry lub rola z Microsoft.CognitiveServices/accounts/deployments/write w zasobie docelowym. Wykonaj dowolną dodatkową konfigurację dostawcy wymienioną w przykładzie.
• Wystarczający limit przydziału wdrożenia lub pojemność akceleratora w obsługiwanym regionie. Sprawdź dostępność modelu.

Wdrażanie z użyciem Serverless

Wdróż zgodny model dostosowany przy użyciu Serverless. Zapoznaj się z omówieniem dostrajania dla typów wdrożeń obsługiwanych przez model.

1. Otwórz portal Foundry i wybierz projekt.
2. Otwórz widok szczegółów ukończonego zadania dostrajania, a następnie wybierz pozycję Wdróż.
3. Wybierz Serverless.
4. Wprowadź nazwę wdrożenia.
5. Wybierz dostępny typ wdrożenia na podstawie wymagań i skonfiguruj pojemność w ramach dostępnego limitu przydziału.
6. Utwórz wdrożenie, a następnie monitoruj postęp na stronie Modele .

Po zakończeniu wdrażania otwórz Foundry playground i przetestuj model.

Wdróż przy użyciu usługi Managed Compute (wersja zapoznawcza)

Wdróż zgodny model dostosowany za pomocą funkcji Managed Compute. Aby uzyskać informacje o zgodności i opcjach wdrażania, zobacz omówienie dostrajania.

Zanim rozpoczniesz

• Miej dostrojony adapter zgodny z modelem podstawowym i wersją.
• Utwórz wdrożenie podstawowe korzystające z szablonu wdrożenia z obsługą usługi LoRA. Jeśli musisz je utworzyć, postępuj zgodnie z instrukcjami w artykule Wdrażanie modeli typu open source za pomocą zarządzanego środowiska obliczeniowego.
• Ukończ konfigurację uprawnień i limitu przydziału dla Managed Compute.

Wdrażanie w portalu

1. Otwórz projekt w portalu Foundry.
2. Otwórz widok szczegółów ukończonego zadania dostrajania, a następnie wybierz pozycję Deploy.
3. Wybierz Zarządzane obliczenia.
4. Wprowadź nazwę wdrożenia.
5. Wybierz zgodne wdrożenie bazowe.
6. Przejrzyj konfigurację i wybierz pozycję Wdróż.
7. Poczekaj na zakończenie wdrożenia.

Po zakończeniu wdrażania otwórz Foundry playground i przetestuj model.

Wdrażanie za pomocą Fireworks w Foundry (wersja zapoznawcza)

Wdróż zgodny model dostosowany za pomocą Fireworks na platformie Foundry. Aby uzyskać informacje o zgodności i opcjach wdrażania, zobacz omówienie dostrajania.

Zanim rozpoczniesz

• Miej dostosowany model zarejestrowany w narzędziu Foundry i gotowy do wdrożenia w Fireworks.
• Poproś właściciela subskrypcji lub Współautora subskrypcji, aby włączył Fireworks w Foundry.
• Ukończ konfigurację uprawnień programu Fireworks i potwierdź wystarczający limit przydziału w obsługiwanym regionie.

Wdrażanie w portalu

1. Otwórz projekt w portalu Foundry.
2. Otwórz widok szczegółów ukończonego zadania dostrajania, a następnie wybierz pozycję Wdróż.
3. Wybierz „Fajerwerki”.
4. Wprowadź nazwę wdrożenia.
5. Wybierz dostępny typ wdrożenia na podstawie wymagań i skonfiguruj pojemność w ramach dostępnego limitu przydziału.
6. Przejrzyj cennik i warunki dostawcy, a następnie wybierz pozycję Wdróż.
7. Poczekaj na ukończenie przygotowania i wdrożenia modelu.

Po zakończeniu wdrażania otwórz Foundry playground i przetestuj model.

Jeśli model nie jest zarejestrowany i masz lokalne pliki modelu, postępuj zgodnie z instrukcjami w Import custom models with Fireworks. Nie przesyłaj ponownie już zarejestrowanego modelu.

Użyj wdrożonego, dostosowanego modelu

Przetestuj wdrożenie na placu zabaw Foundry z monitem reprezentatywnym dla twojego zadania.

1. Otwórz Playground w projekcie Foundry.
2. Wybierz utworzone dostrojone wdrożenie, a nie wdrożenie modelu podstawowego.
3. Wyślij monit testowy i potwierdź, że model zwraca odpowiedź.

Aby uzyskać powtarzalną ewaluację, zobacz Uruchamianie ocen z poziomu portalu Foundry lub Ewaluacja w chmurze przy użyciu zestawu SDK Microsoft Foundry. Aby porównać kandydatów, zobacz Wyświetl wyniki oceny.

Wyczyść swoje wdrożenie

Usuń wdrożenie serwujące, gdy nie jest już potrzebne.

1. Otwórz stronę Models w portalu Foundry, aby znaleźć deployment.
2. Wybierz utworzone wdrożenie.
3. Wybierz pozycję Usuń i potwierdź usunięcie.

Usuń tylko zasoby obsługujące, które utworzyłeś na potrzeby tego przykładu.

Treści powiązane

• Omówienie dostrajania.
• Uruchom oceny z portalu Foundry.
• Wyświetl wyniki oceny.