Korzystanie z bezserwerowych interfejsów API z innego projektu Microsoft Foundry lub centrum (wersja klasyczna)

Dotyczy tylko:Portal Foundry (klasyczny). Ten artykuł nie jest dostępny w nowym portalu Foundry. Dowiedz się więcej o nowym portalu.

Uwaga

Linki w tym artykule mogą otwierać zawartość w nowej dokumentacji Microsoft Foundry, w przeciwieństwie do dokumentacji Foundry (klasycznej), którą przeglądasz obecnie.

Z tego artykułu dowiesz się, jak skonfigurować istniejące bezserwerowe interfejsy API w innym projekcie lub centrum niż to, które zostało użyte do utworzenia wdrożenia.

Ważne

Modele, które są w wersji zapoznawczej, są oznaczone jako wersja zapoznawcza na kartach modeli w wykazie modeli.

Niektóre modele w wykazie modeli można wdrożyć jako bezserwerowe interfejsy API. Tego rodzaju wdrożenie umożliwia korzystanie z modeli jako interfejsu API bez hostowania ich w ramach subskrypcji, przy jednoczesnym zachowaniu bezpieczeństwa i zgodności przedsiębiorstwa, których potrzebują organizacje. Ta opcja wdrożenia nie wymaga limitu z subskrypcji.

Konieczność korzystania z punktu końcowego bezserwerowych interfejsów API w innym projekcie lub centrum niż ten, który został użyty do utworzenia wdrożenia, może wystąpić w takich sytuacjach:

  • Chcesz scentralizować wdrożenia w danym projekcie lub hubie i korzystać z nich z różnych projektów lub hubów w organizacji.
  • Należy wdrożyć model w centrum w określonym regionie Azure, w którym jest dostępne wdrożenie bezserwerowe dla tego modelu. Należy jednak korzystać z niego z innego regionu, w którym wdrożenie bezserwerowe nie jest dostępne dla określonych modeli.

Wymagania wstępne

  • Subskrypcja Azure z prawidłową formą płatności. Subskrypcje bezpłatne lub próbne Azure nie będą działać. Jeśli nie masz subskrypcji Azure, utwórz płatne konto Azure, aby rozpocząć.

  • Centrum Microsoft Foundry hub, jeśli używasz projektu opartego na hub. Projekt Foundry nie używa huba. Aby uzyskać więcej informacji, zobacz Project types.

  • Jeśli go nie masz, utwórz projekt oparty na centrum.

  • Model wdrożony w bezserwerowych interfejsach API. W tym artykule założono, że wcześniej wdrożono model Meta-Llama-3-8B-Instruct . Aby dowiedzieć się, jak wdrożyć ten model jako bezserwerowy interfejs API, zobacz Wdrażanie modeli jako bezserwerowych interfejsów API.

  • Aby pracować z usługą Foundry, musisz zainstalować następujące oprogramowanie:

    Możesz użyć dowolnej zgodnej przeglądarki internetowej, aby poruszać się po Foundry.

Tworzenie bezserwerowego połączenia punktu końcowego interfejsu API

Wykonaj następujące kroki, aby utworzyć połączenie:

  1. Połącz się z projektem lub centrum, w którym wdrożono punkt końcowy:

    Wskazówka

    Ponieważ możesz dostosować lewe okienko w portalu Microsoft Foundry, możesz zobaczyć inne elementy niż te pokazane w tych krokach. Jeśli nie widzisz szukanych danych, wybierz pozycję ... Więcej w dolnej części okienka po lewej stronie.

    Przejdź do Foundry i przejdź do projektu, w którym jest wdrożony punkt końcowy, z którym chcesz się połączyć.

  2. Pobierz adres URL i poświadczenia punktu końcowego, z którym chcesz nawiązać połączenie. W tym przykładzie uzyskasz szczegółowe informacje dotyczące nazwy punktu końcowego meta-llama3-8b-qwerty.

    1. Na lewym pasku bocznym projektu w portalu Foundry przejdź do pozycji Moje> zasobyModele i punkty końcowe, aby wyświetlić listę wdrożeń w projekcie.

    2. Wybierz wdrożenie, z którym chcesz nawiązać połączenie.

    3. Skopiuj wartości dla docelowego identyfikatora URI i klucza.

  3. Teraz połącz się z projektem lub centrum , w którym chcesz utworzyć połączenie:

    Przejdź do projektu, w którym należy utworzyć połączenie.

  4. Utwórz połączenie w projekcie:

    1. Z poziomu projektu w portalu Foundry przejdź do dolnej części lewego paska bocznego i wybierz pozycję Centrum zarządzania.

    2. Na lewym pasku bocznym centrum zarządzania wybierz pozycję Połączone zasoby.

    3. Wybierz pozycję Nowe połączenie.

    4. Wybierz pozycję Model bezserwerowy.

    5. W polu Docelowy identyfikator URI wklej skopiowaną wcześniej wartość.

    6. W polu Klucz wklej skopiowaną wcześniej wartość.

    7. Nadaj połączeniu nazwę, w tym przypadku meta-llama3-8b-connection.

    8. Wybierz pozycję Dodaj połączenie.

  5. W tym momencie połączenie jest dostępne do użycia.

  6. Aby sprawdzić, czy połączenie działa:

    1. Wróć do projektu w portalu Foundry.

    2. Na lewym pasku bocznym projektu przejdź do pozycji Buduj i dostosuj>Przepływ Monitu.

    3. Wybierz pozycję Utwórz , aby utworzyć nowy przepływ.

    4. Wybierz pozycję Utwórz w polu Przepływ czatu .

    5. Nadaj przepływowi monitu nazwę i wybierz pozycję Utwórz.

    6. Wybierz węzeł czatu z grafu, aby przejść do sekcji czatu.

    7. W polu Połączenie otwórz listę rozwijaną, aby wybrać właśnie utworzone połączenie, w tym przypadku meta-llama3-8b-connection.

    8. Wybierz opcję Rozpocznij sesję obliczeniową na górnym pasku nawigacyjnym, aby uruchomić automatyczne środowisko wykonawcze dla przepływu monitów.

    9. Wybierz opcję Czat . Teraz możesz wysyłać komunikaty i otrzymywać odpowiedzi.

Powiązana zawartość

  • Last updated on