Korzystanie z modelu generatywnej sztucznej inteligencji

Najprostszym sposobem interakcji z wdrożonym modelem jest użycie placu zabaw dla modelu w portalu Foundry. Za pomocą Foundry Playgrounds można wypróbować polecenia, porównać modele i uchwycić ustawienia robocze przed napisaniem jakiegokolwiek kodu.

Kluczowe parametry konfiguracji

Kilka argumentów lub parametrów modelu wpływa na zachowanie środowiska uruchomieniowego, wydajność i koszt. W ustawieniach placu zabaw można skonfigurować parametry, takie jak temperatura, maksymalne tokeny wyjściowe i instrukcje systemowe. W interfejsie czatu w środowisku testowym można przesyłać polecenia i wyświetlać odpowiedzi wygenerowane przez model.

• Temperatura: kontroluje kreatywność a determinizm.
• Maksymalna liczba tokenów wyjściowych — limity długości odpowiedzi; wpływa na użycie tokenów i zachowanie ograniczania przepustowości.
• Instrukcje systemowe — ustawia zachowanie i rolę modelu.

W przeciwieństwie do monitu użytkownika, który jest żądaniem lub pytaniem użytkownika końcowego (na przykład: Gdzie należy podróżować?), monit systemowy ustawia zachowanie, ton, narzędzia i poręcze dla asystenta. Przykładem monitu systemowego jest: "Jesteś pomocnym, krok po kroku nauczycielem. Przytaczaj źródła. Odrzuć porady medyczne."

Plac zabaw jest przydatnym mostem między Foundry a kodem. Po przetestowaniu przykładowych poleceń można użyć tego samego systemu i poleceń użytkownika oraz wartości parametrów w kodzie. Środowisko testowe zawiera kod, który może wywoływać wdrożenie Foundry za pośrednictwem API Responses zgodnego z OpenAI. Kod jest tym, co zasadniczo działa, gdy używasz interfejsu czatu do konfigurowania ustawień i wysyłania komunikatów użytkownika.

Możesz podjąć kod jako punkt wyjścia do utworzenia własnego klienta czatu.

Tworzenie uproszczonego klienta czatu przy użyciu zestawu SDK usługi Foundry

Uproszczona aplikacja kliencka to mała, minimalna aplikacja, której podstawowym zadaniem jest zbieranie danych wejściowych użytkownika, wywoływanie usługi zdalnej/interfejsu API i wyświetlanie wyników bez dużych struktur interfejsu użytkownika, złożonej logiki zaplecza lub dużych zależności lokalnych. W praktyce zazwyczaj:

• Działa jako interfejs wiersza polecenia, mała aplikacja na pulpit lub prosta strona internetowa.
• Utrzymuje stan i obliczenia głównie na serwerze (model działa zdalnie).
• Ma niewielką ilość kodu i minimalną konfigurację (często tylko zmienne środowiskowe + krótki skrypt).
• Jest łatwy w prototypie, łatwy do uruchomienia lokalnie i łatwy do rozszerzenia później.

W przypadku rozwiązania Foundry uproszczony klient czatu jest często single Python plik który łączy się z punktem końcowym projektu Foundry i wysyła wiadomości czatu do wdrożonego modelu. Zestaw SDK Foundry uwidacznia klienta projektu (operacje natywne dla Foundry) i klienta zgodnego z OpenAI dla wywoływania modeli za pośrednictwem API Odpowiedzi. Większość aplikacji używa obu tych aplikacji.

Tworzenie klienta czatu Python

Po utworzeniu projektu Foundry i wdrożeniu modelu czatu (na przykład gpt-4.1) można użyć zestawu SDK rozwiązania Foundry. W tym przykładzie aplikacja kliencka używa uwierzytelniania do łączenia się z punktem końcowym modelu, przesyłania monitu i wyświetlania odpowiedzi.

# pip install openai>=1.3.0
# pip install azure-ai-projects azure-identity openai

import os
from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT']}/openai",
    api_key=os.environ["AZURE_OPENAI_API_KEY"]
)

response = client.responses.create(
    model=os.environ["DEPLOYMENT_NAME"],          # e.g., "gpt-4o-mini"
    input=[{"role": "system", "content": "You're a helpful assistant."},
           {"role": "user", "content": "Summarize the key points from our release notes in 3 bullets."}],
    max_output_tokens=300,
    temperature=0.7
)

print(response.output_text)

Omówienie różnicy między modelami a agentami

W rozwiązaniu Microsoft Foundry generowanie modeli I agentów sztucznej inteligencji jest powiązane, ale służy różnym celom. Można o tym myśleć w ten sposób:

• Modele = nieprzetworzona inteligencja
• Agenty to pakietowane, zadaniowe procesy robocze oparte na inteligencji

W przypadku używania samodzielnie modelu generującego AI:

• Potrzebujesz czystego wnioskowania: "Weź tę podpowiedź i wygeneruj wynik".
• Eksperymentujesz na placu zabaw
• Model jest wywoływany za pośrednictwem OpenAI Responses API

Następnie dowiedz się, jak utworzyć agenta w narzędziu Foundry.