Een generatief AI-model gebruiken

De eenvoudigste manier om te communiceren met een geïmplementeerd model is het gebruik van de modelspeeltuin in de Foundry-portal. U kunt de Foundry Playgrounds gebruiken om prompts uit te proberen, modellen te vergelijken en werkinstellingen vast te leggen voordat u code schrijft.

Sleutelconfiguratieparameters

Verschillende modelargumenten of -parameters beïnvloeden het runtimegedrag, de prestaties en de kosten. In de instellingen voor speeltuinen kunt u parameters configureren, zoals temperatuur, maximale uitvoertokens en systeeminstructies. In de chatinterface van de speeltuin kunt u prompts indienen en de antwoorden bekijken die door het model zijn gegenereerd.

• Temperatuur: bepaalt creativiteit versus determinisme.
• Maximaal aantal uitvoertokens - beperkt de antwoordlengte; beïnvloedt het tokenverbruik en de limiterende werking.
• Systeeminstructies : stelt gedrag en rol van het model in.

In tegenstelling tot de gebruikersprompt, wat de aanvraag of vraag van de eindgebruiker is (bijvoorbeeld: Waar moet ik reizen?), stelt een systeemprompt gedrag, toon, hulpmiddelen en kaders voor de assistent in. Een voorbeeld van een systeemprompt is: "U bent een nuttige, stapsgewijze docent. Bronvermeldingen. Medisch advies weigeren."

De speeltuin is een handige brug tussen Foundry en code. Nadat u representatieve prompts hebt getest, kunt u dezelfde systeem- en gebruikersprompts en parameterwaarden in uw code gebruiken. De speeltuin biedt code waarmee uw Foundry-implementatie kan worden aangeroepen via de OpenAI-compatibele Response-API . De code wordt in feite uitgevoerd wanneer u de chatinterface gebruikt om instellingen te configureren en gebruikersprompts te verzenden.

U kunt de code als uitgangspunt nemen voor het maken van uw eigen chatclient.

Een lichtgewicht chatclient maken met behulp van de Foundry SDK

Een lichtgewicht clienttoepassing is een kleine, minimale app waarvan de primaire taak bestaat uit het verzamelen van gebruikersinvoer, het aanroepen van een externe service/API en het weergeven van resultaten, zonder zware UI-frameworks, complexe back-endlogica of grote lokale afhankelijkheden. In de praktijk gebeurt het meestal:

• Wordt uitgevoerd als een CLI (opdrachtregelinterface), een klein bureaubladhulpprogramma of een eenvoudige webpagina.
• Houdt status en reken voornamelijk op de server (het model wordt extern uitgevoerd).
• Heeft een kleine codevoetafdruk en minimale configuratie (vaak alleen omgevingsvariabelen + een kort script).
• Is eenvoudig te prototypen, eenvoudig lokaal uit te voeren en later eenvoudig uit te breiden.

Voor Foundry is een lichtgewicht chatclient vaak een single Python bestand die verbinding maakt met een Foundry-projecteindpunt en chatberichten verzendt naar een geïmplementeerd model. Met de Foundry SDK wordt een Project-client (Foundry-native ops) en een openAI-compatibele client weergegeven voor het aanroepen van modellen via de Response-API. De meeste apps gebruiken beide.

Een Python chatclient bouwen

Nadat u een Foundry-project hebt gemaakt en een chatmodel hebt geïmplementeerd (bijvoorbeeld gpt-4.1), kunt u de Foundry SDK gebruiken. In het voorbeeld gebruikt de clienttoepassing verificatie om verbinding te maken met het eindpunt voor het model, een prompt in te dienen en het antwoord weer te geven.

# pip install openai>=1.3.0
# pip install azure-ai-projects azure-identity openai

import os
from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT']}/openai",
    api_key=os.environ["AZURE_OPENAI_API_KEY"]
)

response = client.responses.create(
    model=os.environ["DEPLOYMENT_NAME"],          # e.g., "gpt-4o-mini"
    input=[{"role": "system", "content": "You're a helpful assistant."},
           {"role": "user", "content": "Summarize the key points from our release notes in 3 bullets."}],
    max_output_tokens=300,
    temperature=0.7
)

print(response.output_text)

Inzicht in het verschil tussen modellen en agents

In Microsoft Foundry zijn generatieve AI-modellen en -agents gerelateerd, maar dienen ze verschillende doeleinden. U kunt het op deze manier zien:

• Modellen = onbewerkte intelligentie
• Agents = ingebouwde, taakgerichte agenten die op deze intelligentie zijn gebouwd

Wanneer u op zichzelf een generatief AI-model gebruikt:

• U wilt pure inferentie: "Gebruik deze prompt om uitvoer te genereren."
• Je experimenteert in de Speeltuin
• U roept het model aan via de OpenAI-antwoorden-API

Leer vervolgens hoe u een agent maakt in Foundry.