Utilisation d’un modèle IA génératif

Le moyen le plus simple d’interagir avec un modèle déployé consiste à utiliser le terrain de jeu de modèles dans le portail Foundry. Vous pouvez utiliser les Terrains de jeu Foundry pour essayer des instructions, comparer des modèles et capturer des paramètres de travail avant d’écrire du code.

Paramètres de configuration de clé

Plusieurs arguments de modèle ou paramètres influencent le comportement du runtime, les performances et le coût. Dans les paramètres de terrain de jeu, vous pouvez configurer des paramètres tels que la température, les jetons de sortie maximal et lesinstructions système. Dans l’interface de conversation de terrain de jeu, vous pouvez envoyer des invites et voir les réponses générées par le modèle.

• Température : contrôle la créativité et le déterminisme.
• Nombre maximal de jetons de sortie : limite la longueur de la réponse, et affecte la consommation et le comportement de limitation.
• Instructions système : définit le comportement et le rôle du modèle.

Contrairement à l’invite de l’utilisateur, qui est la demande ou la question de l’utilisateur final (par exemple : Où dois-je voyager ?), une invite système définit le comportement, le ton, les outils et les garde-fous pour l’assistant. Voici un exemple de prompt système : « Vous êtes un tuteur pas à pas utile. Citez les sources. Refuser des conseils médicaux.

Le terrain de jeu est un pont utile entre Foundry et code. Après avoir testé les invites représentatives, vous pouvez utiliser les mêmes invites système et utilisateur et les mêmes valeurs de paramètres dans votre code. Le terrain de jeu fournit le code capable d’appeler votre déploiement Foundry via l’API Réponses compatible OpenAI. Le code est essentiellement ce qui s’exécute lorsque vous utilisez l’interface de conversation pour configurer les paramètres et envoyer des invites utilisateur.

Vous pouvez prendre le code comme point de départ pour créer votre propre client de conversation.

Créer un client de conversation léger à l’aide du Kit de développement logiciel (SDK) Foundry

Une application cliente légère est une application petite et minimale dont le travail principal consiste à collecter les entrées utilisateur, à appeler un service/API distant et à afficher les résultats, sans infrastructures d’interface utilisateur lourdes, logique principale complexe ou dépendances locales volumineuses. En pratique, il se présente généralement de la manière suivante :

• S’exécute sous la forme d’une interface CLI (interface de ligne de commande), d’un petit utilitaire de bureau ou d’une page web simple.
• Conserve l’état et le calcul principalement sur le serveur (le modèle s’exécute à distance).
• Possède une petite empreinte de code et une configuration minimale (souvent simplement des variables d’environnement + un script court).
• Est facile à prototyper, facile à exécuter localement et facile à étendre ultérieurement.

Pour Foundry, un client de messagerie léger est souvent un fichier Python unique qui se connecte à un point de terminaison de projet Foundry et envoie des messages de chat à un modèle déployé. Le SDK Foundry propose un client Project (opérations natives Foundry) et un client compatible avec OpenAI pour appeler des modèles via l’API Réponses. La plupart des applications utilisent les deux.

Créer un client de conversation Python

Après avoir créé un projet Foundry et déployé un modèle de conversation (par exemple, gpt-4.1), vous pouvez utiliser le Kit de développement logiciel (SDK) Foundry. Dans l’exemple, l’application cliente utilise l’authentification pour se connecter au point de terminaison du modèle, envoyer une invite et afficher la réponse.

# pip install openai>=1.3.0
# pip install azure-ai-projects azure-identity openai

import os
from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT']}/openai",
    api_key=os.environ["AZURE_OPENAI_API_KEY"]
)

response = client.responses.create(
    model=os.environ["DEPLOYMENT_NAME"],          # e.g., "gpt-4o-mini"
    input=[{"role": "system", "content": "You're a helpful assistant."},
           {"role": "user", "content": "Summarize the key points from our release notes in 3 bullets."}],
    max_output_tokens=300,
    temperature=0.7
)

print(response.output_text)

Comprendre la différence entre les modèles et les agents

Dans Microsoft Foundry, les modèles et agentsIA génératifs sont liés, mais servent des objectifs différents. Vous pouvez y penser de cette façon :

• Modèles = intelligence brute
• Agents = collaborateurs empaquetés et centrés sur les tâches, basés sur cette intelligence

Lorsque vous utilisez un modèle d’IA générative par lui-même :

• Vous souhaitez une inférence pure : « Prenez ce prompt et générez une sortie ».
• Vous expérimentez dans le terrain de jeu
• Vous appelez le modèle via l’API Réponses OpenAI

Ensuite, découvrez comment créer un agent dans Foundry.