Uso de un modelo de IA generativa

La manera más fácil de interactuar con un modelo implementado es usar el área de juegos de modelos en el portal de Foundry. Puede usar foundry Playgrounds para probar avisos , comparar modelos y capturar la configuración de trabajo antes de escribir cualquier código.

Parámetros clave de configuración

Varios argumentos de modelo o parámetros influyen en el comportamiento, el rendimiento y el costo en tiempo de ejecución. En la configuración del área de juegos, puede configurar parámetros como la temperatura, el máximo de tokens de salida e instrucciones del sistema. En la interfaz de chat del área de juegos, puede enviar mensajes y ver las respuestas generadas por el modelo.

• Temperatura: controla la creatividad frente al determinismo.
• Máximo de tokens de salida: limita la longitud de la respuesta; afecta al consumo de tokens y al comportamiento de limitación.
• Instrucciones del sistema : establece el comportamiento y el rol del modelo.

A diferencia de la solicitud del usuario, que es la solicitud o pregunta del usuario final (ejemplo: ¿Dónde debo viajar?), un mensaje del sistema establece el comportamiento, el tono, las herramientas y los límites de protección para el asistente. Un ejemplo de solicitud del sistema es: "Es un tutor útil, paso a paso. Cita fuentes. Rechazar consejos médicos."

El parque infantil es un puente útil entre Foundry y el código. Después de probar las indicaciones representativas, puede usar los mismos indicadores de sistema y de usuario, y los valores de los parámetros en el código. El área de juegos proporciona código que puede llamar a la implementación de Foundry a través de la API de respuestas compatibles con OpenAI. El código es básicamente lo que se está ejecutando cuando se usa la interfaz de chat para configurar las opciones y enviar mensajes de usuario.

Puede tomar el código como punto de partida para crear su propio cliente de chat.

Creación de un cliente de chat ligero mediante el SDK de Foundry

Una aplicación cliente ligera es una aplicación pequeña y mínima cuyo trabajo principal es recopilar la entrada del usuario, llamar a un servicio remoto o API y mostrar resultados, sin marcos de interfaz de usuario pesados, lógica de back-end compleja o dependencias locales grandes. En la práctica, normalmente:

• Se ejecuta como una CLI (interfaz de línea de comandos), una utilidad de escritorio pequeña o una página web sencilla.
• Mantiene el estado y el proceso principalmente en el servidor (el modelo se ejecuta de forma remota).
• Tiene una superficie de código pequeña y una configuración mínima (a menudo solo variables de entorno + un script corto).
• Es fácil de crear prototipos, fácil de ejecutar localmente y fácil de extender más adelante.

Para Foundry, un cliente de chat ligero suele ser un archivo single Python que se conecta a un punto de conexión del proyecto Foundry y envía mensajes de chat a un modelo implementado. El SDK de Foundry expone un cliente de Project (operaciones nativas de Foundry) y un cliente compatible con OpenAI para llamar a modelos mediante la API de respuestas. La mayoría de las aplicaciones usan ambas.

Creación de un cliente de chat de Python

Después de crear un proyecto foundry e implementar un modelo de chat (por ejemplo, gpt-4.1), puede usar el SDK de Foundry. En el ejemplo, la aplicación cliente usa la autenticación para conectarse al punto de conexión del modelo, enviar un mensaje y mostrar la respuesta.

# pip install openai>=1.3.0
# pip install azure-ai-projects azure-identity openai

import os
from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT']}/openai",
    api_key=os.environ["AZURE_OPENAI_API_KEY"]
)

response = client.responses.create(
    model=os.environ["DEPLOYMENT_NAME"],          # e.g., "gpt-4o-mini"
    input=[{"role": "system", "content": "You're a helpful assistant."},
           {"role": "user", "content": "Summarize the key points from our release notes in 3 bullets."}],
    max_output_tokens=300,
    temperature=0.7
)

print(response.output_text)

Comprender la diferencia entre los modelos y los agentes

En Microsoft Foundry, los modelos y agentes de IA generativos están relacionados, pero sirven para diferentes propósitos. Puede pensar en ello de esta manera:

• Modelos = inteligencia bruta
• Agentes = trabajadores empaquetados y orientados a tareas creados sobre esa inteligencia

Cuando se usa un modelo de IA generativo por su cuenta:

• Quieres una inferencia pura: "Toma esta instrucción y genera la salida".
• Estás experimentando en el área de juegos
• Llame al modelo a través de la API de respuestas de OpenAI.

A continuación, aprenda a crear un agente en Foundry.