Implementar adaptadores LoRA con ajuste fino en un proceso administrado (versión preliminar)

Importante

Los elementos marcados como versión preliminar en este artículo se encuentran actualmente en versión preliminar. Esta versión preliminar se proporciona sin un contrato de nivel de servicio y Microsoft no lo recomienda para cargas de trabajo de producción. Es posible que algunas características no se admitan o que tengan funcionalidades restringidas. Para obtener más información, vea Términos de uso complementarios para las versiones preliminares de Microsoft Azure.

Implemente uno o varios adaptadores de adaptación de bajo rango (LoRA) producidos por el ajuste fino de Foundry en una implementación de destino de proceso administrado compatible. Puede implementar un adaptador, probarlo y adjuntar más adaptadores a la misma implementación de destino.

Este artículo solo se aplica a los adaptadores de LoRA producidos como salida de ajuste fino en Foundry. Para conocer la terminología, la arquitectura, el comportamiento de inferencia compartida, el ciclo de vida, la facturación y los límites, consulte Descripción general de la implementación del adaptador para el cómputo administrado.

Prerequisites

  • Una suscripción Azure y un proyecto Foundry.

  • Un adaptador loRA registrado producido por el ajuste preciso en Foundry y visible en la página Modelos del proyecto.

  • Permiso para administrar implementaciones en la cuenta de Foundry, como el rol Propietario de Foundry o Colaborador de Cognitive Services . También necesita acceso al modelo de adaptador registrado.

    Importante

    Recientemente se cambió el nombre de los roles RBAC de Foundry. Foundry User, Foundry Owner, Foundry Account Owner y Foundry Project Manager se llamaban anteriormente Usuario de Azure AI, Propietario de Azure AI, Propietario de la cuenta de Azure AI y Administrador de proyectos de Azure AI. Es posible que siga viendo los nombres anteriores en algunos lugares mientras se implementa el cambio de nombre. El cambio de nombre no modifica los identificadores de rol y los permisos principales.

  • Rol De usuario de Foundry en la cuenta para la inferencia con Microsoft Entra ID. Consulte Control de acceso al cómputo administrado.

  • Hay un modelo base compatible y una plantilla de implementación habilitada para LoRA disponibles en su región.

  • Suficiente cuota de proceso administrado para la familia de aceleradores y la región de la implementación de destino. Puede seleccionar una implementación de destino existente o crear una durante la implementación del adaptador.

La versión preliminar de cómputo administrado no incluye el filtrado de contenido integrado. Revise sus limitaciones y los requisitos de seguridad de la aplicación antes de la implementación.

Implementar adaptadores en el portal

Comience desde un adaptador loRA registrado producido por el ajuste fino en Foundry. Puede encontrar el adaptador en Crear>Modelos o empezar desde la pestaña Ajuste preciso.

Una implementación de destino admite hasta ocho implementaciones de adaptadores.

1. Seleccione el adaptador e inicie el flujo de implementación.

En el portal de Foundry, use uno de estos puntos de entrada:

  • Abra Crear>Modelos, seleccione el adaptador LoRA que desea implementar y, a continuación, seleccione Implementar. Este punto de entrada abre directamente el flujo de implementación de cómputo administrado.
  • Abra la pestaña Ajuste preciso, seleccione el adaptador generado por el trabajo de ajuste preciso completado y, a continuación, seleccione Implementar. Seleccione Proceso administrado en las opciones de implementación disponibles.

2. Seleccione o cree la implementación de destino

Un adaptador registrado no necesita sus propios recursos de computación, pero necesita una implementación de destino compatible para atender solicitudes. Selecciónelo en el campo Implementación de destino.

  • Si ya existe una implementación de destino compatible habilitada para LoRA, selecciónela en Implementación de destino y continúe con Implementar el adaptador.
  • Si no existe ningún despliegue compatible, cree un despliegue de destino dentro del flujo de despliegue del adaptador.

La ventana de creación de la implementación de destino tiene habilitada la compatibilidad con LoRA de forma predeterminada. Para crear el despliegue:

  1. Seleccione una plantilla de despliegue habilitada para LoRA.
  2. Revise los detalles de la plantilla, incluido el entorno de ejecución de inferencia, el identificador de modelo y el identificador de plantilla de implementación.
  3. Seleccione el tipo acelerador, como H100, que coincida con la plantilla seleccionada.
  4. Complete la configuración de implementación de destino y seleccione Implementar.
  5. Espere a que la implementación de destino termine de aprovisionarse. Esta operación puede tardar varios minutos. Cuando se completa el aprovisionamiento, el campo Implementación de destino se rellena automáticamente.

Para obtener más información sobre la configuración y la capacidad de la implementación de destino, consulte Implementar los modelos de código abierto con proceso administrado.

3. Implementar el adaptador

  1. Escriba un nombre de implementación del adaptador, como qwen-support. Usa un nombre único dentro de la cuenta y diferente del nombre de la implementación de destino.
  2. Revise el destino de implementación seleccionado y seleccione Implementar.
  3. Espere a que se complete la implementación del adaptador. El adaptador desplegado aparece en la lista de despliegue del adaptador.

Los nombres de implementación del adaptador pueden contener entre 1 y 64 letras, números, puntos, caracteres de subrayado o guiones. Inicie el nombre con una letra o un número.

Seleccione el adaptador implementado para abrir sus detalles. Desde esta página, puedes:

  • Ábralo en el entorno de pruebas.
  • Agréguelo a un agente.
  • Consulte los detalles del punto de conexión de inferencia y los detalles de autenticación.
  • Vea su implementación de destino.
  • Copie un fragmento de código para llamar al adaptador.
  • Use la configuración rápida para Visual Studio Code.

Abra el adaptador en el área de juegos y envíe una solicitud relevante para su tarea de ajuste preciso. Use el fragmento de código de la implementación del adaptador para probarlo desde la aplicación. Llamar solo al despliegue de destino no prueba el adaptador.

4. Implementar más adaptadores en la misma implementación de destino

Para compartir una implementación de destino entre adaptadores:

  1. Seleccione otro adaptador compatible en Crear>Modelos y seleccione Implementar.
  2. Asígnele un nombre de implementación diferente, como qwen-finance.
  3. Seleccione la misma implementación de destino en Implementación de destino.
  4. Seleccione Implementar y espere a que se complete la implementación.
  5. Abra los detalles de la implementación de destino para confirmar que se muestran ambas implementaciones de adaptador.

Esta configuración es una implementación multi-LoRA. Cada adaptador tiene su propio nombre de implementación, pero ambos comparten el punto de conexión de cómputo e inferencia de la implementación de destino.

Probar un adaptador con finalizaciones de chat

Una vez que la implementación del adaptador alcanza el estado de aprovisionamiento Succeeded, envíe una solicitud a la ruta chat-completions compatible con OpenAI. Copie el punto de conexión de la cuenta desde los detalles de implementación del adaptador en el portal. Para la autenticación de Microsoft Entra ID, adquiera un token de acceso para el scope https://ai.azure.com/.default.

Establezca model en el nombre de implementación del adaptador, no en el nombre de implementación de destino. El servicio usa este valor para seleccionar el adaptador y resuelve internamente su despliegue de destino.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

La respuesta sigue el esquema de respuesta de finalizaciones de chat y devuelve el nombre de implementación del adaptador seleccionado en model. Para probar el segundo adaptador en el ejemplo multi-LoRA, cambie model a qwen-finance y envíe una solicitud para su tarea ajustada mediante fine-tuning. La solicitud no requiere un api-version parámetro de consulta.

Implemente y administre adaptadores con REST

Utilice REST para crear y gestionar implementaciones de adaptadores con la versión de API 2026-09-15-preview.

Cree una implementación de adaptador proporcionando su identificador de modelo de origen registrado y el nombre de implementación de destino. Use un token de acceso para Azure Resource Manager en la cabecera de autorización; consulte Administrar recursos de Azure con REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

La implementación es asincrónica. Sondee la dirección URL devuelta en Azure-AsyncOperation, respetando retry-after, hasta que la operación se complete correctamente o falle. Confirme que properties.provisioningState es Succeeded antes de probar el adaptador.

Compruebe el estado de una implementación del adaptador:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Enumere los adaptadores asociados a una implementación de destino:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

La respuesta está paginada; sigue nextLink hasta que deje de aparecer.

Eliminar una implementación del adaptador:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

La eliminación también puede ser asincrónica. Para obtener una respuesta 202, siga la dirección URL de la operación hasta que se complete la eliminación. Una 204 respuesta no requiere más sondeos.

Administrar y limpiar despliegues

Administre cada adaptador por su nombre de implementación. Para mover un adaptador a una implementación de destino compatible diferente, actualice targetDeploymentName mientras mantiene el mismo sourceModelId. Espere a que la actualización se realice correctamente antes de confiar en la nueva implementación de destino.

No se puede cambiar la versión del modelo de origen de la implementación del adaptador existente. Para implementar una nueva versión con ajuste preciso, cree una nueva implementación de adaptador con un nombre diferente, o elimine y vuelva a crear la implementación existente.

Elimine una implementación de adaptador cuando ya no necesite ponerla en servicio. Use la solicitud de eliminación de REST en Implementar y administrar adaptadores con REST.

La eliminación de una implementación del adaptador no elimina su versión de modelo registrada ni la implementación de destino. Otros adaptadores siguen usando el cómputo compartido.

Elimine todas las implementaciones de adaptador asociadas antes de eliminar una implementación de destino que haya creado para este ejercicio. Si agregó el adaptador opcional qwen-finance , elimínelo también. No elimine una implementación de destino compartida que todavía necesiten otras aplicaciones.

Antes de eliminar una versión del modelo de adaptador registrado, quite los despliegues de adaptador que la usan.

Escale el proceso compartido a través de la implementación de destino. Un cambio de capacidad afecta al cómputo compartido por sus adaptadores.

Troubleshoot

Compruebe el registro del adaptador, la compatibilidad del modelo base y el estado de implementación antes de volver a intentarlo.

Síntoma Elementos que se deben comprobar
El adaptador no aparece en Modelos Confirme que el adaptador está registrado en el proyecto seleccionado. Finalizar el entrenamiento solo no es suficiente.
No se puede desplegar un adaptador Confirme que el adaptador está registrado como la salida de un trabajo de ajuste fino de Foundry. Este flujo solo admite adaptadores producidos por ajuste preciso en Foundry.
No aparece ningún despliegue en Despliegue de destino Cree una implementación de destino compatible habilitada para LoRA dentro del flujo de implementación del adaptador.
No aparece ninguna plantilla compatible Confirme que una plantilla habilitada para LoRA está disponible para el modelo y la región. Una plantilla sin compatibilidad con LoRA no puede hospedar el adaptador.
La creación de la implementación de destino falla por un error de cuota Compruebe la familia de aceleradores, la región y el recuento de instancias. Solicite cuota de proceso administrado si es necesario.
El adaptador y el modelo base no coinciden Compare el modelo base exacto y la versión que se usan para el ajuste fino con el modelo base implementado.
El adaptador supera un límite de plantilla. Compruebe el número de adaptadores, el rango de LoRA y los requisitos de memoria con respecto a los límites admitidos de la plantilla seleccionada.
Una respuesta se parece al modelo base Confirme que la implementación del adaptador se completó y que está probando el adaptador, no solo la implementación de destino. Usa el fragmento de código del portal del adaptador.
La versión del modelo de origen no se puede actualizar Cree un nuevo despliegue del adaptador o elimine y vuelva a crear el existente. La versión del modelo de origen está fija para una implementación existente.

Contenido relacionado

Más información sobre las implementaciones de adaptadores, las implementaciones de destino, el cómputo compartido y otras opciones de implementación de modelos optimizados:

  • Se actualizó por última vez el