Migración de modelos de GitHub a modelos de Microsoft Foundry (clásico)

Visualización actual:Versión - Cambio a la versión del nuevo portal de Foundry

En este artículo, aprenderá a migrar una aplicación de IA generativa del servicio GitHub Models, ya retirado, a Microsoft Foundry Models mediante la implementación de un recurso de Foundry Tools en una suscripción de Azure. Ambos servicios usan la misma API de inferencia, por lo que normalmente solo es necesario cambiar el punto de conexión y las credenciales en el código.

Requisitos previos

Te hace falta:

• Una suscripción Azure con un método de pago válido. Si no tiene una suscripción de Azure, cree un cuenta de Azure de pago para comenzar.
• Los modelos de Foundry de partners y de la comunidad requieren acceso a Azure Marketplace. Asegúrese de que tiene los permisos necesarios para suscribirse a las ofertas de modelo. Los modelos de Foundry comercializados por Azure no tienen este requisito.

Migrar a Foundry Models

A diferencia de GitHub Models, que era gratuito con límites de velocidad, el uso de Foundry Models se factura a la suscripción de Azure en función del tipo de implementación que elija.

Para reemplazar el punto de conexión y el token de GitHub Models por un punto de conexión y una clave de Foundry Models:

1. Inicie sesión en el portal de Foundry con su cuenta de Azure.

   Sugerencia

   Si llega a la experiencia de Foundry (clásico), active el interruptor Nuevo Foundry en la barra de navegación superior derecha para cambiar a la nueva experiencia de Foundry.

2. Siga los pasos descritos en Implementación de un modelo para implementar el modelo que prefiera, probarlo en el área de juegos e inferenciar el modelo implementado con código.

3. En la página principal de Foundry, copie la clave de API y el punto de conexión del proyecto, y utilícelos en lugar del punto de conexión de GitHub Models y del token de acceso personal en su aplicación.

4. Compruebe que la migración funciona enviando un mensaje de prueba desde el área de juegos o desde el código. Si recibe una respuesta, el modelo está listo para usarse.

Uso de los modelos de Foundry en el IDE

El área de juegos de modelos de GitHub ya no está disponible. Para experimentar con modelos del editor, agregue la implementación de Foundry a Visual Studio Code como modelo de lenguaje bring your own key (BYOK):

1. En Visual Studio Code, abra el selector de modelos en la vista Chat y seleccione Administrar modelos de lenguaje (icono de engranaje) o ejecute el comando Chat: Manage Language Models en la paleta de comandos.

2. Seleccione Agregar modelos y, a continuación, seleccione Azure en la lista de proveedores.

3. Escriba un nombre de grupo para los modelos y, a continuación, escriba la dirección URL del punto de conexión y la clave de API que copió del portal de Foundry.

4. Seleccione el modelo en el selector de modelos en el chat.

Como alternativa, seleccione Instalar proveedores de modelos en el editor de modelos de lenguaje e instale la extensión Foundry Toolkit for VS Code , que agrega los modelos locales y hospedados en la nube de Foundry al selector de modelos.

Para obtener más información, consulte Modelos de lenguaje en Visual Studio Code.

Exploración de características adicionales

Foundry Models admite funciones que GitHub Models no ofrecía:

• Model catalog — Examinar, comparar y evaluar modelos de Azure, asociados y la comunidad de código abierto.
• Autenticación sin claves: use Microsoft Entra ID para la autenticación basada en tokens sin administrar claves de API.
• Filtrado de contenido: configure filtros de seguridad de contenido para las implementaciones.
• Limitación de velocidad: establezca límites de velocidad personalizados para modelos específicos en el recurso.
• Tipos de implementación : elija entre varias SKU de implementación, como pago por token, aprovisionado y por lotes.

Solución de problemas comunes

Contenido relacionado

• Desplegar los modelos de Microsoft Foundry en el portal Foundry
• Creación de implementaciones de modelos
• Tipos de implementación para Modelos Foundry