Vue d’ensemble des modèles Microsoft Foundry

Microsoft Foundry Models est votre destination unique pour découvrir, évaluer et déployer des modèles IA puissants. Que vous construisiez un copilote personnalisé, un agent, améliorez une application existante ou explorez de nouvelles fonctionnalités d’IA, Foundry Models vous a couvert.

À l’aide de modèles Foundry, vous pouvez :

• Explorez un catalogue riche de modèles de pointe de Microsoft, Azure OpenAI, Anthropic, DeepSeek, Meta, Mistral, Cohere, Hugging Face, etc.
• Comparez et évaluez des modèles côte à côte à l’aide de tâches réelles et de vos propres données.
• Déployez avec confiance, grâce à des outils intégrés pour l’optimisation, l’observabilité et l’IA responsable.
• Choisissez votre chemin d’accès : apportez votre propre modèle, utilisez un modèle hébergé ou intégrez-en toute transparence aux services Azure.

Que vous soyez développeur, scientifique des données ou architecte d’entreprise, Foundry Models vous offre la flexibilité et le contrôle nécessaires pour créer des solutions IA qui s’adaptent de manière sécurisée, responsable et rapide.

Foundry propose un catalogue complet de modèles IA. Le catalogue comprend plus de 10 000 modèles, avec environ 50 nouveaux modèles publiés chaque mois. Ces modèles vont des modèles de base, des modèles de raisonnement, des modèles de langage de petite taille, des modèles modals, des modèles spécifiques au domaine et des modèles industriels.

Le catalogue de modèles est organisé en deux catégories principales :

• Modèles Foundry vendus par Azure
• Modèles de fabrication provenant de partenaires et de la communauté

La compréhension de la distinction entre ces catégories vous aide à choisir les modèles appropriés pour vos besoins spécifiques et vos objectifs stratégiques.

Modèles vendus par Azure

Microsoft héberge et vend ces modèles sous conditions du produit Microsoft. Microsoft évalue ces modèles et les intègre profondément dans l'écosystème ia de Azure. Les modèles proviennent d’un large éventail de fournisseurs et offrent une intégration améliorée, des performances optimisées et un support direct de Microsoft, y compris des contrats de niveau de service de niveau entreprise (SLA). Pour obtenir la liste détaillée de ces modèles et de leurs fonctionnalités, consultez Les modèles Foundry vendus par Azure.

Caractéristiques des modèles vendus par Azure :

• Microsoft fournit une prise en charge.
• Haut niveau d’intégration avec les services et l’infrastructure Azure.
• Sous réserve d'une analyse interne et d'une révision basées sur les normes d'IA responsable de Microsoft : les modèles vendus directement via Azure subissent les processus d'examen interne de l'IA responsable de Microsoft et les résultats de haut niveau de ces révisions sont reflétés dans la documentation spécifique à chaque modèle du catalogue de modèles disponible à l'adresse https://ai.azure.com/explore/models.
  • Les clients doivent faire référence aux détails de l’évaluation de la documentation pour comprendre les limitations de chaque modèle avant de les intégrer dans des applications.
  • Les clients doivent noter que ces avis ne garantissent pas les atténuations des risques potentiels. Différents modèles présentent différentes caractéristiques de sécurité et les clients doivent examiner attentivement la documentation et effectuer leurs propres évaluations dans le contexte de leurs applications pour s’assurer que les risques sont compris ou atténués avant le déploiement.
• Les rapports de documentation et de transparence des modèles fournissent une visibilité des clients sur les risques, les atténuations et les limitations du modèle.
• Scalabilité, fiabilité et sécurité de niveau entreprise.

Certains de ces modèles offrent également un débit provisionné fongible, ce qui signifie que vous pouvez utiliser de manière flexible votre quota et vos réservations sur l’un de ces modèles. Pour savoir comment Foundry gère les données que vous fournissez aux modèles Foundry vendus par Azure, consultez Data, confidentialité et sécurité des modèles vendus par Azure dans Microsoft Foundry.

Modèles des partenaires et de la communauté

Ces modèles constituent la grande majorité des modèles Foundry. Des organisations tierces approuvées, des partenaires, des laboratoires de recherche et des contributeurs de la communauté sont à l’origine de ces modèles. Ils offrent des fonctionnalités d’IA spécialisées et diverses, couvrant un large éventail de scénarios, d’industries et d’innovations. Les exemples de modèles proposés par des partenaires et par la communauté incluent la famille de grands modèles de langage développés par Anthropic et les modèles ouverts du hub Hugging Face.

Anthropic comprend la famille Claude de modèles de langage de pointe qui prennent en charge l’entrée de texte et d’image, la sortie de texte, les fonctionnalités multilingues et la vision. Pour obtenir de l’aide sur les modèles anthropices, utilisez Support Microsoft. Pour en savoir plus sur la confidentialité, consultez Données, confidentialité et sécurité des modèles Claude dans Microsoft Foundry (aperçu). Pour connaître les termes qui régissent le traitement des données, consultez l’Addenda sur le traitement des données d’Anthropic et les conditions d’utilisation commerciales d’Anthropic. Pour savoir comment travailler avec les modèles Anthropic, consultez Déployer et utiliser des modèles Claude dans Microsoft Foundry.

Hugging Face Hub comprend des centaines de modèles pour l’inférence en temps réel avec le calcul managé. Hugging Face crée et gère les modèles répertoriés dans cette collection. Pour obtenir de l’aide sur les modèles Hugging Face, utilisez le forum Hugging Face ou le support Hugging Face. Découvrez comment déployer des modèles Hugging Face dans Comment déployer et inférer avec un déploiement de calcul managé (classique).

Caractéristiques des modèles des partenaires et de la communauté :

• Développé et pris en charge par des partenaires externes et des contributeurs communautaires
• Diverses gammes de modèles spécialisés qui s’adressent à des niches ou à des cas d’usage larges
• Généralement validé par les fournisseurs eux-mêmes, avec des instructions d’intégration fournies par Azure
• Innovation pilotée par la communauté et disponibilité rapide des modèles de pointe
• Intégration standard Azure IA, avec prise en charge et maintenance gérées par les fournisseurs respectifs

Vous déployez des modèles provenant de partenaires et de la communauté à l’aide des options calcul géré ou déploiement serverless. Le fournisseur de modèles sélectionne la façon dont les modèles sont déployables. Pour en savoir plus sur les différences entre ces options de déploiement, consultez Options de déploiement des modèles : calcul managé et déploiements sans serveur.

Demander à un modèle d’être inclus dans le catalogue de modèles

Demandez que Microsoft ajouter un modèle au catalogue de modèles directement à partir de la page du catalogue de modèles dans le portail Foundry.

1. Accédez à la page du catalogue de modèles.
2. Dans la barre de recherche, recherchez un modèle qui n’existe pas dans le catalogue, tel que mymodel.
3. Sélectionnez Demander un modèle pour partager des détails sur le modèle que vous souhaitez demander.

Choix entre les modèles vendus par Azure et les modèles des partenaires et de la communauté

Lorsque vous sélectionnez les modèles Foundry à utiliser, tenez compte des facteurs suivants :

• Cas d’usage et exigences : les modèles vendus par Azure sont idéaux pour les scénarios nécessitant une intégration approfondie Azure, un support garanti et des contrats SLA d’entreprise. Les modèles des partenaires et de la communauté excellent dans les cas d’usage spécialisés et les scénarios pilotés par l’innovation.
• Support attentes : les modèles vendus par Azure sont fournis avec un support et une maintenance robustes fournis par Microsoft. Les modèles partenaires et communautaires sont pris en charge par leurs fournisseurs, avec différents niveaux de contrat SLA et de structures de support.
• Innovation et spécialisation : Les modèles des partenaires et de la communauté offrent un accès rapide aux innovations spécialisées et aux capacités de niche, souvent développés par des laboratoires de recherche de pointe et des fournisseurs d’IA émergents.

Vue d’ensemble des fonctionnalités du catalogue de modèles

Le catalogue de modèles dans le portail Foundry est le hub pour la découverte et l’utilisation d’un large éventail de modèles pour créer des applications IA génératives. Le catalogue de modèles comprend des milliers de modèles provenant de fournisseurs tels qu’Azure OpenAI, Anthropic, Mistral, Meta, Cohere, NVIDIA et Hugging Face, y compris des modèles que Microsoft a entraînés. Les modèles provenant de fournisseurs autres que Microsoft sont des produits non Microsoft tels que définis dans Microsoft Conditions du produit et sont soumis aux conditions fournies avec les modèles.

Recherchez et découvrez des modèles qui répondent à vos besoins par le biais de la recherche et des filtres de mots clés. Le catalogue de modèles offre également le classement des performances du modèle et les métriques de benchmark pour les modèles sélectionnés. Accédez-y en sélectionnant Afficher le classement etcomparer les modèles. Les données de benchmark sont également disponibles sous l’onglet Benchmarks de la carte de modèle.

Le catalogue de modèles comprend plusieurs filtres, dont certains incluent le filtrage en fonction des éléments suivants :

• Collections : collections de fournisseurs de modèles
• Région : Disponibilité du modèle pour le déploiement dans des régions Azure spécifiques
• Options de déploiement : options de déploiement prises en charge (calcul managé ou API serverless)
• SKU de déploiement : types de déploiement disponibles pour l’option de déploiement d’API sans serveur
• Cycle de vie : cycle de vie du modèle (Aperçu, Disponibilité générale ou Déconseillé)
• Industrie : jeu de données spécifique à l’industrie utilisé pour entraîner des modèles (par exemple, santé, vente au détail ou fabrication)
• Fonctionnalités prises en charge : fonctionnalités de modèle uniques telles que le raisonnement et l’appel d’outils
• Tâches d’inférence : type de tâche d’inférence (par exemple, achèvement de conversation, génération audio ou incorporations)

Voici quelques-uns des détails disponibles dans la carte de modèle :

• Faits rapides : informations clés sur le modèle en un coup d’œil rapide
• Onglet Détails : informations détaillées sur le modèle, telles que la description, les informations de version et le type de données pris en charge
• Onglet Déploiements : liste des déploiements existants pour le modèle
• Onglet Benchmarks : Métriques d’évaluation des performances pour les modèles sélectionnés
• Onglet Licence : Informations légales relatives aux licences de modèle

Options de déploiement de modèle : infrastructures de calcul gérées et déploiements sans serveur

Le catalogue de modèles offre deux options distinctes pour déployer des modèles pour votre utilisation : le calcul managé et les déploiements serverless. Pour en savoir plus sur les options de déploiement, consultez Vue d’ensemble du déploiement pour Microsoft modèles Foundry. Pour savoir comment Foundry gère les données que vous fournissez aux modèles Foundry vendus par Azure, consultez Data, confidentialité et sécurité des modèles vendus par Azure dans Microsoft Foundry.

Fonctionnalités des options de déploiement de modèle

Les options et fonctionnalités de déploiement disponibles pour chaque modèle varient, comme décrit dans le tableau suivant :

Calcul managé

La possibilité de déployer des modèles en tant que calcul managé s’appuie sur les fonctionnalités de plateforme de Azure Machine Learning pour permettre l’intégration transparente de la large collection de modèles dans le catalogue de modèles dans l’ensemble du cycle de vie des opérations LLM (Large Language Model).

Disponibilité des modèles pour le déploiement en tant que calcul managé

Vous pouvez accéder à ces modèles via des registres Azure Machine Learning. Ces registres permettent une approche d’apprentissage automatique pour hébergement et distribution de ressources Azure Machine Learning. Ces ressources incluent les pondérations de modèle, les runtimes de conteneurs pour l’exécution des modèles, les pipelines pour l’évaluation et l’affinage des modèles, et les jeux de données pour les benchmarks et les exemples.

Les registres s’appuient sur une infrastructure hautement évolutive et prête pour l’entreprise qui :

• Fournit un accès à faible latence aux artefacts de modèle dans toutes les régions Azure avec géoréplication intégrée.

• Prend en charge les exigences de sécurité d’entreprise, telles que la limitation de l’accès aux modèles à l’aide de Azure Policy et le déploiement sécurisé à l’aide de réseaux virtuels managés.

Déploiement de modèles pour l’inférence avec le calcul managé

Déployez des modèles pouvant être déployés sur le calcul géré d’Azure Machine Learning pour l’inférence en temps réel. Pour effectuer un déploiement sur un calcul managé, vous avez besoin d’un quota de machines virtuelles dans votre abonnement Azure pour que les produits spécifiques exécutent le modèle de manière optimale. Certains modèles vous permettent de déployer sur un quota temporaire partagé pour les tests du modèle.

En savoir plus sur le déploiement de modèles :

• Pour déployer des modèles ouverts sur un calcul managé, consultez Guide pratique pour déployer et déduire un déploiement de calcul managé (classique).
• Pour déployer des modèles Foundry protégés sur un calcul géré avec facturation à l'utilisation, consultez Deploy Microsoft Foundry Models to managed compute with pay-as-you-go billing (classic).

Création d’applications IA dégénératives avec un calcul managé

La fonctionnalité de flux prompt dans Azure Machine Learning offre une expérience idéale pour le prototypage. Utilisez des modèles déployés avec le calcul managé dans le flux de requête avec l’outil Open Model LLM. Vous pouvez également utiliser l’API REST exposée par le calcul managé dans des outils LLM populaires comme LangChain avec l’extension Azure Machine Learning.

Sécurité du contenu pour les modèles déployés en tant que calcul managé

Le service Azure AI Sécurité du Contenu est disponible pour une utilisation avec un calcul géré pour détecter différentes catégories de contenu nuisible, comme le contenu sexuel, la violence, la haine et les dommages. Vous pouvez également utiliser le service pour détecter les menaces avancées telles que la détection du risque de jailbreak et la détection de texte de matériel protégé.

Pour obtenir une intégration de référence avec Azure AI Sécurité du Contenu pour Llama 2, consultez ce notebook. Vous pouvez également utiliser l’outil Content Safety (Text) dans le flux d’invite pour transmettre des réponses du modèle à Azure AI Sécurité du Contenu pour le filtrage. Vous êtes facturé séparément pour une telle utilisation, comme décrit dans Azure AI Sécurité du Contenu tarification.

Déploiements serverless

Les déploiements serverless permettent de consommer des modèles Foundry en tant qu’API sans les héberger sur votre abonnement. Microsoft héberge les modèles dans une infrastructure managée, ce qui permet l'accès basé sur l'API au modèle du fournisseur de modèles. L’accès basé sur l’API peut réduire considérablement le coût d’accès à un modèle et simplifier l’expérience d’installation.

Les fournisseurs de modèles offrent des modèles pour les déploiements serverless, mais Microsoft les héberge dans une infrastructure de Azure managée et fournit un accès via des API. Les fournisseurs de modèles définissent les termes du contrat de licence et définissent le prix d’utilisation de leurs modèles. Service Azure Machine Learning :

• Gère l’infrastructure d’hébergement.
• Rend les API d’inférence disponibles.
• Agit comme traitement de données pour les requêtes envoyées et la production de contenu pour les déploiements serverless.

Types de déploiement sans serveur

L’option de déploiement serverless pour les modèles Foundry offre deux catégories de déploiement principales : standard (paiement par jeton) et provisionné (capacité réservée). Dans chaque catégorie, vous pouvez choisir un traitement global, une zone de données ou un traitement régional en fonction de vos exigences de conformité.

Les types de déploiement serverless disponibles sont les suivants : Global Standard, Global Provisioned, Global Batch, Data Zone Standard, Data Zone Provisioned, Data Zone Batch, Standard, Regional Provisioned et Developer. Pour en savoir plus sur ces types de déploiement et sur la façon de choisir celui qui convient à votre utilisation, consultez Types de déploiement pour les modèles Microsoft Foundry.

Facturation des déploiements sans serveur

L’expérience de découverte, d’abonnement et de consommation pour les modèles déployés en tant que déploiements serverless se trouve dans le portail Foundry et Azure Machine Learning studio. Les utilisateurs acceptent les termes du contrat de licence pour l’utilisation des modèles. Les informations de tarification pour la consommation sont disponibles pendant le déploiement.

Les modèles foundry des partenaires et de la communauté sont facturés via Place de marché Azure, conformément aux Microsoft conditions d’utilisation de la Place de marché commerciale.

Les modèles Foundry vendus par Azure sont facturés via les compteurs Azure en tant que services de consommation propriétaires. Comme décrit dans les conditions produit, vous achetez des services de consommation de première partie à l'aide des compteurs Azure, mais ils ne sont pas soumis aux conditions de service d'Azure. L’utilisation de ces modèles est soumise aux termes du contrat de licence fourni.

RAG avec des modèles déployés sans serveur

Dans le portail Foundry, utilisez des index vectoriels et une génération augmentée de récupération (RAG) avec des modèles déployés via des déploiements serverless pour générer des incorporations et inférence basées sur des données personnalisées. Utilisez ces incorporations et inférence pour générer des réponses spécifiques à votre cas d’usage. Pour plus d’informations, consultez Construire et consommer des index vectoriels dans le portail Microsoft Foundry (classique).

Sécurité du contenu pour les modèles déployés via des déploiements sans serveur

Pour les modèles de langage déployés via l’API serverless, Azure IA implémente une configuration par défaut de Azure AI Sécurité du Contenu filtres de modération de texte qui détectent du contenu dangereux tel que la haine, l’auto-préjudice, le contenu sexuel et violent. Pour en savoir plus sur le filtrage de contenu, voir Garde-fous et contrôles pour les modèles commercialisés par Azure.

Le filtrage de contenu se produit de façon synchrone lorsque le service traite les invites pour générer du contenu. Vous pouvez être facturé séparément en fonction de Azure AI Sécurité du Contenu tarification pour cette utilisation. Vous pouvez désactiver le filtrage de contenu pour des points de terminaison serverless individuels :

• Au moment où vous déployez d’abord un modèle de langage
• Plus tard, en sélectionnant le bouton bascule de filtrage du contenu sur la page des détails du déploiement

Supposons que vous décidez d'utiliser une API autre que le kit de développement logiciel (SDK) OpenAI Azure avec les API OpenAI v1 Azure pour travailler avec un modèle déployé via une API serverless. Dans ce cas, le filtrage de contenu n'est pas activé, sauf si vous l'implémentez séparément à l'aide de Azure AI Sécurité du Contenu.

Pour commencer à utiliser Azure AI Sécurité du Contenu, consultez Quickstart : Analyser le contenu du texte. Si vous n’utilisez pas de filtrage de contenu lors de l’utilisation de modèles déployés via l’API serverless, vous risquez davantage d’exposer les utilisateurs à du contenu dangereux.

Disponibilité régionale pour les modèles Foundry

La facturation par jeton est disponible uniquement pour les utilisateurs dont l’abonnement Azure appartient à un compte de facturation dans un pays ou une région où le fournisseur de modèles rend l’offre disponible. Si l’offre est disponible dans la région appropriée, l’utilisateur doit disposer d’une ressource de projet dans la région Azure où le modèle est disponible pour le déploiement ou le réglage précis, le cas échéant. Pour connaître la disponibilité régionale des modèles Foundry, consultez :

• Disponibilité des régions pour les modèles Foundry vendus par Azure
• Disponibilité des régions pour les modèles Foundry à partir des partenaires et de la communauté

Isolation réseau pour les modèles déployés dans le cadre de déploiements sans serveur

Les points de terminaison des modèles déployés en tant que déploiements serverless suivent le paramètre d’indicateur d’accès réseau public du hub Foundry qui contient le projet où le déploiement existe. Pour sécuriser votre déploiement serverless, désactivez l’indicateur d’accès réseau public sur votre hub Foundry. Vous pouvez sécuriser la communication entrante d’un client vers votre point de terminaison à l’aide d’un point de terminaison privé pour le hub.

Pour définir l’indicateur d’accès réseau public pour le hub Foundry :

1. Accédez au portail Azure.
2. Recherchez le groupe de ressources auquel appartient le hub, puis sélectionnez votre hub Foundry dans les ressources répertoriées pour ce groupe de ressources.
3. Dans la page vue d’ensemble du hub, dans le volet gauche, accédez à Paramètres>réseau.
4. Sous l’onglet Accès public , configurez les paramètres de l’indicateur d’accès réseau public.
5. Enregistrez vos modifications. La propagation des modifications peut prendre jusqu’à cinq minutes.

Limitations

• Si vous disposez d’un hub Foundry avec un point de terminaison privé créé avant le 11 juillet 2024, les déploiements serverless ajoutés à des projets dans ce hub ne suivent pas la configuration réseau du hub. Au lieu de cela, créez un point de terminaison privé pour le hub et un nouveau déploiement serverless dans le projet afin que les nouveaux déploiements puissent suivre la configuration réseau du hub.

• Si vous disposez d’un hub Foundry avec des déploiements serverless créés avant le 11 juillet 2024 et que vous activez un point de terminaison privé sur ce hub, les déploiements serverless existants ne suivent pas la configuration réseau du hub. Pour que les déploiements serverless dans le hub suivent la configuration réseau du hub, créez à nouveau les déploiements.

• Actuellement, le support pour Azure OpenAI sur vos données n'est pas disponible pour les déploiements serverless dans des hubs privés, car dans ces derniers, l'indicateur d'accès réseau public est désactivé.

• Toute modification de configuration réseau (par exemple, l’activation ou la désactivation de l’indicateur d’accès réseau public) peut prendre jusqu’à cinq minutes pour se propager.

Réglage des modèles

Certains modèles prennent également en charge le réglage précis. Pour ces modèles, vous pouvez utiliser des déploiements de calcul gérés ou sans serveur pour adapter les modèles grâce aux données que vous fournissez. Pour plus d’informations, consultez les modèles Fine-tune avec Microsoft Foundry (classique).  

Cycle de vie du modèle : dépréciation et mise hors service

Les modèles IA évoluent rapidement. Lorsqu’une nouvelle version ou un nouveau modèle avec des fonctionnalités mises à jour dans la même famille de modèles devient disponible, les anciens modèles peuvent être supprimés dans le catalogue de modèles Foundry. Pour permettre une transition fluide vers une version plus récente du modèle, certains modèles permettent aux utilisateurs d’activer les mises à jour automatiques. Pour en savoir plus sur le cycle de vie des différents modèles, les dates de mise hors service des modèles à venir et les modèles de remplacement suggérés et les versions, consultez :

• Cycle de vie des modèles Microsoft Foundry et politique de support
• Calendrier de mise hors service du modèle
• Modèles de fonderie retirés

Contenu connexe

• Accès instantané aux modèles dans Microsoft Foundry (préversion)
• Data, confidentialité et sécurité pour les modèles vendus par Azure dans Microsoft Foundry
• Types de déploiement pour les modèles Microsoft Foundry