Gouvernance de l’IA avec Unity Gateway

Unity Gateway est la solution de gouvernance Azure Databricks pour l’IA d’entreprise. Basé sur le catalogue Unity, il étend la gouvernance au-delà de vos ressources de données et d’IA aux interactions d’exécution entre les modèles, les agents, les serveurs MCP et les outils. Contrôler quels services IA les équipes peuvent utiliser, acheminer et gérer le trafic IA, définir des garde-fous avec des politiques de service, et surveiller l’utilisation depuis un seul plan de contrôle.

Azure Databricks dessert nativement les grands modèles de langage (LLM) via les API Foundation Model, ce qui permet d’accéder au paiement par jeton à des modèles comme GPT, Claude et Gemini sans infrastructure pour faire tourner. Vous pouvez également connecter des fournisseurs de modèles externes et acheminer vers leurs API via le même contrôle d’accès et gestion du trafic.

Get started

Configurez et appliquez la gouvernance de l’IA sur vos ressources IA, le trafic et le comportement du service.

Sujet Descriptif
Tutoriel : Contrôlez l’accès au modèle d’un agent de codage avec Unity Gateway Acheminez un agent de codage externe via des services de modèles gouvernés, puis contrôlez qui peut accéder aux modèles et plafonnez la consommation et la dépense de l’agent.
Tutoriel : Contrôler l'accès GitHub MCP d'un agent de programmation Limitez l'accès d'un agent de programmation aux outils MCP de GitHub à l'aide des autorisations d'Unity Catalog et d'une stratégie de service intégrée.
Gouvernez les modèles et les MCP avec des GRANT politiques Contrôlez l’accès aux modèles, aux services de modèle, aux services de fournisseur de modèles et aux services MCP dans system.ai à l’aide de balises de gouvernance fournies par le système ou personnalisées.
Tutoriel : ajout de garde-fous de stratégie de service à un service de modèle Implémentez des garde-fous sur un service de modèle à l’aide de stratégies de service intégrées et personnalisées.
Tutoriel : Suivre les dépenses du modèle de fondation par utilisateur, équipe ou projet Identifiez les facteurs de dépense des LLM en attribuant le coût aux utilisateurs, équipes ou projets avec des étiquettes de service et des balises de requête.

Contrôler l’accès aux services d’IA

Inscrivez des ressources IA en tant qu’objets sécurisables du catalogue Unity, puis accordez et révoquez l’accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes éléments sécurisables : un agent est inscrit en tant que modèle catalogue Unity, et les outils qu’il appelle sont régis en tant que services, fonctions et connexions MCP.

Sujet Descriptif
Services de modèles Interrogez les modèles de fondation déployés nativement dans system.ai, sans aucune configuration, et gérez l’accès à l’aide des privilèges Unity Catalog.
Fournisseurs de modèles externes Connectez des fournisseurs tels qu’OpenAI et Anthropic à bring your own key (BYOK), et gérez-les via un seul point de contrôle.
Modèles Gouverner les modèles enregistrés, y compris les modèles de fondation desservis par Azure Databricks, avec les privilèges du catalogue Unity.
Autorisations de modèle de base Limitez les modèles de base fournis par Azure Databricks auxquels votre organisation peut accéder, à l’échelle du compte ou par groupe.
Outils MCP Gérer les serveurs MCP enregistrés en tant qu’objets sécurisables d’Unity Catalog, grâce au filtrage des outils et aux stratégies de service.
Outils personnalisés Régissez les fonctions du catalogue Unity que les agents utilisent en tant qu’outils, avec les mêmes privilèges que ceux que vous utilisez pour les données.
Connexions HTTP Régissez les connexions du catalogue Unity utilisées pour atteindre les API externes et les serveurs MCP.
Créer des services de modèle personnalisés Optionnel : ajoutez vos propres points de terminaison gouvernés si vous avez besoin de modèles autres que les valeurs par défaut prêtes à l’emploi system.ai.

Acheminer et gérer le trafic IA

Unity Gateway aligne les requêtes vers votre modèle et les services MCP depuis un plan de contrôle central, afin que vous puissiez gérer la capacité, la disponibilité et les dépenses entre les fournisseurs.

Sujet Descriptif
Appliquer des limites de débit Appliquez les limites de consommation aux services de modèle et aux services MCP pour gérer la capacité et le coût.
Configurer la répartition du trafic et les mécanismes de basculement Répartir les requêtes entre plusieurs cibles de modèle et mettre en place le basculement pour accroître la disponibilité.
Tâches de codage de routes avec Smart Routing Sélectionnez automatiquement le meilleur modèle et exploitez chaque tâche de codage pour contrôler les dépenses IA sans sacrifier la qualité.
Gérer les budgets Surveillez les dépenses et définissez les seuils par utilisateur et les limites matérielles.

Définir des garde-fous et des stratégies d’accès

Les stratégies de service sont les mécanismes que vous utilisez pour implémenter des garde-fous pour les services IA. Ils contrôlent la manière dont chaque demande et réponse se déroule, en fonction de son contenu et de la personne qui passe l’appel.

Sujet Descriptif
Stratégies de service pour les objets sécurisables d’IA Comment les politiques de service régissent le contenu des requêtes et des réponses aux services d’IA, en utilisant des politiques intégrées, personnalisées et externes.
Créer et attacher une stratégie de service Comment écrire une fonction de politique de service et l’attacher à un service MCP ou un service modèle.
Appliquer un garde-fou partenaire au moyen d’une stratégie de service externe Comment faire respecter les décisions d’un fournisseur tiers de garde-fous sur les services de modèle et MCP grâce à une politique de service externe.

Surveiller l’utilisation, le coût et les risques

Suivez l’activité, les dépenses et les résultats à travers tous les services Unity Gateway.

Sujet Descriptif
Vue d’ensemble de l’observabilité Choisissez le bon outil pour surveiller l’utilisation, le coût, la performance et l’activité de l’IA à travers les services.
Surveiller l’utilisation Suivez les requêtes, l’utilisation des jetons et la latence à travers Unity Gateway à l’aide de tables système.
Analyser le coût Attribuer le coût d’Azure Databricks aux services, aux modèles cibles, aux identités et aux balises.
Auditer les demandes et les réponses Journaliser les requêtes et les réponses dans les tables Delta de Unity Catalog à des fins de surveillance et de débogage.
  • Dernière mise à jour :