Gouvernance de l’IA avec Unity AI Gateway

Unity AI Gateway est la solution de gouvernance Azure Databricks pour l’IA d’entreprise. Basé sur le catalogue Unity, il étend la gouvernance au-delà de vos ressources de données et d’IA aux interactions d’exécution entre les modèles, les agents, les serveurs MCP et les outils. Contrôlez quels services d’IA les équipes peuvent utiliser, acheminez et gérez le trafic d’IA, mettez en place des garde-fous et surveillez l’utilisation depuis une console d’administration unique.

Azure Databricks dessert nativement les grands modèles de langage (LLM) via les API Foundation Model, ce qui permet d’accéder au paiement par jeton à des modèles comme GPT, Claude et Gemini sans infrastructure pour faire tourner. Vous pouvez également connecter des fournisseurs de modèles externes et acheminer vers leurs API via le même contrôle d’accès et gestion du trafic.

Get started

Configurez et appliquez la gouvernance de l’IA sur vos ressources IA, le trafic et le comportement du service.

Sujet Descriptif
Tutoriel : Gouvernez l’accès au modèle d’un agent de codage avec Unity AI Gateway Acheminez un agent de codage externe via des services de modèles gouvernés, puis contrôlez qui peut accéder aux modèles et plafonnez la consommation et la dépense de l’agent.
Tutoriel : Régir l'accès MCP d'un agent de codage GitHub Limitez l'accès d'un agent de programmation aux outils MCP de GitHub à l'aide des autorisations d'Unity Catalog et d'une stratégie de service intégrée.
Tutoriel : ajout de garde-fous de stratégie de service à un service de modèle Implémentez des garde-fous sur un service de modèle à l’aide de stratégies de service intégrées et personnalisées.
Tutoriel : Suivre les dépenses du modèle de fondation par utilisateur, équipe ou projet Identifiez les facteurs de dépense des LLM en attribuant le coût aux utilisateurs, équipes ou projets avec des étiquettes de service et des balises de requête.

Contrôler l’accès aux services d’IA

Inscrivez des ressources IA en tant qu’objets sécurisables du catalogue Unity, puis accordez et révoquez l’accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes éléments sécurisables : un agent est inscrit en tant que modèle catalogue Unity, et les outils qu’il appelle sont régis en tant que services, fonctions et connexions MCP.

Sujet Descriptif
API de modèles Interrogez les modèles de fondation déployés nativement dans system.ai, sans aucune configuration, et gérez l’accès à l’aide des privilèges Unity Catalog.
Fournisseurs de modèles externes Connectez des fournisseurs tels qu’OpenAI et Anthropic à bring your own key (BYOK), et gérez-les via un seul point de contrôle.
Modèles Gouverner les modèles enregistrés, y compris les modèles de fondation desservis par Azure Databricks, avec les privilèges du catalogue Unity.
Autorisations de modèle de base Limitez les modèles de base fournis par Azure Databricks auxquels votre organisation peut accéder, à l’échelle du compte ou par groupe.
Outils MCP Gérer les serveurs MCP enregistrés en tant qu’objets sécurisables d’Unity Catalog, grâce au filtrage des outils et aux stratégies de service.
Outils personnalisés Régissez les fonctions du catalogue Unity que les agents utilisent en tant qu’outils, avec les mêmes privilèges que ceux que vous utilisez pour les données.
Connexions HTTP Régissez les connexions du catalogue Unity utilisées pour atteindre les API externes et les serveurs MCP.
Créer des API de modèles personnalisées Optionnel : ajoutez vos propres points de terminaison gouvernés si vous avez besoin de modèles autres que les valeurs par défaut prêtes à l’emploi system.ai.

Acheminer et gérer le trafic IA

Unity AI Gateway achemine les demandes vers vos services de modèle et MCP à partir d’un plan de contrôle central, afin de pouvoir gérer la capacité, la disponibilité et les dépenses entre les fournisseurs.

Sujet Descriptif
Appliquer des limites de débit Appliquez les limites de consommation aux services de modèle et aux services MCP pour gérer la capacité et le coût.
Configurer la répartition du trafic et les mécanismes de basculement Répartir les requêtes entre plusieurs cibles de modèle et mettre en place le basculement pour accroître la disponibilité.
Tâches de codage de routes avec Smart Routing Sélectionnez automatiquement le meilleur modèle et exploitez chaque tâche de codage pour contrôler les dépenses IA sans sacrifier la qualité.
Gérer les budgets Surveillez les dépenses et définissez les seuils par utilisateur et les limites matérielles.

Définir des garde-fous et des stratégies d’accès

Les stratégies de service, également appelées garde-fous, contrôlent la façon dont chaque demande et réponse continue, en fonction de son contenu et de la personne qui effectue l’appel.

Sujet Descriptif
Stratégies de service pour les objets sécurisables d’IA La façon dont les stratégies de service régissent le contenu des demandes et des réponses aux services IA, à l’aide de stratégies intégrées et personnalisées.
Créer et attacher une stratégie de service Comment écrire une fonction de politique de service et l’attacher à un service MCP ou un service modèle.

Surveiller l’utilisation, le coût et les risques

Suivez l’activité, les dépenses et les résultats sur tous les services Unity AI Gateway.

Sujet Descriptif
Vue d’ensemble de l’observabilité Choisissez le bon outil pour surveiller l’utilisation, le coût, la performance et l’activité de l’IA à travers les services.
Surveiller l’utilisation Suivez les requêtes, l’utilisation des jetons et la latence à travers la passerelle Unity AI à l’aide de tables système.
Analyser le coût Attribuer le coût d’Azure Databricks aux services, aux modèles cibles, aux identités et aux balises.
Auditer les demandes et les réponses Journaliser les requêtes et les réponses dans les tables Delta de Unity Catalog à des fins de surveillance et de débogage.
  • Last updated on