Tutoriel : Régir l’accès au modèle d’un agent de codage avec Unity AI Gateway

Dans ce tutoriel, vous connectez un agent de codage externe, tel que Codex, Gemini CLI ou Cursor, à des modèles de langage volumineux régis par Unity AI Gateway. Vous contrôlez ensuite qui peut accéder à ces modèles et combien l’agent peut consommer et dépenser. Au lieu que chaque développeur colle une clé d’API du fournisseur dans son outil, chaque requête transite par un service de modèles Unity AI Gateway model service. Unity Catalog contrôle qui peut utiliser les modèles et Unity AI Gateway applique des limites et enregistre l’utilisation et le coût.

À la fin de ce tutoriel, vous disposez des points suivants :

  • Agent de codage qui envoie chaque requête de modèle via Unity AI Gateway à l'aide de vos informations d'identification Azure Databricks, sans clé API de fournisseur sur l'ordinateur du développeur.
  • Registres centralisés de l’utilisation et des coûts de l’agent, soumis aux limites de débit et aux autorisations que vous définissez sur le service du modèle.

Prerequisites

Étape 1 : Connecter votre agent de codage

Vous pouvez connecter l’agent de deux façons :

  • ucode (recommandé) : Un lanceur open source (Unity AI Gateway Coding CLI) qui gère OAuth et écrit le fichier de configuration de chaque agent, y compris l’URL de base du service de modèle et le modèle. Vous ne gérez pas les clés d’API ni les points de terminaison manuellement.
  • Configuration manuelle : définissez vous-même l’URL de base du service du modèle ainsi que le modèle dans les paramètres intégrés de l’outil (Cursor, Codex ou CLI Gemini). Consultez Intégrer à des agents de codage.

Cette section utilise ucode. Installez-le, puis exécutez l’agent souhaité :

uv tool install git+https://github.com/databricks/ucode

Codex

ucode codex

Pour s’exécuter en mode non-interactif, transmettez l’option de l’agent lui-même via ucode :

ucode codex --full-auto

Gemini CLI

ucode gemini

OpenCode

ucode opencode

Copilot

ucode copilot

Lors de la première exécution, ucode vous êtes invité à entrer l’URL de votre espace de travail et à vous authentifier . Les exécutions ultérieures sont directement dirigées vers l’agent.

Étape 2 : Gérer l’accès de l’agent au modèle

Vous pouvez régir un service de modèle comme n’importe quel autre catalogue Unity sécurisable : accorder EXECUTE pour contrôler qui peut l’utiliser et utiliser Unity AI Gateway pour limiter le volume de demandes et les dépenses. Configurez l’une des options suivantes :

  • Gérez qui peut accéder au modèle : dans l’Explorateur de catalogues, ouvrez le service de modèle et accordez-lui EXECUTE aux utilisateurs ou groupes sous l’onglet Autorisations .
  • Plafonner le volume de requêtes : dans l’Explorateur de catalogues, dans l’onglet Vue d’ensemble du service du modèle, cliquez sur Configurer sous Limites de débit. Définissez une limite de débit de requêtes par minute (QPM) ou de jetons par minute (TPM) pour toutes les requêtes sur le point de terminaison ou par utilisateur.
  • Définir un budget de dépense : un administrateur de compte peut créer un budget limité à tous les points de terminaison Unity AI Gateway. Le budget agrège les dépenses de l’ensemble de vos services de modèle ; définissez un seuil d’alerte afin d’être averti ou de bloquer l’utilisation avant que les coûts ne le dépassent.

Étape 3 : Vérifier que le trafic est régi

Vérifiez que les demandes de l’agent sont acheminées via Unity AI Gateway et sont enregistrées :

  • Depuis l’agent : envoyez un prompt. L’agent répond à l’aide du modèle que vous avez configuré, sans clé API de fournisseur sur votre ordinateur.

  • Dans la table système d’utilisation : interrogez le suivi d’utilisation pour confirmer que votre service de modèle enregistre bien les requêtes :

    SELECT service_name, requester, status_code, COUNT(*) AS calls
FROM system.ai_gateway.usage
WHERE service_type = 'MODEL_SERVICE'
GROUP BY service_name, requester, status_code
ORDER BY calls DESC;

Pour analyser les dépenses plus en détail, voir Analyser le coût de la passerelle Unity AI.

Étapes suivantes

  • Last updated on