Tutorial: Beheer de modeltoegang van een codeeragent met Unity Gateway

In deze tutorial verbind je een externe codeeragent, zoals Claude Code, Codex, Cursor of Gemini CLI, met grote taalmodellen (LLM's) die worden beheerd door Unity Gateway. Vervolgens bepaalt u wie toegang heeft tot deze modellen en hoeveel de agent kan verbruiken en uitgeven. In plaats van dat elke ontwikkelaar een provider-API-sleutel in hun tool plakt, wordt elk verzoek via een Unity Gateway-modelservice geleid. Unity Catalog bepaalt wie welke modellen mag gebruiken, en Unity Gateway handhaaft limieten en registreert het gebruik en de kosten.

Aan het einde van deze zelfstudie hebt u het volgende:

  • Een coding agent die elk modelverzoek via Unity Gateway stuurt met je Azure Databricks-inloggegevens, zonder provider-API-sleutel op de machine van de ontwikkelaar.
  • Centrale records van het gebruik en de kosten van de agent, afhankelijk van de frequentielimieten en machtigingen die u hebt ingesteld voor de modelservice.

Prerequisites

  • Een werkruimte waarvoor Unity Catalog is ingeschakeld. Zie Aan de slag met Unity Catalog.
  • Een modelservice om verkeer naar en EXECUTE erop te routeren. Azure Databricks gehoste modellen zijn standaard beschikbaar als kant-en-klare modelservices. Zie Custom model services. Als u een model wilt beheren dat u zelf beheert, maakt u er eerst een. Zie Een aangepaste modelservice maken .
  • De Azure Databricks CLI, geverifieerd voor uw werkruimte.
  • De URL van uw Azure Databricks werkruimte, in het formulierhttps://<workspace-url>.

Stap 1: Uw coderingsagent verbinden

U kunt de agent op twee manieren verbinden:

  • Unity Gateway CLI (aanbevolen): Een open-source launcher die OAuth verwerkt en het configuratiebestand van elke agent schrijft, inclusief de model service base URL en model. U beheert api-sleutels of eindpunten niet handmatig.
  • Handmatige configuratie: Stel de model service base URL in en modelleer jezelf in de ingebouwde instellingen van de tool (Claude Code, Codex, Cursor of Gemini CLI). Zie Ondersteunde coderingsagenten.

Deze sectie gebruikt de Unity Gateway CLI. Installeer deze en voer vervolgens de gewenste agent uit:

uv tool install git+https://github.com/databricks/unity-gateway

Claude Code

ug claude

Codex

ug codex

Om in niet-interactieve modus uit te voeren, geef je de vlag van de agent zelf door via de Unity Gateway CLI:

ug codex --full-auto

Gemini CLI

ug gemini

OpenCode

ug opencode

Copilot

ug copilot

Bij de eerste run vraagt de Unity Gateway CLI om je workspace-URL en authenticeert dit; latere runs gaan direct naar de agent.

Stap 2: De modeltoegang van de agent beheren

Je kunt een modelservice beheren zoals elke andere Unity Catalog securable: grant EXECUTE om te bepalen wie deze mag gebruiken, en Unity Gateway gebruiken om het aantal verzoeken en uitgaven te beperken. Stel een van de volgende opties in:

  • Beheer wie toegang heeft tot het model: Open in Catalog Explorer de modelservice en verleen EXECUTE aan gebruikers of groepen op het tabblad Machtigingen.
  • Limiet voor aanvraagvolume instellen: klik in Catalog Explorer op het tabblad Overzicht van de modelservice en klik vervolgens onder Aanvraaglimieten op Instellen. Stel een frequentielimiet voor aanvragen per minuut (QPM) of tokens per minuut (TPM) in voor alle aanvragen op het eindpunt of per gebruiker.
  • Stel een uitgavenbudget in: Een accountbeheerder kan een budget maken dat is afgestemd op alle Unity Gateway-eindpunten. Het budget bundelt de uitgaven van al uw modelservices; stel een waarschuwingsdrempel in zodat u een melding ontvangt of het gebruik wordt geblokkeerd voordat de kosten de drempel overschrijden.

Stap 3: controleren of verkeer wordt beheerd

Bevestig dat de verzoeken van de agent via Unity Gateway worden geleid en worden geregistreerd:

  • Vanaf de agent: een prompt verzenden. De agent reageert met behulp van het model dat u hebt geconfigureerd, zonder api-sleutel van de provider op uw computer.

  • Vanuit de tabel van het gebruikssysteem: gebruiksregistratie raadplegen om te bevestigen dat uw modelservice de verzoeken registreert:

    SELECT service_name, requester, status_code, COUNT(*) AS calls
FROM system.ai_gateway.usage
WHERE service_type = 'MODEL_SERVICE'
GROUP BY service_name, requester, status_code
ORDER BY calls DESC;

Om uitgaven in meer detail te analyseren, zie Analysis Unity Gateway cost.

Volgende stappen 

  • Laatst bijgewerkt om