Tutorial: Kontrollieren Sie den Modellzugriff eines Coding-Agenten mit Unity Gateway

In diesem Tutorial verbindest du einen externen Programmieragenten, wie Claude Code, Codex, Cursor oder Gemini CLI, mit großen Sprachmodellen (LLMs), die von Unity Gateway gesteuert werden. Sie steuern dann, wer auf diese Modelle zugreifen kann und wie viel der Agent verbrauchen und ausgeben kann. Anstatt dass jeder Entwickler einen Provider-API-Schlüssel in sein Tool einfügt, wird jede Anfrage über einen Unity Gateway-Modelldienst geleitet. Unity Catalog steuert, wer welche Modelle verwenden darf, und Unity Gateway setzt Limits sowie Datensätze für Nutzung und Kosten fest.

Am Ende dieses Lernprogramms haben Sie Folgendes:

  • Ein Codiereragent, der jede Modellanfrage über Unity Gateway mit deinen Azure Databricks-Zugangsdaten sendet, ohne Provider-API-Schlüssel auf dem Rechner des Entwicklers.
  • Zentrale Aufzeichnungen der Nutzung und Kosten des Agenten, vorbehaltlich der Ratenbegrenzungen und Berechtigungen, die Sie für den Modelldienst festgelegt haben.

Prerequisites

Schritt 1: Verbinden Ihres Codierungs-Agents

Sie können den Agent auf eine von zwei Arten verbinden:

  • Unity Gateway CLI (empfohlen): Ein Open-Source-Launcher, der OAuth verarbeitet und die Konfigurationsdatei jedes Agenten schreibt, einschließlich der Modell-Servicebasis-URL und des Modells. Sie verwalten keine API-Schlüssel oder Endpunkte manuell.
  • Manuelle Konfiguration: Setze die Modell-Servicebasis-URL und modelliere dich selbst in den integrierten Einstellungen des Tools (Claude Code, Codex, Cursor oder Gemini CLI). Siehe Unterstützte Coding-Agenten.

Dieser Abschnitt verwendet die Unity Gateway CLI. Installieren Sie ihn, und führen Sie dann den gewünschten Agent aus:

uv tool install git+https://github.com/databricks/unity-gateway

Claude Code

ug claude

Kodex

ug codex

Um im nicht-interaktiven Modus zu laufen, leiten Sie die eigene Flagge des Agenten durch die Unity Gateway CLI:

ug codex --full-auto

Gemini CLI

ug gemini

OpenCode

ug opencode

Copilot

ug copilot

Beim ersten Durchlauf fragt die Unity Gateway CLI nach Ihrer Workspace-URL und authentifiziert sich; spätere Durchläufe gehen direkt zum Agenten.

Schritt 2: Steuern des Modellzugriffs des Agents

Sie können einen Modellservice wie jedes andere in Unity Catalog absicherbare Objekt verwalten: Erteilen Sie EXECUTE, um zu steuern, wer ihn verwenden kann, und nutzen Sie Unity Gateway, um Anfragevolumen und Kosten zu begrenzen. Richten Sie eine der folgenden Optionen ein:

  • Verwalten Sie, wer auf das Modell zugreifen kann: Öffnen Sie im Katalog-Explorer den Modelldienst, und gewähren EXECUTE Sie Benutzern oder Gruppen auf der Registerkarte "Berechtigungen" .
  • Anfragevolumen begrenzen: Klicken Sie im Catalog Explorer auf der Registerkarte Übersicht des Modelldiensts unter Ratenbegrenzungen auf Einrichten. Legen Sie ein Anfragen-pro-Minute- (QPM) oder Token-pro-Minute- (TPM) Ratenlimit für alle Anfragen am Endpunkt oder pro Benutzer fest.
  • Legen Sie ein Ausgabenbudget fest: Ein Kontoadministrator kann ein Budget erstellen, das auf alle Unity Gateway-Endpunkte zugeschnitten ist. Das Budget fasst die Ausgaben für Ihre Modelldienste zusammen; legen Sie eine Warnschwelle fest, um benachrichtigt zu werden oder die Nutzung zu blockieren, bevor die Kosten diese Schwelle überschreiten.

Schritt 3: Überprüfen Sie, ob der Datenverkehr gesteuert wird

Bestätigen Sie, dass die Anfragen des Agenten über das Unity Gateway geleitet und aufgezeichnet werden:

  • Vom Agenten: Senden Sie einen Prompt. Der Agent antwortet mithilfe des von Ihnen konfigurierten Modells ohne Anbieter-API-Schlüssel auf Ihrem Computer.

  • In der Systemtabelle zur Nutzung: Fragen Sie die Nutzungsverfolgung ab, um zu bestätigen, dass Ihr Modelldienst die Anfragen aufzeichnet:

    SELECT service_name, requester, status_code, COUNT(*) AS calls
    FROM system.ai_gateway.usage
    WHERE service_type = 'MODEL_SERVICE'
    GROUP BY service_name, requester, status_code
    ORDER BY calls DESC;
    

Um die Kosten genauer zu analysieren, finden Sie weitere Informationen unter Unity Gateway-Kosten analysieren.

Nächste Schritte