Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
In diesem Tutorial verbindest du einen externen Programmieragenten, wie Claude Code, Codex, Cursor oder Gemini CLI, mit großen Sprachmodellen (LLMs), die von Unity Gateway gesteuert werden. Sie steuern dann, wer auf diese Modelle zugreifen kann und wie viel der Agent verbrauchen und ausgeben kann. Anstatt dass jeder Entwickler einen Provider-API-Schlüssel in sein Tool einfügt, wird jede Anfrage über einen Unity Gateway-Modelldienst geleitet. Unity Catalog steuert, wer welche Modelle verwenden darf, und Unity Gateway setzt Limits sowie Datensätze für Nutzung und Kosten fest.
Am Ende dieses Lernprogramms haben Sie Folgendes:
- Ein Codiereragent, der jede Modellanfrage über Unity Gateway mit deinen Azure Databricks-Zugangsdaten sendet, ohne Provider-API-Schlüssel auf dem Rechner des Entwicklers.
- Zentrale Aufzeichnungen der Nutzung und Kosten des Agenten, vorbehaltlich der Ratenbegrenzungen und Berechtigungen, die Sie für den Modelldienst festgelegt haben.
Prerequisites
- Ein Arbeitsbereich, der für den Unity-Katalog aktiviert ist. Weitere Informationen finden Sie unter "Erste Schritte mit Unity-Katalog".
- Ein Modelldienst, an den Datenverkehr weitergeleitet wird, und
EXECUTEdarin. Auf Azure Databricks gehostete Modelle sind standardmäßig als sofort einsatzbereite Modellservices verfügbar. Siehe Custom Model Services. Um ein Modell zu steuern, das Sie selbst verwalten, erstellen Sie zuerst ein Modell. Siehe Erstellen eines benutzerdefinierten Modelldienstes. - Die Azure Databricks CLI, authentifiziert für Ihren Arbeitsbereich.
- Ihre Azure Databricks Arbeitsbereichs-URL im Formular
https://<workspace-url>.
Schritt 1: Verbinden Ihres Codierungs-Agents
Sie können den Agent auf eine von zwei Arten verbinden:
- Unity Gateway CLI (empfohlen): Ein Open-Source-Launcher, der OAuth verarbeitet und die Konfigurationsdatei jedes Agenten schreibt, einschließlich der Modell-Servicebasis-URL und des Modells. Sie verwalten keine API-Schlüssel oder Endpunkte manuell.
- Manuelle Konfiguration: Setze die Modell-Servicebasis-URL und modelliere dich selbst in den integrierten Einstellungen des Tools (Claude Code, Codex, Cursor oder Gemini CLI). Siehe Unterstützte Coding-Agenten.
Dieser Abschnitt verwendet die Unity Gateway CLI. Installieren Sie ihn, und führen Sie dann den gewünschten Agent aus:
uv tool install git+https://github.com/databricks/unity-gateway
Claude Code
ug claude
Kodex
ug codex
Um im nicht-interaktiven Modus zu laufen, leiten Sie die eigene Flagge des Agenten durch die Unity Gateway CLI:
ug codex --full-auto
Gemini CLI
ug gemini
OpenCode
ug opencode
Copilot
ug copilot
Beim ersten Durchlauf fragt die Unity Gateway CLI nach Ihrer Workspace-URL und authentifiziert sich; spätere Durchläufe gehen direkt zum Agenten.
Schritt 2: Steuern des Modellzugriffs des Agents
Sie können einen Modellservice wie jedes andere in Unity Catalog absicherbare Objekt verwalten: Erteilen Sie EXECUTE, um zu steuern, wer ihn verwenden kann, und nutzen Sie Unity Gateway, um Anfragevolumen und Kosten zu begrenzen. Richten Sie eine der folgenden Optionen ein:
-
Verwalten Sie, wer auf das Modell zugreifen kann: Öffnen Sie im Katalog-Explorer den Modelldienst, und gewähren
EXECUTESie Benutzern oder Gruppen auf der Registerkarte "Berechtigungen" . - Anfragevolumen begrenzen: Klicken Sie im Catalog Explorer auf der Registerkarte Übersicht des Modelldiensts unter Ratenbegrenzungen auf Einrichten. Legen Sie ein Anfragen-pro-Minute- (QPM) oder Token-pro-Minute- (TPM) Ratenlimit für alle Anfragen am Endpunkt oder pro Benutzer fest.
- Legen Sie ein Ausgabenbudget fest: Ein Kontoadministrator kann ein Budget erstellen, das auf alle Unity Gateway-Endpunkte zugeschnitten ist. Das Budget fasst die Ausgaben für Ihre Modelldienste zusammen; legen Sie eine Warnschwelle fest, um benachrichtigt zu werden oder die Nutzung zu blockieren, bevor die Kosten diese Schwelle überschreiten.
Schritt 3: Überprüfen Sie, ob der Datenverkehr gesteuert wird
Bestätigen Sie, dass die Anfragen des Agenten über das Unity Gateway geleitet und aufgezeichnet werden:
Vom Agenten: Senden Sie einen Prompt. Der Agent antwortet mithilfe des von Ihnen konfigurierten Modells ohne Anbieter-API-Schlüssel auf Ihrem Computer.
In der Systemtabelle zur Nutzung: Fragen Sie die Nutzungsverfolgung ab, um zu bestätigen, dass Ihr Modelldienst die Anfragen aufzeichnet:
SELECT service_name, requester, status_code, COUNT(*) AS calls FROM system.ai_gateway.usage WHERE service_type = 'MODEL_SERVICE' GROUP BY service_name, requester, status_code ORDER BY calls DESC;
Um die Kosten genauer zu analysieren, finden Sie weitere Informationen unter Unity Gateway-Kosten analysieren.