Unity-Gateway-Konzepte

Unity Gateway vereint Registrierung, Entdeckung und Zugang zu KI-Modellen und -Tools an einem Ort. Kontrollieren Sie, wer sie nutzen kann, überwachen Sie die Nutzung und steuern Sie Kosten zwischen Anwendungen und Agenten.

Unity Gateway nutzt diese Konzepte, um Modelle, Anbieter, Werkzeuge, Fähigkeiten und Leitplanken zu verwalten, die mit Service-Richtlinien implementiert sind:

Wie die Teile zusammenpassen

Rufen Sie einen Modellservice auf, um gpt-astra-6 in Azure Databricks zu erreichen, wobei dasselbe Modell über aws-bedrock als Fallback verfügbar ist. Du kannst Modelle oder Fallbacks ändern, ohne den Namen zu ändern, den deine Anwendung verwendet. Hängen Sie die integrierte Richtlinie zum Sensitivitätsdatenerkennungsdienst an den Modelldienst an, um Anfragen und Antworten für konfigurierte sensible Datenkategorien zu überprüfen.

Aufrufmodelle und Werkzeuge

Ersetzen Sie <workspace-url> und die Beispielnamen durch Ihre eigenen. Siehe den Schnellstart, um DATABRICKS_TOKEN einzurichten.

Modelldienst

Modelldienste unterstützen einheitliche APIs wie OpenAI-kompatible Chat Completions und provider-native APIs wie Anthropic Messages für kompatible Modelle.

Rufen Sie frontier-model mit der einheitlichen Chat Completions API auf. Der Dienst wählt folgendes Modell:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Siehe Query Foundation und Embedding-Modelle für SDK-Beispiele und andere APIs.

Modellanbieter

Rufen Sie über anthropic-prod ein externes Modell unter Verwendung der Anthropic Messages API auf. Der Header wählt die Verbindung aus, und Unity Gateway liefert seine Zugangsdaten:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Siehe Abfrage externer Modellanbieter (Modellanbieterdienste) für unterstützte Anbieter-APIs.

MCP

Liste die über support-tools verfügbaren Tools auf:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Siehe Use MCP tools in a Python agent für Toolaufrufe und Agentenintegrationen.

Unity-Katalog und Zugriffskontrolle

Unity Gateway integriert sich mit Unity Catalog , um zu steuern, wer Dienste erstellt, Anbieter modelliert, sie aufruft oder den Zugriff teilt. Der Unity Catalog regelt außerdem registrierte Modelle, Fähigkeiten und wer Service-Richtlinien anhängen kann.

Unity-Katalog sicherungsfähige Elemente

Modelle, Modelldienste, Modellanbieter, MCPs und Skills sind Unity Catalog Securables: Objekte, für die du Berechtigungen erteilen kannst. Ihre Namen richten sich nach catalog.schema.name, wie production.ai.frontier-model. Azure Databricks bereitgestellte Modelldienste sind in system.airegistriert.

Ein Model Provider ist als Model Provider Service im Unity Catalog registriert. Service-Richtlinien sind an Dienste gebunden und sind keine eigenständigen Sicherungen.

In Unity Catalog ist ein Modell ein gespeichertes Asset: Versionen, Metadaten und Artefakte. Durch die Registrierung wird es nicht aufrufbar. Für externe Modelle registrieren Sie die Modellanbieterverbindung anstelle des Modells.

Schlüsselberechtigungen

Erteile Berechtigungen an Nutzer, Gruppen oder Dienstprinzipalen. Für Modelldienste, Modellanbieter und MCPs unterscheiden die Hauptberechtigungen die Nutzung von der Administration:

Aufrufer benötigen außerdem USE CATALOG und USE SCHEMA für den übergeordneten Katalog und das Schema. Servicerichtlinien schränken autorisierte Anrufe ein. Sie gewähren keinen Zugang. Siehe die Seite jedes Konzepts für die vollständigen Genehmigungsvoraussetzungen.

Get started

Beginnen Sie mit einem einsatzbereiten Modelldienst von system.ai, oder verbinden Sie Ihren Coding-Agenten: