KI-Governance mit Unity Gateway

Unity Gateway ist die Azure Databricks Governance-Lösung für Enterprise-KI. Basierend auf Unity Catalog erweitert es die Governance über Ihre Daten- und KI-Ressourcen hinaus auf die Laufzeitinteraktionen zwischen Modellen, Agents, MCP-Servern und Tools. Steuern Sie, welche KI-Dienste Teams nutzen können, leiten und verwalten Sie den KI-Datenverkehr, setzen Sie mit Servicerichtlinien Leitlinien fest und überwachen Sie die Nutzung über eine zentrale Steuerungsebene.

Azure Databricks bedient große Sprachmodelle (LLMs) nativ über Foundation Model APIs, sodass Sie Pay-per-Token-Zugriff auf Modelle wie GPT, Claude und Gemini erhalten, ohne Infrastruktur zu betreiben. Sie können auch externe Modellanbieter anbinden und ihre APIs über dieselbe Zugriffssteuerung und dasselbe Traffic-Management weiterleiten.

Get started

Richten Sie KI-Governance für Ihre KI-Ressourcen, Ihren Datenverkehr und das Verhalten Ihrer Dienste ein und wenden Sie sie an.

Thema Description
Tutorial: Kontrollieren Sie den Modellzugriff eines Coding-Agenten mit Unity Gateway Leiten Sie einen externen Programmier-Agenten über verwaltete Modelldienste, steuern Sie anschließend, wer auf Modelle zugreifen kann, und begrenzen Sie die Nutzung und die Ausgaben des Agenten.
Tutorial: Kontrolliere den GitHub-MCP-Zugriff eines Coding-Agenten Beschränken Sie den Zugriff eines Codierungs-Agents auf GitHub MCP-Tools mithilfe von Unity-Katalogberechtigungen und einer integrierten Dienstrichtlinie.
Modelle und MCPs mit GRANT Richtlinien verwalten Den Zugriff auf Modelle, Modelldienste, Modellanbieterdienste und MCP-Dienste in system.ai mit vom System bereitgestellten oder benutzerdefinierten Governance-Tags regeln.
Tutorial: Fügen Sie einem Modelldienst Leitplanken für Dienstrichtlinien hinzu Implementieren Von Schutzschienen auf einem Modelldienst mithilfe integrierter und benutzerdefinierter Dienstrichtlinien.
Tutorial: Verfolgen Sie die Ausgaben des Foundation-Modells nach Nutzer, Team oder Projekt Identifizieren Sie LLM-Ausgabetreiber, indem Sie Kosten Nutzern, Teams oder Projekten mit Service-Tags und Anfrage-Tags zuweisen.

Kontrolliere den Zugang zu KI-Diensten

Registrieren Sie KI-Objekte als sicherungsfähige Objekte im Unity-Katalog, gewähren und widerrufen Sie dann den Zugriff mit denselben Berechtigungen, die Sie für Tabellen und Volumes verwenden. Agenten werden über dieselben Sicherheitsmechanismen gesteuert: Ein Agent wird als Unity Catalog-Modell registriert, und die von ihm aufgerufenen Tools werden als MCP-Dienste, -Funktionen und -Verbindungen gesteuert.

Thema Description
Modelldienste Fragen Sie in system.ai nativ bereitgestellte Foundation-Modelle ohne Einrichtung ab und verwalten Sie den Zugriff über Unity Catalog-Berechtigungen.
Externe Modellanbieter Verbinde Anbieter wie OpenAI und Anthropic mit bring your own key (BYOK) und steuere sie über einen Kontrollpunkt.
Modelle Verwalten Sie registrierte Modelle, einschließlich von Azure Databricks bereitgestellter Foundation-Modelle, mit Unity Catalog-Berechtigungen.
Basismodellberechtigungen Beschränken Sie den Zugriff Ihrer Organisation auf die von Azure Databricks bereitgestellten Foundation-Modelle – kontenweit oder pro Gruppe.
MCP-Tools Steuern Sie MCP-Server, die als geschützte Objekte im Unity Catalog registriert sind, mit Toolfilterung und Service-Richtlinien.
Benutzerdefinierte Tools Steuern Sie die Unity-Katalogfunktionen, die Agents als Tools verwenden, mit denselben Berechtigungen, die Sie für Daten verwenden.
HTTP-Verbindungen Steuern Sie die Unity-Katalogverbindungen, die verwendet werden, um externe APIs und MCP-Server zu erreichen.
Erstellen von benutzerdefinierten Modelldiensten Optional: Füge eigene verwaltete Endpunkte hinzu, wenn du Modelle über die einsatzbereiten system.ai Standardwerte hinaus brauchst.

KI-Datenverkehr steuern und verwalten

Unity Gateway leitet Anfragen von einer zentralen Kontrollebene an Ihr Modell und MCP-Dienste weiter, sodass Sie Kapazität, Verfügbarkeit und Ausgaben über verschiedene Anbieter hinweg verwalten können.

Thema Description
Anwenden von Ratenlimits Erzwingen Sie Verbrauchsbeschränkungen für Modelldienste und MCP-Dienste, um Kapazität und Kosten zu verwalten.
Konfigurieren von Datenverkehrsteilungen und Fallbacks Verteilen Sie Anforderungen auf mehrere Modellziele, und fügen Sie ein Failover hinzu, um die Verfügbarkeit zu erhöhen.
Routencodierungsaufgaben mit Smart Routing Wählen Sie automatisch das beste Modell und die beste Nutzung für jede Coding-Aufgabe aus, um die KI-Ausgaben zu kontrollieren, ohne die Qualität zu beeinträchtigen.
Verwalten von Budgets Überwachen Sie ausgaben und legen Sie Schwellenwerte pro Benutzer und feste Obergrenzen fest.

Leitplanken und Zugriffsrichtlinien festlegen

Dienstrichtlinien sind die Mechanismen, die Sie zum Implementieren von Schutzläufen für KI-Dienste verwenden. Sie steuern, wie jede Anfrage und Antwort verläuft, basierend auf ihrem Inhalt und darauf, wer den Anruf tätigt.

Thema Description
Dienstrichtlinien für KI-Sicherungseinrichtungen Wie Service-Richtlinien den Inhalt von Anfragen und Antworten auf KI-Dienste steuern, unter Verwendung von integrierten, benutzerdefinierten und externen Richtlinien.
Erstellen und Anfügen einer Dienstrichtlinie Wie man eine Service-Policy-Funktion schreibt und sie an einen MCP-Service oder Modellservice anhängt.
Setzen Sie eine Partner-Leitplanke mit einer externen Servicerichtlinie durch. Wie man die Entscheidungen eines Drittanbieter-Leitplankenanbieters bezüglich Modell- und MCP-Dienstleistungen mit einer externen Service-Richtlinie durchsetzt.

Überwachen von Nutzung, Kosten und Risiken

Verfolgen Sie Aktivitäten, Ausgaben und Ergebnisse in allen Unity Gateway-Diensten.

Thema Description
Observability-Übersicht Wählen Sie das richtige Werkzeug, um KI-Nutzung, Kosten, Leistung und Aktivitäten über Dienste hinweg zu überwachen.
Verwendung überwachen Verfolgen Sie Anfragen, Tokennutzung und Latenz über das Unity Gateway anhand von Systemtabellen.
Kosten analysieren Ordnen Sie Azure-Databricks-Kosten Diensten, Zielmodellen, Prinzipalen und Tags zu.
Überprüfung von Anfragen und Antworten Protokollieren von Anfragen und den Antworten in Unity Catalog-Delta-Tabellen zur Überwachung und Fehlerbehebung.
  • Zuletzt aktualisiert um