AI-bestuur met Unity Gateway

Unity Gateway is de Azure Databricks governance-oplossing voor enterprise AI. Het is gebouwd op Unity Catalog en breidt governance uit buiten uw gegevens en AI-assets naar de runtime-interacties tussen modellen, agents, MCP-servers en hulpprogramma's. Controleer welke AI-diensten teams kunnen gebruiken, routeren en beheren AI-verkeer, stel vangrails met servicebeleid op en monitor het gebruik vanuit één controleplan.

Azure Databricks bedient grote taalmodellen (LLM's) native via Foundation Model API's, zodat je pay-per-token toegang krijgt tot modellen zoals GPT, Claude en Gemini zonder infrastructuur om te draaien. Je kunt ook externe modelaanbieders verbinden en via dezelfde toegangscontrole en verkeersbeheer naar hun API's routeren.

Get started

AI-governance instellen en toepassen op uw AI-assets, verkeer en servicegedrag.

Onderwerp Description
Tutorial: Beheer de modeltoegang van een codeeragent met Unity Gateway Leid een externe codeeragent door beheerde modelservices, controleer vervolgens wie toegang heeft tot modellen en beperk het verbruik en de uitgaven van de agent.
Tutorial: Beheer de GitHub MCP-toegang van een codeeragent Beperk de toegang van een coderingsagent tot GitHub MCP-hulpprogramma's met behulp van Unity Catalog-machtigingen en een ingebouwd servicebeleid.
Modellen en MCP's aansturen met GRANT beleidsregels Beheer de toegang tot modellen, modelservices, modelproviderservices en MCP-services in system.ai met door het systeem geleverde of aangepaste governancetags.
Tutorial: Voeg servicebeleidsregels toe aan een modelservice Stel beveiligingsmaatregelen in voor een modelservice met ingebouwde en aangepaste servicebeleidsregels.
Tutorial: Houd de uitgaven van het basismodel bij per gebruiker, team of project Identificeer LLM-uitgaven door kosten toe te schrijven aan gebruikers, teams of projecten met servicetags en verzoektags.

Beheer toegang tot AI-diensten

Registreer AI-assets als beveiligbare objecten in Unity Catalog en verleen en trek vervolgens toegang in met dezelfde machtigingen die u voor tabellen en volumes gebruikt. Agents worden beheerd via dezelfde beveiligbare apparaten: een agent wordt geregistreerd als een Unity Catalog-model en de hulpprogramma's die worden aanroepen, worden beheerd als MCP-services, -functies en -verbindingen.

Onderwerp Description
Modelservices Voer query's uit op foundation-modellen die rechtstreeks in system.ai worden aangeboden, zonder enige configuratie, en beheer de toegang via Unity Catalog-privileges.
Externe modelaanbieders Verbind providers zoals OpenAI en Anthropic met Bring Your Own Key (BYOK) en bestuur ze via één controlepunt.
Modellen Bestuur geregistreerde modellen, inclusief Azure Databricks-served foundation-modellen, met Unity Catalog-privileges.
Machtigingen voor foundationmodels Beperk tot welke door Azure Databricks aangeboden basismodellen uw organisatie toegang heeft, voor het hele account of per groep.
MCP-tools Beheer MCP-servers die zijn geregistreerd als beveiligde objecten in Unity Catalog, met filtering van tools en servicebeleidsregels.
Aangepaste hulpprogramma's Beheer de Unity Catalog-functies die agents als hulpprogramma's gebruiken, met dezelfde bevoegdheden die u voor gegevens gebruikt.
HTTP-verbindingen De Unity Catalog-verbindingen beheren die worden gebruikt om externe API's en MCP-servers te bereiken.
Aangepaste modelservices maken Optioneel: Voeg je eigen beheerde endpoints toe wanneer je modellen nodig hebt die verder gaan dan de kant-en-klaar standaardinstellingen system.ai .

AI-verkeer routeren en beheren

Unity Gateway stuurt verzoeken naar je model en MCP-diensten vanuit een centraal controlevlak, zodat je capaciteit, beschikbaarheid en uitgaven tussen providers kunt beheren.

Onderwerp Description
Frequentielimieten toepassen Dwing verbruikslimieten af voor modelservices en MCP-services om capaciteit en kosten te beheren.
Verkeerssplitsing en fallbackopties configureren Verspreid verzoeken over meerdere modelbestemmingen en voeg failover toe om de beschikbaarheid te vergroten.
Routecodeertaken met Smart Routing Selecteer automatisch het beste model en de beste benutting voor elke codeertaak om de AI-uitgaven te beheersen zonder in te leveren op kwaliteit.
Budgetten beheren Bewaak uitgaven en stel drempelwaarden per gebruiker en vaste limieten in.

Randvoorwaarden en toegangsbeleid instellen

Servicebeleid is de mechanismen die u gebruikt om kaders voor AI-services te implementeren. Zij bepalen hoe elk verzoek en antwoord verloopt, op basis van de inhoud en van wie het gesprek doet.

Onderwerp Description
Servicebeleid voor AI-beveiligbare apparaten Hoe servicebeleid de inhoud van verzoeken en antwoorden op AI-diensten reguleert, met behulp van ingebouwde, aangepaste en externe beleidslijnen.
Een servicebeleid maken en koppelen Hoe schrijft u een servicebeleidsfunctie en koppelt deze aan een MCP-service of modelservice.
Handhaaf een partnerguardrail met een beleid voor externe service Hoe je de beslissingen van een externe guardrail-leverancier over model- en MCP-diensten afdwingt met een extern servicebeleid.

Gebruik, kosten en risico bewaken

Houd activiteit, uitgaven en resultaten bij over alle Unity Gateway-diensten.

Onderwerp Description
Overzicht van waarneembaarheid Kies het juiste hulpmiddel om AI-gebruik, kosten, prestaties en activiteit over diensten heen te monitoren.
Gebruik bewaken Houd verzoeken, tokengebruik en latentie bij via Unity Gateway met behulp van systeemtabellen.
Kosten analyseren Wijs Azure Databricks-kosten toe aan services, doelmodellen, principals en tags.
Aanvragen en antwoorden controleren Logboekaanvragen en antwoorden op Unity Catalog Delta-tabellen voor bewaking en foutopsporing.
  • Laatst bijgewerkt om