AI-governance met Unity AI Gateway

Unity AI Gateway is de Azure Databricks governance-oplossing voor zakelijke AI. Het is gebouwd op Unity Catalog en breidt governance uit buiten uw gegevens en AI-assets naar de runtime-interacties tussen modellen, agents, MCP-servers en hulpprogramma's. Bepaal welke AI-services teams kunnen gebruiken, routeer en beheer AI-verkeer, stel randvoorwaarden in en bewaak het gebruik vanuit één beheerlaag.

Azure Databricks bedient grote taalmodellen (LLM's) native via Foundation Model API's, zodat je pay-per-token toegang krijgt tot modellen zoals GPT, Claude en Gemini zonder infrastructuur om te draaien. Je kunt ook externe modelaanbieders verbinden en via dezelfde toegangscontrole en verkeersbeheer naar hun API's routeren.

Get started

AI-governance instellen en toepassen op uw AI-assets, verkeer en servicegedrag.

Onderwerp Description
Tutorial: Beheer de modeltoegang van een codeeragent met Unity AI Gateway Leid een externe codeeragent door beheerde modelservices, controleer vervolgens wie toegang heeft tot modellen en beperk het verbruik en de uitgaven van de agent.
Zelfstudie: De GitHub MCP-toegang van een coderingsagent beheren Beperk de toegang van een coderingsagent tot GitHub MCP-hulpprogramma's met behulp van Unity Catalog-machtigingen en een ingebouwd servicebeleid.
Tutorial: Voeg servicebeleidsregels toe aan een modelservice Stel beveiligingsmaatregelen in voor een modelservice met ingebouwde en aangepaste servicebeleidsregels.
Tutorial: Houd de uitgaven van het basismodel bij per gebruiker, team of project Identificeer LLM-uitgaven door kosten toe te schrijven aan gebruikers, teams of projecten met servicetags en verzoektags.

Beheer toegang tot AI-diensten

Registreer AI-assets als beveiligbare objecten in Unity Catalog en verleen en trek vervolgens toegang in met dezelfde machtigingen die u voor tabellen en volumes gebruikt. Agents worden beheerd via dezelfde beveiligbare apparaten: een agent wordt geregistreerd als een Unity Catalog-model en de hulpprogramma's die worden aanroepen, worden beheerd als MCP-services, -functies en -verbindingen.

Onderwerp Description
Model-API's Voer query's uit op foundation-modellen die rechtstreeks in system.ai worden aangeboden, zonder enige configuratie, en beheer de toegang via Unity Catalog-privileges.
Externe modelaanbieders Verbind providers zoals OpenAI en Anthropic met Bring Your Own Key (BYOK) en bestuur ze via één controlepunt.
Modellen Bestuur geregistreerde modellen, inclusief Azure Databricks-served foundation-modellen, met Unity Catalog-privileges.
Machtigingen voor foundationmodels Beperk tot welke door Azure Databricks aangeboden basismodellen uw organisatie toegang heeft, voor het hele account of per groep.
MCP-tools Beheer MCP-servers die zijn geregistreerd als beveiligde objecten in Unity Catalog, met filtering van tools en servicebeleidsregels.
Aangepaste hulpprogramma's Beheer de Unity Catalog-functies die agents als hulpprogramma's gebruiken, met dezelfde bevoegdheden die u voor gegevens gebruikt.
HTTP-verbindingen De Unity Catalog-verbindingen beheren die worden gebruikt om externe API's en MCP-servers te bereiken.
Maak aangepaste model-API's Optioneel: Voeg je eigen beheerde endpoints toe wanneer je modellen nodig hebt die verder gaan dan de kant-en-klaar standaardinstellingen system.ai .

AI-verkeer routeren en beheren

Unity AI Gateway routeert aanvragen naar uw model en MCP-services vanuit een centraal besturingsvlak, zodat u capaciteit, beschikbaarheid en uitgaven kunt beheren tussen providers.

Onderwerp Description
Frequentielimieten toepassen Dwing verbruikslimieten af voor modelservices en MCP-services om capaciteit en kosten te beheren.
Verkeerssplitsing en fallbackopties configureren Verspreid verzoeken over meerdere modelbestemmingen en voeg failover toe om de beschikbaarheid te vergroten.
Routecodeertaken met Smart Routing Selecteer automatisch het beste model en de beste benutting voor elke codeertaak om de AI-uitgaven te beheersen zonder in te leveren op kwaliteit.
Budgetten beheren Bewaak uitgaven en stel drempelwaarden per gebruiker en vaste limieten in.

Randvoorwaarden en toegangsbeleid instellen

Servicebeleid, ook wel kaders genoemd, bepaalt hoe elke aanvraag en reactie verloopt, op basis van de inhoud en op wie de oproep doet.

Onderwerp Description
Servicebeleid voor AI-beveiligbare apparaten Hoe servicebeleid de inhoud van aanvragen en antwoorden op AI-services regelt met behulp van ingebouwd en aangepast beleid.
Een servicebeleid maken en koppelen Hoe schrijft u een servicebeleidsfunctie en koppelt deze aan een MCP-service of modelservice.

Gebruik, kosten en risico bewaken

Activiteiten, uitgaven en resultaten bijhouden voor alle Unity AI Gateway-services.

Onderwerp Description
Overzicht van waarneembaarheid Kies het juiste hulpmiddel om AI-gebruik, kosten, prestaties en activiteit over diensten heen te monitoren.
Gebruik bewaken Houd verzoeken, tokengebruik en latentie bij via de Unity AI Gateway met behulp van systeemtabellen.
Kosten analyseren Wijs Azure Databricks-kosten toe aan services, doelmodellen, principals en tags.
Aanvragen en antwoorden controleren Logboekaanvragen en antwoorden op Unity Catalog Delta-tabellen voor bewaking en foutopsporing.
  • Last updated on