Beheer externe modelaanbieders (diensten van modelaanbieders)

Externe modelproviders laten je je eigen sleutel (BYOK) meenemen: verbind de LLM-providers die je al gebruikt, zoals OpenAI, Anthropic of Amazon Bedrock, en beheer ze via één controlepunt. Registreer elke provider één keer en veel gebruikers en model-API's routeren ernaar zonder ooit de inloggegevens te verwerken.

Op Azure Databricks is een externe modelprovider een Unity Catalog securable object (een modelproviderservice) dat de verbindingsgegevens en versleutelde inloggegevens van een provider opslaat. Omdat Unity Catalog providers opslaat, beheer je de toegang met dezelfde privileges als voor data, raadpleeg je externe modellen via Unity Gateway zonder geheimen bloot te stellen, en volg je het gebruik en de kosten vanaf één bestuurslaag.

Wat is een modelproviderservice?

Een modelproviderservice bevindt zich in een Unity Catalog-catalogus en -schema en maakt gebruik van een driedelige naam, zoals main.default.openai_prod. Het bevat:

  • Het providertype (bijvoorbeeld OpenAI of Amazon Bedrock).
  • De verbindingsconfiguratie voor die provider, zoals een eindpuntbasis-URL of cloudregio.
  • De providerreferenties, die Azure Databricks versleutelt en opslaat. Azure Databricks retourneert geen referenties bij lezen. Voor Azure OpenAI en Microsoft Foundry kun je een bestaand service-credential op naam vermelden in plaats van een sleutel of geheim op te slaan, en het credential blijft waar het is. Zie Azure OpenAI en Microsoft Foundry authentiseren met een servicecredential.

Omdat een modelproviderservice een Unity Catalog beveiligbaar is, beheert u deze op dezelfde manier als u andere beheerde objecten beheert:

  • Toegang verlenen en intrekken met Unity Catalog-bevoegdheden.
  • Ontdek deze in Catalog Explorer naast uw andere gegevens en AI-assets.
  • Configureer Unity Gateway-functies zoals snelheidslimieten en inferentietabellen erop.

Aanroepers roepen rechtstreeks via Unity Gateway een modelproviderservice aan door de naam ervan op te geven, en ze zien de opgeslagen inloggegevens niet. Een modelproviderservice kan ook de externe provider leveren waarnaar een modelservice verzoeken doorstuurt, zodat beheerders één centraal, beheerd controlepunt hebben voor de inloggegevens van providers.

Ondersteunde providers

Een model providerdienst ondersteunt alleen de volgende externe providers en authenticatiemethoden.

Provider Authentication
OpenAI API-sleutel
Azure OpenAI API-sleutel, Microsoft Entra ID-service-principal (tenant-ID, client-ID en clientgeheim), of een service-referentie
Anthropic API-sleutel
Amazon Bedrock AWS-toegangssleutelpaar (toegangssleutel-id en geheime toegangssleutel)
Microsoft Foundry API-sleutel, Microsoft Entra ID-service-principal (tenant-ID, client-ID en clientgeheim), of een service-referentie
Google Gemini Enterprise API-sleutel, met GCP-project-id en regio
Custom Bearer token, of een API-sleutel die wordt verzonden in een door jou genoemde HTTP-header, met een endpoint-basis-URL

Wanneer het endpoint van een aangepaste provider verwacht dat zijn API-sleutel in een specifieke header zit in plaats van als een bearertoken, kun je die header een naam geven. Zie Stuur een aangepaste provider API-sleutel in een header.

Waarom externe providers in Unity Catalog beheren?

Zonder een centraal register sluit elk team dat gebruikmaakt van een extern model zijn eigen providerreferenties in in toepassingscode of notebooks. Modelproviderservices verplaatsen die configuratie naar Unity Catalog, zodat u het volgende kunt doen:

  • Definieer eenmaal een provider. Registreer de inloggegevens en verbindingsgegevens op één plek en laat ze vervolgens door veel gebruikers en modeldiensten delen zonder ooit het geheim zelf te hoeven verwerken.
  • Toegang beheren met Unity Catalog-bevoegdheden. Gebruik dezelfde GRANT en REVOKE instructies die u voor andere beveiligbare objecten gebruikt om te bepalen wie een query op elke provider kan uitvoeren.
  • Zoeken in meerdere werkruimten. Een service voor modelproviders is beschikbaar in elke werkruimte die dezelfde metastore deelt.
  • Gebruik en kosten bijhouden. Unity Gateway registreert het gebruik van queries die via een modelprovider service worden geleid. Zie Modelgebruik bijhouden. Azure Databricks berekent ook de geschatte uitgaven voor aanvragen die worden doorgestuurd naar externe modellen. Zie Externe modellen.
  • Volg de herkomst. Bekijk de modeldiensten die naar een aanbieder worden doorgestuurd en de onderliggende assets die de payloads ervan gebruiken. Zie Track model API en provider-afstamming.

Privileges

De volgende Unity Catalog-bevoegdheden zijn van toepassing op modelproviderservices. Een principal heeft USE CATALOG ook en USE SCHEMA op de bovenliggende catalogus en het bovenliggende schema nodig.

voorrecht Verleent de mogelijkheid om
CREATE SERVICE (in het schema) Maak een modelproviderservice in het schema.
EXECUTE Doe via Unity Gateway een aanvraag bij de serviceprovider voor modellen.
READ METADATA Bekijk de service van de modelprovider en de configuratie ervan zonder er query's op uit te voeren.
MANAGE Bewerk, verwijder en verleen toegang tot de service van de modelaanbieder.

Voor hoe je deze privileges verleent en intrekt, zie Discover en regel toegang tot externe modelproviders (model provider services).

Volg de uitgaven van dienstverleners in budgetten

Om geschatte servicekosten van modelproviders op te nemen in een Unity Gateway-budget, selecteer je Extern modelgebruik opnemen wanneer je het budget maakt. Uitgaven aan externe modellen tellen vervolgens mee voor de drempels van het budget voor waarschuwingen en blokkering van gebruik.

Voor meer informatie over geschatte uitgaven aan externe modellen, zie Externe modellen.

Volgende stappen 

  • Last updated on