Beheer budgetten voor Unity Gateway

Budgetten helpen je om de maandelijkse Unity Gateway-uitgaven te monitoren en te beheersen met behulp van filters die op factureringsrecords worden toegepast. Je kunt een budget specifiek toewijzen aan het product Unity Gateway om alleen Unity Gateway-uitgaven bij te houden, of Unity Gateway opnemen in een budget voor het hele account.

Account- en werkruimtebeheerders kunnen een overzicht bekijken van de ai-budgetstatus en uitgaven op de AI-pagina in Governance Hub.

Tip

Voor budgetten die zijn afgestemd op Unity Gateway, zijn handhaving en waarschuwingen bijna realtime. Wanneer de uitgaven een drempel overschrijden, gaan e-mails met gebruiksblokkering en waarschuwingen binnen enkele ogenblikken in werking. Budgetbewaking in bijna realtime is onafhankelijk van het system.billing.usage verversingsmoment.

Zie Budgetten maken en bewaken voor meer informatie over het maken en bewaken van budgetten. Als u wilt delegeren wie een budget kan bekijken en beheren, zie Budgetmachtigingen beheren.

Requirements

  • Unity Gateway ingeschakeld voor je account.

Wat dekken de budgetten voor Unity Gateway?

De budgetten van Unity Gateway dekken uitgaven die via Unity Gateway doorlopen:

Deze budgetten dekken het volgende niet:

  • Toegewezen doorvoer
  • Verkeer dat direct naar zelfstandige Model Serving endpoints wordt gestuurd en niet via Unity Gateway stroomt

Hoe budgetten werken met Unity Gateway

Selecteer bij het maken van een budget Unity Gateway als resourcetype om alleen de uitgaven van Unity Gateway bij te houden.

Budgetinstellingen

Drempeltypes: Voor budgetten die zijn beperkt tot Unity Gateway, kun je het volgende configureren:

  • Gedeelde drempels: Een collectieve bestedingslimiet voor alle gebruikers binnen het budget.
  • Drempels per gebruiker: Een maandelijkse limiet die geldt voor elke individuele gebruiker.
  • Uitzonderingen per gebruiker: Geef specifieke gebruikers of groepen een hogere uitgavenlimiet dan de standaard drempel per gebruiker. Gebruikers die onder een uitzondering vallen, kunnen maximaal het uitzonderingsbedrag uitgeven in plaats van de standaardlimiet per gebruiker. Als een gebruiker tot meerdere overrulegroepen behoort, is de hoogste drempelwaarde van toepassing.

Voor gedeelde en per-gebruiker drempels kun je een of meer van de volgende acties configureren wanneer een drempel wordt bereikt:

  • Stuur e-mail: Stuurt een e-mailmelding naar geconfigureerde adressen. Gebruikers behouden de toegang tot Unity Gateway.
  • Gebruik blokkeren: Voorkomt dat de gebruiker verdere verzoeken kan doen via Unity Gateway. De gebruiker ziet een bericht dat het budget is uitgeput. Access wordt hervat nadat het budget opnieuw is ingesteld of een beheerder de drempelwaarde verhoogt.
  • Trigger webhook (Beta): Stuurt een JSON-payload naar een of meer account-niveau webhook-bestemmingen. Voor drempels per gebruiker identificeert de payload de gebruiker die de drempelwaarde heeft bereikt. Zie Aangepaste webhooks activeren.

Accountbeheerders kunnen bijna realtime de schatting van uitgaven bekijken op de budgetdetailspagina.

Cumulatief uitgavenschema op een Unity Gateway budgetdetailspagina

Extern modelgebruik opnemen

Important

Deze functie bevindt zich in de bètaversie. Accountbeheerders kunnen de toegang tot deze functie beheren via de pagina Previews van de accountconsole. Zie Previews op accountniveau beheren.

Wanneer je een Unity Gateway-budget aanmaakt, selecteer je Extern modelgebruik opnemen om de geschatte uitgaven van verzoeken die via modelproviderdiensten naar externe modellen worden gerouteerd, mee te nemen.

Optie voor extern modelgebruik opnemen in het formulier Budget maken

Wanneer ingeschakeld, telt de uitgaven van externe modellen mee voor de gedeelde en per gebruiker drempels van het budget. De geconfigureerde alert- en block-gebruiksacties gelden wanneer de gecombineerde uitgaven een drempel bereiken. Als je deze optie niet kiest, sluit het budget externe modeluitgaven uit, maar blijft het gebruik van Azure Databricks-gehoste modellen meenemen.

Azure Databricks schat de uitgaven van externe modellen op basis van tokengebruik en de door de externe aanbieder gepubliceerde prijzen. Deze offertes kunnen verschillen van uw uiteindelijke factuur voor de leverancier. Voor historische analyse van externe modeluitgaven, raadpleeg de system.ai_gateway.external_model_spend systeemtabel. Zie Externe modellen. De externe modeluitgaven die in het budget zijn opgenomen, weerspiegelen elke prijsvermenigvuldiger die is geconfigureerd op de modelproviderdienst.

Budgettagfilters zijn van toepassing op modelservicetags. Verzoektags zijn beschikbaar in de externe modeluitgavensysteem-tabel, maar beïnvloeden de budgetmatching niet.

Limitations

Important

Budgetten voor Unity Gateway bieden een schatting in bijna realtime van de uitgaven, afgezet tegen de geconfigureerde drempels, en de daadwerkelijk gemaakte kosten kunnen afwijken van de geconfigureerde drempels. Deze functie is bedoeld om te helpen bij bijna realtime kostenbeheersing. Gebruik deze functie niet om een absolute uitgavenlimiet te garanderen op de uiteindelijk gefactureerde bedragen. Azure Databricks is niet verantwoordelijk voor kosten die hoger zijn dan de geconfigureerde budgetdrempels.

  • Provisioned throughput-inferentie wordt momenteel niet bijgehouden.

  • Taakspecifieke AI Functions-verzoeken tellen mee voor de budgetten van Unity Gateway, maar worden niet in de system.ai_gateway.usage tabel geregistreerd. Om het gefactureerde gebruik te bekijken, voer query system.billing.usage uit. Zie Bekijk kosten voor AI-functie-workloads.

  • Elk budget ondersteunt maximaal vier gedeelde drempels en 100 uitzonderingen per gebruiker.

  • Uw account kan maximaal 1000 budgetten hebben.

  • Drempelwaarden voor blokgebruik worden bij benadering toegepast. Handhaving gebruikt een kostenraming in bijna realtime, waardoor de daadwerkelijke uitgaven boven of onder de geconfigureerde drempel kunnen liggen. Dit betekent:

    • Een gebruiker kan worden geblokkeerd voordat zijn daadwerkelijke uitgaven de drempel bereiken.
    • Het kan gebeuren dat de uitgaven de drempel overschrijden voordat de limiet wordt gehandhaafd. Actieve verzoeken die lopen wanneer de drempel wordt bereikt, worden niet onderbroken.

    system.billing.usage blijft de gezaghebbende bron voor het daadwerkelijk door Databricks gefactureerde gebruik. Voor afwijkingen tussen het gebruik dat wordt bijgehouden ten opzichte van een budget en de werkelijke kosten, kan Azure Databricks budgetramingen met terugwerkende kracht aanpassen om deze te vergelijken. Voor gebruik van externe modellen is de externe leveranciersfactuur de bron van waarheid voor de daadwerkelijke dienstverlenerkosten.

  • Uitgavenbedragen in e-mails met budgetwaarschuwingen, op de pagina met budgetdetails, system.billing.usage en system.ai_gateway.external_model_spend kunnen verschillen wanneer deze op hetzelfde tijdstip worden vergeleken. Dit is te verwachten, omdat elke bron in een ander tempo wordt bijgewerkt:

    • Budgetwaarschuwingsmails: Geef de uitgaven weer op het moment dat de waarschuwing werd geactiveerd.
    • Pagina met budgetdetails: Wordt vaak bijgewerkt maar kan een lager bedrag tonen dan een recente waarschuwingsmail wanneer deze kort daarna wordt bekeken.
    • system.billing.usage: Updates elke paar uur. Het opvragen van systeemtabellen kort nadat u een waarschuwing hebt ontvangen, kan een lager uitgavencijfer retourneren dan de pagina met budgetgegevens of e-mailberichten met waarschuwingen.
    • system.ai_gateway.external_model_spend: Wordt elk uur bijgewerkt met de geraamde uitgaven van het externe model. De offertes kunnen verschillen van je uiteindelijke factuur voor de leverancier.

    Het afdwingen van budgetten, waaronder het blokkeren van gebruik en drempelwaarden voor waarschuwingen, is gebaseerd op het bijhouden van bijna realtime uitgaven en wordt niet beïnvloed door de tijdsinstellingen voor het vernieuwen van systeemtabellen.

Aanvullende bronnen

  • Laatst bijgewerkt om