Unity Gateway-observabilitet

Unity Gateway-observabilitet låter dig övervaka kostnad, användning, prestanda och åtkomst för varje AI-tjänst från ett kontrollplan, backat av Unity Catalog-systemtabeller. När team adopterar kodagenter, copilots och anpassade agenter i hela organisationen blir det svårare att se vem som använder vilka modeller eller verktyg, hur mycket de kostar och om endpoints är friska. Eftersom varje förfrågan går via Unity Gateway kan du besvara dessa frågor på ett ställe.

Note

Tillgång till dessa systemtabeller kräver både konto- och metastore-administratörsroller som standard. Administratörer kan hantera åtkomst till systemtabeller eller publicera AI Gateway-användningsinstrumentpanelen för att dela användningsanalys utan att ge tillgång till tabellerna.

Kravspecifikation

Övervaka kostnader

Från arbetsytans användargränssnitt går du till AI Gateway > Govern > Usage Dashboard > Cost Analysis för att följa kostnader i dollar för en endpoint, en grundmodell som tillhandahålls av Azure Databricks eller en användare över tid. Den inbyggda instrumentpanelen använder användnings- och faktureringstabeller:

Note

Extern modellkostnad beräknas från varje leverantörs publicerade priser, justerad med den prismultiplikator som har konfigurerats på modellleverantörens tjänst, och är endast av informationskaraktär. Se Externa modeller.

För att placera utgifter längs anpassade dimensioner, använd förfrågnings- eller servicetaggar för att gruppera kostnad efter affärsenhet, projekt eller vilken dimension din organisation än bryr sig om (se Följ grundmodellens utgifter per användare, team eller projekt).

Se Analysera kostnaden för Unity Gateway.

Monitoranvändning och prestanda

Unity Gateways användningsdashboard (AI Gateway > Govern > Usage Dashboard) spårar förfrågningsvolym, tokenförbrukning och latens för alla endpoints som styrs via gatewayen. För djupare analys, sök i system.ai_gateway.usage tabellen för att analysera användningsmått som tokenantal, latens, begärande och begäranartaggar för varje begäran som routas genom gatewayen (se användningstabellens schema).

Fliken Metrier

Varje modell eller MCP-tjänst har en flik Metrics . För att öppna den:

  1. I sidofältet klickar du på AI Gateway.
  2. Öppna modell eller tjänst.
  3. Klicka på fliken Mått .

För Databricks-hostade pay-per-token-modeller visar Kvotgränser den här arbetsplatsens aktuella gränser för inmatningstokens per minut, utdatatoken per minut, förfrågningar per sekund och förfrågningar per timme. Dessa begränsningar gäller för arbetsytan och delas mellan all användning av den modellen. Varje kort visar också topp- och p90-användning för det tidsintervall som valts på sidan.

Dessa arbetsytskvoter är separata från frekvensgränser du konfigurerar på en modelltjänst. För standardgränser och hur de upprätthålls, se Foundation Model API:s gränser och kvoter.

Diagrammen under Model service metrics visar förfrågningsvolym, tokenförbrukning, fel och latens för trafiken till denna tjänst.

Note

Unity Gateway-slutpunkter loggar till system.ai_gateway.usage, medan slutpunkter för modellservering (äldre) loggar till system.serving.endpoint_usage.

Vanliga användningsområden:

  • Övervaka och optimera alla dina AI-tjänster från ett ställe, över hela din AI-stack
  • Följ kodningsagenters adoption och modellpopularitet över team
  • Identifiera de mest aktiva användarna, tjänsterna och modellerna för att upptäcka optimeringsmöjligheter

Se Spårmodellanvändning.

Inspektera förfrågningar och svar

Aktivera inferenstabeller på en modelltjänst för att logga förfrågningar och svarspayloads till en Unity-katalogtabell. Använd inferenstabeller för att:

  • Felsökning misslyckades eller oväntade svar
  • Kontrollera att skyddsmekanismerna fungerar, till exempel maskning av personligt identifierbar information
  • Granska exponering av känsliga datauppgifter

Se Loggförfrågningar och svar på inferenstabeller.

Granskningsåtkomst

Sök i system.access.audit tabellen för att bevisa vem som fick tillgång till vilken AI-tjänst och när. För att skilja en mänsklig inringare från en agent som agerar för deras räkning använder du fälten run_by och run_as i identity_metadata.

Unity Gateway loggar dessa granskningshändelser:

  • MCP-förfrågningar: Varje förfrågan till en MCP, såsom att lista eller anropa dess verktyg, loggas som mcpCall under tjänsten mcpService . Se Unity Gateway MCP-evenemang.
  • Användning av färdigheter: Färdighetsladdningar, filhämtningar och listor loggas under tjänsten aiGatewaySkills . Se Unity Gateway Skills-evenemang.
  • Tjänsteändringar: Skapande, uppdatering och borttagning av modelltjänster och MCP:er loggas under tjänsten unityCatalog. Se Unity Catalog-evenemang.

Vanliga användningsområden:

  • Skapa ett åtkomstspår för regelefterlevnad och regulatorisk rapportering
  • Särskilja en mänsklig uppringare från en agent som agerar på deras vägnar
  • Upprätthåll ett centralt granskningsspår för alla kodningsagenter som dina team använder

Se referens till systemtabell för granskningslogg.

Spåra beroenden

Lineage spårar beroenden mellan grundmodeller och Model Services, samt deras nedströmskonsumenter. Använd Lineage för att bedöma påverkan av att fasa ut eller ändra en Model Service och meddela dess ägare.

Se Ursprung i Unity Catalog.

Ytterligare resurser