Självstudie: Styra en kodningsagents modellåtkomst med Unity AI Gateway

I den här självstudien ansluter du en extern kodningsagent, till exempel Codex, Gemini CLI eller Cursor, till stora språkmodeller (LLMs) som styrs av Unity AI Gateway. Sedan styr du vem som kan komma åt dessa modeller och hur mycket agenten kan använda och spendera. I stället för att varje utvecklare klistrar in en provider-API-nyckel i sitt verktyg dirigeras varje begäran via en Unity AI Gateway-modelltjänst. Unity Catalog styr vem som kan använda vilka modeller och Unity AI Gateway tillämpar gränser och registrerar användning och kostnader.

I slutet av den här självstudien har du:

  • En kodningsagent som skickar varje modellbegäran via Unity AI Gateway med dina Azure Databricks autentiseringsuppgifter, utan någon provider-API-nyckel på utvecklarens dator.
  • Centrala register över agentens användning och kostnader, beroende på de frekvensbegränsningar och behörigheter som du anger för modelltjänsten.

Prerequisites

Steg 1: Anslut kodningsagenten

Du kan ansluta agenten på något av två sätt:

  • ucode (rekommenderas): Ett startprogram med öppen källkod (Unity AI Gateway Coding CLI) som hanterar OAuth och skriver varje agent konfigurationsfil, inklusive modelltjänstens bas-URL och modell. Du hanterar inte API-nycklar eller slutpunkter för hand.
  • Manuell konfiguration: Ange modellens tjänstbas-URL och modellera själv i verktygets inbyggda inställningar (Cursor, Codex eller Gemini CLI). Se Integrera med kodningsagenter.

I det här avsnittet används ucode. Installera den och kör sedan den agent som du vill ha:

uv tool install git+https://github.com/databricks/ucode

Codex

ucode codex

Om du vill köra i icke-interaktivt läge skickar du agentens egen flagga genom ucode:

ucode codex --full-auto

Gemini CLI

ucode gemini

OpenCode

ucode opencode

Copilot

ucode copilot

Vid första körningen uppmanar ucode dig att ange URL:en till din arbetsyta och autentiserar dig; därefter går den direkt till agenten.

Steg 2: Hantera agentens modellåtkomst

Du kan styra en modelltjänst som alla andra säkra Unity-kataloger: bevilja EXECUTE för att styra vem som kan använda den och använda Unity AI Gateway för att begränsa begärandevolym och utgifter. Konfigurera något av följande:

  • Hantera vem som kan komma åt modellen: Öppna modelltjänsten i Katalogutforskaren och bevilja EXECUTE användare eller grupper på fliken Behörigheter .
  • Begränsa begärandevolymen: I Katalogutforskaren klickar du på Konfigurera under Hastighetsgränser på modelltjänstens flik Översikt. Ange en hastighetsgräns för begäranden per minut (QPM) eller token per minut (TPM) för alla begäranden på slutpunkten eller per användare.
  • Ange en utgiftsbudget: En kontoadministratör kan skapa en budget som är begränsad till alla Unity AI Gateway-slutpunkter. Budgeten aggregerar utgifter för dina modelltjänster. ange ett aviseringströskelvärde som ska meddelas eller blockera användning innan kostnaderna överskrider den.

Steg 3: Kontrollera att trafiken styrs

Bekräfta att agentens begäranden dirigeras via Unity AI Gateway och registreras:

  • Från agenten: Skicka en fråga. Agenten svarar med den modell som du konfigurerade, utan någon provider-API-nyckel på datorn.

  • I tabellen för användningssystemet: Fråga användningsspårningen för att bekräfta att din modelltjänst registrerar förfrågningarna:

    SELECT service_name, requester, status_code, COUNT(*) AS calls
FROM system.ai_gateway.usage
WHERE service_type = 'MODEL_SERVICE'
GROUP BY service_name, requester, status_code
ORDER BY calls DESC;

För att analysera utgifter mer i detalj, se Analysera kostnaden för Unity AI Gateway.

Nästa steg

  • Last updated on