Distribuera agenter på Azure Databricks

För att köra en agent i produktion distribuerar du dess kod till managed compute som hanterar förfrågningar från dina användare och applikationer. En distribuerad agent har tre lager: ditt ramverk eller harness, en agentserver och en agentruntime. Agent Bricks erbjuder alternativ på varje lager, från DurableAgentServer till Agent Runtime på Databricks Apps.

Agent compute stack

En distribuerad agent har tre skikt. Varje lager omsluter det ovanför.

Agentberäkningsstacken: ditt ramverk eller ditt testharness, omsluten av en agentserver som exponerar anrops-API:et, körande på Agent Runtime.

Skikt Vad det gör Alternativ i Azure Databricks
Ramverk eller testharness Kör agentloopen: anropar modeller och verktyg och bestämmer vad som ska göras härnäst. Vilket ramverk eller vilken harness som helst, såsom LangGraph eller OpenAI Agents SDK, eller ett meta-harness som Omnigent.
Agent server Omsluter agentloopen i en HTTP-server. Agentservern exponerar anrops-API:et, hanterar klientanslutningar och hanterar persistens. DurableAgentServer (rekommenderat), legacy-agentservrar eller din egen server.
Agent runtime Kör agentservern på hanterad beräkning och hanterar hosting, identitet och skalning. Agent Runtime på Databricks Apps.

Följande termer beskriver hur lagren fungerar tillsammans:

Begrepp Vad det innebär
Anrops-API HTTP-API:et som klienterna anropar för att köra agenten. Se Frågeagenter distribuerade på Azure Databricks.
Serve Agentens runtime kör agentservern, som betjänar din agent via anrops-API:et.
Deploy Lägg in din agentkod i agentens runtime.

Note

Databricks Sandbox är inte ett lager i beräkningsstacken. Det är ett verktyg som din agent anropar för att köra kod i en isolerad miljö, separat från agentens runtime, med begränsad åtkomst till din styrda data. Använd en sandlåda när din agent skriver och kör kod, såsom dataanalysskript. För att ge ett CLI-projekt ett sandlådeverktyg, kör agentbricks tools add sandbox.

Ramverk eller testmiljö

Ramverket eller harness är din agentkod. Den kör loopen som resonerar med en modell, anropar verktyg och bestämmer när den ska svara. Agent Bricks kräver inget specifikt ramverk.

Ramverk eller testharnesk När det bör användas
Mallar Startar en ny agent. Agent Bricks CLI skapar projektstommar för LangGraph och OpenAI Agents SDK. Mallarna håller din ramverkskod separat från koden som kopplar den till agentservern.
Befintliga agenter Importera en agent som du redan har byggt med LangGraph eller OpenAI Agents SDK. Kör agentbricks init --existing i samma katalog. Se Lägg till en befintlig agent.
Meta-harness Att sätta ihop flera harnesses, såsom kodningsagenter, till en agent med Omnigent.

Agent server

Agentservern är ett bibliotek som omsluter din agentloop och omvandlar den till en tjänst. Den definierar API:et som klienterna anropar, håller koll på varje körning och avgör vad som händer när en körning avbryts.

Agent server När det bör användas
DurableAgentServer (rekommenderas) Nya agenter som har byggts med Agent Bricks CLI.
Befintliga agentservrar Underhåll av agenter byggda från appmallar. För att jämföra DurableAgentServer med de äldre agentservrarna, se Agentservrar på Databricks.
Din egen server Agenter som behöver anpassade endpoints, förfrågningsformat eller protokoll. Kör agentbricks init --server custom, eller behåll din befintliga server.

Agentdrifttid

Agentens runtime är den hanterade beräkning som driver din agentserver. Du driftsätter kod till den istället för att provisionera servrar själv.

Agentdrifttid När det bör användas
Agent Runtime Nya agenter. Kör din agent på Databricks Apps. agentbricks deploy tillhandahåller de resurser din agent behöver, ger agenten tillgång till dem och distribuerar den till en stabil, autentiserad endpoint.
Model Serving (äldre) Äldre agenter distribuerades till Model Serving-endpoints. Se Distribuera en agent för AI-program (modellservering). För att flytta dem till Databricks Apps, se Migrera en agent från Model Serving till Databricks Apps.

Distribuera med Agent Bricks CLI

Agent Bricks CLI kopplar samman de tre lagren. Den genererar ställningskod för ditt ramverk, kör den på DurableAgentServer lokalt och distribuerar den till Agent Runtime:

agentbricks init my-agent --framework langgraph
cd my-agent
agentbricks dev
agentbricks deploy my-agent

För att bygga och distribuera din första agent, se Agent Bricks snabbstart.

Behörigheter för att distribuera en agent

Användaren eller tjänsthuvudnamnet som kör agentbricks deploy behöver behörighet att göra följande:

  • Skapa Databricks-appar eller hantera den befintliga appen för en omdistribution. Se Konfigurera behörigheter för en Databricks-app.
  • Skapa minnes- och sessionslagringar deklarerade i agent.toml, eller hantera de befintliga lagren, så att Agent Bricks kan ge appens service principal tillgång till dem.
  • Skapa MLflow-experimentet som projektet använder för spårning, eller redigera det om det redan finns.
  • Ge appens tjänsthuvudnamn tillgång till resurser som verktyg deklarerar med --auth app, till exempel EXECUTE på en Unity Catalog-funktion, CAN RUN på en Genie Agent eller SELECT på en tabell i ett sandboxomfång.

Agent Bricks ger endast tillgång till resurser som agent.toml deklarerar direkt. Om ett verktyg använder andra resurser, såsom tabellerna bakom en Genie Agent eller objekten som en Unity Catalog-funktion anropar, ge appens service principal åtkomst till dem själv. Om deploy inte kan tillämpa en nödvändig behörighet stoppas det innan den laddar upp din kod och låter den nuvarande driftsättningen fortsätta köra.

Ytterligare resurser

  • Uppdaterades senast