Registrera och hantera anpassade agenter

Microsoft Foundry Control Plane ger centraliserad hantering och observerbarhet för agenter som körs på olika plattformar och infrastrukturer. Den här artikeln beskriver hanterings- och diagnostikdata för befintliga anpassade agenter.

Mer information om övergångsstegen finns i Migrera anpassade agenter till externa agenter.

Förutsättningar

• Ett Azure konto med en aktiv prenumeration. Om du inte har ett skapar du ett fritt Azure konto, som innehåller en kostnadsfri utvärderingsprenumeration.

• Ett Foundry-projekt. Om du inte har något skapar du ett projekt.

• En befintlig anpassad agent som är registrerad i Foundry Control Plane.

• Den befintliga AI-gatewayen som är konfigurerad i din Foundry-resurs och agentens nåbara backend-slutpunkt utgör anslutningen.

Lägga till en anpassad agent

Du kan inte längre lägga till en ny anpassad agent i Foundry Control Plane. Registrera en extern agent för en ny integrering. Följ migreringsguiden för en befintlig anpassad agent.

Befintlig arkitektur för specialagent

Befintliga anpassade agenter använder API Management som proxy för kommunikation till agenten, så att den kan styra åtkomst och övervaka aktivitet.

Ansluta klienter till agenten

En befintlig anpassad agentregistrering har en gateway-URL som klienter kan använda. Eftersom gatewayen fungerar som en proxy för kommunikation till din agent kan den styra åtkomst och övervaka aktivitet. Fortsätt att använda den här URL:en under migreringen till extern agentregistrering.

Så här hittar du den befintliga gateway-URL:en:

1. I listan med agenter väljer du radioknappen bredvid den anpassade agentens namn för att öppna informationsfönstret. Välj inte själva agentnamnet eftersom länken navigerar bort från fönstret Tillgångar .

2. I informationsfönstret under Agent-URL väljer du alternativet Kopiera .

   

3. Fortsätt att använda den här gateway-URL:en för att anropa agenten.

I det här exemplet använder klienterNa LangGraph SDK och den befintliga gateway-URL:en för att anropa en LangGraph-agent. Den här koden skapar en tråd, skickar ett meddelande som frågar om vädret och strömmar tillbaka svaret.

import asyncio
from langgraph_sdk import get_client

client = get_client(url="https://apim-my-foundry-resource.azure-api.net/my-custom-agent/")

async def stream_run():
    thread = await client.threads.create()
    input_data = {"messages": [{"role": "human", "content": "What's the weather in LA?"}]}

    async for chunk in client.runs.stream(thread['thread_id'], assistant_id="your_assistant_id", input=input_data):
        print(chunk)

asyncio.run(stream_run())

Förväntade utdata: Agenten bearbetar meddelandet och strömmar tillbaka svar som segment. Varje segment innehåller partiella resultat från agentens körning. Dessa resultat kan inkludera verktygsanrop till väderfunktionen och det slutliga svaret om Los Angeles väder.

Blockera och avblockera agenten

För anpassade agenter har Foundry inte åtkomst till den underliggande infrastrukturen där agenten körs, så start- och stoppåtgärder är inte tillgängliga. Foundry kan dock blockera inkommande begäranden till agenten så att klienterna inte kan använda den. Med den här funktionen kan administratörer inaktivera en agent om den fungerar felaktigt.

Så här blockerar du inkommande begäranden till din agent:

1. I verktygsfältet väljer du Använd.

2. I den vänstra rutan väljer du Tillgångar.

3. Välj alternativknappen bredvid den agent som du vill blockera. Informationsfönstret visas. Välj inte agentnamnet eftersom länken navigerar bort från fönstret Tillgångar .

4. Välj Uppdatera status och välj sedan Blockera.

   

5. Bekräfta åtgärden.

När du har blockerat agenten blockerasstatusvärdet för agenten i Foundry. Agenter i blockerat tillstånd kör i sin associerade infrastruktur men kan inte ta emot inkommande begäranden. Foundry blockerar alla försök att interagera med agenten.

Så här avblockera du agenten:

1. Välj Uppdatera status och välj sedan Avblockera.

2. Bekräfta åtgärden.

Aktivera diagnostikdata för agenten

Foundry använder OpenTelemetry open standard för att förstå vad agenter gör. Om ditt projekt har Application Insights konfigurerat loggar Foundry begäranden i Application Insights som standard. Foundry använder också dessa data för att beräkna:

• Körs
• Felfrekvens
• Användning (om tillgängligt)

För att få bästa möjliga återgivningsnivå förväntar sig Foundry att anpassade agenter följer semantiska konventioner för generativa AI-lösningar i OpenTelemetry-standarden.

Visa spårningar och loggar som skickats till Foundry

1. I verktygsfältet väljer du Använd.

2. I den vänstra rutan väljer du Tillgångar.

3. Välj alternativknappen bredvid agenten för att öppna informationsfönstret. Välj inte agentnamnet eftersom länken navigerar bort från fönstret Tillgångar .

4. I avsnittet Spårningar visas en post för varje HTTP-anrop som görs till agentens slutpunkt.

   Om du vill se detaljerna väljer du en post.

   

   Tips

   I det här exemplet kan du se hur klienter använder den nya agentens slutpunkt för att kommunicera med agenten. Exemplet visar en agent som hanteras med agentprotokollet från LangChain. Klienter använder vägen /runs/stream.

I det här exemplet innehåller spårningen ingen information utöver HTTP-inlägget. Agentens kod innehåller ingen ytterligare instrumentering. I nästa avsnitt lär du dig att instrumentera koden och få information som verktygsanrop och LLM-anrop (large language model).

Anpassa och instrumentera kodagenter

Om du skapar din agent med hjälp av anpassad kod kan du instrumentera lösningen för att generera spårningar enligt OpenTelemetry-standarden och skicka dem till Application Insights. Instrumentation ger Foundry åtkomst till detaljerad information om vad din agent gör.

Skicka spårningar till Application Insights-resursen i projektet med hjälp av dess instrumentationsnyckel. Om du vill hämta instrumentationsnyckeln som är associerad med projektet följer du anvisningarna i Anslut Application Insights till ditt Foundry-projekt.

I det här exemplet konfigurerar du en agent som utvecklats med LangGraph för att generera spårningar i OpenTelemetry-standarden. Spårningen samlar in alla agentåtgärder, inklusive verktygsanrop och modellinteraktioner. Spårningen skickar sedan åtgärderna till Application Insights för övervakning.

Den här koden använder langchain-azure-ai-paketet . Vägledning om hur du instrumenterar specifika lösningar med OpenTelemetry, beroende på programmeringsspråket och ramverket som din lösning använder, finns i Språk-API:er och SDK:er.

pip install -U langchain-azure-ai[opentelemetry]

Instrumentera sedan din agent:

from langchain.agents import create_agent
from langchain_azure_ai.callbacks.tracers import AzureAIOpenTelemetryTracer

application_insights_connection_string = "InstrumentationKey=12345678-..."

tracer = AzureAIOpenTelemetryTracer(
    connection_string=application_insights_connection_string,
    enable_content_recording=True,
)

def get_weather(city: str) -> str:
    """Get weather for a given city."""
    return f"It's always sunny in {city}!"

agent = create_agent(
    model="openai:gpt-5.1",
    tools=[get_weather],
    system_prompt="You are a helpful assistant",
).with_config({ "callbacks": [tracer] })

Förväntade utdata: Agenten körs normalt när OpenTelemetry-spårningar skickas automatiskt till Application Insights. Spårningar omfattar åtgärdsnamn, varaktigheter, modellanrop, verktygsanrop och tokenanvändning. Du kan visa dessa spårningar i Foundry-portalen i avsnittet Spårningar .

Instrumentplattformslösningar

Om din agent körs på en plattformslösning som stöder OpenTelemetry men inte stöder Application Insights distribuerar du en OpenTelemetry-insamlare och konfigurerar programvaran för att skicka OTLP-data till insamlaren (standardkonfiguration för OpenTelemetry).

Konfigurera insamlaren med Azure Monitor-exportören för att vidarebefordra data till Application Insights genom att använda din anslutningssträng. Mer information om hur du implementerar det finns i Configure Azure Monitor OpenTelemetry.

Felsöka spårningar

Om du inte ser spårningar kontrollerar du följande:

Relaterat innehåll

• Migrera anpassade agenter till externa agenter
• Vad är Microsoft Foundry Control Plane?
• Övervaka agentens hälsa och prestanda i hela din flotta