Tracering instellen in Microsoft Foundry

Belangrijk

Items die in dit artikel zijn gemarkeerd (preview) zijn momenteel beschikbaar als openbare preview. Deze preview wordt aangeboden zonder een service level agreement en we raden deze niet aan voor productieworkloads. Bepaalde functies worden mogelijk niet ondersteund of hebben mogelijk beperkte mogelijkheden. Zie Aanvullende gebruiksvoorwaarden voor Microsoft Azure previews voor meer informatie.

Opmerking

Tracing is algemeen beschikbaar voor prompts en gehoste agenten. Workflow en externe agents zijn beschikbaar als preview.

Tracering gebruiken om fouten in uw AI-agents op te sporen en hun gedrag in productie te bewaken. Tracering legt gedetailleerde telemetrie vast, waaronder latentie, uitzonderingen, prompt-inhoud en ophaalbewerkingen, zodat u sneller problemen kunt identificeren en oplossen.

Het aanbevolen startpunt is tracering aan de serverzijde. Foundry schakelt deze automatisch in nadat u een Application Insights-resource aan uw project hebt gekoppeld. Er zijn geen codewijzigingen nodig en binnen enkele minuten na het inschakelen ervan zijn traces beschikbaar. Server-side tracering werkt met elke agent die in Foundry wordt gehost. Wanneer u inzicht nodig hebt in uw eigen toepassingscode, bijvoorbeeld om aangepaste logica rond een agentaanroep te traceren, kunt u instrumentatie aan de clientzijde toevoegen als een tweede stap.

De Microsoft Foundry Skill kan helpen bij het kiezen van tracering aan de server- of clientzijde en het oplossen van problemen met ontbrekende telemetrie.

Voorwaarden

Application Insights verbinden met uw Foundry-project

Foundry slaat traceringen op in Application Insights met behulp van semantische openTelemetry-conventies.

  1. Meld u aan bij Microsoft Foundry. Zorg ervoor dat de wisselknop New Foundry is ingeschakeld. Deze stappen verwijzen naar Foundry (nieuw).

  2. Open uw Foundry-project.

  3. Selecteer Agents in het linkernavigatievenster.

  4. Selecteer bovenaan Traceringen.

  5. Selecteer aan de rechterkant Verbinding maken om een Application Insights-resource te maken of er verbinding mee te maken.

    Schermopname van het tabblad Agents met traceringen en de knop Verbinding maken.

  • Als u een bestaande resource wilt verbinden, selecteert u de resource en selecteert u Vervolgens Verbinding maken.
  • Als u een nieuwe resource wilt maken, selecteert u Nieuwe maken en voltooit u de wizard.

Er wordt een bevestigingsbericht weergegeven wanneer de verbinding slaagt.

Het verbindingspad voor projectdetails gebruiken

Als u de berichtenbalk of de knop Verbinding maken niet ziet, gebruikt u deze alternatieve manier om Azure Monitor Application Insights in te schakelen.

  1. Selecteer Beheren in de navigatie rechtsboven en selecteer vervolgens Projectdetails. Schermopname van de sectie Beheren met de optie Project details gemarkeerd.
  2. Selecteer het tabblad Verbonden resources en selecteer vervolgens Verbinding toevoegen. Schermopname van Project details met het tabblad Verbonden resources geselecteerd en de knop Verbinding toevoegen gemarkeerd.
  3. Selecteer in Een verbinding kiezenApplication Insights. Schermopname van Een verbinding kiezen met Application Insights gemarkeerd.

Zie Microsoft Entra-authenticatie configureren voor traceregistratie van Foundry Agent (preview) voor met Entra geverifieerde traceregistratie.

Nadat u de resource hebt verbonden, is uw project klaar om tracering te gebruiken.

Belangrijk

Zorg ervoor dat u over de machtigingen beschikt die u nodig hebt om een query uit te voeren op telemetriegegevens.

Instrumenteer AI-agenten

Kies de benadering die overeenkomt met de manier waarop u uw agent bouwt en uitvoert.

Traceringen aan de serverzijde in de Foundry-portal

Begin met traceringen aan de serverzijde. Foundry registreert traceringen voor veelvoorkomende agent- en werkstroomscenario's zonder dat u uw code hoeft te wijzigen.

  • Foundry registreert automatisch traceringen aan de serverzijde voor promptagenten, hostagents en werkstromen in de Foundry-portal. Nadat tracering is ingeschakeld in uw Foundry-project, hebt u toegang tot standaardtraceringen voor de afgelopen 90 dagen.
  • Foundry biedt ook ondersteuning voor eenvoudige integratie met de belangrijkste agentframeworks.

Traceringen aan de clientzijde met de Microsoft Foundry SDK (Python)

Installeer OpenTelemetry en de Azure SDK-traceringsinvoegtoepassing met behulp van de volgende stappen:

pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry

Naslaginformatie: azure-ai-projects, azure-core-tracing-opentelemetry

Belangrijk

Als u het eindpunt van een project in uw toepassing wilt gebruiken, moet u Microsoft Entra ID configureren. Als u Microsoft Entra ID niet configureert, gebruikt u de Application Insights-verbindingsreeks.

Nadat u uw agent hebt uitgevoerd, kunt u traceringen bekijken en analyseren in de Foundry-portal.

Zie Tracing with azure-ai-projects (Python SDK) and Telemetry samples for agents voor gedetailleerde instructies en SDK-specifieke codevoorbeelden.

Lokaal traceren met de Microsoft Foundry Toolkit voor Visual Studio Code-extensie

Met de Microsoft Foundry Toolkit voor Visual Studio Code-extensie kunt u lokaal traceren in VS Code met behulp van een lokale OTLP-compatibele collector. Deze benadering is ideaal voor ontwikkeling en foutopsporing.

De toolkit ondersteunt AI-frameworks zoals Foundry Agent Service, OpenAI, Anthropic en LangChain via OpenTelemetry. U kunt traceringen direct in VS Code zien zonder dat u cloudtoegang nodig hebt.

Zie Tracering in Foundry Toolkit voor gedetailleerde installatie-instructies en SDK-specifieke codevoorbeelden.

Traceringen weergeven en analyseren

Traceringen weergeven in de Foundry-portal

Ga in uw Foundry-project naar het tabblad Traces in uw agents of werkstromen. U kunt opgenomen traceringen van de afgelopen 90 dagen doorzoeken, filteren of sorteren.

Selecteer een tracering om elk bereik te doorlopen, problemen te identificeren en te zien hoe uw toepassing reageert. Dit proces helpt u bij het debuggen en opsporen van problemen in uw toepassing.

Traceringen weergeven in Azure Monitor

Uw traceringen worden verzonden naar Azure Monitor Application Insights, zodat u ze daar kunt bekijken.

Zie de documentatie Azure Monitor OpenTelemetry voor meer informatie over het verzenden van traceringen naar Azure Monitor en het maken van een Azure Monitor resource.

Gespreksresultaten weergeven

Een gesprek is de permanente context van een end-to-end dialooggeschiedenis tussen een gebruiker en een agent. In het Foundry-portaal kunt u Gespreksresultaten van uw agent direct uit de doos bekijken, samen met traceringen op de pagina Traceringen.

Zoek op antwoord-id of op een tracerings-id die is toegewezen aan dit gesprek. Selecteer vervolgens een conversatie-id om te bekijken:

  • Details van gespreksgeschiedenis
  • Antwoordinformatie en tokens in een run
  • Geordende acties, stappen uitvoeren en aanroepen van hulpprogramma's
  • Invoer en uitvoer tussen een gebruiker en een agent

Schermopname van het deelvenster Gespreksdetails in Foundry met een gespreks-id met een traceringstijdlijn en details van de uitvoeringsstap.

Controleren of tracering werkt

  1. Controleer of uw project is verbonden met Application Insights. Volg zo nodig de stappen in Application Insights verbinden met uw Foundry-project.

  2. Voer uw agent of werkstroom minstens één keer uit (bijvoorbeeld met behulp van de portal of uw app).

  3. Open de traceringsweergave in uw Foundry-project en bevestig dat er een nieuwe tracering wordt weergegeven.

    Wanneer tracering correct werkt, ziet u een lijst met recente traceringen met tijdstempels, duur en statusindicatoren. Selecteer een trace om de spanningsdetails ervan weer te geven.

Als u geen nieuwe traceringen ziet, wacht u enkele minuten, vernieuwt u, en bekijkt u vervolgens de sectie Probleemoplossing.

Beveiliging en privacy

Tracering kan gevoelige informatie vastleggen, zoals gebruikersinvoer, modeluitvoer en hulpprogrammaargumenten en resultaten. Gebruik deze procedures om het risico te verminderen:

  • Sla geen geheimen, referenties of tokens op in prompts, programma-argumenten of kenmerken.
  • Persoonlijke gegevens en andere gevoelige inhoud redacteren of minimaliseren voordat deze in telemetrie worden weergegeven.
  • Traceringsgegevens behandelen als productietelemetrie en hetzelfde toegangsbeheer en bewaarbeleid toepassen dat u gebruikt voor logboeken en metrische gegevens.

Zie Beveiliging en privacy voor meer informatie.

Gegevensretentie en kosten

Foundry slaat traceringen op in de Application Insights-resource die is verbonden met uw project. Gegevensretentie en facturering volgen uw Application Insights en Log Analytics configuratie.

Probleemoplossing

Probleem Oorzaak Resolutie
U ziet geen traceringen in de Foundry-portal Tracering is niet verbonden, er is geen recent verkeer of de opname is vertraagd Bevestig de Application Insights-verbinding, genereer nieuw agentverkeer en vernieuw na enkele minuten.
Er worden autorisatiefouten weergegeven wanneer u telemetrie opvraagt of bekijkt Ontbrekende RBAC-machtigingen voor Application Insights of Log Analytics Bevestig de toegang in Toegangsbeheer (IAM) voor de verbonden resources. Wijs voor logboekquery's de rol Log Analytics Lezer toe. Als de tabellen zijn beveiligd, wijst u ook Privileged Monitoring Data Reader toe.
Traceringen aan clientzijde worden niet weergegeven Instrumentatie is niet geïnstalleerd of geconfigureerd Controleer de installatie van uw pakket opnieuw en volg de SDK-richtlijnen die zijn gekoppeld aan Client-side traceringen met de Microsoft Foundry SDK (Python).
Gevoelige inhoud komt sporadisch in traces voor Prompts, hulpprogrammaargumenten of uitvoer bevatten gevoelige gegevens Gevoelige gegevens opnieuw uitvoeren voordat ze telemetrie invoeren en de richtlijnen in Beveiliging en privacy volgen.

Nu u tracering hebt ingesteld, verkent u deze resources om uw inzicht te verdiepen en de mogelijkheden voor waarneembaarheid uit te breiden: