Obserwowalność agentów danych w usłudze Fabric w Microsoft Foundry

Możesz dodać agenta danych Fabric jako narzędzie do agenta, którego tworzysz w Microsoft Foundry. Po połączeniu agent Foundry dzwoni do agenta danych Fabric, aby odpowiedzieć na pytania oparte na danych firmowych znajdujących się w Fabric OneLake.

Ten artykuł dotyczy obserwowalności dla tego układu. Kiedy budujesz agenta w Foundry i podłączasz do niego agenta danych Fabric, chcesz zobaczyć, co agent danych robi przy każdym żądaniu, a nie tylko ostateczną odpowiedź. Foundry Observability daje ci tę widoczność. Logi i ślady agenta danych są wysyłane do tego samego miejsca, do którego twój agent Foundry już wysyła raporty, więc możesz prześledzić żądanie na całej jego drodze — od agenta Foundry przez agenta danych Fabric aż do źródeł danych, które odpytywał.

Reszta tego artykułu wyjaśnia, gdzie przechowywana jest ta telemetria, jak się tam znajduje, jak ją odczytać, kto ją widzi i jak nią sterować.

Ogólny przegląd można znaleźć w Observability in generative AI . Aby połączyć agenta danych Fabric z Foundry, zobacz Consume a data agent in Microsoft Foundry.

Projekty Foundry i Application Insights

Projekt Foundry to miejsce, gdzie budujesz i prowadzisz swoich agentów. Foundry przechowuje ślady agenta w zasobie Azure Monitor Application Insights, a każdy projekt łączy się z jednym z takich zasobów.

Jako kreator agenta skonfiguruj to tylko raz. W swoim projekcie Foundry otwórz sekcję Agenci, wybierz Traces i wybierz Połącz. Możesz stworzyć nowy zasób Application Insights lub połączyć taki, który już istnieje. Po podłączeniu zasobu Foundry automatycznie włącza śledzenie po stronie serwera dla projektu. Nie musisz wprowadzać żadnych zmian w kodzie, a ślady zaczynają płynąć w ciągu kilku minut.

Relacja jest prosta: projekt wskazuje na jedno źródło Application Insights, a każdy agent w tym projekcie wysyła tam swoje ślady. W projekcie określa się, gdzie jest zbierana telemetria; Application Insights to miejsce, w którym jest ona przechowywana i w którym wykonuje się względem niej zapytania.

Możesz wyświetlić ślady na karcie Ślady w agencie Foundry lub wykonywać na nich zapytania bezpośrednio w połączonym zasobie Application Insights. Portal Foundry pokazuje ślady z ostatnich 90 dni.

Aby uzyskać krok po kroku konfigurację, zobacz Konfiguruj śledzenie agentów AI w Microsoft Foundry.

Jak logi i śledzenia agentów danych Fabric docierają do Twojego projektu

Aby połączyć agenta danych Fabric z Foundry, pracuj w projekcie Foundry. Jeśli podłączysz zasób Application Insights do tego projektu, agent danych Fabric wysyła swoje logi i śledzenia do tego samego zasobu. Telemetria agenta Foundry i agenta danych Fabric trafia do jednego miejsca, dzięki czemu możesz analizować ją łącznie.

Przepływ wygląda tak:

1. W swoim projekcie Foundry połącz zasób Application Insights, jak opisano w poprzedniej sekcji.
2. Dodaj agenta danych Fabric jako narzędzie do agenta Foundry w tym projekcie.
3. Gdy agent usługi Foundry jest uruchomiony, wywołuje agenta danych platformy Fabric, aby uzyskać szczegółowe informacje na podstawie danych organizacji przechowywanych w usłudze Fabric OneLake.
4. Fabric weryfikuje zasób Application Insights połączony z projektem, a następnie wysyła do niego dzienniki i ślady agenta danych.
5. Telemetria agenta danych pojawia się obok śladów Twojego agenta Foundry, zarówno w połączonym zasobie Application Insights, jak i w widoku Traces agenta.

W efekcie praca agenta danych Fabric staje się częścią śledzenia żądania. Widzisz, że twój agent Foundry dzwonił do agenta danych i widzisz, co agent zrobił, aby uzyskać odpowiedź, w tym o jakich źródłach danych zapytał, ile czasu zajmował każdy krok i czy każdy krok się powiódł.

Przejrzyj ślady

Foundry Observability rejestruje każde żądanie jako ślad. Ślad składa się ze spanów, a każdy span reprezentuje jedną jednostkę pracy z własnym czasem rozpoczęcia, czasem trwania i statusem. Przęsła są zagnieżdżone, więc odczytanie śladu od góry do dołu pokazuje ścieżkę, jaką przeszło żądanie, i gdzie spędzono czas.

Agent danych w usłudze Fabric dodaje do śladu dwa rodzaje spanów:

• Zakres działania agenta: cały przebieg działania agenta danych Fabric dla pojedynczego żądania.
• Zakres narzędzi: pojedyncze źródło danych lub narzędzie, które agent danych wywołuje podczas odpowiadania na żądanie. Jedno żądanie może wygenerować więcej niż jeden zakres narzędzi.

Poniższy przykład pokazuje agenta Foundry, który wywołuje agenta danych Fabric, który zadaje zapytania do dwóch źródeł danych, aby odpowiedzieć na pytanie:

Request (trace)
└─ Foundry agent run
   └─ Fabric data agent (called as a tool)
      └─ Agent span            Overall run of the Fabric data agent
         ├─ Tool span          First data source the data agent queried
         └─ Tool span          Second data source the data agent queried

Poniższa tabela opisuje każdy poziom śladu oraz rodzaj metadanych do niego dołączonych.

Dzięki takiej strukturze możesz odpowiadać na pytania, które mają znaczenie, gdy coś wygląda nie tak:

• Gdy odpowiedź jest powolna, czas trwania każdego spanu pokazuje, który krok zajął najwięcej czasu.
• Gdy odpowiedź jest błędna, zakres narzędzi pokazuje, które źródła danych zostały zapytane i w jakiej kolejności.
• Gdy żądanie się nie powiedzie, status na każdym przęsle pokazuje, gdzie doszło do awarii.

Kto może zobaczyć logi i ślady

Zasób Application Insights, który przechowuje logi i śledzenia agenta danych, zarządza dostępem. Każdy, kto ma dostęp do tego zasobu do odczytu, może zobaczyć telemetrię. Podłączenie zasobu do projektu nie daje dostępu do danych, które on posiada.

Dostęp do projektu Foundry sam w sobie nie obejmuje dostępu do telemetrii. Zawsze wymagane jest pozwolenie na odczyt w zasobach Application Insights.

Ustawienie operacyjnego dzierżawcy metadanych

Ustawienie tenant w portalu administracyjnym Fabric kontroluje, czy agenci danych Fabric wysyłają operacyjne metadane do obserwowalności w Foundry. Ustawienie jest domyślnie włączone.

Ustawienie wysyła jedynie metadane operacyjne. Metadane te obejmują wyświetlane nazwy agentów, nazwy źródeł danych, identyfikatory kroków rozumowania oraz identyfikatory konwersacji. Fabric nie wysyła żadnych treści do klienta. Prompty użytkownika i odpowiedzi agentów danych mieszczą się w granicach zgodności Fabric i nie są uwzględniane w tej telemetrii.

Miejsce gry brzmi następująco.

Agenci danych Fabric mogą przesyłać operacyjne metadane do obserwowalności w Microsoft Foundry

Twórcy agentów mogą wykorzystywać operacyjne metadane do monitorowania stanu agentów, wykrywania problemów i zrozumienia, jak ich opublikowane agenci są wykorzystywani w różnych aplikacjach i usługach. Te spostrzeżenia pomagają twórcom agentów poprawić niezawodność i wydajność agentów.

Po włączeniu tego ustawienia, agenci danych Fabric wysyłają operacyjne metadane do skonfigurowanego zasobu Application Insights do przetwarzania i przechowywania. Dane te obejmują wyświetlane nazwy agentów, nazwy źródeł danych, identyfikatory kroków rozumowania oraz identyfikatory rozmów. Zasób Application Insights, który przetwarza i przechowuje te dane, może znajdować się poza regionem geograficznym Twojego najemcy, granicą zgodności lub krajową instancją chmury.

Aby uzyskać dostęp do operacyjnych metadanych, potrzebujesz roli z uprawnieniami do odczytu (takich jak Monitoring Reader lub Log Analytics Reader) na skonfigurowanym zasobie Application Insights. Użytkownicy korzystający z tego dostępu mogą przeglądać dane w Application Insights. Użytkownicy mogą także przeglądać dane poprzez projekt Foundry, który łączy się z skonfigurowanym zasobem Application Insights. Dostęp za pośrednictwem Foundry wymaga dostępu opartego na rolach do projektu Foundry (rola Foundry User lub wyższa), a także uprawnień do odczytu zasobu Application Insights. Sam dostęp do projektu Foundry nie obejmuje dostępu do danych telemetrycznych.

Treści powiązane

• Korzystaj z agenta danych w Microsoft Foundry
• Konfigurowanie śledzenia agentów sztucznej inteligencji w usłudze Microsoft Foundry
• Obserwowalność w sztucznej inteligencji generatywnej
• Konfiguruj ustawienia tenant agenta danych Fabric