Observabilidade para agentes de dados do Fabric no Microsoft Foundry

Pode adicionar um agente de dados Fabric como ferramenta a um agente que constrói no Microsoft Foundry. Depois de o ligar, o agente do Foundry invoca o agente de dados do Fabric para responder a perguntas baseadas nos seus dados empresariais armazenados no Fabric OneLake.

Este artigo é sobre a observabilidade para essa configuração. Quando constróis um agente no Foundry e ligas um agente de dados Fabric a ele, queres ver o que o agente de dados fez em cada pedido, não apenas a resposta final. A Foundry Observability dá-te essa visibilidade. Os registos e rastreios do agente de dados são enviados para o mesmo local para onde o seu agente Foundry já envia informações, pelo que pode acompanhar um pedido de ponta a ponta, desde o agente Foundry, passando pelo agente de dados do Fabric, até às fontes de dados que foram consultadas.

O resto deste artigo explica onde essa telemetria está armazenada, como lá chega, como a ler, quem a pode ver e como a controlar.

Para uma visão geral, veja Observabilidade em IA generativa . Para ligar um agente de dados Fabric ao Foundry, consulte Consumir um agente de dados no Microsoft Foundry.

Projetos do Foundry e Application Insights

Um projeto Foundry é onde constróis e geres os teus agentes. O Foundry armazena traços de agente num recurso do Azure Monitor Application Insights, e cada projeto liga-se a um desses recursos.

Enquanto criador de agentes, configure isto uma vez. No seu projeto Foundry, abra a secção Agents, selecione Traces e selecione Connect. Pode criar um novo recurso de Insights de Aplicação ou ligar um que já existe. Depois de ligares o recurso, o Foundry ativa automaticamente o rastreio do lado do servidor para o projeto. Não precisa de fazer quaisquer alterações ao código e os rastreios começam a chegar em poucos minutos.

A relação é simples: o projeto aponta para um recurso Application Insights, e cada agente desse projeto envia os seus traços para lá. O projeto define onde a telemetria é recolhida; O Application Insights é onde ele está e onde deve ser consultado.

Pode visualizar os traços no separador Traces do seu agente Foundry, ou consultá-los diretamente no recurso Application Insights conectado. O portal da Fundição mostra vestígios dos últimos 90 dias.

Para configuração passo a passo, veja Configurar rastreamento para agentes de IA no Microsoft Foundry.

Como os registos e traços dos agentes de dados Fabric chegam ao seu projeto

Para ligar um agente de dados Fabric ao Foundry, trabalhe num projeto Foundry. Se ligar um recurso Application Insights a esse projeto, o agente de dados Fabric envia os seus registos e traços para esse mesmo recurso. A telemetria do seu agente do Foundry e a telemetria do agente de dados do Fabric ficam reunidas num único local, para que possa consultá-las em conjunto.

O fluxo funciona assim:

  1. No seu projeto Foundry, ligue um recurso Application Insights, conforme descrito na secção anterior.
  2. Adicione um agente de dados Fabric como ferramenta a um agente Foundry nesse projeto.
  3. Quando o agente Foundry é executado, chama o agente de dados do Fabric para obter informações a partir dos dados da empresa no Fabric OneLake.
  4. O Fabric valida o recurso Application Insights ligado ao projeto, depois envia os registos e traços do agente de dados para ele.
  5. A telemetria do agente de dados aparece a par dos rastreios do seu agente do Foundry, tanto no recurso Application Insights ligado como na vista Traces do agente.

O resultado é que o trabalho realizado pelo agente de dados Fabric passa a fazer parte do rastreio do pedido. Vê que o seu agente da Foundry ligou para o agente de dados, e vê o que o agente de dados fez para obter a sua resposta, incluindo que fontes de dados consultou, quanto tempo demorou cada passo e se cada passo teve sucesso.

Leia os rastos

O Foundry Observability regista cada solicitação como um rasto. Um rasto consiste em segmentos, e cada segmento representa uma unidade de trabalho com a sua própria hora de início, duração e estado. Os spans são aninhados, por isso ler um traço de cima para baixo mostra o percurso que um pedido seguiu e onde o tempo foi gasto.

Um agente de dados do Fabric adiciona dois tipos de intervalos ao rasto:

  • Agent span: a execução global do agente de dados Fabric para um único pedido.
  • Âmbito da ferramenta: uma única fonte de dados ou ferramenta que o agente de dados utiliza ao responder ao pedido. Uma solicitação pode gerar mais de um segmento de ferramenta.

O exemplo seguinte mostra um agente Foundry que chama um agente de dados Fabric, que consulta duas fontes de dados para responder à pergunta:

Request (trace)
└─ Foundry agent run
   └─ Fabric data agent (called as a tool)
      └─ Agent span            Overall run of the Fabric data agent
         ├─ Tool span          First data source the data agent queried
         └─ Tool span          Second data source the data agent queried

A tabela seguinte descreve cada nível do traço e o tipo de metadados a ele associados.

Nível Emitido por Represents Metadados de exemplo
Execução do agente Foundry Fundição O agente da Foundry que trata do pedido do utilizador ID da conversa, estado, duração
Agente de dados Fabric (chamada de ferramenta) Fundição O ponto onde o agente da Foundry chama o agente de dados Fabric Nome exibido do agente, estatuto, duração
Envergadura do agente Agente de dados Fabric A execução global do agente de dados do Fabric para o pedido Nome de exibição do agente, identificador da conversa, estado, duração
Extensão da ferramenta Agente de dados Fabric Cada fonte de dados ou ferramenta que o agente de dados chama para responder Nome da fonte de dados, ID do passo de raciocínio, estado, duração

Com esta estrutura, pode responder às perguntas que importam quando algo parece estranho:

  • Quando uma resposta é lenta, a duração de cada span mostra qual etapa demorou mais tempo.
  • Quando uma resposta está errada, a ferramenta mostra que fontes de dados foram consultadas e em que ordem.
  • Quando um pedido falha, o estado em cada espaço mostra onde ocorreu a falha.

Quem pode ver os registos e vestígios

O recurso Application Insights que armazena os registos e vestígios do agente de dados regula o acesso. Qualquer pessoa com acesso de leitura a esse recurso pode ver a telemetria. Ligar um recurso a um projeto não concede acesso aos dados que ele detém.

Onde visualiza os dados Acesso necessário
Application Insights Uma função com permissões de leitura no recurso ligado Application Insights, como Monitoring Reader ou Log Analytics Reader
Projeto Microsoft Foundry Permissões de leitura no recurso Application Insights associado, além de uma função de projeto do Foundry de Utilizador do Foundry ou superior

O acesso a um projeto de fundição por si só não inclui acesso à telemetria. É sempre necessária permissão de leitura no recurso Application Insights.

Definição de metadados operacionais do locatário

Uma configuração de inquilino no portal de administração do Fabric controla se os agentes de dados do Fabric enviam metadados operacionais para observabilidade no Foundry. A configuração está ativada por padrão.

A definição envia apenas metadados operacionais. Estes metadados incluem nomes de exibição de agentes, nomes de fontes de dados, IDs de etapas de raciocínio e IDs de conversa. A Fabric não envia nenhum conteúdo para clientes. Os prompts dos utilizadores e as respostas dos agentes de dados mantêm-se dentro dos limites de conformidade do Fabric e não são incluídos nesta telemetria.

Observação

Um administrador do Fabric pode desativar essa opção para o tenant. As alterações na configuração do inquilino podem demorar até uma hora a entrar em vigor.

O cenário é o seguinte.

Os agentes de dados Fabric podem enviar metadados operacionais para observabilidade no Microsoft Foundry

Os criadores de agentes podem usar metadados operacionais para monitorizar a saúde dos agentes, detetar problemas e compreender como os seus agentes publicados são usados em aplicações e serviços. Estes insights ajudam os criadores de agentes a melhorar a fiabilidade e o desempenho dos agentes.

Quando ativa esta definição, os agentes de dados Fabric enviam metadados operacionais para um recurso Application Insights configurado para processamento e armazenamento. Estes dados incluem os nomes apresentados dos agentes, os nomes das fontes de dados, os identificadores das etapas de raciocínio e os identificadores da conversa. O recurso Application Insights que processa e armazena estes dados pode estar localizado fora da região geográfica do seu inquilino, do limite de conformidade ou da instância nacional de cloud.

Para aceder aos metadados operacionais, é necessário um papel com permissões de leitura (como Monitoring Reader ou Log Analytics Reader) no recurso Application Insights configurado. Os utilizadores com este acesso podem visualizar os dados em Application Insights. Os utilizadores também podem visualizar os dados através de um projeto Foundry que se liga ao recurso Application Insights configurado. O acesso através do Foundry requer acesso baseado em funções ao projeto Foundry (Utilizador Foundry ou superior), além de permissões de leitura no recurso Application Insights. O acesso a um projeto Foundry por si só não inclui o acesso aos dados de telemetria.

Important

O recurso Application Insights que armazena estes metadados pode estar localizado fora da região geográfica do seu inquilino, do limite de conformidade ou da instância nacional de cloud. Reveja os requisitos de residência de dados e de conformidade antes de manter esta configuração ativada.