Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
APLICA-SE A:
Extensão de ML da CLI do Azure v2 (atual)SDK do Python azure-ai-ml v2 (atual)
Neste artigo, você aprenderá sobre a coleta de dados de modelos implantados em Azure Machine Learning endpoints online.
O Coletor de Dados do Azure Machine Learning fornece log em tempo real de dados de entrada e saída de modelos implantados em pontos de extremidade online gerenciados ou pontos de extremidade online do Kubernetes. Azure Machine Learning armazena os dados de inferência registrados no armazenamento de blobs Azure. Esses dados podem ser usados perfeitamente para monitoramento de modelos, depuração ou auditoria, fornecendo observabilidade para o desempenho de seus modelos implantados.
O coletor de dados fornece:
- Registro em log de dados de inferência em um local central (Armazenamento de Blobs do Azure)
- Suporte para pontos de extremidade online gerenciados e pontos de extremidade online do Kubernetes
- Definição no nível de implantação, permitindo o máximo de alterações em sua configuração
- Suporte para conteúdo e registro em log personalizado
Modos de registro
O coletor de dados fornece dois modos de registro: registro de carga útil e registro personalizado. O registro em log de carga permite coletar os dados de conteúdo de solicitação HTTP e resposta de seus modelos implantados. Com o registro em log personalizado, o Azure Machine Learning fornece um SDK do Python para registrar os DataFrames do Pandas diretamente do script de pontuação. Usando o log personalizado Python SDK, você pode registrar dados de entrada e saída do modelo, além de dados antes, durante e depois de transformações de dados (ou pré-processamento).
Configuração do coletor de dados.
O coletor de dados pode ser configurado no nível de implantação e a configuração é especificada no momento da implantação. Você pode configurar o destino de armazenamento de Blobs Azure que receberá os dados coletados. Você também pode configurar a taxa de amostragem (variando de 0 a 100%) dos dados a serem coletados.
Limitações
O coletor de dados tem as seguintes limitações:
- O coletor de dados só dá suporte ao registro em log para pontos de extremidade online (ou em tempo real) do Azure Machine Learning (Gerenciado ou Kubernetes).
- O coletor de dados Python SDK dá suporte apenas ao registro de dados tabulares por meio do DataFrames do Pandas.
perguntas frequentes
Coleta de dados de inferência após a implantação
Por que os logs de solicitação e resposta estão ausentes ou incompatíveis para solicitações iniciais? A coleta de dados de inferência é inicializada quando o tráfego chega pela primeira vez. Durante esse breve período de aquecimento após a implantação, as solicitações ou respostas iniciais podem ser registradas de forma independente. Esse comportamento é esperado e temporário.
Isso indica perda de dados ou falha? Não. Isso é por design e não indica um erro se as métricas de coleta de dados não mostrarem falhas.
Como posso evitar isso ao validar a telemetria? Envie algumas solicitações de inferência de aquecimento ou aguarde um pouco após a implantação para executar testes de validação ou smoke tests.