O que são os pipelines do Azure Machine Learning?

APLICA-SE A:Extensão de ML da CLI do Azure v2 (atual)SDK do Python azure-ai-ml v2 (atual)

Um pipeline do Azure Machine Learning é um fluxo de trabalho que automatiza uma tarefa completa de aprendizado de máquina. Ele padroniza as melhres práticas, dá suporte à colaboração em equipe e melhora a eficiência.

Por que os pipelines do Azure Machine Learning são necessários?

Um pipeline divide uma tarefa de aprendizado de máquina em etapas. Cada etapa é um componente gerenciável que pode ser desenvolvido e automatizado separadamente. O Azure Machine Learning gerencia as dependências entre as etapas. Essa abordagem modular:

Padronizar a prática de MLOps e dar suporte à colaboração em equipe escalonável

O MLOps automatiza a criação e a implantação de modelos. Os pipelines simplificam esse processo mapeando cada etapa para uma tarefa específica, para que as equipes possam trabalhar de forma independente.

Por exemplo, um projeto pode incluir coleta de dados, preparação, treinamento, avaliação e implantação. Engenheiros de dados, cientistas e engenheiros de ML possuem cada um seus passos. As etapas são mais bem criadas como componentes e, em seguida, integradas a um único fluxo de trabalho. Os pipelines podem ser com versão, automatizados e padronizados pelas práticas do DevOps.

Eficiência de treinamento e redução de custos

Os pipelines também melhoram a eficiência e reduzem os custos. Eles reutilizam saídas de etapas inalteradas e permitem executar cada etapa no melhor recurso de computação para a tarefa.

Introdução às melhores práticas

Você pode criar um pipeline de várias maneiras, dependendo do ponto de partida.

Ao começar a trabalhar com pipelines, comece dividindo o código existente em etapas, parametrizando entradas e encapsulando tudo em um pipeline.

Para escalar, use modelos de pipeline para problemas comuns. O Teams bifurca um modelo, trabalha em etapas atribuídas e atualiza apenas sua parte conforme necessário.

Com pipelines e componentes reutilizáveis, as equipes podem criar rapidamente novos fluxos de trabalho clonando ou combinando peças existentes.

Você pode criar pipelines usando a CLI, o SDK do Python ou a interface do usuário do Designer.

Qual tecnologia de pipeline do Azure devo usar?

O Azure fornece vários tipos de pipelines para diferentes finalidades:

Cenário Persona primária Oferta do Azure Oferta de OSS (software livre) Pipe canônico Pontos fortes
Orquestração de modelo (Aprendizado de máquina) Cientista de dados Pipelines do Azure Machine Learning Pipelines do Kubeflow Dados -> Modelo Distribuição, cache, primeiro código, reutilização
Orquestração de dados (Preparação de dados) Engenheiro de dados Pipelines do Azure Data Factory Fluxo de ar do Apache Dados -> Dados Movimento com rigidez de tipos, atividades centradas em dados
Orquestração de código e aplicativo (CI/CD - integração contínua e entrega contínua) Desenvolvedor de aplicativos/Operações Azure Pipelines Jenkins Código + Modelo -> Aplicativo/Serviço Suporte a atividades mais aberto e flexível, filas de aprovação, fases com retenção

Próximas etapas

Os pipelines do Azure Machine Learning agregam valor desde o início do desenvolvimento.