O que são os pipelines do Azure Machine Learning?

APLICA-SE A:CLI do Azure ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

Um pipeline do Azure Machine Learning é um fluxo de trabalho que automatiza uma tarefa completa de aprendizado de máquina. Ele padroniza as melhores práticas, apoia a colaboração em equipe e melhora a eficiência.

Por que os pipelines do Azure Machine Learning são necessários?

Um pipeline divide uma tarefa de aprendizado de máquina em etapas. Cada etapa é um componente gerenciável que pode ser desenvolvido e automatizado separadamente. O Azure Machine Learning gerencia dependências entre etapas. Esta abordagem modular:

Padronize a prática de MLOps e ofereça suporte à colaboração escalável da equipe

O MLOps automatiza a criação e a implantação de modelos. Os pipelines simplificam esse processo mapeando cada etapa para uma tarefa específica, para que as equipes possam trabalhar de forma independente.

Por exemplo, um projeto pode incluir coleta de dados, preparação, treinamento, avaliação e implantação. Os engenheiros de dados, os cientistas e os engenheiros de ML são responsáveis pelas suas etapas. As etapas são melhor criadas como componentes e, em seguida, integradas em um único fluxo de trabalho. Os pipelines podem ser versionados, automatizados e padronizados pelas práticas de DevOps.

Eficiência da formação e redução de custos

Os gasodutos também melhoram a eficiência e reduzem os custos. Eles reutilizam saídas de etapas inalteradas e permitem que você execute cada etapa no melhor recurso de computação para a tarefa.

Introdução às práticas recomendadas

Você pode construir um pipeline de várias maneiras, dependendo do seu ponto de partida.

Se você é novo em pipelines, comece dividindo o código existente em etapas, parametrizando entradas e encapsulando tudo em um pipeline.

Para escalar, use modelos de fluxo de trabalho para problemas comuns. As equipes bifurcam um modelo, trabalham em etapas atribuídas e atualizam apenas sua parte conforme necessário.

Com pipelines e componentes reutilizáveis, as equipes podem criar rapidamente novos fluxos de trabalho clonando ou combinando peças existentes.

Você pode criar pipelines usando a CLI,Python SDK ou Designer UI.

Qual tecnologia de pipeline do Azure devo usar?

O Azure fornece vários tipos de pipelines para finalidades diferentes:

Cenário Persona primária Oferta do Azure Oferta OSS Tubo canónico Pontos fortes
Orquestração de modelos (Machine learning) Cientista de dados Azure Machine Learning Pipelines Oleodutos Kubeflow Dados -> Modelo Distribuição, armazenamento em cache, code-first, reutilização
Orquestração de dados (preparação de dados) Engenheiro de dados Pipelines do Azure Data Factory Apache Airflow Dados -> Dados Movimento fortemente tipado, atividades centradas em dados
Orquestração de código e aplicações (CI/CD) Desenvolvedor de aplicativos / Ops Azure Pipelines Jenkins • Código + Modelo -> App/Service Suporte de atividade mais aberto e flexível, filas de aprovação, fases com seleção

Próximos passos

Os pipelines do Azure Machine Learning agregam valor desde o início do desenvolvimento.