Tutorial: Usar pacotes do SSIS para gravar arquivos no OneLake por meio do Azure Data Lake Storage Gen2

Este tutorial mostra como executar um pacote SSIS existente que grava arquivos no Azure Data Lake Storage (ADLS) Gen2 e, em seguida, exibir esses arquivos no OneLake usando um atalho. Combinando a atividade Invocar Pacote SSIS no Data Factory para Microsoft Fabric com atalhos do OneLake, você pode centralizar todos os seus dados no OneLake – até mesmo dados produzidos por cargas de trabalho herdadas do SSIS.

Caso de uso

Muitas organizações têm pacotes SSIS que extraem e transformam dados e gravam os resultados como arquivos simples (CSV, Parquet, XML e outros) no Azure Data Lake Storage Gen2. Esses arquivos são consumidos por sistemas de análise downstream e relatórios.

Com o Microsoft Fabric, você pode trazer esses arquivos para o OneLake sem alterar a lógica do pacote SSIS:

  • Preserve os investimentos existentes em SSIS: continue usando pacotes validados em produção que gravam arquivos no ADLS Gen2 por meio do gerenciador de conexões do Armazenamento do Azure. Nenhuma reescrita de pacote é necessária.
  • Centralizar dados no OneLake – Criar um atalho do ADLS Gen2 em um lakehouse do Fabric para que os arquivos gravados pelo SSIS apareçam automaticamente no OneLake, prontos para consumo por cargas de trabalho do Spark, SQL, Power BI e outras cargas de trabalho do Fabric.
  • Orquestre no Fabric: use a atividade Invocar Pacote SSIS em um pipeline do Fabric para agendar e monitorar a execução do pacote juntamente com outras atividades nativas do Fabric.

Pré-requisitos

Antes de começar, verifique se você tem:

Visão geral

O fluxo de trabalho de ponta a ponta tem quatro etapas:

Etapa O que você faz Resultado
1 Configurar o pacote SSIS para gravar arquivos no ADLS Gen2 O pacote produz arquivos de saída em sua conta de armazenamento
2 Crie um atalho do ADLS Gen2 em um lakehouse do Fabric Os arquivos gravados no ADLS Gen2 aparecem automaticamente no OneLake
3 Carregar o pacote SSIS no OneLake O pacote é armazenado no OneLake e pronto para ser invocado
4 Executar o pacote de um pipeline do Fabric O pipeline orquestra a execução e grava a saída no OneLake

Etapa 1 – Configurar o pacote SSIS para gravar arquivos no ADLS Gen2

Nesta etapa, você garante que seu pacote SSIS use um gerenciador de conexões do Armazenamento do Azure para gravar arquivos em sua conta do ADLS Gen2.

  1. Abra seu projeto do SSIS no Visual Studio com a extensão projetos do SQL Server Integration Services.

  2. Instale o Azure Feature Pack para Serviços de Integração (SSIS). O Pacote de Recursos fornece o gerenciador de conexões do Armazenamento do Azure, a Origem de Blob do Azure, o Destino de Blob do Azure e outras tarefas e componentes relacionados ao Azure necessários para se conectar ao ADLS Gen2 a partir de um pacote SSIS.

  3. Na bandeja Gerenciadores de Conexões , adicione (ou verifique) um gerenciador de conexões do Armazenamento do Azure . Defina as seguintes propriedades:

    Propriedade Valor
    Serviço ADLS Gen2
    Autenticação Escolha um: AccessKey, ServicePrincipal ou SharedAccessSignature
    Nome da conta Seu nome de conta de armazenamento do ADLS Gen2

    Captura de tela da caixa de diálogo de configuração do Gerenciador de Conexões do Armazenamento do Azure.

  4. Configure seu fluxo de dados ou tarefa do sistema de arquivos para usar esse gerenciador de conexão e gravar arquivos de saída em um contêiner e caminho de pasta na conta de armazenamento, por exemplo, mycontainer\myfolder.

    Captura de tela da configuração de fluxo de dados com o contêiner e o caminho da pasta para a conta de armazenamento.

  5. Teste a conexão e verifique se o pacote é executado corretamente em seu computador local.

Para obter detalhes completos sobre o gerenciador de conexões do Armazenamento do Azure, consulte o gerenciador de conexões do Armazenamento do Azure.

Dica

Se o pacote usar o nível de proteção DontSaveSensitive , as credenciais não serão mantidas no arquivo de pacote. Você os fornece em tempo de execução por meio da guia Gerenciadores de Conexão da atividade Invocar Pacote SSIS. Como alternativa, você pode definir o nível de proteção do pacote como EncryptSensitiveWithPassword, que criptografa as credenciais dentro do pacote. Em seguida, você fornece a senha do pacote na atividade Invocar Pacote SSIS em runtime, em vez de fornecer credenciais individuais do gerenciador de conexões (Etapa 4).

Etapa 2 – Criar um atalho do ADLS Gen2 em uma lakehouse do Fabric

Um atalho torna os arquivos gravados pelo pacote SSIS visíveis no OneLake sem copiar dados. Qualquer carga de trabalho do Fabric (Spark, endpoint de análise SQL, Power BI) pode ler os arquivos por meio do atalho.

  1. Abra sua lakehouse no portal do Fabric.

  2. No painel Do Explorer , clique com o botão direito do mouse na pasta Arquivos (ou em uma subpasta) e selecione Novo atalho.

  3. Em Fontes externas, selecione Azure Data Lake Storage Gen2.

  4. Insira a URL de conexão (o ponto de extremidade DFS da sua conta de armazenamento):

    https://<STORAGE_ACCOUNT_NAME>.dfs.core.windows.net
    
  5. Selecione uma conexão existente ou crie uma nova. Escolha um tipo de autenticação que tenha pelo menos a função Leitor de Dados de Blob de Armazenamento na conta de armazenamento.

  6. Selecione Avançar e navegue até o contêiner e a pasta em que o pacote SSIS grava arquivos (por exemplo, mycontainer).

  7. Selecione a pasta de destino e selecione AvançarCriar.

    Captura de tela da caixa de diálogo de criação de atalho mostrando o contêiner de armazenamento selecionado.

O atalho agora aparece no seu lakehouse. Qualquer arquivo que o pacote SSIS grava na pasta de destino do ADLS Gen2 é acessível automaticamente no OneLake por meio desse atalho.

Para obter instruções detalhadas, consulte Criar um atalho do Azure Data Lake Storage Gen2. Para obter mais informações sobre atalhos, consulte atalhos do OneLake.

Etapa 3 – Carregar o pacote SSIS no OneLake

A atividade Invocar Pacote SSIS lê pacotes do OneLake. Carregue seu arquivo .dtsx (e o arquivo .dtsConfig opcional) em um lakehouse.

  1. No portal do Fabric, abra a lakehouse onde você deseja armazenar o pacote.

  2. Na seção Arquivos , crie uma pasta , por exemplo, ssis-packages.

  3. Carregue o pacote usando um destes métodos:

    Método Como
    Portal Fabric Selecione CarregarCarregar arquivos e escolha seu arquivo .dtsx .
    Explorador de arquivos do OneLake Arraste e solte o arquivo na packages pasta por meio do gerenciador de arquivos do OneLake em sua área de trabalho.

Para obter mais informações sobre como carregar arquivos no OneLake, consulte a documentação da atividade Invocar Pacote SSIS.

Etapa 4 – Executar o pacote em um pipeline do Fabric

  1. No workspace do Fabric, crie um novo Pipeline de Dados ou abra um já existente.

  2. No painel Atividades, adicione a atividade Invocar Pacote SSIS à tela do pipeline.

  3. Na guia Configurações , configure a atividade:

    Configurações Valor
    Caminho do pacote Navegue até o arquivo .dtsx que você carregou na Etapa 3.
    Caminho de configuração(opcional) Navegue até o arquivo .dtsConfig , se aplicável.
    Senha de criptografia(opcional) Se o nível de proteção do pacote for EncryptSensitiveWithPassword ou EncryptAllWithPassword, forneça a senha usada para criptografar o pacote.
    Habilitar o registro em log Selecione para gravar logs de execução no OneLake.

    Captura de tela da guia de configurações da atividade Invocar Pacote SSIS em um pipeline do Fabric.

  4. Selecione Salvar e, em seguida, selecione Executar para executar o pipeline imediatamente ou selecione Agendar para configurar a execução recorrente.

  5. Monitore o progresso na guia Saída do pipeline ou no hub Monitorar do workspace. Se o registro em log estiver habilitado, a saída da atividade incluirá o caminho de registro no OneLake.

Para obter detalhes de configuração completos, consulte Usar a atividade Invocar Pacote SSIS para executar um pacote SSIS.

Verifique os resultados

Após a execução do pipeline ser concluída:

  1. Abra a lakehouse e navegue até o atalho que você criou na Etapa 2.
  2. Confirme se os arquivos de saída gravados pelo pacote SSIS aparecem na pasta de atalho.

Resumo

Combinando alguns recursos do Fabric, você pode colocar a saída do SSIS baseada em arquivo no OneLake sem modificar seus pacotes existentes:

  1. O gerenciador de conexões do Armazenamento do Azure grava arquivos para o ADLS Gen2 de dentro do pacote do SSIS.
  2. O atalho OneLake exibe esses arquivos em um Fabric Lakehouse – nenhuma cópia de dados necessária.
  3. O upload do pacote para o OneLake disponibiliza o arquivo .dtsx para execução de pipeline do Fabric.
  4. A atividade Invocar Pacote SSIS orquestra e monitora a execução do pacote em um pipeline do Fabric.

Esse padrão permite que você gerencie todos os seus dados no OneLake, preservando os investimentos existentes do SSIS.