Exportar para o SQL Server usando Python (SSIS)
Visão geral
A ferramenta Procore Analytics Cloud Connect Access é uma interface de linha de comando (CLI) que ajuda a configurar e gerenciar transferências de dados do Procore para o MS SQL Server. Consiste em dois componentes principais:
- user_exp.py (Utilitário configuração configuração)
- delta_share_to_azure_panda.py (script de sincronização de dados)
Pré-requisitos
- Python e pip instalados em seu sistema.
- Acesso ao Procore Delta Share.
- Conta do MS SQL Server credenciais.
- Instale as dependências necessárias: pip install -r requirements.txt.
Passos
- Configuração Inicial
- Sincronização de dados
- Configuração de compartilhamento delta
- Configuração do MS SQL Server
- Configuração do SSIS
Configuração Inicial
- Execute o utilitário de configuração:
user_exp.py Python
Isso ajudará você a configurar o seguinte:
- Configuração de origem do compartilhamento delta
- Configuração de destino do MS SQL Server
- Preferências de agendamento
Sincronização de dados
Após a configuração, você tem duas opções para executar a sincronização de dados:
- python de execução direta
delta_share_to_azure_panda.py
OU - Execução Programada
Se configurado durante configuração, o trabalho será executado automaticamente de acordo com sua programação cron.
Configuração de compartilhamento delta
- Crie um novo arquivo chamado config.share com seu Delta Share credenciais no formato JSON.
{
"shareCredentialsVersion": 1,
"bearerToken": "xxxxxxxxxxxxx",
"ponto de extremidade": "https://nvirginia.nuvem. databricks.c... alojas/xxxxxx"
}
- Obtenha os campos obrigatórios:
Nota: Esses detalhes podem ser obtidos no aplicativo Web Procore Analytics.- ShareCredentialsVersion: Número da versão (atualmente 1).
- BearerToken: Seu token de acesso Delta Share.
- Ponto de extremidade: seu endpoint de compartilhamento Delta URL.
- Salve o arquivo em um local seguro.
- Ao configurar a fonte de dados, você será solicitado a fornecer:
- Lista de tabelas (separadas por vírgula).
- Deixe em branco para sincronizar todas as tabelas.
- Exemplo: 'table1, t able2, table3'.
- Caminho para o seu 'config.share' arquivo.
Configuração do MS SQL Server
Você precisará fornecer os seguintes detalhes do MS SQL Server:
- base de dados
- anfitrião
- senha
- esquema
- nome de usuário
Configuração do SSIS
- Usando a linha de comando, navegue até a pasta <path to the folder> digitando'cd'.
- Instale os pacotes necessários usando 'pip install -r requirements.txt' ou 'python -m pip install -r requirements.txt'.
- Abra o SSIS e crie um novo projeto.
- Na Caixa de Ferramentas do SSIS, arrastar e soltar atividade "Executar tarefa de processo".
- Clique duas vezes em 'Executar tarefa do processo' e navegue até a guia Processo.
- Em 'Executável', digite o caminho para python.exe na pasta de instalação do python.
- Em 'WorkingDirectory', insira um caminho para a pasta que contém o script que você deseja executar (sem o nome do arquivo de script).
- Em 'Argumentos', digite o nome do script 'delta_share_to_azure_panda.py' você deseja executar com o .py extensão e salvar.
- Clique no botão 'Iniciar' no painel superior:
- Durante a execução da tarefa, a saída do console Python é exibida na janela do console externo.
- Quando a tarefa estiver concluída, ele exibirá um tick verde: