適用於:
Azure Data Factory
Azure Synapse Analytics
秘訣
Data Factory in Microsoft Fabric 是下一代的 Azure Data Factory,擁有更簡單的架構、內建 AI 及新功能。 如果你是資料整合新手,建議先從 Fabric Data Factory 開始。 現有的 ADF 工作負載可升級至 Fabric,以存取資料科學、即時分析與報告等新能力。
本文說明如何在 Azure Data Factory 或 Synapse Analytics 管線中使用複製活動,從 Impala 複製資料。 本文是根據複製活動概觀一文,該文提供複製活動的一般概觀。
備註
此連接器也可在 Microsoft Fabric 的 Data Factory 中取得。 關於 Fabric 專屬的配置與功能,請參閱 Fabric Impala 連接器文件。
這很重要
Impala 連接器 1.0 版正處於 拆卸階段。 建議您將 Impala 連接器 從 1.0 版升級至 2.0 版。
支援的功能
此 Impala 連接器支援下列功能:
| 支援的功能 | IR |
|---|---|
| 複製作業(來源/-) | (1) (2) |
| 查閱活動 | (1) (2) |
(1) Azure 整合執行時 (2) 自架整合執行時
如需複製活動所支援作為來源或接收器的資料存放區清單,請參閱支援的資料存放區表格。
該服務會提供內建的驅動程式來啟用連線。 因此,您不需要為了使用此連接器而需手動安裝驅動程式。
先決條件
如果你的資料儲存位於本地網路、Azure虛擬網路或亞馬遜虛擬私人雲中,你需要配置一個自架整合執行時來連接它。
如果你的資料儲存是雲端管理型資料服務,你可以使用Azure Integration Runtime。 如果存取權限限制在防火牆規則中核准的 IP,你可以將 Azure Integration Runtime IPs 加入允許清單。
你也可以在 Azure Data Factory 中使用 managed 虛擬網路整合執行時功能,無需安裝和設定自架整合執行環境即可存取本地網路。
如需 Data Factory 支援的網路安全性機制和選項的詳細資訊,請參閱資料存取策略。
備註
2.0 版需由自架整合執行階段 5.55 版或更新版本支援。
開始
若要使用管線執行複製活動,您可以使用下列其中一個工具或 SDK:
使用 UI 建立連至 Impala 的連結服務
請依照以下步驟在 Azure 入口網站介面中建立與 Impala 的連結服務。
請瀏覽 Azure Data Factory 或 Synapse 工作區的管理標籤,選擇連結服務,然後點選新建:
搜尋 Impala,接著選取 Impala 連接器。
設定服務詳細資料,測試連線,然後建立新的連結服務。
連接器設定詳細資料
下列各節提供屬性的相關詳細資料,這些屬性是用來定義 Impala 連接器專屬的 Data Factory 實體。
連結服務屬性
Impala 連接器現在支援 2.0 版。 請參閱 本節,將您的 Impala 連接器版本從 1.0 升級。 如需屬性詳細資料,請參閱對應的章節。
2.0 版
Impala 連結服務在套用 2.0 版時支援下列屬性:
| 屬性 | 描述 | 必要 |
|---|---|---|
| 型別 | type 屬性必須設定為 Impala。 | 是的 |
| 版本 | 您指定的版本。 該值為 2.0。 |
是的 |
| 主持人 | Impala 伺服器的 IP 位址或主機名稱 (也就是 192.168.222.160)。 | 是的 |
| 傳輸埠 | Impala 伺服器用來接聽用戶端連線的 TCP 連接埠。 預設值為 21050。 | 否 |
| thriftTransportProtocol | Thrift 層中使用的傳輸通訊協定。 允許的值為: 二進位、 HTTP。 預設值為 Binary。 | 是的 |
| 驗證類型 | 要使用的驗證類型。 允許的值為 Anonymous 和 UsernameAndPassword。 |
是的 |
| 使用者名稱 | 用來存取 Impala 伺服器的使用者名稱。 | 否 |
| 密碼 | 使用 UsernameAndPassword 時,值為對應到使用者名稱的密碼。 將此欄位標記為 SecureString 以安全儲存,或參考儲存在 Azure Key Vault 的機密。 | 否 |
| 啟用SSL | 指定是否使用 TLS 來加密與伺服器的連線。 預設值為 True。 | 否 |
| 啟用伺服器證書驗證 | 指定是否要在連線時啟用伺服器 SSL 憑證驗證。 一律使用系統信任存放區。 預設值為 True。 | 否 |
| connectVia | 用來連線到資料存放區的整合執行階段。 深入了解必要條件一節。 若未指定,則使用預設Azure Integration Runtime。 您可以使用自我托管整合執行階段,其版本應該是5.55或更高版本。 | 否 |
範例︰
{
"name": "ImpalaLinkedService",
"properties": {
"type": "Impala",
"version": "2.0",
"typeProperties": {
"host" : "<host>",
"port" : "<port>",
"authenticationType" : "UsernameAndPassword",
"username" : "<username>",
"password": {
"type": "SecureString",
"value": "<password>"
},
"enableSsl": true,
"thriftTransportProtocol": "Binary",
"enableServerCertificateValidation": true
},
"connectVia": {
"referenceName": "<name of Integration Runtime>",
"type": "IntegrationRuntimeReference"
}
}
}
1.0 版
套用 1.0 版時,Impala 連結服務支援下列屬性:
以下是針對 Impala 連結服務所支援的屬性。
| 屬性 | 描述 | 必要 |
|---|---|---|
| 型別 | type 屬性必須設定為 Impala。 | 是的 |
| 主持人 | Impala 伺服器的 IP 位址或主機名稱 (也就是 192.168.222.160)。 | 是的 |
| 傳輸埠 | Impala 伺服器用來接聽用戶端連線的 TCP 連接埠。 預設值為 21050。 | 否 |
| 驗證類型 | 要使用的驗證類型。 允許的值為 Anonymous、SASLUsername 和 UsernameAndPassword。 |
是的 |
| 使用者名稱 | 用來存取 Impala 伺服器的使用者名稱。 使用 SASLUsername 時,預設值為 anonymous。 | 否 |
| 密碼 | 使用 UsernameAndPassword 時,值為對應到使用者名稱的密碼。 將此欄位標記為 SecureString 以安全儲存,或參考儲存在 Azure Key Vault 的機密。 | 否 |
| 啟用SSL | 指定是否使用 TLS 來加密與伺服器的連線。 預設值為 false。 | 否 |
| trustedCertPath | .pem 檔案的完整路徑,會包含在透過 TLS 進行連線時,用來驗證伺服器的受信任 CA 憑證。 這個屬性只有在自架 Integration Runtime 上使用 TLS 時才能設定。 預設值為隨整合執行階段安裝的 cacerts.pem 檔案。 | 否 |
| 使用系統信任憑證庫 (useSystemTrustStore) | 指定是否使用來自系統信任存放區或來自指定 PEM 檔案的 CA 憑證。 預設值為 false。 | 否 |
| allowHostNameCNMismatch | 指定在透過 TLS 連線時,是否要求 CA 所核發的 TLS/SSL 憑證名稱符合伺服器的主機名稱。 預設值為 false。 | 否 |
| allowSelfSignedServerCert | 指定是否允許來自伺服器的自我簽署憑證。 預設值為 false。 | 否 |
| connectVia | 用來連線到資料存放區的整合執行階段。 深入了解必要條件一節。 若未指定,則使用預設Azure Integration Runtime。 | 否 |
範例︰
{
"name": "ImpalaLinkedService",
"properties": {
"type": "Impala",
"typeProperties": {
"host" : "<host>",
"port" : "<port>",
"authenticationType" : "UsernameAndPassword",
"username" : "<username>",
"password": {
"type": "SecureString",
"value": "<password>"
}
},
"connectVia": {
"referenceName": "<name of Integration Runtime>",
"type": "IntegrationRuntimeReference"
}
}
}
資料集屬性
如需可用來定義資料集的區段和屬性完整清單,請參閱資料集一文。 本節提供 Impala 資料集所支援的屬性清單。
若要從 Impala 複製資料,請將資料集的類型屬性設定為 ImpalaObject。 以下是支援的屬性:
| 屬性 | 描述 | 必要 |
|---|---|---|
| 型別 | 資料集的 type 屬性必須設為:ImpalaObject | 是的 |
| 結構描述 | 結構描述的名稱。 | 否 (如果已指定活動來源中的「查詢」) |
| 表格 | 資料表的名稱。 | 否 (如果已指定活動來源中的「查詢」) |
| 資料表名稱 | 具有結構描述的資料表名稱。 支援此屬性是基於回溯相容性。 對於新的工作負載,請使用 schema 和 table。 |
否 (如果已指定活動來源中的「查詢」) |
範例
{
"name": "ImpalaDataset",
"properties": {
"type": "ImpalaObject",
"typeProperties": {},
"schema": [],
"linkedServiceName": {
"referenceName": "<Impala linked service name>",
"type": "LinkedServiceReference"
}
}
}
複製活動屬性
如需可用來定義活動的區段和屬性完整清單,請參閱管線一文。 本節提供 Impala 來源類型所支援的屬性清單。
Impala 作為來源類型
若要從 Impala 複製資料,請將複製活動中的來源類型設定為 ImpalaSource。 複製活動的 [來源] 區段支援下列屬性。
| 屬性 | 描述 | 必要 |
|---|---|---|
| 型別 | 複製活動來源的 type 屬性必須設定為 ImpalaSource。 | 是的 |
| 查詢 | 使用自訂 SQL 查詢來讀取資料。 例如 "SELECT * FROM MyTable"。 |
否 (如果已指定資料集中的 "tableName") |
範例︰
"activities":[
{
"name": "CopyFromImpala",
"type": "Copy",
"inputs": [
{
"referenceName": "<Impala input dataset name>",
"type": "DatasetReference"
}
],
"outputs": [
{
"referenceName": "<output dataset name>",
"type": "DatasetReference"
}
],
"typeProperties": {
"source": {
"type": "ImpalaSource",
"query": "SELECT * FROM MyTable"
},
"sink": {
"type": "<sink type>"
}
}
}
]
Impala 的資料類型對應
當您從 Impala 複製資料及將資料複製到該處時,服務內會使用下列過渡資料類型對應。 若要瞭解複製活動如何將來源架構和資料類型映射到匯入端,請參閱 架構和資料類型對應。
| Impala 數據類型 | 過渡期服務資料類型 (針對 2.0 版) | 過渡期服務資料類型 (1.0 版) |
|---|---|---|
| ARRAY | 繩子 | 繩子 |
| bigint | Int64 | Int64 |
| BOOLEAN | 布林值 | 布林值 |
| CHAR | 繩子 | 繩子 |
| 日期 | Datetime | Datetime |
| DECIMAL | Decimal | Decimal |
| DOUBLE | Double | Double |
| FLOAT | 單身 | 單身 |
| INT | Int32 | Int32 |
| 地圖 | 繩子 | 繩子 |
| SMALLINT | Int16 | Int16 |
| STRING | 繩子 | 繩子 |
| STRUCT | 繩子 | 繩子 |
| timestamp | DateTimeOffset | Datetime |
| TINYINT | SByte | Int16 |
| VARCHAR | 繩子 | 繩子 |
查閱活動屬性
若要了解屬性的詳細資料,請參閱查閱活動。
Impala 連接器生命週期和升級
下表顯示不同 Impala 連接器版本的發行階段和變更記錄:
| 版本 | 發行階段 | 變更紀錄 |
|---|---|---|
| 1.0 版 | Removed | 不適用。 |
| 2.0 版 | GA 版本可用 | • 自行部署整合執行階段版本應為5.55或以上。 • 的預設值 enableSSL 為 true。
支援 enableServerCertificateValidation。trustedCertPath、useSystemTrustStore、allowHostNameCNMismatch 與 allowSelfSignedServerCert 都不支援。 • TIMESTAMP 被視為 DateTimeOffset 資料型別。 • TINYINT 被讀取為 SByte 數據類型。 • 不支援 SASLUsername 驗證類型。 |
將 Impala 連接器從 1.0 版升級至 2.0 版
在 [編輯鏈接服務 ] 頁面中,選取 2.0 版,並參考 鏈接服務屬性 2.0 版來設定連結服務。
Impala 連結服務版本 2.0 的數據類型對應與版本 1.0 的數據類型對應不同。 若要瞭解最新的數據類型對應,請參閱 Impala 的數據類型對應。
自行裝載的整合執行環境需要5.55或以上版本。
相關內容
如需複製活動支援作為來源和接收器的資料存放區清單,請參閱支援的資料存放區。