使用 BlobFuse2 搭配雲端儲存體分散式加速器(DACS)來透過 Linux 檔案系統路徑讀取 Azure Blob 資料。 應用程式保留現有的檔案讀取程式碼,而 BlobFuse2 則透過 DACS 提供快取資料,並從 Blob 儲存體 擷取遺失的資料。
Azure Blob 容器儲存介面(CSI)驅動程式會透過持久性磁碟區(PV)和持久性磁碟區宣告(PVC)掛載容器。 Azure Blob 儲存體仍是持久且具權威性的資料來源。
本文涵蓋配置、讀路徑驗證及 標準儲存基準測試結果。
Prerequisites
- 一個符合 DACS 快速入門中 Azure 區域和 Kubernetes 版本需求的 AKS 叢集。
- Linux 快取節點配備本地 NVMe 磁碟,專門用於 DACS。
- Ubuntu Linux 工作負載節點,用於掛載 BlobFuse2 的應用程式 Pods。
- 一個包含你應用程式資料的 Azure Blob 容器。
- 一個現有的使用者指派受控識別,用於 Blob 驗證。
- Azure CLI 和
kubectl。 - 啟用 DACS 及受管理的 Azure Blob CSI 驅動程式、建立 Kubernetes 資源、管理身份的聯邦憑證,以及指派所需的 Blob 資料存取角色的權限。
- 已在所有符合資格的 Linux 工作負載節點上安裝 BlobFuse2 2.5.6 或更新版本。 關於分散式快取的支援與限制,請參閱 BlobFuse2 2.5.6 版本的說明。
- 由 AKS 管理的 Azure Blob CSI 驅動程式
v1.27.11或更新版本,且已啟用 AKS OIDC 簽發者和 Microsoft Entra 工作負載 ID,以使用僅限權杖的驗證方式。
Important
對每個容器使用唯讀掛載。 透過快取伺服器指標和 BlobFuse2 日誌驗證 DACS 活動。 DACS 將 Kubernetes 叢集視為單一信任域,不提供租戶隔離。 不要在多租戶叢集中使用它。 Workload 身份授權存取 Blob 儲存體;它不會隔離快取資料。 欲了解更多資訊,請參閱 DACS安全模型。
設定變數
在同一個 Bash 工作階段中執行這些指令。 請將佔位符替換成你的叢集、儲存容器以及現有的使用者指派受控識別:
SUBSCRIPTION_ID="<subscription-id>"
RESOURCE_GROUP="<aks-resource-group>"
CLUSTER_NAME="<aks-cluster-name>"
WORKLOAD_NODE_POOL="<blobfuse-ready-node-pool>"
STORAGE_RESOURCE_GROUP="<storage-resource-group>"
STORAGE_ACCOUNT="<storage-account-name>"
STORAGE_CONTAINER="<existing-container-name>"
IDENTITY_RESOURCE_GROUP="<managed-identity-resource-group>"
IDENTITY_NAME="<managed-identity-name>"
CACHE_NAMESPACE=dacs-cache-system
CACHE_NAME=cache-sample
WORKLOAD_NAMESPACE=blobfuse-dacs
SERVICE_ACCOUNT=blobfuse-reader
az account set --subscription "$SUBSCRIPTION_ID"
az aks get-credentials --resource-group "$RESOURCE_GROUP" --name "$CLUSTER_NAME"
BLOBFUSE_CLIENT_ID=$(az identity show \
--resource-group "$IDENTITY_RESOURCE_GROUP" \
--name "$IDENTITY_NAME" \
--query clientId --output tsv)
安裝雲端儲存的分散式加速器
要安裝 DACS、準備專用快取磁碟、建立快取資源並驗證準備就緒,請參見「開始使用 AKS 上適用於雲端儲存體的分散式加速器」。
擷取已就緒之 Cache 的探索主機名稱:
CACHE_DISCOVERY_HOST=$(kubectl get cache "$CACHE_NAME" \
--namespace "$CACHE_NAMESPACE" \
-o jsonpath='{.status.discoveryURL}')
test -n "$CACHE_DISCOVERY_HOST"
使用你的快取資源所發布的主機名稱及其已設定的埠。 快速啟動使用埠 9065。
啟用 Azure Blob CSI 驅動程式並驗證 BlobFuse2
使用由 AKS 管理的驅動程式。 請遵循 在 AKS 上啟用 Azure Blob CSI driver。
使用 AKS 來管理 CSI 驅動程式的升級。 確保每個符合資格的工作負載節點都執行 BlobFuse2 2.5.6 或更新版本,並協調套件更新與卷卸載。
驗證已安裝的掛接處理程序
透過節點 DaemonSet 檢查 CSI 準備狀況。
kubectl get csidriver blob.csi.azure.com
kubectl rollout status daemonset/csi-blob-node \
--namespace kube-system --timeout=10m
kubectl get pods --namespace kube-system \
--selector app=csi-blob-node --output wide
kubectl get daemonset csi-blob-node --namespace kube-system \
--output jsonpath='{range .spec.template.spec.containers[*]}{.name}{": "}{.image}{"\n"}{end}'
確認容器 blob 映像檔是版本 v1.27.11 或更新版本。
CSI 驅動程式映像版本並未標示主機上安裝的 BlobFuse2 版本。 對於每個符合資格的 Ubuntu 節點,從前一個輸出中選擇其 csi-blob-node pod,並驗證 CSI 代理所使用的主機二進位檔:
BLOB_CSI_POD="<csi-blob-node-pod-name>"
kubectl exec --namespace kube-system "$BLOB_CSI_POD" --container blob -- \
nsenter --mount=/proc/1/ns/mnt -- /usr/bin/blobfuse2 --version
kubectl exec --namespace kube-system "$BLOB_CSI_POD" --container blob -- \
nsenter --mount=/proc/1/ns/mnt -- /usr/bin/blobfuse2 mount --help
請確認版本為 2.5.6 或更新版本,以及以下章節中的磁碟區組態所使用的 --distributed-cache-* 選項。
當節點映像檔有較舊版本時,更新 BlobFuse2
若主機二進位遺失或早於 2.5.6,請設定受管理 CSI 驅動程式的 install-blobfuse-proxy 初始化容器以安裝所需的 BlobFuse2 套件。 當所有符合資格的節點都已經是 2.5.6 或更新版本時,請跳過此步驟。
此更新使用了 Ubuntu 節點上的套件安裝程式,節點需要存取已設定的 Ubuntu 與 Microsoft 套件庫。 它不會取代受管理的 CSI 驅動映像檔,也不會安裝獨立驅動程式。
Important
這個補丁是在整個叢集中部署 csi-blob-node DaemonSet,而不只是工作負載節點池。 繼續之前,請檢查所有受影響 Ubuntu 節點上的主機版本,並協調更新與磁碟區卸載作業。 如果節點執行的版本已高於 2.5.6,請將下方的 BLOBFUSE2_VERSION 設為該版本或更新的可用套件版本。 套件降級功能已關閉。
儲存目前的 DaemonSet 並建立補丁:
kubectl get daemonset csi-blob-node --namespace kube-system \
--output yaml > csi-blob-node-before.yaml
BLOBFUSE2_VERSION=2.5.6
cat <<EOF > csi-blob-proxy-patch.yaml
spec:
template:
spec:
initContainers:
- name: install-blobfuse-proxy
env:
- name: INSTALL_BLOBFUSE
value: "false"
- name: INSTALL_BLOBFUSE2
value: "true"
- name: BLOBFUSE2_VERSION
value: "$BLOBFUSE2_VERSION"
- name: INSTALL_BLOBFUSE_PROXY
value: "true"
- name: ALLOW_PACKAGE_INSTALL_DOWNGRADE
value: "false"
EOF
kubectl patch daemonset csi-blob-node --namespace kube-system \
--type strategic --patch-file csi-blob-proxy-patch.yaml
kubectl rollout status daemonset/csi-blob-node \
--namespace kube-system --timeout=15m
合併補丁會更新具名 init 容器和環境條目,同時保留其映像檔和其他設定。 關於套件選擇控制項,請參見 Blob CSI 代理安裝程式。
部署結束後,再次列出 CSI Pods,並在每個符合資格的工作負載節點上重複 主機二進位驗證 。 掛載磁區前請確認 2.5.6 或更新版本 及分散式快取選項。 現有的 BlobFuse2 掛載程序在套件變更時不會切換版本;重新建立掛載以使用更新的二進位檔。
若部署失敗,請檢查受影響的安裝程式日誌:
kubectl logs --namespace kube-system "<csi-blob-node-pod-name>" \
--container install-blobfuse-proxy
AKS 更新可能會協調受控 DaemonSet 的狀態。 在 CSI 驅動程式或節點映像升級後,重新檢查主機二進位檔和安裝程式設定。 當節點映像檔提供所需的 BlobFuse2 版本後,移除臨時套件版本覆寫作為升級的一部分。
設定 Blob 認證
使用聯邦 AKS 工作負載身分,搭配僅權杖的 Blob 驗證。 磁碟區配置可透過 mountWithWorkloadIdentityToken: "true"啟用此模式。
請依照啟用 OIDC 和 Microsoft Entra 工作負載 ID 操作,然後建立工作負載 ServiceAccount:
kubectl create namespace "$WORKLOAD_NAMESPACE"
cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: ServiceAccount
metadata:
name: $SERVICE_ACCOUNT
namespace: $WORKLOAD_NAMESPACE
annotations:
azure.workload.identity/client-id: "$BLOBFUSE_CLIENT_ID"
EOF
將 ServiceAccount 連結到你的受控識別,並授權容器範圍的存取權限:
OIDC_ISSUER=$(az aks show \
--resource-group "$RESOURCE_GROUP" \
--name "$CLUSTER_NAME" \
--query oidcIssuerProfile.issuerUrl --output tsv)
az identity federated-credential create \
--name blobfuse-dacs-reader \
--identity-name "$IDENTITY_NAME" \
--resource-group "$IDENTITY_RESOURCE_GROUP" \
--issuer "$OIDC_ISSUER" \
--subject "system:serviceaccount:$WORKLOAD_NAMESPACE:$SERVICE_ACCOUNT" \
--audiences api://AzureADTokenExchange
IDENTITY_PRINCIPAL_ID=$(az identity show \
--resource-group "$IDENTITY_RESOURCE_GROUP" \
--name "$IDENTITY_NAME" \
--query principalId --output tsv)
STORAGE_ID=$(az storage account show \
--resource-group "$STORAGE_RESOURCE_GROUP" \
--name "$STORAGE_ACCOUNT" \
--query id --output tsv)
az role assignment create \
--assignee-object-id "$IDENTITY_PRINCIPAL_ID" \
--assignee-principal-type ServicePrincipal \
--role "Storage Blob Data Contributor" \
--scope "$STORAGE_ID/blobServices/default/containers/$STORAGE_CONTAINER"
角色指派遵循 CSI 僅有代幣掛載的指引。 請待其傳播完成後再進行測試。 該工作負載透過聯邦身份碼及唯讀掛載存取 Blob 儲存體。
設定唯讀的 BlobFuse2 磁碟區
取得快取叢集本地主機名稱的叢集 DNS 服務 IP:
CLUSTER_DNS_IP=$(az aks show \
--resource-group "$RESOURCE_GROUP" \
--name "$CLUSTER_NAME" \
--query networkProfile.dnsServiceIp --output tsv)
test -n "$CLUSTER_DNS_IP"
允許工作負載節點存取叢集 DNS、DACS 端點,以及 Azure Blob 儲存體 以處理快取未命中和後援。
為現有容器建立靜態 PV 和 PVC。
Retain 原則會在宣告移除後保留資料:
cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: PersistentVolume
metadata:
name: blobfuse-dacs-pv
spec:
capacity:
storage: 1Ti
accessModes:
- ReadOnlyMany
persistentVolumeReclaimPolicy: Retain
storageClassName: ""
mountOptions:
- --read-only=true
- --allow-other=true
- --disable-kernel-cache=true
- --block-cache=false
- --streaming=false
- --preload=false
- --distributed-cache-discovery-endpoint=$CACHE_DISCOVERY_HOST:9065
- --distributed-cache-dns-server=$CLUSTER_DNS_IP
- --distributed-cache-block-size=16
- --distributed-cache-node-memory=1024
- --distributed-cache-prefetch=16
- --distributed-cache-parallelism=16
csi:
driver: blob.csi.azure.com
readOnly: true
volumeHandle: "$STORAGE_RESOURCE_GROUP#$STORAGE_ACCOUNT#$STORAGE_CONTAINER#blobfuse-dacs"
volumeAttributes:
protocol: fuse2
resourceGroup: "$STORAGE_RESOURCE_GROUP"
storageAccount: "$STORAGE_ACCOUNT"
containerName: "$STORAGE_CONTAINER"
clientID: "$BLOBFUSE_CLIENT_ID"
mountWithWorkloadIdentityToken: "true"
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: blobfuse-dacs-pvc
namespace: $WORKLOAD_NAMESPACE
spec:
accessModes:
- ReadOnlyMany
storageClassName: ""
volumeName: blobfuse-dacs-pv
resources:
requests:
storage: 1Ti
EOF
每個磁碟區都必須使用唯一的 PV 名稱和 volumeHandle。
1Ti 宣告會提供 PV/PVC 繫結的容量值。
透過 --distributed-cache-* 選項設定快取。 分散式快取元件管理其本地區塊快取層。
範例中為本地快取分配了 1,024 MiB,並預取 16 個區塊。 請分別為應用程式 Pod、主機端 BlobFuse2 掛載及共置的 DACS 伺服器預留記憶體。
在工作負載中掛接磁碟區
設定 DATA_FILE 為相對於容器根節點的檔案路徑。 這個 Python 工作負載會讀取前 4 MiB 兩次,並比較校驗和:
DATA_FILE="<existing-file-path>"
WORKLOAD_IMAGE="python:3.12-slim-bookworm"
cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: Pod
metadata:
name: blobfuse-dacs-reader
namespace: $WORKLOAD_NAMESPACE
labels:
azure.workload.identity/use: "true"
spec:
serviceAccountName: $SERVICE_ACCOUNT
restartPolicy: Never
nodeSelector:
kubernetes.io/os: linux
agentpool: "$WORKLOAD_NODE_POOL"
containers:
- name: reader
image: $WORKLOAD_IMAGE
command:
- python3
- -c
- |
import hashlib
import os
import time
from pathlib import Path
path = Path("/mnt/blob") / os.environ["DATA_FILE"]
previous = None
for attempt in range(2):
with path.open("rb") as stream:
data = stream.read(4 * 1024 * 1024)
if not data:
raise RuntimeError("The selected file returned no data")
digest = hashlib.sha256(data).hexdigest()
if previous is not None and digest != previous:
raise RuntimeError("Repeated reads returned different bytes")
print(f"read={attempt + 1} bytes={len(data)} sha256={digest}", flush=True)
previous = digest
time.sleep(5)
env:
- name: DATA_FILE
value: "$DATA_FILE"
resources:
requests:
cpu: "1"
memory: 128Mi
limits:
cpu: "1"
memory: 256Mi
volumeMounts:
- name: blob
mountPath: /mnt/blob
readOnly: true
volumes:
- name: blob
persistentVolumeClaim:
claimName: blobfuse-dacs-pvc
readOnly: true
EOF
kubectl get pvc blobfuse-dacs-pvc --namespace "$WORKLOAD_NAMESPACE"
kubectl logs --namespace "$WORKLOAD_NAMESPACE" \
blobfuse-dacs-reader --follow --pod-running-timeout=5m
應用程式會讀取 /mnt/blob/<path>。 節點選擇器會將其排程到具有已驗證 BlobFuse2 安裝的集區。
驗證 DACS 讀取路徑
請依照監視雲端儲存分散式加速器,設定各快取伺服器 Pod 的計量抓取。
- 確認 PVC 綁定在 PV 上,且掛載使用預期的發現、DNS 和唯讀選項。
- 檢查 CSI 和 BlobFuse2 的日誌,看看已安裝版本及與預期快取伺服器的連線。
- 記錄
cache_server_request_counter{request_type="Download",status="Success"}的基準值,僅加總隸屬於您 Cache 的伺服器 Pod。 - 待背景資料填入作業完成後,再於不同工作負載節點上重複讀取。 將成功的伺服器 Download 活動與 BlobFuse2 記錄及 Blob 遙測資料相互比對,以確認分散式重複使用情形。
使用總和檢查碼驗證資料完整性,並使用要求計數器驗證快取路徑。 詳細指令請參見 「驗證 DACS 請求路徑」。
驗證跨兩個節點的重複使用情形
初始工作負載會從一個節點讀取兩次,該節點可重複使用其本地快取。 若要驗證分散式重複使用情形,請從已驗證的工作負載集區中選用兩個就緒的節點,以及尚未透過此 Cache 讀取過的測試檔案。 選擇一個足夠小以放入快取的檔案,並從原始來源或受信任清單取得預期的 SHA-256。
請使用專門用於此測試的快取,避免無關的工作負載影響請求計數器。
列出符合資格的節點,然後設定主機名稱標籤、相對於容器根的檔案路徑,以及預期的校驗碼:
kubectl get nodes --selector "agentpool=$WORKLOAD_NODE_POOL" \
--output wide --label-columns kubernetes.io/hostname
COLD_NODE="<first-node-hostname-label>"
WARM_NODE="<different-node-hostname-label>"
VALIDATION_FILE="<existing-uncached-file-path>"
EXPECTED_SHA256="<expected-full-file-sha256>"
建立兩個讀取器,在執行檢查並等候背景資料填入作業期間,持續保留其掛接:
create_validation_reader() {
local name="$1" node="$2"
if [ -z "$COLD_NODE" ] || [ -z "$WARM_NODE" ] || [ "$COLD_NODE" = "$WARM_NODE" ]; then
echo "ERROR: choose two different workload nodes." >&2
return 1
fi
cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: Pod
metadata:
name: $name
namespace: $WORKLOAD_NAMESPACE
labels:
azure.workload.identity/use: "true"
spec:
serviceAccountName: $SERVICE_ACCOUNT
restartPolicy: Never
nodeSelector:
kubernetes.io/os: linux
agentpool: "$WORKLOAD_NODE_POOL"
kubernetes.io/hostname: "$node"
containers:
- name: reader
image: $WORKLOAD_IMAGE
command: ["sleep", "86400"]
resources:
requests:
cpu: "1"
memory: 128Mi
limits:
cpu: "1"
memory: 256Mi
volumeMounts:
- name: blob
mountPath: /mnt/blob
readOnly: true
volumes:
- name: blob
persistentVolumeClaim:
claimName: blobfuse-dacs-pvc
readOnly: true
EOF
}
create_validation_reader blobfuse-dacs-cold "$COLD_NODE" &&
create_validation_reader blobfuse-dacs-warm "$WARM_NODE" &&
kubectl wait pod/blobfuse-dacs-cold pod/blobfuse-dacs-warm \
--namespace "$WORKLOAD_NAMESPACE" --for=condition=Ready --timeout=5m &&
kubectl get pods blobfuse-dacs-cold blobfuse-dacs-warm \
--namespace "$WORKLOAD_NAMESPACE" --output wide
確認兩個讀取器在不同節點都已準備好。 先不要從 warm node 讀取檔案。
從冷節點讀取並驗證整個檔案:
kubectl exec --namespace "$WORKLOAD_NAMESPACE" blobfuse-dacs-cold -- \
sh -c 'set -eu; cd /mnt/blob; printf "%s %s\n" "$1" "$2" | sha256sum --check' \
sh "$EXPECTED_SHA256" "$VALIDATION_FILE"
如果校驗碼檢查失敗,就停止。 讓冷快取讀取器持續執行,並透過快取伺服器計量確認背景資料填入作業已完成。 在暖讀取前一刻,記錄隸屬於您 Cache 之各伺服器的成功 Download 計數器基準值。
從第二個節點讀取並驗證同一個檔案:
kubectl exec --namespace "$WORKLOAD_NAMESPACE" blobfuse-dacs-warm -- \
sh -c 'set -eu; cd /mnt/blob; printf "%s %s\n" "$1" "$2" | sha256sum --check' \
sh "$EXPECTED_SHA256" "$VALIDATION_FILE"
兩個校驗和檢查都必須顯示 OK,且快取的成功下載計數器在第二次讀取時必須增加。 僅總和檢查碼相符,並無法證明分散式重複使用。 如果計數器沒有增加,請依照「疑難排解整合」中的備用診斷方式,而非宣告成功。
優化讀取效能
將應用程式的 I/O 與 BlobFuse2 快取設定分開調整:
| Setting | Description |
|---|---|
| 應用程式 I/O 大小與執行緒數 | 應用程式請求的位元組範圍與並行性。 |
--distributed-cache-block-size |
MiB 中的本地與分散式快取區塊大小。 |
--distributed-cache-node-memory |
在 MiB 中設定掛載的本地區塊快取記憶體設定。 |
--distributed-cache-prefetch |
要預取的方塊數量。 |
--distributed-cache-parallelism |
同時進行區塊下載,包括預取工作。 |
| 快取資源容量設定 | DACS 伺服器數量、本地 NVMe 容量、CPU、記憶體和伺服器執行緒。 |
分別測量序列存取與隨機存取。 同時調整區塊大小、預取與並行,同時監控吞吐量、記憶體與來源流量。
在共置部署時,為應用程式工作者和快取伺服器預留 CPU、記憶體、網路頻寬及本地磁碟容量。
透過協調的卸載與重新掛載,對所有共用該磁碟區的 Pod 套用變更的掛載選項。 請在CSI紀錄中確認新選項。
標準儲存基準測試結果
效能評定會在 Standard_LRS、經常性存取層 StorageV2 帳戶上,比較單獨使用 BlobFuse2,以及使用專用和共置 DACS 的情形。 每個配置檔涵蓋三種配置中的五個線程數。
部署情境
- 專用 DACS: 應用程式工作者與 DACS 快取伺服器運行於獨立的節點池。
- 共置 DACS: 應用程式工作者與 DACS 快取伺服器共用同一節點。
BlobFuse2 本身就足以提供這兩種情境的基準。
測試組態
| Setting | 測量的設定 |
|---|---|
| VMs | 10 Standard_E96ds_v6 個工作節點。 專用 DACS 則增加 10 個相同大小的快取節點;共置 DACS 則使用工作節點。 |
| DACS 伺服器資源限制 | 每台伺服器配備 32 顆 CPU 與 128 GiB 記憶體。 |
| 原生圖表伺服器資源請求 |
250m 每台伺服器的 CPU 和 100Mi 記憶體。 |
| Benchmark |
Elbencho3.0-38;I/O 深度 1。 |
| Dataset | 800 個現有 10 GiB 檔案,總計 8,000 GiB;每個 I/O 執行緒五個檔案。 |
| BlobFuse2 | 唯讀掛載;核心快取被停用。 |
| 用戶端快取 | 16 MiB 區塊;預先擷取 128 個區塊;平行處理程度為 128;原生記憶體大小設定。 |
每個案例都使用了新的工作者和快取資源。 結果為彙總測量值,執行緒數則以每個背景工作為單位回報。
連續讀取
序列測試使用 16 MiB 輸入輸出,每個案例進行五次讀取迭代。 冷快取輸送量為第一輪測量的結果。 熱吞吐量與僅 BlobFuse 基線為第 2 至 5 次迭代的平均值。 數值是彙總的 GB/s.
| 每個背景工作的執行緒數 | 僅使用 BlobFuse | 專用冷快取 | 專用暖快取 | 共置冷快取 | 共置暖快取 |
|---|---|---|---|---|---|
| 1 | 19.0 | 16.5 | 20.9 | 16.3 | 21.4 |
| 2 | 19.7 | 19.8 | 38.6 | 20.3 | 38.6 |
| 4 | 22.5 | 23.1 | 43.2 | 24.9 | 46.9 |
| 8 | 26.8 | 27.2 | 44.5 | 25.7 | 49.4 |
| 16 | 27.2 | 22.3 | 45.2 | 24.0 | 50.1 |
當每個背景工作使用 16 個執行緒時,共置暖快取輸送量比僅使用 BlobFuse 高出 84%,並比專用暖快取輸送量高出 10.9%。
估計的來源頻寬節省
保留的遙測資料顯示,在相同條件的循序測試中 (包含初始冷快取填入作業),相較於僅使用 BlobFuse,專用和共置 DACS 的平均 Blob 來源頻寬約降低 70%。
隨機 4-KiB 讀取
隨機測試使用 4 KiB I/O、-i 1 --rand --infloop 和 300 秒的執行時間。 每種情況會回報一個包含快取填入作業的彙總 IOPS 測量值。
| 每個背景工作的執行緒數 | 僅限 BlobFuse 的 IOPS | 專用 IOPS | 共置 IOPS |
|---|---|---|---|
| 1 | 59 | 503 | 530 |
| 2 | 117 | 952 | 882 |
| 4 | 236 | 1,586 | 1,446 |
| 8 | 448 | 2,004 | 2,046 |
| 16 | 540 | 1,804 | 1,809 |
這兩種 DACS 情境最高都達到每位工作者八執行緒。 共置 DACS 在相同執行緒數量下達到 2,046 IOPS,約為僅 BlobFuse 結果 的 4.57 倍 。
排除整合問題
| Area | Action |
|---|---|
| 版本與掛載選項 | 請確認主機端的 BlobFuse2 版本及其 --distributed-cache-* 選項。 |
| 快取活動 | 將快取伺服器的 Download 計數器與 BlobFuse2 記錄和 Blob 遙測資料相互比對。 |
| 探索與 DNS | 驗證 --distributed-cache-dns-server、節點對叢集 DNS 的存取權,以及 Cache 的探索服務。 |
| Authentication | 驗證聯邦服務帳戶、身份角色、CSI 版本及 mountWithWorkloadIdentityToken: "true"。 |
| 節點記憶體 | 請為掛接快取、背景資料填入作業、應用程式 Pod,以及共置的 DACS 伺服器規劃記憶體預算。 |
| 組態更新 | 重新掛載卷並在 CSI 日誌中確認新選項。 |
關於儲存掛載的故障排除,請參閱 Troubleshoot BlobFuse2 及 Blob CSI 驅動程式除錯指南。
識別本地快取或來源備援
成功的掛載或讀取並不代表 DACS 正在提供資料:
- 若 CSI 記錄回報
BlobFuse2 distributed-cache support could not be verified,驅動程式會移除分散式快取選項,並選取本機區塊快取。 確認主機 BlobFuse2 版本及掛載功能,然後協調卸載與重新掛載。 - 如果 BlobFuse2 發現沒有快取伺服器,掛載仍可成功,讀取會直接從 Blob 儲存體 進行。 檢查發現服務、DNS 位址、端點以及節點與快取的連線。
找到在受影響讀取節點上運行的 CSI Pod,並檢查其 blob 容器:
kubectl get pods --namespace "$WORKLOAD_NAMESPACE" --output wide
kubectl get pods --namespace kube-system \
--selector app=csi-blob-node --output wide
CSI_POD="<csi-blob-node-pod-on-affected-reader-node>"
kubectl logs "$CSI_POD" --namespace kube-system --container blob --since=15m
CSI 容器日誌不是主機 BlobFuse2 日誌。 在受影響的工作負載節點上,使用您核准的節點存取方法檢查 BlobFuse2 的日誌:
journalctl --identifier=blobfuse2 --since "15 minutes ago" --no-pager
如果 BlobFuse2 設定為改為寫入檔案,請檢查其已設定的日誌路徑。 解決問題後,協調所有共享該磁碟區的 Pod 進行卸載與重新掛載,然後重複快取路徑驗證。
清除測試工作負載
僅刪除為此文章建立的資源。 刪除宣告和 PV 之前,請先停止讀取器 Pod:
kubectl delete pod blobfuse-dacs-reader blobfuse-dacs-cold blobfuse-dacs-warm \
--namespace "$WORKLOAD_NAMESPACE" --ignore-not-found
kubectl delete pvc blobfuse-dacs-pvc \
--namespace "$WORKLOAD_NAMESPACE" --ignore-not-found
kubectl delete pv blobfuse-dacs-pv --ignore-not-found
Retain 原則會保留您的容器和 Blob。 請勿刪除現有應用程式資料或受控識別。 只有在同盟認證、角色指派或工作負載命名空間是專為此測試建立,且沒有其他工作負載需要時,才可將其移除。
讓受控 Blob CSI 驅動程式和共用 DACS 資源維持啟用狀態。 如果 DACS 只在此評估中啟用,且沒有其他工作負載需要它,請依照 移除雲端儲存的分散式加速器中的步驟。