搭配 BlobFuse2 使用雲端儲存分散式加速器 (預覽版)

使用 BlobFuse2 搭配雲端儲存體分散式加速器(DACS)來透過 Linux 檔案系統路徑讀取 Azure Blob 資料。 應用程式保留現有的檔案讀取程式碼,而 BlobFuse2 則透過 DACS 提供快取資料,並從 Blob 儲存體 擷取遺失的資料。

Azure Blob 容器儲存介面(CSI)驅動程式會透過持久性磁碟區(PV)和持久性磁碟區宣告(PVC)掛載容器。 Azure Blob 儲存體仍是持久且具權威性的資料來源。

本文涵蓋配置、讀路徑驗證及 標準儲存基準測試結果。

Prerequisites

  • 一個符合 DACS 快速入門中 Azure 區域和 Kubernetes 版本需求的 AKS 叢集。
  • Linux 快取節點配備本地 NVMe 磁碟,專門用於 DACS。
  • Ubuntu Linux 工作負載節點,用於掛載 BlobFuse2 的應用程式 Pods。
  • 一個包含你應用程式資料的 Azure Blob 容器。
  • 一個現有的使用者指派受控識別,用於 Blob 驗證。
  • Azure CLI 和 kubectl。
  • 啟用 DACS 及受管理的 Azure Blob CSI 驅動程式、建立 Kubernetes 資源、管理身份的聯邦憑證,以及指派所需的 Blob 資料存取角色的權限。
  • 已在所有符合資格的 Linux 工作負載節點上安裝 BlobFuse2 2.5.6 或更新版本。 關於分散式快取的支援與限制,請參閱 BlobFuse2 2.5.6 版本的說明。
  • 由 AKS 管理的 Azure Blob CSI 驅動程式 v1.27.11 或更新版本,且已啟用 AKS OIDC 簽發者和 Microsoft Entra 工作負載 ID,以使用僅限權杖的驗證方式。

Important

對每個容器使用唯讀掛載。 透過快取伺服器指標和 BlobFuse2 日誌驗證 DACS 活動。 DACS 將 Kubernetes 叢集視為單一信任域,不提供租戶隔離。 不要在多租戶叢集中使用它。 Workload 身份授權存取 Blob 儲存體;它不會隔離快取資料。 欲了解更多資訊,請參閱 DACS安全模型。

設定變數

在同一個 Bash 工作階段中執行這些指令。 請將佔位符替換成你的叢集、儲存容器以及現有的使用者指派受控識別:

SUBSCRIPTION_ID="<subscription-id>"
RESOURCE_GROUP="<aks-resource-group>"
CLUSTER_NAME="<aks-cluster-name>"
WORKLOAD_NODE_POOL="<blobfuse-ready-node-pool>"
STORAGE_RESOURCE_GROUP="<storage-resource-group>"
STORAGE_ACCOUNT="<storage-account-name>"
STORAGE_CONTAINER="<existing-container-name>"
IDENTITY_RESOURCE_GROUP="<managed-identity-resource-group>"
IDENTITY_NAME="<managed-identity-name>"
CACHE_NAMESPACE=dacs-cache-system
CACHE_NAME=cache-sample
WORKLOAD_NAMESPACE=blobfuse-dacs
SERVICE_ACCOUNT=blobfuse-reader

az account set --subscription "$SUBSCRIPTION_ID"
az aks get-credentials --resource-group "$RESOURCE_GROUP" --name "$CLUSTER_NAME"

BLOBFUSE_CLIENT_ID=$(az identity show \
  --resource-group "$IDENTITY_RESOURCE_GROUP" \
  --name "$IDENTITY_NAME" \
  --query clientId --output tsv)

安裝雲端儲存的分散式加速器

要安裝 DACS、準備專用快取磁碟、建立快取資源並驗證準備就緒,請參見「開始使用 AKS 上適用於雲端儲存體的分散式加速器」。

擷取已就緒之 Cache 的探索主機名稱:

CACHE_DISCOVERY_HOST=$(kubectl get cache "$CACHE_NAME" \
  --namespace "$CACHE_NAMESPACE" \
  -o jsonpath='{.status.discoveryURL}')

test -n "$CACHE_DISCOVERY_HOST"

使用你的快取資源所發布的主機名稱及其已設定的埠。 快速啟動使用埠 9065。

啟用 Azure Blob CSI 驅動程式並驗證 BlobFuse2

使用由 AKS 管理的驅動程式。 請遵循 在 AKS 上啟用 Azure Blob CSI driver。

使用 AKS 來管理 CSI 驅動程式的升級。 確保每個符合資格的工作負載節點都執行 BlobFuse2 2.5.6 或更新版本,並協調套件更新與卷卸載。

驗證已安裝的掛接處理程序

透過節點 DaemonSet 檢查 CSI 準備狀況。

kubectl get csidriver blob.csi.azure.com
kubectl rollout status daemonset/csi-blob-node \
  --namespace kube-system --timeout=10m
kubectl get pods --namespace kube-system \
  --selector app=csi-blob-node --output wide
kubectl get daemonset csi-blob-node --namespace kube-system \
  --output jsonpath='{range .spec.template.spec.containers[*]}{.name}{": "}{.image}{"\n"}{end}'

確認容器 blob 映像檔是版本 v1.27.11 或更新版本。

CSI 驅動程式映像版本並未標示主機上安裝的 BlobFuse2 版本。 對於每個符合資格的 Ubuntu 節點,從前一個輸出中選擇其 csi-blob-node pod,並驗證 CSI 代理所使用的主機二進位檔:

BLOB_CSI_POD="<csi-blob-node-pod-name>"

kubectl exec --namespace kube-system "$BLOB_CSI_POD" --container blob -- \
  nsenter --mount=/proc/1/ns/mnt -- /usr/bin/blobfuse2 --version

kubectl exec --namespace kube-system "$BLOB_CSI_POD" --container blob -- \
  nsenter --mount=/proc/1/ns/mnt -- /usr/bin/blobfuse2 mount --help

請確認版本為 2.5.6 或更新版本,以及以下章節中的磁碟區組態所使用的 --distributed-cache-* 選項。

當節點映像檔有較舊版本時,更新 BlobFuse2

若主機二進位遺失或早於 2.5.6,請設定受管理 CSI 驅動程式的 install-blobfuse-proxy 初始化容器以安裝所需的 BlobFuse2 套件。 當所有符合資格的節點都已經是 2.5.6 或更新版本時,請跳過此步驟。

此更新使用了 Ubuntu 節點上的套件安裝程式,節點需要存取已設定的 Ubuntu 與 Microsoft 套件庫。 它不會取代受管理的 CSI 驅動映像檔,也不會安裝獨立驅動程式。

Important

這個補丁是在整個叢集中部署 csi-blob-node DaemonSet,而不只是工作負載節點池。 繼續之前,請檢查所有受影響 Ubuntu 節點上的主機版本,並協調更新與磁碟區卸載作業。 如果節點執行的版本已高於 2.5.6,請將下方的 BLOBFUSE2_VERSION 設為該版本或更新的可用套件版本。 套件降級功能已關閉。

儲存目前的 DaemonSet 並建立補丁:

kubectl get daemonset csi-blob-node --namespace kube-system \
  --output yaml > csi-blob-node-before.yaml

BLOBFUSE2_VERSION=2.5.6

cat <<EOF > csi-blob-proxy-patch.yaml
spec:
  template:
    spec:
      initContainers:
        - name: install-blobfuse-proxy
          env:
            - name: INSTALL_BLOBFUSE
              value: "false"
            - name: INSTALL_BLOBFUSE2
              value: "true"
            - name: BLOBFUSE2_VERSION
              value: "$BLOBFUSE2_VERSION"
            - name: INSTALL_BLOBFUSE_PROXY
              value: "true"
            - name: ALLOW_PACKAGE_INSTALL_DOWNGRADE
              value: "false"
EOF

kubectl patch daemonset csi-blob-node --namespace kube-system \
  --type strategic --patch-file csi-blob-proxy-patch.yaml

kubectl rollout status daemonset/csi-blob-node \
  --namespace kube-system --timeout=15m

合併補丁會更新具名 init 容器和環境條目,同時保留其映像檔和其他設定。 關於套件選擇控制項,請參見 Blob CSI 代理安裝程式。

部署結束後,再次列出 CSI Pods,並在每個符合資格的工作負載節點上重複 主機二進位驗證 。 掛載磁區前請確認 2.5.6 或更新版本 及分散式快取選項。 現有的 BlobFuse2 掛載程序在套件變更時不會切換版本;重新建立掛載以使用更新的二進位檔。

若部署失敗,請檢查受影響的安裝程式日誌:

kubectl logs --namespace kube-system "<csi-blob-node-pod-name>" \
  --container install-blobfuse-proxy

AKS 更新可能會協調受控 DaemonSet 的狀態。 在 CSI 驅動程式或節點映像升級後,重新檢查主機二進位檔和安裝程式設定。 當節點映像檔提供所需的 BlobFuse2 版本後,移除臨時套件版本覆寫作為升級的一部分。

設定 Blob 認證

使用聯邦 AKS 工作負載身分,搭配僅權杖的 Blob 驗證。 磁碟區配置可透過 mountWithWorkloadIdentityToken: "true"啟用此模式。

請依照啟用 OIDC 和 Microsoft Entra 工作負載 ID 操作,然後建立工作負載 ServiceAccount:

kubectl create namespace "$WORKLOAD_NAMESPACE"

cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: ServiceAccount
metadata:
  name: $SERVICE_ACCOUNT
  namespace: $WORKLOAD_NAMESPACE
  annotations:
    azure.workload.identity/client-id: "$BLOBFUSE_CLIENT_ID"
EOF

將 ServiceAccount 連結到你的受控識別,並授權容器範圍的存取權限:

OIDC_ISSUER=$(az aks show \
  --resource-group "$RESOURCE_GROUP" \
  --name "$CLUSTER_NAME" \
  --query oidcIssuerProfile.issuerUrl --output tsv)

az identity federated-credential create \
  --name blobfuse-dacs-reader \
  --identity-name "$IDENTITY_NAME" \
  --resource-group "$IDENTITY_RESOURCE_GROUP" \
  --issuer "$OIDC_ISSUER" \
  --subject "system:serviceaccount:$WORKLOAD_NAMESPACE:$SERVICE_ACCOUNT" \
  --audiences api://AzureADTokenExchange

IDENTITY_PRINCIPAL_ID=$(az identity show \
  --resource-group "$IDENTITY_RESOURCE_GROUP" \
  --name "$IDENTITY_NAME" \
  --query principalId --output tsv)

STORAGE_ID=$(az storage account show \
  --resource-group "$STORAGE_RESOURCE_GROUP" \
  --name "$STORAGE_ACCOUNT" \
  --query id --output tsv)

az role assignment create \
  --assignee-object-id "$IDENTITY_PRINCIPAL_ID" \
  --assignee-principal-type ServicePrincipal \
  --role "Storage Blob Data Contributor" \
  --scope "$STORAGE_ID/blobServices/default/containers/$STORAGE_CONTAINER"

角色指派遵循 CSI 僅有代幣掛載的指引。 請待其傳播完成後再進行測試。 該工作負載透過聯邦身份碼及唯讀掛載存取 Blob 儲存體。

設定唯讀的 BlobFuse2 磁碟區

取得快取叢集本地主機名稱的叢集 DNS 服務 IP:

CLUSTER_DNS_IP=$(az aks show \
  --resource-group "$RESOURCE_GROUP" \
  --name "$CLUSTER_NAME" \
  --query networkProfile.dnsServiceIp --output tsv)

test -n "$CLUSTER_DNS_IP"

允許工作負載節點存取叢集 DNS、DACS 端點,以及 Azure Blob 儲存體 以處理快取未命中和後援。

為現有容器建立靜態 PV 和 PVC。 Retain 原則會在宣告移除後保留資料:

cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: PersistentVolume
metadata:
  name: blobfuse-dacs-pv
spec:
  capacity:
    storage: 1Ti
  accessModes:
    - ReadOnlyMany
  persistentVolumeReclaimPolicy: Retain
  storageClassName: ""
  mountOptions:
    - --read-only=true
    - --allow-other=true
    - --disable-kernel-cache=true
    - --block-cache=false
    - --streaming=false
    - --preload=false
    - --distributed-cache-discovery-endpoint=$CACHE_DISCOVERY_HOST:9065
    - --distributed-cache-dns-server=$CLUSTER_DNS_IP
    - --distributed-cache-block-size=16
    - --distributed-cache-node-memory=1024
    - --distributed-cache-prefetch=16
    - --distributed-cache-parallelism=16
  csi:
    driver: blob.csi.azure.com
    readOnly: true
    volumeHandle: "$STORAGE_RESOURCE_GROUP#$STORAGE_ACCOUNT#$STORAGE_CONTAINER#blobfuse-dacs"
    volumeAttributes:
      protocol: fuse2
      resourceGroup: "$STORAGE_RESOURCE_GROUP"
      storageAccount: "$STORAGE_ACCOUNT"
      containerName: "$STORAGE_CONTAINER"
      clientID: "$BLOBFUSE_CLIENT_ID"
      mountWithWorkloadIdentityToken: "true"
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: blobfuse-dacs-pvc
  namespace: $WORKLOAD_NAMESPACE
spec:
  accessModes:
    - ReadOnlyMany
  storageClassName: ""
  volumeName: blobfuse-dacs-pv
  resources:
    requests:
      storage: 1Ti
EOF

每個磁碟區都必須使用唯一的 PV 名稱和 volumeHandle。 1Ti 宣告會提供 PV/PVC 繫結的容量值。

透過 --distributed-cache-* 選項設定快取。 分散式快取元件管理其本地區塊快取層。

範例中為本地快取分配了 1,024 MiB,並預取 16 個區塊。 請分別為應用程式 Pod、主機端 BlobFuse2 掛載及共置的 DACS 伺服器預留記憶體。

在工作負載中掛接磁碟區

設定 DATA_FILE 為相對於容器根節點的檔案路徑。 這個 Python 工作負載會讀取前 4 MiB 兩次,並比較校驗和:

DATA_FILE="<existing-file-path>"
WORKLOAD_IMAGE="python:3.12-slim-bookworm"

cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: Pod
metadata:
  name: blobfuse-dacs-reader
  namespace: $WORKLOAD_NAMESPACE
  labels:
    azure.workload.identity/use: "true"
spec:
  serviceAccountName: $SERVICE_ACCOUNT
  restartPolicy: Never
  nodeSelector:
    kubernetes.io/os: linux
    agentpool: "$WORKLOAD_NODE_POOL"
  containers:
    - name: reader
      image: $WORKLOAD_IMAGE
      command:
        - python3
        - -c
        - |
          import hashlib
          import os
          import time
          from pathlib import Path

          path = Path("/mnt/blob") / os.environ["DATA_FILE"]
          previous = None
          for attempt in range(2):
              with path.open("rb") as stream:
                  data = stream.read(4 * 1024 * 1024)
              if not data:
                  raise RuntimeError("The selected file returned no data")
              digest = hashlib.sha256(data).hexdigest()
              if previous is not None and digest != previous:
                  raise RuntimeError("Repeated reads returned different bytes")
              print(f"read={attempt + 1} bytes={len(data)} sha256={digest}", flush=True)
              previous = digest
              time.sleep(5)
      env:
        - name: DATA_FILE
          value: "$DATA_FILE"
      resources:
        requests:
          cpu: "1"
          memory: 128Mi
        limits:
          cpu: "1"
          memory: 256Mi
      volumeMounts:
        - name: blob
          mountPath: /mnt/blob
          readOnly: true
  volumes:
    - name: blob
      persistentVolumeClaim:
        claimName: blobfuse-dacs-pvc
        readOnly: true
EOF

kubectl get pvc blobfuse-dacs-pvc --namespace "$WORKLOAD_NAMESPACE"
kubectl logs --namespace "$WORKLOAD_NAMESPACE" \
  blobfuse-dacs-reader --follow --pod-running-timeout=5m

應用程式會讀取 /mnt/blob/<path>。 節點選擇器會將其排程到具有已驗證 BlobFuse2 安裝的集區。

驗證 DACS 讀取路徑

請依照監視雲端儲存分散式加速器,設定各快取伺服器 Pod 的計量抓取。

  1. 確認 PVC 綁定在 PV 上,且掛載使用預期的發現、DNS 和唯讀選項。
  2. 檢查 CSI 和 BlobFuse2 的日誌,看看已安裝版本及與預期快取伺服器的連線。
  3. 記錄 cache_server_request_counter{request_type="Download",status="Success"} 的基準值,僅加總隸屬於您 Cache 的伺服器 Pod。
  4. 待背景資料填入作業完成後,再於不同工作負載節點上重複讀取。 將成功的伺服器 Download 活動與 BlobFuse2 記錄及 Blob 遙測資料相互比對,以確認分散式重複使用情形。

使用總和檢查碼驗證資料完整性,並使用要求計數器驗證快取路徑。 詳細指令請參見 「驗證 DACS 請求路徑」。

驗證跨兩個節點的重複使用情形

初始工作負載會從一個節點讀取兩次,該節點可重複使用其本地快取。 若要驗證分散式重複使用情形,請從已驗證的工作負載集區中選用兩個就緒的節點,以及尚未透過此 Cache 讀取過的測試檔案。 選擇一個足夠小以放入快取的檔案,並從原始來源或受信任清單取得預期的 SHA-256。

請使用專門用於此測試的快取,避免無關的工作負載影響請求計數器。

列出符合資格的節點,然後設定主機名稱標籤、相對於容器根的檔案路徑,以及預期的校驗碼:

kubectl get nodes --selector "agentpool=$WORKLOAD_NODE_POOL" \
  --output wide --label-columns kubernetes.io/hostname

COLD_NODE="<first-node-hostname-label>"
WARM_NODE="<different-node-hostname-label>"
VALIDATION_FILE="<existing-uncached-file-path>"
EXPECTED_SHA256="<expected-full-file-sha256>"

建立兩個讀取器,在執行檢查並等候背景資料填入作業期間,持續保留其掛接:

create_validation_reader() {
  local name="$1" node="$2"
  if [ -z "$COLD_NODE" ] || [ -z "$WARM_NODE" ] || [ "$COLD_NODE" = "$WARM_NODE" ]; then
    echo "ERROR: choose two different workload nodes." >&2
    return 1
  fi

  cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: Pod
metadata:
  name: $name
  namespace: $WORKLOAD_NAMESPACE
  labels:
    azure.workload.identity/use: "true"
spec:
  serviceAccountName: $SERVICE_ACCOUNT
  restartPolicy: Never
  nodeSelector:
    kubernetes.io/os: linux
    agentpool: "$WORKLOAD_NODE_POOL"
    kubernetes.io/hostname: "$node"
  containers:
    - name: reader
      image: $WORKLOAD_IMAGE
      command: ["sleep", "86400"]
      resources:
        requests:
          cpu: "1"
          memory: 128Mi
        limits:
          cpu: "1"
          memory: 256Mi
      volumeMounts:
        - name: blob
          mountPath: /mnt/blob
          readOnly: true
  volumes:
    - name: blob
      persistentVolumeClaim:
        claimName: blobfuse-dacs-pvc
        readOnly: true
EOF
}

create_validation_reader blobfuse-dacs-cold "$COLD_NODE" &&
create_validation_reader blobfuse-dacs-warm "$WARM_NODE" &&
kubectl wait pod/blobfuse-dacs-cold pod/blobfuse-dacs-warm \
  --namespace "$WORKLOAD_NAMESPACE" --for=condition=Ready --timeout=5m &&
kubectl get pods blobfuse-dacs-cold blobfuse-dacs-warm \
  --namespace "$WORKLOAD_NAMESPACE" --output wide

確認兩個讀取器在不同節點都已準備好。 先不要從 warm node 讀取檔案。

從冷節點讀取並驗證整個檔案:

kubectl exec --namespace "$WORKLOAD_NAMESPACE" blobfuse-dacs-cold -- \
  sh -c 'set -eu; cd /mnt/blob; printf "%s  %s\n" "$1" "$2" | sha256sum --check' \
  sh "$EXPECTED_SHA256" "$VALIDATION_FILE"

如果校驗碼檢查失敗,就停止。 讓冷快取讀取器持續執行,並透過快取伺服器計量確認背景資料填入作業已完成。 在暖讀取前一刻,記錄隸屬於您 Cache 之各伺服器的成功 Download 計數器基準值。

從第二個節點讀取並驗證同一個檔案:

kubectl exec --namespace "$WORKLOAD_NAMESPACE" blobfuse-dacs-warm -- \
  sh -c 'set -eu; cd /mnt/blob; printf "%s  %s\n" "$1" "$2" | sha256sum --check' \
  sh "$EXPECTED_SHA256" "$VALIDATION_FILE"

兩個校驗和檢查都必須顯示 OK,且快取的成功下載計數器在第二次讀取時必須增加。 僅總和檢查碼相符,並無法證明分散式重複使用。 如果計數器沒有增加,請依照「疑難排解整合」中的備用診斷方式,而非宣告成功。

優化讀取效能

將應用程式的 I/O 與 BlobFuse2 快取設定分開調整:

Setting Description
應用程式 I/O 大小與執行緒數 應用程式請求的位元組範圍與並行性。
--distributed-cache-block-size MiB 中的本地與分散式快取區塊大小。
--distributed-cache-node-memory 在 MiB 中設定掛載的本地區塊快取記憶體設定。
--distributed-cache-prefetch 要預取的方塊數量。
--distributed-cache-parallelism 同時進行區塊下載,包括預取工作。
快取資源容量設定 DACS 伺服器數量、本地 NVMe 容量、CPU、記憶體和伺服器執行緒。

分別測量序列存取與隨機存取。 同時調整區塊大小、預取與並行,同時監控吞吐量、記憶體與來源流量。

在共置部署時,為應用程式工作者和快取伺服器預留 CPU、記憶體、網路頻寬及本地磁碟容量。

透過協調的卸載與重新掛載,對所有共用該磁碟區的 Pod 套用變更的掛載選項。 請在CSI紀錄中確認新選項。

標準儲存基準測試結果

效能評定會在 Standard_LRS、經常性存取層 StorageV2 帳戶上,比較單獨使用 BlobFuse2,以及使用專用和共置 DACS 的情形。 每個配置檔涵蓋三種配置中的五個線程數。

部署情境

  • 專用 DACS: 應用程式工作者與 DACS 快取伺服器運行於獨立的節點池。
  • 共置 DACS: 應用程式工作者與 DACS 快取伺服器共用同一節點。

BlobFuse2 本身就足以提供這兩種情境的基準。

測試組態

Setting 測量的設定
VMs 10 Standard_E96ds_v6 個工作節點。 專用 DACS 則增加 10 個相同大小的快取節點;共置 DACS 則使用工作節點。
DACS 伺服器資源限制 每台伺服器配備 32 顆 CPU 與 128 GiB 記憶體。
原生圖表伺服器資源請求 250m 每台伺服器的 CPU 和 100Mi 記憶體。
Benchmark Elbencho3.0-38;I/O 深度 1。
Dataset 800 個現有 10 GiB 檔案,總計 8,000 GiB;每個 I/O 執行緒五個檔案。
BlobFuse2 唯讀掛載;核心快取被停用。
用戶端快取 16 MiB 區塊;預先擷取 128 個區塊;平行處理程度為 128;原生記憶體大小設定。

每個案例都使用了新的工作者和快取資源。 結果為彙總測量值,執行緒數則以每個背景工作為單位回報。

連續讀取

序列測試使用 16 MiB 輸入輸出,每個案例進行五次讀取迭代。 冷快取輸送量為第一輪測量的結果。 熱吞吐量與僅 BlobFuse 基線為第 2 至 5 次迭代的平均值。 數值是彙總的 GB/s.

每個背景工作的執行緒數 僅使用 BlobFuse 專用冷快取 專用暖快取 共置冷快取 共置暖快取
1 19.0 16.5 20.9 16.3 21.4
2 19.7 19.8 38.6 20.3 38.6
4 22.5 23.1 43.2 24.9 46.9
8 26.8 27.2 44.5 25.7 49.4
16 27.2 22.3 45.2 24.0 50.1

當每個背景工作使用 16 個執行緒時,共置暖快取輸送量比僅使用 BlobFuse 高出 84%,並比專用暖快取輸送量高出 10.9%。

估計的來源頻寬節省

保留的遙測資料顯示,在相同條件的循序測試中 (包含初始冷快取填入作業),相較於僅使用 BlobFuse,專用和共置 DACS 的平均 Blob 來源頻寬約降低 70%。

隨機 4-KiB 讀取

隨機測試使用 4 KiB I/O、-i 1 --rand --infloop 和 300 秒的執行時間。 每種情況會回報一個包含快取填入作業的彙總 IOPS 測量值。

每個背景工作的執行緒數 僅限 BlobFuse 的 IOPS 專用 IOPS 共置 IOPS
1 59 503 530
2 117 952 882
4 236 1,586 1,446
8 448 2,004 2,046
16 540 1,804 1,809

這兩種 DACS 情境最高都達到每位工作者八執行緒。 共置 DACS 在相同執行緒數量下達到 2,046 IOPS,約為僅 BlobFuse 結果 的 4.57 倍 。

排除整合問題

Area Action
版本與掛載選項 請確認主機端的 BlobFuse2 版本及其 --distributed-cache-* 選項。
快取活動 將快取伺服器的 Download 計數器與 BlobFuse2 記錄和 Blob 遙測資料相互比對。
探索與 DNS 驗證 --distributed-cache-dns-server、節點對叢集 DNS 的存取權,以及 Cache 的探索服務。
Authentication 驗證聯邦服務帳戶、身份角色、CSI 版本及 mountWithWorkloadIdentityToken: "true"。
節點記憶體 請為掛接快取、背景資料填入作業、應用程式 Pod,以及共置的 DACS 伺服器規劃記憶體預算。
組態更新 重新掛載卷並在 CSI 日誌中確認新選項。

關於儲存掛載的故障排除,請參閱 Troubleshoot BlobFuse2 及 Blob CSI 驅動程式除錯指南。

識別本地快取或來源備援

成功的掛載或讀取並不代表 DACS 正在提供資料:

  • 若 CSI 記錄回報 BlobFuse2 distributed-cache support could not be verified,驅動程式會移除分散式快取選項,並選取本機區塊快取。 確認主機 BlobFuse2 版本及掛載功能,然後協調卸載與重新掛載。
  • 如果 BlobFuse2 發現沒有快取伺服器,掛載仍可成功,讀取會直接從 Blob 儲存體 進行。 檢查發現服務、DNS 位址、端點以及節點與快取的連線。

找到在受影響讀取節點上運行的 CSI Pod,並檢查其 blob 容器:

kubectl get pods --namespace "$WORKLOAD_NAMESPACE" --output wide
kubectl get pods --namespace kube-system \
  --selector app=csi-blob-node --output wide

CSI_POD="<csi-blob-node-pod-on-affected-reader-node>"
kubectl logs "$CSI_POD" --namespace kube-system --container blob --since=15m

CSI 容器日誌不是主機 BlobFuse2 日誌。 在受影響的工作負載節點上,使用您核准的節點存取方法檢查 BlobFuse2 的日誌:

journalctl --identifier=blobfuse2 --since "15 minutes ago" --no-pager

如果 BlobFuse2 設定為改為寫入檔案,請檢查其已設定的日誌路徑。 解決問題後,協調所有共享該磁碟區的 Pod 進行卸載與重新掛載,然後重複快取路徑驗證。

清除測試工作負載

僅刪除為此文章建立的資源。 刪除宣告和 PV 之前,請先停止讀取器 Pod:

kubectl delete pod blobfuse-dacs-reader blobfuse-dacs-cold blobfuse-dacs-warm \
  --namespace "$WORKLOAD_NAMESPACE" --ignore-not-found
kubectl delete pvc blobfuse-dacs-pvc \
  --namespace "$WORKLOAD_NAMESPACE" --ignore-not-found
kubectl delete pv blobfuse-dacs-pv --ignore-not-found

Retain 原則會保留您的容器和 Blob。 請勿刪除現有應用程式資料或受控識別。 只有在同盟認證、角色指派或工作負載命名空間是專為此測試建立,且沒有其他工作負載需要時,才可將其移除。

讓受控 Blob CSI 驅動程式和共用 DACS 資源維持啟用狀態。 如果 DACS 只在此評估中啟用,且沒有其他工作負載需要它,請依照 移除雲端儲存的分散式加速器中的步驟。

下一步