AI ランタイムのユーザー ガイド

Important

この機能は パブリック プレビュー段階です。

課金対象使用量システム テーブルで GPU の使用量とコストを追跡し、使用例を参照し、よくあるエラーのトラブルシューティングを行います。

Slurm からの移行

もしクラシックDatabricksではなくSlurmクラスターから来ている場合は、「 Slurmからの移行 」で、 sbatch、 srun/torchrun、パーティション、共有ファイルシステムがどのようにDatabricks CLIにマッピングされるかをご参照ください。

使用状況とコストを追跡する

課金対象の使用状況システム テーブル (system.billing.usage) を照会することで、AI ランタイム GPU の支出を監視できます。 次のクエリは、サーバーレス GPU ワークロードの合計使用量を返します。

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

課金対象の使用状況テーブル スキーマの詳細については、「 課金対象の使用状況システム テーブルリファレンス」を参照してください。

モデル トレーニング SKU の GPU 時間あたりの AI ランタイム料金は、次の価格で行われます。

  • H100 オンデマンド: $7.00/GPU 時間 (米国東部)
  • A10 オンデマンド: $4.90/GPU 時間 (米国東部)

例示

ノートブックのチュートリアルや、タスク別に整理された実行可能なDatabricksのCLIレシピを探索してください。 AI ランタイムの例を参照してください。

Troubleshooting

Genie Codeは環境や依存関係の問題を解決し、AIランタイムに接続されたノートブックのGPUや分散ワークロードの障害を調査するのに役立ちます。 「 Use Genie Code with AI Runtime」を参照してください。

コンピュート上で対話的にデバッグするには、ウェブターミナルを使ってシェルコマンドを実行し、 nvidia-smiでGPU使用状況をチェックし、ファイルを管理します。 ウェブターミナルはサーバーレスGPU環境バージョン5以上に接続していれば利用可能です。 「Azure Databricks Web ターミナルでシェル コマンドを実行する」を参照してください。

ValueError: numpy.dtype のサイズが変更されました。バイナリ非互換性を示している可能性があります。 C ヘッダーから 96 が予想され、PyObject から 88 が取得されました

このエラーは通常、依存パッケージのコンパイル中に使用される NumPy バージョンと、ランタイム環境に現在インストールされている NumPy バージョンが一致しない場合に発生します。 多くの場合、この非互換性は NumPy の C API の変更によって発生し、NumPy 1.x から 2.x に特に顕著です。 このエラーは、ノートブックにインストールされている Python パッケージによって NumPy のバージョンが変更された可能性があることを示します。

推奨される解決策:

ランタイムで NumPy のバージョンを確認し、パッケージと互換性があることを確認します。 事前にインストールされたPythonライブラリに関する情報は、環境6、環境5、環境4のサーバーレスGPU環境リリースノートをご覧ください。 別のバージョンの NumPy に依存している場合は、その依存関係をコンピューティング環境に追加します。

PyTorch は、torch をインストールするときに libcudnn を見つけることができません

別のバージョンの torchをインストールすると、 ImportError: libcudnn.so.9: cannot open shared object file: No such file or directoryというエラーが表示されることがあります。 これは、Torch がローカル パス内の cuDNN ライブラリのみを検索するためです。

推奨される解決策:

--force-reinstallをインストールするときにtorchを追加して、依存関係を再インストールします。

%pip install torch --force-reinstall
  • 最終更新: