Important
この記事でプレビューとしてマークされているアイテムは、現在プレビュー段階です。 このプレビューはサービス レベル アグリーメント（SLA）なしで提供されており、Microsoft はこれを運用ワークロードでの使用に推奨していません。 特定の機能がサポートされていないか、機能が制限されている可能性があります。 詳細については、「 Microsoft Azure プレビューの追加使用条件」を参照してください。
アダプター デプロイは、Microsoft Foundry の互換性のあるマネージド コンピューティング先デプロイで、低ランク適応 (LoRA) アダプターを提供します。 アダプターのデプロイでは、追加の計算リソースは不要です。 これらは、ターゲット デプロイと呼ばれるベース モデル デプロイによって提供されるコンピューティングを共有します。 アダプターのデプロイには追加のコンピューティングは必要ありませんが、独自のデプロイ名が付いているため、Foundry アカウントの推論エンドポイントを介して推論要求をルーティングできます。
複数の互換性のあるアダプターで、1 つのターゲット展開を共有できます。 この構成は、マルチ LoRA サービングと呼ばれます。
この記事は、Foundry での微調整の出力として生成された LoRA アダプターにのみ適用されます。 独自のアダプターをまだインポートすることはできません。
LoRA アダプターでベースモデルを特化させる方法
低ランク適応は、基本モデルのすべてのパラメーターを更新するのではなく、追加パラメーターの小さなセットをトレーニングする微調整手法です。 結果として得られる LoRA アダプターは、モデルをタスクまたはドメイン向けに特化させる学習済みの変更の軽量セットです。
LoRA アダプターは単独では実行できません。 推論時に、サービス ランタイムはアダプターと互換性のある基本モデルを組み合わせます。 アダプターの学習された変更がそのモデルのアーキテクチャと重みに適用されるため、正確な基本モデルとバージョンは重要です。
アダプターのデプロイメント内のリソース
アダプターのサービングでは、関連するモデルとデプロイ リソースが使用されます。 各リソースにはそれぞれ異なる役割があります。
| 任期 | Meaning |
|---|---|
| 基本モデル | アダプターの作成に使用される基になるモデルとバージョン。 ターゲット デプロイは、互換性のある基本モデルとバージョンを実行する必要があります。 |
| 登録済みの LoRA アダプター | Foundry の微調整出力から作成されたモデル アセット。 登録により、Build Models>でアダプターを使用できるようになりますが、コンピュート リソースを提供したり、アダプターを呼び出し可能にしたりすることはありません。 |
| デプロイ テンプレート | サービス ランタイムとアクセラレータの構成など、モデルの実行方法を定義する名前付きのバージョン管理された資産。 adapter serving の場合は、LoRA をサポートするテンプレートを選択します。 |
| ターゲット デプロイ | LoRA 対応デプロイ テンプレートを使用して互換性のある基本モデルを実行するマネージド コンピューティング デプロイ。 アダプターが共有するアクセラレータ、容量、レプリカ、推論エンドポイントを所有します。 |
| アダプターのデプロイ | 登録されている 1 つの LoRA アダプター バージョンと 1 つのターゲット展開の間にデプロイされた接続。 独自のデプロイ名を持ちますが、個別のコンピューティング、容量、レプリカ、またはエンドポイントはプロビジョニングされません。 |
| マルチLoRAデプロイ | 同じターゲット展開を使用する 2 つ以上の互換性のあるアダプター展開。 各アダプターは、ターゲット デプロイのインフラストラクチャを共有しながら、独自のデプロイ名と特殊な動作を保持します。 |
たとえば、 qwen-prod という名前のターゲット展開では、 qwen-support と qwen-financeという名前のアダプター展開をホストできます。 どちらのアダプターも、qwen-prodによって提供される基本モデル、コンピュート、エンドポイントを使用します。 個別のデプロイ名は、アプリケーションが選択するファインチューニングされた挙動を識別します。
マルチ LoRA 共有のしくみ
ターゲットデプロイは、共有サービング基盤です。 そのデプロイ テンプレートは、ランタイムが LoRA をサポートするかどうかを決定し、アクセラレータの種類、モデル インスタンス、およびその他のランタイム構成を定義します。
アダプターを接続しても、別のモデル インスタンスが作成されたり、ターゲット デプロイの容量が増えたりすることはありません。 ターゲット上のすべてのアダプターは、同じサービス容量を使用します。 ターゲット デプロイをスケーリングすると、基本モデルとすべての接続アダプターで使用できる容量が変更されます。
推論がアダプターを選択する方法
アダプターは、要求を処理する前にプロビジョニングを完了する必要があります。 デプロイが成功すると、プロビジョニング状態として Succeeded が報告されます。
qwen-prodが基本モデルのターゲット デプロイであり、qwen-support と qwen-finance はそのアダプター デプロイであるとします。 Foundry アカウントの /openai/v1/chat/completions エンドポイントに要求を送信します。
modelを呼び出したいデプロイ名に設定します。
model 値 |
選択された挙動 |
|---|---|
qwen-support |
サポート アダプターを使用した基本モデル。 |
qwen-finance |
財務アダプターを使用した基本モデル。 |
次の要求は、サポート アダプターを選択します。 ポータルのアダプター展開の詳細からアカウント エンドポイントをコピーします。 Microsoft Entra ID 認証の場合は、https://ai.azure.com/.default スコープ用のアクセス トークンを取得します。
POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json
{
"model": "qwen-support",
"messages": [
{
"role": "user",
"content": "How do I reset my account password?"
}
]
}
財務アダプターを呼び出すには、model を qwen-finance に変更し、そのタスク用のプロンプトを使用します。 サービスは、アダプターの対象デプロイ先を内部的に解決します。
認証とテストの手順については、「Chat Completions を使用してアダプターをテストする」を参照してください。
互換性と容量の要件
Foundry は、アダプターを提供する前に、アダプターとターゲットの展開を検証します。 構成は、次の要件を満たしている必要があります。
- アダプターは、Foundry 微調整ジョブの登録済み出力です。
- ターゲット デプロイは、互換性のあるベース モデルとバージョンを実行します。
- ターゲットは、LoRA をサポートするデプロイ テンプレートを使用します。
- アダプターは、テンプレートでサポートされているアダプター数、LoRA ランク、使用可能なメモリ内に収まります。
- ターゲットには、アクセラレータ ファミリとリージョンに対して十分なマネージド コンピューティング クォータと容量があります。
アダプターのライフサイクルと依存関係
アダプターの展開とその登録された LoRA アダプターは、個別のリソースです。 次の規則では、展開の変更がアダプターとターゲットの展開に与える影響について説明します。
既存のアダプター展開は、基本モデルではなく、登録済みの LoRA アダプターの固定バージョンを参照します。 別のアダプター バージョンを使用するには、新しいアダプター デプロイを作成するか、既存のデプロイを削除して再作成します。
ターゲット展開名を更新することで、同じアダプター ソースを別の互換性のあるターゲット展開に移動できます。 新しいターゲットに要求をルーティングする前に、更新が成功するまで待ちます。
アダプター展開を削除しても、登録されているモデルのバージョンやターゲットのデプロイは削除されません。 また、ターゲットを共有する他のアダプターにも影響しません。
登録済みのアダプター モデルのバージョンまたはターゲットの展開を削除する前に、依存アダプターの展開を削除します。 この順序により、アダプターの展開が、存在しなくなったソースまたはターゲットを参照することを防ぎます。
課金、クォータ、制限
ターゲットデプロイはアクセラレータごとに 1 時間ごとに課金されます。 マネージド コンピューティング クォータは、Azure仮想マシン クォータとは別に、アクセラレータ ファミリとリージョンごとに割り当てられます。 詳細については、「 マネージド コンピューティングの課金とクォータ」を参照してください。
アダプターのデプロイには、個別料金はありません。 課金はターゲット デプロイのコンピューティングに適用されます。
アダプター数の制限については、 ポータルでのアダプターのデプロイに関する説明を参照してください。
現在のマネージド コンピューティング レートについては、Azure料金計算ツールを参照してください。
次のステップ
互換性のあるターゲット展開で、1 つ以上の登録済み LoRA アダプターをデプロイしてテストします。