Phi Silica を始めましょう

Phi Silica は、大規模言語モデル (LLM) に含まれる多くの機能を提供する、強力なハードウェアアクセラレータローカル言語モデルです。 NPU 搭載デバイスでは、このモデルは投機的デコードと呼ばれる手法を採用し、複数のトークン シーケンスを提案し、メイン モデルによって並列に検証できる小さなドラフト モデルを使用してテキスト生成を高速化します。

Phi Silica は、サポートされている GPU を備えた Windows Copilot+ PCs (NPU で実行される場所) と非Copilot+ Windows 11 デバイスでの効率とパフォーマンスのために最適化されており、Windows AI API を使用してWindows アプリに統合できます。Windows アプリ SDK。

このレベルの最適化は、他のバージョンの Phi では使用できません。

サポートされているハードウェア

Phi Silica は、次のハードウェアで実行されます。

GPU ドライバーの要件については、 GPU ドライバーの要件を参照してください。

GPU ドライバーの要件

GPU で Phi Silica を実行するには、GPU 製造元から直接最新のドライバーがインストールされている 必要があります 。 Windows Updateまたは OEM インストールの既定のドライバーでは不十分で、エラーやパフォーマンスの低下が発生する可能性があります。

ハードウェアの最新のドライバーをダウンロードします。

• NVIDIA GeForce / RTX: NVIDIA GeForce 615.21 ドライバー (ベータ版)
• AMD Radeon: AMD ソフトウェア: アドレナリン エディション 26.10.2 ドライバー

GPU 機能の違い

次の機能は、GPU 上で NPU と異なる動作をします。

• プロンプト圧縮: NPU では使用できますが、 GPU では使用できません。 より長いコンテキスト ウィンドウのプロンプト圧縮に依存するアプリケーションは、GPU デバイスをターゲットにするときにこれを考慮する必要があります。
• 投機的デコード: 高速テキスト生成のために NPU で使用できます。 現在、GPU では使用できません。そのため、1 秒あたりのトークンのスループットが低下する可能性があります。
• LoRA の微調整: LoRA アダプターは、Fine-Tuning Kit (FTK) を使用してクラウドでトレーニングする必要があります。 トレーニング済みアダプターを使用した推論は、 AI 開発ギャラリーを使用してローカルでテストできます。 このワークフローは、NPU と GPU の両方で同じです。

モデルの可用性とダウンロード

Copilot+ PCsにプレインストールされている NPU モデルとは異なり、GPU 用 Phi Silica モデルは ユーザーのデバイスにプレインストールされていません。 代わりに、アプリが EnsureReadyAsync を初めて呼び出す際に、必要に応じてモデルがダウンロードされます。 ダウンロードは数ギガバイトであり、Windows Updateを介してバックグラウンドで実行されます。

推奨される UX パターン

Phi Silica GPU モデルは大きいため、ユーザーがストレージ コストとバックグラウンド ダウンロードの両方に同意できるように、EnsureReadyAsyncを呼び出す前に確認ダイアログを表示します。 一般的なパターン:

1. GetReadyState を呼び出し、返された AIFeatureReadyState に応じて分岐します。

   • Ready — モデルがインストールされています。続行。
   • NotReady — 同意ダイアログ (下記参照) を表示し、ユーザーが同意した場合にのみ EnsureReadyAsync を呼び出します。
   • NotSupportedOnCurrentSystem — ユーザーのハードウェアが 、サポートされているハードウェアの要件を満たしていません。 フォールバック エクスペリエンスを提供し、必要に応じてハードウェア要件を示して、ユーザーが情報に基づいてアップグレードを決定できるようにします。

2. 同意ダイアログで、次の内容を説明します。

   • オプションの言語モデルがダウンロードされます (数 GB のストレージ)。
   • ダウンロードは、Windows Updateを通じてバックグラウンドで行われます。
   • ユーザーは、Settings>Windows Update でダウンロードの進行状況を監視できます。
   • ユーザーは、後で必要なくなった場合に 、設定>System>AI コンポーネント でモデルを削除できます。

   Tip

   ユーザー向けの文字列 (ダイアログ テキスト、ステータス メッセージ) では、モデルを "Phi Silica" ではなく "言語モデル" または "省略可能な AI モデル" と参照します。ほとんどのエンド ユーザーはブランド名に慣れていないので、一般的な用語はより明確に目的を伝えます。

3. EnsureReadyAsync進行中は、アプリに進行状況インジケーターを表示します。 返された操作では、読み込み UI を駆動する状態オプションが公開されます。詳細については、「get started with Windows AI API を参照してください。

モデルのインストール後

モデルは、ユーザーが削除するまでデバイス上に残ります。 ユーザーは 、設定>System>AI コンポーネントでインストールされたモデルを管理します。Phi Silica GPU モデルは "AI LanguageModel" と表示されます。 ユーザーが後でモデルを削除した場合、アプリの次の GetReadyState 呼び出しによって NotReady が返され、同意とダウンロードのフローが繰り返されます。

API の詳細については、以下を参照してください。

• microsoft.windows.ai
• microsoft.windows.ai.imaging
• microsoft.windows.ai.text

Phi Silica を統合する

ローカルの Phi Silica 言語モデルを使用すると、ユーザー プロンプトに対するテキスト応答を生成できます。 まず、「 Windows AI API の概要」で説明されているように、デバイスで使用できる前提条件とモデルがあることを確認します。

必要な名前空間を指定する

Phi Silica を使用するには、必要な名前空間を使用していることを確認します。

using Microsoft.Windows.AI;
using Microsoft.Windows.AI.ContentSafety;
using Microsoft.Windows.AI.Text;

#include "winrt/Microsoft.Windows.AI.Text.h"
using namespace Microsoft::Windows::AI;
using namespace Microsoft::Windows::AI::Text;

応答を生成する

この例では、Q&A プロンプトへの応答を生成する方法を示します。 C# タブでは、カスタム コンテンツ モデレーション オプションの適用も示されています (Windows AI API でのコンテンツ モデレーションを参照)。

1. GetReadyState メソッドを呼び出し、EnsureReadyAsync メソッドが正常に返されるのを待って、言語モデルを使用できることを確認します。

2. 言語モデルが使用可能になったら、 LanguageModel オブジェクトを作成して参照します。

3. GenerateResponseAsync メソッドを使用して、完全な結果を返す文字列プロンプトをモデルに送信します。

if (LanguageModel.GetReadyState() == AIFeatureReadyState.NotReady) 
{ 
   var op = await LanguageModel.EnsureReadyAsync(); 
} 

using LanguageModel languageModel = await LanguageModel.CreateAsync();

string prompt = "Provide the molecular formula for glucose.";

LanguageModelOptions options = new LanguageModelOptions();
ContentFilterOptions filterOptions = new ContentFilterOptions();
filterOptions.PromptMaxAllowedSeverityLevel.Violent = SeverityLevel.Minimum;
options.ContentFilterOptions = filterOptions;

var result = await languageModel.GenerateResponseAsync(prompt, options);
 
Console.WriteLine(result.Text);

if (LanguageModel::GetReadyState() == AIFeatureReadyState::NotReady)
{
    auto op = LanguageModel::EnsureReadyAsync().get();
}

auto languageModel = LanguageModel::CreateAsync().get();

const winrt::hstring prompt = L"Provide the molecular formula for glucose.";

LanguageModelResponseResult result = languageModel.GenerateResponseAsync(prompt).get();
std::cout << result.Text().c_str() << std::endl;

この例で生成される応答は次のとおりです。

C6H12O6

テキスト インテリジェンス スキル

Phi Silica には、ローカル言語モデルを使用した定義済みの書式設定を使用して、構造化された簡潔でわかりやすい応答を提供できる組み込みのテキスト変換機能 (テキスト インテリジェンス スキルと呼ばれます) が含まれています。

サポートされているスキルは次のとおりです。

• テキストからテーブルへ: 必要に応じて、プロンプト応答を構造化されたテーブル形式に書式設定します。
• 要約: プロンプト テキストの簡潔な概要を返します。
• 書き換え: プロンプト テキストを再読み取りして、明確さ、読みやすさ、および指定した場合はトーン (またはスタイル) を最適化します。

次の手順では、テキスト インテリジェンス スキルの使用方法について説明します。

1. LanguageModel オブジェクトを作成する
   このオブジェクトは、ローカルの Phi Silica 言語モデルを参照します (Phi Silica モデルがデバイスで使用可能であることを確認してください)。

2. スキル固有のオブジェクトをインスタンス化する
   適用するスキルに基づいて適切なクラスを選択し、 LanguageModel インスタンスをパラメーターとして渡します。

3. メソッドを呼び出してスキルを実行する
   各スキルは、入力を処理し、書式設定された結果を返す非同期メソッドを公開します。

4. 応答を処理する
   結果は型指定されたオブジェクトとして返され、必要に応じて印刷またはログに記録できます。

この例では、テキスト要約スキルを示します。

1. LanguageModel インスタンス (languageModel) を作成します。
2. その LanguageModel を TextSummarizer コンストラクターに渡します。
3. SummarizeAsync メソッドにテキストを渡し、結果を出力します。

using Microsoft.Windows.AI.Text;

using LanguageModel languageModel = await LanguageModel.CreateAsync();

var textSummarizer = new TextSummarizer(languageModel);
string text = @"This is a large amount of text I want to have summarized.";
var result = await textSummarizer.SummarizeAsync(text);

Console.WriteLine(result.Text); 

using namespace Microsoft::Windows::AI::Text;

auto languageModel = LanguageModel::CreateAsync().get();
auto textSummarizer = TextSummarizer(languageModel);
std::string prompt = "This is a large amount of text I want to have summarized.";
auto result = textSummarizer.SummarizeAsync(prompt);

std::wcout << result.get().Text() << std::endl;

責任ある AI

Microsoft の責任ある AI 標準で説明されている主要な原則とプラクティスに従って、これらの API が信頼でき、安全で、責任を持って構築されていることを確認しました。 アプリに AI 機能を実装する方法の詳細については、 Windows での責任ある生成型 AI 開発に関するページを参照してください。

GPU 透明度に関する注意事項

非Copilot+ PCs (GPU) での Phi Silica の機能、制限、責任ある使用の詳細については、「Transparency Note: Phi Silica on non-Copilot+ PCs」を参照してください。

NPU と GPU の実行の主な違い:

非Copilot+ PCsの運用要因

• Hardware の多様性: 非Copilot+ PCsは、さまざまな GPU 構成にまたがっています。 パフォーマンスは、このデバイスの範囲によって大きく異なります。
• ハードウェアの最小要件: Phi Silica を実行するには、デバイスが GPU とメモリの最小要件を満たしている必要があります。
• Software の依存関係: 非Copilot+ PC実行には、GPU 製造元 (NVIDIA) から直接インストールされた最新の IHV GPU ドライバーが必要です。 Windows Updateまたは OEM インストールの既定のドライバーでは不十分で、エラーやパフォーマンスの低下が発生する可能性があります。

システム パフォーマンス

非Copilot+ PCsのパフォーマンスについて

Phi Silica の出力品質 (精度、一貫性、関連性) は、同じモデルの重みとアーキテクチャが使用されるため、Copilot+ と非Copilot+ PCsで一貫しています。 主な違いは、 推論速度、 リソース消費、 ユーザー エクスペリエンスの応答性です。

開発者は次の手順を実行する必要があります。

• 代表的なハードウェアでのベンチマーク: 低スペック構成を含め、対象ユーザー層を反映した Copilot+ 以外のさまざまなデバイスでテストします。
• ユーザーの期待値を設定する: 応答時間はデバイスのハードウェアによって異なる可能性があることを明確に伝えます。 進行状況インジケーターを表示するか、部分的な結果をストリーミングすることを検討してください。
• タイムアウトとフォールバックを実装する: 応答時間が重要なシナリオでは、適切なタイムアウトを実装し、(ユーザーの同意を得て) クラウドベースのフォールバック オプションを提供することを検討してください。
• リソース使用量の監視: 推論中の GPU 使用率、VRAM 消費量、およびシステム メモリ使用量を追跡して、パフォーマンスのボトルネックを特定して対処します。

こちらも参照ください

• AI 開発ギャラリー
• Windows AI API のサンプル