AI を使用すると、マシンはデータの分析、コンテンツの生成、音声の合成、予測の作成、業界間の意思決定のサポートを行うことができます。 AI 機能が生成モデル、言語モデル、エージェントベースのアーキテクチャを通じて拡張されるにつれて、組織は信頼性が高く、セキュリティで保護され、コスト効率が高く、運用上安定した AI ワークロードを設計するためのアーキテクチャ ガイダンスが必要です。
この記事は、Azureでの AI の使用を開始するのに役立ちます。 AI サービス、参照アーキテクチャ、ベスト プラクティス、学習リソースが導入されているため、ワークロードの要件を満たす AI ソリューションを設計および構築できます。
AI のAzure サービス
Azureでは、AI ワークロードを構築、デプロイ、管理するためのさまざまなサービスが提供されます。 これらのサービスは、開発プラットフォーム、事前構築済みの AI 機能、データ プラットフォーム、およびカスタム モデルを作成するためのツールにまたがっています。 次のサービスを使用して、AI をワークロード設計に統合します。
AI 開発プラットフォーム
Microsoft Foundry: 生成型 AI アプリケーションとエージェントを開発およびデプロイするためのサービスとしての統合プラットフォーム (PaaS)。 Microsoft Foundry は、モデル カタログ、Foundry Agent Service を介したエージェント ホスティング、微調整、評価ツール、責任ある AI 機能へのアクセスを提供します。 Foundry ポータルを使用して、AI モデルとエージェントの実験、ビルド、デプロイを行います。
Azure Machine Learning: 機械学習モデルを大規模に構築、トレーニング、デプロイするためのクラウド サービス。 Azure Machine Learningでは、PyTorch、TensorFlow、scikit-learn などのオープンソース フレームワークがサポートされています。 また、AutoML、ハイパーパラメーター調整、分散トレーニング、機械学習操作、責任ある AI の機能も提供します。
Microsoft Copilot Studio: AI を利用したエージェントを構築、カスタマイズ、デプロイするためのローコード プラットフォーム。 Microsoft Copilot Studioを使用して、内部および外部のシナリオ用の会話エージェントを作成し、エンタープライズ データとカスタム ワークフローを使用してMicrosoft 365 Copilotを拡張します。
事前構築済みの AI サービス
Foundry Tools: インテリジェントな機能をアプリケーションに追加するための事前構築済みのカスタマイズ可能な API とモデルのスイート。 Foundry Tools には、音声、翻訳、言語理解、ドキュメント インテリジェンス、コンテンツの理解、ビジョン、コンテンツの安全性、検索の機能が含まれています。
Azure OpenAI: エンタープライズ セキュリティ、ネットワーク、責任ある AI 制御を備えたAzureマネージド インフラストラクチャを通じて、GPT や DALL-E を含む OpenAI モデルへのアクセスを提供します。
AI 用のデータ プラットフォーム
Microsoft Fabric: データ インジェスト、変換、リアルタイム イベント ルーティング、およびレポートをカバーするエンドツーエンドの分析とデータ プラットフォーム。 Microsoft Fabricは OneLake を統合されたデータ レイクとして提供し、埋め込み AI 機能、Microsoft Copilot機能、Foundry Tools との統合が含まれています。
Azure Databricks: データ エンジニアリング、データ サイエンス、機械学習のための Spark ベースの分析プラットフォーム。 Azure Databricksは、埋め込みベースの取得のために、Azure Machine Learning、MLflow 統合、AutoML、基盤モデルの微調整、モザイク AI ベクター検索のための Databricks ランタイムを提供します。
Azure HDInsight: ビッグ データの処理と分析のためのマネージド Apache Spark サービス。 Azure HDInsight Spark クラスターは、MLlib を介した機械学習ワークロードをサポートし、Azure StorageとAzure Data Lake Storageと互換性があり、ディープ ラーニング用の SynapseML をサポートします。
Azure Data Lake Storage: 構造化データと非構造化データを格納するためのスケーラブルで一元化されたリポジトリ。 Azure Data Lake Storageでは、ファイル システムのセマンティクス、ファイル レベルのセキュリティ、およびAzure Blob Storage上に構築された階層化ストレージが提供されます。
エンタープライズ インテリジェンス レイヤー
Microsoftの AI アーキテクチャでは、AI システムのコンテキストの主要なソースを表す 3 つの補完的なインテリジェンス レイヤーまたは IQ が導入されています。
Work IQ は、組織内で作業がどのように行われるかについてのインテリジェンスをキャプチャします。 電子メール、チャット、会議、ドキュメント、コラボレーション パターンなどのMicrosoft 365からのシグナルを使用します。
このレイヤーは、対話を分離されたプロンプトとして扱うのではなく、人間の活動と組織の行動で AI を基盤とするために不可欠です。
Fabric IQ は、分析モデル、主要業績評価指標 (KPI)、ビジネス エンティティなど、Microsoft Fabricで管理される構造化エンタープライズ データから派生したインテリジェンスを提供します。
Fabric IQ を使用すると、AI は複雑な分析の質問に回答し、ビジネス運用のコンテキストで結果を解釈できます。
Foundry IQ は、AI エージェントがエンタープライズ データ内の応答を取得して地上に出できるようにする、統合されたマルチソースナレッジレイヤーを提供します。
このレイヤーは、AI 出力が正確、最新、および準拠していることを確認するために、取得拡張生成 (RAG) などのパターンを実装するために重要です。
Architecture
次の図は、Microsoft Foundry を使用するベースラインのエンド ツー エンド のチャット アーキテクチャを示しています。 この参照アーキテクチャでは、AI サービスが Azure で運用対応ソリューションを構成する方法を示します。 これには、ID、ネットワーク、監視、ガバナンスレイヤーが含まれます。
このアーキテクチャのVisio ファイルをダウンロードしてください。
前の図は、一般的なベースライン AI の実装を示しています。 Azureで構築できる実際のソリューションについては、AI アーキテクチャを参照してください。
AI のアーキテクチャとガイドを調べる
このセクションの記事には、Azureにデプロイして運用グレードのソリューションに拡張できるガイドと完全に開発されたアーキテクチャが含まれています。 ソリューションのアイデアは、AI 概念実証 (POC) 開発を計画する際に考慮する実装パターンと可能性を示しています。 これらの記事は、Azureで AI テクノロジを使用する方法を決定するのに役立ちます。
- AI テクノロジの概要: AI の概念、開発プラットフォーム、アーキテクチャ パターンの概要を示し、Azureで AI ワークロードを設計するのに役立ちます。
AI サービスを選択する
次の記事は、ワークロード要件に最適な AI テクノロジの評価と選択に役立ちます。
AI サービス テクノロジの選択: AI サービスと機械学習ソリューションを比較して、ユース ケースに適したサービスまたはモデルを選択するのに役立ちます。
Azure AI 対象言語処理テクノロジの選択: 翻訳、エンティティ認識、テキスト分析などの対象言語処理タスクのAzure サービスを比較します。
Azure音声認識と生成テクノロジの選択: Azure サービスを音声テキスト変換、テキスト読み上げ、音声翻訳のシナリオと比較します。
Azure AI の画像とビデオの処理と生成テクノロジを選択する: 画像とビデオの分析、生成、および処理のAzure サービスを比較します。
自然言語処理テクノロジの選択: Azure自然言語処理テクノロジを比較して、テキストの理解と生成のタスクに適したプラットフォームを選択するのに役立ちます。
Microsoft AI と機械学習製品: Microsoft機械学習製品を比較して、AI アプリケーション、エージェント、機械学習モデルを構築、デプロイ、管理するためのプラットフォームを選択するのに役立ちます。
ワークロードに適した AI モデルを選択する: デプロイに使用できる多くのオプションから適切な AI モデルを選択するための戦略について説明します。
AI ソリューションのアイデア
次の AI ソリューションのアイデアは、実装パターンと探索する可能性を示しています。
オーディオ処理ソリューションのアイデア
- Foundry Tools を使用して会話ナレッジ マイニング ソリューションを構築する: 会話オーディオ データから実用的な分析情報を抽出します。
画像処理
- Azureの画像分類: インテリジェントなアプリケーション パターンを使用して画像を分類します。
予測分析
- AI を使用して顧客の注文を予測する: 機械学習を使用して将来の顧客注文を予測します。
MLOps ソリューションのアイデア
Azure Databricksを使用して MLOps を調整する: Azure Databricksを使用して機械学習操作を調整します。
多モデル アーキテクチャ アプローチを使用して機械学習モデルをスケーリングする: Azure Machine Learningを使用して大規模な多数のモデルをトレーニングおよび管理します。
ドキュメントの処理とエンリッチメント
非構造化コンテンツから情報を抽出およびマップする: マルチモーダルな非構造化コンテンツから情報を抽出およびマップします。
データからドキュメントを生成する: データ ソースから構造化ドキュメントを生成します。
画像およびテキスト処理を使用した AI エンリッチメントを使用する: Azure AI 検索 のインデックス作成パイプラインで AI スキルセットを使用して、コンテンツを強化します。
ワークフローの自動化
- Microsoft Agent Framework を使用して複数エージェント ワークフロー自動化ソリューションを構築する: Microsoft Agent Framework によって調整された複数の AI エージェントを使用してワークフローを自動化します。
AI アーキテクチャ
次の運用対応アーキテクチャでは、デプロイおよびカスタマイズできるエンド ツー エンドの AI ソリューションを示します。
- Silk 仮想 SAN を使用した AI 推論: 運用データベースの Silk Echo コピーを使用して、Azure IaaS 上のトランザクション ワークロードからリアルタイム AI 推論を分離します。
データとのチャット
基本的なMicrosoft Foundry チャットリファレンス アーキテクチャ: Microsoft Foundry と Azure OpenAI を使用する基本的な RAG チャット アーキテクチャ。
ベースライン Microsoft Foundry チャット参照アーキテクチャ: エンタープライズ セキュリティ、ネットワーク、および監視で Microsoft Foundry を使用する運用対応のエンド ツー エンド チャット アーキテクチャ。
Azure ランディング ゾーンのベースライン Microsoft Foundry チャット参照アーキテクチャ: エンタープライズ規模のガバナンスのために、Azure ランディング ゾーン内にベースライン Microsoft Foundry チャット アーキテクチャをデプロイします。
機械学習の推論
- ベースライン Azure Machine Learning推論参照アーキテクチャ: AKS、環境の分離、制御されたモデルの昇格を使用して、運用対応のプライベートなAzure Machine Learning推論プラットフォームを構築する方法について説明します。
ドキュメント処理
Azureでのドキュメント分類の自動化: Durable Functionsを使用してドキュメント分類ワークフローを自動化します。
PDF フォームの処理を自動化する: PDF フォームからのデータの抽出と処理を自動化します。
Azureでカスタム ドキュメント処理モデルをビルドしてデプロイする: ドキュメント処理シナリオ用のカスタム モデルをビルドしてデプロイします。
Power AutomateとAI Builderを使用してオブジェクトからテキストを抽出する: Power Automateと AI 機能を使用してオブジェクトからテキストを抽出します。
ファイルの内容とメタデータに基づいてAzure AI 検索 インデックスを作成する: 複数のインデクサーを使用して、Azure AI 検索を使用して BLOB メタデータを処理およびインデックス付けします。
ビデオと画像の分類
- Foundry Tools の Azure Machine Learning と Azure Vision を使用してビデオ分析を自動化する: コンピューター ビジョンと機械学習を使用してビデオ コンテンツを分析します。
オーディオ処理アーキテクチャ
- コール センター データの抽出と分析: Azure OpenAI を使用してコール センターの会話を抽出および分析します。
Regulatory
- 規制対象データ用の安全な調査環境を設計する: 規制対象データを処理する調査ワークロード用のセキュリティで保護されたコンピューティング環境を提供します。
AI ガイド
大規模な動的 AI エージェント パターン: Microsoft Foundry、Azure AI 検索、Azure OpenAI を使用して、プールから AI エージェントを動的に選択および調整してマルチエージェント システムを構築する方法について説明します。
Microsoft AI と機械学習製品: Microsoft機械学習製品を比較して、AI アプリケーション、エージェント、機械学習モデルを構築、デプロイ、管理するためのプラットフォームを選択するのに役立ちます。
AI エージェントオーケストレーション パターン: 複雑なシナリオで AI エージェントを調整するための設計パターンについて説明します。
エージェント動作エンジニアリング: バージョン管理されたコントラクト、証拠の要件、ランタイム コントロール、リリース ゲートを使用してエージェントの動作を管理するための手法について説明します。
セキュリティで保護されたマルチテナント RAG 推論ソリューションを設計する: マルチテナント環境で RAG ソリューションをセキュリティで保護するためのガイダンスを提供します。
基礎モデルのライフ サイクルをサポートする設計: 基礎モデルの更新、非推奨、移行を管理するためのガイダンスを提供します。
RAG ソリューションの開発と評価
RAG ソリューションの設計と開発: RAG ソリューションを設計および評価する方法の概要を示します。
RAG 準備フェーズ: RAG 実装のデータ準備について説明します。
RAG チャンク フェーズ: RAG パイプラインでコンテンツをチャンクするための戦略について説明します。
RAG チャンク エンリッチメント フェーズ: コンテンツ チャンクに適用されるエンリッチメント手法について説明します。
RAG 埋め込み生成フェーズ: RAG 取得用の埋め込みを生成する方法について説明します。
情報の取得: RAG アーキテクチャの情報取得戦略について説明します。
RAG プロンプト エンジニアリング: プロンプト構造、接地手法、コンテキスト管理など、RAG ソリューションの効果的なプロンプトを設計する方法について説明します。
大規模言語モデルのエンドツーエンドの評価: RAG モデルをエンドツーエンドで評価する方法について説明します。
エージェント的な RAG ソリューションの開発: 動的なクエリ計画と複数ステップの推論のために、標準の RAG パイプラインからエージェント的な RAG アーキテクチャに移行する方法について説明します。
MLOpsガイド
機械学習操作: 機械学習ワークフローを運用化するための機械学習操作 v2 アプローチについて説明します。
MLOps への投資がある組織向けの生成 AI 運用: 機械学習の運用プラクティスを生成型 AI ワークロードに拡張します。
MLOps 成熟度モデル: 機械学習操作の導入の成熟度レベルを定義します。
プロキシ生成 AI モデル
ゲートウェイ経由で Foundry モデルやその他の言語モデルにアクセスする: 生成 AI モデル エンドポイントの前にゲートウェイを配置する利点とアーキテクチャについて説明します。
複数のモデル デプロイまたはインスタンスの前でゲートウェイを使用する: ゲートウェイ パターンを拡張して、複数のモデル バックエンド間で要求をルーティングします。
ゲートウェイを介して Foundry Models にカスタム認証を提供する: ゲートウェイ経由のモデル アクセス用のカスタム認証フローを実装します。
ゲートウェイを介して Foundry Models の高度な監視を実装する: ゲートウェイ経由の生成 AI モデル トラフィックに監視と可観測性を追加します。
組織の準備
クラウド導入プロセスの開始時の組織は、クラウド導入フレームワークを使用してAzure、クラウド導入を加速させる実証済みのガイダンスにアクセスできます。
AI 固有の導入ガイダンスについては、次のクラウド導入フレームワークリソースを参照してください。
AI 導入: 戦略、計画、準備、ガバナンス、セキュリティ、管理など、Azureで AI ソリューションを導入するための構造化されたプロセスを提供します。
AI 対応: リソース編成、ネットワーク、信頼性、ガバナンスなど、Azureで AI ワークロードを構築するための組織プロセスの概要を説明します。
Azureで AI ソリューションの品質を確保するには、Azure Well-Architected Framework のガイダンスに従ってください。 Well-Architected Framework は、アーキテクチャの卓越性を求める組織に規範的なガイダンスを提供し、コスト最適化された Azure ソリューションを設計、プロビジョニング、監視する方法について説明します。
AI 固有のガイダンスについては、次の Well-Architected Framework リソースを参照してください。
- Azure上の AI ワークロード: 非決定的な機能、データとアプリケーションの設計、Well-Architected Framework の 5 つの柱にわたる運用など、AI ワークロードの設計に関するアーキテクチャ上の課題に対処します。
AI 関連の Well-Architected Framework サービス ガイドについては、次を参照してください。
ベスト プラクティス
次のベスト プラクティスに従って、Azureでの AI ワークロードの信頼性、セキュリティ、コスト効率、運用品質、パフォーマンスを向上させます。
RAG ソリューションを設計および開発する: 構造化された段階的アプローチに従って、チャンク、埋め込み、情報取得、エンド ツー エンドの評価など、RAG ソリューションを設計します。
ベクター検索のAzure サービスを選択する: ベクター検索をサポートするサービスAzure評価して、検索と類似性検索の要件に最適な情報を見つけます。
AI エージェント オーケストレーション パターン: シーケンシャル、コンカレント、グループ チャット、ハンドオフ、マゼンティク パターンなど、複数のエージェントを使用するアーキテクチャの実証済みのオーケストレーション パターンについて説明します。 信頼性、セキュリティ、コスト、および可観測性の実装に関する考慮事項を確認します。
ジェネレーティブ AI モデルの前でゲートウェイを使用する: 生成モデル エンドポイントのプロキシ、負荷分散、監視のためのゲートウェイ パターンを実装します。
機械学習操作 v2: 機械学習モデルを大規模にトレーニング、デプロイ、管理するためのエンドツーエンドの機械学習操作ライフサイクル ガイダンスを適用します。
機械学習操作を使用した生成 AI 操作: 機械学習操作のプラクティスを、プロンプト管理、評価、デプロイなどの生成型 AI ワークロードに拡張します。
セキュリティで保護されたマルチテナント RAG 推論ソリューションを設計する: テナント間でデータの分離と安全な推論を適用する RAG ソリューションにマルチテナント パターンを適用します。
基盤モデルのライフ サイクルをサポートする設計: モデルのバージョン管理、非推奨化、ローテーションを管理して、AI ワークロードを最新の状態に保ち、回復力を維持します。
機械学習オプション: Azureの機械学習のトレーニングとデプロイのオプションを比較して、ワークロードに適したサービスを選択します。
Apache Spark のガイドライン: Azure HDInsightでの Apache Spark ジョブの実行、監視、デバッグ、最適化に関するガイドラインを確認します。
AI を最新の状態に保つ
Azure AI サービス最新のデータの課題に対処するために進化します。 最新の 更新プログラムと機能について常に情報を得る。
主要な AI サービスを最新の状態に保つには、次の記事を参照してください。
Foundry Models の Azure OpenAI の新機能: 新しいモデルの可用性、API バージョン、機能のお知らせなど、Azure OpenAI の最新リリースとドキュメント更新プログラムの概要を示します。
Microsoft Foundry の新機能: エージェント ガバナンス、監視機能、新機能など、Microsoft Foundry の主要な記事と製品の更新について説明します。
Azure AI 検索の新機能: 新しい API バージョン、エージェント検索機能、インデックス作成機能など、Azure AI 検索機能の最新の更新について説明します。
Foundry Tools のAzure言語の新機能: 新しい SDK バージョン、オーケストレーション ワークフロー、Microsoft Foundry 統合など、Foundry Tools のAzure言語機能の更新について説明します。
Microsoft Fabricの新機能: データ サイエンス、MLflow 統合、データ エージェント、分析機能など、Microsoft Fabric機能全体の更新について説明します。
Azure Machine Learning CLI と SDK のリリース ノート: 新機能、バグ修正、破壊的変更など、Azure Machine Learning CLI (v2) とPython SDK のリリース ノートを提供します。
Azure Databricks プラットフォームのリリース ノート: ランタイム バージョン、ワークスペース機能、統合機能など、Azure Databricks プラットフォームの更新について説明します。
Microsoft Copilot Studioの新機能: エージェントの構築機能やコネクタの更新など、Microsoft Copilot Studioの新機能と更新プログラムが強調表示されています。
Foundry Tools の Azure ドキュメント インテリジェンスの新機能: 新しい事前構築済みモデル、API バージョン、抽出機能など、Foundry Tools の Azure ドキュメント インテリジェンスの更新について説明します。
Foundry Tools における Azure Content Understanding の新機能: Foundry Tools における Azure Content Understanding の更新について説明します。これには、新しいコンテンツ分析機能や Microsoft Foundry との統合が含まれます。
アマゾン ウェブ サービス (AWS) または Google Cloud の専門家
すぐに立ち上がるために、次の記事では、Azure AI オプションを他のクラウド サービスと比較します。