アプリケーションまたはプラットフォームのカードとは
Microsoft のアプリケーションカードとプラットフォーム カードは、AI テクノロジのしくみ、アプリケーション所有者がアプリケーションのパフォーマンスと動作に影響を与える選択肢、およびテクノロジ、ユーザー、環境など、アプリケーション全体を考慮することの重要性を理解するのに役立ちます。 アプリケーション カードは AI アプリケーション用に作成され、プラットフォーム カードは AI プラットフォーム サービス用に作成されます。 これらのリソースは、独自のアプリケーションの開発またはデプロイをサポートでき、影響を受けるユーザーや利害関係者と共有できます。
責任ある AI へのコミットメントの一環として、Microsoft は、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という 6 つのコア 原則に準拠しています。 これらの原則は責任ある AI Standardに組み込まれており、AI アプリケーションの設計、構築、テストの各チームをガイドします。 アプリケーション カードとプラットフォーム カードは、機能、意図された用途、制限に関する透明性を提供することで、これらの原則を運用化する上で重要な役割を果たします。 さらに詳細な分析情報を得るために、Microsoft の 責任ある AI 透明性レポートを確認することをお勧めします。 お客様は、責任を持って AI と連携する方法を説明する組織 向けの Microsoft Enterprise AI サービス行動規範 に準拠してサービスを使用する必要があります。
Overview
Copilot Studio は、タスクの自動化、質問への回答、ビジネス プロセスの合理化を行うために、組織が AI 主導のエージェントを構築、カスタマイズ、デプロイできるようにするプラットフォームです。 その目的は、ビジネス アナリストや IT プロフェッショナルから開発者まで、幅広いユーザーが高度な人工知能にアクセスできるようにすることです。 会話エージェントを作成し、Web サイト、Microsoft Teams、その他のチャネルに統合するための直感的なツールを提供することで、反復的な手動作業、カスタマー サポートの自動化、データドリブンの意思決定などの一般的な課題を解決するのに役立ちます。 効率性の向上、ユーザー エクスペリエンスの向上、スケーラブルな自動化などの利点があります。
このプラットフォームは、深いコーディングの専門知識なしで生成 AI を活用したいエンタープライズのお客様、ソリューション開発者、IT チーム向けに設計されています。 目的のユーザーには、ワークフローの自動化、顧客エンゲージメントの強化、セルフサービス サポートの提供を求める組織が含まれます。 Copilot Studio では、ローコードとプロコードの両方のアプローチがサポートされています。これにより、ユーザーは自然言語命令を使用してエージェントを作成したり、カスタム ツールやコネクタを使用して機能を拡張したりできます。 この柔軟性により、金融、医療、教育、小売に至る業界に適しています。
Key terms
次の表では、Microsoft Copilot Studioに関連する主要な用語を定義します。
| Term | Description |
|---|---|
| Agent | Copilot Studio で作成された AI を利用した会話型または自律型コンポーネント。構成された命令、ツール、データ ソースを使用して、質問に回答したり、アクションを実行したり、ビジネス プロセスを自動化したりできます。 |
| Agent orchestration | ユーザーの要求またはタスクを満たすために、Copilot Studio がエージェントのアクション、ツール、およびサブエージェントを計画、ルーティング、調整するプロセス。 |
| User prompt | 会話またはタスクを開始するエージェント (通常は自然言語) にユーザーが提供する入力。 |
| Grounding | エージェントの応答がコンテキストに応じて正確になり、組織の情報と一致するように、関連する企業または外部データをモデルに提供するプロセス。 |
| Knowledge source | エージェントに接続されているデータ ソース (Microsoft Graph データ、Dataverse、アップロードされたドキュメント、外部システムなど) を使用して、応答を地上に送信できます。 |
| Tool | API の呼び出し、Power Automate フローの実行、システムのクエリなど、テキスト生成以外のアクションを実行するためにエージェントが使用する呼び出し可能な機能。 |
| Connector | Copilot Studio エージェントが外部サービスまたはエンタープライズ システムにアクセスできるようにする事前構築済みまたはカスタム統合。 |
| Generative AI | エージェントが大規模な言語モデルと提供されたコンテキストに基づいてテキスト、概要、計画、または意思決定を生成できるようにする AI 手法。 |
| 大規模言語モデル (LLM) | 大規模なデータセットでトレーニングされた機械学習モデル。これにより、Copilot Studio エージェント内での自然言語の理解と生成が可能になります。 |
| 1P model | Microsoft がトレーニングする基本モデル (Microsoft チームが完了した事前トレーニングと初期微調整)。 |
| 3P model | Microsoft がトレーニングしない基本モデル (Microsoft 以外のパーティが完了した事前トレーニングと初期微調整)。 |
| Copilot Credits | エージェントの対話やツールの実行など、Copilot Studio の機能の使用量を測定する使用量ベースの通貨。 |
| Channel | Microsoft Teams、Web サイト、Microsoft 365 Copilotなど、エージェントをデプロイして使用するサーフェス。 |
| Evaluation | 定義済みまたはカスタムのテスト方法を使用して、エージェントの品質、パフォーマンス、安全性、信頼性を評価するプロセス。 |
| Responsible AI | Microsoft の AI 原則に基づいている Microsoft のポリシー、調査、エンジニアリングプラクティスは、責任ある AI 標準を通じて運用されています。 |
主な機能
以下の主な機能では、Copilot Studio が実行するように設計されている内容と、サポートされているタスク全体での実行方法について説明します。
| Feature | Description |
|---|---|
| エージェントの作成とカスタマイズ | Copilot Studio を使用すると、ユーザーはタスクを自動化したり、質問に答えたりする AI を利用したエージェント (多くの場合は "副操縦士" と呼ばれます) を構築できます。 これらのエージェントは、組織のトーン、ワークフロー、ビジネス ルールを反映するように調整できます。 |
| 低コードとプロコードの柔軟性 | ユーザーは、直感的でコードの少ないツールから始めて、後で API、カスタム コネクタ、スクリプトを使用して機能を拡張できます。 この柔軟性により、開発者に深みを提供しながら、ビジネス ユーザーがプラットフォームにアクセスできるようになります。 詳細については、 |
| Microsoft エコシステムとの統合 | Copilot Studio は、Teams、Power Platform、Microsoft Graphなどの Microsoft サービスとシームレスに連携します。 エージェントは、組織のデータに安全にアクセスし、コンテキストに対応した応答を提供できます。 |
| 外部ソースに接続する | Copilot Studio では、Microsoft のサービス以外にも、サード パーティのシステム用のコネクタと API がサポートされています。 この機能により、エージェントはさまざまなソースからデータをプルできるため、複数のビジネス プロセスで役立ちます。 |
| トリガーとアクション (自律エージェント) | エージェントは、新しいレコードや顧客の問い合わせなどのイベントに応答し、タスクを自動的に実行できます。 このイベントドリブン設計により、手動作業が削減され、エンドツーエンドの自動化が可能になります。 詳細については、 生成オーケストレーションの使用に関する FAQ を参照してください。 |
| 計画と適応性 | エージェントは、複数ステップのワークフローを計画し、入力または条件の変化に基づいてアクションを調整できます。 この適応性は、固定された定義済みのタスクではなく、動的なビジネス シナリオを処理するのに役立ちます。 詳細については、 生成オーケストレーションの使用に関する FAQ、 プロンプトに関する FAQ、および 生成的な回答に関する FAQ を参照してください。 |
| コンテキスト応答のメモリ | Copilot Studio エージェントは、以前の対話からのコンテキストを保持できるため、一貫性のあるパーソナライズされた回答を提供し、会話全体の継続性を維持できます。 |
| Extensibility | 開発者は、カスタム プラグイン、コネクタ、高度なロジックを使用してエージェントを強化できます。 この拡張性により、プラットフォームは特殊な要件または複雑な要件を満たすようにスケーリングできます。 |
| Multichannel deployment | Web サイト、Teams、その他のアプリにエージェントを展開して、ユーザーがどこで作業を行っても操作できるようにします。 |
| 責任ある AI と安全性の機能 | 組み込みのプライバシー、セキュリティ、コンプライアンスのチェックは、Microsoft の責任ある AI の原則と一致し、組織がエージェントを安全かつ倫理的に展開するのに役立ちます。 AI を利用した機能を責任を持って使用する方法の詳細については、責任ある AI に関する FAQ および Copilot Studio のセキュリティに関する FAQ を参照してください。 |
Intended uses
Copilot Studio は、さまざまな業界の複数のシナリオで使用できます。 ユース ケースの例を次に示します。
- カスタマー サポートの自動化: 小売企業は、一般的な顧客の質問に回答し、注文を追跡し、Web サイトまたはチャットを介して返品を処理するエージェントを作成できます。 このアプローチにより、待機時間が短縮され、複雑な問題に対処するための人間のエージェントが解放され、顧客満足度と運用効率が向上します。
- 政府機関の従業員のセルフサービス: 政府機関は、従業員が人事ポリシーを見つけ、休暇申請を送信し、コンプライアンス ガイドラインを確認できるように、内部エージェントを展開できます。 定期的な問い合わせを自動化することで、時間を節約し、従業員が正確な情報に迅速にアクセスできるようにします。
- Financial Services ワークフローの自動化: 銀行は、Copilot Studio を使用して、受信クエリとアプリケーションの更新を監視および提供するエージェントを構築できます。 このアプローチにより、処理が高速化され、手動エラーが減り、顧客の透明性が向上します。
- 教育と学生の支援: 大学は、コース登録を通じて学生をガイドし、期限に関する質問に答え、学習リソースへのリンクを提供するエージェントを作成できます。 このアプローチは、学生が管理タスクを簡単に移動し、教職員の作業負荷を軽減するのに役立ちます。
- メディア コンテンツ管理: あるメディア企業は、複数のソースからメタデータをプルし、資産を整理し、記事に関連するタグを提案することで、エディターを支援するエージェントをデプロイできます。 このアプローチにより、ワークフローの発行が高速化され、プラットフォーム間の一貫性が確保されます。
- 消費商品在庫アラート: 製造元は、在庫レベルを監視し、しきい値に達したときに自動的に補充アクションをトリガーするエージェントを設定できます。 このプロアクティブなアプローチにより、在庫がなくなり、サプライ チェーンが円滑に稼働し続けます。
エージェント スコープ: これらのエージェントは、一般に、ドメイン内で 定義されたタスク (人事調査、ローン処理、学生サポートなど) 用に構築されています。 複数の関連アクションを処理できますが、制御とコンプライアンスを維持するために組織が設定した境界内で動作します。
モデルとトレーニング データ
Copilot Studio では、さまざまな AI モデルを活用して、ユーザーに表示されるエクスペリエンスを高めます。 たとえば、OpenAI の GPT-5 シリーズ (Azure OpenAI Service、Anthropic の Claude Sonnet 4、xAI の Grok 4.1 Fast などがあります。
Microsoft では、顧客データを使用して基盤モデルをトレーニングしません。 サード パーティによって開発およびトレーニングされたモデルについては、「 エージェントのプライマリ モデルの選択」を参照してください。
Performance
Copilot Studio は、エージェントが会話操作と自動アクションを処理するエンタープライズ環境で確実に動作するように設計されています。 エージェントは、質問に答えたり、ガイダンスを提供したり、イベントによってトリガーされるワークフロー (レコードの更新、通知の送信、マルチステップ ビジネス プロセスの調整など) を実行したりできます。 このリアルタイム アシスタンスとバックグラウンドオートメーションの組み合わせにより、Copilot Studio は多様なビジネス シナリオに適しています。
Supported modalities
入力: ユーザーからのテキスト プロンプトと、接続されたシステムからのイベント ベースのトリガー (データベースの新しいエントリやフォームの送信など)。
出力: 会話シナリオのテキスト応答と、タスクの作成、データの更新、ワークフローの開始などの自動化されたアクション。
Multilingual capabilities
- 構成に基づいて追加の言語がサポートされ、英語用に最適化されています。 会話の精度は英語で最も高くなりますが、自動化機能は構造化されたトリガーとアクションに依存するため、言語に依存しません。
信頼性の高い操作の条件
エージェントは、プロンプトが明確で、データ ソースとシステムへのコネクタが適切に構成されている場合に最適に動作します。
安全で一貫したパフォーマンスを実現するには、安定した接続性と組織のデータ ポリシーへの準拠が不可欠です。
外部システムが使用できない場合や、サポートされていない言語が会話タスクに使用されている場合、パフォーマンスが低下する可能性があります。
安全性と信頼性
- 組み込みの責任ある AI チェックにより、会話型ワークフローと自動化されたワークフローの両方のプライバシー、セキュリティ、コンプライアンスが保証されます。 これらのセーフガードは、組織がシナリオ全体にわたって自信を持ってエージェントをデプロイするのに役立ちます。
Limitations
Copilot Studio の制限事項を理解することは、安全で効果的な境界内で使用されていることを判断するために重要です。 革新的なソリューションやアプリケーションで Copilot Studio を活用することをお勧めしますが、Copilot Studio は考えられるすべてのシナリオ向けに設計されたわけではないことに注意してください。 ユーザーは、Microsoft Enterprise AI サービスの行動規範 (組織向け) または Microsoft サービス契約 (個人向け) のコード行動に関するセクション、およびユース ケースを選択する際の次の考慮事項を参照することをお勧めします。
統合と互換性: Copilot Studio は Microsoft サービスと統合され、外部システム用のコネクタをサポートしていますが、サード パーティ製アプリや高度にカスタマイズされた環境には制限がある可能性があります。 高度な自動化シナリオでは、追加の開発が必要な場合や、完全にサポートされていない場合があります。
カスタマイズと柔軟性: Copilot Studio にはローコードとプロコードのオプションが用意されていますが、カスタマイズには境界があります。 一部のワークフローまたは応答は、特に規制対象ドメインにおいて、一意の組織要件に厳密であるか、完全に一致していない可能性があります。
接続とデータ アクセスへの依存: エージェントは、安定したインターネット接続と、構成されたデータ ソースへのアクセスに依存します。 接続の中断や外部 API とコネクタの変更は、パフォーマンスに影響を与えたり、ワークフローが失敗したりする可能性があります。
ユーザーのトレーニングと導入: 効果的に使用するには、ユーザーが機能と制限の両方を理解する必要があります。 学習曲線が存在する可能性があり、ユーザーは精度のために自動化されたアクションを確認する必要があります。
リソースの強度: 高度な AI モデルと自動化を実行するには、大量の計算リソースが必要な場合があります。 パフォーマンスは、リソースの制約がある環境やピーク時に影響を受ける可能性があります。
バイアス、ステレオタイピング、および固定されていないコンテンツ: 責任ある AI コントロールにもかかわらず、AI によって生成されるコンテンツには、バイアス、ステレオタイプ、または固定されていない情報が反映されている可能性があります。 ユーザーは常に、特に機密性の高いシナリオやリスクの高いシナリオで、応答とアクションを確認する必要があります。
複数言語のサポート: Copilot Studio の機能は、multiple 言語をサポートします。 Copilot Studio は、主に英語で開発およびテストされました。 サポートされていない言語を使用するとパフォーマンスに影響を与える可能性があり、ユーザーは意図した言語スコープ外で操作するときは注意する必要があります。
Evaluations
パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を評価することで、AI システムが確実かつ安全に動作することを保証します。 次の評価は、安全コンポーネントが既に配置されている状態で行われました。この評価については、後述の「安全コンポーネントと軽減策」セクションで説明します。
パフォーマンスと品質の評価
AI アプリケーションのパフォーマンス評価は、実際のアプリケーションでの信頼性を向上させるために不可欠です。 根拠、関連性、一貫性などのメトリックは、AI によって生成される出力の正確性と一貫性を評価するのに役立ちます。そのため、基になっているコンテンツ シナリオで事実に基づきサポートされ、コンテキストに応じて適切で、論理的に構造化されます。 Copilot Studio では、
Groundedness
Coherence
Fluency
Similarity
リスクと安全性の評価
AI によって生成されるコンテンツに関連する潜在的なリスクを評価することは、重大度が異なるコンテンツ リスクから保護するために不可欠です。 これには、有害なコンテンツの生成や脱獄攻撃の脆弱性のテストに対する AI アプリケーションの素因の評価が含まれます。 Copilot Studio では、
憎しみと不公平さ
Sexual
Violence
Self-harm
Protected material
Indirect jailbreak
Direct jailbreak
Code vulnerability
Ungrounded attributes
リスクと安全性の評価方法
Copilot Studio ではテキストベースの対話のみが評価され、すべての内部テストでは、自動パイプラインと LLM ベースのジャッジを使用して、テキスト入力の処理方法とテキスト出力の生成方法に重点を置いて、品質、安全性、接地を測定します。 これらの評価では、オフライン パイプラインで再生され、オンライン シャドウテストと A/B テストで検証される精選されたテキスト データセットまたは合成テキスト データセットが使用され、すべての応答が、Copilot Studio の評価ドキュメントで説明されている判断基準に基づいて関連性、根拠、完全性、適切な控えめについてスコア付けされます。
また、このシステムは、ヘイトと不公平、性的コンテンツ、暴力、自傷行為、保護された素材、脱獄の試み、コード関連の損害、および未解決の属性をチェックする自動化された安全エバリュエーターを適用します。 これらのカテゴリは、Copilot Studio の内部安全評価フレームワークに明示的に記載されています。 理想的な評価結果は、応答が正確で、提供された知識に完全に基づいているものであり、9 つの害カテゴリすべてに対して完全で安全であり、以前のモデル バージョンと比較してタスクの成功や品質に回帰を示さない結果です。 製品チームのワークフローで使用される評価ダッシュボードと分析によって、これらの結果が測定されます。 最適でない結果は、応答が無関係、不完全、または幻覚的である結果です。 これには、安全でないコンテンツが含まれています。ツールの誤用、接地チェックの失敗、ベースラインと比較した品質や待機時間の低下が発生します。 これらの信号はすべて、Copilot Studio の評価レポートと品質スコアリング機能で障害モードとして識別されます。
品質と安全性に関する評価データ
Microsoft の評価データは、安全と品質の主要な領域全体で AI システムのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 私たちは、多分野にわたる研究と専門家の意見に基づいて、懸念事項の関連評価の側面を特定することから始めます。 これらの懸念を、評価メトリックの策定を導く対象となる評価目標に変換します。
安全のために、望ましくない応答またはエッジケースの応答を引き出す敵対的なプロンプトを作成します。 AI 支援アノテーターは、Microsoft の安全基準との整合性を評価するためにトレーニングされ、これらの応答をスコア付けします。 品質を高めるために、取得拡張生成 (RAG) アプリケーションやエージェントの評価などのシナリオに関連するルーブリックベースのプロンプトを作成します。 合成データセットやパブリック データセットなど、さまざまなソースからデータセットをキュレーションし、実際のユーザー シナリオをシミュレートします。
キュレーションされたデータセットを使用すると、両方の評価が反復的に改良され、人間のアライメントが行われ、メトリックの有効性と信頼性が向上します。 この手法は、顧客が評価を使用してより良く、より安全な AI を構築する方法を反映した、反復可能で厳格な評価の基礎を形成します。
安全コンポーネントと軽減策
評価とテストを通じて潜在的なリスクと誤用を特定する場合、Microsoft は損害を軽減し、信頼性を向上させるための軽減策を実装しています。 Copilot Studio は、安全性、公平性、セキュリティを中核として構築されており、テクノロジとユーザーのニーズの進化に合わせて、これらのセーフガードを継続的に監視および更新します。 組織が責任を持ってエージェントをデプロイできるように設計された主要なコンポーネントとメジャーを次に示します。
責任ある AI チェック: すべての対話は、Microsoft の責任ある AI 原則に沿ったプライバシー、セキュリティ、コンプライアンスのチェックを受けます。 これには、有害なコンテンツを検出する AI ベースの分類子や、モデルの動作を安全で倫理的な出力に導くメタプロンプティングが含まれます。
信頼できるデータの基礎: 応答とアクションは、ユーザーがアクセス許可を持っている組織のデータ ソースに固定されます。 これにより、固定されていないコンテンツや製造されたコンテンツのリスクが軽減され、出力が関連性があり、検証可能になります。
コンテンツの安全性フィルター: 組み込みの分類子は、ヘイト スピーチ、暴力、性的コンテンツ、著作権で保護されたコンテンツなど、有害な可能性のあるコンテンツにフラグを設定します。 フラグが設定されている場合、システムは応答をブロックしたり、ユーザーをより安全な代替手段にリダイレクトしたりすることができます。
プロンプト エンリッチメントとガードレール: あいまいなプロンプトは、誤った解釈を減らすために調整されます。 ガードレールは、エージェントが定義されたスコープ外でアクションを実行するのを防ぎ、意図しない結果を最小限に抑えます。
ヒューマン オーバーサイト ガイダンス: ユーザーは、高リスクのシナリオで適用する前に、AI によって生成された出力と自動化されたアクションを確認することをお勧めします。 この方法では、過度の依存のリスクを軽減し、アカウンタビリティを確保します。
サイバーセキュリティ対策: データは転送中および保存時に暗号化されます。 Copilot Studio は、Microsoft のエンタープライズ レベルのセキュリティ標準に準拠しています。 保護には、ロールベースのアクセス制御、安全な API 統合、インジェクション攻撃や不正アクセスなどの脅威から保護するための継続的な脆弱性スキャンが含まれます。
継続的な監視とフィードバック: 組織は、エージェントのパフォーマンスを監視し、管理者ダッシュボードからフィードバックを送信できます。 フィードバックは、Microsoft が安全性機能を改善し、新たなリスクに対処するのに役立ちます。 フィードバックを提供する方法について説明します。
特定のモデルでは、有害なコンテンツを生成するリスクが高くなります。 たとえば、試験的モデルとプレビュー モデルは運用環境には推奨されません。お客様は、デプロイする前に独自の評価を行う必要があります。 「エージェントのプライマリ モデルを選択する」を参照してください。
Copilot Studio の統合とデプロイに関するベスト プラクティス
責任ある AI は、Microsoft とその顧客との間で共有されるコミットメントです。 Microsoft は安全性、公平性、透明性を中核とする AI システムを構築していますが、お客様は、これらのテクノロジを独自のコンテキスト内で責任を持ってデプロイおよび使用する上で重要な役割を果たします。 このパートナーシップをサポートするために、デプロイ者とエンド ユーザーが責任ある AI を効果的に実装できるように、次のベスト プラクティスを提供します。
デプロイ担当者とエンド ユーザーは、次の手順を実行する必要があります。
機密性の高いドメインでエージェント AI を設計する場合は注意が必要です。ユーザーは、エージェントアクションが元に戻せない、または結果が大きい機密ドメインにエージェント AI アプリケーションを設計またはデプロイするときは注意する必要があります。 展開者とエンド ユーザーは、組織向けの Microsoft Enterprise AI サービス行動規範の 要件に準拠する必要があります。
法的および規制上の考慮事項を評価する: お客様は、AI サービスとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界またはシナリオでの使用には適していない可能性があります。 また、AI サービスまたはソリューションは、サービスおよび行動規範で禁止されている方法で設計されておらず、使用されない場合があります。 ユーザーは注意を払い、適用される法律、規制、および組織向け Microsoft のエンタープライズ行動規範 に準拠していることを確認する必要があります。 詳細なガイダンスについては、Copilot Studio の統合とデプロイに関するベスト プラクティスに関するセクション 10 を参照してください。
End-users should:
明確な目標を定義します。
エージェントが解決する特定のビジネス上の問題を特定します。 絶対に必要な場合を除き、"汎用" エージェントの使用は避けてください。 重点を置いたエージェントは、より安全で保守が容易です。 たとえば、請求書から情報を解釈して記録するエージェントは、請求書からのデータを整理するという特定のビジネス上の問題を解決します。
スコープと境界を文書化します。エージェントが行うべきこと、および行うべきでないことを文書化します。
トリガーとアクションのマップ:
イベントドリブン ロジックを設計する: エージェントをトリガーする内容 (新しいレコード、ユーザー クエリなど) と、エージェントが実行するアクション。
一般的なシステムには定義済みのコネクタを使用し、外部統合の API アクセス許可を検証します。
データまたは接続が使用できないシナリオのフォールバック アクションを含めます。
Incorporate guardrails:
財務取引や人事の変更など、影響の大きいアクションの承認手順を実装します。
自動化を可能な限り元に戻すタスクに制限します。
エージェントが承認された境界内でのみ動作するように、ロールベースのアクセス制御を構成します。
特に財務、医療、法的サービスなどの機密性の高いドメインで、エージェント アクションの明確な境界を定義します。 影響の大きいタスクには承認ワークフローを使用します。
信頼されたデータの地上応答:
セキュリティで保護された API とMicrosoft Graph コネクタを介して関連する外部システム (Microsoft Graph、CRM、ERP など) を接続することで、エージェントの精度を向上させます。
モデルによって生成されたコンテンツのみに依存して重要な決定を行わないようにします。検証可能なデータでは常に出力をグラウンドにします。
エージェントが組織のポリシーに準拠するデータ ソースにのみアクセスするようにします。 ロールベースのアクセス制御を適用し、アクセス許可を定期的に監視します。
適応性と拡張性のための設計:
条件付きロジックを使用して、エージェントがワークフローのバリエーションを処理できるようにします。
エージェント全体を再設計することなく更新できるモジュール式コンポーネントを構築します。
Test thoroughly:
デプロイ前にサンドボックス環境のエージェントを検証します。
エッジ ケースとストレス テストを含め、さまざまな条件下での安定性を確保します。
実際のシナリオをシミュレートして、意図しない動作を確認します。
監視と反復処理:
ダッシュボードを使用して、エージェントのパフォーマンス、導入、エラー率を追跡します。 定期的な監視は、パフォーマンスの誤差を検出し、信頼性を維持するのに役立ちます。
ユーザーや利害関係者からのフィードバックを定期的に収集します。
ビジネス プロセスが進化するか、新しいコネクタが使用可能になったときにエージェントを更新します。
責任ある AI 原則を適用します。
対応とアクションの偏りと公平性を確認します。
Microsoft の AI 行動規範と組織のコンプライアンス ポリシーに従います。
前に説明したベスト プラクティスに加えて、エンドユーザーは次のことも行う必要があります。
適切な場合に人間の監視を実行する: 人間の監視は、AI システムと対話するときの重要なセーフガードです。 AI システムを継続的に改善する一方で、AI は間違いを犯す可能性があります。 生成される出力は、不正確、不完全、バイアス、ずれ、または目的の目標とは無関係である可能性があります。 これは、入力のあいまいさや基になるモデルの制限など、さまざまな理由が原因で発生する可能性があります。 そのため、ユーザーは、Copilot Studio によって生成された応答を確認し、期待と要件に一致することを確認する必要があります。
過剰な依存のリスクに注意してください。AI への過剰な依存は、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れた場合に発生します。これは、主に、AI 出力の間違いを検出するのが難しい可能性があるためです。 エンドユーザーにとって、過度の依存は生産性の低下、信頼の喪失、製品の放棄、経済的損失、心理的損害、身体的危害などにつながる可能性があります。 (たとえば、医師が不適切な AI 出力を受け入れる)。 Copilot Studio の場合、[誤りをもたらす可能性のある製品の制限事項を説明するか、より正確でない結果が得られる可能性があるため、過度の依存のリスクがあります。 これらは通常、ユーザーが AI が間違っているタイミングを特定するのが困難なシステム設計です。AI への過剰依存の 3 つの UX 目標を参照してください: リスク識別と軽減フレームワーク |Microsoft Learn]。
機密性の高いドメインでエージェント AI を設計する場合は注意が必要です。ユーザーは、エージェントアクションが元に戻せないか、非常に結果的な機密ドメインにエージェント AI システムを設計またはデプロイする場合は注意が必要です。 このようなドメインには、金融と保険、医療、法的サービス、不可欠な政府サービス、雇用、教育、または住宅が含まれますが、これらに限定されません。 また、Microsoft の行動規範で詳しく説明されているように、自律エージェント AI を作成する際にも追加の予防措置を講じる必要があります。
Deployers should:
Microsoft は、Copilot Studio 分析、Power Platform 管理センター レポート、統合された監視機能などのツールを提供し、組織が Copilot Studio エージェントを展開および管理するのに役立ちます。 これらのツールは、組織が使用状況を監視し、エージェントの品質を評価し、Copilot Studio エージェントの運用上の影響を評価するのに役立ちます。 For example:
Copilot Studio の組み込み分析を使用すると、デプロイ担当者はエージェントの使用状況、会話の量、エンゲージメントの概要を表示して、デプロイの管理とエージェント構成の最適化に役立ちます。 詳細については、Copilot Studio 分析と監視に関するドキュメントを参照してください。
Copilot Studio の分析とレポートにより、作成者、管理者、および組織の利害関係者は、エージェントのパフォーマンス、使用パターン、運用の正常性に関するレポートにアクセスして、有効性と影響を測定できます。 詳細については、Copilot Studio 監視とガバナンスのガイダンスを参照してください。
Copilot Studio テレメトリと統合された監視ツールを使用すると、デプロイ担当者は時間の経過に伴うエージェントの動作を分析し、使用状況の傾向と組織の目標を比較して、ビジネス価値を理解し、パフォーマンスの誤差を検出できます。 詳細については、Copilot Studio パフォーマンスの監視と評価に関するドキュメントを参照してください。
Copilot Studio の詳細
Microsoft 365 Copilotの責任ある使用に関する追加のガイダンスについては、次のドキュメントを確認することをお勧めします。