これらのよくある質問 (FAQ) では、Copilot Studio の生成応答機能の AI への影響について説明します。
生成応答とは？
生成応答により、エージェントはすぐに使える価値あるものになり 手動でダイアログ ツリーを作成することなく、エージェントが会話するトピックの数が増えます。
生成応答とは何ですか？
ユーザーが設定したトピックをトリガーしない質問をした場合、エージェントは必要に応じて、ユーザーが選択したソースから関連するコンテンツを検索することができます。 この検索には、公開 Web サイト、SharePoint、またはアップロードされたファイル内の画像、表形式データ、図など非テキスト要素を含む、あなた自身のカスタム データ ソースが含まれます。 エージェントは生成型 AI を使用して、その情報をエージェント ユーザーに返される応答に要約します。
生成応答の用途は何ですか?
エージェントは、主要な情報源として、または作成されたトピックがユーザーのクエリに回答できない場合のフォールバックとして生成応答を使用します。
生成応答はどのようにテストされましたか? また、そのパフォーマンスを測定するためにどのような指標が使用されましたか?
この機能は、複数の業界をカバーする手動で厳選された質問と回答のデータセットのコレクションに基づいて継続的に評価されます。 評価プロセスには、攻撃的および悪意のあるプロンプトや応答を対象としたカスタム データセットも含まれます。 テスト スイートの拡張には、自動化セッションと専用の手動セッションの両方が使用されています。
生成応答にはどのような制限がありますか？
エージェントごとに 生成応答 オプションを有効にする必要があります。
この機能でのサポート言語のリストとそれぞれのステージについては、サポート言語セクションを参照してください。 他の言語を使用できる場合でも、生成される回答に一貫性がなく、エージェントが適切に応答しない、または期待どおりに応答しない可能性があります。
この機能は、使用制限または容量帯域幅調整の対象となる場合があります。
生成応答機能によって生成される応答は、必ずしも完璧ではなく、間違いを含む可能性があります。
このシステムは、選択した Web サイトからサポート情報を照会し、関連する検索結果を使いやすい応答にパッケージ化するように設計されています。 ただし、予期しない応答につながる可能性のある AI の特性に留意することが重要です。
言語モデルからの回答は決定論的ではありません。 意味がほぼ同じ質問を繰り返すと、新しいチャットでも異なる回答が返されることがあります。 質問回答のプロセスには以前のチャット コンテキストが含まれているため、チャット セッション内で質問を繰り返すとほぼ確実に異なる回答が得られます。 この動作は、回帰テストや自動健康チェックで固定クエリを繰り返すと、回答がばらつき、誤検知のエラー報告が出る可能性が高いことを意味します。
Copilot Studio では、生成応答の主要な応答モデルとして異なるモデルを選択できます。 選択したモデルに含まれるデータのカットオフ日を確認してください。
モデルがトレーニング コーパスを回答のソースとして使用することを防ぐための緩和策はありますが、選択した Web サイト以外の Web サイトのコンテンツが回答に含まれる可能性があります。システムは精度チェックを行わないため、選択したデータ ソースに不正確な情報が含まれている場合、その情報がエージェントのユーザーに表示される可能性があります。 無関係で不快な応答をフィルターする緩和策を実装し、この機能は不快な言葉が検出されたときに応答しないように設計されています。 これらのフィルターと緩和策は、完全なものではありません。
注意
公開前に必ずエージェントをテストやレビューし、エージェントのユーザーからフィードバックを集めることも検討してください。 管理者は、Power Platform 管理センターでテナントの生成応答を使用してエージェントを公開する機能を無効化できます。
この機能はどのようなデータを収集しますか? データはどのように使用されますか?
顧客が明示的に自分のエージェントとの会話の記録に同意した場合、この機能はユーザーのプロンプト、システムから返された応答、およびあなたが提供したフィードバックを収集します。
このデータは、機能の品質評価と改善のために活用させていただきます。
生成応答を効果的かつ責任を持って使用するためには、どのような運用要因や設定が必要ですか？
生成応答は、信頼性が高く有効なソースをコンテンツのクエリ元として指定すると最も効果的に機能します。 このソースは、たとえば御社の Web サイト www.microsoft.com などが考えられます。 ドメイン内のすべての Web ページが、ユーザーの質問に一致するかどうか検索されます。
生成された応答に対する満足度に関するフィードバックは、システム品質の向上に役立てられます。 生成された応答に対して「賛成」または「反対」のアイコンを選択することで、フィードバックを提供できます。 自由テキストにさらに多くのフィードバックを含めることもできます。
Copilot Studio では、責任ある AI のためにどのような保護策が講じられていますか?
生成応答には、管理者、作成者、ユーザーがコンプライアンスに準拠した安全なエクスペリエンスを享受できるようにするためのさまざまな保護機能が含まれています。 管理者は、テナント内の機能について完全に制御することができ、組織内で生成応答機能を持つエージェントを常に無効にすることができます。 作成者は、カスタム指示を追加して、エージェントが返す応答の種類に影響を与えることができます。 カスタム手順を記述するためのベストプラクティスの詳細については、プロンプトの変更を使用してエージェントにカスタム指示を提供するを参照してください。
作成者は、エージェントが質問に答えるために使用できるサポート情報ソースを制限することもできます。 エージェントが構成されたサポート情報ソースの範囲外の質問に回答できるようにするために、作成者は 根拠のない応答を許可する機能をオンにすることができます。 エージェントが構成されたサポート情報ソースの範囲内の質問にのみ回答するように制限するには、作成者はこの機能をオフにする必要があります。
Copilot Studio は、攻撃的または有害なコンテンツから管理者、作成者、ユーザーを保護するため、すべての生成 AI リクエストに対してコンテン ツモデレーション ポリシーを適用します。 これらのコンテンツモデレーションポリシーは、ジェイルブレイク、プロンプトインジェクション、プロンプト流出、著作権侵害などの悪意のある試みにも及びます。 すべてのコンテンツは 2 回チェックされます (1 回目はユーザー入力時、もう 1 回目はエージェントが応答しようとしているとき)。 システムが有害、攻撃的、または悪意のあるコンテンツを検出すると、エージェントからの応答が防止されます。
最後に、エージェントが人工知能を使用していることをユーザーに伝えることがベストプラクティスです。そのため、以下の既定のメッセージをユーザーに通知します: 「念のためお伝えしますが、私は AI を使用して質問に答えることがあります。」