会話エージェントのパフォーマンス向上のベストプラクティス

一般的な失敗要因を理解し、ベストプラクティスに従うことで、会話型エージェントにおけるパフォーマンスの問題を回避しましょう。

クォータと制限

RPM (リクエストがエージェントに送られるメッセージ) や、24 時間以内に許可される Power Platform リクエスト数などの クォータや制限について説明します。

クォータは、Microsoft Copilot Studio プランに伴う容量制限とともに、エージェントに適用されます。

エージェントのパフォーマンスを最適化する

エージェントのパフォーマンスを最適化するには、以下のベスト プラクティスを参考にしてください:

  • ユーザーが複数の処理完了を待つことにならないよう、会話フローの中で API 呼び出しやコネクタの呼び出しを戦略的に配置してください。
  • 必要に応じて、API 呼び出しやフローの呼び出しを何度も行うのではなく、変数を使用してキャッシュから情報を使用してください。
  • Copilot Studio エージェントから呼び出されるクラウド フローでは、遅延が生じる可能性があります。 代わりに、コネクタへの直接呼び出しHTTP 要求の送信ノードの使用を検討してください。
  • Copilot Studio におけるクラシック NLU と生成オーケストレーションのパフォーマンスと複雑性のトレードオフについて理解する。 自然言語理解 (NLU) モデルは、特定の意図に対してはうまく機能しますが、複雑なクエリに対しては処理が困難です。 生成 AI モデルは、より幅広い入力に対応できますが、遅延が生じる可能性があります。
  • エクスプレス モードを有効にします。

パフォーマンス向上のためにクラウド フローを最適化する

エージェントが Power Automate フローを呼び出す場合は、クラウド フローが最適化されていることを確認してください。

注意

Power Automate フローやエージェント フローは IVR 統合をサポートしていますが、待機時間感度が高く、高コンカレンシーの通話フローの主要な統合メカニズムとして推奨されていません。 同期実行モデルやサービス スロットリングの制限により、通話量が増加するにつれてその待ち時間がより顕著になることがあります。 予測可能な低遅延性能が必要な場合は、代替の統合パターンを検討してください。