よくあるご質問では、Microsoft Copilot Studio の AI を活用した承認ステージ (AI 承認) の機能、使用方法、セーフガードについて説明します。 AI 承認により、エージェント フローはあらかじめ定められた基準に基づいてリクエストを自動的に承認または拒否します。ただし、重要な意思決定については引き続き人間が管理します。 この機能に関するよく寄せられる質問について回答します。
AI 承認とは何ですか?
AI 承認は、承認ワークフローにおける自動化されたインテリジェントな意思決定手順です。 AI 承認は AI (Azure OpenAI モデルや Azure AI Foundry から導入したモデル) を使用して、承認リクエストをビジネス ルールに照らして評価し、「承認済み」または「拒否」の決定を理由を添えて返します。
AI 承認の機能にはどのようなものがありますか?
基本的なルールベースの自動化とは異なり、AI 承認は非構造化データや複雑な文書 (PDF や画像など) を解釈し、柔軟な論理を適用して意思決定を行います。 たとえば、AI 承認は申請理由の文章を読み取り、ポリシー キーワードをチェックし、意思決定を行います。
AI 承認ステージは人間のステージと組み合わせることもでき、AI が定型的な判断を処理する一方で、重要または例外的なケースについては人間が監督し、最終決定を行います。 まとめると、AI 承認はプロセス内の繰り返されるイエス/ノーの判断を自動化し、重要な場面で人間の監督を維持しつつワークフローを迅速化します。
AI 承認の使用目的は何ですか?
AI 承認は、明確な基準が定められた一般的なビジネス シナリオ向けに設計されており、定型的な意思決定を自動化することで日常業務のワークフローを効率化します。 一般的なユース ケースは次のとおりです。
経費精算の承認: 有効な領収書があれば一定額以下の請求を自動的に承認し、管理者は例外のみに集中できます。
発注書 (PO) の承認: 予算制限やベンダー リストと照らして申請内容を評価し、ポリシー内で標準 PO を自動承認します。
出張申請の承認: ポリシーに準拠した出張申請は自動で承認し、ポリシー違反のある申請は却下します。
ベンダー オンボーディング: 資格やコンプライアンス要件を事前に定められた基準に照らして申請を受理または却下します。
請求書処理の承認: 請求書の金額を発注書と照合し、必要な書類が揃っていることを確認して請求書を検証します。
ドキュメントのレビュー承認: 契約や方針に必要な要素が含まれ、フォーマット基準を満たしていることを確認してから次のステップに進みます。
休暇申請の承認: 従業員に十分な休暇残日数があり、スケジュールの衝突がない場合に承認します。
AI 承認は、日常的で明確に定義された意思決定のために設計されています。 しかし、システムが信頼性や責任を持って適切に機能しない場合もあります。 お客様には、革新的なソリューションやアプリケーションで AI 承認を活用することを推奨しますが、ユース ケースを選ぶ際には以下の原則を考慮してください。
重大または人生を左右する決断: このシステムは、健康、安全、財政、法的地位に影響する決定を扱うよう設計されていません。 代表的な例として、保険請求、医療行為の承認、ローン承認、移民判断などがあり、これらには人間の判断と説明責任が不可欠です。
法的または懲戒に関する事項: 法的責任、コンプライアンスの解釈、従業員の懲戒処分に関するユース ケースは、システムの本来の範囲を超える場合があります。 AI は入力を要約することができますが、これらの分野の最終決定は人間に委ねるべきです。
主観的またはあいまいな基準: システムは、好みや裁量、複雑なトレードオフに基づく意思決定(創造的な作品の評価や品質の判断など、基準が成文化されていない場合) に苦労する可能性があります。
センシティブまたは倫理的に複雑なシナリオ: AI 承認は、個人属性、潜在的な差別、または制限されたコンテンツの生成に関する意思決定を目的として設計されていません。 これらの用途は責任ある AI への懸念を招き、追加のセーフガードが必要になる可能性があります。
規制対象産業やコンプライアンスに敏感なワークフロー: 医療、金融、航空などの分野では、規制要件により、日常的な意思決定であっても人間による監督が必要となる場合があります。 システムはこれらの分野においてコンプライアンス評価が行われていません。
予測できるが意図されていない用途: 導入が進むにつれ、ユーザーはパフォーマンスレビュー、採用決定、顧客適格性評価などの分野に AI 承認を適用しようとする可能性があります。 これらの利用はシステムの設計や影響評価の対象外であり、慎重に管理しなければリスクが生じる恐れがあります。
重要
法律と規制に関する考慮事項。 組織は AI サービスやソリューションを使用する際に潜在的な法的および規制的義務を評価する必要があります。 サービスやソリューションがすべての業界やシナリオに適しているわけではありません。 制限は、地域や地方の規制要件によって異なる場合があります。 また、AI サービスやソリューションは、適用されるサービス使用条件や関連する行動規範で禁止されている用途向けに設計されておらず、そのような用途で使用することも許可されていません。
AI 承認の技術的制約にはどのようなものがありますか? また、ユーザーがそれらの限界点の影響を最小限に抑えるにはどうすればよいですか?
AI 承認は強力な機能ですが、皆様にはその制限についてご留意いただくようお願いいたします。
AI 承認は定められたルールに依存する: AI はユーザーの指示とデータに正確に従います。 プロンプトが明確でなかったり、情報が不足している場合、AI 承認は誤った判断を下したり、処理に失敗することがあります。 基準は明確に定義してください。「合理的なら承認する」といったように「合理的」の意味を定義しないまま指示すると、誤解を招く可能性があります。
エラーの可能性: AI 承認では、あいまいな入力や複雑なエッジ ケース、スキャンが不十分なドキュメントの誤読などによってミスが生じることがあります。 出力が常に 100% 正確とは限らないため、判断が難しいグレーゾーンのケースには人間の監視が不可欠です。
人間の直感の欠如: AI 承認は与えられた情報以上のコンテキストを理解できず、確認のための質問をしたり、直感を働かせたりすることはできません。 AI 承認は、「あの出張にしては金額が高すぎるように見える」といった、不審な経費に気づくような、人間であれば捉えられる細かなニュアンスを見落とす可能性があります。
経験から学習しない: AI 承認は各承認結果から学習したり適応したりすることはなく、プロンプトを更新しない限り動作は変化しません。 既存のルールで網羅されていない新しいシナリオには、方針の変更に伴い継続的なメンテナンスが求められます。
データ品質依存: AI 承認の決定は入力データの質に左右されます。 質の悪いファイル、不完全なドキュメント、判読不能なスキャンは誤った判断やシステム エラーを引き起こすことがあります。
統合およびパフォーマンス制約: 複雑な承認基準や複数のシステムからリアルタイム データを必要とする判断は、正確性を低下させたり処理時間を増加させたりする可能性があります。
責任ある構成が必要: ユーザーは適切な人間のフェイルセーフとバイアスのないルールを用いて、AI 承認を倫理的に構成する必要があります。 常に指示内容が会社の方針や倫理ガイドラインに沿っていることを確認してください。
リアルタイム情報にアクセスできない: AI 承認は明示的に入力されたデータのみ使用できます。 その情報が承認プロセスに入力されない限り、AI 承認は時事問題やニュース、イベントを確認することはできません。
AI 承認を利用する際のリスクを低減し、信頼性を向上させるには:
人間の監督を含める: 重要またはあいまいなケースは手動審査段階に移し、説明責任と判断を確保します。
多様な例でテストする: 過去のデータやエッジ ケースを使って、デプロイ前にシステムの動作を検証します。
プロンプトを定期的に改善する: ポリシーの変更や新たなシナリオの発生に応じて、指示を更新し、関連性と正確性を維持します。
あいまいな基準を避ける: プロンプトは明確に定義し、明確なコンテキストがないまま「合理的」といった表現は避けます。
意思決定を監視する: プロンプト ビルダーのアクティビティなどのツールを使用して、承認率を追跡し、パターンやエラーを特定します。
ユーザーをトレーニングする: 信頼性と透明性を高めるために、AI の判断理由の解釈方法や、人間による上書きの手順についてスタッフを教育します。
ご留意ください: AI は、誤った指示であっても自信を持って実行する可能性があるため、明確かつ正確な指示が不可欠です。
エージェント承認エクスペリエンスを効果的かつ責任を持って使用するために、どのような運用上の要素や設定が必要ですか?
AI 承認を効果的かつ安全に活用するには、次の運用上のベスト プラクティスを実践します。
一貫性のために低い温度を設定する: 低い温度設定 (0 に近い値、AI の出力の一貫性を保つためのパラメータ) を使用することで、AI が同じ入力に対して決定的かつ予測可能な判断を行い、応答が変化しないようにします。 既定の Copilot Studio の設定は、最初から信頼性が高くなるように最適化されています。
適切なモデルを選択する: GPT-4.1 はほとんどの承認シナリオで最適な選択肢です。 高度な推論モデル (O3 など) は、複雑な論理の処理に優れていますが、動作速度は遅くなります。 Microsoft が提供するモデルはあらかじめ統合され、テストされていますが、特定の要件やカスタム ニーズがある場合は、Azure AI Foundry から独自に微調整したモデルを導入することもできます。
人間の監視を実装する: 重要な意思決定のためにルーティング可能な人的または手動のステージを設定します。 人間によるステージや手動のステージを設けることで、常に人間がコントロールできるようになります。
サンドボックスで徹底的にテストする:運用開始前に過去のデータやサンプル リクエストを用いて十分なテストを実行します。 意図的にエッジ ケース (項目の欠落、ルールの矛盾、異例のシナリオ) をテストします。 エンドツーエンドのワークフローが正しくトリガーされているかを確認します。
意思決定を監視する: すべての意思決定は Power Automate のプロンプト ビルダーのアクティビティ セクションに記録されています。 そのデータを活用して承認率などのメトリックを追跡し、AI 承認決定の正確性を評価します。
定期的に基準を更新する: AI プロンプトを生きたドキュメントとして扱います。 方針が変更されたり新たなシナリオが発生した場合には、指示を更新します。 AI が特定の領域で厳しすぎる、または寛容すぎるという管理者からのフィードバックを取り入れます。
透明性とトレーニングを提供する: AI の根拠の解釈や上書き手順について、関連スタッフにトレーニングを行います。 リクエストが最初に AI によって評価される可能性があることを知らせます。 明確な期待を持つことで混乱を防ぎ、信頼を築くことができます。
一貫性を保つために AI の設定を調整し、人による監督を組み込み、プロセスを積極的に管理することで、AI 承認が効果的かつ適切に運用されるようにできます。これはパートナーシップのようなものです。AI は処理量とスピードを担当し、人間は指導と例外対応を担います。
Copilot Studio では、責任ある AI のためにどのような保護策が講じられていますか?
どのようなコンテンツ モデレーションが実装されていますか?
GPT モデルはインターネット データでトレーニングされるため、一般的な世界モデルの構築に最適です。 同時に、同じソースから有害で有害な偏ったコンテンツを継承する可能性があります。 モデルは安全に動作し、有害なコンテンツを生成しないようにトレーニングされていますが、時には有害な出力を生成する場合があります。 AI 承認は、Azure AI Content Safety サービスを利用して、AI プロンプト内に最先端のコンテンツ モデレーション機能を組み込んでいます。 このモデレーションには、生成された出力を複数の重大度レベルのテキスト スキャナーで分析するサービスや、プロンプトインジェクション攻撃に対する安全性を確保するサービスが含まれます。 出力では、保護された物質の逆流もスキャンされます。
サポートされている言語モデルは何ですか? どこでホストされていますか? また、どのようにしてアクセスできますか?
AI 承認は、GPT 4.1 mini、GPT 4.o、GPT 4.1、o3 モデルをサポートしており、これらは Azure OpenAI Service 上でホストされています。 Power Platform 全体のアプリケーション、フロー、エージェントのプロンプトから、これらのモデルにアクセスできます。
詳細については、Azure OpenAI Service の新機能 をご覧ください。
私のデータは大規模言語モデルのトレーニングや改善に使用されますか?
AI 承認ワークフローは、Microsoft がホストする Azure OpenAI Service 上で実行されます。 顧客データは、Azure OpenAI Service の基盤モデルのトレーニングや改善には一切使用されません。 お客様がアクセス許可を付与しない限り、Microsoft は顧客データをサードパーティと共有しません。 顧客のプロンプト入力とそのグラウンディング データ、またはモデルの応答は、Azure OpenAI Service の基盤モデルのトレーニングや改良には使用されません。
人物を含む画像はどのように処理されますか?
AI 承認は、顔の特徴や生体認証データに基づいて個人を識別する目的ではありません。 AI 承認ワークフローに人物を含む画像を提出すると、画像を分析する前に、個人のプライバシーを保護するために顔のぼかし機能が自動的に適用されます。 このぼかし手順により、顔の特徴に基づく識別を防ぐことができ、プライバシーに関する懸念に対処することができます。 ぼかしでは、顔認識や顔テンプレートのマッチングは行われません。 代わりに、よく知られた個人の識別は、顔ではなく、制服や独特の設定などの文脈上の手がかりに依存します。 このプライバシー対策は、受け取る結果の品質に影響を与えることはありません。 システムの応答では、顔のぼかしが時々参照されることがあります。
詳細については、顔のぼかしを参照してください。
プロンプトで画像やドキュメントを使用する場合の潜在的な有害性には何がありますか?
AI 承認は、プロンプトで画像やドキュメントを使用する際に生じるほとんどのリスクを軽減しますが、一部のリスクについてはプロンプト作成者が追加の注意を払う必要があります。
画像やドキュメントには、下流のプロセスに影響を与える有害なテキストやビジュアルが含まれている場合があります。
画像やドキュメントには、初期のプロンプトを無効にしたり上書きしたりする可能性のある、特別な指示や、場合によっては隠された指示が含まれていることがあります。
画像やドキュメントには、知的財産 (IP) の対象となるコンテンツの生成につながる可能性のある指示が含まれている場合があります。
プロンプトは、画像やドキュメントに対して偏ったコメントを生成する場合があります。
低品質の画像やドキュメントから情報を抽出すると、ハルシネーションが発生する可能性があります。
AI 承認を使用する際には、どのような問題が生じる可能性がありますか? また、それにどう対処すればよいでしょうか?
AI 承認を使用する際には、分析失敗 (AI が自信を持ってルールを適用できない場合)、誤った承認判断( 偽陽性/偽陰性)、類似したリクエストに対する一貫性の欠如、複雑なケースでの処理遅延などの問題が発生する可能性があります。 これらの課題に効果的に対処するためには、ワークフローがリクエストを人的承認ステージにルーティングするようにします。
開発とデプロイの全過程で一貫した厳格なテストを実施し、潜在的なエラーの原因となる箇所を早期に特定します。 予測可能な結果を得るために低い温度設定を使用し、観察されたエラーに基づいてプロンプトを継続的に改善します。 定期的な監視と継続的な改善によって、システムの信頼性と正確性を長期的に維持することができます。