アプリケーション カード: Microsoft Purview データ セキュリティ調査

アプリケーションまたはプラットフォーム カードとは

Microsoft のアプリケーションおよびプラットフォーム カードは、AI テクノロジのしくみ、アプリケーション所有者がアプリケーションのパフォーマンスと動作に影響を与える可能性がある選択肢、テクノロジ、ユーザー、環境を含むアプリケーション全体を考慮することの重要性を理解するのに役立つものです。 アプリケーション カードは AI アプリケーション用に作成され、プラットフォーム カードは AI プラットフォーム サービス用に作成されます。 これらのリソースは、独自のアプリケーションの開発またはデプロイをサポートでき、影響を受けるユーザーや利害関係者と共有できます。

責任ある AI へのコミットメントの一環として、Microsoft は、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という 6 つのコア 原則に準拠しています。 これらの原則は責任ある AI Standardに組み込まれており、AI アプリケーションの設計、構築、テストの各チームをガイドします。 アプリケーション カードとプラットフォーム カードは、機能、意図された用途、制限事項に関する透明性を提供することで、これらの原則を運用化する上で重要な役割を果たします。 さらに詳しい分析情報を得るために、Microsoft の責任ある AI 透明性レポートと行動規範を調べるようお勧めします。これは、企業のお客様と個人が責任を持って AI に関与する方法を概説しています。

概要

Microsoft Purview データ セキュリティ調査は、サイバーセキュリティおよびデータ セキュリティ チーム向けの AI 対応の調査アプリケーションです。 これは、組織が 1 つのワークフローで検索、AI 分析、軽減計画を組み合わせることで、潜在的な侵害、インサイダー インシデント、流出イベントに関連するデータを分析するのに役立ちます。 このアプリケーションでは、ジェネレーティブ AI を使用して、機密性の高いコンテンツ リスクを特定し、影響の大きい項目に優先順位を付け、封じ込めと修復をサポートする推奨事項を生成します。

このアプリケーションは、侵害後およびリスクの高い調査の時間と複雑さを軽減するように設計されています。 アナリストは、非常に大きなファイル、電子メール、メッセージのセットを手動で確認する代わりに、ベクター検索、分類、検査ツールを使用して、最も関連性の高い危険なコンテンツに最初に焦点を当てることができます。 これにより、トリアージの効率が向上し、チーム間の調整がサポートされ、組織が調査主導の軽減計画や消去操作などのタイムリーなアクションを実行するのに役立ちます。

データ セキュリティ調査は、エンタープライズのお客様と、セキュリティ アナリスト、インシデント 対応者、脅威調査担当者、データ保護チームなどのダウンストリーム ユーザーを対象としています。 主要なドキュメントには、データ セキュリティ調査でのai 分析データ セキュリティ調査 amd Learn が含まれています

重要な用語

次の一覧では、Microsoft Purview データ セキュリティ調査に関連する主要な用語の用語集を示します。

  • 分類: スコープ付き調査コンテンツを既定、カスタム、または AI が推奨するカテゴリにグループ化して優先順位付けを高速化する AI 機能。 Standardおよび高度な処理オプションは、アナリストが広範なトリアージからトピック レベルのクラスタリングに移行するのに役立ちます。
  • 調査: 資格情報、リスク、軽減策のガイダンスなどの領域に焦点を当てた項目レベルのレビューを実行する AI 分析モード。 調査結果は、調査担当者が重大度と推奨される次のアクションを理解するのに役立ちます。
  • 調査範囲: 調査でレビューと分析のために選択されたコンテンツ 項目のセット。
  • 軽減計画: 調査中に優先度が高いものとして識別される項目に対する構造化された一連のアクション。 これは、アナリストが修復タスクとリスク削減タスクを追跡して実行するのに役立ちます。
  • 消去 (論理的/ハード): 調査で特定された危険な項目を削除するための軽減アクション。 論理的な消去は回復可能な場所にアイテムを移動し、ハード消去ではアイテムを完全に削除します。
  • リスク スコア: アナリストが潜在的なセキュリティへの影響に基づいてコンテンツに優先順位を付けるのに役立つ、調査中に生成されるスコア。 トリアージとエスカレーションの決定をサポートします。
  • AI Search (プレビュー): セマンティック取得と AI によって生成された概要と引用を組み合わせた取得拡張検索エクスペリエンス。 アナリストは、検索結果が調査目的と一致するかどうかを評価するのに役立ちます。
  • ベクター検索: 正確なキーワードが見つからない場合でも、埋め込みを使用してコンテキストに関連するコンテンツを取得するセマンティック検索メソッド。 意図に対応したクエリと関連性ベースのランク付けをサポートします。

主な機能

ここで説明する主な機能は、Microsoft Purview データ セキュリティ調査が何を行うように設計され、サポートされているタスク全体でどのように実行されるかについて説明します。

  • インシデントから調査への統合ワークフロー: アプリケーションは、Microsoft Defender XDR インシデント、Insider Risk Management ケース、データ セキュリティ態勢管理 (プレビュー) 分析情報、または手動ドラフト モードからの調査作成をサポートします。 これにより、セキュリティ チームは、ツールを切り替えることなく、アラートからデータに焦点を当てた分析に移行できます。 また、サイバーセキュリティ、コンプライアンス、リスク チーム間のコラボレーションも向上します。
  • AI を利用したセマンティック取得: ベクター検索を使用すると、スコープ付きのテキスト ベースのコンテンツ全体で意図を認識した取得が可能になります。 アナリストは、コンテンツに正確なクエリ用語が含まれていない場合でも、関連する項目を見つけることができます。 これにより、再現率が向上し、手動によるキーワード (keyword)の試行錯誤が軽減されます。
  • 分類による AI 支援の優先順位付け: 分類では、データが既定のカテゴリ、カスタムカテゴリ、AI 推奨カテゴリに整理されるため、アナリストはリスクの高い領域にすばやく集中できます。 高度な分類により、より詳細なレビューを行うトピック レベルのorganizationが追加されます。 これにより、最初に完全な手動レビューを必要とするのではなく、優先順位付けされたコンテンツを表示することで、大規模な調査のレビュー作業が削減されます。
  • 対象となるリスクと資格情報の調査: 調査ツールは、資格情報の抽出、項目のリスクの評価、選択したコンテンツの軽減策指向の出力の生成を行います。 アナリストは、公開される可能性がある内容と、次に何を行う必要があるかをより迅速に理解できます。 これにより、アクティブなインシデントでの迅速な包含と修復がサポートされます。
  • 軽減アクションと消去アクション: 調査担当者は、軽減計画とワークフローの消去を通じて、結果を具体的なアクションに変換できます。 これにより、分析出力がリスク削減実行に直接結び付けられます。 Teams は、調査ライフサイクル内で軽減策の決定の進行状況と状態を追跡できます。
  • 監査とエコシステムの統合: このソリューションは、Microsoft Purview 監査ワークフローと Microsoft セキュリティ ソリューションと統合され、チームが証拠コンテキストを保持し、応答アクションを調整するのに役立ちます。 また、統合監査ログの調査アクティビティ ログをサポートして、運用の説明責任を強化します。

目的に合った用途

Microsoft Purview データ セキュリティ調査は、複数のシナリオで使用できます。 ユース ケースの例を次に示します。

  • Defender XDR インシデントからの侵害対応: アナリストは、侵害されたユーザーの爆発半径を評価するために、Defender XDR インシデントから直接新しいデータ セキュリティ調査を作成できます。 AI を利用した調査では、資格情報、機密性の高いドキュメント、攻撃者がアクセスできた可能性のある通信が表示され、規制された顧客に影響を与えるデータが最初に優先されます。 軽減策アクションは同じ調査内で実行され、監査とフォローアップに関する文書化された応答が生成されます。
  • 監査ログを介して従業員データ流出をトレースする: 従業員が大量のデータを流出させたと疑われる場合、調査担当者はデータ セキュリティ調査を介して統合監査ログに対してクエリを実行して、ダウンロードおよびアクセスされたファイルをトレースします。 AI 分類は、日常的なアクティビティを不審なコンテンツから分離し、最もリスクの高いデータに注目します。 AI によって強化された結果は、法的およびプライバシーチームに引き渡され、さらなるアクションが行われます。
  • 露出過多の SharePoint サイトでの機密データのハンティング: 機密性の高いコンテンツを含む SharePoint サイトが広く共有されていることを学習した後、調査担当者はそのサイトに調査の範囲を指定し、AI 分析を実行して、実際に危険にさらされているものを特定します。 手動で確認するのは現実的ではない機密コンテンツのベクター検索と分類の表面濃度。
  • 危険な AI 操作の確認: 調査担当者は、DSI 調査を、Microsoft Copilotまたはサード パーティの AI ツールから、機密データを含む AI プロンプトと応答にスコープを設定します。 調査では、規制されたコンテンツ、資格情報、または PII が対話に出現した場所が特定され、分類によって、リスクの高い使用の定期的なパターンが強調表示されます。 結果は、公開されたコンテンツに対する即時修復と、関連するユーザーとツールに関する広範なフォローアップの両方を通知します。

モデルとトレーニング データ

Microsoft Purview データ セキュリティ調査では、さまざまな AI モデルを活用して、ユーザーに表示されるエクスペリエンスを強化します。 たとえば、Azure OpenAI Service モデルや、ベクター埋め込み、分類、検査関連の AI 出力に使用されるMicrosoft Security Copilot プラットフォーム機能などがあります。 Microsoft Purview データ セキュリティ調査の背後にある基礎モデルのトレーニングに使用されるデータの詳細については、リンク モデル カードを参照して、関連するデータ カードを見つけます。

パフォーマンス

Microsoft Purview データ セキュリティ調査は、調査スコープが適切に定義され、ユーザーに必要な役割グループが割り当てられている、エンタープライズ侵害後およびデータ リスク調査ワークフローで確実に実行するように設計されています。 このような状況では、アナリストは、検索結果を反復的に絞り込み、分類を通じてデータに優先順位を付け、選択した項目に対して調査を実行して軽減策の決定をサポートできます。

目的の入力は、主にエンタープライズ コンテンツと調査担当者のプロンプトです。 入力には、サポートされている Microsoft 365 データ ソースからスコープが設定されたファイル、電子メール、メッセージが含まれます。メタデータと監査にリンクされたコンテキスト。ベクター検索および AI による検索 (プレビュー) で使用される自然言語またはキーワード (keyword)クエリ。 予想される出力には、関連性ランク付けされた検索結果、カテゴリのグループ化、リスクと資格情報の調査の出力、軽減策指向の推奨事項が含まれます。

評価および文書化された主な AI 相互作用モダリティはテキストです。 ベクター化とセマンティック取得は、テキストを含むコンテンツに依存します。 使用可能なテキストを含まない一部のコンテンツ タイプはベクター化ワークフローから除外されるため、調査担当者はスコープ計画中にこれを考慮する必要があります。

パフォーマンスと有用性は、スコープの精度、カテゴリの選択、反復的な人間のレビューなど、調査のセットアップの品質によって影響されます。 大規模なデータセットでは、カテゴリごとに包括的なカバレッジではなく、優先順位付けされたサブセットが返されます。 包括的な項目レベルの分析を行う場合、チームは分類を検査と調査者の検証と組み合わせる必要があります。

制限事項

Microsoft Purview データ セキュリティ調査の制限事項を理解することは、安全で効果的な境界内で使用されているかどうかを判断するために重要です。 革新的なソリューションやアプリケーションでMicrosoft Purview データ セキュリティ調査を活用することをお勧めしますが、Microsoft Purview データ セキュリティ調査はすべてのシナリオに合わせて設計されたわけではないことに注意してください。 ユーザーは、Microsoft Enterprise AI Services の行動規範 (組織向け) または Microsoft サービス契約 (個人向け) のコード実施に関するセクションと、ユース ケースを選択する際の次の考慮事項を参照することをお勧めします。

  • AI 出力の信頼性の制約: 生成 AI によって生成された結果が、常に完全に正確または完全であるとは限りません。 調査担当者は、インシデントの重大度を変更する信頼度とミス コンテキストを過大評価する可能性があるため、この制限は重要です。 ユーザーは、特に法的、コンプライアンス、または元に戻せない技術的なアクションの前に、重要な結果を検証する必要があります。 最終的な決定には、人間の判断が依然として必要です。
  • セマンティック ツールのテキスト コンテンツの依存関係: ベクター検索と関連するセマンティック ワークフローには、テキスト を含むコンテンツが必要です。 画像のみのアイテムや抽出可能なテキストを含まないコンテンツなど、特定のコンテンツ タイプはベクター化から除外されるため、一部の AI 支援取得ワークフローから除外される場合があります。 Teams は、重要な証拠がセマンティック検索の外部で追加のレビュー 方法を必要とする可能性があるかどうかを評価する必要があります。 これは、完全なカバレッジに関する誤った仮定を回避するのに役立ちます。
  • 優先順位付けされた完全ではない分類の動作: カテゴリごとのスコープ内のすべてのアイテムの完全なレビューを保証するためではなく、選択したカテゴリの関連性の高いコンテンツを表示するように分類が最適化されています。 大規模なデータセットでは、関連する下位スコア付け項目がカテゴリ出力に表示されない可能性があります。 ユーザーは、完全なカバレッジが必要な包括的な項目レベルの分析に対して検査を使用する必要があります。 これは、影響の大きい調査で特に重要です。
  • 運用上の制限と容量の境界: 調査と機能の制限が適用されます。これには、ドキュメントの合計に関する制限、調査ごとのファイルの合計サイズ、監査検索および消去ワークフローの制限が含まれます。 これらの制約は、チームが作業をセグメント化し、大規模な調査をシーケンスする方法に影響する可能性があります。 ユーザーは、遅延を回避するために、公開された制限に関するスコープと処理戦略を計画する必要があります。 容量対応計画により、コスト管理と調査継続性の両方が向上します。
  • サポートされていないシナリオや禁止されている使用を目的としたものではありません:データ セキュリティ調査は、データ セキュリティ インシデントの調査と軽減コンテキストを対象としています。 これを唯一の意思決定者、ガバナンスとセキュリティ ワークフローの外部、または条項や行動規範の要件によって禁止されている方法で使用すると、安全性とコンプライアンスのリスクが生じる可能性があります。 組織は、ツールを目的の運用境界内に保持し、階層化されたコントロールを適用する必要があります。 これには、結果の大きいアクションの前に法的およびポリシーのレビューが含まれます。

評価

パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。 以下の評価は、既に設置されている安全コンポーネントを用いて行い、これも9に記載されている。 安全コンポーネントと軽減策。

パフォーマンスと品質の評価

Microsoft Purview データ セキュリティ調査における AI 機能のパフォーマンスと品質評価は、ベクトル検索の関連性、分類の精度、検査出力の有用性など、実用的な調査結果に焦点を当てています。 製品ドキュメントに基づいて、評価アクティビティには、AI 支援の検出、優先順位付け、分析機能が、調査担当者が特定されたリスクに対処するのに役立つかどうかを評価するためのプレリリース テストとシナリオベースの検証が含まれます。

現在の AI エクスペリエンスの場合、主に評価されるモダリティはテキストです。 理想的な結果は、アナリストがリスクの高い項目をすばやく特定し、情報に基づいた調査アクションを実行するのに役立つ、正確で関連性の高い結果です。 最適でない結果には、不完全、無関係、または実質的な追加の分析と検証が必要な結果が含まれます。

リスクと安全性の評価

当社の評価データは、安全性と品質の重要な領域全体で AI アプリケーションのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 我々は、多分野の研究と専門家の意見に基づいて懸念の関連評価の側面を特定することから始めます。 これらの懸念は、対象となる評価目標に変換され、評価メトリックの策定をガイドします。 安全性を確保するために、望ましくない応答やエッジケースの応答を引き出す敵対的なプロンプトを作成し、その後、Microsoft の安全基準との整合性を評価するためにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。 品質を高めるために、取得拡張生成 (RAG) アプリケーションとエージェントの評価など、シナリオに関連するルーブリックベースのプロンプトを作成します。 データセットは、実際のユーザー シナリオをシミュレートするために、合成データセットやパブリック データセットなど、さまざまなソースからキュレーションされます。 キュレーションされたデータセットを使用して、両方の評価で反復的な絞り込みと人間の調整が行われ、メトリックの有効性と信頼性が向上します。 この手法は、顧客が評価をどのように使用してより良く、より安全な AI を構築するかを反映する反復可能で厳格な評価の基礎を形成します。

カスタム評価

データ セキュリティ調査は、AI の精度、結果の関連性、出力の明瞭性など、複数の品質と信頼性のインジケーターを使用して評価されました。 文書化されたプラクティスに基づいて、評価では、手動の赤いチーミングと人間の採点の組み合わせを使用して、AI 支援出力がインシデント調査ワークフローに役立ち、信頼できるかどうかをテストします。 現在の AI エクスペリエンスで評価される主なモダリティはテキストです。

評価シナリオには、セマンティック取得、分類の関連性、リスクの優先順位付けと軽減に使用される調査出力が含まれます。 理想的な結果は、アナリストがリスクの高い項目をすばやく特定し、情報に基づいて次のアクションを実行するのに役立つ、コンテキストに関連する結果です。 最適でない結果には、調査担当者による追加のイテレーションと検証が必要な不完全、不明瞭、または関連性の低い出力が含まれます。

運用フィードバックは、時間の経過に伴うパフォーマンスの向上にも使用されます。 製品は、関連性と有用性を調整するのに役立つ AI の入力と出力に関する品質に焦点を当てた選択されたメトリックを収集します。一方、文書化されたプライバシーコントロールは、収集されるコンテンツと収集されないコンテンツを記述します。 この継続的なループは、リリース後の継続的な品質改善をサポートします。

安全コンポーネント & 軽減策

  • ロールベースのアクセス制御: データ セキュリティ調査は、専用の役割グループ (管理者、調査担当者、レビュー担当者) を使用して、機能のアクセスと責任を制御します。 これにより、消去や管理構成などの機密性の高いアクティビティを実行できるユーザーを制限できます。 職務を明確に分離すると、誤用リスクが軽減され、調査ワークフローの説明責任が強化されます。
  • 人間のループ内の意思決定: AI 出力は、分析者の判断に代わるのではなく、アナリストを支援するように設計されています。 Teams は、結果的なアクションを実行する前に、影響の大きい結果と軽減策の推奨事項を検証することが期待されます。 これにより、過度の依存が軽減され、不完全な AI 出力に対して動作する可能性が低下します。
  • スコープの絞り込みと除外の制御: 調査担当者は、高度な AI 分析の前に、調査範囲を反復的に絞り込み、無関係な項目を除外できます。 これにより、関連性が向上し、ノイズが減少し、不要なコンテンツ処理への露出が低下します。 また、焦点を絞ったスコープ管理では、コスト管理とインシデント対応の高速化もサポートされます。
  • 監査ログと証拠追跡可能性: 調査関連のアクティビティは、統合された監査ワークフローを通じてログに記録されます。 ログ記録では、フォレンジック追跡、運用レビュー、コンプライアンスアビリティがサポートされます。 これは、ガバナンスとインシデント後の検証要件の主要な軽減策です。
  • プライバシーとデータ処理のセーフガード: 文書化されたコントロールでは、AI 処理のためのテナントから分離された調査ストレージとプライバシー保護について説明します。 統合処理パスのデータ共有、ログ記録、およびスキャン制御は、特定の Copilot 処理コンテキストに対して既定でオフとして文書化されています。 これらのセーフガードは、プライバシー リスクを軽減し、企業のコンプライアンスの期待をサポートするのに役立ちます。

Microsoft Purview データ セキュリティ調査のデプロイと導入に関するベスト プラクティス

責任ある AI は、Microsoft とその顧客との間で共有されるコミットメントです。 Microsoft は安全性、公平性、透明性を中核に AI アプリケーションを構築していますが、お客様は、これらのテクノロジを独自のコンテキスト内で責任を持ってデプロイおよび使用する上で重要な役割を果たします。 このパートナーシップをサポートするために、デプロイ者とエンド ユーザーが責任ある AI を効果的に実装できるように、次のベスト プラクティスを提供します。 展開者とエンド ユーザー (管理者) は、次の手順を実行する必要があります。

  • Microsoft Purview データ セキュリティ調査を結果的な意思決定や機密性の高い分野で使用する場合は注意を払い、結果を評価します。結果的な決定は、教育、雇用、金融プラットフォーム、政府の利益、医療、住宅、保険、法的プラットフォームへのアクセスに法的または重大な影響を与える可能性があるもの、または物理的、心理的、または法的な影響を与える可能性のあるものです。財務上の損害を受け取る。 金融プラットフォーム、医療、住宅などの機密性の高いドメインでは、さまざまなグループの人々に不均衡な影響を与える可能性があるため、特に注意が必要です。 これらの分野の意思決定に AI を使用する場合は、影響を受けた利害関係者が意思決定の方法を理解し、意思決定をアピールし、関連する入力データを更新できることを確認します。
  • 法的および規制上の考慮事項を評価する: お客様は、AI プラットフォームとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界やシナリオでの使用に適していない可能性があります。 さらに、AI プラットフォームまたはソリューションは、対象となるサービス条件および関連する行動規範で禁止されている方法で設計されておらず、使用されない場合があります。
  • 反復分析の調査を計画する: データ セキュリティ調査ワークフローは意図的に反復的であり、特に検索の絞り込み、スコープの調整、AI 支援トリアージの場合です。 Teams では、ベクター検索、分類、および検査を実行するタイミングの反復可能なチェックポイントを定義する必要があります。 これにより、一貫性が向上し、不要なコンピューティングの使用が減少し、調査の品質が強化されます。
  • 機能間の対応を早い段階で調整する: セキュリティ インシデントには、セキュリティ、IT、法律、コンプライアンス、およびビジネス所有者が含まれることが多いです。 リスクの高い結果が特定されたらすぐに、これらの利害関係者を調査プロセスに取り込みます。 早期調整により、封じ込め速度が向上し、ダウンストリーム修復の摩擦が軽減されます。

エンド ユーザーは次の手順を実行する必要があります。

  • 明確で焦点を絞った調査プロンプトを使用する: ベクター検索と AI による検索 (プレビュー) の場合、プロンプトにはコンテキスト、件名、意図 (名前付きプロジェクトの資格情報、特定のインシデントのアクセス リスク コンテンツなど) を含める必要があります。 明確なプロンプトにより、より関連性の高い取得が生成され、調査ノイズが低減されます。 ユーザーは、結論を出す前に、出力を反復処理して比較する必要があります。
  • サポート証拠を使用して AI の結果を検証する: エスカレーションまたは軽減する前に、引用文献、項目の詳細、およびアクティビティ コンテキストを確認します。 AI 出力はトリアージを高速化できますが、エッジ ケースを見逃したり、信頼度の低い結果を含めたりする可能性があります。 検索、スコープ ビュー、関係者の入力を使用したクロスチェックにより、エラー リスクが軽減されます。
  • 適切な場合に人間の監視を実行する: 人間の監視は、AI アプリケーションと対話するときの重要な保護手段です。 AI アプリケーションを継続的に改善する一方で、AI は間違いを引き続き犯す可能性があります。 生成される出力は、不正確、不完全、バイアス、ずれ、または目的の目標とは無関係である可能性があります。 これは、入力のあいまいさや基になるモデルの制限など、さまざまな理由が原因で発生する可能性があります。 そのため、ユーザーは、Microsoft Purview データ セキュリティ調査によって生成された応答を確認し、期待と要件に一致することを確認する必要があります。
  • 過度の依存のリスクに注意する: AI への過度の依存は、AI 出力の間違いが検出しにくい可能性があるため、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れると発生します。 エンド ユーザーの場合、過度の依存により、生産性の低下、信頼の喪失、アプリケーションの破棄、財務上の損失、心理的損害、身体的危害などが生じる可能性があります。 (たとえば、医師が不適切な AI 出力を受け入れる)。
  • 機密性の高いドメインでエージェント AI を設計する場合は注意が必要です。エージェントアクションが元に戻せない、または非常に結果的な、機密性の高いドメインにエージェント AI アプリケーションを設計またはデプロイする場合は、注意が必要です。
  • さらに、「Microsoft Enterprise AI サービスの行動規範 (組織向け)」または「Microsoft サービス契約 (個人向け)」の「コードの実施」セクションで説明されているように、自律エージェント AI を作成する場合は、追加の予防措置を講じる必要があります。

デプロイ担当者は次の手順を実行する必要があります。

  • アクセス許可と所有権モデルを事前に構成する: インシデントが発生する前に、最小限の特権と運用責任に基づいてデータ セキュリティ調査役割グループを割り当てます。 応答の遅延を回避するために、バックアップ管理者と明確なロール カバレッジを含めます。 これにより、海外からのアクセスからのリスクが軽減され、アクティブなインシデント中の継続性が強化されます。
  • 制限、コスト、スループットの設計: 調査、監査検索、消去の制限により、チームが大規模なインシデントをどのようにセグメント化するかを通知する必要があります。 また、チームは容量の使用状況を監視し、緊急性と予算に合わせて AI 処理をステージングする必要があります。 これによりボトルネックが回避され、予測可能な応答パフォーマンスがサポートされます。
  • 軽減ワークフローとエスカレーション パスをテストする: 代表的なデータを使用してテーブルトップまたはパイロット調査を実行し、クエリ パターン、分類戦略、軽減ハンドオフを検証します。 事前にテストされたワークフローにより、実際のインシデントの間の混乱が軽減され、アクションまでの時間が短縮されます。 このテストの一環として、法的およびコンプライアンスの通知要件のチェックを含めます。

Microsoft Purview データ セキュリティ調査の詳細

その他のガイダンスや、Microsoft Purview データ セキュリティ調査の責任ある使用の詳細については、次のドキュメントを参照することをお勧めします。

責任ある AI の詳細