この記事では、Microsoft Defender for Cloudから AI に対して取得できるセキュリティ アラートと、有効にしたすべてのMicrosoft Defenderプランの一覧を示します。 お使いの環境で示されるアラートは、保護対象のリソースとサービスおよびカスタマイズした構成によって異なります。
一部の AI ワークロード リスクシグナルは、KUbernetes で AI アプリケーションを実行する際に、コンテナーのDefenderなどのインフラストラクチャ保護計画からも発生する可能性があります。
これらのアラートに対応する方法については、こちらを参照してください。
アラートをエクスポートする方法については、こちらを参照してください。
Note
アラートの出力元によって、表示されるまでの時間が変わる場合があります。 たとえば、ネットワーク トラフィックの分析を必要とするアラートは、仮想マシンで実行されている不審なプロセスに関連するアラートよりも、表示されるまでより長い時間がかかる可能性があります。
Note
プレビュー段階のアラートの場合: Azure プレビューの追加使用条件には、ベータ版、プレビュー版、またはその他のまだ一般提供されていない Azure 機能に適用される追加の法律条項が含まれています。
AI アプリケーションのアラート
公開された Kubernetes サービスが検出されました (Kubernetes 上の AI アプリケーション)
アラート名: 公開された Kubernetes サービスが検出されました
説明: このアラートは、 LoadBalancer 種類の Kubernetes サービスが、ワークロードをパブリックに公開できる方法で作成または更新されたことを示します。 Kubernetes 上で実行される AI アプリケーションの場合、特に外部から到達可能なエンドポイントが弱い認証または認証制御の欠落に依存している場合、この露出によってリスクが高まる可能性があります。
重要度: 中
Azure AI モデルのデプロイで資格情報の盗難の試行が検出されました
(AI。Azure_CredentialTheftAttempt)
説明: 資格情報の盗難アラートは、GenAI モデルの応答内で資格情報が検出されたときにセキュリティ オペレーション センター (SOC) にユーザー プロンプトに通知するように設計されており、侵害の可能性を示します。 このアラートは、資格情報の漏洩や盗難のケースを検出するために重要です。これは生成 AI に固有であり、成功した場合に重大な結果を招く可能性があります。
MITRE の戦術: 資格情報アクセス、横移動、流出
重要度: 中
Azure AI モデルのデプロイに対する脱獄の試行が、Azure AI Content Safety Prompt Shields によってブロックされました
(AI。Azure_Jailbreak.ContentFiltering.BlockedAttempt)
説明: ダイレクト プロンプトインジェクション手法を使用して実行される脱獄アラートは、生成 AI のセーフガードをバイパスするためにシステム プロンプトを操作しようとしたことを SOC に通知し、機密データや特権関数にアクセスする可能性があることを通知するように設計されています。 このような試みは、責任ある AI コンテンツの安全性 (プロンプト シールドとも呼ばれます) Azureによってブロックされ、AI リソースの整合性とデータ セキュリティが確保されたことを示しました。
MITRE 戦術: 特権エスカレーション、防御回避
重要度: 中
Azure AI モデルのデプロイに対する脱獄の試行が、Azure AI Content Safety Prompt Shields によって検出されました
(AI。Azure_Jailbreak.ContentFiltering.DetectedAttempt)
説明: ダイレクト プロンプトインジェクション手法を使用して実行される脱獄アラートは、生成 AI のセーフガードをバイパスするためにシステム プロンプトを操作しようとしたことを SOC に通知し、機密データや特権関数にアクセスする可能性があることを通知するように設計されています。 このような試みは、責任ある AI コンテンツの安全性 (プロンプト シールドとも呼ばれます) Azureによって検出されましたが、コンテンツ フィルター設定や信頼性の低さによってブロックされなかったことが示されました。
MITRE 戦術: 特権エスカレーション、防御回避
重要度: 中
破損した AI application\model\data が、ユーザーに対してフィッシング詐欺の試行を指示しました
(AI。Azure_MaliciousUrl.ModelResponse)
説明: このアラートは、フィッシングに使用される既知の悪意のある URL をユーザーと積極的に共有しているため、組織が開発した AI アプリケーションの破損を示します。 アプリケーション自体、AI モデル、またはアプリケーションがアクセスできるデータ内で生成された URL。
MITRE の戦術: 影響 (改ざん)
重要度: 高
AI アプリケーションで共有されるフィッシング詐欺 URL
(AI。Azure_MaliciousUrl.UnknownSource)
説明: このアラートは、AI アプリケーションの破損の可能性、またはエンド ユーザーの 1 人によるフィッシング詐欺の試行を示します。 このアラートは、フィッシングに使用される悪意のある URL が AI アプリケーションを介した会話中に渡されたと判断しますが、URL (ユーザーまたはアプリケーション) の起源は不明です。
MITRE 戦術: 影響 (汚名)、コレクション
重要度: 高
AI アプリケーションで検出されたフィッシング詐欺の試行
(AI。Azure_MaliciousUrl.UserPrompt)
説明: このアラートは、フィッシング攻撃に使用された URL がユーザーによって AI アプリケーションに送信されたことを示します。 通常、このコンテンツでは、訪問者が正規に見える Web サイトに自分の会社の資格情報または財務情報を入力するよう誘導します。 これを AI アプリケーションに送信することは、破損、アクセス権を持つデータ ソースの有害化、またはアプリケーションのツールを使用して従業員や他の顧客へのアクセスを取得する目的で行われる可能性があります。
MITRE の戦術: コレクション
重要度: 高
疑わしいユーザー エージェントが検出されました
(AI。Azure_AccessFromSuspiciousUserAgent)
Description: Azure AI リソースのいずれかにアクセスする要求のユーザー エージェントに、リソースを悪用または操作しようとする試みを示す異常な値が含まれていました。 問題の疑わしいユーザー エージェントは、悪意のある意図の疑いMicrosoft脅威インテリジェンスによってマップされているため、リソースが侵害された可能性があります。
MITRE 戦術: 実行、偵察、初期アクセス
重要度: 中
ASCII Smuggling prompt injection detected (ASCII スマグリング プロンプト インジェクションが検出されました)
(AI。Azure_ASCIISmuggling)
説明: ASCII の密輸手法により、攻撃者は見えない命令を AI モデルに送信できます。 これらの攻撃は、一般的に間接的なプロンプトインジェクションに起因します。悪意のある脅威アクターは、アプリケーションとモデルのガードレールをバイパスする隠された命令を渡しています。 これらの攻撃は通常、テキストの可視性が不足しているため、ユーザーの知識がなくても適用され、アプリケーション ツールや接続されたデータ セットが侵害される可能性があります。
MITRE 戦術: 影響
重要度: 高
Tor IP からのアクセス
(AI。Azure_AccessFromAnonymizedIP)
説明: Tor ネットワークからいずれかの AI リソースにアクセスした IP アドレス。 Tor は、実際の IP を隠したままインターネットにアクセスできるネットワークです。 正当に使用されることもありますが、攻撃者がユーザーのシステムをオンラインで標的にするときに、自分の ID を隠すために頻繁に使用されます。
MITRE の戦術: 実行
重要度: 高
疑わしい IP からのアクセス
(AI。Azure_AccessFromSuspiciousIP)
Description: いずれかの AI サービスにアクセスする IP アドレスが、脅威になる可能性が高いMicrosoft脅威インテリジェンスによって識別されました。 悪意のあるインターネット トラフィックの監視中に、この IP が他のオンライン ターゲットの攻撃に関与していると示されました。
MITRE の戦術: 実行
重要度: 高
ウォレット攻撃の可能性 - 定期的な要求
(AI。Azure_DOWDuplicateRequests)
説明: ウォレット攻撃は、脅威アクターが組織に大きな金銭的損害を与えることを期待して、AI リソースと直接またはアプリケーションを介して過度に関与する AI リソースに共通する一連の攻撃です。 この検出では、継続的な攻撃が原因で発生する可能性がある同じ AI リソースを対象とする同一の要求の大量を追跡します。
MITRE 戦術: 影響
重要度: 中
ウォレット攻撃の可能性 - ボリュームの異常
(AI。Azure_DOWVolumeAnomaly)
説明: ウォレット攻撃は、脅威アクターが組織に大きな金銭的損害を与えることを期待して、AI リソースと直接またはアプリケーションを介して過度に関与する AI リソースに共通する一連の攻撃です。 この検出では、リソースによる大量の要求と応答が追跡され、その使用状況の履歴パターンと矛盾します。
MITRE 戦術: 影響
重要度: 中
AI リソースの異常にアクセスする
(AI。Azure_AccessAnomaly)
説明: このアラートは、AI リソースへのアクセス パターンの異常を追跡します。 ユーザーエージェント、IP 範囲、認証方法などのユーザーまたはアプリケーションによる要求パラメーターの変更は、悪意のあるアクターによって現在アクセスされている侵害されたリソースを示している可能性があります。 このアラートは、特定のリソースへの以前のアクセスパターンの大幅な変更を表す要求が有効な場合にトリガーされる可能性があります。
MITRE 戦術: 実行、偵察、初期アクセス
重要度: 中
検出されたサービス プリンシパルによる危険度の高い "初期アクセス" 操作の疑わしい呼び出し (AI リソース)
(AI。Azure_AnomalousOperation.InitialAccess)
説明: このアラートは、サブスクリプションで危険度の高い操作の疑わしい呼び出しを検出します。これは、制限されたリソースへのアクセスの試行を示している可能性があります。 識別された AI リソース関連の操作は、管理者が自分の環境に効率的にアクセスできるように設計されています。 このアクティビティは正当なものである可能性があります。脅威アクターは、このような操作を利用して、環境内の制限付き AI リソースへの初期アクセスを取得する可能性があります。 これは、サービス プリンシパルが侵害され、悪意を持って使用されていることを示している可能性があります。
MITRE の戦術: 初期アクセス
重要度: 中
異常なツールの呼び出し
(AI。Azure_AnomalousToolInvocation)
Description: このアラートは、Azure OpenAI モデルデプロイに接続されている AI アプリケーションからの異常なアクティビティを分析します。 アプリケーションは、予期される動作から逸脱した方法でツールを呼び出そうとしました。 この動作は、アプリケーションで使用できるツールの 1 つを使用して、誤用や攻撃が試みられた可能性があることを示している可能性があります。
MITRE の戦術: 実行
重大度: 低
(プレビュー)LLM 偵察の試行が検出されました
(AI。Azure_LLMReconnaissance)
形容： 脅威アクターは、システム命令の抽出、機能のモデル化、安全ガードレールのバイパスなど、偵察動作に似た方法で AI アプリケーションと対話しています。 これらのプロンプトは、プロンプトの挿入または脱獄攻撃の前に行われる可能性があります。
MITRE 戦術: 偵察
重大度: 低
AI モデルのアラート
(プレビュー)アップロードされた AI モデルで検出された悪意のあるコンテンツ
(AI。AIModelScan_MalwareDetected)
説明： ユーザーがアップロードした機械学習モデルがスキャンされ、マルウェアが含まれていることが判明しました。 この検出は、ファイルが読み込まれた場合に悪意のあるコードを実行し、アカウントの整合性、データの機密性、コンピューティング環境に脅威を与える可能性があることを示します。
重大度: 高