Gewinnen des Anwendungs- und Endbenutzerkontexts für KI-Benachrichtigungen

Mit dem Bedrohungsschutz für KI-Dienste Microsoft Defender for Cloud können Sie die Verwendbarkeit und den Sicherheitswert generierter KI-Warnungen verbessern, indem Sie sowohl Endbenutzer- als auch Anwendungskontext bereitstellen.

Die meisten KI-Dienstszenarien werden als Teil einer Anwendung erstellt, sodass API-Aufrufe an den KI-Dienst von einer Webanwendung, einer Computeinstanz oder einem AI-Gateway stammen. Diese anwendungsvermittelte Architektur bringt Komplexität mit sich, weil Ermittlern bei der Überprüfung von KI-Anfragen der Geschäftsanwendung oder des Endnutzers der betroffenen Geschäftsanwendung oder des Endnutzers der Kontext fehlt.

Mit Microsoft Defender for Cloud und Azure AI können Sie gemeinsam Parameter zu Azure AI-API-Aufrufen hinzufügen, sodass Defender for Cloud kritische Endbenutzer- oder Anwendungskontexte in KI-Warnungen erfassen können. Die Erfassung von Endnutzer- und Anwendungskontext in KI-Warnungen führt zu effektiveren Triage und Ergebnissen. Wenn Sie z. B. Endbenutzer-IP oder -Identität hinzufügen, können Sie diesen Benutzer blockieren oder Vorfälle und Warnungen durch diesen Benutzer korrelieren. Wenn Sie Anwendungskontext hinzufügen, können Sie priorisieren oder ermitteln, ob verdächtiges Verhalten für diese Anwendung in der Organisation standard ist.

Voraussetzungen

• Informieren Sie sich über Schutz vor KI-Bedrohungen.

• Aktivieren Sie den Bedrohungsschutz für KI-Dienste in einer KI-Anwendung mit dem zugrunde liegenden Azure OpenAI-Modell direkt über den Azure OpenAI-Dienst. Beachten Sie, dass dieses Feature derzeit nicht unterstützt wird, wenn Modelle angewendet werden, die über die Azure AI-Modell-Ableitungs-API verwendet werden.

Hinzufügen von Sicherheitsparametern zu Ihrem Azure OpenAI-Aufruf

Um KI-Sicherheitsbenachrichtigungen mit mehr Kontext zu erhalten, können Sie einige oder alle der folgenden UserSecurityContext-Beispielparameter zu Ihren API-Aufrufen in Azure OpenAI hinzufügen.

Alle Felder in UserSecurityContext sind optional.

Für Endbenutzerkontext wird empfohlen, mindestens die Felder EndUserId und SourceIP zu übergeben. Die Felder EndUserId und SourceIP bieten SOC-Analysten (Security Operations Center) die Möglichkeit, Sicherheitsvorfälle zu untersuchen, die sich auf KI-Ressourcen und Anwendungen mit generativer KI beziehen.

Übergeben Sie für den Anwendungskontext das applicationName Feld als einfache Zeichenfolge.

Wenn der Name eines Feldes UserSecurityContext falsch geschrieben ist, ist der Azure OpenAI API-Aufruf trotzdem erfolgreich.

UserSecurityContext-Schema

Das genaue Schema finden Sie in der Referenzdokumentation zur Rest-API in Azure OpenAI.

Das Benutzersicherheitskontextobjekt ist Teil des Anforderungstexts der Chatvervollständigungs-API.

Das Hinzufügen UserSecurityContext von Parametern für die Anreicherung von Defender for Cloud-Warnungen wird derzeit nicht unterstützt, wenn Modelle angewendet werden, die über die Azure AI-Modellinferenz-API bereitgestellt werden.

Unterstützte APIs und SDK-Versionen

Die folgende Tabelle listet die unterstützten APIs und SDK-Versionen für UserSecurityContextauf.

Nächster Schritt