Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Important
Dieses Feature ist zurzeit als öffentliche Preview verfügbar. Die Microsoft Defender Vorschaubedingungen gelten für Features, die sich in der öffentlichen Vorschau befinden.
Eingesetzte KI-Agenten arbeiten autonom, nutzen Tools, greifen auf Daten zu und führen als Reaktion auf natürlichsprachliche Eingaben Aktionen in verbundenen Systemen aus. Dies macht kontinuierliche Erkennung und Untersuchung kritisch. Microsoft Defender erkennt verdächtiges und bösartiges Agent-Verhalten, stellt Warnungen nahezu in Echtzeit bereit und ermöglicht Sicherheitsteams, Vorfälle zu untersuchen und die vollständige Grundursache sowie den gesamten Auswirkungsbereich zurückzuverfolgen.
Microsoft Defender erkennt und ermöglicht Sicherheitsteams, Bedrohungen für KI-Agents zu untersuchen, die über Microsoft Agent 365 verwaltet werden, einschließlich der erweiterten Erkennungsfunktionen, die für unterstützte Agent-Plattformen verfügbar sind. Informationen zum Blockieren unsicherer Agentaktionen während der Laufzeit finden Sie unter Schützen von KI-Agents in Echtzeit mithilfe von Microsoft Defender.
Voraussetzungen
- Aktivieren Sie die Sicherheit für KI-Agents, einschließlich des Microsoft 365 App-Connectors zum Sammeln von Agent 365-Observability-Daten für KI-Agent-Aktionen. Siehe Aktivieren der Sicherheit für KI-Agents mit Microsoft Defender.
- Stellen Sie sicher, dass Ihr KI-Agent Observability-Daten an Microsoft 365 ausgibt:
- Mit Microsoft Copilot Studio und Microsoft Foundry erstellte Agenten sowie mit dem Microsoft 365 Copilot Agent Builder erstellte deklarative Agenten senden standardmäßig Observability-Daten an Microsoft 365.
- Aktivieren Sie für KI-Agenten, die auf anderen Plattformen basieren, die Beobachtbarkeit mithilfe des Microsoft Agent 365 SDK, wie in der Dokumentation zum Entwicklungslebenszyklus von Agent 365 beschrieben.
- Um Bedrohungen für lokale KI-Agents zu erkennen, die auf Endpunkten ausgeführt werden, richten Sie den KI-Agent-Laufzeitschutz in Microsoft Defender for Endpoint ein. Microsoft Defender for Endpoint muss im aktiven Modus ausgeführt werden. Lokale Agents werden separat von Cloud-Agents integriert.
- (Optional) Um die Prompt-Ausschnitte, die eine Erkennung ausgelöst haben, als Belege in Warnungen einzuschließen, aktivieren Sie Prompt-Belegerfassung. Diese Einstellung ist standardmäßig aktiviert.
Erkennen Sie Bedrohungen durch KI-Agenten nahezu in Echtzeit
Microsoft Defender überwacht kontinuierlich die Aktivitäten von KI-Agenten und erkennt verdächtiges und bösartiges Verhalten bei allen von Agent 365 verwalteten Agenten. Defender analysiert Telemetrie von Agenten, Werkzeugnutzung und Ausführungsmuster, um Bedrohungen wie Jailbreak-Versuche, Versuche der indirekten Prompt-Injektion (XPIA),Verbreitung bösartiger Inhalte, Leckage von Geheimnissen und Zugangsdaten,Umgehungstechniken, große Sprachmodell-(LLM)-Aufklärung sowie verdächtige Benutzer- oder IP-Zugriffe zu identifizieren.
Microsoft Defender stellt Erkennungen im Defender-Portal als Warnungen nahezu in Echtzeit bereit und ermöglicht es Sicherheitsteams, diese mithilfe vertrauter Workflows im Sicherheitsbetrieb zu untersuchen, einschließlich Warnungstriage, Vorfallkorrelation und Advanced Hunting.
Weitere Informationen finden Sie unter Incidents und Warnungen im Microsoft Defender-Portal.
Erkennungen in nahezu Echtzeit basieren auf den Observability-Daten von Agent 365, die auch wertvolle Kontextinformationen für die Untersuchung von Vorfällen und proaktive Bedrohungssuche liefern. Microsoft Defender analysiert diese Daten, um verdächtiges Agent-Verhalten zu identifizieren und Warnungen zu generieren.
Um die Untersuchung von Warnungen mit den Promptausschnitten anzureichern, die eine Erkennung ausgelöst haben, aktivieren Sie die Erfassung von Promptnachweisen. Weitere Informationen finden Sie unter Verwalten von Prompt-Nachweisen in Warnungen.
Untersuchen Sie KI-Agent-Bedrohungen und suchen Sie mit Advanced Hunting nach Risiken
Microsoft Defender korreliert KI-Agent-Warnungen mit Incidents und zeigt den entsprechenden Kontext an, sodass Sicherheitsteams die Auswirkungen schnell bewerten und die Reaktion priorisieren können. Mit dem erweiterten Hunting können Analysten Agent 365-Observability-Daten mithilfe der Kusto-Abfragesprache (KQL) abfragen, um Vorfälle zu untersuchen und nach Risiken in ihrer gesamten Umgebung zu suchen.
Untersuchen von Vorfällen und Warnungen
Microsoft Defender fasst KI-Agent-Warnmeldungen aus Erkennungen in nahezu Echtzeit zu Vorfällen zusammen. Echtzeitschutzüberwachungs- und Blockereignisse werden als Verhaltensweisen in der BehaviorInfo Tabelle aufgezeichnet, die Sie während der Untersuchung mit Warnungen korrelieren können.
Sicherheitsanalysten können das Incidentdiagramm und die Untersuchungserfahrung verwenden, um den vollständigen Kontext eines potenziellen Angriffs zu verstehen, einschließlich der Beziehungen zwischen beteiligten Entitäten und dem Explosionsradius von KI-Agent-Bedrohungen. Weitere Informationen finden Sie unter Incidents und Warnungen im Microsoft Defender-Portal.
Hinweis
Blockierungsereignisse aus Microsoft Prompt Shields for Foundry und Microsoft 365 Copilot Agent Builder werden ebenfalls als Verhaltensweisen erfasst. Dies wird für Agents, die mit Microsoft Copilot Studio erstellt wurden, noch nicht unterstützt.
Korrelieren Sie Warnungen und Agent 365-Observability-Daten und suchen Sie mit Advanced Hunting nach Risiken
Mit Erweitertem Hunting in Microsoft Defender können Sicherheitsteams Agent 365 Observability-Daten zusammen mit anderen Sicherheitsdaten mithilfe der Kusto-Abfragesprache (KQL) abfragen. Dies unterstützt proaktive Bedrohungssuche, Vorfalluntersuchung und Ursachenanalyse für Agents, Anwendungen, Identitäten und Geräte.
Verwenden Sie beispielsweise Advanced Hunting für Folgendes:
Nachverfolgen bestimmter Agent-Toolaufrufe und Korrelieren mit zugehörigen Warnungen oder Blockieren von Ereignissen
Untersuchen der Grundursache und des Umfangs einer erkannten KI-Agent-Bedrohung
Identifizieren von anomalen Ausführungsmustern oder riskanten Agentverhalten in allen Umgebungen
Erstellen benutzerdefinierter Erkennungsregeln basierend auf Agent-Aktivitätssignalen
Tabellen für erweiterte Suche zur Untersuchung eines KI-Agenten
Die folgenden Tabellen für die erweiterte Suche bieten Einblick in die Konfiguration, Warnungen und Aktivitäten des KI-Agents. Sie können diese Tabellen einzeln abfragen oder korrelieren, um Incidents zu untersuchen und nach Agent-bezogenen Risiken zu suchen.
| Tabellenname | Beschreibung | Allgemeine Anwendungsfälle |
|---|---|---|
| AlertInfo | Enthält von Microsoft Defender generierte Warnungsmetadaten, einschließlich Warnungen im Zusammenhang mit Nah-Echtzeit-Erkennungen. | Untersuchen Sie KI-Agent-Warnungen, verstehen Sie den Warnungskontext, und gehen Sie in verwandte Incidents und Entitäten ein. |
| CloudAppEvents | Enthält Agent 365-Beobachtbarkeitsdaten zu KI-Agent-Aktivitäten, einschließlich Aktionen von Agenten, Toolaufrufen und Datenzugriffsereignissen. | Suchen Sie nach verdächtigem Agent-Verhalten, verfolgen Sie Agent-Aktivitäten und führen Sie eine Root-Cause-Analyse mithilfe von Agent 365 Observability-Daten durch. |
| AgentsInfo | Enthält Bestands- und Konfigurationsdetails für KI-Agents, einschließlich Agentidentität, Plattform, Besitz und Metadaten. | Überprüfen Sie den Agentstatus, identifizieren Sie riskante oder falsch konfigurierte Agents, und korrelieren Sie die Agentidentität mit Warnungen und Aktivitäten. |
| AlertEvidence | Enthält Entitäten und Artefakte, die Warnungen zugeordnet sind, z. B. Agents, Benutzer, Tools, URLs oder Ressourcen. | Verstehen des Umfangs einer Warnung und Identifizieren verwandter Entitäten, die an einem KI-Agent-Incident beteiligt sind. |
| BehaviorInfo | Enthält Verhaltensweisen, die Echtzeitschutzregelaktivitäten aufzeichnen, einschließlich Überwachungs- und Blockierungsereignissen, als abfragbare Telemetrie. | Erstellen Sie benutzerdefinierte Erkennungen, Hunting-Abfragen und nachgeschaltete Automatisierung basierend auf Echtzeitschutzereignissen. |
| BehaviorEntities | Enthält die Entitäten und Artefakte, die verhaltensweisen zugeordnet sind, z. B. Agents, Benutzer, Tools und Ressourcen. | Korrelieren Sie Verhaltensweisen mit verwandten Entitäten, um den Umfang von Echtzeitschutzereignissen zu untersuchen. |