KI-Agent-Laufzeitschutz mit Microsoft Defender for Endpoint (Vorschau)

Lokale KI-Agents, einschließlich Programmierassistenten, CLI-Tools, Desktop-KI-Apps und autonome Agent-Plattformen, werden mit Benutzerberechtigungen auf Endpunkten ausgeführt. Diese Agents reagieren auf Text von Eingabeaufforderungen, Dateien, Webinhalten und Toolausgaben und können vertrauenswürdige Inhalte nicht zuverlässig von ausgeblendeten Anweisungen trennen. Eine einzelne eingefügte Anweisung kann den Agent-Zugriff missbrauchen, um Daten zu exfiltrieren, Code zu ändern oder schädliche Befehle auszuführen.

Microsoft Defender bietet KI-Agent-Laufzeitschutz, indem wichtige Punkte in der Agentschleife überprüft werden: Benutzeraufforderungen, Toolanforderungen vor der Ausführung und Toolantworten nach der Ausführung. Dies hilft dabei, Prompt-Injectionen und risikoreiche Agentenaktionen zu erkennen, zu prüfen und unterstützte Aktionen zu blockieren, bevor sie ausgeführt werden. Defender unterstützt zwei Inspektionsansätze: Agent-native Ereignisüberprüfung für Agents, die vom Anbieter unterstützte Ereignisschnittstellen verfügbar machen, und Netzwerküberprüfung für Agents, die über unterstützte Netzwerkpfade kommunizieren. Weitere Informationen dazu, wie der Laufzeitschutz die Einschleusung von Aufforderungen überwacht und blockiert, finden Sie unter Was der Laufzeitschutz erkennt und wie er funktioniert.

In diesem Artikel wird erläutert, was der Laufzeitschutz verhindert, wie er funktioniert und wie sich Erkennungen untersuchen lassen.

Was der Laufzeitschutz erkennt

Laufzeitschutz zielt auf die definierende Bedrohung für lokale KI-Agents ab: Eingabeaufforderung, die schädliche Anweisungen umfasst, die in ansonsten legitimen Inhalten versteckt sind, die ein Agent liest und dann handelt. Defender überprüft die drei Punkte, an denen Inhalte in den Denkprozess des Agenten ein- oder aus ihm austreten: den Prompt des Benutzers, die Tool-Aufrufe, die der Agent gleich ausführen wird, und die Antworten, die diese Tools zurückgeben. Dieser Ansatz fängt die Einschleusung ab, unabhängig davon, wo der Inhalt stammt, ob eine Datei, eine Webseite, ein Repository oder die Ausgabe eines Tools.

Beispielsweise ruft ein Codierungs-Agent die Dokumentation eines Projekts ab, um eine Frage zu beantworten, und die Seite enthält ausgeblendeten Text, der den Agent anweist, die lokale ENV-Datei zu lesen und ihren Inhalt an eine externe URL zu veröffentlichen. Der Agent behandelt die Anweisung als Teil der Seite und ist dabei, dies zu erfüllen, aber Defender erkennt die Eingabeaufforderung in der Toolantwort und blockiert die Aktion, bevor Daten das Gerät verlassen.

So funktioniert es

Laufzeitschutz verwendet zwei Ansätze zum Überprüfen der Agentaktivität:

Agent-native Ereignisüberprüfung

Agent-native Ereignisüberprüfung verwendet vom Anbieter unterstützte Ereignisschnittstellen, die vom Agent verfügbar gemacht werden. Diese Schnittstellen stellen strukturierte Prüfpunkte im Agentworkflow bereit, z. B. wenn ein Benutzer eine Eingabeaufforderung sendet, wenn der Agent ein Tool anfordert oder nachdem ein Tool eine Antwort zurückgegeben hat. Agents wie Claude Code, Codex CLI und GitHub Copilot CLI machen diese Ereignisschnittstellen verfügbar, und Defender verwendet sie, um Agentaktivitäten zu prüfen und Überwachungs- oder Blockentscheidungen anzuwenden, sofern unterstützt

Wenn ein Agent eine vom Anbieter unterstützte Agentereignisschnittstelle verfügbar macht, empfängt Defender Nutzlasten in wichtigen Phasen in der agentischen Schleife:

• Benutzereingabeaufforderung: Die an den Agent übermittelte Eingabeaufforderung.
• Aufruf vor dem Tool: Die Aufrufanforderung des Tools vor der Ausführung.
• Tool-Antwort nach der Ausführung: Die Antwort des Tools nach Abschluss der Ausführung.

Defender überprüft diese Payloads auf Prompt-Injection und Agentenaktivitäten mit hohem Risiko. Defender können Aktivitäten an jedem unterstützten Ereignispunkt überwachen oder blockieren. Je nach Ereignistyp kann das Blockieren verhindern, dass die Eingabeaufforderung verarbeitet wird, eine angeforderte Toolaktion ausgeführt wird, oder verhindern, dass eine Toolantwort in der Agentschleife fortgesetzt wird.

Jeder Scan ist eine schnelle Inlineüberprüfung an einem dieser Ereignispunkte und nicht eine kontinuierliche Überwachung des Agentprozesses, sodass die hinzugefügte Latenz minimal ist.

Dokumentation zu diesen Agent-Ereignisschnittstellen finden Sie in der Claude Code-Dokumentation, in der Codex CLI-Dokumentation und in GitHub Copilot Dokumentation.

Netzwerküberprüfung

Die Netzwerkinspektion erweitert den Laufzeitschutz auf Agenten, die keine agenteneigenen Ereignisschnittstellen bereitstellen. Anstatt sich auf strukturierte Agent-Ereignisse zu verlassen, untersucht Defender unterstützte Netzwerkflüsse zwischen Agents und Large Language Models (LLMs), um Prompt-Injection während der Übertragung zu erkennen.

Verwenden Sie die Netzwerküberprüfung, wenn Sie Agents schützen möchten, die mit LLM-Diensten über das Netzwerk kommunizieren, aber keine vom Anbieter unterstützte Ereignisschnittstelle verfügbar machen. Dadurch wird die Abdeckungslücke für Agents geschlossen, die andernfalls keinen Laufzeitschutz vor oder während der Interaktion mit dem Modell haben würden.

Was geschieht, wenn Sie den Laufzeitschutz aktivieren?

Nach der Aktivierung auf einem Gerät überprüft Defender unterstützte Agents an ihren Hookpunkten, während Benutzer arbeiten, ohne die Ausführung des Agents zu ändern. Was nach einer Erkennung geschieht, hängt vom konfigurierten Modus ab:

• Block: Defender blockiert die Bedrohung und befolgt die für das Gerät konfigurierten Benachrichtigungsregeln. Defender benachrichtigt den Benutzer sowohl auf der Agent-Benutzeroberfläche als auch über eine Windows-Popupbenachrichtigung. Die Erkennung wird im Defender-Schutzverlauf auf dem Gerät aufgezeichnet, und eine Sicherheitswarnung wird an Defender gesendet, die mit Incidents korreliert ist, die vom SOC untersucht werden sollen.
• Audit: Defender ermöglicht das Fortsetzen der Aktion und zeichnet die Erkennung auf. In Defender wird zur Untersuchung weiterhin eine Sicherheitswarnung ausgelöst.
• Deaktiviert: Der Laufzeitschutz ist deaktiviert. Defender überprüft die Agentenaktivität nicht, und Agenten werden ohne sofortige Erkennung oder Blockierung von Prompt-Injection ausgeführt.

Microsoft empfiehlt, den Überwachungsmodus zu starten, um Erkennungen zu beobachten und die Genauigkeit zu überprüfen, bevor Sie zur aktiven Erzwingung in den Blockmodus wechseln. Die Laufzeitschutzeinstellung ist durch Manipulationsschutz geschützt, der nicht autorisierte Änderungen verhindert und zusammen mit Ihren vorhandenen Defender-Steuerelementen funktioniert.

Konfigurationsschritte finden Sie unter Aktivieren des Laufzeitschutzes.

Untersuchung

Wenn der Laufzeitschutz eine Prompt Injection erkennt, löst Defender eine Warnung „Verdächtige KI-Prompt-Injection“ aus und korreliert zugehörige Aktivitäten zur Untersuchung in Vorfällen.

Den vollständigen Workflow für Untersuchungen, einschließlich der Benutzer- und SOC-Erfahrungen, finden Sie unter Erkennungen überprüfen und untersuchen.

Unterstützte Agents

In der folgenden Tabelle sind die lokalen KI-Agenten aufgeführt, die Defender zum Laufzeitschutz durch agenteneigene Ereignisprüfung unterstützt.

Umfassendere KI-Sicherheitsfunktionen

Die Laufzeitschutzfunktionen von Defender sind Teil eines umfassenden KI-Sicherheitsansatzes. Defender bietet weitere Funktionen im gesamten KI-Ökosystem Ihrer organization:

• Lokale KI-Agenten entdecken: Erkennen Sie automatisch unterstützte lokale KI-Agenten und MCP-Serverkonfigurationen auf Ihren Geräten. Weitere Informationen finden Sie unter Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint.
• Entdecken Sie Cloud- und Plattform-Agents: Suchen Sie Agents, die mit Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock und Google Cloud Platform (GCP) Vertex KI erstellt wurden.
• Sicherheitsstatus bewerten: Bewerten Sie Agent-Konfigurationen, identifizieren Sie Risiken, erhalten Sie priorisierte Empfehlungen und machen Sie Angriffspfade sichtbar.
• Erkennen und Untersuchen von Bedrohungen: Korrelieren Sie Warnungen, und untersuchen Sie verdächtiges Agent-Verhalten in Ihrer Gesamten Sicherheitsinfrastruktur.

Ausführliche Informationen zu diesen Funktionen und deren Anwendung finden Sie unter Schützen von KI-Ressourcen vor neuen Bedrohungen und Sicherheitsrisiken mithilfe von Microsoft Defender.

Nächste Schritte

• Einrichten des Laufzeitschutzes für DEN KI-Agent mit Microsoft Defender for Endpoint
• Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint