KI-Agent-Laufzeitschutz mit Microsoft Defender for Endpoint (Vorschau)

Lokale KI-Agents, einschließlich Programmierassistenten, CLI-Tools, Desktop-KI-Apps und autonome Agent-Plattformen, werden mit Benutzerberechtigungen auf Endpunkten ausgeführt. Diese Agenten verarbeiten Text aus Prompts, Dateien, Webinhalten und Werkzeugausgaben. Sie können vertrauenswürdige Inhalte nicht zuverlässig von versteckten Anweisungen trennen. Eine einzelne eingefügte Anweisung kann den Agent-Zugriff missbrauchen, um Daten zu exfiltrieren, Code zu ändern oder schädliche Befehle auszuführen.

Microsoft Defender bietet KI-Agenten-Runtime-Schutz, indem es kritische Punkte in der Agentenschleife untersucht, an denen Inhalte in den Denkprozess des Agenten gelangen oder ihn verlassen. Dies hilft, bösartige Prompts und die schädlichen Agentenaktionen zu erkennen, die sie verursachen können, zu überprüfen und Aktionen zu blockieren, bevor sie ausgeführt werden, wenn die Inspektionsmethode es erlaubt. Defender verwendet zwei Inspektionsansätze: agentnative Ereignisinspektion für Agenten, die herstellerunterstützte Ereignisschnittstellen offenlegen, und Netzwerkinspektion für abgedeckte Netzwerkpfade. Um mehr darüber zu erfahren, wie Laufzeitschutz Angriffe zur Laufzeit überwacht und blockiert, siehe Was Laufzeitschutz erkennt und wie es funktioniert.

Erfahren Sie, was der Laufzeitschutz stoppt, wie er funktioniert und wie man Erkennungen untersucht.

Was der Laufzeitschutz erkennt

Der Laufzeitschutz schützt gegen Angriffe mit bösartigen Prompts und der daraus resultierenden Beeinträchtigung des Agentenverhaltens. Defender untersucht kritische Stellen in der Agentenschleife, an denen Inhalte in die Argumentation des Agenten gelangen oder sie verlassen, und fängt Angriffe unabhängig davon, woher der Inhalt stammt – sei es eine Datei, eine Webseite, ein Repository oder die Ausgabe eines Werkzeugs.

Beispielsweise ruft ein Codierungs-Agent die Dokumentation eines Projekts ab, um eine Frage zu beantworten, und die Seite enthält ausgeblendeten Text, der den Agent anweist, die lokale ENV-Datei zu lesen und ihren Inhalt an eine externe URL zu veröffentlichen. Der Agent behandelt die Anweisung als Teil der Seite und ist dabei, dies zu erfüllen, aber Defender erkennt die Eingabeaufforderung in der Toolantwort und blockiert die Aktion, bevor Daten das Gerät verlassen.

So funktioniert es

Laufzeitschutz verwendet zwei Ansätze zur Inspektion der Agentenaktivitäten: agenteneigene Ereignisinspektion und Netzwerkinspektion.

Agent-native Ereignisüberprüfung

Agent-native Ereignisüberprüfung verwendet vom Anbieter unterstützte Ereignisschnittstellen, die vom Agent verfügbar gemacht werden. Agenten wie Claude Code, Codex CLI und GitHub Copilot CLI stellen diese Schnittstellen bereit, und Defender nutzt sie, um Agentenaktivitäten zu inspizieren und Audit- oder Blockentscheidungen an kritischen Stellen im Agenten-Workflow zu treffen.

Defender scannt die verfügbare Agentenaktivität auf bösartige Eingaben und risikoreiche Aktionen. Je nach den vom Agent unterstützten Ereignisschnittstellen kann Defender bösartige Inhalte daran hindern, durch die Agentenschleife zu gelangen, oder eine schädliche Werkzeugaktion verhindern.

Jeder Scan ist eine schnelle, inline-überprüfung statt einer kontinuierlichen Überwachung des Agentenprozesses, sodass die zusätzliche Latenz minimal ist.

Netzwerküberprüfung

Die Netzwerkinspektion erweitert den Laufzeitschutz auf Agenten, die keine agenteneigenen Ereignisschnittstellen bereitstellen. Anstatt sich auf strukturierte Agentenereignisse zu verlassen, inspiziert Defender die Agent-zu-Large Language Model (LLM)-Netzwerkflüsse, die von der Support-Matrix abgedeckt werden, um Prompt Injection während des Transits zu erkennen.

Verwenden Sie die Netzwerküberprüfung, wenn Sie Agents schützen möchten, die mit LLM-Diensten über das Netzwerk kommunizieren, aber keine vom Anbieter unterstützte Ereignisschnittstelle verfügbar machen. Dieser Ansatz hilft, die Abdeckungslücke für Agenten zu schließen, die sonst vor oder während der Interaktion mit dem Modell keinen Laufzeitschutz hätten.

Was geschieht, wenn Sie den Laufzeitschutz aktivieren?

Sobald es auf einem Gerät aktiviert ist, inspiziert Defender die Agentenaktivität an den verfügbaren Inspektionspunkten, ohne die Nutzung des Agenten zu ändern. Was nach einer Erkennung geschieht, hängt vom konfigurierten Modus ab:

• Block: Defender blockiert die Bedrohung und befolgt die für das Gerät konfigurierten Benachrichtigungsregeln. Defender benachrichtigt den Benutzer sowohl auf der Agent-Benutzeroberfläche als auch über eine Windows-Popupbenachrichtigung. Die Erkennung wird im Defender-Schutzverlauf auf dem Gerät aufgezeichnet, und eine Sicherheitswarnung wird an Defender gesendet, die mit Incidents korreliert ist, die vom SOC untersucht werden sollen.
• Audit: Defender ermöglicht das Fortsetzen der Aktion und zeichnet die Erkennung auf. In Defender wird zur Untersuchung weiterhin eine Sicherheitswarnung ausgelöst.
• Deaktiviert: Der Laufzeitschutz ist deaktiviert. Defender überprüft die Agentenaktivität nicht, und Agenten werden ohne sofortige Erkennung oder Blockierung von Prompt-Injection ausgeführt.

Microsoft empfiehlt, den Überwachungsmodus zu starten, um Erkennungen zu beobachten und die Genauigkeit zu überprüfen, bevor Sie zur aktiven Erzwingung in den Blockmodus wechseln. Die Laufzeitschutzeinstellung ist durch Manipulationsschutz geschützt, der nicht autorisierte Änderungen verhindert und zusammen mit Ihren vorhandenen Defender-Steuerelementen funktioniert.

Für lokale PowerShell- und organisationsweite Microsoft Intune-Konfigurationsoptionen siehe Einrichten des KI-Agenten-Laufzeitschutzes mit Microsoft Defender for Endpoint.

Untersuchung

Wenn der Laufzeitschutz eine Prompt Injection erkennt, löst Defender eine Warnung „Verdächtige KI-Prompt-Injection“ aus und korreliert zugehörige Aktivitäten zur Untersuchung in Vorfällen.

Den vollständigen Workflow für Untersuchungen, einschließlich der Benutzer- und SOC-Erfahrungen, finden Sie unter Erkennungen überprüfen und untersuchen.

Unterstützte Agents

Informationen zur Abdeckung nach Agent, Modus, Inspektionsmethode, Mindestversion und Vendor Hooks-Dokumentation finden Sie in der Microsoft Defender for Endpoint AI-Agentenunterstützungsmatrix.

Umfassendere KI-Sicherheitsfunktionen

Die Laufzeitschutzfunktionen von Defender sind Teil eines umfassenden KI-Sicherheitsansatzes. Defender bietet weitere Funktionen im KI-Ökosystem Ihrer Organisation:

• Entdecken Sie lokale KI-Agenten: Erkennen Sie lokale KI-Agenten und deren konfigurierte MCP-Server auf Ihren Geräten, nachdem Defender die Agentenaktivität beobachtet hat. Weitere Informationen finden Sie unter Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint.
• Entdecken Sie Cloud- und Plattform-Agents: Suchen Sie Agents, die mit Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock und Google Cloud Platform (GCP) Vertex KI erstellt wurden.
• Sicherheitsstatus bewerten: Bewerten Sie Agent-Konfigurationen, identifizieren Sie Risiken, erhalten Sie priorisierte Empfehlungen und machen Sie Angriffspfade sichtbar.
• Erkennen und untersuchen Sie Bedrohungen: Setzen Sie Warnungen in Beziehung und untersuchen Sie verdächtiges Verhalten von Agenten in Ihrer Sicherheitsinfrastruktur.

Ausführliche Informationen zu diesen Funktionen und deren Anwendung finden Sie unter Schützen von KI-Ressourcen vor neuen Bedrohungen und Sicherheitsrisiken mithilfe von Microsoft Defender.

Verwandte Inhalte

• Einrichten des Laufzeitschutzes für DEN KI-Agent mit Microsoft Defender for Endpoint
• Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint