Runtimebeveiliging van AI-agent met Microsoft Defender voor Eindpunt (preview)

Lokale AI-agents, waaronder coderingsassistenten, CLI-hulpprogramma's, desktop-AI-apps en autonome agentplatforms, worden uitgevoerd met gebruikersbevoegdheden op eindpunten. Deze agents reageren op tekst van prompts, bestanden, webinhoud en uitvoer van hulpprogramma's en kunnen vertrouwde inhoud niet op betrouwbare wijze scheiden van verborgen instructies. Met één ingespoten instructie kan de toegang van de agent worden misbruikt om gegevens te exfiltreren, code te wijzigen of schadelijke opdrachten uit te voeren.

Microsoft Defender biedt runtimebeveiliging voor AI-agents door de belangrijkste punten in de agentlus te inspecteren: gebruikersprompts, hulpprogrammaaanvragen vóór uitvoering en reacties van hulpprogramma's na uitvoering. Dit helpt bij het detecteren van promptinjectie- en agentacties met een hoog risico, het controleren ervan en het blokkeren van ondersteunde acties voordat ze worden uitgevoerd. Defender ondersteunt twee inspectiemethoden: agenteigen gebeurtenisinspectie voor agents die door de leverancier ondersteunde gebeurtenisinterfaces beschikbaar stellen en netwerkinspectie voor agents die communiceren via ondersteunde netwerkpaden. Zie Welke runtime-beveiliging detecteert en Hoe het werkt voor meer informatie over hoe runtimebeveiliging controleert en promptinjectie blokkeert.

In dit artikel wordt uitgelegd welke runtimebeveiliging stopt, hoe deze werkt en hoe u detecties kunt onderzoeken.

Wat runtime-beveiliging detecteert

Runtime-beveiliging is gericht op de definiërende bedreiging voor lokale AI-agents: promptinjectie, waarbij schadelijke instructies zijn verborgen in anderszins legitieme inhoud die een agent leest en vervolgens op reageert. Defender inspecteert de drie punten waar content de redenering van de agent binnenkomt of verlaat: de prompt van de gebruiker, de toolaanroepen die de agent op het punt staat te doen, en de antwoorden die die tools teruggeven. Deze methode vangt injectie op, ongeacht waar de inhoud vandaan komt, of het nu gaat om een bestand, een webpagina, een opslagplaats of de uitvoer van een hulpprogramma.

Een coderingsagent haalt bijvoorbeeld de documentatie van een project op om een vraag te beantwoorden en de pagina bevat verborgen tekst die de agent opdracht geeft het lokale .env-bestand te lezen en de inhoud ervan op een externe URL te posten. De agent behandelt de instructie als onderdeel van de pagina en staat op het punt te voldoen, maar Defender detecteert de promptinjectie in de reactie van het hulpprogramma en blokkeert de actie voordat gegevens het apparaat verlaten.

Hoe het werkt

Runtimebeveiliging maakt gebruik van twee benaderingen voor het inspecteren van agentactiviteit:

Systeemeigen gebeurtenisinspectie van agent

Agentnatieve gebeurtenisinspectie maakt gebruik van door de leverancier ondersteunde gebeurtenisinterfaces die door de agent beschikbaar worden gesteld. Deze interfaces bieden gestructureerde controlepunten in de agentwerkstroom, zoals wanneer een gebruiker een prompt indient, wanneer de agent een hulpprogramma aanvraagt om een hulpprogramma te gebruiken of nadat een hulpprogramma een antwoord retourneert. Agents zoals Claude Code, Codex CLI en GitHub Copilot CLI maken deze gebeurtenisinterfaces beschikbaar. Defender gebruikt ze om agentactiviteit te controleren en beslissingen te controleren of te blokkeren, indien ondersteund

Wanneer een agent een door de leverancier ondersteunde interface voor agentgebeurtenissen biedt, ontvangt Defender payloads in belangrijke stadia van de agentloop:

• Gebruikersprompt: de prompt die is verzonden naar de agent.
• Aanroep vooraf: de aanvraag voor het aanroepen van het hulpprogramma vóór de uitvoering.
• Antwoord na het hulpprogramma: het antwoord van het hulpprogramma nadat de uitvoering is voltooid.

Defender scant deze payloads op promptinjecties en risicovolle agentactiviteiten. Defender kunt activiteiten controleren of blokkeren op elk ondersteund gebeurtenispunt. Afhankelijk van het gebeurtenistype kan blokkeren voorkomen dat de prompt wordt verwerkt, wordt voorkomen dat een aangevraagde toolactie wordt uitgevoerd of wordt voorkomen dat een reactie van een hulpprogramma wordt voortgezet in de agentlus.

Elke scan is een snelle inlinecontrole op een van deze gebeurtenispunten in plaats van continue bewaking van het agentproces, dus de toegevoegde latentie is minimaal.

Zie de documentatie van Claude Code, de Codex CLI-documentatie en GitHub Copilot documentatie voor leveranciers over deze agent-gebeurtenisinterfaces.

Netwerkinspectie

Netwerkinspectie breidt runtimebeveiliging uit naar agents die geen systeemeigen gebeurtenisinterfaces van agents beschikbaar maken. In plaats van te vertrouwen op gestructureerde agentgebeurtenissen, controleert Defender ondersteunde LLM-netwerkstromen (Agent-to-Large Language Model) om promptinjectie tijdens overdracht te detecteren.

Gebruik netwerkinspectie als u agents wilt beveiligen die communiceren met LLM-services via het netwerk, maar geen door de leverancier ondersteunde gebeurtenisinterface beschikbaar maken. Dit helpt de dekkingsverschil te dichten voor agents die anders geen runtimebeveiliging zouden hebben voor of tijdens interactie met het model.

Wat gebeurt er wanneer u runtimebeveiliging inschakelt

Zodra dit is ingeschakeld op een apparaat, inspecteert Defender ondersteunde agents op hun hookpoints terwijl gebruikers werken, zonder de wijze waarop ze de agent uitvoeren te wijzigen. Wat er gebeurt na een detectie is afhankelijk van de geconfigureerde modus:

• Blok: Defender blokkeert de bedreiging en volgt de meldingsregels die zijn geconfigureerd voor het apparaat. Defender stelt de gebruiker zowel in de gebruikersinterface van de agent als via een Windows-toastmelding op de hoogte. De detectie wordt vastgelegd in de defender-beveiligingsgeschiedenis op het apparaat en er wordt een beveiligingswaarschuwing verzonden naar Defender, gecorreleerd in incidenten die de SOC moet onderzoeken.
• Audit: Defender staat toe dat de actie wordt voortgezet en registreert de detectie. Er wordt nog steeds een beveiligingswaarschuwing gegenereerd in Defender voor onderzoek.
• Uitgeschakeld: Runtimebescherming staat uit. Defender inspecteert de agentactiviteit niet en agents worden uitgevoerd zonder prompt injectiedetectie of blokkering.

Microsoft raadt aan om in de controlemodus te beginnen om detecties te observeren en nauwkeurigheid te valideren voordat u overschakelt naar de blokmodus voor actieve afdwinging. De instelling voor runtimebeveiliging wordt beveiligd door manipulatiebeveiliging, waardoor onbevoegde wijzigingen worden voorkomen en samen met uw bestaande Defender-besturingselementen wordt gebruikt.

Zie Runtime-beveiliging inschakelen voor configuratiestappen.

Onderzoek

Wanneer runtime-beveiliging promptinjectie detecteert, geeft Defender een waarschuwing voor verdachte AI-promptinjectie en correleert gerelateerde activiteiten aan incidenten voor onderzoek.

Zie Detecties controleren en onderzoeken voor de volledige onderzoekswerkstroom, inclusief gebruikers- en SOC-ervaringen.

Ondersteunde agents

De volgende tabel bevat de lokale AI-agents die Defender ondersteunt voor runtime-beveiliging via systeemeigen gebeurtenisinspectie van agents.

Bredere AI-beveiligingsmogelijkheden

De runtimebeveiligingsmogelijkheden van Defender maken deel uit van een uitgebreide AI-beveiligingsbenadering. Defender biedt andere mogelijkheden in het AI-ecosysteem van uw organisatie:

• Lokale AI-agents detecteren: automatisch ondersteunde lokale AI-agents en MCP-serverconfiguraties op uw apparaten detecteren. Zie Detectie van lokale AI-agent met Microsoft Defender voor Eindpunt voor meer informatie.
• Ontdek cloud- en platformagenten: zoek agents die zijn gebouwd met Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock en Google Cloud Platform (GCP) Vertex AI.
• Beveiligingsstatus beoordelen: evalueer agentconfiguraties, identificeer risico's, ontvang aanbevelingen op volgorde van prioriteit en breng aanvalspaden aan het licht.
• Bedreigingen detecteren en onderzoeken: hiermee kunt u waarschuwingen correleren en verdacht agentgedrag in uw beveiligingsinfrastructuur onderzoeken.

Zie AI-assets beveiligen tegen nieuwe bedreigingen en beveiligingsproblemen met behulp van Microsoft Defender voor meer informatie over deze mogelijkheden en hoe u deze kunt toepassen.

Volgende stappen

• Runtimebeveiliging voor AI-agent instellen met Microsoft Defender voor Eindpunt
• Detectie van lokale AI-agent met Microsoft Defender voor Eindpunt