Bedreigingen voor AI-agents detecteren en onderzoeken met behulp van Microsoft Defender (preview)

Geïmplementeerde AI-agents werken autonoom, roepen hulpprogramma's aan, toegang krijgen tot gegevens en acties uitvoeren op verbonden systemen als reactie op invoer in natuurlijke taal. Dit maakt continue detectie en onderzoek essentieel. Microsoft Defender detecteert verdacht en schadelijk agentgedrag, biedt waarschuwingen in bijna realtime en stelt beveiligingsteams in staat incidenten te onderzoeken en de volledige hoofdoorzaak en straal van explosie te traceren.

Microsoft Defender detecteert en stelt beveiligingsteams in staat om bedreigingen voor AI-agents te onderzoeken die worden beheerd via Microsoft Agent 365, inclusief de uitgebreide detectiemogelijkheden die beschikbaar zijn voor ondersteunde agentplatforms. Zie AI-agents in realtime beveiligen met behulp van Microsoft Defender om onveilige agentacties tijdens runtime te blokkeren.

Vereisten

• Schakel beveiliging in voor AI-agents, waaronder de Microsoft 365 app-connector om waarneembaarheidsgegevens van agent 365 te verzamelen voor AI-agentacties. Zie Beveiliging inschakelen voor AI-agents met behulp van Microsoft Defender.
• Zorg ervoor dat uw AI-agent waarneembaarheidsgegevens verzendt naar Microsoft 365:
  • Agents die zijn gebouwd met Microsoft Copilot Studio, Microsoft Foundry en declaratieve agents die zijn gebouwd met de Microsoft 365 Copilot Agent Builder verzenden standaard waarneembaarheidsgegevens naar Microsoft 365.
  • Voor AI-agents die zijn gebouwd op andere platforms, schakelt u waarneembaarheid in met behulp van de Microsoft Agent 365 SDK, zoals beschreven in de documentatie over de ontwikkelingslevenscyclus van Agent 365.
• Als u bedreigingen wilt detecteren voor lokale AI-agents die worden uitgevoerd op eindpunten, stelt u runtimebeveiliging van de AI-agent in Microsoft Defender voor Eindpunt in. Microsoft Defender voor Eindpunt moet worden uitgevoerd in de actieve modus. Lokale agents worden afzonderlijk van cloudagents ge onboardd.
• (Optioneel) Als u de promptfragmenten wilt opnemen die een detectie als bewijs in waarschuwingen hebben geactiveerd, schakelt u het verzamelen van promptgegevens in. Deze instelling is standaard ingeschakeld.

Bedreigingen van AI-agent bijna in realtime detecteren

Microsoft Defender monitort continu de activiteit van AI-agenten en detecteert verdacht en kwaadaardig gedrag van alle door Agent 365 beheerde agenten. Defender analyseert agententelemetrie, het gebruik van tools en uitvoeringspatronen om dreigingen te identificeren zoals jailbreakpogingen, indirecte prompt injection (XPIA) pogingen, verspreiding van kwaadaardige inhoud, lekken van geheimen en inloggegevens, ontwijkingstechnieken, verkenning van grote taalmodellen (LLM) en verdachte gebruikers- of IP-toegang.

Microsoft Defender presenteert detecties als bijna realtime waarschuwingen in de Defender-portal en stelt beveiligingsteams in staat deze te onderzoeken met behulp van vertrouwde werkstromen voor beveiligingsactiviteiten, waaronder waarschuwingstriage, incidentcorrelatie en Advanced Hunting.

Zie Incidenten en waarschuwingen in de Microsoft Defender portal voor meer informatie.

Detecties in bijna realtime zijn afhankelijk van Agent 365 waarneembaarheidsgegevens, die ook waardevolle context bieden voor het onderzoeken van incidenten en het opsporen van bedreigingen. Microsoft Defender analyseert deze gegevens om verdacht gedrag van agents te identificeren en waarschuwingen te genereren.

Als u een waarschuwingsonderzoek wilt verrijken met de promptfragmenten die een detectie hebben geactiveerd, schakelt u het verzamelen van promptgegevens in. Zie Aanwijzingen voor controleprompts in waarschuwingen voor meer informatie.

Bedreigingen van AI-agent onderzoeken en risico's opsporen met behulp van Geavanceerde opsporing

Microsoft Defender koppelt AI-agentwaarschuwingen aan incidenten en geeft de gerelateerde context weer, zodat beveiligingsteams snel de impact kunnen beoordelen en de reactie kunnen prioriteren. Met Advanced Hunting kunnen analisten vervolgens query's uitvoeren op agent 365 waarneembaarheidsgegevens met behulp van Kusto Query Language (KQL) om incidenten te onderzoeken en risico's in hun omgeving op te zoeken.

Incidenten en waarschuwingen onderzoeken

Microsoft Defender correleert waarschuwingen van AI-agents uit nagenoeg realtime detecties tot incidenten. Controle- en blokkeringsgebeurtenissen in realtime worden vastgelegd als gedrag in de BehaviorInfo tabel, die u tijdens het onderzoek kunt correleren met waarschuwingen.

Beveiligingsanalisten kunnen de incidentgrafiek en onderzoekservaring gebruiken om de volledige context van een potentiële aanval te begrijpen, inclusief de relaties tussen betrokken entiteiten en de straal van bedreigingen van de AI-agent. Zie Incidenten en waarschuwingen in de Microsoft Defender portal voor meer informatie.

Waarschuwingen en Agent 365 waarneembaarheidsgegevens correleren en risico's opsporen met behulp van Geavanceerde opsporing

Geavanceerde opsporing in Microsoft Defender stelt beveiligingsteams in staat om Agent 365 waarneembaarheidsgegevens samen met andere beveiligingsgegevens op te vragen met behulp van Kusto-querytaal (KQL). Dit ondersteunt proactieve opsporing van bedreigingen, incidentonderzoek en hoofdoorzaakanalyse voor agents, toepassingen, identiteiten en apparaten.

Gebruik bijvoorbeeld Geavanceerde opsporing om het volgende te doen:

• Aanroepen van specifieke agenthulpprogramma's traceren en deze correleren met gerelateerde waarschuwingen of blokkeringsevenementen

• De hoofdoorzaak en het bereik van een gedetecteerde AI-agentbedreiging onderzoeken

• Afwijkende uitvoeringspatronen of riskante agentgedrag in omgevingen identificeren

• Aangepaste detectieregels bouwen op basis van agentactiviteitssignalen

Geavanceerde opsporingstabellen voor AI-agentonderzoek

De volgende geavanceerde opsporingstabellen bieden inzicht in de configuratie, waarschuwingen en activiteiten van de AI-agent. U kunt deze tabellen afzonderlijk opvragen of correleren om incidenten te onderzoeken en te zoeken naar agentgerelateerde risico's.

Volgende stappen

• AI-agents in realtime beveiligen met behulp van Microsoft Defender

• AI-agents detecteren en beveiligingspostuur evalueren met behulp van Microsoft Defender

• AI-assets beschermen tegen opkomende bedreigingen en beveiligingsproblemen met behulp van Microsoft Defender