Identifiera och undersöka hot mot AI-agenter med hjälp av Microsoft Defender (förhandsversion)

Distribuerade AI-agenter fungerar självständigt, anropar verktyg, får åtkomst till data och vidtar åtgärder på anslutna system som svar på indata på naturligt språk. Detta gör kontinuerlig identifiering och undersökning kritisk. Microsoft Defender identifierar misstänkt och skadligt agentbeteende, tillhandahåller aviseringar nästan i realtid och gör det möjligt för säkerhetsteam att undersöka incidenter och spåra hela rotorsaken och sprängningsradien.

Microsoft Defender identifierar och gör det möjligt för säkerhetsteam att undersöka hot mot AI-agenter som hanteras via Microsoft Agent 365, inklusive de utökade identifieringsfunktioner som är tillgängliga för agentplattformar som stöds. Information om hur du blockerar osäkra agentåtgärder under körning finns i Skydda AI-agenter i realtid med hjälp av Microsoft Defender.

Förhandskrav

• Aktivera säkerhet för AI-agenter, inklusive Microsoft 365-appanslutningen för att samla in övervakningsdata för Agent 365 om åtgärder som utförs av AI-agenter. Se Aktivera säkerhet för AI-agenter med hjälp av Microsoft Defender.
• Se till att din AI-agent skickar telemetridata till Microsoft 365:
  • Agenter som skapats med Microsoft Copilot Studio, Microsoft Foundry och deklarativa agenter som skapats med Microsoft 365 Copilot Agent Builder skickar observerbarhetsdata till Microsoft 365 som standard.
  • För AI-agenter som bygger på andra plattformar möjliggör du observerbarhet med hjälp av Microsoft Agent 365 SDK, enligt beskrivningen i dokumentationen om Agent 365 utvecklingslivscykel.
• Om du vill identifiera hot mot lokala AI-agenter som körs på slutpunkter konfigurerar du AI-agentens körningsskydd i Microsoft Defender för Endpoint. Microsoft Defender för Endpoint måste köras i aktivt läge. Lokala agenter registreras separat från molnagenter.
• (Valfritt) Om du vill inkludera de promptfragment som utlöste en identifiering som bevis i aviseringar aktiverar du insamling av promptbevis. Den här inställningen är aktiverad som standard.

Identifiera AI-agenthot nästan i realtid

Microsoft Defender övervakar kontinuerligt AI-agenters aktivitet och upptäcker misstänkt och skadligt beteende för alla agenter som hanteras av Agent 365. Defender analyserar agenttelemetri, verktygsanvändning och exekveringsmönster för att identifiera hot såsom jailbreak-försök, försök till indirekt promptinjektion (XPIA),spridning av skadligt innehåll, läckage av hemligheter och inloggningsuppgifter, undvikandetekniker, rekognosering av stora språkmodeller (LLM) samt misstänkt användar- eller IP-åtkomst.

Microsoft Defender visar upptäckter som aviseringar i nära realtid i Defender-portalen och gör det möjligt för säkerhetsteam att utreda dem med hjälp av välkända arbetsflöden inom säkerhetsdrift, inklusive aviseringstriagering, incidentkorrelation och Advanced Hunting.

Mer information finns i Incidenter och aviseringar i Microsoft Defender-portalen.

Identifieringar nära realtid förlitar sig på Agent 365 observerbarhetsdata, vilket också ger värdefull kontext för att undersöka incidenter och hotjakt. Microsoft Defender analyserar dessa data för att identifiera misstänkt agentbeteende och generera aviseringar.

Aktivera insamling av promptbevis om du vill berika aviseringsutredningen med de promptfragment som utlöste en detektering. Mer information finns i Kontrollera prompt-bevis i aviseringar.

Undersöka AI-agenthot och jaga efter risker med avancerad jakt

Microsoft Defender korrelerar AI-agentaviseringar i incidenter och ytbehandlar den relaterade kontexten så att säkerhetsteam snabbt kan utvärdera påverkan och prioritera svar. Advanced Hunting låter sedan analytiker ställa frågor till observabilitetsdata från Agent 365 med hjälp av Kusto Query Language (KQL) för att undersöka incidenter och leta efter risker i hela miljön.

Undersöka incidenter och aviseringar

Microsoft Defender sammanställer aviseringar från AI-agenter från detekteringar i nära realtid i incidenter. Gransknings- och blockeringshändelser i realtid registreras som beteenden i BehaviorInfo tabellen, som du kan korrelera med aviseringar under undersökningen.

Säkerhetsanalytiker kan använda incidentdiagrammet och undersökningsupplevelsen för att förstå hela kontexten för en potentiell attack, inklusive relationer mellan inblandade entiteter och explosionsradien för AI-agenthot. Mer information finns i Incidenter och aviseringar i Microsoft Defender-portalen.

Korrelera aviseringar och Agent 365 observerbarhetsdata och jaga risker med avancerad jakt

Avancerad jakt i Microsoft Defender gör det möjligt för säkerhetsteam att fråga Agent 365 observerbarhetsdata tillsammans med andra säkerhetsdata med hjälp av Kusto-frågespråk (KQL). Detta stöder proaktiv hotjakt, incidentundersökning och rotorsaksanalys för agenter, program, identiteter och enheter.

Använd till exempel Avancerad jakt för att:

• Spåra specifika agentverktygsanrop och korrelera dem med relaterade aviseringar eller blockera händelser

• Undersök grundorsaken till och omfattningen av ett identifierat hot från AI-agenter

• Identifiera avvikande körningsmönster eller riskfyllda agentbeteenden i miljöer

• Skapa anpassade identifieringsregler baserat på agentaktivitetssignaler

Tabeller för avancerad jakt för undersökning av AI-agenter

Följande avancerade jakttabeller ger insyn i AI-agentkonfiguration, aviseringar och aktivitet. Du kan köra frågor mot dessa tabeller individuellt eller korrelera dem för att undersöka incidenter och söka efter agentrelaterade risker.

Nästa steg

• Skydda AI-agenter i realtid med hjälp av Microsoft Defender

• Identifiera AI-agenter och utvärdera säkerhetsstatus med hjälp av Microsoft Defender

• Skydda AI-tillgångar från nya hot och sårbarheter med hjälp av Microsoft Defender