Détecter et analyser les menaces ciblant les agents IA avec Microsoft Defender (préversion)

Important

Cette fonctionnalité est actuellement disponible en préversion publique. Les conditions de préversion de Microsoft Defender s’appliquent aux fonctionnalités en préversion publique.

Les agents IA déployés fonctionnent de manière autonome, appelant des outils, accédant aux données et en effectuant des actions sur les systèmes connectés en réponse à l’entrée en langage naturel. Cela rend la détection et l’investigation continues critiques. Microsoft Defender détecte le comportement suspect et malveillant de l’agent, fournit des alertes en quasi-temps réel et permet aux équipes de sécurité d’examiner les incidents et de suivre la cause racine complète et le rayon d’explosion.

Microsoft Defender détecte et permet aux équipes de sécurité d’examiner les menaces pour les agents IA gérés via Microsoft Agent 365, y compris les fonctionnalités de détection étendues disponibles pour les plateformes d’agent prises en charge. Pour bloquer les actions d’agent non sécurisées pendant l’exécution, consultez Protéger les agents IA en temps réel à l’aide de Microsoft Defender.

Prérequis

  • Activez la sécurité des agents IA, notamment le connecteur d’application Microsoft 365 pour collecter les données d’observabilité de l’agent 365 pour les actions de l’agent IA. Consultez Activer la sécurité pour les agents IA à l’aide de Microsoft Defender.
  • Vérifiez que votre agent IA émet des données d’observabilité pour Microsoft 365 :
    • Les agents créés avec Microsoft Copilot Studio, Microsoft Foundry et les agents déclaratifs créés avec le Générateur d’agents Microsoft 365 Copilot envoient des données d’observabilité à Microsoft 365 par défaut.
    • Pour les agents IA basés sur d’autres plateformes, activez l’observabilité à l’aide du Kit de développement logiciel (SDK) Microsoft Agent 365, comme décrit dans la documentation sur le cycle de vie du développement Agent 365.
  • Pour détecter les menaces pour les agents IA locaux qui s’exécutent sur des points de terminaison, configurez la protection du runtime de l’agent IA dans Microsoft Defender for Endpoint. Microsoft Defender for Endpoint devez s’exécuter en mode actif. Les agents locaux sont intégrés séparément des agents cloud.
  • (Facultatif) Pour inclure les extraits de code d’invite qui ont déclenché une détection en tant que preuves dans les alertes, activez la collecte de preuves d’invite. Ce paramètre est activé par défaut.

Détecter les menaces de l’agent IA en quasi-temps réel

Microsoft Defender surveille en continu l’activité des agents IA et détecte des comportements suspects et malveillants chez tous les agents gérés par Agent 365. Defender analyse la télémétrie des agents, l’utilisation des outils et les schémas d’exécution afin d’identifier des menaces telles que les tentatives de jailbreak, les tentatives d’injection indirecte de prompt (XPIA), la propagation de contenu malveillant, la fuite de secrets et d’identifiants, les techniques d’évasion, la reconnaissance de grands modèles de langage (LLM) et les accès suspects d’utilisateurs ou d’IP.

Microsoft Defender détecte les détections en quasi-temps réel dans le portail Defender et permet aux équipes de sécurité de les examiner à l’aide de workflows familiers d’opérations de sécurité, notamment le triage des alertes, la corrélation des incidents et la chasse avancée.

Pour plus d’informations, consultez Incidents et alertes dans le portail Microsoft Defender.

Les détections en quasi-temps réel s’appuient sur Agent 365 données d’observabilité, qui fournissent également un contexte précieux pour l’investigation des incidents et la chasse aux menaces. Microsoft Defender analyse ces données pour identifier le comportement suspect de l’agent et générer des alertes.

Pour enrichir l'analyse des alertes avec les extraits d'invite ayant déclenché une détection, activez la collecte des preuves d'invite. Pour plus d'informations, veuillez consulter la section Contrôler les preuves d'invite dans les alertes.

Examiner les menaces de l’agent IA et rechercher les risques à l’aide de la chasse avancée

Microsoft Defender met en corrélation les alertes de l’agent IA dans les incidents et expose le contexte associé afin que les équipes de sécurité puissent rapidement évaluer l’impact et hiérarchiser la réponse. Advanced Hunting permet ensuite aux analystes d’interroger les données d’observabilité de l’Agent 365 à l’aide du langage de requête Kusto (KQL) pour examiner les incidents et rechercher des risques dans tout leur environnement.

Examiner les incidents et les alertes

Microsoft Defender met en corrélation les alertes de l’agent IA à partir de détections en temps quasi réel en incidents. L’audit de protection en temps réel et les événements de blocage sont enregistrés sous forme de comportements dans la table BehaviorInfo, que vous pouvez corréler avec des alertes au cours de l’investigation.

Les analystes de sécurité peuvent utiliser le graphique des incidents et l’expérience d’investigation pour comprendre le contexte complet d’une attaque potentielle, y compris les relations entre les entités impliquées et le rayon d’explosion des menaces de l’agent IA. Pour plus d’informations, consultez Incidents et alertes dans le portail Microsoft Defender.

Remarque

Les événements de blocage provenant de Microsoft Prompt Shields pour Foundry et Microsoft 365 Copilot Agent Builder sont également enregistrés comme comportements. Cela n'est pas encore pris en charge pour les agents créés avec Microsoft Copilot Studio.

Mettre en corrélation les alertes et les données d’observabilité d’Agent 365, et rechercher les risques à l’aide d’Advanced Hunting

La Recherche avancée dans Microsoft Defender permet aux équipes de sécurité d’interroger les données d’observabilité d’Agent 365 en parallèle d’autres données de sécurité à l’aide du langage de requête Kusto (KQL). Cela prend en charge la chasse proactive des menaces, l’investigation des incidents et l’analyse de la cause racine pour les agents, les applications, les identités et les appareils.

Par exemple, utilisez la chasse avancée pour :

  • Effectuer le suivi des appels d’outils d’agent spécifiques et les mettre en corrélation avec des alertes ou des événements de blocage associés

  • Examiner la cause racine et l’étendue d’une menace d’agent IA détectée

  • Identifier les modèles d’exécution anormales ou le comportement de l’agent à risque dans les environnements

  • Créer des règles de détection personnalisées basées sur les signaux d’activité de l’agent

Tables de chasse avancée pour l'analyse des agents IA

Les tables De repérage avancée suivantes fournissent une visibilité sur la configuration, les alertes et l’activité de l’agent IA. Vous pouvez interroger ces tables individuellement ou les mettre en corrélation pour examiner les incidents et rechercher les risques liés à l’agent.

Nom du tableau Description Cas d’utilisation courants
AlertInfo Contient les métadonnées d’alerte générées par Microsoft Defender, y compris les alertes liées aux détections en temps quasi réel. Examinez les alertes de l’agent IA, comprenez le contexte des alertes et effectuez un pivot dans les incidents et les entités associés.
CloudAppEvents Contient les données d’observabilité d’Agent 365 relatives à l’activité des agents IA, notamment les actions des agents, les invocations d’outils et les événements d’accès aux données. Recherchez les comportements suspects des agents, tracez les actions de l’agent et effectuez une analyse de la cause racine à l’aide de Agent 365 données d’observabilité.
AgentsInfo Contient des détails d’inventaire et de configuration pour les agents IA, notamment l’identité de l’agent, la plateforme, la propriété et les métadonnées. Passez en revue la posture de l’agent, identifiez les agents à risque ou mal configurés et mettez en corrélation l’identité de l’agent avec les alertes et l’activité.
AlertEvidence Contient des entités et des artefacts associés à des alertes, telles que des agents, des utilisateurs, des outils, des URL ou des ressources. Comprendre l’étendue d’une alerte et identifier les entités associées impliquées dans un incident d’agent IA.
BehaviorInfo Contient des comportements qui enregistrent l’activité de règle de protection en temps réel, y compris les événements d’audit et de blocage, en tant que données de télémétrie interrogeables. Créez des détections personnalisées, des requêtes de repérage et une automatisation en aval basée sur des événements de protection en temps réel.
BehaviorEntities Contient les entités et artefacts associés à des comportements, tels que des agents, des utilisateurs, des outils et des ressources. Mettre en corrélation les comportements avec les entités associées pour examiner l’étendue des événements de protection en temps réel.

Étapes suivantes

  • Last updated on