Detección e investigación de amenazas para agentes de inteligencia artificial mediante Microsoft Defender (versión preliminar)

Importante

Esta característica actualmente está en su versión preliminar pública. Los términos de la versión preliminar Microsoft Defender se aplican a las características que se encuentran en versión preliminar pública.

Los agentes de IA implementados funcionan de forma autónoma, invocando herramientas, accediendo a datos y tomando medidas en sistemas conectados en respuesta a la entrada de lenguaje natural. Esto hace que la detección continua y la investigación sea fundamental. Microsoft Defender detecta el comportamiento sospechoso y malintencionado del agente, proporciona alertas casi en tiempo real y permite a los equipos de seguridad investigar incidentes y realizar un seguimiento de la causa principal completa y el radio de explosión.

Microsoft Defender detecta y permite a los equipos de seguridad investigar las amenazas a los agentes de inteligencia artificial administrados a través de Microsoft Agent 365, incluidas las funcionalidades de detección extendidas disponibles para las plataformas de agente compatibles. Para bloquear acciones de agente no seguras durante el tiempo de ejecución, consulte Protección de agentes de IA en tiempo real mediante Microsoft Defender.

Requisitos previos

  • Habilite la seguridad de los agentes de IA, incluido el conector de aplicaciones de Microsoft 365 para recopilar datos de observabilidad del Agente 365 para las acciones del agente de IA. Consulte Habilitación de la seguridad de los agentes de IA mediante Microsoft Defender.
  • Asegúrese de que el agente de IA emite datos de observabilidad para Microsoft 365:
    • Los agentes creados con Microsoft Copilot Studio y Microsoft Foundry, así como los agentes declarativos creados con Microsoft 365 Copilot Agent Builder, envían datos de observabilidad a Microsoft 365 de forma predeterminada.
    • En el caso de los agentes de inteligencia artificial basados en otras plataformas, habilite la observabilidad mediante el SDK de Microsoft Agent 365, como se describe en la documentación del ciclo de vida de desarrollo de Agent 365.
  • Para detectar amenazas a agentes de inteligencia artificial locales que se ejecutan en puntos de conexión, configure la protección en tiempo de ejecución del agente de IA en Microsoft Defender para punto de conexión. Microsoft Defender para punto de conexión debe ejecutarse en modo activo. Los agentes locales se incorporan por separado de los agentes en la nube.
  • (Opcional) Para incluir como evidencia en las alertas los fragmentos del prompt que provocaron una detección, habilite la recopilación de evidencias del prompt. Esta opción está habilitada de manera predeterminada.

Detección de amenazas del agente de inteligencia artificial casi en tiempo real

Microsoft Defender monitoriza continuamente la actividad de los agentes de IA y detecta comportamientos sospechosos y maliciosos en todos los agentes gestionados por Agent 365. Defender analiza la telemetría de agentes, el uso de herramientas y los patrones de ejecución para identificar amenazas como intentos de jailbreak, intentos de inyección indirecta de prompt (XPIA), propagación de contenido malicioso, filtración de secretos y credenciales, técnicas de evasión, reconocimiento de grandes modelos de lenguaje (LLM) y acceso sospechoso de usuarios o IP.

Microsoft Defender muestra las detecciones como alertas casi en tiempo real en el portal de Microsoft Defender y permite a los equipos de seguridad investigarlas mediante flujos de trabajo habituales de operaciones de seguridad, como la clasificación de alertas, la correlación de incidentes y Advanced Hunting.

Para obtener más información, consulte Incidentes y alertas en el portal de Microsoft Defender.

Las detecciones en tiempo casi real se basan en los datos de observabilidad de Agent 365, que también proporcionan un contexto valioso para investigar incidentes y realizar búsquedas de amenazas. Microsoft Defender analiza estos datos para identificar el comportamiento sospechoso del agente y generar alertas.

Para enriquecer la investigación de alertas con los fragmentos de solicitud que desencadenaron una detección, habilite la recopilación de pruebas de solicitud. Para obtener más información, consulte Controlar las pruebas de solicitud en las alertas.

Investiga las amenazas de los agentes de IA y busca riesgos mediante Advanced Hunting

Microsoft Defender correlaciona las alertas del agente de inteligencia artificial en incidentes y expone el contexto relacionado para que los equipos de seguridad puedan evaluar rápidamente el impacto y priorizar la respuesta. La búsqueda avanzada permite a los analistas consultar los datos de observabilidad del Agente 365 mediante el lenguaje de consulta kusto (KQL) para investigar incidentes y buscar riesgos en todo su entorno.

Investigación de incidentes y alertas

Microsoft Defender correlaciona las alertas del agente de IA procedentes de detecciones casi en tiempo real para convertirlas en incidentes. Los eventos de auditoría y bloqueo de la protección en tiempo real se registran como comportamientos en la tabla BehaviorInfo, que puede correlacionar con las alertas durante la investigación.

Los analistas de seguridad pueden usar el gráfico de incidentes y la experiencia de investigación para comprender el contexto completo de un posible ataque, incluidas las relaciones entre las entidades implicadas y el radio de explosión de las amenazas del agente de inteligencia artificial. Para obtener más información, consulte Incidentes y alertas en el portal de Microsoft Defender.

Nota:

Los eventos de bloqueo de Microsoft Prompt Shields for Foundry y Microsoft 365 Copilot Agent Builder también se registran como comportamientos. Esto aún no se admite para los agentes creados con Microsoft Copilot Studio.

Correlacione alertas y los datos de observabilidad de Agent 365, y detecte riesgos mediante la búsqueda avanzada

Advanced Hunting en Microsoft Defender permite a los equipos de seguridad consultar los datos de observabilidad de Agent 365 junto con otros datos de seguridad mediante el lenguaje de consulta Kusto (KQL). Esto admite la búsqueda proactiva de amenazas, la investigación de incidentes y el análisis de causa principal para agentes, aplicaciones, identidades y dispositivos.

Por ejemplo, use Búsqueda avanzada para:

  • Realizar un seguimiento de invocaciones de herramientas de agente específicas y correlacionarlas con alertas relacionadas o eventos de bloque

  • Investigación de la causa principal y el ámbito de una amenaza de agente de inteligencia artificial detectada

  • Identificación de patrones de ejecución anómalos o comportamiento de agente de riesgo en todos los entornos

  • Creación de reglas de detección personalizadas basadas en señales de actividad del agente

Tablas de búsqueda avanzada para la investigación del agente de IA

Las siguientes tablas de búsqueda avanzada proporcionan visibilidad sobre la configuración, las alertas y la actividad del agente de inteligencia artificial. Puede consultar estas tablas individualmente o correlacionarlas para investigar incidentes y buscar riesgos relacionados con el agente.

Nombre de la tabla Descripción Casos de uso comunes
AlertInfo Contiene metadatos de alerta generados por Microsoft Defender, incluidas las alertas relacionadas con las detecciones casi en tiempo real. Investigar las alertas del agente de IA, comprender el contexto de las alertas y profundizar en incidentes y entidades relacionados.
CloudAppEvents Contiene Agent 365 datos de observabilidad para la actividad del agente de inteligencia artificial, incluidas las acciones del agente, las invocaciones de herramientas y los eventos de acceso a datos. Detecte comportamientos sospechosos de los agentes, rastree las acciones de los agentes y realice análisis de causa raíz mediante los datos de observabilidad de Agent 365.
AgentsInfo Contiene detalles de inventario y configuración para los agentes de inteligencia artificial, incluida la identidad del agente, la plataforma, la propiedad y los metadatos. Revise la posición del agente, identifique los agentes de riesgo o mal configurados y correlacione la identidad del agente con las alertas y la actividad.
AlertEvidence Contiene entidades y artefactos asociados a alertas, como agentes, usuarios, herramientas, direcciones URL o recursos. Comprenda el ámbito de una alerta e identifique las entidades relacionadas implicadas en un incidente del agente de inteligencia artificial.
BehaviorInfo Contiene funcionalidades que registran la actividad de las reglas de protección en tiempo real, incluidos los eventos de auditoría y de bloqueo, en forma de telemetría consultable. Crea detecciones personalizadas, consultas de búsqueda proactiva y automatizaciones posteriores basadas en eventos de protección en tiempo real.
BehaviorEntities Contiene las entidades y artefactos asociados a comportamientos, como agentes, usuarios, herramientas y recursos. Correlacionar comportamientos con entidades relacionadas para investigar el ámbito de los eventos de protección en tiempo real.

Pasos siguientes

  • Last updated on