Protección en tiempo de ejecución del agente de IA con Microsoft Defender para punto de conexión (versión preliminar)

Los agentes de inteligencia artificial locales, incluidos los asistentes de codificación, las herramientas de la CLI, las aplicaciones de inteligencia artificial de escritorio y las plataformas de agente autónomos, se ejecutan con privilegios de usuario en los puntos de conexión. Estos agentes actúan sobre el texto de prompts, archivos, contenido web y la salida de herramientas. No pueden separar de forma fiable el contenido confiable de las instrucciones ocultas. Una única instrucción insertada puede hacer uso indebido del acceso del agente para filtrar datos, modificar código o ejecutar comandos dañinos.

Microsoft Defender proporciona protección del tiempo de ejecución del agente de IA inspeccionando puntos críticos en el bucle del agente donde el contenido entra o sale del razonamiento del agente. Esto ayuda a detectar indicaciones malintencionadas y las acciones dañinas de los agentes que estos pueden causar, auditarlas y bloquear acciones antes de que se ejecuten cuando el método de inspección lo permita. Defender utiliza dos enfoques de inspección: inspección de eventos nativa del agente para agentes que exponen interfaces de eventos admitidas por el proveedor, e inspección de red para rutas de red cubiertas. Para saber más sobre cómo la protección en tiempo de ejecución audita y bloquea ataques, consulta Qué detecta la protección en tiempo de ejecución y cómo funciona.

Aprende qué detiene la protección en tiempo de ejecución, cómo funciona y cómo investigar las detecciones.

Qué detecta la protección en tiempo de ejecución

La protección en tiempo de ejecución ayuda a proteger contra ataques que involucran prompts maliciosos y el consiguiente compromiso del comportamiento del agente. Defender inspecciona puntos críticos en el bucle agente donde el contenido entra o sale del razonamiento del agente y detecta ataques independientemente de dónde se originó el contenido, ya sea un archivo, una página web, un repositorio o la salida de una herramienta.

Por ejemplo, un agente de codificación captura la documentación de un proyecto para responder a una pregunta y la página contiene texto oculto que indica al agente que lea el archivo .env local y publique su contenido en una dirección URL externa. El agente trata la instrucción como parte de la página y está a punto de acatarla, pero Defender detecta la inyección de solicitudes en la respuesta de la herramienta y bloquea la acción antes de que los datos salgan del dispositivo.

Cómo funciona

La protección en tiempo de ejecución utiliza dos enfoques para inspeccionar la actividad del agente: inspección de eventos nativos del agente e inspección de red.

Inspección de eventos nativos del agente

La inspección de eventos nativos del agente usa interfaces de eventos compatibles con el proveedor expuestas por el agente. Agentes como Claude Code, Codex CLI y GitHub Copilot CLI exponen estas interfaces, y Defender las utiliza para inspeccionar la actividad de los agentes y aplicar decisiones de auditoría o bloqueos en momentos críticos del flujo de trabajo del agente.

Defender escanea la actividad disponible del agente en busca de indicaciones maliciosas y acciones de alto riesgo. Dependiendo de las interfaces de eventos que soporte el agente, Defender puede impedir que el contenido malicioso continúe a través del bucle del agente o evitar que una acción dañina de la herramienta se ejecute.

Cada escaneo es una comprobación rápida en línea en lugar de una monitorización continua del proceso del agente, por lo que la latencia adicional es mínima.

Inspección de red

La inspección de red amplía la protección en tiempo de ejecución a los agentes que no exponen interfaces de eventos nativos del agente. En lugar de depender de eventos estructurados de agentes, Defender inspecciona los flujos de red agent-to-Large Language Model (LLM) cubiertos por la matriz de soporte para detectar inyección de prompt en tránsito.

Utilice la inspección de red cuando desee proteger a los agentes que se comunican con servicios LLM a través de la red, pero que no exponen una interfaz de eventos admitida por el proveedor. Este enfoque ayuda a cerrar la brecha de cobertura para agentes que de otro modo no tendrían protección en tiempo de ejecución antes o durante la interacción con el modelo.

¿Qué ocurre cuando se habilita la protección en tiempo de ejecución?

Una vez habilitado en un dispositivo, Defender inspecciona la actividad del agente en los puntos de inspección disponibles, sin cambiar la forma en que los usuarios ejecutan el agente. Lo que sucede después de una detección depende del modo configurado:

• Bloquear: Defender bloquea la amenaza y sigue las reglas de notificación configuradas para el dispositivo. Defender notifica al usuario tanto en la interfaz de usuario del agente como mediante una notificación emergente de Windows. La detección se registra en el historial de protección de Defender en el dispositivo y se envía una alerta de seguridad a Defender, correlacionada con incidentes para que el SOC investigue.
• Auditoría: Defender permite que la acción continúe y registre la detección. Se sigue generando una alerta de seguridad en Defender para su investigación.
• Deshabilitado: La protección en tiempo de ejecución está desactivada. Defender no inspecciona la actividad del agente y los agentes se ejecutan sin detección o bloqueo de inyección de solicitudes.

Microsoft recomienda empezar en modo de auditoría para observar las detecciones y validar la precisión antes de cambiar al modo de bloqueo para la aplicación activa. La configuración de protección en tiempo de ejecución está protegida por la protección contra alteraciones, que evita cambios no autorizados y funciona junto con los controles de Defender existentes.

Para opciones de configuración local de PowerShell y de Microsoft Intune a nivel organizacional, consulta Configurar protección en tiempo de ejecución de agentes de IA con Microsoft Defender para punto de conexión.

Investigación

Cuando la protección en tiempo de ejecución detecta la inyección de mensajes, Defender genera una alerta de inyección de mensajes de inteligencia artificial sospechosa y correlaciona la actividad relacionada con incidentes para su investigación.

Para ver el flujo de trabajo de investigación completo, incluidas las experiencias de usuario y SOC, consulte Revisión e investigación de detecciones.

Agentes compatibles

Para la cobertura por agente, modo, método de inspección, versión mínima y documentación de ganchos de proveedores, consulte la matriz de soporte de agentes de IA de Microsoft Defender para punto de conexión.

Funcionalidades de seguridad de inteligencia artificial más amplias

Las funcionalidades de protección en tiempo de ejecución de Defender forman parte de un enfoque de seguridad de inteligencia artificial completo. Defender ofrece otras capacidades en el ecosistema de IA de tu organización:

• Descubre agentes de IA locales: Detecta agentes de IA locales y sus servidores MCP configurados en tus dispositivos después de que Defender observe la actividad de los agentes. Para obtener más información, consulte Detección de agentes de IA locales con Microsoft Defender para Endpoint.
• Descubra agentes de plataforma y nube: busque agentes creados con Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock y Google Cloud Platform (GCP) Vertex AI.
• Evaluar la posición de seguridad: evalúe las configuraciones del agente, identifique los riesgos, obtenga recomendaciones prioritarias y rutas de ataque superficiales.
• Detectar e investigar amenazas: Correlaciona las alertas e investiga el comportamiento sospechoso de los agentes en tu infraestructura de seguridad.

Para obtener más información sobre estas funcionalidades y cómo aplicarlas, consulte Protección de los recursos de inteligencia artificial frente a amenazas y vulnerabilidades emergentes mediante Microsoft Defender.

Contenido relacionado

• Configuración de la protección en tiempo de ejecución del agente de inteligencia artificial con Microsoft Defender para punto de conexión
• Detección de agentes de inteligencia artificial local con Microsoft Defender para punto de conexión