Comprender el contexto de la aplicación y del usuario final para las alertas de inteligencia artificial

la protección contra amenazas de Microsoft Defender para la nube para los servicios de inteligencia artificial le permite mejorar la capacidad de acción y el valor de seguridad de las alertas de IA generadas al proporcionar tanto el contexto del usuario final como de la aplicación.

La mayoría de los escenarios de servicio de IA se crean como parte de una aplicación, por lo que las llamadas API al servicio de IA se originan desde una aplicación web, una instancia de proceso o una puerta de enlace de IA. Esta arquitectura mediada por aplicaciones introduce complejidad porque los investigadores carecen de contexto al revisar solicitudes de IA para determinar la aplicación empresarial o el usuario final implicado.

Juntos, Microsoft Defender para la nube y Azure IA permiten agregar parámetros a las llamadas api de IA de Azure para que Defender for Cloud pueda capturar el contexto crítico del usuario final o de la aplicación en las alertas de IA. Capturar el contexto del usuario final y de la aplicación en alertas de IA conduce a una triaje y resultados más efectivos. Por ejemplo, al agregar una dirección IP o identidad de usuario final, puede bloquear ese usuario o correlacionar incidentes y alertas por ese usuario. Al agregar contexto de aplicación, puede priorizar o determinar si el comportamiento sospechoso es estándar para esa aplicación en la organización.

Prerequisites

• Lea la información sobre la protección contra amenazas de IA.

• Habilite la protección contra amenazas para los servicios de inteligencia artificial en una aplicación de IA, con el modelo subyacente de Azure OpenAI directamente a través del servicio Azure OpenAI. Tenga en cuenta que esta característica no se admite actualmente al aplicar modelos consumidos a través de la API de inferencia de modelos de Azure AI.

Adición de parámetros de seguridad a la llamada de Azure OpenAI

Para recibir alertas de seguridad de inteligencia artificial con más contexto, puede agregar cualquiera o todos los parámetros de ejemplo siguientes UserSecurityContext a las llamadas API de Azure OpenAI.

Todos los campos del UserSecurityContext son opcionales.

Para el contexto del usuario final, se recomienda pasar los campos EndUserId y SourceIP como mínimo. Los campos EndUserId y SourceIP proporcionan a los analistas del centro de operaciones de seguridad (SOC) la capacidad de investigar incidentes de seguridad que implican recursos de inteligencia artificial y aplicaciones de IA generativas.

Para el contexto de la aplicación, pase el applicationName campo como una cadena simple.

Si el nombre de cualquier UserSecurityContext campo está mal escrito, la llamada a la API de OpenAI de Azure sigue teniendo éxito.

Esquema UserSecurityContext

El esquema exacto se puede encontrar en la documentación de referencia de la API de REST de Azure OpenAI.

El objeto de contexto de seguridad de usuario forma parte del cuerpo de la solicitud de la API de finalización del chat.

Actualmente no se soporta añadir UserSecurityContext parámetros para el enriquecimiento de alertas de Defender for Cloud al aplicar modelos desplegados a través de la API de inferencia de modelos de IA de Azure.

APIs compatibles y versiones del SDK

La siguiente tabla lista las APIs y versiones del SDK soportadas para UserSecurityContext.

Paso siguiente