Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
la protección contra amenazas de Microsoft Defender para la nube para los servicios de inteligencia artificial le permite mejorar la capacidad de acción y el valor de seguridad de las alertas de IA generadas al proporcionar tanto el contexto del usuario final como de la aplicación.
La mayoría de los escenarios de servicio de IA se crean como parte de una aplicación, por lo que las llamadas API al servicio de IA se originan desde una aplicación web, una instancia de proceso o una puerta de enlace de IA. Esta arquitectura mediada por aplicaciones introduce complejidad porque los investigadores carecen de contexto al revisar solicitudes de IA para determinar la aplicación empresarial o el usuario final implicado.
Juntos, Microsoft Defender para la nube y Azure IA permiten agregar parámetros a las llamadas api de IA de Azure para que Defender for Cloud pueda capturar el contexto crítico del usuario final o de la aplicación en las alertas de IA. Capturar el contexto del usuario final y de la aplicación en alertas de IA conduce a una triaje y resultados más efectivos. Por ejemplo, al agregar una dirección IP o identidad de usuario final, puede bloquear ese usuario o correlacionar incidentes y alertas por ese usuario. Al agregar contexto de aplicación, puede priorizar o determinar si el comportamiento sospechoso es estándar para esa aplicación en la organización.
Prerequisites
Lea la información sobre la protección contra amenazas de IA.
Habilite la protección contra amenazas para los servicios de inteligencia artificial en una aplicación de IA, con el modelo subyacente de Azure OpenAI directamente a través del servicio Azure OpenAI. Actualmente, esta función no es compatible con la aplicación de modelos consumidos a través de la API de inferencia de modelos de IA de Azure.
Adición de parámetros de seguridad a la llamada de Azure OpenAI
Para recibir alertas de seguridad de IA con más contexto, añade cualquiera o todos los siguientes parámetros de ejemplo UserSecurityContext a tus llamadas API de OpenAI de Azure.
Todos los campos del
UserSecurityContextson opcionales.Para proporcionar contexto al usuario final, pasa como mínimo los campos
EndUserIdySourceIP. LosEndUserIdcampos ySourceIPotorgan a los analistas del Centro de Operaciones de Seguridad (SOC) la capacidad de investigar incidentes de seguridad que involucran recursos de IA y aplicaciones de IA generativa.Para contexto de la aplicación, pasa el
applicationNamecampo como una cadena simple.
Si escribes mal el nombre de cualquier UserSecurityContext campo, la llamada a la API de OpenAI de Azure sigue teniendo éxito.
Note
Este EndUserId es el ID de objeto de usuario Microsoft Entra ID utilizado para autenticar a los usuarios finales en la aplicación de IA generativa. No incluyas información personal sensible en este campo.
Esquema UserSecurityContext
Puedes encontrar el esquema exacto en la documentación de referencia de la API REST de Azure OpenAI.
El objeto de contexto de seguridad de usuario forma parte del cuerpo de la solicitud de la API de finalización del chat.
Actualmente, la API no permite añadir UserSecurityContext parámetros para el enriquecimiento de alertas de Defender for Cloud cuando se aplican modelos desplegados a través de la API de inferencia de modelos de IA de Azure.
APIs compatibles y versiones del SDK
La siguiente tabla lista las APIs y versiones del SDK soportadas para UserSecurityContext.
| Source | Soporte de versiones | Ejemplo de código | Comments |
|---|---|---|---|
| API de REST de Azure OpenAI | versión 2025-01-01 | - | - |
| SDK de .NET para Azure | v2.2.0-beta.1 (2025-02-07) o posterior | Ejemplo de código de GitHub | - |
| SDK de Python de Azure | v1.61.1 o posterior | Ejemplo de código de GitHub | El soporte se proporciona añadiéndolo al objeto extra_body. |
| SDK de Azure para JS/Node.js | v4.83.0 o superior | Ejemplo de código de GitHub | El soporte se proporciona añadiéndolo al objeto extra_body. |
| SDK de Go de Azure | v0.7.2 o superior | - | - |