Procedimientos recomendados de seguridad de Azure AI

En este artículo se proporcionan procedimientos recomendados para proteger cargas de trabajo de inteligencia artificial (IA) específicamente en Azure. A medida que las organizaciones adoptan funcionalidades de inteligencia artificial a una velocidad sin precedentes, los equipos de seguridad deben obtener visibilidad proactiva del uso de la inteligencia artificial e implementar controles adecuados para mitigar los riesgos.

Este artículo se centra en las consideraciones de seguridad de inteligencia artificial específicas de Azure. Para obtener una orientación integral e independiente de la plataforma sobre la seguridad de la IA, incluida la estrategia organizativa, los marcos de gobernanza y todo el ciclo de vida de la seguridad de la IA, consulte Seguridad para la IA en la documentación de Seguridad de Microsoft.

Este artículo es un complemento del modelo de responsabilidad compartida de IA y del modelo de responsabilidad compartida de agentes de IA, que explican la división de responsabilidades de seguridad entre tú y Microsoft para cargas de trabajo de IA y agentes autónomos. Para ver los controles de seguridad prescriptivos con el cumplimiento de Azure Policy, consulte Microsoft Cloud Security Benchmark v2 - Artificial Intelligence Security.

Permitir visibilidad en las cargas de trabajo y uso de IA

Para poder proteger las cargas de trabajo de inteligencia artificial, necesita visibilidad sobre qué aplicaciones de inteligencia artificial se usan y se integran en su organización.

  • Utiliza Microsoft Defender para la nube para descubrir cargas de trabajo de IA en tu entorno Azure. El plan Defender Cloud Security Posture Management (CSPM) proporciona capacidades de gestión de la postura de seguridad de la IA, incluidas la detección de la lista de materiales de IA generativa (AI BOM), recomendaciones de seguridad integradas y análisis de rutas de ataque. Para más información, consulte Administración de la posición de seguridad de la inteligencia artificial con Defender for Cloud.

  • Utiliza Microsoft Defender for Cloud Apps para descubrir aplicaciones de IA SaaS. El catálogo de Defender for Cloud Apps incluye más de mil aplicaciones de IA generativa. Puede ver las evaluaciones de riesgos, autorizar o bloquear aplicaciones y crear directivas para detectar nuevas aplicaciones de IA. Para obtener más información, consulte Gobernanza de aplicaciones detectadas.

  • Rastrea las identidades de los agentes de IA con Agente de Microsoft Entra ID. Agente de Microsoft Entra ID proporciona un directorio unificado de identidades de agentes creadas en Microsoft Copilot Studio y Fundición de IA de Azure, ayudándote a gestionar el ciclo de vida y los permisos de los agentes.

Protección de las implementaciones del servicio Azure OpenAI

El servicio Azure OpenAI proporciona acceso a la API REST a modelos de lenguaje eficaces. Proteger estas implementaciones es fundamental para proteger los datos y evitar el uso indebido.

  • Utiliza endpoints privados para aislar la red. Configura Azure OpenAI Service para que use endpoints privados, eliminando el endpoint público y restringiendo el acceso a tu red virtual. Para más información, consulte Configuración de red y acceso para Azure OpenAI.

  • Usa la identidad gestionada para la autenticación. Configura las aplicaciones para autenticarse usando identidades gestionadas por Microsoft Entra en lugar de claves API, eliminando la necesidad de gestionar y rotar secretos. Para obtener más información, consulte Configuración del servicio Azure OpenAI con autenticación de Id. de Microsoft Entra.

  • Implementa un filtrado de contenido multicapa. Despliega filtrado de contenido en múltiples etapas para crear una defensa en profundidad:

    • Filtrado de entrada: Utiliza Seguridad del contenido de Azure AI para analizar solicitudes en busca de contenido malicioso, incluidos intentos de inyección de instrucciones y ataques de evasión de restricciones.
    • Filtrado de salida: Configura el filtrado de contenido de Azure OpenAI para bloquear respuestas dañinas antes de la entrega.
    • Controles de la pasarela API: Utiliza Azure API Management para hacer cumplir la limitación de tasas y la validación del esquema.

Para más información, consulte Filtrado de contenido y Seguridad del contenido de Azure AI.

  • Utiliza metainstrucciones de seguridad para guiar el comportamiento del modelo. Diseñe indicaciones del sistema que definan claramente el papel del modelo, incluyan instrucciones explícitas para rechazar entradas maliciosas e indiquen al modelo que priorice las instrucciones del sistema sobre las entradas del usuario. Use técnicas de resaltado para aislar los datos que no son de confianza dentro de los avisos e integrar Prompt Shields para detectar intentos de jailbreak.

  • Monitoriza el uso con registros de diagnóstico. Activa el registro de diagnóstico para rastrear solicitudes de API, uso de tokens, resultados de filtrado de contenido y errores. Envíe registros a Azure Monitor para su análisis y alertas. Para más información, consulte Supervisión de Azure OpenAI.

Protección de Fundición de IA de Azure y Azure Machine Learning

Fundición de IA de Azure y Azure Machine Learning proporcionan plataformas para compilar e implementar aplicaciones de INTELIGENCIA ARTIFICIAL. Proteger estos entornos requiere atención al aislamiento de red, el control de acceso y la gobernanza del modelo.

  • Utiliza aislamiento de red gestionado. Crea hubs de Fundición de IA de Azure y espacios de trabajo de Azure Machine Learning con redes virtuales gestionadas que proporcionen endpoints privados para servicios dependientes y control de tráfico saliente. Para más información, consulte Aislamiento de red administrada para Fundición de IA de Azure y Configuración de un punto de conexión privado para Azure Machine Learning.

  • Implementa el control de acceso con privilegios mínimos. Configura RBAC usando roles integrados y asigna permisos a nivel de proyecto o espacio de trabajo. Utilice el identificador de agente de Microsoft Entra para la gestión de identidades de agentes de IA, aplicando tokens de acceso con ámbito definido y de corta duración para las funciones del agente. Para obtener más información, consulte Control de acceso basado en rol para Microsoft Foundry.

  • Despliega solo modelos de IA aprobados. Utiliza Azure Machine Learning Model Registry para hacer un seguimiento de la procedencia del modelo, el estado de verificación y el historial de aprobación. Configure el escaneo automatizado para validar la integridad del modelo y probar las entradas adversarias antes de la implementación. Implemente "[Versión preliminar]: Las implementaciones de Azure Machine Learning solo deben usar modelos de Registro aprobados" azure Policy para aplicar la gobernanza. Para obtener más información, consulte Administración e implementación de modelos.

  • Proteja los recursos informáticos. Configurar instancias de cómputo sin IPs públicas, usar autenticación de identidad gestionada, habilitar aislamiento de usuario para clústeres compartidos y cifrar discos con claves gestionadas por el cliente. Para más información, consulte Protección de un entorno de entrenamiento de Azure Machine Learning.

Implementación de la protección contra amenazas específica de la inteligencia artificial

Las cargas de trabajo de IA se enfrentan a amenazas únicas, como la inyección de solicitudes, los ataques de jailbreak y la manipulación del modelo. Implemente la detección de amenazas y las pruebas continuas diseñadas específicamente para la inteligencia artificial.

Integre el red teaming en las canalizaciones de CI/CD para validar la seguridad antes de la implementación. Prueba contra patrones de ataque conocidos de MITRE ATLAS, el OWASP Top 10 para aplicaciones LLM y el OWASP Top 10 para IA agente.

  • Implemente la intervención humana en el bucle para acciones críticas. Para operaciones de IA de alto riesgo, como transferencias externas de datos o cambios en la configuración del sistema, utiliza Azure Logic Apps o Power Automate para diseñar flujos de trabajo que se pausen para revisión y aprobación humana antes de la ejecución.

  • Vigila patrones de uso arriesgados de la IA. Utiliza Administración de riesgos internos de Microsoft Purview con la plantilla de política de uso de IA Riesgosa para detectar e investigar actividades de riesgo relacionadas con la IA. Para obtener más información, consulte Plantillas de directiva de administración de riesgos internos.

Protección de datos confidenciales en interacciones con ia

Las aplicaciones de inteligencia artificial suelen interactuar con datos confidenciales. Implemente controles de protección de datos para evitar la pérdida de datos y garantizar el cumplimiento.

  • Utiliza Administración de postura de seguridad de datos de Microsoft Purview (DSPM) para IA. DSPM para IA proporciona información sobre la actividad de IA, directrices preconfiguradas para proteger los datos en las solicitudes y evaluaciones de riesgos de datos por posible uso compartido excesivo. Para más información, consulte Administración de la posición de seguridad de datos para la inteligencia artificial.

  • Aplica etiquetas de sensibilidad y políticas DLP. Amplía las etiquetas de sensibilidad de Microsoft Purview a los datos a los que acceden las aplicaciones de IA y configura políticas DLP para detectar y bloquear datos sensibles en los avisos de IA. Para obtener más información, consulte Introducción las etiquetas de sensibilidad.

Gobernanza de la inteligencia artificial para el cumplimiento

Las aplicaciones de inteligencia artificial deben cumplir los requisitos normativos y las directivas organizativas.

  • Implementa controles responsables de IA. Sigue los principios responsables de IA de Microsoft en cuanto a equidad, transparencia, privacidad y rendición de cuentas. Para más información, consulte Microsoft Responsible AI Standard.

  • Mantén los registros de auditoría. Habilitar auditorías para servicios de IA: Auditoría de Microsoft Purview captura interacciones con Copilot, Azure Monitor rastrea el uso de servicios de IA de Azure y Defender for Cloud Apps monitoriza la actividad de IA SaaS. Para obtener más información, vea Actividades del registro de auditoría.

Pasos siguientes

  • Last updated on