Evalúa el riesgo de inteligencia artificial de tu organización con el Tablero de Seguridad de Microsoft para IA.

El Panel de seguridad de Microsoft para IA es un panel de seguridad unificado que ayuda a los líderes de seguridad a comprender y abordar el riesgo de ia en su organización. El panel equipa el liderazgo con una herramienta de gobernanza que proporciona información de seguridad de inteligencia artificial clara y completa y responde a las preguntas más urgentes sobre el riesgo de ia, entre las que se incluyen:

  • ¿Qué recursos de inteligencia artificial existen en nuestro entorno?
  • ¿Cuál es su posición de seguridad actual?
  • ¿Dónde debemos tomar medidas?

En este artículo se explican las funcionalidades principales del panel de seguridad para la inteligencia artificial y cómo usar el panel para administrar la seguridad de la inteligencia artificial en toda la empresa.

Visibilidad y administración de la seguridad de la inteligencia artificial de un extremo a otro

El panel de seguridad para ia proporciona una vista en tiempo real de la posición de seguridad de la inteligencia artificial y el riesgo en las soluciones de seguridad de Microsoft, como Microsoft Entra, Microsoft Purview y Microsoft Defender, lo que permite la gobernanza proactiva y la protección contra amenazas reactiva. Esto permite a los equipos de seguridad seguir usando las herramientas que confían al tiempo que permiten a los líderes de seguridad gobernar y colaborar sin problemas.

El panel proporciona:

  • Visibilidad en tiempo real del riesgo de IA: Información agregada en Microsoft Entra, Defender y Purview.
  • Inventario completo de recursos de INTELIGENCIA ARTIFICIAL: el panel cubre las soluciones de Inteligencia artificial de Microsoft, como Microsoft 365 Copilot, agentes de Microsoft Copilot Studio y aplicaciones y agentes de Microsoft Foundry, así como modelos, aplicaciones y agentes de inteligencia artificial de terceros, como Google Gemini, OpenAI ChatGPT y servidores MCP.
  • Recomendaciones y rutas de corrección: integración directa con las herramientas de productividad y los portales profesionales de Microsoft.
  • Información basada en inteligencia artificial: Microsoft Security Copilot proporciona avisos sugeridos que le ayudan a explorar en profundidad información clave y acceder rápidamente a evaluaciones de riesgos inteligentes, resúmenes y recomendaciones.
  • Informes ejecutivos: información de cumplimiento y análisis listos para la junta.

Captura de pantalla que muestra la página de Visión General del tablero de seguridad para IA.

Funcionamiento del panel de seguridad para la inteligencia artificial

Seguridad de Microsoft y los servicios de asociados proporcionan los sensores y señales que usa el panel. Si no ha implementado un servicio necesario, el panel le guía sobre qué funcionalidades faltan y cómo reforzar la seguridad de la inteligencia artificial.

Productos admitidos:

Producto Funcionalidades clave y información del panel
Microsoft Entra
  • Administración de identidades: gobernanza centralizada de identidades de usuario y aplicación
  • Acceso condicional: controles de acceso basado en riesgos para aplicaciones de inteligencia artificial
  • Privileged Identity Management: supervisión y control de acceso elevados
Para obtener más información, consulte ¿Qué es la plataforma de identidad del agente de Microsoft?
Microsoft Defender
  • Detección de amenazas: supervisión continua y observabilidad de agentes y cargas de trabajo de IA
  • Protección en tiempo real: el bloqueo de acciones peligrosas iniciadas por agentes de inteligencia artificial para aquellos agentes que son compatibles
  • Posición de seguridad en la nube: evaluación de vulnerabilidades de infraestructura
  • Seguridad de la aplicación: evaluación de riesgos de aplicaciones saaS AI
Para obtener más información, consulte Proteger los activos de IA de amenazas emergentes y vulnerabilidades utilizando Microsoft Defender.
Microsoft Purview
  • Clasificación de datos: etiquetado automatizado y protección de datos accesibles por IA
  • Prevención de pérdida de datos: Prevención de la exposición de información confidencial a través de la inteligencia artificial
  • Administración de riesgos internos: detección de patrones anómalos de uso de inteligencia artificial
Para obtener más información, consulte Protección de cumplimiento y seguridad de datos de Microsoft Purview para aplicaciones de IA generativas.
Microsoft Security Copilot
  • Exploración basada en indicaciones: Explore los riesgos de la inteligencia artificial, la actividad de los agentes y las recomendaciones de seguridad mediante indicaciones.
  • Perspectivas mejoradas del riesgo de IA: Agrupar señales en Microsoft y soluciones de seguridad de socios para un análisis más profundo
  • Descubrimiento y categorización de agentes mejorados: mejorar la identificación de agentes administrados, no administrados y de IA ocultos para fortalecer su postura de seguridad de IA
Para obtener más información, consulte ¿Qué es Microsoft Security Copilot?

Permissions

En las tablas de esta sección se describen los niveles de acceso a datos para los roles integrados de Microsoft Entra. Para obtener más información sobre los roles de Microsoft Entra, consulte Roles integrados de Microsoft Entra.

Importante

Lector de Seguridad es el rol mínimo de Microsoft Entra necesario para ver todo el panel de seguridad para los datos de IA y asignar recomendaciones de seguridad. Se recomienda este rol para CISO y los líderes de seguridad que necesiten visibilidad completa de la postura de seguridad de IA sin necesidad de permisos administrativos a nivel de inquilino, como las directivas de edición.

Permisos de página de información general

Estos roles pueden ver datos en las tarjetas de resumen de la página Información general .

Tarjeta de resumen Lector de seguridad Administrador de IA Administrador de cumplimiento Administrador de seguridad Lector global Administrador de ID de Agente Administrador del Registro de Agentes
Inventario de IA ✅ ✅ ✅ ✅ ✅ ❌ ❌
Riesgo de IA: configuraciones incorrectas y rutas de ataque ✅ ❌ ❌ ✅ ✅ ❌ ❌
IA: Riesgo de agentes con interacciones confidenciales ✅ ✅ ✅ ✅ ✅ ❌ ❌

Estos roles pueden ver todas las instrucciones y asignar tareas en la página Información general , como se describe en Revisar y asignar recomendaciones de seguridad, pero no pueden ver el estado de la recomendación a menos que se especifique lo siguiente:

Categoría de recomendación Lector de seguridad Administrador de IA Administrador de cumplimiento Administrador de seguridad Lector global Administrador de ID de Agente Administrador del Registro de Agentes
Evitar la expansión de agentes y el acceso no autorizado (Microsoft Entra) ✅ ✅ ✅ ✅ Excepto Configurar recopilación global en el registro del agente Entra ✅ ❌ ❌
Evitar fugas de datos y uso compartido excesivo (Microsoft Purview) ✅ ✅ Excepto Habilitar la auditoría de Microsoft Purview ✅ ✅ Excepto Habilitar la auditoría de Microsoft Purview ✅ ✅ Activar solo el cumplimiento de comunicaciones, la administración de riesgos internos y la administración del ciclo de vida de los datos ✅ Activar solo el cumplimiento de comunicaciones, la administración de riesgos internos y la administración del ciclo de vida de los datos
Abordar el riesgo y la vulnerabilidad de inteligencia artificial (Microsoft Defender) ✅ ✅ ✅ ✅ Excepto Habilitar la gobernanza de las aplicaciones ✅ ❌ ❌

Permisos de página de inventario de IA

Estos roles pueden ver los datos en la página de inventario de IA , como se describe en Exploración de recursos de IA y administración de riesgos de seguridad de recursos.

Tipo de recurso Lector de seguridad Administrador de IA Administrador de cumplimiento Administrador de seguridad Lector global Administrador de ID de agente Administrador del Registro de Agentes
Agentes de IA ✅ ✅ ✅ ✅ ✅ ❌ ❌
Modelos de inteligencia artificial ✅ ❌ ❌ ✅ ✅ ❌ ❌
Servidores MCP ✅ ❌ ✅ ✅ ✅ ❌ ❌
Otras aplicaciones de inteligencia artificial ✅ ❌ ✅ ✅ ✅ ❌ ❌

Permisos de riesgos de IA en la página

Estos roles pueden ver los datos en la página de riesgo de IA, tal como se describe en Ver y priorizar los riesgos de seguridad de la inteligencia artificial en toda la organización.

Categoría de riesgo Lector de seguridad Administrador de IA Administrador de cumplimiento Administrador de seguridad Lector global Administrador de ID de Identificación del Agente Administrador del Registro de Agentes
Riesgo de identidad y acceso ✅ ✅ ✅ ✅ ✅ ❌ ❌
Riesgo de seguridad de datos ✅ ✅ ✅ ✅ ✅ ❌ ❌
Riesgo de seguridad en la nube ✅ ❌ ✅ ✅ ✅ ❌ ❌
Configuraciones incorrectas y rutas de acceso a ataques ✅ ❌ ❌ ✅ ✅ ❌ ❌
Agentes con interacciones confidenciales ✅ ✅ ✅ ✅ ✅ ❌ ❌

Revisión y asignación de recomendaciones de seguridad

La página Información general del panel proporciona información clave sobre los recursos de inteligencia artificial y los riesgos de seguridad relacionados. También evalúa la implementación de la seguridad de Microsoft para las funcionalidades de inteligencia artificial de su organización y proporciona recomendaciones para mejorar la posición de seguridad de la inteligencia artificial de su organización.

Cada recomendación muestra su estado actual, como Not started o Completed y pertenece a una categoría de recomendación asociada a un producto de Seguridad de Microsoft (Microsoft Entra, Microsoft Purview o Microsoft Defender). Seleccione una categoría de recomendación para expandirla y ver recomendaciones individuales.

Asigna una recomendación

Para asignar la implementación de una recomendación a un usuario o grupo específico:

  1. Seleccione una recomendación en la página Información general .

    Captura de pantalla que muestra la página Información general con una de las recomendaciones de seguridad resaltadas.

  2. En la página de detalles de recomendación, seleccione Asignar.

    Captura de pantalla que muestra la página de detalles de la recomendación con el botón Asignar resaltado.

  3. En la página Detalles de la asignación , configure lo siguiente:

    • Asignar a: seleccione Asignar a un usuario o grupo para elegir un receptor.
    • Fecha de vencimiento: establezca una fecha de vencimiento para la recomendación. El panel muestra una cuenta atrás que muestra el número de días restantes.
    • Crear una notificación: elija cómo notificar al receptor: Teams, Correo electrónico o No crear una notificación. Al guardar la asignación, se crea una notificación rellenada previamente que se puede editar y enviar.

    Captura de pantalla del cuadro de diálogo de detalles de la asignación, con el asignatario, la fecha de vencimiento, las opciones de notificación y el botón Guardar asignación resaltados.

  4. Seleccione Guardar asignación. La página de detalles de recomendación muestra ahora una tarjeta Delegado a con el asignatario, la cuenta atrás de la fecha de vencimiento y los detalles de la asignación. Para actualizar o quitar la asignación, seleccione Administrar asignación.

    Captura de pantalla del cuadro de diálogo Detalles de la asignación que muestra la selección del receptor, la fecha de vencimiento, las opciones de notificación y el botón Administrar asignación.

Las recomendaciones asignadas muestran un indicador asignado en la página Información general .

Omitir una recomendación

Si una recomendación no es relevante para su organización, puede omitirla para mantener el panel centrado en elementos accionables:

  1. En la página de detalles de la recomendación, seleccione los puntos suspensivos (...) situados junto al botón Asignar .

    Captura de pantalla del cuadro de diálogo de detalles de recomendación con los pasos de Activar prevención de pérdida de datos, el botón Asignar, el menú de puntos suspensivos y Omitir esta recomendación resaltados.

  2. Seleccione Omitir esta recomendación.

Las recomendaciones omitidas se ocultan en la vista predeterminada. Para ver o restaurar recomendaciones omitidas, seleccione Mostrar recomendaciones omitidas en la página Información general .

Exploración de recursos de inteligencia artificial y administración de riesgos de seguridad de recursos

La página AI inventario del panel proporciona vistas detalladas para ayudarle a detectar recursos de inteligencia artificial, evaluar riesgos e implementar acciones de corrección en los agentes de IA registrados en Microsoft Agente 365, así como los modelos de IA, los servidores MCP y las aplicaciones de INTELIGENCIA artificial de su organización.

Lo que se incluye en el inventario de IA

El panel inventaria los activos de IA expuestos por los servicios subyacentes de Microsoft. La cobertura y la terminología se definen mediante esos servicios de origen: en la tabla siguiente se resume lo que significa cada tipo de recurso en el panel y lo que está en el ámbito.

Tipo de recurso Lo que significa en el panel de control Origen de cobertura Aprende más
Agentes de IA Entidades de software que realizan tareas en nombre de los usuarios, normalmente mediante modelos y herramientas de IA. Agentes registrados en Microsoft Agent 365. ¿Qué es Microsoft Agent 365?
Modelos de inteligencia artificial Ia generativa y otros modelos implementados en su entorno, incluidos los que impulsan a los agentes y aplicaciones de IA. Modelos detectados por Microsoft Defender. Proteja los activos de IA usando Microsoft Defender
Servidores MCP y otras aplicaciones de inteligencia artificial Aplicaciones SaaS AI y servidores de Protocolo de Contexto de Modelo (MCP) usados en su organización. Aplicaciones y servidores detectados por Microsoft Defender. Protege los activos de IA con Microsoft Defender

Los recursos que no están registrados en Microsoft Agente 365 o que no están visibles para Microsoft Defender no aparecen en el inventario. Para expandir la cobertura, registre agentes adicionales en el Agente 365 y asegúrese de que Microsoft Defender se implementa en todo el entorno.

Para detectar y administrar los riesgos de seguridad de los recursos de inteligencia artificial:

  1. Seleccione Inventario de IA para revisar los recursos de IA detectados en su organización.
  2. Aplique filtros para centrarse en determinados tipos de activos o niveles de riesgo.
  3. Seleccione cualquier recurso de IA para ver información detallada, revisar la configuración de seguridad y el estado de cumplimiento, y analizar los patrones de acceso de usuario y las interacciones de datos.
  4. Seleccione Exportar para exportar vistas filtradas para el análisis y los informes de destino.

Agentes de IA

La pestaña AI agents de la AI inventory presenta agentes de inteligencia artificial registrados en Microsoft Agent 365 y proporciona información clave de Microsoft Entra Agent Registry y Administración de postura de seguridad de datos de Microsoft Purview (DSPM) para AI.

Captura de pantalla que muestra la pestaña Agentes de la página de inventario de IA del Panel de seguridad para IA.

Seleccione un agente de IA para ver los detalles y las actividades del agente. Seleccione Ver todas las actividades para abrir el Explorador de actividades en DSPM para IA y revisar la actividad del agente relacionada con el contenido que contiene información confidencial o tiene etiquetas aplicadas.

Captura de pantalla que muestra la página Descripción general del agente del Panel de Seguridad para IA.

Modelos de IA

La pestaña AI models de la AI inventory presenta los modelos de IA detectados por Microsoft Defender en todo el entorno. Seleccione Mostrar más en Defender para abrir el inventario de recursos en la nube de Microsoft Defender para obtener información detallada y la mitigación de riesgos.

Captura de pantalla que muestra la página Modelos de IA del Panel de seguridad para IA.

Servidores MCP y otras aplicaciones de inteligencia artificial

Vea y administre la seguridad de los servidores MCP y otras aplicaciones de inteligencia artificial detectadas por Microsoft Defender en todo el entorno. Seleccione Mostrar más en Defender para abrir el inventario de aplicaciones Microsoft Defender for Cloud Apps para obtener información detallada y mitigación de riesgos.

Captura de pantalla que muestra la página Otras aplicaciones de IA del Panel de seguridad para IA.

Visualización y prioridad de los riesgos de seguridad de la inteligencia artificial en toda la organización

La página de riesgo de IA del panel ofrece una vista consolidada de los riesgos de seguridad relacionados con la inteligencia artificial, incluidos los riesgos de identidad y acceso, los riesgos de seguridad de datos y los riesgos de seguridad en la nube, lo que le permite priorizar y abordar amenazas eficazmente. Cada categoría de riesgo se vincula directamente al producto de Seguridad de Microsoft correspondiente para la corrección.

Para investigar y corregir los riesgos de seguridad de la inteligencia artificial:

  1. Revise las tarjetas de resumen de riesgos para obtener prioridades inmediatas, examine los gráficos de tendencias para identificar amenazas emergentes y use las indicaciones sugeridas de Microsoft Security Copilot para explorar escenarios de riesgo complejos.
  2. Seleccione Ver en Microsoft Purview, Ver en Microsoft Defender o Ver detalles en Entra para navegar al producto Seguridad de Microsoft pertinente para obtener un análisis de riesgos detallado y su corrección.

Captura de pantalla que muestra la página de riesgo de IA del Panel de seguridad para IA.

  • Last updated on