Aceleración y protección de la adopción de la inteligencia artificial

En este artículo se explica cómo adoptar de forma rápida y segura la inteligencia artificial mediante principios de Confianza cero, como parte del modelo de adopción de Microsoft security.

Este escenario empresarial le ayuda a lograr el siguiente resultado:

Adopción rápida y segura de la tecnología de inteligencia artificial

Como líder empresarial, está bajo presión para adoptar la inteligencia artificial rápidamente para una ventaja competitiva, a la vez que protege a su organización frente a riesgos nuevos y en evolución.

Este escenario empresarial forma parte de nuestro modelo de adopción estructurado que le ayuda a lograr objetivos empresariales mediante un enfoque de seguridad moderno que se basa en Confianza cero principios.

Esta guía ayuda a las organizaciones a adoptar la inteligencia artificial de forma rápida y segura, a la vez que mantiene una seguridad sólida, protege los datos confidenciales y conserva la resistencia empresarial.

Funcionamiento de esta guía

Este artículo forma parte de un modelo de adopción estructurado que conecta la estrategia de seguridad a la implementación:

  • Comience con escenarios empresariales como este para definir el resultado que desea lograr.

  • Identidad de las materias de seguridad que se aplican a este escenario.

    Use esas materias para definir la estrategia, la arquitectura, los procesos y los controles necesarios para el escenario. Trabaje en cada materia para comprender qué es necesario planear, diseñar e implementar en toda la organización.

  • Use soluciones técnicas para implementar esos requisitos mediante tecnologías de Microsoft, aplicando controles en pilares de tecnología como la identidad y los datos.

Este enfoque garantiza que la adopción de la inteligencia artificial se proteja como parte de la arquitectura general de Confianza cero, en lugar de como un esfuerzo independiente.

¿Por qué la adopción de la inteligencia artificial requiere un nuevo enfoque?

Las tecnologías de inteligencia artificial generativa y los agentes de inteligencia artificial son potentes habilitadores empresariales, pero también introducen nuevas clases de riesgo. Estos incluyen (pero no están limitados a):

  • Aceleración y amplificación del riesgo de ciberseguridad existente mediante la inteligencia artificial.
  • Exposición de datos no deseada que provoca la pérdida de propiedad intelectual (IP) y ventaja competitiva.
  • Alteración de datos, registros o procesos a través de ataques como la intoxicación de datos.

Protección de la adopción de la inteligencia artificial

Para habilitar la inteligencia artificial de forma segura al administrar estos riesgos, las organizaciones deben hacer dos cosas en paralelo:

  • Tecnología de IA segura - Adopte nuevos controles y prácticas de seguridad diseñados para la IA, al tiempo que reprioriza las inversiones en seguridad existentes. Por ejemplo:

    • Clasifique y proteja los datos confidenciales para evitar la divulgación no autorizada a través de modelos, aplicaciones o usuarios de inteligencia artificial.
    • Aplique Confianza cero principios a las identidades de inteligencia artificial, el acceso y los flujos de datos.
    • Amplíe la supervisión y los controles de seguridad a las cargas de trabajo y los agentes con IA.

  • Uso de la inteligencia artificial para mejorar la seguridad : use la inteligencia artificial para aumentar la velocidad, la escala y la eficacia de las operaciones de seguridad, entre las que se incluyen:

    • Gestión de la postura de seguridad.
    • Detección y mitigación de vulnerabilidades.
    • Detección, investigación y respuesta de incidentes.
    • Habilitación de aptitudes para equipos de seguridad y TI.

Ambos son necesarios. La protección de la inteligencia artificial reduce el riesgo, mientras que el uso de inteligencia artificial para la seguridad ayuda a los equipos a seguir el ritmo del aumento del volumen de ataques y la sofisticación impulsados por la inteligencia artificial.

Valor empresarial

El valor de la adopción rápida y segura de la inteligencia artificial difiere según el rol, pero beneficia a toda la organización.

Roles Valor
Liderazgo empresarial Capture nuevas oportunidades y eficiencias al limitar los riesgos relacionados con la inteligencia artificial, como la pérdida de IP, los daños de reputación y la interrupción operativa.
Roles de tecnología Reduzca la frecuencia de incidentes, el impacto y el esfuerzo de recuperación, a la vez que reduce la fricción de los requisitos de seguridad y cumplimiento.
Roles de seguridad Mejore la eficacia y la eficacia de las operaciones de seguridad mediante el uso de inteligencia artificial para detectar amenazas más rápidas, priorizar los riesgos con mayor precisión y automatizar las tareas que consumen mucho tiempo.

Alinear las disciplinas de seguridad

Las materias de seguridad representan las áreas estructuradas de responsabilidad necesarias para ofrecer este escenario empresarial.

  • Las disciplinas de planificación y supervisión definen la estrategia, la gobernanza y la coordinación entre organizaciones necesarias.
  • Las materias de estrategia técnica definen las funcionalidades arquitectónicas, operativas y de control necesarias.
  • Las materias operativas garantizan que los controles de seguridad sigan siendo efectivos a lo largo del tiempo a través de la supervisión, la respuesta y la mejora continua. Detectan mal uso, responden a amenazas e impulsan mejoras en la posición de seguridad en curso.

Disciplinas de planeación y supervisión

Discipline Acción
Estrategia, integración y gobernanza Establezca o actualice los procesos entre equipos para garantizar un enfoque coordinado entre los equipos de seguridad, tecnología y negocio, entre los que se incluyen:

Defina una estrategia clara para proteger la inteligencia artificial y usar la inteligencia artificial para la seguridad.

Actualice la gobernanza, las directivas y los procesos para abordar los riesgos específicos de la inteligencia artificial.

Aprenda y adapte continuamente a medida que evolucionan las funcionalidades y amenazas de inteligencia artificial.
Arquitectura de seguridad de un extremo a otro Asegúrese de que la arquitectura de seguridad, los controles técnicos y las capacidades incluyan controles para las tecnologías de inteligencia artificial y su uso.

Impulsar un enfoque integrado que permita aplicar rápidamente las lecciones aprendidas en una área en toda la organización, manteniendo el ritmo de la velocidad del cambio controlado por inteligencia artificial.

Disciplinas de estrategia técnica

Discipline Acción
Acceso e identidades Asegúrese de que los agentes de inteligencia artificial y las aplicaciones usan identidades administradas y seguras.

Aplique el acceso con privilegios mínimos, informado por las prioridades empresariales y la inteligencia sobre amenazas.

Habilite el registro completo y la detección de anomalías para admitir una respuesta y recuperación rápidas.
Seguridad de la infraestructura Utilice el modelado de amenazas para evaluar y mitigar los riesgos introducidos por la infraestructura de IA y las aplicaciones habilitadas por IA.

Aplique inteligencia artificial para mejorar la detección de vulnerabilidades, la priorización y la corrección.

Asegúrese de funcionalidades sólidas de registro y detección.
Seguridad de desarrollo Evalúe los riesgos de las aplicaciones introducidos por los componentes de inteligencia artificial, incluidas las vulnerabilidades de software tradicionales y la ingeniería social o la manipulación basada en mensajes.

Use la inteligencia artificial para acelerar la detección y corrección de vulnerabilidades, guiada por la inteligencia sobre amenazas y riesgos empresariales.

Admita el registro de actividad y detección de actividades anómalas (posibles ataques) para permitir una respuesta y recuperación eficaces.
Seguridad de datos Clasifique y etiquete datos confidenciales para evitar que los modelos de inteligencia artificial ingeran o expongan de forma inapropiada.

Amplíe los controles de seguridad de datos, como la prevención de pérdida de datos (DLP) para cubrir las aplicaciones y agentes de inteligencia artificial.

Garantizar la visibilidad y la supervisión de amenazas relacionadas con los datos.

Admita el registro de actividad y detección de actividades anómalas (posibles ataques) para permitir una respuesta y recuperación eficaces.
Seguridad de OT e IoT Aplique el modelado de amenazas a las interacciones de ia con sistemas OT/IoT, especialmente cuando la inteligencia artificial afecta a los procesos físicos.

Priorice las protecciones y la supervisión en función del impacto empresarial y la inteligencia sobre amenazas.

Admita el registro de actividad y detección de actividades anómalas (posibles ataques) para permitir una respuesta y recuperación eficaces.

Disciplinas operativas

Discipline Acción
SecOps Prepárese para obtener una mayor calidad y un mayor volumen de técnicas de ataque establecidas.

Integre el análisis de inteligencia artificial para ampliar y aumentar las actividades humanas y las aptitudes para investigar, buscar y simular amenazas.

Use la inteligencia artificial para aumentar la preparación de las aptitudes de los analistas juniors. Priorice las actividades de seguridad mediante las prioridades empresariales y la información sobre inteligencia sobre amenazas.
Administración de la posición de seguridad Céntrese en la creación y maduración rápidas de esta materia para abordar el aumento de la calidad y el volumen de ataques acelerados por la inteligencia artificial.

Integre el uso de la inteligencia artificial para analizar más rápidamente los datos, identificar mitigaciones y aumentar la preparación de las aptitudes de los profesionales de administración de posturas.

Pilares técnicos necesarios

Los pilares tecnológicos representan las principales funcionalidades de seguridad Microsoft que admiten este escenario empresarial.

Pilar Purview Seguridad avanzada de GitHub
INTELIGENCIA ARTIFICIAL Microsoft Purview proporciona funcionalidades de seguridad y gobernanza de inteligencia artificial, como AI Hub para obtener visibilidad sobre el uso de la inteligencia artificial, las etiquetas de confidencialidad para el contenido generado por ia y los controles de cumplimiento para Copilot y otros servicios de inteligencia artificial. GitHub Advanced Security aplica el análisis de código con tecnología de inteligencia artificial a través de Copilot Autofijo para sugerir automáticamente correcciones de seguridad para vulnerabilidades identificadas, lo que acelera la corrección.

Pasos siguientes

Learn cómo proteger Microsoft Copilot.

  • Last updated on