Tarjeta de aplicación: Investigaciones de seguridad de datos de Microsoft Purview

¿Qué es una tarjeta de aplicación o de plataforma?

Las tarjetas de aplicación y plataforma de Microsoft están diseñadas para ayudarle a comprender cómo funciona nuestra tecnología de inteligencia artificial, las opciones que los propietarios de aplicaciones pueden hacer que influya en el rendimiento y el comportamiento de la aplicación, y la importancia de tener en cuenta toda la aplicación, incluida la tecnología, las personas y el entorno. Las tarjetas de aplicación se crean para aplicaciones de inteligencia artificial y las tarjetas de plataforma se crean para los servicios de plataforma de IA. Estos recursos pueden admitir el desarrollo o la implementación de sus propias aplicaciones y pueden compartirse con usuarios o partes interesadas afectados por ellas.

Como parte de su compromiso con la inteligencia artificial responsable, Microsoft se adhiere a seis principios básicos: equidad, confiabilidad y seguridad, privacidad y seguridad, inclusión, transparencia y responsabilidad. Estos principios se insertan en la Standard de inteligencia artificial responsable, que guía a los equipos en el diseño, la compilación y la prueba de aplicaciones de inteligencia artificial. Las tarjetas de plataforma y aplicación desempeñan un papel clave en la puesta en marcha de estos principios al ofrecer transparencia en cuanto a las funcionalidades, los usos previstos y las limitaciones. Para obtener más información, se anima a los lectores a explorar el informe de transparencia de IA responsable de Microsoft y el código de conducta, que describen cómo los clientes empresariales y los usuarios pueden interactuar con la inteligencia artificial de forma responsable.

Información general

Investigaciones de seguridad de datos de Microsoft Purview es una aplicación de investigación habilitada para inteligencia artificial para equipos de ciberseguridad y seguridad de datos. Ayuda a las organizaciones a analizar los datos asociados a posibles infracciones, incidentes internos y eventos de filtración mediante la combinación de búsqueda, análisis de inteligencia artificial y planeamiento de mitigación en un flujo de trabajo. La aplicación usa la inteligencia artificial generativa para identificar riesgos de contenido confidencial, priorizar elementos de alto impacto y generar recomendaciones que admitan la contención y la corrección.

La aplicación está diseñada para reducir el tiempo y la complejidad en investigaciones posteriores a la vulneración y de alto riesgo. En lugar de revisar manualmente conjuntos muy grandes de archivos, correos electrónicos y mensajes, los analistas pueden usar herramientas de búsqueda vectorial, categorización y examen para centrarse primero en el contenido más relevante y arriesgado. Esto mejora la eficacia de la evaluación de prioridades, admite la coordinación entre equipos y ayuda a las organizaciones a tomar medidas oportunas, como el planeamiento de mitigación controlado por investigación y las operaciones de purga.

Investigaciones de seguridad de datos está pensado para clientes empresariales y usuarios de nivel inferior, como analistas de seguridad, respondedores de incidentes, investigadores de amenazas y equipos de protección de datos. La documentación clave incluye Información sobre Investigaciones de seguridad de datosanálisis de inteligencia artificial de amd En Investigaciones de seguridad de datos.

Términos clave

En la lista siguiente se proporciona un glosario de términos clave relacionados con Investigaciones de seguridad de datos de Microsoft Purview:

  • Categorización: funcionalidad de inteligencia artificial que agrupa el contenido de investigación con ámbito en categorías predeterminadas, personalizadas o sugeridas por IA para acelerar la priorización. Standard y opciones de procesamiento avanzadas ayudan a los analistas a pasar de una amplia evaluación de prioridades a una agrupación en clústeres de nivel de tema más profunda.
  • Examen: un modo de análisis de inteligencia artificial que realiza una revisión de nivel de elemento centrada para áreas como las credenciales, el riesgo y la guía de mitigación. Los resultados del examen ayudan a los investigadores a comprender la gravedad y las siguientes acciones recomendadas.
  • Ámbito de investigación: conjunto de elementos de contenido seleccionados para su revisión y análisis en una investigación.
  • Plan de mitigación: un conjunto estructurado de acciones para los elementos identificados como de alta prioridad durante la investigación. Ayuda a los analistas a realizar un seguimiento y ejecutar tareas de corrección y reducción de riesgos.
  • Purga (suave/dura): una acción de mitigación para quitar elementos de riesgo identificados en una investigación. La purga temporal mueve los elementos a ubicaciones recuperables, mientras que la purga dura elimina permanentemente los elementos.
  • Puntuación de riesgo: puntuación generada durante el examen que ayuda a los analistas a priorizar el contenido en función del posible impacto en la seguridad. Admite las decisiones de escalado y evaluación de prioridades.
  • Búsqueda de inteligencia artificial (versión preliminar): una experiencia de búsqueda aumentada por recuperación que combina la recuperación semántica con resúmenes y citas generados por IA. Ayuda a los analistas a evaluar si los resultados de la búsqueda coinciden con la intención de investigación.
  • Búsqueda vectorial: método de búsqueda semántica que usa incrustaciones para recuperar contenido contextualmente relevante, incluso cuando faltan palabras clave exactas. Admite consultas compatibles con la intención y la clasificación basada en la relevancia.

Características o funcionalidades clave

Las características y funcionalidades clave que se describen aquí describen qué Investigaciones de seguridad de datos de Microsoft Purview está diseñado para hacer y cómo se realiza en todas las tareas admitidas.

  • Flujo de trabajo integrado de incidente a investigación: la aplicación admite la creación de investigaciones a partir de incidentes de Microsoft Defender XDR, casos de Insider Risk Management, Administración de postura de seguridad de datos (versión preliminar) o modo de borrador manual. Esto ayuda a los equipos de seguridad a pasar de alertas a análisis centrados en datos sin cambiar de herramientas. También mejora la colaboración entre los equipos de ciberseguridad, cumplimiento y riesgo.
  • Recuperación semántica con tecnología de inteligencia artificial: la búsqueda de vectores permite la recuperación con reconocimiento de intenciones en contenido basado en texto con ámbito. Los analistas pueden encontrar elementos relevantes incluso cuando el contenido no contiene términos de consulta exactos. Esto mejora la recuperación y reduce la prueba y el error de palabras clave manuales.
  • Priorización asistida por inteligencia artificial mediante categorización: categorización organiza los datos en categorías predeterminadas, personalizadas y sugeridas por inteligencia artificial para que los analistas puedan centrarse rápidamente en áreas de mayor riesgo. La categorización avanzada proporciona una organización adicional de nivel de tema para una revisión más profunda. Esto reduce el esfuerzo de revisión en investigaciones de gran tamaño al examinar el contenido priorizado en lugar de requerir primero una revisión manual completa.
  • Examen de credenciales y riesgos dirigidos: las herramientas de examen extraen credenciales, evalúan el riesgo de elementos y generan salidas orientadas a mitigación para el contenido seleccionado. Los analistas obtienen una comprensión más rápida de lo que se podría exponer y qué hacer a continuación. Esto admite una contención y corrección más rápidas en incidentes activos.
  • Acciones de mitigación y purga: los investigadores pueden convertir los hallazgos en acciones concretas a través de planes de mitigación y purgar flujos de trabajo. Esto vincula los resultados del análisis directamente a la ejecución de reducción de riesgos. Los equipos pueden realizar un seguimiento del progreso y el estado de las decisiones de mitigación dentro del ciclo de vida de la investigación.
  • Integración de auditoría y ecosistema: la solución se integra con flujos de trabajo de auditoría de Microsoft Purview y soluciones de seguridad de Microsoft, lo que ayuda a los equipos a conservar el contexto de las pruebas y a alinear las acciones de respuesta. También admite el registro de actividad de investigación en el registro de auditoría unificado para reforzar la responsabilidad operativa.

Usos previstos

Investigaciones de seguridad de datos de Microsoft Purview se pueden usar en varios escenarios. Algunos ejemplos de casos de uso incluyen:

  • Respuesta de infracción de un incidente de Defender XDR: un analista puede crear una nueva investigación de seguridad de datos directamente a partir de un incidente de Defender XDR para evaluar el radio de explosión de un usuario en peligro. El examen con tecnología de inteligencia artificial expone las credenciales, los documentos confidenciales y las comunicaciones a las que podría haber accedido el atacante, con los datos regulados y de impacto para el cliente en primer lugar. Las acciones de mitigación se realizan dentro de la misma investigación, lo que genera una respuesta documentada para la auditoría y el seguimiento.
  • Seguimiento de la filtración de datos de los empleados a través del registro de auditoría: cuando se sospecha que un empleado filtra un gran volumen de datos, un investigador consulta el registro de auditoría unificado a través de Investigaciones de seguridad de datos para rastrear los archivos descargados y a los que se tiene acceso. La categorización de IA separa la actividad rutinaria del contenido sospechoso y centra la atención en los datos de mayor riesgo. Los resultados enriquecidos con inteligencia artificial se entregan a los equipos legales y de privacidad para que realicen otras acciones.
  • Búsqueda de datos confidenciales en un sitio de SharePoint sobreexpuesta: después de aprender que un sitio de SharePoint que contiene contenido confidencial está ampliamente sobrecompartido, un investigador limita una investigación a ese sitio y ejecuta análisis de inteligencia artificial para identificar lo que realmente está en riesgo. Concentraciones de superficie de búsqueda vectorial y categorización de contenido confidencial que no serían prácticas de revisar manualmente.
  • Revisión de interacciones de inteligencia artificial de riesgo: un investigador limita una investigación de DSI a las solicitudes y respuestas de inteligencia artificial que implican datos confidenciales, ya sea desde herramientas de inteligencia artificial de Microsoft Copilot o de terceros. Los exámenes identifican dónde aparecía el contenido regulado, las credenciales o la PII en las interacciones, y la categorización resalta los patrones recurrentes de uso de riesgo. Los resultados informan de la corrección inmediata del contenido expuesto y de un seguimiento más amplio con los usuarios y las herramientas implicados.

Modelos y datos de entrenamiento

Investigaciones de seguridad de datos de Microsoft Purview aprovecha una variedad de modelos de inteligencia artificial para potenciar la experiencia que ven los usuarios. Algunos ejemplos incluyen Azure modelos del servicio OpenAI y funcionalidades de plataforma de Microsoft Security Copilot que se usan para las incrustaciones de vectores, la categorización y las salidas de IA relacionadas con el examen. Para obtener más información sobre los datos usados para entrenar los modelos básicos detrás de Investigaciones de seguridad de datos de Microsoft Purview, consulte las tarjetas de modelo vinculadas para buscar las tarjetas de datos pertinentes.

Rendimiento

Investigaciones de seguridad de datos de Microsoft Purview está diseñado para realizarse de forma confiable en flujos de trabajo de investigación de riesgo de datos y posteriores a la vulneración de la empresa donde el ámbito de investigación está definido correctamente y se asignan a los usuarios los grupos de roles necesarios. En estas condiciones, los analistas pueden refinar iterativamente los resultados de búsqueda, priorizar los datos a través de la categorización y ejecutar el examen de los elementos seleccionados para admitir las decisiones de mitigación.

Las entradas previstas son principalmente contenido empresarial y avisos del investigador. Las entradas incluyen archivos, correos electrónicos y mensajes con ámbito de orígenes de datos de Microsoft 365 admitidos; metadatos y contexto vinculado a auditoría; y consultas de lenguaje natural o palabras clave usadas en la búsqueda de vectores y búsqueda con inteligencia artificial (versión preliminar). Los resultados esperados incluyen resultados de búsqueda clasificados por relevancia, agrupaciones de categorías, resultados de examen de riesgos y credenciales y recomendaciones orientadas a mitigación.

La modalidad de interacción de IA principal evaluada y documentada es texto. La vectorización y la recuperación semántica dependen del contenido que lleva texto. Algunos tipos de contenido que no incluyen texto utilizable se excluyen de los flujos de trabajo de vectorización, por lo que los investigadores deben tener en cuenta esto durante el planeamiento del ámbito.

El rendimiento y la utilidad se ven influenciados por la calidad de la configuración de la investigación, incluida la precisión del ámbito, la selección de categorías y la revisión humana iterativa. En conjuntos de datos grandes, la categorización devuelve subconjuntos con prioridad en lugar de una cobertura exhaustiva para cada categoría. Para un análisis completo de nivel de elemento, los equipos deben combinar la categorización con el examen y la validación del investigador.

Limitaciones

Comprender las limitaciones de Investigaciones de seguridad de datos de Microsoft Purview es fundamental para determinar si se usa dentro de límites seguros y eficaces. Aunque animamos a los clientes a aprovechar Investigaciones de seguridad de datos de Microsoft Purview en sus soluciones o aplicaciones innovadoras, es importante tener en cuenta que Investigaciones de seguridad de datos de Microsoft Purview no se diseñó para todos los escenarios posibles. Recomendamos a los usuarios que hagan referencia al Código de conducta de microsoft Enterprise AI Services (para organizaciones) o a la sección Conducta de código en el Contrato de servicios de Microsoft (para individuos), así como a las siguientes consideraciones al elegir un caso de uso:

  • Restricciones de confiabilidad de salida de IA: es posible que los resultados generados por la inteligencia artificial generativa no siempre sean totalmente precisos o completos. Esta limitación es importante porque los investigadores pueden sobrestimar la confianza y perder el contexto que cambia la gravedad del incidente. Los usuarios deben validar los resultados críticos, especialmente antes de acciones técnicas legales, de cumplimiento o irreversibles. El juicio humano sigue siendo necesario en las decisiones finales.
  • Dependencia de contenido de texto para herramientas semánticas: la búsqueda de vectores y los flujos de trabajo semánticos relacionados requieren contenido que contiene texto. Algunos tipos de contenido, como elementos de solo imagen o contenido sin texto extraíble, pueden excluirse de la vectorización y, por tanto, de algunos flujos de trabajo de recuperación asistida por inteligencia artificial. Los equipos deben evaluar si las pruebas clave pueden requerir métodos de revisión adicionales fuera de la búsqueda semántica. Esto ayuda a evitar suposiciones falsas sobre la cobertura completa.
  • Comportamiento de categorización por orden de prioridad no exhaustivo: la categorización está optimizada para exponer contenido de alta relevancia para las categorías seleccionadas, no para garantizar la revisión completa de todos los elementos del ámbito por categoría. En conjuntos de datos grandes, es posible que los elementos de puntuación inferior pertinentes no aparezcan en las salidas de categoría. Los usuarios deben usar el examen para realizar un análisis completo de nivel de elemento cuando se requiera una cobertura completa. Esto es especialmente importante en las investigaciones de alto impacto.
  • Límites operativos y límites de capacidad: se aplican límites de investigación y características, incluidos los límites del total de documentos, el tamaño total de archivo por investigación y los límites en los flujos de trabajo de búsqueda y purga de auditoría. Estas restricciones pueden afectar al funcionamiento de los segmentos de los equipos y secuenciar investigaciones grandes. Los usuarios deben planear la estrategia de ámbito y procesamiento en torno a los límites publicados para evitar retrasos. El planeamiento consciente de la capacidad mejora tanto el control de costos como la continuidad de la investigación.
  • No está diseñado para escenarios no admitidos o uso prohibido: Investigaciones de seguridad de datos está diseñado para la investigación y mitigación de incidentes de seguridad de datos. Usarlo como un único responsable de la toma de decisiones, fuera de los flujos de trabajo de gobernanza y seguridad, o de maneras prohibidas por los términos y los requisitos de código de conducta puede crear riesgos de seguridad y cumplimiento. Las organizaciones deben mantener la herramienta dentro de los límites operativos previstos y aplicar controles en capas. Esto incluye la revisión legal y de directivas antes de las acciones de gran consecuencia.

Evaluaciones

Las evaluaciones de rendimiento y seguridad evalúan si las aplicaciones de inteligencia artificial funcionan de forma confiable y segura mediante el examen de factores como la base, la relevancia y la coherencia, a la vez que se identifican los riesgos de generar contenido dañino. Las siguientes evaluaciones se llevaron a cabo con componentes de seguridad ya en vigor, que también se describen en 9. Componentes de seguridad y mitigaciones.

Evaluaciones de rendimiento y calidad

Las evaluaciones de rendimiento y calidad de las características de inteligencia artificial de Investigaciones de seguridad de datos de Microsoft Purview se centran en los resultados prácticos de la investigación, incluida la relevancia de la búsqueda vectorial, la precisión de la categorización y la utilidad de los resultados del examen. Según la documentación del producto, las actividades de evaluación incluyen pruebas previas al lanzamiento y validación basada en escenarios para evaluar si las características de detección asistida por inteligencia artificial, priorización y análisis ayudan a los investigadores a actuar sobre los riesgos identificados.

En el caso de las experiencias de inteligencia artificial actuales, la modalidad principal evaluada es el texto. Los resultados ideales son hallazgos precisos y pertinentes que ayudan a los analistas a identificar rápidamente elementos de alto riesgo y tomar medidas de investigación informadas. Los resultados poco óptimos incluyen resultados incompletos, irrelevantes o que requieren un análisis y validación adicionales sustanciales.

Evaluaciones de riesgos y seguridad

Nuestros datos de evaluación están personalizados para evaluar el rendimiento de las aplicaciones de inteligencia artificial en áreas clave de seguridad y calidad, simulando escenarios y riesgos reales. Comenzamos por identificar los aspectos de evaluación pertinentes que preocupan en función de la investigación multidisciplinar y las aportaciones de expertos. Estas preocupaciones se traducen en objetivos de evaluación dirigidos y orientan la formulación de métricas de evaluación. Por motivos de seguridad, creamos avisos adversarios para obtener respuestas no deseadas o de casos perimetrales, que luego se puntúan mediante anotadores asistidos por IA entrenados para evaluar la alineación con los estándares de seguridad de Microsoft. Por calidad, creamos avisos basados en rúbricas relevantes para escenarios como la evaluación de aplicaciones y agentes de generación aumentada por recuperación (RAG). Los conjuntos de datos se conservan de diversos orígenes, incluidos conjuntos de datos sintéticos y públicos, para simular escenarios de usuario reales. Con los conjuntos de datos seleccionados, ambas evaluaciones se someten a refinamiento iterativo y alineación humana para mejorar la eficacia y confiabilidad de las métricas. Esta metodología constituye la base de evaluaciones repetibles y rigurosas que reflejan cómo los clientes usan las evaluaciones para crear una inteligencia artificial mejor y más segura.

Evaluaciones personalizadas

Investigaciones de seguridad de datos se evaluó con varios indicadores de calidad y confiabilidad, incluida la precisión de la inteligencia artificial, la relevancia del resultado y la claridad de la salida. En función de las prácticas documentadas, las evaluaciones usan una combinación de formación manual de equipos rojos y clasificación humana para probar si las salidas asistidas por inteligencia artificial son útiles y confiables para los flujos de trabajo de investigación de incidentes. La modalidad principal evaluada para las experiencias de inteligencia artificial actuales es el texto.

Los escenarios de evaluación incluyen la recuperación semántica, la relevancia de la categorización y los resultados de examen que se usan para priorizar y mitigar el riesgo. Los resultados ideales son resultados contextualmente relevantes que ayudan a los analistas a identificar rápidamente elementos de alto riesgo y a tomar medidas informadas a continuación. Los resultados poco óptimos incluyen salidas incompletas, poco claras o menos relevantes que requieren iteración y validación adicionales por parte de los investigadores.

Los comentarios operativos también se usan para mejorar el rendimiento con el tiempo. El producto recopila métricas seleccionadas centradas en la calidad sobre entradas y salidas de IA para ayudar a optimizar la relevancia y la utilidad, mientras que los controles de privacidad documentados describen qué contenido es y no se recopila. Este bucle continuo admite mejoras de calidad continuas después del lanzamiento.

Componentes de seguridad & mitigaciones

  • Controles de acceso basados en roles: Investigaciones de seguridad de datos usa grupos de roles dedicados (administradores, investigadores, revisores) para controlar el acceso y las responsabilidades de las características. Esto ayuda a limitar quién puede ejecutar actividades confidenciales, como la purga y la configuración administrativa. La separación clara de las tareas reduce el riesgo de uso indebido y refuerza la responsabilidad en los flujos de trabajo de investigación.
  • Toma de decisiones humanas en bucle: las salidas de inteligencia artificial están diseñadas para ayudar a los analistas, no para reemplazar el juicio de los investigadores. Se espera que Teams valide los resultados de alto impacto y las recomendaciones de mitigación antes de tomar medidas consecuentes. Esto mitiga la dependencia excesiva y reduce la posibilidad de actuar sobre la salida de IA incompleta.
  • Controles de refinamiento y exclusión de ámbito: los investigadores pueden restringir iterativamente el ámbito de investigación y excluir elementos irrelevantes antes del análisis avanzado de IA. Esto mejora la relevancia, reduce el ruido y reduce la exposición al procesamiento de contenido innecesario. La administración del ámbito centrado también admite el control de costos y una respuesta a incidentes más rápida.
  • Registro de auditoría y trazabilidad probatoria: las actividades relacionadas con la investigación se registran a través de flujos de trabajo de auditoría integrados. El registro admite la trazabilidad forense, la revisión operativa y la responsabilidad de cumplimiento. Se trata de una mitigación clave para los requisitos de gobernanza y validación posterior a incidentes.
  • Protección de la privacidad y el control de datos: los controles documentados describen el almacenamiento de investigación aislado del inquilino y las protecciones de privacidad para el procesamiento de inteligencia artificial. Los controles de uso compartido de datos, registro y examen en rutas de procesamiento integradas se documentan como desactivados de forma predeterminada para contextos de procesamiento de Copilot específicos. Estas medidas de seguridad ayudan a reducir el riesgo de privacidad y admiten las expectativas de cumplimiento empresarial.

Procedimientos recomendados para implementar y adoptar Investigaciones de seguridad de datos de Microsoft Purview

La inteligencia artificial responsable es un compromiso compartido entre Microsoft y sus clientes. Aunque Microsoft crea aplicaciones de inteligencia artificial con seguridad, equidad y transparencia en el núcleo, los clientes desempeñan un papel fundamental en la implementación y el uso de estas tecnologías de forma responsable dentro de sus propios contextos. Para admitir esta asociación, ofrecemos los siguientes procedimientos recomendados para los implementadores y los usuarios finales con el fin de ayudar a los clientes a implementar la inteligencia artificial responsable de forma eficaz. Los implementadores y los usuarios finales (administradores) deben:

  • Tenga cuidado y evalúe los resultados al usar Investigaciones de seguridad de datos de Microsoft Purview para decisiones consecuentes o en dominios confidenciales: las decisiones consecuentes son aquellas que pueden tener un impacto legal o significativo en el acceso de una persona a la educación, el empleo, las plataformas financieras, los beneficios gubernamentales, la atención sanitaria, la vivienda, los seguros, los plataformas, o que podrían dar lugar a daños físicos, psicológicos o financieros. Los dominios confidenciales, como las plataformas financieras, la atención sanitaria y la vivienda, requieren atención especial debido a la posibilidad de un impacto desproporcionado en diferentes grupos de personas. Al usar la inteligencia artificial para tomar decisiones en estas áreas, asegúrese de que las partes interesadas afectadas puedan comprender cómo se toman las decisiones, apelar decisiones y actualizar los datos de entrada pertinentes.
  • Evaluar consideraciones legales y reglamentarias: los clientes deben evaluar posibles obligaciones legales y reglamentarias específicas al usar cualquier plataforma y solución de inteligencia artificial, que puede no ser adecuada para su uso en todos los sectores o escenarios. Además, las plataformas o soluciones de IA no están diseñadas para y no se pueden usar de maneras prohibidas en términos de servicio aplicables y códigos de conducta pertinentes.
  • Planear investigaciones para el análisis iterativo: los flujos de trabajo de Investigaciones de seguridad de datos son iterativos intencionadamente, especialmente para el refinamiento de búsqueda, el ajuste de ámbito y la evaluación de la evaluación asistido por inteligencia artificial. Teams debe definir puntos de control repetibles para cuándo ejecutar la búsqueda de vectores, la categorización y el examen. Esto mejora la coherencia, reduce el uso innecesario del proceso y refuerza la calidad de la investigación.
  • Coordinar la respuesta entre funciones de forma temprana: los incidentes de seguridad suelen implicar seguridad, TI, legal, cumplimiento y propietarios empresariales. Incorpore a estas partes interesadas en el proceso de investigación en cuanto se identifiquen los resultados de alto riesgo. La coordinación temprana mejora la velocidad de contención y reduce la fricción de corrección de bajada.

Los usuarios finales deben:

  • Usar mensajes de investigación claros y centrados: para la búsqueda de vectores y la búsqueda con inteligencia artificial (versión preliminar), los mensajes deben incluir contexto, asunto e intención (por ejemplo, credenciales en un proyecto con nombre o contenido de riesgo de acceso para un incidente específico). Las indicaciones claras producen una recuperación más relevante y reducen el ruido de investigación. Los usuarios deben iterar y comparar las salidas antes de extraer conclusiones.
  • Valide los hallazgos de IA con pruebas complementarias: revise las citas, los detalles del elemento y el contexto de actividad antes de escalar o mitigar. Las salidas de IA pueden acelerar la evaluación de prioridades, pero pueden perder casos perimetrales o incluir resultados de menor confianza. La comprobación cruzada con la búsqueda, las vistas de ámbito y la entrada de las partes interesadas reduce el riesgo de error.
  • Ejercer la supervisión humana cuando corresponda: la supervisión humana es una medida de seguridad importante al interactuar con aplicaciones de inteligencia artificial. Aunque mejoramos continuamente nuestras aplicaciones de inteligencia artificial, es posible que la inteligencia artificial siga cometiendo errores. Los resultados generados pueden ser inexactos, incompletos, sesgados, desalineados o irrelevantes para los objetivos previstos. Esto podría ocurrir debido a varias razones, como la ambigüedad en las entradas o limitaciones de los modelos subyacentes. Por lo tanto, los usuarios deben revisar las respuestas generadas por Investigaciones de seguridad de datos de Microsoft Purview y comprobar que coinciden con sus expectativas y requisitos.
  • Tenga en cuenta el riesgo de dependencia excesiva: la dependencia excesiva de la inteligencia artificial se produce cuando los usuarios aceptan salidas de IA incorrectas o incompletas, principalmente porque los errores en las salidas de IA pueden ser difíciles de detectar. Para el usuario final, el exceso de dependencia podría dar lugar a una disminución de la productividad, la pérdida de confianza, el abandono de aplicaciones, la pérdida financiera, daños psicológicos, daños físicos, entre otros. (por ejemplo, un médico acepta una salida de IA incorrecta).
  • Tenga cuidado al diseñar la inteligencia artificial agentic en dominios confidenciales: los usuarios deben tener precaución al diseñar o implementar aplicaciones de inteligencia artificial de agente en dominios confidenciales donde las acciones del agente sean irreversibles o altamente consecuentes.
  • También se deben tomar precauciones adicionales al crear una inteligencia artificial de agente autónomo, tal como se describe más adelante en el Código de conducta de Microsoft Enterprise AI Services (para organizaciones) o en la sección Conducta de código del Contrato de servicios de Microsoft (para particulares).

Los implementadores deben:

  • Configurar los permisos y el modelo de propiedad por adelantado: asigne Investigaciones de seguridad de datos grupos de roles en función de los privilegios mínimos y la responsabilidad operativa antes de que se produzcan incidentes. Incluya administradores de copia de seguridad y cobertura de roles clara para evitar retrasos en la respuesta. Esto reduce el riesgo de sobreabrocer el acceso y refuerza la continuidad durante los incidentes activos.
  • Diseño de límites, costos y rendimiento: los límites de investigación, búsqueda de auditoría y purga deben informar sobre cómo los equipos segmentan incidentes grandes. Los equipos también deben supervisar el uso de la capacidad y almacenar provisionalmente el procesamiento de inteligencia artificial para alinearse con la urgencia y el presupuesto. Esto evita cuellos de botella y admite un rendimiento de respuesta predecible.
  • Probar flujos de trabajo de mitigación y rutas de acceso de escalado: ejecute investigaciones piloto o de tabla con datos representativos para validar patrones de consulta, estrategia de categorización y entregas de mitigación. Los flujos de trabajo probados previamente reducen la confusión durante incidentes reales y mejoran el tiempo de acción. Incluya las comprobaciones de los requisitos legales y de notificación de cumplimiento como parte de esta prueba.

Más información sobre Investigaciones de seguridad de datos de Microsoft Purview

Para obtener instrucciones adicionales o para obtener más información sobre el uso responsable de Investigaciones de seguridad de datos de Microsoft Purview, se recomienda revisar la siguiente documentación:

Más información sobre la inteligencia artificial responsable

  • Last updated on