Datos, privacidad y seguridad para Microsoft Copilot

Nota:

Microsoft 365 Copilot ahora se llama Microsoft Copilot y Microsoft 365 Copilot Chat ahora se llama Microsoft Copilot Chat. Es posible que algunas experiencias, licencias y funcionalidades sigan haciendo referencia a Microsoft 365 Copilot y a Microsoft 365 Copilot Chat durante el período de transición. No hay cambios en la seguridad, el cumplimiento y la privacidad de las organizaciones.

Microsoft Copilot es un sofisticado motor de procesamiento y orquestación que proporciona capacidades de productividad con tecnología de IA mediante la coordinación de los siguientes componentes:

  • Modelos de lenguaje grandes (LLM)
  • Contenido de Microsoft Graph como correos electrónicos, chats y documentos a los que tiene permiso para acceder.
  • Las aplicaciones de productividad de Microsoft 365 que se usan todos los días, como Word y PowerPoint.

Para obtener información general sobre cómo funcionan estos tres componentes en conjunto, vea Información general sobre Microsoft Copilot. Para obtener vínculos a otro contenido relacionado con Microsoft Copilot, consulte la documentación de Microsoft Copilot.

Importante

La información de este artículo está pensada para dar respuesta a las siguientes preguntas:

Nota:

Microsoft Copilot seguirá evolucionando con el tiempo con nuevas capacidades. Para mantenerse al día sobre Microsoft Copilot o hacer preguntas, visite la comunidad de Microsoft Copilot en la Microsoft Tech Community.

¿Cómo usa Microsoft Copilot los datos de su organización patentados?

Microsoft Copilot proporciona valor mediante la conexión de LLM a los datos de la organización. Microsoft Copilot accede al contenido y al contexto a través de Microsoft Graph. Puede generar respuestas a partir de los datos de la organización, como los documentos del usuario, correos electrónicos, calendario, chats, reuniones y contactos. Microsoft Copilot combina este contenido con el contexto de trabajo del usuario, como la reunión en la que se encuentra un usuario ahora, los intercambios de correo electrónico que el usuario tuvo sobre un tema o las conversaciones de chat que el usuario tuvo la semana pasada. Microsoft Copilot usa esta combinación de contenido y contexto para ayudar a proporcionar respuestas precisas, relevantes y contextuales.

Importante

Las consultas, respuestas y datos a los que se accede a través de Microsoft Graph no se usan para entrenar LLM básicos, incluidos los usados por Microsoft Copilot.

Microsoft Copilot solo expone datos de la organización en los que los usuarios individuales tienen al menos permisos de visualización. Es importante que use los modelos de permisos disponibles en los servicios de Microsoft 365, como SharePoint, para garantizar que los usuarios o grupos adecuados tengan el acceso adecuado al contenido adecuado dentro de su organización. Esto incluye los permisos que concede a usuarios ajenos a su organización a través de soluciones de colaboración entre inquilinos, como canales compartidos en Microsoft Teams.

Al escribir indicaciones con Microsoft Copilot, la información contenida en sus indicaciones, los datos que recuperan y las respuestas generadas se procesan y almacenan en consonancia con los compromisos contractuales con el resto del contenido de su organización en Microsoft 365. Para obtener más información, consulte la sección Datos almacenados acerca de las interacciones del usuario con Microsoft Copilot más adelante en este artículo.

Nota:

  • Cuando use agentes para ayudar a Microsoft Copilot a proporcionar información más relevante, compruebe la declaración de privacidad y los términos de uso del agente para determinar cómo administrará los datos de su organización. Para obtener más información, consulte Extensibilidad de Microsoft Copilot.
  • Cuando usa la búsqueda web, Microsoft Copilot analiza la consulta del usuario e identifica los términos en los que la búsqueda web mejoraría la calidad de la respuesta. En función de estos términos, Copilot genera una consulta de búsqueda que se envía a la API de Búsqueda de Microsoft Bing para solicitar más información. Para obtener más información, Datos, privacidad y seguridad para consultas web en Microsoft Copilot y Microsoft Copilot Chat.
  • Microsoft ofrece modelos de IA de terceros en Microsoft Copilot, como los modelos Anthropic y OpenAI. Como administrador, puede decidir si desea usar estos modelos para potenciar sus experiencias y se pueden aplicar términos adicionales. Revise la siguiente documentación para obtener más información: Modelos antrópicos en Microsoft Online Services y OpenAI como subprocesador en Microsoft Online Services.
  • Podemos implementar otros modelos de IA para que los use Microsoft Copilot que estén hospedados y operados por Microsoft. Estos modelos se rigen por los mismos compromisos contractuales y de protección de datos ya existentes, incluido que ningún dato sale de Microsoft. Para obtener más información sobre los modelos que puede usar Copilot, consulte Descripción de la funcionalidad y los modelos de IA en Microsoft Online Services.

Aunque la supervisión de abusos, que incluye la revisión humana del contenido, está disponible en Azure OpenAI, los servicios de Microsoft Copilot han optado por no participar. Para obtener información sobre el filtrado de contenido, consulte la sección ¿Cómo bloquea Copilot contenido dañino? más adelante en este artículo.

Nota:

Puede que usemos los comentarios de los clientes, que son opcionales, para mejorar Microsoft Copilot, al igual que usamos los comentarios de los clientes para mejorar otros servicios de Microsoft 365 y aplicaciones de productividad de Microsoft 365. No usamos estos comentarios para entrenar los LLM básicos que usa Microsoft Copilot. Los clientes pueden administrar los comentarios a través de los controles de administración. Para obtener más información, vea Administrar los comentarios de Microsoft para su organización y Proporcionar comentarios sobre Microsoft Copilot con aplicaciones de Microsoft 365.

Datos almacenados sobre las interacciones de los usuarios con Microsoft Copilot

Cuando un usuario interactúa con Microsoft Copilot (mediante aplicaciones como Word, PowerPoint, Excel, OneNote, Loop o Whiteboard), almacenamos datos sobre estas interacciones. Los datos almacenados incluyen la solicitud del usuario y la respuesta de Copilot, incluidas citas a cualquier información usada para establecer la respuesta de Copilot. Nos referimos a la indicación del usuario y a la respuesta de Copilot a esa indicación como el "contenido de las interacciones" y el registro de esas interacciones es el historial de actividad de Copilot del usuario. Por ejemplo, estos datos almacenados proporcionan a los usuarios el historial de actividad de Copilot en Microsoft Copilot Chat y reuniones en Microsoft Teams. Estos datos se tratan y almacenan de acuerdo con los compromisos contractuales con el resto del contenido de su organización en Microsoft 365. Los datos se cifran mientras se almacenan y no se usan para entrenar a los LLM básicos, incluidos los que usa Microsoft Copilot.

Para ver y administrar estos datos almacenados, los administradores pueden usar la búsqueda de contenido o Microsoft Purview. Los administradores también pueden usar Microsoft Purview para establecer directivas de retención para los datos relacionados con las interacciones de chat con Copilot. Para más información, consulte los siguientes artículos:

Para los chats de Microsoft Teams con Copilot, los administradores también pueden usar las API de exportación de Microsoft Teams para ver los datos almacenados.

Eliminar el historial de interacciones del usuario con Microsoft Copilot

Los usuarios pueden eliminar su historial de actividad de Copilot, que incluye sus indicaciones y las respuestas que devuelve Copilot, en el portal Mi cuenta. Para obtener más información, consulte Eliminar el historial de actividades de Microsoft Copilot.

Microsoft Copilot y el límite de datos de la UE

Las llamadas de Microsoft Copilot al LLM se enrutan a los centros de datos más cercanos de la región, pero también pueden llamar a otras regiones donde la capacidad está disponible durante períodos de alta utilización.

Para los usuarios de la Unión Europea (UE), tenemos medidas de seguridad adicionales para cumplir con el Límite de datos de la UE. El tráfico de la UE permanece dentro de Límite de datos de la UE, mientras que el tráfico mundial se puede enviar a la UE y a otras regiones geográficas para el procesamiento de LLM.

Nota:

Los modelos proporcionados por Anthropic como subprocesador están actualmente excluidos del límite de datos de la UE. Para obtener más información, vea Anthropic models in Microsoft Online Services.

Microsoft Copilot y residencia de datos

Microsoft Copilot mantiene los compromisos de residencia de datos tal como se describe en los Términos del producto de Microsoft y en el Anexo de protección de datos. Microsoft Copilot se agregó como una carga de trabajo cubierta en los compromisos de residencia de datos en los Términos del producto de Microsoft el 1 de marzo de 2024.

Las ofertas de Microsoft Advanced Data Residency (ADR) y Multi-Geo Capabilities incluyen compromisos de residencia de datos para los clientes de Microsoft Copilot a partir del 1 de marzo de 2024. Para los clientes de la UE, Microsoft Copilot es un servicio de límites de datos de la UE. Es posible que las consultas de los clientes fuera de la UE se procesen en EE. UU., la UE u otras regiones.

Extensibilidad de Microsoft Copilot

Aunque Microsoft Copilot ya puede usar las aplicaciones y los datos dentro del ecosistema de Microsoft 365, muchas organizaciones todavía dependen de varias herramientas y servicios externos para la colaboración y la administración del trabajo. Las experiencias de Microsoft Copilot pueden hacer referencia a herramientas y servicios de terceros al responder a la solicitud de un usuario mediante conectores o agentes de Microsoft Graph. Los datos de los conectores de Graph se pueden devolver en las respuestas de Microsoft Copilot si el usuario tiene permiso para acceder a esa información.

Cuando los agentes están habilitados, Microsoft Copilot determina si necesita usar un agente específico para ayudar a proporcionar una respuesta relevante al usuario. Si se necesita un agente, Microsoft Copilot genera una consulta de búsqueda para enviarla al agente en nombre del usuario. La consulta se basa en el mensaje del usuario, el historial de actividad de Copilot y los datos a los que el usuario tiene acceso en Microsoft 365.

En la sección Aplicaciones integradas del Centro de administración de Microsoft 365, los administradores pueden ver los permisos y el acceso a datos requerido por un agente, así como los términos de uso y la declaración de privacidad del agente. Los administradores tienen control total para seleccionar qué agentes están permitidos en su organización. Un usuario solo puede acceder a los agentes que su administrador permite y que el usuario instaló o está asignado. Microsoft Copilot solo usa agentes que el usuario activa.

Para más información, consulte los siguientes artículos:

¿Cómo protege Microsoft Copilot los datos de la organización?

El modelo de permisos dentro del inquilino de Microsoft 365 puede ayudar a garantizar que los datos no se filtren involuntariamente entre usuarios, grupos e inquilinos. Microsoft Copilot presenta solo datos a los que cada individuo puede acceder usando los mismos controles subyacentes para el acceso a datos utilizados en otros servicios de Microsoft 365. El índice semántico respeta el límite de acceso basado en la identidad del usuario para que el proceso de grounding solo tenga acceso al contenido al que el usuario actual está autorizado para acceder. Para obtener más información, consulta la documentación del servicio y la directiva de privacidad de Microsoft.

Cuando tiene datos cifrados por Microsoft Purview Information Protection, Microsoft Copilot respeta los derechos de uso concedidos al usuario. El cifrado se puede aplicar mediante etiquetas de confidencialidad o mediante permisos restringidos en aplicaciones de Microsoft 365 mediante Information Rights Management (IRM). Para más información sobre cómo usar Microsoft Purview con Microsoft Copilot, consulta Protecciones de seguridad de datos y cumplimiento de Microsoft Purview para aplicaciones de IA generativa.

Ya implementamos varias formas de protección para ayudar a evitar que los clientes comprometan los servicios y aplicaciones de Microsoft 365 u obtengan acceso no autorizado a otros inquilinos o al propio sistema de Microsoft 365. Aquí hay algunos ejemplos de dichas formas de protección:

  • El aislamiento lógico del contenido de cliente dentro de cada inquilino para los servicios de Microsoft 365 se logra mediante la autorización de Microsoft Entra y el control de acceso basado en roles. Para obtener más información, consulte Controles de aislamiento de Microsoft 365.

  • Microsoft usa una rigurosa seguridad física, un filtrado en segundo plano y una estrategia de cifrado de varias capas para proteger la confidencialidad y la integridad del contenido del cliente.

  • Microsoft 365 usa tecnologías del lado del servicio que cifran el contenido del cliente en reposo y en tránsito, incluidos BitLocker, el cifrado por archivo, la Seguridad de la capa de transporte (TLS) y el protocolo de seguridad de Internet (IPsec). Para obtener detalles específicos sobre el cifrado en Microsoft 365, consulte Cifrado en la nube de Microsoft.

  • El control sobre los datos se ve reforzado por el compromiso de Microsoft de cumplir con las leyes de privacidad ampliamente aplicables, como el RGPD, y los estándares de privacidad, como ISO/IEC 27018, el primer código de prácticas internacional del mundo para la privacidad en la nube.

  • Para el contenido al que se accede a través de agentes en Microsoft 365, el cifrado puede excluir el acceso mediante programación, lo que limita el agente el acceso al contenido. Para obtener más información, consulte Configurar los derechos de uso para Azure Information Protection.

Cumplir con los requisitos de cumplimiento normativo

Microsoft continúa adaptándose y respondiendo para cumplir los requisitos normativos de IA a medida que evolucionan, por lo que ganamos y mantenemos la confianza de clientes, asociados y reguladores.

Microsoft Copilot proporciona amplias ofertas de cumplimiento y certificaciones, incluyendo GDPR,ISO 27001, HIPAA y el estándar ISO 42001 para sistemas de administración de IA. Esto ayuda a nuestros clientes en sus viajes de cumplimiento, complementado con características como la preparación contractual, la gestión de riesgos integrada de la tecnología de la información y la comunicación y las herramientas de resiliencia operativa.

Microsoft se compromete a cumplir con todas las leyes y reglamentos aplicables a Microsoft, incluida la Ley de IA de la UE, para permitir que nuestras soluciones de IA cumplan con los estándares en evolución de una IA confiable y responsable. Microsoft Copilot se basa en los compromisos existentes de Microsoft con la seguridad y la privacidad de los datos. No hay ningún cambio en estos compromisos. Copilot está integrado en Microsoft 365 y se adhiere a los compromisos de privacidad, seguridad y cumplimiento existentes con los clientes de Microsoft 365.

Además, priorizamos el diálogo abierto con nuestros socios y autoridades reguladoras. Proporcionamos a los clientes acceso directo a profesionales de cumplimiento de Microsoft, orientación proactiva y soluciones seleccionadas para ayudar a navegar por el cumplimiento normativo, como el Inicio rápido de evaluación de riesgos de Microsoft Copilot & Copilot Chat. Nuestro enfoque en el panorama impulsado por la inteligencia artificial tiene como objetivo capacitar a las organizaciones para que innoven con confianza con soluciones creadas teniendo en cuenta la transparencia, la privacidad y la seguridad.

Información adicional

Microsoft Copilot y controles de privacidad para experiencias conectadas

Importante

Los datos personales recopilados mediante el uso de experiencias conectadas en Microsoft 365 no se usan para entrenar modelos de lenguaje de gran tamaño (LLM), incluidos los usados por Microsoft Copilot.

Algunos controles de privacidad de las experiencias conectadas en las Aplicaciones Microsoft 365 pueden afectar a la disponibilidad de las características de Microsoft Copilot. Esto incluye los controles de privacidad de las experiencias conectadas que analizan el contenido y el control de privacidad para experiencias conectadas opcionales. Para más información sobre estos controles de privacidad, consulte Información general sobre los controles de privacidad para las Aplicaciones de Microsoft 365 para empresas.

Control de privacidad para experiencias conectadas que analiza el contenido

Si desactiva las experiencias conectadas que analizan el contenido en dispositivos de su organización, las características de Microsoft Copilot no estarán disponibles para los usuarios en las siguientes aplicaciones:

  • Excel
  • OneNote
  • Outlook
  • PowerPoint
  • Word

Esto se aplica a cuando ejecutas la versión más reciente de estas aplicaciones en dispositivos Windows, Mac, iOS o Android.

También hay un control de privacidad que desactiva todas las experiencias conectadas, incluidas las experiencias conectadas que analizan el contenido. Si usa ese control de privacidad, las características de Microsoft Copilot no estarán disponibles en las aplicaciones y dispositivos descritos anteriormente.

Control de privacidad para experiencias conectadas opcionales

Si desactiva las experiencias conectadas opcionales en su organización, las características de Microsoft Copilot que son experiencias conectadas opcionales no estarán disponibles para los usuarios. Por ejemplo, la desactivación de experiencias conectadas opcionales podría afectar a la disponibilidad de la búsqueda web.

También hay un control de privacidad que desactiva todas las experiencias conectadas, incluidas las experiencias conectadas opcionales. Si usa ese control de privacidad, las características de Microsoft Copilot que son experiencias conectadas opcionales no estarán disponibles.

Acerca del contenido que crea Microsoft Copilot

No se garantiza que las respuestas que genera la inteligencia artificial generativa sean 100 % reales. Aunque seguimos mejorando las respuestas, los usuarios han de usar su sentido crítico al revisar las respuestas antes de enviarlas a otros usuarios. Nuestras capacidades de Microsoft Copilot proporcionan borradores y resúmenes útiles que le ayudarán a lograr más y, al mismo tiempo, le ofrecen la oportunidad de revisar la inteligencia artificial generada en lugar de automatizar completamente estas tareas.

Seguimos mejorando los algoritmos para abordar de forma proactiva los problemas, como la desinformación y la falta de información, el bloqueo de contenido, la seguridad de los datos y la prevención de la promoción de contenido perjudicial o discriminador de acuerdo con nuestros principios de inteligencia artificial responsable.

Microsoft no reclama derechos de propiedad de los resultados del servicio. Dicho esto, no determinamos si la salida de un cliente está protegida por derechos de autor o si se puede exigir a otros usuarios. Esto se debe a que los sistemas de IA generativa pueden producir respuestas similares en función de solicitudes o consultas similares de diferentes clientes. Por lo tanto, diferentes clientes podrían tener derechos o reclamarlos sobre contenido que es igual o sustancialmente similar.

Si un tercero demanda a un cliente comercial por infracción de derechos de autor por usar Copilot de Microsoft o la salida que generan, defenderemos al cliente y pagaremos el importe de cualquier sentencia adversa o acuerdo que resulte de la demanda, siempre y cuando el cliente haya usado las medidas de seguridad y los filtros de contenido que hemos integrado en nuestros productos. Para obtener más información, consulte Microsoft anuncia el nuevo compromiso sobre los derechos de autor de Copilot para los clientes.

¿Cómo bloquea Copilot el contenido perjudicial?

Para ayudar a bloquear contenido dañino, Microsoft Copilot usa medidas de seguridad que funcionan junto con los modelos de inteligencia artificial utilizados para generar respuestas. Según el escenario, estas medidas de seguridad pueden incluir protecciones propias de Microsoft o, en algunos casos, mitigaciones de seguridad integradas en el modelo subyacente. Estas medidas de seguridad usan un enfoque de defensa en profundidad y pueden incluir una combinación de protecciones propias de Microsoft que ayudan a detectar y reducir los intentos de jailbreak y los patrones de inyección de mensajes (incluidos los ataques de inyección entre mensajes), filtros de daño de contenido para identificar contenido dañino en mensajes o respuestas generadas (como odio & equidad, sexual, violencia y autolesiones) o, en algunos escenarios, mitigaciones de seguridad integradas en el modelo subyacente.

Los daños relacionados con el acoso y la imparcialidad hacen referencia a cualquier contenido que use lenguaje peyorativo o discriminatorio basado en atributos como la raza, la etnicidad, la nacionalidad, la identidad y la expresión de género, la orientación sexual, la religión, la condición de inmigrante, el estado de incapacidad, la apariencia personal y el tamaño del cuerpo. La imparcialidad se ocupa de asegurarse de que los sistemas de IA traten a todos los grupos de personas de forma equitativa sin contribuir a las desigualdades sociales existentes. El contenido sexual implica debates sobre los órganos reproductivos humanos, las relaciones románticas entre los seres humanos, los actos representados en términos eróticos o afectivos, el embarazo, los actos sexuales físicos, incluidos los representados como un acto de violencia sexual, actos sexuales forzados, acoso, prostitución y abuso. La violencia describe el lenguaje relacionado con las acciones físicas destinadas a hacer daño físico o asesinar, incluidas las acciones, las armas y las entidades relacionadas con estas acciones. El lenguaje de autoagresión hace referencia a acciones deliberadas destinadas a dañarse a sí mismo o quitarse la vida.

Además del filtrado de contenido proporcionado por el servicio Azure OpenAI, determinados escenarios de Microsoft Copilot proporcionan otras mitigaciones, como filtros para ayudar a evitar que se produzcan daños en el lugar de trabajo. Los daños en el lugar de trabajo se refieren a una categoría de daños que pueden resultar de la IA generativa o de modelos que hacen inferencias, juicios o evaluaciones sobre un empleado en función de su comunicación en el lugar de trabajo. Actualmente, eso significa inferencias, juicios o evaluaciones sobre el desempeño, la actitud, el estado interno o emocional o las características personales de un empleado. Restringimos el uso de IA generativa o modelos para que no se usen con estos fines.

¿Copilot proporciona detección de material protegido?

Sí, Microsoft Copilot proporciona detección de materiales protegidos, que incluye texto sujeto a derechos de autor y código sujeto a restricciones de licencia. Es posible que esta detección no esté disponible en todos los escenarios de Microsoft Copilot y que no todas estas mitigaciones sean relevantes para todos los escenarios de Microsoft Copilot.

¿Bloquea Copilot las inserciones de mensajes (ataques de jailbreak)?

Los ataques de jailbreak son mensajes diseñados para eludir las medidas de seguridad de Copilot o inducir un comportamiento no conforme. Microsoft Copilot ayuda a mitigar estos ataques mediante el uso de técnicas patentadas, como los clasificadores jailbreak y cross-prompt injection attack (XPIA). Estos clasificadores analizan las entradas al servicio Copilot y ayudan a bloquear los avisos de alto riesgo antes de la ejecución del modelo. Es posible que estos clasificadores no estén disponibles en todos los escenarios de Microsoft Copilot.

¿Qué ocurre cuando se producen cambios en el modelo de cimentación?

Los modelos de IA que impulsan Microsoft Copilot se actualizan y mejoran periódicamente. Las actualizaciones de modelos aportan mejoras de rendimiento, razonamiento más avanzado y capacidades ampliadas, pero no cambian la configuración de seguridad, privacidad o cumplimiento. Para obtener más información, consulte el blog de Microsoft 365: Descripción de los cambios del modelo de base en Microsoft Copilot.

Comprometidos con la inteligencia artificial responsable

A medida que la inteligencia artificial se prepara para transformar nuestras vidas, debemos definir colectivamente nuevas reglas, normas y prácticas para el uso y el impacto de esta tecnología. Microsoft ha estado en un recorrido por la inteligencia artificial responsable desde 2017, cuando definimos nuestros principios y enfoque para garantizar que esta tecnología se use de forma que esté controlada por principios éticos que coloquen a las personas en primer lugar.

En Microsoft, nos guían nuestros principios de inteligencia artificial, nuestro estándar de inteligencia artificial responsable y décadas de investigación sobre inteligencia artificial, grounding y el aprendizaje automático que conserva la privacidad. Un equipo multidisciplinario de investigadores, ingenieros y expertos en directivas revisa nuestros sistemas de inteligencia artificial en busca de posibles daños y mitigaciones; refina los datos de entrenamiento; filtra para limitar el contenido perjudicial y los temas confidenciales que bloquean resultados y consultas; y aplica tecnologías de Microsoft como InterpretML y Fairlearn para ayudar a detectar y corregir el sesgo de los datos. Para dejar claro cómo toma las decisiones el sistema, hay que tener en cuenta las limitaciones, el vínculo a los orígenes y pedir a los usuarios que revisen, comprueben los hechos y ajusten el contenido en función de la experiencia en la materia. Para obtener más información, consulte Gobernanza de la inteligencia artificial: un plano técnico para el futuro.

Nuestro objetivo es ayudar a nuestros clientes a usar nuestros productos de inteligencia artificial de forma responsable, compartir nuestros aprendizajes y crear asociaciones basadas en la confianza. Para estos nuevos servicios, queremos proporcionar a nuestros clientes información sobre los usos, las capacidades y las limitaciones previstas de nuestro servicio de plataforma de inteligencia artificial para que tengan los conocimientos necesarios para tomar decisiones de implementación responsables. También compartimos recursos y plantillas con los desarrolladores de las empresas y con proveedores de software independientes (ISV) para ayudarles a crear soluciones de IA eficaces, seguras y transparentes.

  • Last updated on