Tarjeta de aplicación: Microsoft Copilot (para organizaciones)

¿Qué es una tarjeta de aplicación o plataforma?

Las tarjetas de aplicaciones y plataformas de Microsoft están diseñadas para ayudarle a comprender cómo funciona nuestra tecnología de IA, las decisiones que pueden tomar los propietarios de las aplicaciones que influyen en el rendimiento y el comportamiento de las aplicaciones, y la importancia de tener en cuenta toda la aplicación, incluida la tecnología, las personas y el medio ambiente. Las tarjetas de aplicación se crean para aplicaciones de IA y las tarjetas de plataforma se crean para servicios de plataforma de IA. Estos recursos pueden admitir el desarrollo o la implementación de sus propias aplicaciones y pueden compartirse con los usuarios o partes interesadas afectados por ellas.

Como parte de su compromiso con la IA responsable, Microsoft se adhiere a seis principios básicos: equidad, confiabilidad y seguridad, privacidad y seguridad, inclusión, transparencia y responsabilidad. Estos principios están incrustados en el Responsible AI Standard, que guía a los equipos en el diseño, la creación y las pruebas de aplicaciones de IA. Las tarjetas de aplicaciones y plataformas desempeñan un papel clave en la operacionalización de estos principios, ya que ofrecen transparencia en torno a las funcionalidades, los usos previstos y las limitaciones. Para obtener más información, se anima a los lectores a explorar el Informe de transparencia de IA responsable de Microsoft y el Código de conducta de servicios de IA empresarial de Microsoft (para organizaciones) o la sección Código de conducta del Contrato de servicios de Microsoft (para individuos), los cuales describen cómo interactuar con la IA de forma responsable.

Información general

Microsoft Copilot es una herramienta de productividad con tecnología de inteligencia artificial que ayuda a mejorar su creatividad, productividad y habilidades mediante el uso de modelos de lenguaje de gran tamaño (LLM) y contenido al que tiene acceso. Proporciona asistencia inteligente en tiempo real al trabajar junto con aplicaciones y servicios populares de Microsoft 365, Word, Excel, PowerPoint, Outlook, Teams y mucho más.

Por ejemplo, en el trabajo puede hacer que Microsoft Copilot resuma una reunión de Teams que se perdió. En casa, puede usar Microsoft Copilot para generar una presentación con diapositivas con fotos de sus vacaciones familiares.

Para más información para organizaciones, consulte Información general de Microsoft Copilot y Centro de Microsoft Copilot. Para los usuarios, consulte la ayuda y el aprendizaje de Microsoft Copilot.

Términos clave

La tabla siguiente proporciona un glosario de términos clave relacionados con Microsoft Copilot.

Características o funcionalidades clave

Las características y funcionalidades clave de la tabla siguiente describen para qué está diseñado Microsoft Copilot y cómo funciona en las tareas admitidas.

Extensibilidad y personalización

La característica Agent Builder de Microsoft Copilot y Copilot Studio son herramientas para crear agentes seguros, escalables e inteligentes que funcionan en Microsoft 365 y sistemas de línea de negocio. Ambas herramientas permiten crear agentes, pero satisfacen necesidades diferentes. Utilice la función Generador de agentes si desea crear rápidamente un agente para usted o para un equipo pequeño, utilizando lenguaje natural y contenido existente. Elige Copilot Studio si necesitas un agente para un público más amplio o si el agente requiere funcionalidades avanzadas como flujos de trabajo de varios pasos o integraciones personalizadas. Para obtener más información, consulte Elegir entre Microsoft Copilot y Copilot Studio para crear su agente y Agentes declarativos para Microsoft Copilot.

Para los desarrolladores, el SDK de agentes de Microsoft 365 proporciona las herramientas para crear agentes que trabajan en estrecha colaboración con las aplicaciones y servicios de Microsoft 365.

Usos previstos

Microsoft Copilot se puede usar en varios escenarios en una variedad de industrias. Algunos ejemplos de casos de uso incluyen:

• Interacción y creación de Chat y conversaciones: los usuarios pueden interactuar con Microsoft Copilot Chat y generar respuestas extraídas de documentos confiables, como documentación interna de la empresa o documentación de soporte técnico.
• Buscar: Los usuarios pueden buscar documentos de origen fiables, como documentación interna de la empresa.
• Resumen: Los usuarios pueden enviar contenido para que se resuma para temas predefinidos integrados en la aplicación. Algunos ejemplos son el resumen de chats de Teams, correos electrónicos, páginas web y documentos de Word.
• Asistencia para escribir sobre temas específicos: Los usuarios pueden crear contenido nuevo o reescribir contenido enviado por el usuario como ayuda para la escritura de contenido empresarial o temas predefinidos. Por ejemplo, redactar correos electrónicos en Microsoft Outlook o escribir contenido en Microsoft Word.
• Subtítulos o transcripción: Los usuarios pueden transcribir archivos de audio en texto para comprender el lenguaje natural o realizar tareas analíticas como el resumen. Algunos ejemplos son las transcripciones de reuniones de Teams y vídeos en el reproductor de vídeo Microsoft Clipchamp.

Microsoft proporciona instrucciones detalladas centradas en casos de uso y escenarios comunes, para ayudar a los clientes a acelerar la adopción de las funcionalidades de Microsoft Copilot en sus organizaciones. Obtenga más información en Microsoft Scenario Library - Microsoft Adoption.

Modelos y datos de entrenamiento

Microsoft Copilot aprovecha una variedad de modelos de IA para potenciar la experiencia que ven los usuarios, como los ejemplos siguientes:

• Modelos generativos de transformadores previamente entrenados (GPT) proporcionados por Microsoft (servicio Azure OpenAI)
• Modelos de sonetos de Claude Opus y Claude proporcionados por Anthropic
• Modelos GPT proporcionados por OpenAI

Para obtener más información sobre los datos usados para entrenar estos modelos detrás de Microsoft Copilot, consulte los siguientes recursos:

• Nota de transparencia para Azure OpenAI
• Anthropic: Tarjetas del sistema modelo
• OpenAI: Deployment Safety Hub

Microsoft Copilot usa una combinación de LLM para resumir, predecir y generar contenido, incluidos los modelos proporcionados por Microsoft (servicio Azure OpenAI), Anthropic y OpenAI. Esto nos permite hacer coincidir las necesidades específicas de cada característica (por ejemplo, velocidad, creatividad) con el modelo correcto, de modo que Microsoft Copilot pueda proporcionar asistencia inteligente en tiempo real que permita a los usuarios mejorar su creatividad, productividad y habilidades. Para obtener información adicional sobre los LLM proporcionados a Microsoft por OpenAI, consulte su documentación pública en Modelos: API de OpenAI.

Rendimiento

En muchos sistemas de IA, el rendimiento a menudo se define en relación con la precisión, es decir, la frecuencia con la que el sistema de IA ofrece una predicción o salida correcta. Con Microsoft Copilot, dos usuarios diferentes pueden ver el mismo resultado y tener diferentes opiniones sobre lo útil o relevante que es, lo que significa que el rendimiento de estos sistemas debe definirse de forma más flexible. En términos generales, consideramos que el rendimiento significa que la aplicación funciona como esperan los usuarios.

Cómo funciona Microsoft Copilot

• Microsoft Copilot recibe una indicación de entrada de un usuario en una aplicación, como Word o PowerPoint. Para obtener una lista de idiomas admitidos, consulte Idiomas admitidos para Microsoft Copilot.
• A continuación, Microsoft Copilot procesa la indicación, lo que mejora su especificidad, para ayudar al usuario a obtener respuestas relevantes y accionables para su tarea específica. La indicación puede incluir texto de archivos de entrada u otro contenido detectado por Microsoft Copilot con Microsoft Graph y Microsoft Copilot envía esta indicación al LLM para su procesamiento. Microsoft Copilot solo accede a los datos a los que un usuario individual tiene acceso existente, basándose, por ejemplo, en los controles de acceso basados en roles de Microsoft 365 existentes.
• Microsoft Copilot toma la respuesta del LLM y la postprocesa. Este procesamiento posterior incluye otras llamadas de conexión a tierra a Microsoft Graph, comprobaciones de IA responsables, como clasificadores de contenido, comprobaciones de seguridad, cumplimiento y privacidad, y generación de comandos.
• Microsoft Copilot devuelve la respuesta a la aplicación, donde el usuario puede revisarla y evaluarla.

Los datos almacenados sobre las interacciones de los usuarios con Microsoft Copilot están cifrados y no se usan para entrenar modelos básicos (incluidos los usados por Microsoft Copilot) de proveedores de modelos como Microsoft (servicio Azure Open AI), Anthropic u OpenAI. Para obtener más información, consulte Datos, privacidad y seguridad para Microsoft Copilot.

Cómo Microsoft Copilot genera respuestas sin contenido web o datos de la organización

Microsoft Copilot no requiere contenido web ni datos de la organización para proporcionar una respuesta, pero esa información puede ayudar a mejorar la calidad, precisión y relevancia de su respuesta. Al responder sin datos web u organizativos, Microsoft Copilot solo confía en sus LLM para comprender las indicaciones y generar respuestas. El proceso implica analizar la entrada, aprovechar la knowledge base interna del modelo y refinar la respuesta para ayudar a que sea contextualmente apropiada.

Limitaciones

Comprender las limitaciones de Microsoft Copilot es crucial para determinar si se usa dentro de límites seguros y eficaces. Aunque animamos a los clientes a aprovechar Microsoft Copilot en sus soluciones o aplicaciones innovadoras, es importante tener en cuenta que Microsoft Copilot no se diseñó para todos los escenarios posibles. Animamos a los usuarios a consultar el Código de conducta de Microsoft Enterprise AI Services (para organizaciones) o la sección Código de conducta del Contrato de servicios de Microsoft (para individuos), así como las siguientes consideraciones al elegir un caso de uso:

• Compatibilidad: Aunque Microsoft Copilot está diseñado para funcionar sin problemas con aplicaciones de Microsoft 365, puede haber limitaciones o problemas con la compatibilidad en determinados entornos, especialmente con aplicaciones de terceros (que no son de Microsoft) y configuraciones personalizadas o no estándar.

• Personalización y flexibilidad: Aunque Microsoft Copilot se puede adaptar, existen limitaciones en cuanto a cuánto se puede personalizar para adaptarse a necesidades o flujos de trabajo específicos de la organización. Las organizaciones pueden encontrar ciertas características o respuestas rígidas o no totalmente alineadas con los requisitos de la organización.

• Dependencia de la conectividad a Internet: Microsoft Copilot depende de la conectividad a Internet para funcionar. Cualquier interrupción en la conectividad puede afectar a la disponibilidad y el rendimiento del servicio.

• Capacitación y adopción de usuarios: El uso eficaz de Microsoft Copilot requiere que los usuarios comprendan sus capacidades y limitaciones. Puede haber una curva de aprendizaje y los usuarios deben recibir capacitación para interactuar de manera efectiva y beneficiarse del servicio.

• Intensidad del recurso: La ejecución de modelos de IA avanzados requiere recursos computacionales significativos, lo que puede afectar al rendimiento, especialmente en entornos con recursos limitados. Los usuarios pueden experimentar problemas de latencia o rendimiento durante las horas de mayor uso.

• Sesgos, estereotipos y contenido sin fundamento: A pesar del entrenamiento intensivo de OpenAI y Anthropic y la implementación de controles de IA responsables por parte de Microsoft tanto en las indicaciones del usuario como en las salidas de LLM, los servicios de IA son falibles y probabilísticos. Esto dificulta el bloqueo exhaustivo de todo el contenido inapropiado, lo que da lugar a posibles sesgos, estereotipos o falta de fundamento en el contenido generado por IA. Para obtener más información sobre las limitaciones conocidas del contenido generado por inteligencia artificial, consulte los siguientes recursos:

  • Nota de transparencia para Azure OpenAI
  • Anthropic: Tarjetas del sistema modelo
  • OpenAI: Deployment Safety Hub

• Idiomas admitidos: Actualmente, Microsoft Copilot admite menos idiomas que Microsoft 365. Si el idioma que está usando o solicitando en su mensaje no es compatible actualmente, recibirá un mensaje de error. Para obtener más información, consulte Idiomas admitidos para Microsoft Copilot.

• Posible lesión física o psicológica significativa a un individuo. Evite el uso o mal uso del sistema que pueda resultar en lesiones físicas o psicológicas significativas a un individuo. Por ejemplo, los escenarios que diagnostican pacientes o recetan medicamentos tienen el potencial de causar un daño significativo.

• Impacto consecuente en las oportunidades de vida o el estatus legal. Evite el uso o mal uso del sistema que podría tener un impacto consecuente en las oportunidades de vida o el estado legal. Algunos ejemplos son los escenarios en los que el sistema de IA podría afectar al estado legal de un individuo, sus derechos legales o su acceso al crédito, la educación, el empleo, la atención médica, la vivienda, los seguros, los beneficios de bienestar social, los servicios, las oportunidades o los términos en los que se proporcionan.

• Dominios o industrias de alto riesgo. Considere cuidadosamente los casos de uso en dominios o industrias de alto riesgo. Los ejemplos incluyen, entre otros, médicos o financieros.

Evaluaciones

Las evaluaciones de rendimiento y seguridad evalúan si las aplicaciones de IA funcionan de forma confiable y segura examinando factores como la conexión a tierra, la relevancia y la coherencia, al tiempo que identifican los riesgos de generar contenido perjudicial. Las siguientes evaluaciones se llevaron a cabo con componentes de seguridad ya implementados, que también se describen en Componentes y mitigaciones de seguridad.

Evaluaciones de rendimiento y calidad

Las evaluaciones de rendimiento de las aplicaciones de IA son esenciales para ayudar a mejorar su confiabilidad en aplicaciones reales. Métricas como la relevancia de la respuesta, la precisión y la fundamentación ayudan a evaluar la precisión y la coherencia de las salidas generadas por IA, de modo que sean compatibles con hechos en escenarios de contenido fundamentado, contextualmente apropiadas y estructuradas lógicamente. Para Microsoft Copilot, realizamos periódicamente evaluaciones de calidad rigurosas en varias métricas, como la relevancia, la precisión y la fundamentación.

Métodos de evaluación del rendimiento y la calidad

Microsoft Copilot se evaluó mediante escenarios basados en texto e imágenes que reflejan cómo trabajan los usuarios en las aplicaciones de Microsoft 365. Las evaluaciones de métricas como la fundamentación, la calidad de la respuesta y la relevancia de las citas utilizaron métodos establecidos de LLM como juez. Los conjuntos de pruebas sin conexión incluyeron consultas fácticas, comprensión de varios documentos, resumen y escenarios empresariales representativos. Los evaluadores evaluaron si las respuestas estaban respaldadas por hechos, eran apropiadas contextualmente y estaban estructuradas lógicamente. Los resultados ideales reflejan una conexión a tierra precisa, un razonamiento claro y un rendimiento coherente entre las variaciones de la misma tarea. Los resultados subóptimos incluyen afirmaciones no respaldadas, citas faltantes o irrelevantes, o resultados incoherentes bajo indicaciones similares.

Evaluaciones de riesgos y seguridad

La evaluación de los riesgos potenciales asociados con el contenido generado por inteligencia artificial es esencial para protegerse frente a riesgos de contenido con diversos grados de gravedad. Esto incluye evaluar la predisposición de un sistema de IA a generar contenido perjudicial o probar vulnerabilidades a ataques de jailbreak. Para Microsoft Copilot, estas son algunas de las evaluaciones de riesgo y seguridad que realizamos:

• Odio e injusticia
• Sexual
• Violencia
• Autolesiones
• Material protegido
• Jailbreak indirecto
• Jailbreak directo
• Vulnerabilidad de código
• Atributos sin fundamento

Métodos de evaluación de riesgos y seguridad

Las evaluaciones de riesgos y seguridad usaron mensajes de confrontación basados en texto y clasificadores automatizados para evaluar los posibles daños, como el odio, el contenido sexual, la violencia, las autolesiones, la fuga de material protegido, los intentos de jailbreak y los atributos sin fundamento. Las pruebas combinaron las evaluaciones de los jueces de LLM con la detección basada en clasificadores y las pruebas manuales cuando fue necesario. Los resultados ideales redirigen o rechazan solicitudes inseguras y mantienen un mantenimiento constante de los límites a través de las variaciones de aviso. Los resultados subóptimos incluyen producir contenido perjudicial, responder de forma incoherente a entradas adversas o mostrar susceptibilidad a las técnicas de jailbreak.

Componentes de seguridad y mitigaciones

A medida que identificábamos posibles riesgos y usos indebidos a través de procesos como pruebas de equipos rojos y los medíamos, desarrollábamos mitigaciones para reducir el potencial de daño. En la lista siguiente se describen algunas de esas mitigaciones. Seguiremos evaluando las experiencias de Microsoft Copilot para mejorar el rendimiento y las mitigaciones del producto.

• Lanzamiento por fases, evaluación continua. Nos comprometemos a aprender y mejorar nuestro enfoque de IA responsable continuamente a medida que evolucionan nuestras tecnologías y el comportamiento de los usuarios. Estamos realizando cambios en Microsoft Copilot periódicamente para mejorar el rendimiento del producto, mejorar las mitigaciones existentes e implementar nuevas mitigaciones en respuesta a nuestros aprendizajes.

• Fundamentación en datos empresariales. Un riesgo conocido con los modelos de lenguaje grandes es su capacidad para generar contenido sin fundamento, contenido que parece correcto pero que no está presente en los materiales de origen. Una mitigación importante en Microsoft Copilot es fundamentar el contenido generado por IA en datos empresariales relevantes a los que el usuario tenga acceso en función de sus permisos. Por ejemplo, en función del mensaje, se proporcionan a Microsoft Copilot documentos empresariales relevantes para fundamentar su respuesta en esos documentos. Sin embargo, al resumir contenido de varios orígenes, Microsoft Copilot puede incluir información en su respuesta que no está presente en sus orígenes de entrada. En otras palabras, puede producir resultados sin fundamento. Los usuarios siempre deben tener cuidado y usar su mejor criterio al usar salidas de Microsoft Copilot. Hemos tomado varias medidas para mitigar el riesgo de que los usuarios confíen en exceso en contenido generado por IA sin fundamento. Siempre que sea posible, las respuestas de Microsoft Copilot que se basan en documentos empresariales incluyen referencias a las fuentes para que los usuarios comprueben la respuesta y obtengan más información. A los usuarios también se les proporciona un aviso explícito de que interactúan con un sistema de inteligencia artificial y se les recomienda que comprueben los materiales de origen para ayudarles a usar su mejor criterio.

• Clasificadores basados en inteligencia artificial y metaindicación para mitigar posibles riesgos o uso incorrecto. El uso de LLM puede producir contenido problemático que podría provocar daños. Algunos ejemplos podrían ser mensajes relacionados con autolesiones, violencia, contenido gráfico, problemas de bioseguridad, material protegido, información inexacta, discursos que inciten al odio o textos que puedan estar relacionados con actividades ilegales. Los clasificadores como los que están disponibles en la seguridad del contenido de Azure AI y los metaindicadores son dos ejemplos de mitigaciones que se han implementado en Microsoft Copilot para ayudar a reducir el riesgo de estos tipos de contenido. Los clasificadores clasifican el texto para marcar diferentes tipos de contenido potencialmente dañino en mensajes o respuestas generadas. Microsoft Copilot usa clasificadores basados en inteligencia artificial y filtros de contenido. Las marcas conducen a posibles mitigaciones, como no devolver el contenido generado al usuario o desviar al usuario a un tema diferente. Microsoft ofrece ciertos controles de filtrado de contenido para administradores y usuarios cuando el filtrado de contenido potencialmente dañino o confidencial en Microsoft Copilot Chat no satisface sus necesidades. La metaindicación implica proporcionar instrucciones al modelo para guiar su comportamiento, incluidas para que el sistema se comporte de acuerdo con los principios de inteligencia artificial y las expectativas del usuario de Microsoft. Por ejemplo, la metaindicación puede incluir una línea como "comunicarse en el idioma que elija el usuario".

• Enriquecimiento rápido. En algunos casos, la pregunta de un usuario puede ser ambigua. Cuando esto ocurre, Microsoft Copilot puede usar el LLM para ayudar a crear más detalles en la solicitud para ayudar a garantizar que los usuarios obtengan la respuesta que buscan. Este enriquecimiento rápido no se basa en ningún conocimiento del usuario o sus búsquedas anteriores, sino en el LLM.

• Diseño centrado en el usuario e intervenciones de experiencia de usuario. El diseño centrado en el usuario y las experiencias de usuario son un aspecto esencial del enfoque de Microsoft para la IA responsable. El objetivo es arraigar el diseño del producto en las necesidades y expectativas de los usuarios. A medida que los usuarios interactúan con Microsoft Copilot por primera vez, ofrecemos varios puntos de contacto diseñados para ayudarles a comprender las capacidades del sistema, revelarles que Microsoft Copilot funciona con IA y comunicar las limitaciones.

• Divulgación de IA. Microsoft Copilot proporciona varios puntos de contacto para una divulgación significativa de la inteligencia artificial, en la que se notifica a los usuarios que interactúan con un sistema de inteligencia artificial, así como oportunidades para obtener más información sobre Microsoft Copilot. Por ejemplo, al usar Microsoft Copilot en la aplicación de Word, el contenido generado por IA se proporciona junto con un aviso de que el contenido generado por IA puede contener errores. Capacitar a los usuarios con este conocimiento puede ayudarles a evitar confiar en exceso en los resultados generados por IA y obtener información sobre las ventajas y limitaciones del sistema.

• Procedencia de los medios. Para todas las imágenes creadas con las características de edición de Designer desde Microsoft Copilot, hemos implementado credenciales de contenido de procedencia basada en el estándar C2PA para ayudar a las personas a identificar si las imágenes se editaron o generaron con IA. Los metadatos de procedencia se pueden ver en el sitio de Credenciales de contenido.

• Retroalimentación y evaluación continua. La experiencia de Microsoft Copilot se basa en herramientas existentes que permiten a los usuarios enviar comentarios sobre nuestros productos. Los usuarios pueden enviar comentarios sobre el contenido generado por Microsoft Copilot mediante el panel que aparece después de seleccionar los botones de pulgar hacia arriba o hacia abajo en las respuestas. Los comentarios enviados por los usuarios se usan para mejorar nuestras ofertas como parte de nuestro compromiso de mejorar el rendimiento del producto. Los administradores de clientes pueden revisar los comentarios enviados en el Centro de administración de Microsoft 365. También mejoramos y probamos continuamente el rendimiento de Microsoft Copilot y mitigaciones específicas como parte de nuestra evaluación y mejora continuas del servicio. Obtenga más información en Enviar comentarios sobre Microsoft Copilot con aplicaciones de Microsoft 365.

Nuestro enfoque para asignar, medir y administrar riesgos seguirá evolucionando a medida que aprendamos más y ya estamos realizando mejoras basadas en los comentarios que hemos recibido de los clientes.

Procedimientos recomendados para implementar y adoptar Microsoft Copilot

La IA responsable es un compromiso compartido entre Microsoft y sus clientes. Si bien Microsoft crea sistemas de inteligencia artificial con seguridad, equidad y transparencia en el centro, los clientes desempeñan un papel fundamental en la implementación y el uso responsables de estas tecnologías dentro de sus propios contextos. Para respaldar esta asociación, ofrecemos los siguientes procedimientos recomendados para implementadores y usuarios finales para ayudar a los clientes a implementar una IA responsable de forma eficaz.

Los implementadores y el usuario final deben:

• Tenga cuidado y evalúe los resultados al usar Microsoft Copilot para decisiones consecuentes o en dominios confidenciales: Las decisiones consecuentes son aquellas que pueden tener un impacto legal o significativo en el acceso de una persona a la educación, el empleo, los servicios financieros, los beneficios gubernamentales, la atención médica, la vivienda, los seguros, los servicios legales, o que podrían resultar en daños físicos, psicológicos o financieros. Los dominios sensibles, como los servicios financieros, la atención médica y la vivienda, requieren un cuidado especial debido al potencial de impacto desproporcionado en diferentes grupos de personas. Al usar IA para tomar decisiones en estas áreas, asegúrese de que las partes interesadas afectadas puedan comprender cómo se toman las decisiones, apelar las decisiones y actualizar los datos de entrada relevantes.

• Evalúe las consideraciones legales y regulatorias: Los clientes deben evaluar posibles obligaciones legales y reglamentarias específicas al usar cualquier servicio y solución de IA, que pueden no ser adecuados para su uso en todos los sectores o escenarios. Además, los servicios o soluciones de IA no están diseñados para y no pueden usarse de formas prohibidas en los términos de servicio aplicables y los códigos de conducta relevantes.

• Permitir la referencia de contenido web. Permitir que Microsoft Copilot haga referencia al contenido web puede mejorar la calidad, precisión y relevancia de las respuestas de Microsoft Copilot donde una respuesta se beneficiaría de la información pública actual de la web. Tenga en cuenta, sin embargo, que cuando Microsoft Copilot hace referencia al contenido web, lo hace a través del servicio de Búsqueda de Bing y que las prácticas de control de datos para las consultas de Búsqueda de Bing son diferentes de cómo Microsoft Copilot controla los datos. El uso de Bing está cubierto por el Contrato de servicios de Microsoft entre cada usuario y Microsoft, junto con la Declaración de privacidad de Microsoft.

• Amplíe la conexión a tierra en Microsoft Graph. Microsoft Copilot usa datos de Microsoft Graph para fundamentar las respuestas en datos específicos de la organización, como correos electrónicos, chats, archivos y calendarios. Al ampliar Microsoft Graph con datos de la organización de orígenes como sistemas CRM o repositorios de archivos externos, las organizaciones pueden incluir información adicional relevante y específica del contexto que mejora aún más la riqueza y precisión de las respuestas de Microsoft Copilot.

Los usuarios finales deben:

Para mejorar el rendimiento en relación con la precisión de la salida de Microsoft Copilot, se recomienda que las organizaciones consideren lo siguiente:

• Escriba buenas indicaciones. Escribir buenas consultas es clave para obtener mejores resultados con Microsoft Copilot. Al igual que hay técnicas para ayudar a las personas a comunicarse eficazmente con un ser humano, hay directrices que pueden ayudar a los usuarios a obtener mejores resultados con Microsoft Copilot al escribir indicaciones. Por ejemplo: incluye detalles, estructura las indicaciones, proporciona instrucciones positivas, repite y regenera, y revisa y comprueba siempre las respuestas generadas por IA. Para obtener más información, consulte Obtener mejores resultados con el aviso de Copilot.

• Ejercer supervisión humana cuando corresponda: La supervisión humana es una medida de seguridad importante al interactuar con los sistemas de IA. Aunque mejoramos continuamente nuestros sistemas de inteligencia artificial, la inteligencia artificial todavía podría cometer errores. Las salidas generadas pueden ser inexactas, incompletas, sesgadas, desalineadas o irrelevantes para sus objetivos previstos. Esto puede suceder debido a varias razones, como ambigüedad en las entradas o limitaciones de los modelos subyacentes. Por lo tanto, los usuarios deben revisar las respuestas generadas por Microsoft Copilot y comprobar que cumplen con sus expectativas y requisitos.

• Tenga en cuenta el riesgo de dependencia excesiva: La dependencia excesiva de la IA se produce cuando los usuarios aceptan resultados de IA incorrectos o incompletos, principalmente porque los errores en los resultados de IA pueden ser difíciles de detectar. Para el usuario final, la dependencia excesiva podría resultar en una disminución de la productividad, pérdida de confianza, abandono de productos, pérdida financiera, daño psicológico, daño físico, entre otros. (por ejemplo, un médico acepta una salida de IA incorrecta). Para Microsoft Copilot, ayudamos a mitigar este riesgo agregando renuncias a nuestros productos, pero los usuarios deben asegurarse de revisar la precisión de las respuestas.

• Tenga cuidado al diseñar IA agente en dominios confidenciales: Los usuarios deben tener cuidado al diseñar o implementar sistemas de IA agentic en dominios confidenciales donde las acciones de los agentes son irreversibles o altamente consecuentes. También se deben tomar precauciones adicionales al crear IA agencial autónoma, como se describe más adelante en el Código de conducta de servicios de IA empresarial de Microsoft (para organizaciones) o en la sección Código de conducta del Contrato de servicios de Microsoft (para particulares).

Los implementadores deben:

Microsoft proporciona herramientas como el Panel de Microsoft Microsoft Copilot para clientes de Microsoft 365 e informes en el Centro de administración de Microsoft 365. Estas herramientas están diseñadas para ayudar a las organizaciones a medir el uso, la adopción y el impacto de Microsoft Copilot. Por ejemplo:

• El informe de uso de Microsoft Copilot permite a los administradores ver un resumen de cómo la adopción, retención y compromiso de los usuarios con Microsoft Copilot para administrar y optimizar las licencias. Para más información, consulte Uso de Microsoft Copilot.
• El Panel de Microsoft Copilot proporciona a los líderes, analistas y delegados acceso a informes precompilados sobre el uso de Microsoft Copilot y Copilot Chat en toda la organización para medir la adopción y el impacto. Para obtener más información, consulte Conectarse al panel de Microsoft Microsoft Copilot para clientes de Microsoft 365.
• Copilot Business Impact está disponible en Viva Insights, permite a los analistas comparar el uso de Microsoft Copilot con métricas empresariales para comprender el valor empresarial. Para obtener más información, consulte el informe de impacto empresarial de Copilot.

Más información sobre Microsoft Copilot

Para obtener instrucciones adicionales sobre el uso responsable de Microsoft Copilot, le recomendamos que revise la siguiente documentación:

• Introducción a Microsoft Copilot
• Datos, privacidad y seguridad para Microsoft Copilot
• Extensibilidad de Microsoft Copilot

Más información sobre la IA responsable

• Principios de IA de Microsoft AI
• Recursos de IA responsables de Microsoft
• Cursos de aprendizaje de Microsoft Azure sobre IA responsable