Preguntas frecuentes sobre IA responsable para Microsoft Agent 365

Un sistema de IA incluye no solo la tecnología, sino también las personas que la usan, las personas afectadas por ella y el entorno en el que se implementa. Las preguntas frecuentes sobre la IA responsable de Microsoft están destinadas a ayudarle a comprender cómo funciona la tecnología de inteligencia artificial, las elecciones que pueden hacer los propietarios y usuarios del sistema que influyen en el rendimiento y el comportamiento del sistema, y la importancia de pensar en todo el sistema, incluida la tecnología, las personas y el medio ambiente. Puede usar las preguntas frecuentes sobre IA responsable para comprender mejor los sistemas y las características de IA específicos que desarrolla Microsoft.

Las preguntas frecuentes sobre IA responsable son parte de un esfuerzo más amplio para poner en práctica los principios de IA de Microsoft. Para obtener más información, consulte Principios de IA de Microsoft.

¿Qué es Microsoft Agent 365?

Agent 365 es la iniciativa estratégica de Microsoft para habilitar, gestionar y escalar agentes de IA en toda la empresa.

¿Qué puede hacer Agent 365?

Al ampliar la infraestructura que utiliza para gestionar personas a agentes, Agent 365 equipa a sus agentes con las mismas aplicaciones y protecciones, adaptadas a las necesidades de los agentes, ahorrando tiempo y esfuerzo de TI en la integración de los agentes en los procesos empresariales. Agent 365 incluye soluciones líderes de seguridad y productividad de Microsoft: Defender, Entra y Purview para proteger y controlar los agentes; Aplicaciones de Microsoft 365 y Work IQ para acelerar su productividad; y Centro de administración de Microsoft 365 administrar agentes.

• Registro: obtenga la vista completa de todos los agentes de su organización, incluidos los agentes con el identificador de agente, los agentes que se registran usted mismo y los agentes de instantáneas.

• Control de acceso: incorpore agentes bajo administración y limite su acceso solo a los recursos que necesitan. Impedir que los agentes se pongan en peligro con las directivas de acceso condicional basadas en riesgos.

• Visualización: explore las conexiones entre agentes, personas y datos y supervise el comportamiento y el rendimiento del agente en tiempo real para evaluar su impacto en su organización.

• Interoperabilidad: equipe cualquier agente con aplicaciones y datos para simplificar los flujos de trabajo de agente humano. Conéctelos a Work IQ para proporcionar contexto de trabajo para incorporarlos a los procesos empresariales.

• Seguridad: proteja los agentes frente a amenazas y vulnerabilidades, detecte, investigue y corrija los ataques que tienen como destino los agentes. Protege los datos que los agentes crean y utilizan frente a la sobrecomposición, las filtraciones y el comportamiento riesgoso de los agentes.

¿Cuáles son los usos previstos de Agent 365?

• Los empleados de la empresa pueden utilizar agentes de IA como entidades autónomas capaces de actuar, colaborar y ofrecer resultados a través de los flujos de trabajo empresariales.

• CTO y administradores de TI responsables de permitir que sus organizaciones se conviertan en pioneras y deben hacerlo de forma segura, manteniendo a los agentes bajo control.

¿Cómo se evaluó Agent 365? ¿Qué métricas se utilizan para medir el rendimiento?

Evaluamos XPIA y riesgos no fundamentados utilizando diversas actividades de evaluación, incluyendo el red teaming y evaluaciones con IA, donde se identificaron (si hubo) y racionalizaron las tasas de defectos.

¿Cuáles son las limitaciones de Agent 365? ¿Cómo pueden los usuarios minimizar el impacto de las limitaciones de Agent 365 cuando usan el sistema?

Human in the loop (HITL), etiquetas de confidencialidad y permisos de compartir son limitaciones conocidas que se abordarán en el futuro. El reconocimiento de esto se indica en varios puntos táctiles: al agregar este agente, los archivos o chats que comparta se pueden resumir e incluir en las respuestas del agente a cualquier usuario, incluso aquellos sin permisos para los archivos o chats e independientemente de la etiqueta de confidencialidad.

¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de Agent 365?

• Para gestionar la configuración de colaboración externa para agentes en Microsoft Teams, los administradores deben configurar directivas de inquilino en el centro de administración de Teams.

¿Cómo puedo facilitar comentarios en Agent 365?

Cualquier comentario sobre Agent 365 debe proporcionarse en la superficie en la que se experimenta, incluyendo, pero no limitado a, el centro de administración de Microsoft 365, el centro de administración de Teams, la Tienda de Teams, la Tienda de Agentes, Copilot, Purview y Defender.