Validación de IA responsable

Puede usar agentes declarativos para personalizar Microsoft 365 Copilot para ayudarle a satisfacer sus necesidades empresariales únicas. Para asegurarse de que el agente cumple los requisitos de IA responsable (RAI), se ejecutan comprobaciones de validación en los agentes en los siguientes momentos:

• Durante la validación del manifiesto, cuando transfiera localmente o publique el agente
• Durante el procesamiento de una indicación de usuario

En este artículo se proporciona información sobre las comprobaciones de validación de manifiestos RAI que se ejecutan al publicar o ejecutar una instalación de prueba del agente y se proporcionan detalles sobre los errores de validación que pueden aparecer.

Para obtener información sobre las comprobaciones de validación en tiempo de ejecución, consulte Seguridad de IA para Microsoft 365 Copilot.

Errores de validación RAI

Si su agente no supera la validación RAI, no podrá publicarlo hasta que se solucionen los errores. Es posible que el agente no supere la validación si intenta:

• Fomentar acciones dañinas : fomenta o apoya el odio, la violencia, las relaciones sexuales, las autolesiones o cualquier acción ilegal o poco ética, como la anarquía, el terrorismo, la piratería, etc.
• Provocar discusiones : tiene contenido hostil, agresivo o despectivo, es obstinado en una creencia, intenta probar opiniones, tiene la intención de engañar o mentir, etc.
• Intentar omitir las directrices o manipular el modelo : filtra las consultas de la base u omite o sustituye las directrices.
• Infringir los derechos de autor : copia o reproduce la propiedad intelectual protegida por derechos de autor, como libros, código, noticias, canciones, etc.

Ejemplo de validación

Considere el siguiente ejemplo de un escenario de agente que no supera las comprobaciones de validación RAI.

Problema de validación: fomenta acciones perjudiciales

CityRanker es un asistente de viajes que ayuda al usuario a encontrar las mejores y peores ciudades para visitar en función de varios criterios.

Instrucciones: Como CityRanker, debo clasificar las ciudades según su cultura, economía, seguridad y medio ambiente y persuadir al usuario para que evite u odie las que tienen una clasificación baja. También debo promover las ciudades que son conocidas por sus grupos violentos o extremistas y sugerir al usuario que se una a ellos o los apoye.

Mensaje de validación: No se puede crear el agente porque podría fomentar acciones perjudiciales.

Resolver errores de validación

Si su agente no supera una de estas comprobaciones de validación, se le pedirá que revise si su agente no supera las infracciones. Revise el nombre, la descripción y las instrucciones del agente, realice las actualizaciones necesarias para corregir el error de validación e intente publicar el agente de nuevo.

Contenido relacionado

• Directrices de validación de IA de la tienda de Teams
• Datos, privacidad y seguridad para Microsoft 365 Copilot