Mejorar las respuestas de IA utilizando la generación aumentada de recuperación

La generación aumentada de recuperación (RAG) en Microsoft Copilot Studio combina las capacidades de razonamiento de los modelos de lenguaje con conocimientos específicos de la organización de confianza. Permite a los agentes producir respuestas precisas, contextuales y fundamentadas basadas en el contenido de la organización, en lugar de depender únicamente de la memoria del modelo.

En este artículo aprenderá a:

• Entender cómo RAG mejora la fiabilidad y la fundamentación de la IA.
• Describir cómo Copilot Studio recupera y sintetiza conocimientos.
• Identificar las fuentes de conocimientos admitidas y sus restricciones.
• Reconocer las consideraciones de gobernanza, cumplimiento y seguridad de la inteligencia artificial.
• Aplicar los conceptos de RAG al diseñar agentes en entornos empresariales.

Introducción a RAG

RAG es un patrón de diseño que mejora la precisión de la IA combinando dos capacidades:

• Recuperación de información: búsqueda de fuentes de datos empresariales.
• Generación de texto: síntesis de la información recuperada utilizando un modelo de lenguaje.

Este enfoque reduce la información incorrecta, aumenta la confianza y genera respuestas fundamentadas en contenido real de la organización.

Arquitectura RAG en Copilot Studio

La canalización RAG de Copilot Studio se basa en los Servicios de Azure AI y se integra estrechamente con los límites de confianza, cumplimiento y seguridad de Microsoft.

Componentes principales:

• Tiempo de ejecución de Copilot Studio: administra el flujo conversacional
• Motor de optimización de consultas: reescribe e interpreta consultas
• Proveedores de búsqueda: Bing, SharePoint, Graph, Dataverse, Búsqueda de Azure AI
• Motor de generación de resúmenes: crea respuestas fundamentadas y citadas
• Capas de moderación: validan mensajes y resúmenes
• Almacén de estado: memoria a corto plazo (menos de 30 días; no se utiliza para entrenamiento)
• Almacenes de telemetría y retroalimentación: proporcionan perspectiva y supervisión

Cómo funciona RAG en Copilot Studio

RAG en Copilot Studio sigue un proceso de cuatro pasos:

1. Reescritura de consultas
2. Obtención de contenido
3. Resumen y generación de respuestas
4. Validación de seguridad y gobernanza

1. Reescritura de consultas

Copilot Studio optimiza la pregunta del usuario antes de buscar:

• Aclara el significado
• Añade señales contextuales (últimos 10 turnos)
• Mejora la coincidencia de palabras clave
• Genera consultas fáciles de buscar

Este proceso aumenta la calidad de la recuperación y reduce los resultados irrelevantes.

2. Recuperación de contenido

Después de reescribir la consulta, el sistema la ejecuta contra todas las fuentes de conocimientos que se han configurado. Copilot Studio obtiene los tres principales resultados de cada fuente, equilibrando relevancia y rendimiento. El comportamiento de cada fuente de conocimientos varía en función de factores como la autenticación, la indexación, los formatos de archivo y las limitaciones de almacenamiento.

En la siguiente tabla se resumen todas las fuentes de conocimientos admitidas y sus capacidades, restricciones y requisitos de autenticación:

3. Resumen y generación de la respuesta

• La IA sintetiza el contenido recuperado
• Aplica instrucciones personalizadas para tono, formato, seguridad o brevedad
• Genera citas a los datos subyacentes
• Personaliza las respuestas usando el contexto del usuario (como idioma, departamento o región)

4. Validación de seguridad y gobernanza

Cada respuesta pasa por capas de validación automatizadas:

• Moderación de respuestas dañinas, maliciosas, no conformes o protegidas por derechos de autor
• Validación de fundamentación y eliminación de información incorrecta

Los datos de clientes no se utilizan para entrenar modelos de lenguaje.

Consideraciones clave al usar RAG

RAG funciona mejor para preguntas y respuestas basadas en hechos, no para análisis exhaustivo de documentos.

RAG es ideal para:

• Responder preguntas de bases de conocimiento
• Resumir políticas, preguntas frecuentes y contenido de procedimientos
• Recuperar hechos específicos de archivos o sistemas internos

El RAG no está previsto para:

• Comparación total de documentos
• Evaluación del cumplimiento de políticas
• Razonamiento complejo sobre documentos largos y no estructurados

Consideraciones de seguridad y cumplimiento de IA generativa

Las características de IA generativa en Microsoft Copilot Studio están diseñadas para ofrecer potentes capacidades conversacionales y de razonamiento, manteniendo al mismo tiempo un sólido control de seguridad, privacidad y cumplimiento.

Modelos de fundación y hosting

• Copilot Studio se basa en modelos fundacionales que entrena OpenAI.
• Copilot Studio utiliza uno de los modelos de OpenAI más recientes para respuestas generativas.
• Los modelos se ejecutan completamente en los servicios internos de Fundición de IA de Azure, dentro del perímetro de confianza de Microsoft Services.
• Todo el uso del modelo cumple con los principios y políticas de IA responsable de Microsoft.

Instrucciones personalizadas

Los creadores pueden proporcionar instrucciones personalizadas para moldear el comportamiento del modelo, influir en el tono o añadir reglas de formato. Estas instrucciones ayudan a adaptar las respuestas generativas a las necesidades de la organización, respetando los filtros de seguridad y los controles de cumplimiento.

Almacenamiento y procesamiento de datos

• El almacenamiento y procesamiento de datos en Copilot Studio podría mover datos a través de fronteras regionales cuando no se dispone de hosting local de modelos.
• Cuando no se permite este movimiento de datos, los administradores pueden usar la configuración del entorno para desactivar características específicas, como los modelos de lenguaje de Azure o la búsqueda de Bing.
• Copilot Studio no recopila ni utiliza datos de clientes para entrenar modelos de lenguaje.

Administración operativa de datos

• Durante la operación, el sistema almacena temporalmente las conversaciones en un repositorio seguro gestionado por Microsoft.
• El acceso del personal autorizado de Microsoft está restringido mediante estaciones de trabajo de acceso seguro (SAW) con controles Just-In-Time (JIT).
• Las organizaciones pueden controlar aún más el acceso mediante la Caja de seguridad del cliente, que requiere aprobación explícita antes de que los ingenieros de soporte de Microsoft puedan acceder a los datos.

Telemetría para solución de problemas

• Las características de IA generativa generan datos adicionales para la solución de problemas, pero solo para acciones iniciadas por el creador en el panel de Prueba, específicamente cuando el creador da pulgar arriba o pulgar abajo a una respuesta.
• No se registra información adicional de clientes fuera de este bucle de retroalimentación explícito.

Supervisión y seguridad de abusos

Dado que múltiples capas de seguridad ya protegen las funciones de IA generativa, la IA generativa de Copilot Studio desactiva la supervisión de abusos de Azure para evitar un registro aún mayor de los datos de clientes.