Verbeter AI-respons met Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG) in Microsoft Copilot Studio combineert de redeneermogelijkheden van taalmodellen met vertrouwde, organisatiespecifieke kennis. Hierdoor kunnen agenten nauwkeurige, contextuele en onderbouwde respons genereren op basis van de inhoud van de organisatie, in plaats van uitsluitend te vertrouwen op modelgeheugen.

In dit artikel leert u het volgende:

  • Begrijp hoe RAG de betrouwbaarheid en onderbouwing van AI verbetert.
  • Beschrijf hoe Copilot Studio kennis ophaalt en samenvoegt.
  • Identificeer de ondersteunde kennisbronnen en hun beperkingen.
  • Herken governance, compliance en AI-veiligheidsoverwegingen.
  • Pas RAG-concepten toe bij het ontwerpen van agenten in bedrijfsomgevingen.

Kennismaking met RAG

RAG is een ontwerppatroon dat de nauwkeurigheid van AI verbetert door twee mogelijkheden te combineren:

  • Informatieopvraging: Doorzoeken van bedrijfsdatabronnen.
  • Tekstgeneratie: Opgehaalde informatie tot een geheel maken door gebruik te maken van een taalmodel.

Deze aanpak vermindert onjuiste informatie, vergroot het vertrouwen en genereert antwoorden die gebaseerd zijn op echte organisatorische inhoud.

RAG-architectuur in Copilot Studio

De RAG-pijplijn van Copilot Studio is op Azure AI-diensten gebouwd en integreert nauw met de vertrouwens-, compliance- en beveiligingsgrenzen van Microsoft.

Kernonderdelen:

  • Copilot Studio-runtime: Beheert de gespreks-pijplijn
  • Engine voor queryoptimalisatie: herschrijft en interpreteert queries
  • Zoekaanbieders: Bing, SharePoint, Graph, Dataverse, Azure AI Zoeken
  • Samenvatting-engine: maakt gefundeerde, geciteerde respons
  • Moderatielagen: valideert berichten en samenvattingen
  • Status van de opslag: Kortetermijngeheugen (minder dan 30 dagen; niet gebruikt voor training)
  • Telemetrie- en feedbackopslag: biedt inzicht en toezicht

Diagram van de Copilot Studio RAG-werkstroom met stappen voor berichtmoderatie, query-optimalisatie, opvraging, samenvatting en validatie.

Zo werkt RAG in Copilot Studio

RAG in Copilot Studio volgt een vierstappenproces:

  1. Query herschrijven
  2. Inhoud ophalen
  3. Samenvatting en genereren van responsen
  4. Validatie van veiligheid en governance

1. Query herschrijven

Copilot Studio optimaliseert de gebruikersvraag voordat er gezocht wordt:

  • Betekenis verduidelijken
  • Voegt contextuele signalen toe (laatste 10 beurten)
  • Verbetert trefwoordafstemming
  • Genereert zoekvriendelijke queries

Dit proces verbetert de zoekkwaliteit en vermindert irrelevante resultaten.

2. Inhoud ophalen

Na het herschrijven van de query voert het systeem deze uit op alle kennisbronnen die u hebt ingesteld. Copilot Studio haalt de drie beste resultaten van elke bron op, en brengt daarbij relevantie en prestaties in balans. Het gedrag van elke kennisbron varieert, afhankelijk van factoren zoals verificatie, indexering, bestandsindelingen en opslagbeperkingen.

De volgende tabel geeft een overzicht van alle ondersteunde kennisbronnen en hun mogelijkheden, beperkingen en verificatievereisten:

Kennisbron Omschrijving Authenticatie Belangrijkste mogelijkheden, limieten en beperkingen
Publieke gegevens (websites) Websites geïndexeerd door Bing Nee
  • Websites moeten door Bing worden geïndexeerd.
  • Bing kan niet beperkt worden tot een regio.
  • Het bevestigen van het eigendom van de website leidt tot betere resultaten.
  • Openbare websites: maximaal twee subpagina's diepte (/en/help/), geen directe pagina's.
  • Aangepast zoeken in Bing: één configuratie-id, maar die kan worden ingesteld via een formule, Azure-kosten worden door Microsoft gedekt, tot 400 URL's, aangepaste rangschikkingsopties, maximaal twee subpagina's diepte (/en/help/), ondersteunt directe pagina's.
Sharepoint/Onedrive Bedrijfsinterne inhoud (uitsluitend intern) Gedelegeerde auth van Microsoft Entra ID
  • Vereist dat de gebruiker geverifieerd is met Microsoft Entra ID om gedelegeerde oproepen te kunnen uitvoeren.
  • Overeenkomende bestanden (maximaal 15 MB) worden opgehaald om gedetailleerde tekstfragmenten te verkrijgen voor samenvatting.
  • Beveiligingsbeperking: teruggegeven resultaten bevatten alleen inhoud waartoe de gebruiker leestoegang heeft.
  • De premiumfunctie 'Verbeterde zoekresultaten' maakt gebruik van onderbouwing van Tenant Microsoft Graph voor berichten, waardoor de resultatenkwaliteit wordt verbeterd en de maximale bestandsgrootte (200 MB) wordt vergroot.
Geüploade bestanden Bestanden geüpload in Dataverse-opslag Nee
  • Bestanden (maximaal 512 MB) worden opgeslagen in Dataverse-opslag, met een maximum van 500 bestanden per agent.
  • Bestanden worden geïndexeerd in Zoeken in Dataverse en profiteren van herkenning van afbeeldingen en tabellen in PDF's.
  • Standaard bevatten citaten geen koppeling naar het bestand, maar deze koppeling kan worden toegevoegd met aanpassingen.
Dataverse-tabellen Gestructureerde bedrijfsrecords (alleen intern) Gedelegeerde auth van Microsoft Entra ID
  • Dataverse-tabellen (maximaal 15) kunnen worden geconfigureerd met synoniemen en een woordenlijst om het zoeken te verbeteren.
  • Natuurlijke taalqueries worden omgezet in analytische queries over gestructureerde data.
Graph-connectors Bedrijfstoepassingen geïndexeerd in Microsoft Graph (alleen voor intern gebruik) Gedelegeerde auth van Microsoft Entra ID
  • Vereist dat de gebruiker wordt geverifieerd met Microsoft Entra ID om gedelegeerde oproepen uit te voeren.
  • Verbind met andere zakelijke kennisbronnen die zijn geïndexeerd in de Microsoft Graph-index, zoals ServiceNow KB, Confluence, aangepaste gegevens van bedrijfswebsites en meer.
  • De premiumfunctie 'Verbeterde zoekresultaten' gebruikt onderbouwing van Tenant Microsoft Graph.
Realtime connectors Live data van systemen zoals Salesforce, Zendesk, SQL (alleen intern) Gebruiker moet aangemeld zijn
  • Copilot-connectors halen gestructureerde data op van Salesforce, ServiceNow, Zendesk, Azure SQL.
  • De aangemelde gebruiker moet verbindingen maken met de doelsystemen.
Azure AI Zoeken Semantische zoekfunctie op basis van vectoren Geconfigureerd eindpunt
  • Levert resultaten op uit een gekoppelde Azure AI Zoeken-index op basis van vectoren.
  • Verbinding wordt niet gedelegeerd: geen beveiligingsfiltering, geen verificatievereiste voor de gebruiker.
Aangepaste gegevens Data geleverd via API's, stromen of aangepaste logica Nee
  • Er is een voorafgaande stap nodig om de bron te bevragen (bijvoorbeeld door cloudstromen, connectors of HTTP-verzoeken te gebruiken).
  • Resultaten worden als invoer doorgegeven aan de generatieve antwoorden om een samenvatting van een antwoord op de query te genereren.
  • Invoergegevens moeten in tabelformaat zijn, met drie eigenschappen: Content (meestal fragmenten van relevante inhoud), ContentLocation (optioneel, meestal een URL) en Title (optioneel).

3. Samenvatting en genereren van responsen

  • AI stelt opgehaalde inhoud samen
  • Past aangepaste instructies toe voor toon, opmaak, veiligheid of beknoptheid
  • Genereert bronvermeldingen bij de onderliggende gegevens
  • Personaliseert responsen op basis van gebruikerscontext (zoals taal, afdeling of regio)

4. Validatie van veiligheid en governance

Elke respons doorloopt geautomatiseerde validatielagen:

  • Moderatie van schadelijke, kwaadaardige, niet-conforme of auteursrechtelijk beschermde antwoorden
  • Validatie van onderbouwing en verwijdering van onjuiste informatie

Taalmodellen worden niet getraind met klantgegevens.

Belangrijke overwegingen bij het gebruik van RAG

RAG werkt het beste voor feitelijke vragen en antwoorden, niet voor diepgaande documentanalyse.

RAG is ideaal voor:

  • Vragen beantwoorden uit kennisbanken
  • Beleid, veelgestelde vragen en procedurele inhoud samenvatten
  • Specifieke feiten ophalen uit bestanden of interne systemen

RAG is niet bedoeld voor:

  • Vergelijking van volledige documenten
  • Evaluatie van beleidsnaleving
  • Complex redeneren op basis van lange, ongestructureerde documenten

Overwegingen rond beveiliging en compliance bij generatieve AI

Generatieve AI-functies in Microsoft Copilot Studio zijn ontworpen om krachtige conversatie- en redeneermogelijkheden te bieden, terwijl sterke beveiligings-, privacy- en compliance-controles worden gehandhaafd.

Basismodellen en hosting

  • Copilot Studio is gebaseerd op basismodellen die OpenAI traint.
  • Copilot Studio gebruikt een van de nieuwste OpenAI-modellen voor generatieve antwoorden.
  • Modellen draaien volledig op interne Azure AI Foundry-diensten, afgestemd op de grens van Microsoft Services Trust.
  • Al het gebruik van het model volgt de principes van Microsoft Responsible AI en beleidsregels.

Aangepaste instructies

Makers kunnen aangepaste instructies geven om het gedrag van het model te sturen, de toon te beïnvloeden of opmaakregels toe te voegen. Deze instructies helpen de gegenereerde respons af te stemmen op de behoeften van de organisatie, terwijl veiligheidsfilters en compliance-controles worden gerespecteerd.

Gegevensopslag en -verwerking

  • Dataopslag en -verwerking in Copilot Studio kunnen data over regionale grenzen heen verplaatsen wanneer lokale modelhosting niet beschikbaar is.
  • Wanneer deze gegevensverplaatsing niet is toegestaan, kunnen beheerders omgevingsinstellingen gebruiken om specifieke functies, zoals Azure-taalmodellen of Zoeken in Bing, uit te schakelen.
  • Copilot Studio verzamelt of gebruikt geen klantgegevens voor het trainen van taalmodellen.

Operationele gegevensverwerking

  • Tijdens het gebruik worden gesprekken tijdelijk opgeslagen in een beveiligde, door Microsoft beheerde opslaglocatie.
  • De toegang van gemachtigd Microsoft-personeel is beperkt via werkstations met beveiligde toegang (SAWs) met Just-In-Time-controles (JIT).
  • Organisaties kunnen de toegang verder controleren via Klanten-lockbox, waarbij expliciete goedkeuring vereist is voordat Microsoft-supporttechnici de gegevens kunnen bekijken.

Probleemoplossings-telemetrie

  • Generatieve AI-functies genereren extra probleemoplossingsgegevens, maar alleen voor door de maker geïnitieerde acties in het deelvenster Test, specifiek wanneer de maker een duim omhoog of omlaag geeft op een respons.
  • Er worden geen extra klantgegevens gelogd buiten deze expliciete feedbacklus.

Monitoring van misbruik en veiligheid

Omdat meerdere veiligheidslagen al generatieve AI-functies beschermen, schakelt de generatieve AI van Copilot Studio de monitoring van misbruik van Azure AI uit om verdere logboekregistratie van klantgegevens te voorkomen.