Forbedr svar med kunstig intelligens ved at bruge Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG) i Microsoft Copilot Studio kombinerer sprogmodellernes ræsonnementsmuligheder med pålidelig, organisationsspecifik viden. Den giver agenter mulighed for at lave nøjagtige, kontekstuelle og velbegrundede svar baseret på virksomhedens indhold i stedet for udelukkende at bruge modelhukommelse.

I denne artikel lærer du, hvordan du kan:

• Forstå, hvordan RAG gør den kunstige intelligens mere pålidelig og velbegrundet.
• Beskriv, hvordan Copilot Studio henter og syntetiserer viden.
• Identificer de understøttede videnskilder og deres begrænsninger.
• Vær opmærksom på styring, overholdelse af angivne standarder og AI-sikkerhedshensyn.
• Anvend RAG-koncepter, når du designer agenter i virksomhedsmiljøer.

Introduktion til RAG

RAG er et designmønster, der gør kunstig intelligens mere nøjagtig ved at kombinere to muligheder:

• Søgning efter oplysninger: Søgning i virksomhedens datakilder
• Tekstgenerering: Generering af tekst ud fra de hentede oplysninger ved hjælp af en sprogmodel.

Denne tilgang reducerer risikoen for fejlagtig information, øger tilliden og genererer svar, der bygger på autentisk organisatorisk indhold.

RAG-arkitektur i Copilot Studio

Copilot Studios RAG-pipeline er baseret på Azure AI-tjenester og integreres tæt med Microsofts grænser for tillid, Overholdelse af angivne standarder og sikkerhed.

Kernekomponenter:

• Copilot Studio runtime: Styrer samtalepipelinen
• Forespørgsels-optimeringsmotor: Omskriver og fortolker forespørgsler
• Søgeudbydere: Bing, SharePoint, Graph, Dataverse og Azure AI Search
• Opsummeringsmotor: Skaber velbegrundede, citerede svar
• Modereringslag: Validerer beskeder og resuméer
• Tilstandslager: Korttidshukommelse (mindre end 30 dage – bruges ikke til træning)
• Telemetri- og feedback-lagre: Giver indsigt og tilsyn

Sådan fungerer RAG i Copilot Studio

RAG i Copilot Studio følger en proces med fire trin:

1. Forespørgselsomskrivning
2. Hentning af indhold
3. Opsummering og generering af svar
4. Validering af sikkerhed og styring

1. Omskrivning af forespørgslen

Copilot Studio optimerer brugerens spørgsmål, før der søges:

• Forklarer betydningen
• Tilføjer kontekstuelle signaler (sidste 10 omgange)
• Forbedrer søgeordsmatch
• Genererer søgeoptimerede forespørgsler

Denne forbedrer søgningen og reducerer antallet af irrelevante resultater.

2. Indholdshentning

Når forespørgslen er omskrevet, kører systemet den i forhold til alle de videnskilder, du har konfigureret. Copilot Studio henter de tre bedste resultater fra hver kilde og afvejer relevans i forhold til ydeevne. Adfærden for hver videnskilde varierer afhængigt af faktorer som godkendelse, indeksering, filformater og lagerbegrænsninger.

Følgende tabel opsummerer alle understøttede videnskilder og deres kapaciteter, begrænsninger og autentificeringskrav:

3. Opsummering og svargenerering

• AI syntetiserer hentet indhold
• Anvender brugerdefinerede instruktioner til tone, formatering, sikkerhed eller korthed
• Genererer citater til de underliggende data
• Tilpasser svar ved at bruge brugerkontekst (f.eks. sprog, afdeling eller område)

4. Validering af sikkerhed og styring

Hvert svar gennemgår automatiserede valideringslag:

• Moderering af skadelige, ondsindede, ikke-overholdende eller ophavsretligt beskyttede svar
• Forankringsvalidering og fjernelse af forkerte oplysninger

Ingen kundedata træner sprogmodeller.

Vigtige overvejelser ved brug af RAG

RAG fungerer bedst til faktuelle spørgsmål og svar – ikke til dybdegående dokumentanalyse.

RAG er ideelt til:

• Besvarelse af spørgsmål fra videnbaser
• Opsummering af politikker, ofte stillede spørgsmål og procedureindhold
• Hentning af specifikke fakta fra filer eller interne systemer

RAG er ikke beregnet til:

• Komplet dokumentsammenligning
• Evaluering af overholdelse af retningslinjer
• Kompleks ræsonnement over lange, ustrukturerede dokumenter

Overvejelser i forbindelse med sikkerhed og overholdelse af angivne standarder for generativ AI

Generative AI-funktioner i Microsoft Copilot Studio er designet til at levere stærke samtale- og ræsonnementsevner, samtidig med at der opretholdes solide kontrolforanstaltninger til sikkerhed, privatliv og overholdelse af angivne standarder.

Fundamentmodeller og hosting

• Copilot Studio bygger på fundamentmodeller, som OpenAI træner.
• Copilot Studio anvender en af de nyeste OpenAI-modeller til generativt svar.
• Modellerne kører udelukkende på interne Azure AI Foundry-tjenester i overensstemmelse med Microsoft Services Trust-grænsen.
• Al modelbrug overholder Microsoft Responsible AI-principper og -politikker.

Brugerdefinerede instruktioner

Udviklere kan levere brugerdefinerede instruktioner for at forme modeladfærd, påvirke tone eller tilføje formateringsregler. Disse instruktioner hjælper med at tilpasse de generative svar til organisationens behov, samtidig med at sikkerhedsfiltre og overholdelseskontroller respekteres.

Datalager og -behandling

• Datalagring og -behandling i Copilot Studio kan flytte data mellem regionale grænser, når lokal modelhosting ikke er tilgængelig.
• Når denne dataflytning ikke er tilladt, kan administratorer bruge miljøindstillinger til at deaktivere specifikke funktioner som f.eks. Azure-sprogmodeller eller Bing Search.
• Copilot Studio indsamler eller bruger ikke nogen kundedata til at oplære sprogmodeller.

Håndtering af driftsdata

• Under driften gemmer systemet midlertidigt samtaler i et sikret, Microsoft-administreret datalager.
• Adgang for autoriseret Microsoft-personale er begrænset via Secure Access Workstations (SAWs) med Just-In-Time-kontrolforanstaltninger (JIT).
• Organisationer kan yderligere kontrollere adgangen via Customer Lockbox, hvilket kræver eksplicit godkendelse, før Microsoft-supportteknikere kan se data.

Fejlfindingstelemetri

• Generative AI-funktioner genererer ekstra fejlfindingsdata, men kun for handlinger, der er initieret af udvikleren i Testpanelet, nærmere bestemt når udvikleren giver feedback med tommelfinger op eller ned til et svar.
• Ingen ekstra kundedata logføres uden for denne eksplicitte feedbacksløjfe.

Misbrugsovervågning og sikkerhed

Da flere sikkerhedslag allerede beskytter generative AI-funktioner, deaktiverer Copilot Studios generative AI Azure AI-misbrugsovervågning for at undgå yderligere logføring af kundedata.