Forbedre AI-svar med Retrieval Augmented Generation

Retrieval Augmented Generation (RAG) i Microsoft Copilot Studio kombinerer resonnementsevnene til språkmodeller med organisasjonsspesifikk og pålitelig kunnskap. Dette gjør det mulig for agenter å gi nøyaktige, kontekstuelle og forankrede svar basert på virksomhetens innhold, i stedet for å kun stole på modellminnet.

I denne artikkelen lærer du hvordan du gjør følgende:

• Forstå hvordan RAG forbedrer AIs pålitelighet og forankring.
• Beskriv hvordan Copilot Studio henter og syntetiserer kunnskap.
• Identifiser de støttede kunnskapskildene og deres begrensninger.
• Vær oppmerksom på styrings-, etterlevelses- og AI-sikkerhetshensyn.
• Bruk RAG-konsepter når du designer agenter i bedriftsmiljøer.

Innføring i RAG

RAG er et designmønster som forbedrer AI-nøyaktigheten ved å kombinere to kapabiliteter:

• Informasjonshenting: Søking i virksomhetsdatakilder.
• Tekstgenerering: Generering av innhentet informasjon ved bruk av en språkmodell.

Denne tilnærmingen reduserer feilinformasjon, styrker tilliten og genererer svar basert på faktisk organisatorisk innhold.

RAG-arkitektur i Copilot Studio

Copilot Studios RAG-pipeline er bygget på Azure kunstig intelligens-tjenester og integreres tett med Microsofts rammer for tillit, etterlevelse og sikkerhet.

Kjernekomponenter:

• Copilot Studio-kjøretid: Styrer samtalepipelinen
• Spørringsoptimaliseringsmodul: Bearbeider og tolker spørringer
• Søkeleverandører: Bing, SharePoint, Graph, Dataverse, Azure AI Search
• Oppsummeringsmodul: Lager kildebaserte, siterte svar
• Modereringslag: Validerer meldinger og sammendrag
• Tilstandslager: Korttidsminne (mindre enn 30 dager; brukes ikke til modelltrening)
• Telemetri- og tilbakemeldingsbutikker: Gir innsikt og tilsyn

Slik fungerer RAG i Copilot Studio

RAG i Copilot Studio følger en firetrinnsprosess:

1. Omskriving av spørring
2. Innholdshenting
3. Oppsummering og generering av svar
4. Sikkerhets- og styringsvalidering

1. Omskriving av spørring

Copilot Studio optimaliserer brukerens spørring før søk:

• Klargjør mening
• Legger til kontekstuelle signaler (siste 10 utvekslinger)
• Forbedrer nøkkelordavstemming
• Genererer søkevennlige spørringer

Denne prosessen øker kvaliteten på søkeresultatene og reduserer irrelevante resultater.

2. Innholdshenting

Etter at spørringen er omskrevet, kjører systemet den mot alle kunnskapskildene du har konfigurert. Copilot Studio henter de tre mest relevante resultatene fra hver kilde, og balanserer relevans mot ytelse. Oppførselen til hver kunnskapskilde varierer avhengig av faktorer som autentisering, indeksering, filformater og lagringsbegrensninger.

Tabellen nedenfor oppsummerer alle støttede kunnskapskilder og deres egenskaper, begrensninger og krav til autentisering:

3. Oppsummering og svargenerering

• AI syntetiserer hentet innhold
• Bruker tilpassede instruksjoner for tone, formatering, sikkerhet eller for å holde svaret kort
• Genererer henvisninger til de underliggende dataene
• Tilpasser svarene basert på brukerkontekst (som språk, avdeling eller region)

4. Sikkerhets- og styringsvalidering

Hvert svar går gjennom automatiserte valideringslag:

• Moderasjon av skadelige, ondsinnede, ikke-overholdende eller opphavsrettsbeskyttede svar
• Validering av jording og fjerning av feil informasjon

Ingen kundedata trener språkmodeller.

Viktige hensyn ved bruk av RAG

RAG fungerer best for faktabaserte spørsmål og svar, ikke for dyp dokumentanalyse.

RAG er spesielt egnet til:

• Svar på spørsmål fra kunnskapsbaser
• Oppsummering av retningslinjer, FAQ-er og prosedyrer
• Henting av spesifikke fakta fra filer eller interne systemer

RAG er ikke tiltenkt for:

• Full sammenligning av dokumenter
• Evaluering av etterlevelse av retningslinjer
• Komplekse resonnementer over lange, ustrukturerte dokumenter

Generativ kunstig intelligens-sikkerhet og samsvarshensyn

Generativ kunstig intelligens-funksjoner i Microsoft Copilot Studio er utviklet for å gi avanserte samtale- og resonneringsmuligheter, samtidig som sterke sikkerhets-, personvern- og samsvarskontroller ivaretas.

Grunnmodeller og hosting

• Copilot Studio bruker grunnmodeller som er trent av OpenAI.
• Copilot Studio bruker en av de nyeste OpenAI-modellene for generativt svar.
• Modellene kjører utelukkende på interne Azure AI Foundry-tjenester, tilpasset Microsoft Services Trust-grensen.
• All bruk av modeller er i samsvar med Microsoft Responsible AI-prinsipper og retningslinjer.

Egendefinerte instruksjoner

Skapere kan gi tilpassede instruksjoner for å forme modellens oppførsel, påvirke tonen eller legge til formateringsregler. Disse instruksjonene hjelper til med å tilpasse de generative svarene til organisasjonens behov, samtidig som de respekterer sikkerhetsfiltre og samsvarskontroller.

Datalagring og -behandling

• Datalagring og -behandling i Copilot Studio kan flytte data på tvers av regionale grenser når lokal modellhosting ikke er tilgjengelig.
• Når denne dataflyten ikke er tillatt, kan administratorer bruke miljøinnstillinger til å deaktivere spesifikke funksjoner, som Azure språkmodeller eller Bing-søk.
• Copilot Studio samler ikke inn eller bruker noen kundedata til opplæring av språkmodeller.

Datahåndtering under drift

• Under drift lagres samtaler midlertidig i et sikkert lagringsområde som driftes av Microsoft.
• Tilgang for Microsoft-personell er begrenset gjennom Secure Access Workstations (SAWs) med Just-In-Time (JIT)-tilgangskontroller.
• Organisasjoner kan ytterligere styre tilgang via Customer Lockbox, noe som krever eksplisitt godkjenning før Microsofts kundestøtteteknikere får tilgang til dataene.

Feilsøkingstelemetri

• Generativ kunstig intelligens-funksjoner genererer ekstra feilsøkingsdata, men kun for produsent-initierte handlinger i Testpanelet, spesielt når produsenten gir tommel opp eller tommel ned til et svar.
• Ingen ekstra kundedata logges utenfor denne eksplisitte tilbakemeldingssløyfen.

Overvåking av misbruk og sikkerhet

Siden flere sikkerhetslag allerede beskytter funksjoner for generativ kunstig intelligens, deaktiverer Copilot Studios generativ kunstig intelligens Azure kunstig intelligens misbruksovervåking for å unngå videre loggføring av kundedata.