Förbättra AI-svar med Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG) i Microsoft Copilot Studio kombinerar språkmodellernas slutledningsförmåga med pålitlig, organisationsspecifik kunskap. Det möjliggör för agenter att producera korrekta, kontextuella och grundade svar baserade på organisationens innehåll istället för att enbart förlita sig på modellminnet.

I denna artikel lär du dig att:

• Förstå hur RAG förbättrar AI:s tillförlitlighet och förankring.
• Beskriv hur Copilot Studio hämtar och syntetiserar kunskap.
• Identifiera de stödda kunskapskällorna och deras begränsningar.
• Identifiera styrning, efterlevnad och AI-säkerhetsaspekter.
• Tillämpa RAG-principer när du designar agenter i företagsmiljöer.

Introduktion till RAG

RAG är ett designmönster som förbättrar AI:s noggrannhet genom att kombinera två funktioner:

• Informationssökning: Sökning i organisationens datakällor.
• Textgenerering: Bearbetning av den hämtade informationen genom att använda en språkmodell.

Denna metod minskar felaktig information, ökar förtroendet och genererar svar som är förankrade i organisationens innehåll.

RAG-arkitektur i Copilot Studio

Copilot Studios RAG-pipeline är byggd på Azure AI-tjänster och integreras tätt med Microsofts förtroende-, efterlevnads- och säkerhetsramar.

Kärnkomponenter:

• Copilot Studio-körning: Hanterar konversationsprocessen
• Frågeoptimeringsmotor: Omformulerar och tolkar frågor
• Sökleverantörer: Bing, SharePoint, Graph, Dataverse, Azure AI-sökning
• Sammanfattningsmotor: Skapar grundade, citerade svar
• Modereringslager: Validerar meddelanden och sammanfattningar
• Lagringstillstånd: Korttidsminne (mindre än 30 dagar; används inte för träning)
• Telemetri- och feedbackbutiker: Ger insikt och tillsyn

Hur RAG fungerar i Copilot Studio

RAG i Copilot Studio följer en process i fyra steg:

1. Frågeomskrivning
2. Innehållshämtning
3. Sammanfattning och svargenerering
4. Validering av säkerhet och styrning

1. Omskrivning av sökfrågor:

Copilot Studio optimerar användarens fråga innan de söker:

• Förtydligar betydelsen
• Lägger till kontextuella signaler (senaste 10 turerna)
• Förbättrar matchning av nyckelord
• Genererar sökvänliga sökfrågor

Denna process ökar återtagningskvaliteten och minskar irrelevanta resultat.

2. Innehållshämtning

Efter att ha skrivit om sökfrågan kör systemet den mot alla kunskapskällor du har konfigurerat. Copilot Studio hämtar de tre högst rankade resultaten från varje källa och balanserar relevans med prestanda. Beteendet hos varje kunskapskälla varierar beroende på faktorer såsom autentisering, indexering, filformat och lagringsbegränsningar.

Följande tabell sammanfattar alla stödda kunskapskällor samt deras funktioner, begränsningar och autentiseringskrav:

3. Sammanfattning och svarsgenerering:

• AI syntetiserar hämtat innehåll
• Tillämpar anpassade instruktioner för ton, formatering, säkerhet eller koncishet
• Genererar citeringar till den underliggande data
• Personanpassar svar genom att använda användarkontext (som språk, avdelning eller region)

4. Säkerhets- och styrningsvalidering

Varje svar genomgår automatiserade valideringslager:

• Moderering av skadliga, illvilliga, icke-efterlevande eller upphovsrättsskyddade svar
• Validering av grundande och borttagning av felaktig information

Ingen kunddata tränar språkmodeller.

Viktiga överväganden vid användning av RAG

RAG fungerar bäst för faktabaserade frågor och svar, inte för ingående dokumentanalys.

RAG passar bäst för:

• Svar på frågor från kunskapsbaser
• Att sammanfatta policyer, vanliga frågor och procedurrelaterat innehåll
• Hämtning av specifika fakta från filer eller interna system

RAG är inte avsedd för:

• Fullständig dokumentjämförelse
• Utvärdering av policyefterlevnad
• Komplext resonemang över långa ostrukturerade dokument

Säkerhets- och efterlevnadsaspekter för generativ AI

Funktioner för generativ AI i Microsoft Copilot Studio är utformade för att möjliggöra avancerad dialog och resonemang samtidigt som robusta säkerhets-, integritets- och efterlevnadskontroller bibehålls.

Grundmodeller och värdtjänster

• Copilot Studio bygger på grundmodeller som OpenAI tränar.
• Copilot Studio använder en av de senaste OpenAI-modellerna för generativt svar.
• Modeller körs helt på interna Azure AI Foundry-tjänster, i linje med Microsoft Services Trust-gränsen.
• All modellanvändning följer Microsofts principer och policyer för ansvarsfull AI.

Anpassa instruktioner

Tillverkare kan tillhandahålla anpassade instruktioner för att forma modellens beteende, påverka tonen eller lägga till formateringsregler. Dessa instruktioner hjälper till att anpassa generativa svar efter organisationens behov samtidigt som säkerhetsfilter och efterlevnadskontroller respekteras.

Datalagring och -bearbetning

• Datalagring och bearbetning i Copilot Studio kan flytta data över regionala gränser när lokal modellvärdtjänst inte är tillgänglig.
• När denna dataöverföring inte är tillåten kan administratörer använda miljöinställningar för att inaktivera specifika funktioner som Azure-språkmodeller eller Bing-sökning.
• Copilot Studio samlar varken in eller använder någon kunddata för att träna språkmodeller.

Hantering av driftsdata

• Under drift lagrar systemet tillfälligt samtal i en säker, Microsoft-opererad lagringsplats.
• Åtkomst för auktoriserad Microsoft-personal är begränsad genom Secure Access Workstations (SAWs) med Just-In-Time (JIT)-kontroller.
• Organisationer kan styra åtkomsten ytterligare via Customer Lockbox, vilket kräver explicit godkännande innan Microsofts supportingenjörer kan se data.

Felsökningstelemetri

• Generativ AI-funktioner genererar extra felsökningsdata, men endast för åtgärder initierade av skaparen i Testpanelen, särskilt när skaparen ger tummen upp eller ner på ett svar.
• Ingen extra kunddata loggas utanför denna explicita återkopplingsloop.

Övervakning av missbruk och säkerhet

Eftersom flera säkerhetslager redan skyddar generativa AI-funktioner inaktiverar Copilot Studios generativa AI Azure AI:s övervakning av missbruk för att undvika ytterligare loggning av kunddata.