Tekoälyvastausten parantaminen Retrieval Augmented Generationin avulla

Retrieval Augmented Generation (RAG) Microsoft Copilot Studiossa yhdistää kielimallien päättelykyvyt luotettavaan, organisaatiokohtaiseen tietoon. Sen avulla agentit voivat tuottaa tarkkoja, tilannekohtaisia ja perusteltuja vastauksia yrityksen sisällön mukaan, eikä pelkästään mallimuistin perusteella.

Tässä artikkelissa on tietoja seuraavista toiminnoista:

• Miten RAG parantaa tekoälyn luotettavuutta ja yhdistettävyyttä
• miten Copilot Studio hakee ja yhdistää tietoja
• tuettujen tietolähteiden ja niiden rajoitteiden tunnistaminen
• hallinnon, vaatimustenmukaisuuden ja tekoälyn turvallisuusnäkökohtien tunnistaminen
• RAG-konsepteja käyttäminen, kun agentteja suunnitellaan yritysympäristöissä.

RAG:n esittely

RAG on suunnittelumalli, joka parantaa tekoälyn tarkkuutta yhdistämällä kaksi seuraavaa ominaisuutta:

• Tiedonhaku: Haku yrityksen tietolähteistä.
• Tekstin luominen: Haetun tiedon syntetisoiminen kielimallin avulla.

Tämä lähestymistapa vähentää virheellisiä tietoja, lisää luottamusta ja tuottaa vastauksia, jotka pohjautuvat organisaation todelliseen sisältöön.

RAG-arkkitehtuuri Copilotin Studiossa

Copilot Studion RAG-putki luodaan Azure AI -palveluiden perusteella, ja se integroituu tiiviisti Microsoftin luottamuksen, vaatimustenmukaisuuden ja suojauksen rajojen kanssa.

Ydinkomponentit:

• Copilot Studion suorituspalvelu: Hallitsee keskusteluputkea
• Kyselyn optimointimoduuli: Kirjoittaa kyselyt uudelleen ja tulkitsee ne
• Hakupalvelut: Bing, SharePoint, Graph, Dataverse, Azure AI -haku
• Yhteenvedon laatimisen moduuli: Luo perusteltuja, lainattuja vastauksia
• Moderointikerrokset: Tarkistaa viestit ja yhteenvedot
• Tilavarasto: Lyhytaikainen muisti (alle 30 päivää, ei käytetä koulutukseen)
• Telemetria- ja palautevarastot: Tarjoaa merkityksellisiä tietoja ja valvontaa

RAG:n toiminta Copilot Studiossa

Copilot Studion RAG noudattaa nelivaiheista prosessia seuraavasti:

1. Kyselyn uudelleenmuotoilu
2. Sisällön haku
3. Yhteenvedon laatiminen ja vastauksen tuottaminen
4. Turvallisuuden ja hallinnon tarkistus

1. Kyselyn uudelleenmuotoilu

Copilot Studio optimoi käyttäjän kysymyksen ennen hakua seuraavasti:

• merkityksen selventäminen
• tilannekohtaisten signaalien lisääminen (viimeiset 10 vuoroa)
• hakusanojen osuvuuden parantaminen
• hakukoneystävällisten kyselyiden luominen.

Tämä prosessi parantaa hakutulosten osuvuutta ja vähentää merkityksettömiä tuloksia.

2. Sisällön haku

Kyselyn uudelleenmuotoilun jälkeen järjestelmä hakee tietoja kaikista määrittämistäsi tietolähteistä. Copilot Studio hakee kunkin lähteen kolme parasta tulosta. Se ottaa huomioon sekä osuvuuden että suorituskyvyn. Kunkin tietolähteen toiminta vaihtelee esimerkiksi todennuksen, indeksoinnin, tiedostomuotojen ja tallennusrajoitusten mukaan.

Seuraava taulukko tekee yhteenvedon kaikista tuetuista tietolähteistä ja niiden ominaisuuksista, rajoitteista ja todennusvaatimuksista seuraavasti:

3. Yhteenvedon laatiminen ja vastauksen luominen

• Tekoäly syntetisoi haetun sisällön
• Käyttää mukautettuja ohjeita sävyn, muotoilun, turvallisuuden tai tiiviyden osalta
• Luo viittauksia taustalla oleviin tietoihin
• Mukauttaa vastauksia käyttämällä käyttäjän kontekstia (kuten kieli, osasto tai alue)

4. Turvallisuuden ja hallinnon tarkistus

Jokainen vastaus käy läpi automatisoidut tarkistustasot seuraavasti:

• haitallisten, vahingollisten, vaatimustenvastaisten tai tekijänoikeudella suojattujen vastausten moderointi
• Perustelut, tarkistus ja virheellisten tietojen poistaminen

Asiakastietoja ei käytetä kielimallien kouluttamisessa.

Tärkeitä huomioon otettavia seikkoja RAG:n käyttämisessä

RAG toimii parhaiten faktaperusteisissa kysymyksissä ja vastauksissa, ei dokumenttien syvällisessä analyysissä.

RAG on ihanteellinen seuraavissa tapauksissa:

• kysymyksiin vastaaminen tietokannoista
• yhteenvedon laatiminen käytännöistä, usein kysytyistä kysymyksistä ja menettelysisällöstä
• tiettyjen tietojen hakeminen tiedostoista tai sisäisistä järjestelmistä.

RAG:ia ei ole tarkoitettu seuraaviin toimintoihin:

• asiakirjojen täydellinen vertailu
• käytäntöjen vaatimustenmukaisuuden arviointi
• monimutkainen päättely pitkissä jäsentämättömissä asiakirjoissa.

Generatiivisen tekoälyn turvallisuus- ja vaatimustenmukaisuusnäkökohdat

Microsoft Copilot Studion generatiivisen tekoälyn ominaisuudet on suunniteltu tarjoamaan tehokkaita keskustelu- ja päättelyominaisuuksia ja samalla ylläpitämään vahvaa tietoturvan, tietosuojan ja vaatimustenmukaisuuden hallintaa.

Perusmallit ja isännöinti

• Copilot Studio perustuu OpenAI:n kouluttamiin perusmalleihin.
• Copilot Studio käyttää yhtä uusimmista OpenAI-malleista generatiivisissa vastauksissa.
• Mallit toimivat kokonaan sisäisissä Azure AI Foundry -palveluissa Microsoft Services Trust -rajojen mukaisesti.
• Kaikki mallien käyttö on Microsoftin vastuullisen tekoälyn periaatteiden ja käytäntöjen mukaista.

Mukautetut ohjeet

Tekijät voivat tarjota mukautettuja ohjeita mallin käyttäytymisen muokkaamista, sävyyn vaikuttamista ja muotoilusääntöjen lisäämistä varten. Nämä ohjeet auttavat mukauttamaan generatiivisia vastauksia organisaation tarpeisiin. Samalla niissä huomioidaan turvallisuussuodattimet ja vaatimustenmukaisuuden hallinta.

Tietojen tallennus ja käsitteleminen

• Tietojen tallennus ja käsittely Copilot Studiossa voi siirtää tietoja alueiden rajojen yli, kun paikallinen mallin isännöinti ei ole käytettävissä.
• Jos tiedonsiirto ei ole sallittua, järjestelmänvalvojat voivat käyttää ympäristöasetuksia ottaakseen pois käytöstä tiettyjä ominaisuuksia, kuten Azure-kielimalleja tai Bing-hakua.
• Copilot Studio ei kerää eikä käytä asiakastietoja kielimallien kouluttamiseksi.

Toimintojen aikainen tiedonkäsittely

• Toimintojen aikana järjestelmä tallentaa keskustelut väliaikaisesti suojattuun, Microsoftin ylläpitämään varastoon.
• Valtuutetun Microsoftin henkilöstön käyttöoikeutta on rajoitettu Secure Access Workstations (SAW) -työasemien ja Just-In-Time (JIT) -hallintatoimintojen avulla.
• Organisaatiot voivat lisäksi hallita käyttöoikeutta Customer Lockboxin kautta. Se edellyttää nimenomaisen hyväksynnän, ennen kuin Microsoftin tukiteknikot voivat tarkastella tietoja.

Vianmäärityksen telemetria

• Generatiivinen tekoälyominaisuudet tuottavat vianmääritykseen lisätietoja, mutta vain tekijän Testi-ruudussa aloittamille toiminnoille erityisesti silloin, kun tekijä antaa vastaukselle palautetta (peukku ylös tai alas).
• Lisäasiakastietoja ei kirjata tämän nimenomaisen palautesilmukan ulkopuolella.

Väärinkäytön seuranta ja turvallisuus

Koska useat turvakerrokset suojaavat jo generatiivisen tekoälyn ominaisuuksia, Copilot Studion generatiivinen tekoäly poistaa Azure AI:n väärinkäytösten valvonnan käytöstä välttääkseen asiakastietojen kirjaamisen lokiin uudelleen.