Vanlige spørsmål om generative svar

Disse vanlige spørsmålene beskriver KI-effekten av funksjonen for generative svar i Copilot Studio.

Hva er generative svar?

Generative svar gjør agenten din verdifull rett ut av esken og øker antall emner agenten din er samtalepartner i, uten å kreve manuell dialogtreredigering.

Hva er funksjonene for generative svar?

Når en bruker stiller agenten et spørsmål som ikke utløser et konfigurert emne, kan agenten eventuelt søke etter relevant innhold fra en kilde du velger. Dette søket inkluderer offentlige nettsteder, SharePoint eller dine egne egendefinerte datakilder, inkludert ikke-tekstbaserte elementer i opplastede filer, som bilder, tabulære data og diagrammer. Agenten bruker generativ kunstig intelligens til å oppsummere denne informasjonen i et svar som returneres til brukeren.

Hva er den tiltenkte bruken for generative svar?

Agenter kan bruke generative svar som primære informasjonskilder eller som en basiskilde når redigerte emner ikke kan håndtere spørringen til en bruker.

Hvordan ble generative svar evaluert, og hvilke beregninger brukes til å måle ytelsen?

Funksjonen evalueres kontinuerlig på en samling manuelt kuraterte spørsmåls- og svardatasett som dekker flere bransjer. Evalueringsprosessen inkluderer også tilpassede datasett for støtende og ondsinnede instruksjoner og svar. Både automatiserte og dedikerte manuelle økter brukes for å utvide testpakken.

Hva er begrensningene for generative svar?

  • Du må aktivere alternativet for generative svar for hver agent.

  • Se Språkstøtte for å se listen over språk som støttes av denne funksjonen og de respektive trinnene. Du kan kanskje bruke andre språk, men svarene som genereres, kan være inkonsekvente, og agenten svarer kanskje ikke riktig eller som forventet.

  • Denne funksjonen kan være underlagt bruksbegrensninger eller kapasitetsbegrensning.

  • Svar som genereres av funksjonen generative svar , er ikke alltid perfekte, og de kan inneholde feil.

    Systemet er utformet for å spørre om kunnskap fra nettstsedet du velger, og for å pakke inn relevante funn i et lettfattelig svar. Det er imidlertid viktig å huske på noen av egenskapene til kunstig intelligens som kan føre til uventede svar:

    • Svar fra språkmodeller er ikke deterministiske. Å gjenta semantisk identiske eller nesten identiske spørsmål kan gi varierende svar, selv i nye nettprater. Spørsmål-svar-prosessen tar hensyn til tidligere nettpratkontekst, slik at gjentakelse av et spørsmål i en nettpratøkt nesten garanterer forskjellige svar. Denne atferden betyr at gjentakelse av faste forespørsler i regresjonstesting eller automatiserte tilstandskontroller sannsynligvis vil føre til varierende svar og feilrapporter med falske positive.

    • Copilot Studio lar deg velge ulike modeller som hovedsvarmodell for generative svar. Vær oppmerksom på siste oppdateringsdato for data som er inkludert i modellen du velger.
      Det er begrensninger for å forhindre at modellen bruker sitt treningssett som en kilde for svar, men det er mulig for svar å inkludere innhold fra andre nettsteder enn det du valgte.

    • Systemet utfører ikke en nøyaktighetskontroll, så hvis den valgte datakilden inneholder unøyaktig informasjon, kan den vises til brukerne av agenten. Vi har implementert tiltak for å filtrere ut irrelevante og støtende svar, og funksjonen er utformet for ikke å svare når støtende språk oppdages. Disse filtrene og løsningene er ikke idiotsikre.

    Notat

    Du bør alltid teste og evaluere agentene dine før du publiserer dem, og vurdere å innhente tilbakemeldinger fra brukerne av agentene. Administratoren kan slå av muligheten til å publisere agenter med generative svar for leietakeren i administrasjonssenter for Power Platform.

Hvilke data samler funksjonen inn? Hvordan brukes dataene?

Hvis en kunde eksplisitt samtykker til at samtalen med agenten din blir loggført, samler funksjonen inn brukerinstruksjoner, svarene som returneres av systemet, og all tilbakemelding du gir.

Vi bruker disse dataene til å evaluere og forbedre kvaliteten på funksjonen.

Hvilke driftsfaktorer og innstillinger gjør at det går an å bruke generative svar på en effektiv og ansvarlig måte?

Generative svar gir best resultater når du angir en pålitelig og gyldig kilde det skal søkes etter innhold i. Denne kilden kan for eksempel være firmaets nettsted, www.microsoft.com. Alle nettsider som tilhører dette domenet, gjennomsøkes for å finne samsvar med brukerens spørsmål.

Vi bruker tilbakemeldingene du gir om din tilfredshet med genererte svar, til å forbedre systemkvaliteten. Du kan gi tilbakemelding ved å velge tommel opp- eller tommel ned-ikoner for generative svar. Du kan også inkludere flere tilbakemeldinger i fritekst.

Hvilken beskyttelse er på plass i Copilot Studio for ansvarlig kunstig intelligens?

Generative svar omfatter ulike beskyttelser for å sikre at administratorer, utviklere og brukere bruker funksjoner som er trygge og i samsvar med forskrifter. Administratorer har full kontroll over funksjonene i leieren og kan alltid deaktivere muligheten til å publisere agenter med generative svar i organisasjonen. Opprettere kan legge til egendefinerte instruksjoner for å påvirke svartypene agentene returnerer. Hvis du vil ha mer informasjon om gode fremgangsmåter for å skrive egendefinerte instruksjoner, kan du se Bruk spørringsmodifikasjon til å gi egendefinerte instruksjoner til agenten.

Opprettere kan også begrense kunnskapskildene som agenter kan bruke til å svare på spørsmål. Hvis du vil gjøre det mulig for agenter å svare på spørsmål utenfor omfanget av de konfigurerte kunnskapskildene, kan opprettere aktivere funksjonen Tillat uforankrede svar. Hvis du vil begrense agenter til bare å svare på spørsmål innenfor omfanget av de konfigurerte kunnskapskildene, bør opprettere deaktivere denne funksjonen.

Copilot Studio bruker også policyer for innholdsmoderering på alle generative KI-forespørsler for å beskytte administratorer, utviklere og brukere mot støtende eller skadelig innhold. Disse retningslinjene for innholdsmoderering omfatter også ondsinnede forsøk på jailbreaking, spørringsinjeksjon, spørringseksfiltrering og brudd på opphavsretten. Alt innhold kontrolleres to ganger: først under brukerinndata og igjen når agenten er i ferd med å svare. Hvis systemet finner skadelig, støtende eller ondsinnet innhold, hindrer det agenten i å svare.

Til slutt er det en god praksis å kommunisere til brukerne at agenten bruker kunstig intelligens, så følgende standardmelding informerer brukerne: «Bare så du er klar over det, bruker jeg noen ganger kunstig intelligens for å svare på spørsmålene dine.»

Relatert innhold

  • Last updated on