Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Dessa vanliga frågor beskriver hur AI används i funktionen Generativa svar i Copilot Studio och vilken påverkan tekniken har.
Vad är generativa svar?
Generativa svar gör din agent värdefull direkt och ökar antalet ämnen som agenten konverserar inom, utan att det krävs någon manuell redigering av dialogträdet.
Vilka är funktionerna för generativa svar?
När en användare ställer en fråga till agenten som inte utlöser ett konfigurerat ämne, kan agenten valfritt söka efter relevant innehåll från en källa som du väljer. Denna sökning omfattar publika webbplatser, SharePoint och egna anpassade datakällor, samt icke-textelement i uppladdade filer, såsom bilder, tabelldata och diagram. Agenten använder generativ AI för att sammanfatta informationen till ett svar som returneras till agentanvändaren.
Vad är det avsedda användningsområdet för generativa svar?
Agenter kan använda generativa svar som primära informationskällor eller som reserv när manuellt skapade ämnen inte kan hantera en användarfråga.
Hur utvärderades generativa svar och vilka mätvärden används för att mäta prestanda?
Kapaciteten utvärderas kontinuerligt i en samling med manuellt besvarade fråge- och svar-datauppsättningar som omfattar flera branscher. Utvärderingsprocessen inkluderar också anpassade dataset för offensiva och skadliga prompts och svar. Både automatiserade och dedikerade manuella sessioner används för att utöka testsviten.
Vilka begränsningar finns för generativa svar?
Du måste aktivera alternativet för generativa svar för varje agent.
Se avsnittet Språkstöd för listan med språk som stöds av den här funktionen och deras respektive stadium. Du kanske kan använda andra språk, men svaren som genereras kan vara inkonsekventa och agent kanske inte svarar korrekt eller som du förväntar dig.
Den här funktionen kan vara beroende av användningsbegränsningar eller kapacitetsbegränsningar.
Svar genererade av funktionen generativa svar är inte alltid viktiga och kan innehålla misstag.
Systemet är utformat för att söka kunskap från den webbplats du väljer och för att paketera relevanta resultat till ett enkelt förbrukningsbart svar. Det är dock viktigt att komma ihåg några egenskaper hos AI:n som kan leda till oväntade svar:
Svar från språkmodeller är inte deterministiska. Att upprepa semantiskt (nästan) identiska frågor kan ge varierande svar, även i nya chattar. Fråge-svarsprocessen inkluderar tidigare chattkontext, så att upprepning av en fråga inom en chattsession nästan garanterar olika svar. Detta beteende innebär att upprepade fasta frågor i regressionstester eller automatiserade hälsokontroller sannolikt leder till varierande svar och falska positiva felrapporter.
Copilot Studio låter dig välja olika modeller att använda som primär svarmodell för generativa svar. Var medveten om gränsdatumet för data som ingår i den modell du väljer.
Modellen har inbyggda åtgärder för att förhindra att den använder sitt träningskorpus som källa för svar. Svaren kan emellertid omfatta innehåll från andra webbplatser än den du valt.Systemet utför ingen noggrannhetskontroll, så om den valda datakällan innehåller felaktig information kan den visas för agentens användare. Vi har implementerat åtgärder för att filtrera bort irrelevanta och stötande svar, och funktionen är utformad för att inte svara när stötande språk upptäcks. Dessa filter och begränsningar är inte felsäkra.
Kommentar
Du bör alltid testa och granska dina agenter innan du publicerar dem och överväga att samla in feedback från agentens användare. Administratören kan inaktivera möjligheten att publicera agenter med generativa svar för klientorganisationen i Power Platform-administratörscenter.
Vilken data samlar kapaciteten in? Hur används uppgifterna?
Om en kund uttryckligen samtycker till att konversationen med agenten loggas samlar funktionen in användarens prompter, systemets svar och eventuell feedback som du lämnar.
Vi använder dessa uppgifter för att utvärdera och förbättra kvaliteten på kapaciteten.
Vilka driftfaktorer och inställningar gör det möjligt att på ett effektivt och ansvarigt sätt använda generativa svar?
Generativa svar fungerar bäst när du anger en betrodd och giltig källa att hämta innehåll från. Den här källan kan vara ditt företags webbplats, till exempel, www.microsoft.com. Alla webbsidor inom denna domän söks igenom för att hitta ett svar som matchar användarens fråga.
Vi använder den feedback du ger om hur nöjd du är med de genererade svaren för att förbättra systemkvaliteten. Du kan ge feedback genom att välja ikonen tummen upp eller tummen ned för generativa svar. Du kan också lägga till mer feedback i fritext.
Vilka skydd finns på plats i Copilot Studio för ansvarsfull AI?
Generativa svar omfattar olika skydd för att säkerställa att administratörer, utvecklare och användare får en säker och kompatibel upplevelse. Administratörer har fullständig kontroll över funktionerna i sin klientorganisation och kan alltid inaktivera möjligheten att publicera agenter med generativa svar i din organisation. Utvecklare kan lägga till anpassade instruktioner för att påverka vilka typer av svar deras agenter returnerar. Mer information om metodtips för att skriva anpassade instruktioner finns i Använda promptändring för att ge anpassade instruktioner till din agent.
Skapare kan också begränsa de kunskapskällor som agenter kan använda för att besvara frågor. Om du vill göra det möjligt för handläggare att besvara frågor utanför ramen för sina konfigurerade kunskapskällor kan tillverkare aktivera funktionen Tillåt ogrundade svar. För att begränsa agenter till att endast besvara frågor inom ramen för deras konfigurerade kunskapskällor bör tillverkare stänga av denna funktion.
Copilot Studio tillämpar också innehållsmoderering på alla generativ AI-förfrågningar för att skydda administratörer, tillverkare och användare mot stötande eller skadligt innehåll. Dessa policyer för innehållsmoderering omfattar även skadliga försök till jailbreaking, promptinjektion, promptexfiltrering och upphovsrättsintrång. Allt innehåll kontrolleras två gånger: först under användarinmatning och igen när agenten är på väg att svara. Om systemet hittar skadligt, stötande eller ondskefullt innehåll hindrar det din agenten från att svara.
Slutligen är det god praxis att informera användarna om att agenten använder artificiell intelligens, så följande standardmeddelande används för att informera användarna: "Bara så att du vet, jag använder ibland AI för att besvara dina frågor."