Parhaat käytännöt keskusteluagentin suorituskyvyn parantamiseksi

Vältä suorituskykyongelmia keskusteluagenteissa ymmärtämällä yleisimmät virhekohdat ja seuraamalla parhaita käytäntöjä.

Kiintiöt ja rajoitukset

Ymmärrä kiintiöt ja rajoitukset, kuten RPM (pyyntöjä minuutissa, jossa pyyntö on viesti agentille) ja Power Platform -pyyntöjen määrä 24 tunnin aikana.

Kiintiöt koskevat agentteja sekä niitä kapasiteettirajoituksia, jotka liittyvät Microsoft Copilot Studio -suunnitelmaan.

Agentin suorituskyvyn optimoiminen

Jos haluat optimoida agentin suorituskykyä, voit käyttää seuraavia parhaita käytäntöjä:

• Aseta ohjelmointirajapintakutsut ja yhdistinten käynnistykset strategisesti keskustelutyönkulkuihin, jotta käyttäjät eivät joudu odottamaan useita suorituksia.
• Jos mahdollista, tallenna haetut tiedot välimuistiin muuttujien avulla sen sijaan, että suorittaisit useita ohjelmointirajapinta- tai työnkulkukutsuja.
• Copilot Studio -agenttien käynnistämät pilvityönkulut voivat aiheuttaa viivettä. Harkitse suorien yhdistinkutsujen käyttämistä tai Lähetä HTTP-pyyntö -solmu sen sijaan.
• Tutustu suorituskyvyn ja monimutkaisuuden kompromissiin perinteisessä NLU:ssa ja generatiivisessa orkestroinnissa Copilot Studiossa. Luonnollisen kielen ymmärtäminen (NLU) -mallit toimivat hyvin tietyissä tarkoituksissa, mutta niillä on vaikeuksia onnistua monimutkaisissa kyselyissä. Generatiiviset tekoälymallit käsittelevät laajempaa valikoimaa syötteitä, mutta voivat aiheuttaa viivettä.
• Ota pikatila käyttöön.

Pilvityönkulun optimoiminen suorituskyvyn parantamiseksi

Jos agentti kutsuu Power Automate -työnkulkua, varmista, että pilvityönkulut ovat optimoituja.

• Varmista, että ymmärrät rajoitukset ja kapasiteettirajat Power Automatessa ja Power Platformissa. Näiden rajojen noudattaminen parantaa työnkulkujen skaalautuvuutta ja suorituskykyä.

• Lisätietoja hitaasti suoritettavien työnkulkujen vianmäärityksestä.