Procedure consigliate per ottimizzare le prestazioni degli agenti conversazionali

Evita i problemi di prestazioni negli agenti conversazionali comprendendo i punti di errore più comuni e seguendo le procedure consigliate.

Quote e limiti

Comprendi quote e limiti, ad esempio RPM (richieste per minuto, ossia un messaggio inviato a un agente) e il numero di richieste Power Platform consentite in un periodo di 24 ore.

Le quote e i limiti di capacità associati a un piano Microsoft Copilot Studio si applicano ai tuoi agenti.

Ottimizzare le prestazioni del tuo agente

Per ottimizzare le prestazioni del tuo agente, considera le seguenti procedure consigliate:

  • Organizza le chiamate API e le invocazioni dei connettori strategicamente nei flussi di conversazione per evitare che gli utenti debbano attendere il completamento di più operazioni.
  • Dove applicabile, memorizza nella cache i dati recuperati utilizzando variabili, anziché effettuare più chiamate API o invocazioni di flussi.
  • I flussi cloud invocati dagli agenti di Copilot Studio possono introdurre latenza. Valuta l'utilizzo di chiamate dirette tramite connettore o del nodo Invia richiesta HTTP.
  • Comprendi il compromesso tra prestazioni e complessità fra NLU classico e orchestrazione generativa in Copilot Studio. I modelli di comprensione del linguaggio naturale (NLU) funzionano bene per intenti specifici, ma hanno difficoltà con query complesse. I modelli di IA generativa gestiscono una gamma più ampia di input ma possono introdurre latenza.
  • Attiva la modalità rapida.

Ottimizzare il flusso cloud per le prestazioni

Se l'agente chiama un flusso Power Automate, assicurati che il flusso cloud sia ottimizzato.

Nota

I flussi Power Automate e i flussi di agenti supportano integrazioni IVR, ma non sono raccomandati come meccanismo di integrazione principale per flussi di chiamate sensibili alla latenza e ad alta concorrenza. Il loro modello di esecuzione sincrona e la limitazione di richieste del servizio possono introdurre una latenza aggiuntiva che diventa più significativa con l'aumentare del volume delle chiamate. Valutare criteri di integrazione alternativi quando è necessario un requisito di prestazioni prevedibili a bassa latenza.