Otimizar agentes para minimizar a latência

Este artigo apresenta algumas práticas-chave e ajuda você a otimizar agentes que dependem de informações de fontes externas, para reduzir o tempo de espera dos clientes durante as conversas.

Defina um tempo limite máximo para variáveis globais definidas externamente. Para agentes com variáveis globais configuradas para receber contexto de fontes externas, defina o valor de timeout opcional para que seus agentes não fiquem aguardando por muito tempo.

Avise ao usuário que o agente precisa de um momento. Se o agente não responder por mais de alguns segundos, o usuário pode se perguntar se o sistema está funcionando ou não. Considere enviar uma breve mensagem no início do tópico relevante indicando que o agente está buscando informações. Assim, o usuário sabe que a operação pode demorar um pouco e que o sistema está funcionando.

Minimize e otimize operações de agentes externos longas. Chamar sistemas externos para buscar informações e personalizar uma solicitação pode proporcionar uma ótima experiência, mas também pode demorar um tempo desconfortavelmente longo. Se essa personalização for necessária, certifique-se de que a chamada esteja otimizada e de que o sistema chamado seja escalável.

Utilize nós HTTP Request para requisições rápidas. O uso de um fluxo com Power Automate pode facilitar a conclusão de operações sofisticadas, porém pode envolver uma sobrecarga considerável. Se você precisar apenas de uma única chamada de pesquisa externa, o nó Solicitação de HTTP pode ser uma opção mais leve para operações tão simples.

Para chamadas do Power Automate, use o painel do Power Automate para revisar a duração das solicitações. O Copilot Studio não fornece informações sobre quanto tempo levam as operações fora do agente, como chamadas do Power Automate. Portanto, pode ser difícil entender onde o tempo está sendo gasto. No Copilot Studio, essas chamadas externas são síncronas, o que significa que nenhuma atividade adicional acontece na conversa até que um fluxo do Power Automate seja concluído. Considere usar o dashboard do Power Automate para o seu fluxo. Este dashboard pode fornecer informações sobre as taxas de sucesso e de falha das operações, e quanto tempo cada operação demora.