Planear implementações do agente do Copilot Studio para limites de débito e de taxa

Os agentes do Copilot Studio prontos para produção precisam de mais do que licenciamento e planeamento do volume total de mensagens. Também precisam de planeamento de débito. O planeamento do débito abrange a rapidez com que o tráfego chega, quais serviços de plataforma são chamados pela solução e quais limites se aplicam a toda a solução.

Este artigo ajuda os arquitetos de soluções, criadores e administradores do Power Platform a preparar implementações de alto volume do Copilot Studio para tráfego de produção, testes de aceitação do utilizador (UAT), testes de carga, cenários de business-to-customer (B2C) e cargas de trabalho autónomas.

O aprovisionamento por taxa é separado do aprovisionamento por licença

O planeamento do Copilot Studio para produção tem dois fluxos de trabalho relacionados, mas distintos:

  • Aprovisionamento de licenças, que abrange os direitos comerciais e consumo, como licenças, créditos, capacidade pré-paga, pacotes de mensagens e faturação pay as you go.
  • O aprovisionamento por taxa determina a rapidez com que o tráfego pode ser processado antes de serem aplicados os controlos de limitação ou de proteção de serviço.

Nota

A Microsoft utiliza o termo quotas para limites de taxa do Copilot Studio. Em termos mais amplos da indústria, esta atividade de planeamento é frequentemente designada por aprovisionamento por taxa. Reveja os limites publicados, estime a taxa máxima de pedidos e planeie antes do início do tráfego de produção.

O método Pay As You Go pode aumentar os limites disponíveis em comparação com configurações de menor capacidade, mas o débito não é infinito. Verifique os limites atuais do Copilot Studio, as alocações de Solicitação de Power Platform, os limites do Power Automate, os limites de proteção do serviço do Dataverse, as regras de limitação de conectores e os limites das APIs a jusante.

O que acontece quando ocorre a limitação?

A limitação é um comportamento de proteção de serviço. Protege os serviços partilhados contra padrões de tráfego que excedam os limites publicados, os controlos de pico ou a capacidade do serviço. O sintoma exato depende do serviço que está sujeito a limitação.

Quando um limite é atingido, a consequência vai para além de uma questão de planeamento. Os pedidos podem ser limitados, atrasados, bloqueados ou rejeitados. Em chats orientados para o utilizador, este comportamento pode parecer uma interrupção temporária do serviço. Por exemplo, o utilizador pode não conseguir enviar a mensagem seguinte, receber uma mensagem de agente indisponível ou de limite de utilização, ou sofrer uma falha num passo porque um fluxo, conector, chamada do Dataverse, serviço de IA ou API a jusante atingiu o seu limite.

Saiba mais sobre sintomas específicos do Copilot Studio e as mensagens de erro em Resolver erros de limite de utilização em agentes.

Como os limites de taxa são medidos

Os limites de taxa medem a quantidade de tráfego que um serviço pode aceitar durante uma janela de tempo específica. Pense nestas janelas de tempo de forma granular: por minuto, a cada cinco minutos, a cada 10 minutos, por hora, por dia, por semana e por mês. O volume mensal ou semanal ajuda a estimar a procura total, mas períodos mais curtos são importantes para o aprovisionamento de taxas, porque a limitação resulta frequentemente de tráfego concentrado.

Por exemplo, uma empresa B2C pode concentrar a maior parte do tráfego do seu agente numa única hora de campanha focada. A sua média semanal pode parecer baixa, mas essa única hora pode ainda assim criar pressão de débito suficiente para causar limitação ou interrupções de serviço. Um projeto que parece seguro a nível semanal ou mensal pode ainda exceder os limites durante um pico de uma hora.

Compreender o âmbito dos limites

Os limites não se aplicam apenas ao nível do agente individual. Dependendo do serviço, podem ser aplicados ao nível do ambiente, ao nível da ferramenta, ao nível da API, ao nível do conector, ao nível do canal ou ao nível de serviço a jusante.

Por exemplo, os limites de mensagens por agente do Copilot Studio são definidos por ambiente do Dataverse. Ao estimar o tráfego, inclua todas as origens que enviam mensagens para os agentes neste ambiente, incluindo os canais orientados para o utilizador, as integrações, as cargas de trabalho autónomas e as competências do Azure Bot Framework. Consulte os valores atuais e o âmbito em Quotas e limites do Copilot Studio.

Decida se o aprovisionamento por taxa se aplica ao seu agente

Nem todos os agentes precisam de um aprovisionamento por taxa detalhado. Um agente interno de FAQ simples, com uma audiência pequena, utilização previsível e poucas ou nenhumas chamadas a jusante, provavelmente não atingirá os limites de taxa. O aprovisionamento por taxa torna-se importante quando um agente pode exceder os limites de pedidos por minuto ou por hora, mesmo que o seu volume mensal pareça modesto.

Considere o tráfego esperado logo no início do projeto, juntamente com o design da solução. Antes de começarem os testes de aceitação do utilizador (UAT) e os testes de carga, a equipa deve estar confiante de que o design do agente, o ambiente, os serviços ligados e os sistemas a jusante conseguem suportar o perfil de débito esperado.

Esta orientação é mais relevante para agentes de nível empresarial maiores e mais intensivos, onde o tráfego pode chegar em picos, muitos utilizadores ou eventos podem invocar o agente ao mesmo tempo, ou cada interação depende de vários serviços de plataforma. Isto também pode ser aplicado a agentes mais pequenos com padrões de utilização concentrados, como uma janela de lançamento curta, um evento em todo o departamento, um processo agendado ou um fluxo de trabalho que cria muitos pedidos em poucos minutos.

Os agentes B2C e autónomos exigem um aprovisionamento antecipado de taxa

Os agentes B2C orientados para o cliente podem receber tráfego de campanhas, sites públicos, portais de clientes, comunicações de incidentes, lançamentos de produtos ou procura sazonal. Os agentes autónomos podem gerar tráfego de alta frequência a partir de agendas, eventos, processos em segundo plano ou quando acionam várias ferramentas e fluxos de trabalho.

Sugestão

Considere os casos de utilização B2C e autónomos como cenários de aprovisionamento de primeira classe. Podem gerar picos de tráfego, múltiplos pedidos simultâneos e atividades de segundo plano de alta frequência mais rapidamente do que muitas experiências de chat orientadas para os colaboradores.

Utilize janelas de pico, não apenas totais mensais

Pergunte se o agente consegue criar pedidos concentrados num minuto ou numa hora. Mesmo em cenários mais pequenos, pode ser necessário o aprovisionamento por taxa se um teste de carga, uma campanha, uma resposta a interrupções ou um acionador automatizado enviar demasiadas mensagens, chamadas de IA generativa, ações de fluxo de trabalho, chamadas de conectores ou pedidos do Dataverse através do ambiente num curto período.

O volume mensal é útil para estimar a procura total, mas não é suficiente para o aprovisionamento por taxa. Converta a utilização prevista em janelas de tempo mais pequenas para que possa comparar o projeto com os limites atuais de pedidos por minuto (RPM), pedidos por hora (RPH), picos de utilização e limites diários das páginas ligadas.

Crie um perfil de tráfego médio e um perfil de tráfego de pico. Por exemplo, se a maior parte do tráfego ocorre diariamente entre as 17:00 e as 18:00, o pico horário deve refletir essa concentração. A estimativa diária não tem de ser 24 vezes o horário de ponta se o tráfego estiver concentrado num único período.

Em que outras situações pode ocorrer limitação?

A limitação também pode ocorrer quando:

  • Um grande número de colaboradores utiliza o agente durante um período de pico previsível, como um evento ou formação que envolva todo o departamento.
  • Uma campanha de marketing, uma interrupção no serviço, um lançamento ou um evento empresarial agendado gera um pico de tráfego momentâneo.
  • Os fluxos do Power Automate incluem ciclos, repetições, paginação ou fluxos subordinados que amplificam o volume de pedidos.
  • A geração de relatórios, auditorias, exportação de telemetria ou captura de transcrições são executadas de forma síncrona no fluxo de trabalho do utilizador.
  • Vários agentes ou cargas de trabalho partilham o mesmo ambiente, identidade, conector ou capacidade de API a jusante.
  • Os testes de carga aumentam o volume mais rapidamente do que a arquitetura de produção ou o processo de suporte estavam preparados para processar.

Onde consultar os limites de taxa relevantes

O Copilot Studio tem os seus próprios limites, e o caminho de runtime do agente pode incluir outros serviços com os seus próprios limites. Reveja todos os limites relevantes para os serviços que o seu agente utiliza.

Limites do Copilot Studio

Área de aprovisionamento por taxa O que procurar Onde verificar os valores atuais Como utilizá-lo
Mensagens para um agente Limite atual de RPM/RPH e âmbito para mensagens enviadas para o agente. Quotas e limites do Copilot Studio Compare as mensagens esperadas por minuto e por hora para o ambiente do Dataverse de destino.
Mensagens de IA generativa Limite atual para orquestração generativa, ações de agentes, ferramentas de IA, ações de fluxo de trabalho de agentes e respostas generativas. Mensagens de IA generativa para um agente Modele cenários com utilização intensiva de IA e sistemas autónomos em comparação com os limites atualmente publicados.
Nós de acionamento autónomos Limites atuais que se aplicam quando um agente autónomo é acionado por eventos, agendamentos ou processos em segundo plano. Quotas e limites do Copilot Studio Modele cargas de trabalho orientadas por eventos e agendadas separadamente do tráfego de chat interativo.
Limites de pedidos de subscrição do Copilot Studio Limites atuais de pedidos do Power Platform que se aplicam à utilização do Copilot Studio. Limites de subscrição do Copilot Studio Utilize estes valores juntamente com o planeamento de limites de taxa para os fluxos, o Dataverse e os serviços ligados.

Outros limites de plataforma a considerar

O limite mais baixo no caminho de runtime determina a experiência do utilizador. Um agente do Copilot Studio pode estar dentro dos seus próprios limites enquanto um fluxo, conector, chamada do Dataverse, serviço de linguagem ou API externa é limitado.

Nota

Outros limites da plataforma podem afetar o seu agente se este utilizar outros componentes no caminho de pedido do agente. Considere também estes limites, incluindo o Power Platform, o Power Automate, o Dataverse, os conectores, os serviços de linguagem e os sistemas a jusante.

Área de runtime O que observar Perguntas sobre o aprovisionamento por taxa Onde verificar os limites atuais
Plano de pedidos do Power Platform Pedidos no Power Automate, chamadas de fluxo de trabalho do Copilot Studio, utilização do Dataverse, Power Apps e Dynamics 365. Qual utilizador, ligação, utilizador da aplicação ou principal de serviço gera os pedidos? As alocações de pedidos são suficientes para a carga de trabalho diária e de pico prevista? Limites e alocações de pedidos
Fluxos do Power Automate Acionadores, ações, ciclos, fluxos subordinados, ações HTTP, ações de conector, repetições, paginação e simultaneidade. Quantas ações são criadas por turno de agente? Os limites de rajada, simultaneidade, acionadores e conectores estão incluídos no âmbito? Compreender os limites da plataforma e evitar limitações

Limites de fluxos automatizados, agendados e instantâneos
Dataverse Operações CRUD, plug-ins, fluxos de trabalho, operações de atribuição/partilha, chamadas de conector e operações de sistema necessárias para concluir transações. Que utilizadores, utilizadores de aplicações ou principais de serviço geram chamadas do Dataverse? É provável que se apliquem limites de proteção do serviço ou comportamentos de repetição? Limites da API da proteção de serviço

Descrição geral dos limites da API do Dataverse
Conectores Conectores padrão, conectores premium, conectores personalizados, limitação específica de conectores e APIs a jusante. Qual é o conector que está a causar o estrangulamento? O serviço a jusante impõe o seu próprio limite de taxa? Limites de débito de API em conectores

Referência de conectores do Power Automate
Serviços de IA e de compreensão de linguagem conversacional (CLU) Chamadas CLU, pedidos de IA, operações de pesquisa e resumo, ferramentas baseadas em modelos, tamanho do payload e limites específicos do serviço. Cada utilizador utiliza um serviço de linguagem ou de IA para aceder a um idioma? Essas chamadas são repetidas durante as repetições ou durante a orquestração? Limites de compreensão da linguagem conversacional

Quotas e limites do Copilot Studio
APIs externas e sistemas de linha de negócio APIs de fornecedores, APIs internas, bases de dados, middleware, gateways e serviços personalizados. Que limite é que o responsável pelo serviço a jusante impõe? Existe algum contrato de repetição, fila ou estratégia de backpressure? Utilize os limites atuais, o acordo de nível de serviço (SLA) e o processo de suporte do responsável pelo serviço a jusante.

Conceber para reduzir a pressão de débito

Não faça dos aumentos de taxa a sua primeira resposta de design. Primeiro, reveja o design do agente e otimize a eficiência. Se o agente precisar de consultar algo, assegure que as chamadas externas sejam deliberadas, otimize as chamadas à API e evite volumes de pedidos desnecessários em todo o Copilot Studio, Power Automate, Dataverse, conectores e sistemas a jusante.

Depois de o design ser eficiente, controle o débito para que o tráfego chegue à plataforma de forma previsível:

  • Para limites ao nível do ambiente, considere dividir agentes em múltiplos ambientes se essa abordagem corresponder ao seu design operacional. Esta abordagem pode ajudar a evitar que agentes de alto volume, unidades de negócio, regiões ou cargas de trabalho autónomas concorram com cargas de trabalho não relacionadas pelos mesmos limites definidos pelo ambiente.
  • Para agentes autónomos, utilize filas, criação de batches, filtros de acionadores, processamento agendado, controlos de repetição e monitorização, para que o trabalho em segundo plano não surja sob a forma de uma rajada descontrolada.
  • Transfira trabalhos agendados, de relatório, exportação de auditoria e telemetria para fora do fluxo do chat interativo sempre que possível.
  • Reveja os resultados dos testes de carga e a telemetria de produção para identificar onde os pedidos se concentram; em seguida, ajuste o agente, os fluxos, os conectores e as APIs a jusante antes de pedir limites superiores.

Os agentes autónomos estão especialmente posicionados para maximizar a utilização da sua capacidade alocada com previsibilidade e observabilidade robustas, ao gerir filas de pedidos e controlar as suas taxas de acionador.

O que fazer se os limites de taxa predefinidos não forem suficientes

Se a estimativa de tráfego de pico indicar que o agente ou qualquer serviço ligado pode exceder os limites atualmente publicados, inicie o processo de suporte ao aprovisionamento da taxa antes do UAT, dos testes de carga ou do lançamento em produção. Não espere pela primeira falha de produção.

Nota

O Copilot Studio é um serviço SaaS com limites de taxa em vigor para proteger o serviço para todos os clientes. Com a devida justificação, a equipa de engenharia pode ativar limites personalizados para cenários aprovados.

Abrir um pedido de suporte

Os administradores podem pedir suporte no centro de administração do Power Platform.

Abra o pedido de suporte com antecedência e inclua as melhores estimativas disponíveis. Quanto mais detalhes fornecer, mais fácil será o processo de revisão. Atualize o pedido à medida que o design for melhorado ou os testes de carga fornecerem dados observados.

Informação central a incluir

Informações Descrição
ID do Ambiente O ambiente do Dataverse onde o agente é executado.
Nome ou identificador do agente O agente afetado pelo pedido.
Impacto comercial Impacto crítico se os limites predefinidos não forem suficientes.
Informações conhecidas O que se sabe sobre o cenário, canal, contexto de lançamento, criticidade do negócio e se é B2C, autónomo, direcionado aos colaboradores ou apenas interno.
Instantâneo do agente Um instantâneo ou exportação que ajuda os revisores a compreender a configuração do agente, o design, os serviços ligados e as definições relevantes.
Design do agente Descrição de alto nível de tópicos, utilização de IA generativa, fontes de conhecimento, ações, fluxos, conectores, chamadas do Dataverse e APIs externas utilizadas pelo agente.
Estimativa média de tráfego Tráfego médio esperado por hora, dia, semana ou mês.
Estimativa de tráfego de pico Mensagens esperadas nos períodos de pico, sessões, chamadas de IA generativa, ações de fluxo, chamadas de conectores, pedidos do Dataverse e chamadas de API externas, quando conhecidas.

Mais detalhes que podem ajudar

Informações Descrição
Intervalo de datas Data de início e fim do aumento pedido. Separe os intervalos de datas para os testes de carga, os testes de aceitação do utilizador e produção, caso sejam diferentes.
Padrão de pico Janelas de pico, fusos horários, fatores previstos de geração de rajadas e se o tráfego está concentrado numa janela diária curta.
Perfil da sessão Sessões simultâneas, duração média e máxima das sessões, número de mensagens por sessão e número de perguntas por sessão.
Exemplos típicos de sessões Caminhos representativos dos utilizadores, passos típicos realizados, ferramentas utilizadas e IDs de sessão de exemplo, quando disponíveis.
Caminho de runtime Fluxos, ações, pedidos de IA, chamadas de conhecimento, pedidos do Dataverse, conectores e APIs por interação.
Picos ao nível das funcionalidades Volume de pico por agente, funcionalidade, utilizador, ambiente, conector, minuto, hora e dia, quando aplicável.
Produtos a necessitar de revisão Quer o pedido diga respeito ao Copilot Studio, a alocações de Solicitação de Power Platform, ao Power Automate, a conectores, ao Dataverse, a serviços CLU/IA ou a APIs externas.
Evidência IDs de sessões de exemplo, erros, IDs de correlação, registos, resultados de testes de carga ou observações de produção.
Mitigações Resume o que já tentou para reduzir a pressão de débito. Consulte as orientações sobre Conceção para reduzir a pressão de débito, incluindo revisão da conceção, otimização das chamadas externas, segmentação de ambientes, criação de batches, colocação em fila, filtragem de acionadores, agendamento, distribuição da carga de trabalho e outras otimizações já implementadas.

Importante

Um aumento de débito não é garantido. O Suporte da Microsoft avalia os pedidos com base no cenário, ambiente, período pedido, tráfego previsto, elegibilidade, limites atuais e capacidade do serviço.

  • Last updated on