Limitação de taxa para agentes

A limitação de taxa é um método para limitar as mensagens a uma determinada frequência máxima. Como princípio geral, seu aplicativo deve limitar o número de mensagens postadas em um chat individual ou conversa de canal. Isso garante uma experiência ideal e as mensagens não aparecem como spam para os usuários.

Para proteger o Microsoft Teams e seus usuários, as APIs do bot fornecem um limite de taxa para solicitações de entrada. Os aplicativos que superam esse limite recebem um status de erro HTTP 429 Too Many Requests. Todas as solicitações estão sujeitas à mesma política de limitação de taxa, incluindo envio de mensagens, enumerações de canal e buscas de lista de participantes.

Como os valores exatos dos limites de taxa estão sujeitos a alterações, seu aplicativo deve implementar o comportamento de retirada apropriado quando a API retornar HTTP 429 Too Many Requests.

Lidar com limites de taxa

Ao emitir uma operação SDK do Bot Builder, você pode lidar com Microsoft.Rest.HttpOperationException e verificar o código de status.

O código a seguir mostra um exemplo de como lidar com limites de taxa:

try
{
    // Perform Agent Framework operation
    // for example, await connector.Conversations.UpdateActivityAsync(reply);
}
catch (HttpOperationException ex)
{
    if (ex.Response != null && (uint)ex.Response.StatusCode ==  429)
    {
        //Perform retry of the above operation/Action method
    }
}

Depois de lidar com limites de taxa para agentes, você pode lidar com HTTP 429 as respostas usando uma retirada exponencial.

Lidar com as respostas HTTP 429

Você deve tomar precauções simples para evitar receber HTTP 429 respostas. Por exemplo, evite emitir várias solicitações para a mesma conversa pessoal ou de canal. Em vez disso, crie um lote de solicitações de API.

Usar uma retirada exponencial com um jitter aleatório é a maneira recomendada de lidar com 429s. Isso garante que várias solicitações não introduzam colisões em novas tentativas.

Depois de lidar com as respostas HTTP 429, você pode percorrer o exemplo para detectar exceções transitórias.

Exemplo de detecção de exceções transitórias

O código a seguir mostra um exemplo de uso de retirada exponencial usando o bloco de aplicativos de tratamento de falhas transitórias:

public class BotSdkTransientExceptionDetectionStrategy : ITransientErrorDetectionStrategy
    {
        // List of error codes to retry on
        List<int> transientErrorStatusCodes = new List<int>() { 429 };

        public bool IsTransient(Exception ex) 
          {
          {
              if (ex.Message.Contains("429"))
                  return true;

              HttpResponseMessageWrapper? response = null;
              if (ex is HttpOperationException httpOperationException)
              {
                  response = httpOperationException.Response;
              }
              else
              if (ex is ErrorResponseException errorResponseException)
              {
                  response = errorResponseException.Response;
              }
              return response != null && transientErrorStatusCodes.Contains((int)response.StatusCode);
          }
    }

Você pode executar retirada e novas tentativas usando o tratamento de falhas transitórias. Para obter diretrizes sobre como obter e instalar o pacote NuGet, consulte adicionar o bloco de aplicativos de tratamento de falhas transitórias à sua solução. Consulte também tratamento de falhas transitórias.

Depois de percorrer o exemplo para detectar exceções transitórias, consulte o exemplo de retirada exponencial. Você pode usar retirada exponencial em vez de tentar novamente em caso de falhas.

Exemplo de retirada

Além de detectar limites de taxa, você também pode executar uma retirada exponencial.

O código a seguir mostra um exemplo de retirada exponencial:

/**
* The first parameter specifies the number of retries before failing the operation.
* The second parameter specifies the minimum and maximum backoff time respectively.
* The last parameter is used to add a randomized  +/- 20% delta to avoid numerous clients retrying simultaneously.
*/
var exponentialBackoffRetryStrategy = new ExponentialBackoffRetryStrategy(3, TimeSpan.FromSeconds(2),
                        TimeSpan.FromSeconds(20), TimeSpan.FromSeconds(1));


// Define the Retry Policy
var retryPolicy = new RetryPolicy(new BotSdkTransientExceptionDetectionStrategy(), exponentialBackoffRetryStrategy);

//Execute any bot sdk action
await retryPolicy.ExecuteAsync(() => connector.Conversations.ReplyToActivityAsync( (Activity)reply) ).ConfigureAwait(false);

Você também pode executar um método System.Action com a política de repetição descrita nesta seção. A biblioteca referenciada também permite que você especifique um intervalo fixo ou um mecanismo de retirada linear.

Armazene o valor e a estratégia em um arquivo de configuração para refinar e ajustar valores em tempo de execução.

Para obter mais informações, consulte padrões de repetição.

Você também pode lidar com o limite de taxa usando o limite por agente por thread.

Por agente por limite de thread

O limite por agente por thread controla o tráfego que um agente tem permissão para gerar em uma única conversa. Uma conversa é de 1:1 entre agente e usuário, um chat em grupo ou um canal em uma equipe. Portanto, se o aplicativo enviar uma mensagem de agente para cada usuário, o limite de thread não será limitado.

A tabela a seguir fornece os limites por agente por thread:

Você também pode lidar com o limite de taxa usando o limite por thread para todos os agentes.

Limite por thread para todos os agentes

O limite por thread para todos os agentes controla o tráfego que todos os agentes têm permissão para gerar em uma única conversa. Uma conversa aqui é 1:1 entre agente e usuário, um chat em grupo ou um canal em uma equipe.

A tabela a seguir fornece o limite por thread para todos os agentes:

Próxima etapa

Confira também

• Criar agentes para o Teams
• Gerenciar uma operação de longa duração