SemanticRoutingChatClient Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Roteia solicitações por similaridade semântica aos enunciados de exemplo fornecidos pelo aplicativo.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Herança
- Atributos
Comentários
As inserções de perfil são geradas de forma preguiçosa e armazenadas em cache. Cada solicitação inseri a última mensagem de usuário e seleciona o cliente com a pontuação mais alta depois de agregar as semelhanças de cosseno das declarações de perfil de melhor correspondência. O cliente padrão configurado é selecionado quando nenhuma mensagem de usuário está disponível ou quando a pontuação mais alta está abaixo do limite configurado.
As instâncias de cliente configuradas são usadas como identidades de roteamento estáveis e são distinguidas por referência. As opções por chamada não participam dessa identidade. Por padrão, essa instância possui os clientes e o gerador de inserção e os descarta quando é descartado.
A abordagem de roteamento de enunciado de exemplo é inspirada no projeto de roteador semântico do Aurelio Labs.
Construtores
| Nome | Description |
|---|---|
| SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean) |
Inicializa uma nova instância da classe SemanticRoutingChatClient. |
Métodos
| Nome | Description |
|---|---|
| Dispose() |
Executa tarefas definidas pelo aplicativo associadas à liberação, liberação ou redefinição de recursos não gerenciados. (Herdado de RoutingChatClient) |
| Dispose(Boolean) |
Fornece um mecanismo para liberar recursos pertencentes à instância derivada. (Herdado de RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envia mensagens de chat e retorna a resposta. (Herdado de RoutingChatClient) |
| GetService(Type, Object) |
Solicita um IChatClient objeto do tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envia mensagens de chat e transmite a resposta. (Herdado de RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Seleciona o cliente a ser invocado para a solicitação. (Herdado de RoutingChatClient) |
