SemanticRoutingChatClient Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Encaminha os pedidos por similaridade semântica com enunciados de exemplo fornecidos pela aplicação.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Herança
- Atributos
Observações
Os embeddings de perfil são gerados preguiçosamente e armazenados em cache. Cada pedido incorpora a última mensagem do utilizador e seleciona o cliente com a pontuação mais alta após agregar as semelhanças cosseno das expressões de perfil que melhor correspondem. O cliente por defeito configurado é selecionado quando não há mensagem do utilizador disponível ou quando a pontuação mais alta está abaixo do limiar configurado.
As instâncias de cliente configuradas são usadas como identidades estáveis de encaminhamento e distinguem-se por referência. As opções por chamada não participam nessa identidade. Por defeito, esta instância é dona dos clientes e do gerador de embedding e descarta-os quando é eliminada.
A abordagem de encaminhamento por enunciados de exemplo é inspirada no projeto de router semântico da Aurelio Labs.
Construtores
Métodos
| Name | Descrição |
|---|---|
| Dispose() |
Realiza tarefas definidas pela aplicação associadas à libertação, libertação ou reinício de recursos não geridos. (Herdado de RoutingChatClient) |
| Dispose(Boolean) |
Fornece um mecanismo para libertar recursos pertencentes à instância derivada. (Herdado de RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envia mensagens no chat e responde. (Herdado de RoutingChatClient) |
| GetService(Type, Object) |
Pergunta a IChatClient um objeto do tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envia mensagens no chat e transmite a resposta em streaming. (Herdado de RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Seleciona o cliente a invocar para o pedido. (Herdado de RoutingChatClient) |
