SemanticRoutingChatClient Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Route les requêtes par similarité sémantique aux exemples d’énoncés fournis par l’application.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClientpublic sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClienttype SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Héritage
- Attributs
Remarques
Les incorporations de profil sont générées de manière différée et mises en cache. Chaque requête incorpore le dernier message utilisateur et sélectionne le client avec le score le plus élevé après avoir agrégé les similitudes de cosinus des énoncés de profil les plus adaptés. Le client par défaut configuré est sélectionné lorsqu’aucun message utilisateur n’est disponible ou lorsque le score le plus élevé est inférieur au seuil configuré.
Les instances clientes configurées sont utilisées comme identités de routage stables et sont distinguées par référence. Les options par appel ne participent pas à cette identité. Par défaut, cette instance possède les clients et incorpore le générateur et les supprime lorsqu’elle est supprimée.
L’approche de routage des exemples d’énoncés est inspirée par le projet de routeur sémantique d’Aurelio Labs.
Constructeurs
| Nom | Description |
|---|---|
| SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean) |
Initialise une nouvelle instance de la classe SemanticRoutingChatClient. |
Méthodes
| Nom | Description |
|---|---|
| Dispose() |
Effectue des tâches définies par l’application associées à la libération, à la libération ou à la réinitialisation des ressources non managées. (Hérité de RoutingChatClient) |
| Dispose(Boolean) |
Fournit un mécanisme permettant de libérer des ressources appartenant à l’instance dérivée. (Hérité de RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envoie des messages de conversation et retourne la réponse. (Hérité de RoutingChatClient) |
| GetService(Type, Object) |
Demande l’objet IChatClient du type |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envoie des messages de conversation et diffuse la réponse. (Hérité de RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Sélectionne le client à appeler pour la demande. (Hérité de RoutingChatClient) |
