SemanticRoutingChatClient Klass
Definition
Viktigt
En del information gäller för förhandsversionen av en produkt och kan komma att ändras avsevärt innan produkten blir allmänt tillgänglig. Microsoft lämnar inga garantier, uttryckliga eller underförstådda, avseende informationen som visas här.
Dirigerar begäranden efter semantisk likhet med exempelyttranden som tillhandahålls av appen.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Arv
- Attribut
Kommentarer
Profilbäddningar genereras lazily och cachelagras. Varje begäran bäddar in det senaste användarmeddelandet och väljer klienten med den högsta poängen efter att ha sammanställt cosinélikheterna för de bäst matchande profilyttrandena. Den konfigurerade standardklienten väljs när inget användarmeddelande är tillgängligt eller när den högsta poängen ligger under det konfigurerade tröskelvärdet.
De konfigurerade klientinstanserna används som stabila routningsidentiteter och särskiljs med referens. Alternativ per samtal deltar inte i den identiteten. Som standard äger den här instansen klienterna och inbäddningsgeneratorn och tar bort dem när den tas bort.
Metoden för att dirigera exempelyttranden är inspirerad av Aurelio Labs semantiska routerprojekt.
Konstruktorer
Metoder
| Name | Description |
|---|---|
| Dispose() |
Utför programdefinierade uppgifter som är associerade med att frigöra, frigöra eller återställa ohanterade resurser. (Ärvd från RoutingChatClient) |
| Dispose(Boolean) |
Tillhandahåller en mekanism för att frigöra resurser som ägs av den härledda instansen. (Ärvd från RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Skickar chattmeddelanden och returnerar svaret. (Ärvd från RoutingChatClient) |
| GetService(Type, Object) |
Frågar efter IChatClient ett objekt av den angivna typen |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Skickar chattmeddelanden och strömmar svaret. (Ärvd från RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Väljer den klient som ska anropas för begäran. (Ärvd från RoutingChatClient) |
