DistributedCachingChatClient Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache.
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClientpublic class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClienttype DistributedCachingChatClient = class
inherit CachingChatClientPublic Class DistributedCachingChatClient
Inherits CachingChatClient- Héritage
Remarques
Il DistributedCachingChatClient utilise la sérialisation JSON dans le cadre du stockage des données mises en cache. Il n’est pas garanti que les modèles d’objets utilisés par ChatMessage, ChatOptions, ChatResponse, ou ChatResponseUpdatel’un des autres objets du pipeline client de conversation effectuent un aller-retour via la sérialisation JSON avec une fidélité totale. Par exemple, RawRepresentation elles seront ignorées, et Object les valeurs dans AdditionalProperties le fichier désérialiseront plutôt JsonElement que comme type d’origine. En règle générale, l’utilisation DistributedCachingChatClient du code doit uniquement s’appuyer sur l’accès aux données qui peuvent être conservées suffisamment par le biais de la sérialisation ET de la désérialisation JSON.
L’implémentation IChatClient fournie est thread-safe pour une utilisation simultanée tant que l’employé IDistributedCache est de même thread-safe pour une utilisation simultanée.
Constructeurs
| Nom | Description |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Initialise une nouvelle instance de la classe DistributedCachingChatClient. |
Propriétés
| Nom | Description |
|---|---|
| CacheKeyAdditionalValues |
Obtient ou définit des valeurs supplémentaires utilisées pour informer la clé de cache utilisée pour stocker l’état. |
| CoalesceStreamingUpdates |
Obtient ou définit une valeur indiquant si les mises à jour de diffusion en continu sont coalescées. (Hérité de CachingChatClient) |
| InnerClient |
Obtient le fichier interne IChatClient. (Hérité de DelegatingChatClient) |
| JsonSerializerOptions |
Obtient ou définit des options de sérialisation JSON à utiliser lors de la sérialisation des données du cache. |
Méthodes
| Nom | Description |
|---|---|
| Dispose() |
Effectue des tâches définies par l’application associées à la libération, à la libération ou à la réinitialisation des ressources non managées. (Hérité de DelegatingChatClient) |
| Dispose(Boolean) |
Fournit un mécanisme permettant de libérer des ressources non managées. (Hérité de DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Détermine si la mise en cache doit être utilisée avec la requête spécifiée. (Hérité de CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcule une clé de cache pour les valeurs spécifiées. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache. (Hérité de CachingChatClient) |
| GetService(Type, Object) |
Demande l’objet IChatClient du type |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache. (Hérité de CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Retourne un cache précédemment mis ChatResponseen cache, le cas échéant. Cela est utilisé lorsqu’il existe un appel à GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Retourne une liste de ChatResponseUpdate valeurs précédemment mise en cache, le cas échéant. Cela est utilisé lorsqu’il existe un appel à GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Stocke un ChatResponse dans le cache sous-jacent. Cela est utilisé lorsqu’il existe un appel à GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Stocke une liste de ChatResponseUpdate valeurs dans le cache sous-jacent. Cela est utilisé lorsqu’il existe un appel à GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
