ReportingConfiguration.CachingKeys Właściwość
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
Pobiera kolekcję unikatowych ciągów, które powinny zostać skróty podczas generowania kluczy pamięci podręcznej dla buforowanych odpowiedzi sztucznej inteligencji.
public:
property System::Collections::Generic::IReadOnlyList<System::String ^> ^ CachingKeys { System::Collections::Generic::IReadOnlyList<System::String ^> ^ get(); };
public System.Collections.Generic.IReadOnlyList<string> CachingKeys { get; }
member this.CachingKeys : System.Collections.Generic.IReadOnlyList<string>
Public ReadOnly Property CachingKeys As IReadOnlyList(Of String)
Wartość właściwości
Uwagi
Jeśli nie są dostarczane żadne dodatkowe klucze buforowania, klucze pamięci podręcznej dla buforowanej odpowiedzi są generowane na podstawie zawartości żądania sztucznej inteligencji, które wygenerowało tę odpowiedź, metadane, takie jak nazwa modelu i punkt końcowy znajdujący się w skonfigurowanej IChatClient i ChatOptions dostarczone jako część generowania odpowiedzi.
Ponadto nazwa scenariusza i iteracji są zawsze uwzględniane w kluczu pamięci podręcznej. Oznacza to, że buforowane odpowiedzi dla określonego scenariusza i iteracji nie będą ponownie używane w innym scenariuszu i iteracji, nawet jeśli zawartość żądania sztucznej inteligencji i metadane będą takie same.
Dostarczanie dodatkowych kluczy buforowania może być przydatne, gdy niektóre czynniki zewnętrzne muszą być brane pod uwagę podczas podejmowania decyzji, czy buforowana odpowiedź sztucznej inteligencji jest nadal prawidłowa. Rozważmy na przykład przypadek, w którym jeden z dostarczonych dodatkowych kluczy buforowania jest wersją wywoływanego modelu AI. Jeśli produkt przejdzie do nowszej wersji modelu, aktualizacja klucza buforowania w celu odzwierciedlenia tej zmiany spowoduje, że wszystkie buforowane wpisy, które opierają się na tym kluczu buforowania, zostaną unieważnione, dzięki czemu kolejne oceny nie będą używać przestarzałych buforowanych odpowiedzi utworzonych przez poprzednią wersję modelu.