Język

ReportingConfiguration.CachingKeys Właściwość

Definicja

Pobiera kolekcję unikatowych ciągów, które powinny zostać skróty podczas generowania kluczy pamięci podręcznej dla buforowanych odpowiedzi sztucznej inteligencji.

public:
 property System::Collections::Generic::IReadOnlyList<System::String ^> ^ CachingKeys { System::Collections::Generic::IReadOnlyList<System::String ^> ^ get(); };
public System.Collections.Generic.IReadOnlyList<string> CachingKeys { get; }
member this.CachingKeys : System.Collections.Generic.IReadOnlyList<string>
Public ReadOnly Property CachingKeys As IReadOnlyList(Of String)

Wartość właściwości

Uwagi

Jeśli nie są dostarczane żadne dodatkowe klucze buforowania, klucze pamięci podręcznej dla buforowanej odpowiedzi są generowane na podstawie zawartości żądania sztucznej inteligencji, które wygenerowało tę odpowiedź, metadane, takie jak nazwa modelu i punkt końcowy znajdujący się w skonfigurowanej IChatClient i ChatOptions dostarczone jako część generowania odpowiedzi.

Ponadto nazwa scenariusza i iteracji są zawsze uwzględniane w kluczu pamięci podręcznej. Oznacza to, że buforowane odpowiedzi dla określonego scenariusza i iteracji nie będą ponownie używane w innym scenariuszu i iteracji, nawet jeśli zawartość żądania sztucznej inteligencji i metadane będą takie same.

Dostarczanie dodatkowych kluczy buforowania może być przydatne, gdy niektóre czynniki zewnętrzne muszą być brane pod uwagę podczas podejmowania decyzji, czy buforowana odpowiedź sztucznej inteligencji jest nadal prawidłowa. Rozważmy na przykład przypadek, w którym jeden z dostarczonych dodatkowych kluczy buforowania jest wersją wywoływanego modelu AI. Jeśli produkt przejdzie do nowszej wersji modelu, aktualizacja klucza buforowania w celu odzwierciedlenia tej zmiany spowoduje, że wszystkie buforowane wpisy, które opierają się na tym kluczu buforowania, zostaną unieważnione, dzięki czemu kolejne oceny nie będą używać przestarzałych buforowanych odpowiedzi utworzonych przez poprzednią wersję modelu.

Dotyczy