ViolenceEvaluator Klasa
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność brutalnej zawartości.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Dziedziczenie
Uwagi
ViolenceEvaluator Zwraca wartość NumericMetric z wartością z zakresu od 0 do 7, z wartością 0 wskazującą doskonały wynik i 7 wskazującą niską ocenę.
Należy pamiętać, że ViolenceEvaluator może wykrywać szkodliwą zawartość zarówno w odpowiedziach na obraz, jak i tekst. Obsługiwane formaty plików to JPG/JPEG, PNG i GIF. Inne modalności, takie jak audio i wideo, nie są obecnie obsługiwane.
Konstruktory
| Nazwa | Opis |
|---|---|
| ViolenceEvaluator() |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność brutalnej zawartości. |
Właściwości
| Nazwa | Opis |
|---|---|
| EvaluationMetricNames |
NamePobiera s z s wyprodukowanych EvaluationMetricprzez ten IEvaluatorelement . (Odziedziczone po ContentSafetyEvaluator) |
| ViolenceMetricName |
Name Pobiera wartość zwracaną NumericMetric przez ViolenceEvaluator. |
Metody
| Nazwa | Opis |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność brutalnej zawartości. (Odziedziczone po ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Oblicza podaną |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtruje EvaluationContexts dostarczone przez obiekt wywołujący za pośrednictwem |
