ContentHarmEvaluator Klasa
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność różnych szkodliwych treści, takich jak przemoc, mowa nienawiści itp.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Dziedziczenie
- Pochodne
Uwagi
ContentHarmEvaluator Może służyć do oceny odpowiedzi dla wszystkich obsługiwanych metryk szkody zawartości w jednym miejscu. Można to osiągnąć, pomijając metricNames parametr .
ContentHarmEvaluatorSłuży również jako klasa bazowa dla HateAndUnfairnessEvaluatorViolenceEvaluatorSelfHarmEvaluator , i SexualEvaluator która może służyć do oceny odpowiedzi dla jednej metryki szkody dla określonej zawartości naraz.
Konstruktory
| Nazwa | Opis |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność różnych szkodliwych treści, takich jak przemoc, mowa nienawiści itp. |
Właściwości
| Nazwa | Opis |
|---|---|
| EvaluationMetricNames |
NamePobiera s z s wyprodukowanych EvaluationMetricprzez ten IEvaluatorelement . (Odziedziczone po ContentSafetyEvaluator) |
Metody
| Nazwa | Opis |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji na obecność różnych szkodliwych treści, takich jak przemoc, mowa nienawiści itp. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Oblicza podaną |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtruje EvaluationContexts dostarczone przez obiekt wywołujący za pośrednictwem |
