ViolenceEvaluator Klass
Definition
Viktigt
En del information gäller för förhandsversionen av en produkt och kan komma att ändras avsevärt innan produkten blir allmänt tillgänglig. Microsoft lämnar inga garantier, uttryckliga eller underförstådda, avseende informationen som visas här.
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av våldsamt innehåll.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Arv
Kommentarer
ViolenceEvaluator returnerar ett NumericMetric med ett värde mellan 0 och 7, med 0 som anger en utmärkt poäng och 7 som indikerar en dålig poäng.
Observera att ViolenceEvaluator kan identifiera skadligt innehåll som finns i både bild- och textbaserade svar. Filformat som stöds är JPG/JPEG, PNG och GIF. Andra metoder som ljud och video stöds för närvarande inte.
Konstruktorer
| Name | Description |
|---|---|
| ViolenceEvaluator() |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av våldsamt innehåll. |
Egenskaper
| Name | Description |
|---|---|
| EvaluationMetricNames |
Hämtar s:erna NameEvaluationMetricsom produceras av den här IEvaluator. (Ärvd från ContentSafetyEvaluator) |
| ViolenceMetricName |
Hämtar den Name returnerade NumericMetric av ViolenceEvaluator. |
Metoder
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av våldsamt innehåll. (Ärvd från ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Utvärderar den angivna |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtrerar de EvaluationContexts som tillhandahålls av anroparen via |
