SelfHarmEvaluator Klass
Definition
Viktigt
En del information gäller för förhandsversionen av en produkt och kan komma att ändras avsevärt innan produkten blir allmänt tillgänglig. Microsoft lämnar inga garantier, uttryckliga eller underförstådda, avseende informationen som visas här.
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av innehåll som indikerar självskada.
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- Arv
Kommentarer
SelfHarmEvaluator returnerar ett NumericMetric med ett värde mellan 0 och 7, med 0 som anger en utmärkt poäng och 7 som indikerar en dålig poäng.
Observera att SelfHarmEvaluator kan identifiera skadligt innehåll som finns i både bild- och textbaserade svar. Filformat som stöds är JPG/JPEG, PNG och GIF. Andra metoder som ljud och video stöds för närvarande inte.
Konstruktorer
| Name | Description |
|---|---|
| SelfHarmEvaluator() |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av innehåll som indikerar självskada. |
Egenskaper
| Name | Description |
|---|---|
| EvaluationMetricNames |
Hämtar s:erna NameEvaluationMetricsom produceras av den här IEvaluator. (Ärvd från ContentSafetyEvaluator) |
| SelfHarmMetricName |
Hämtar den Name returnerade NumericMetric av SelfHarmEvaluator. |
Metoder
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av innehåll som indikerar självskada. (Ärvd från ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Utvärderar den angivna |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtrerar de EvaluationContexts som tillhandahålls av anroparen via |
