ContentHarmEvaluator Klass
Definition
Viktigt
En del information gäller för förhandsversionen av en produkt och kan komma att ändras avsevärt innan produkten blir allmänt tillgänglig. Microsoft lämnar inga garantier, uttryckliga eller underförstådda, avseende informationen som visas här.
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd olika skadliga innehåll som våld, hatpropaganda osv.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Arv
- Härledda
Kommentarer
ContentHarmEvaluator kan användas för att utvärdera svar för alla mått för innehållsskador som stöds på ett och samma sätt. Du kan uppnå detta genom att utelämna parametern metricNames .
ContentHarmEvaluator fungerar också som basklass för HateAndUnfairnessEvaluator, ViolenceEvaluatoroch SelfHarmEvaluatorSexualEvaluator som kan användas för att utvärdera svar för ett specifikt mått för innehållsskador i taget.
Konstruktorer
| Name | Description |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd olika skadliga innehåll som våld, hatpropaganda osv. |
Egenskaper
| Name | Description |
|---|---|
| EvaluationMetricNames |
Hämtar s:erna NameEvaluationMetricsom produceras av den här IEvaluator. (Ärvd från ContentSafetyEvaluator) |
Metoder
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd olika skadliga innehåll som våld, hatpropaganda osv. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Utvärderar den angivna |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtrerar de EvaluationContexts som tillhandahålls av anroparen via |
