ContentHarmEvaluator Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA à presença de uma variedade de conteúdos prejudiciais, como violência, discurso de ódio, etc.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Herança
- Derivado
Observações
ContentHarmEvaluator pode ser usado para avaliar respostas para todas as métricas de dano ao conteúdo suportadas de uma só vez. Pode conseguir isto omitindo o metricNames parâmetro.
ContentHarmEvaluator serve também como uma classe base para HateAndUnfairnessEvaluator, ViolenceEvaluator, SelfHarmEvaluator e SexualEvaluator que pode ser usada para avaliar respostas para uma métrica específica de dano ao conteúdo de cada vez.
Construtores
| Name | Descrição |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA à presença de uma variedade de conteúdos prejudiciais, como violência, discurso de ódio, etc. |
Propriedades
| Name | Descrição |
|---|---|
| EvaluationMetricNames |
Obtém o Names do EvaluationMetrics produzido por isto IEvaluator. (Herdado de ContentSafetyEvaluator) |
Métodos
| Name | Descrição |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA à presença de uma variedade de conteúdos prejudiciais, como violência, discurso de ódio, etc. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador até |
