ContentHarmEvaluator Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de uma variedade de conteúdo prejudicial, como violência, discurso de ódio etc.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Herança
- Derivado
Comentários
ContentHarmEvaluator pode ser usado para avaliar as respostas para todas as métricas de danos de conteúdo com suporte de uma só vez. Você pode conseguir isso omitindo o metricNames parâmetro.
ContentHarmEvaluatortambém serve como uma classe base para HateAndUnfairnessEvaluator, ViolenceEvaluatorSelfHarmEvaluator e SexualEvaluator que pode ser usada para avaliar respostas para uma métrica de dano de conteúdo específica de cada vez.
Construtores
| Nome | Description |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de uma variedade de conteúdo prejudicial, como violência, discurso de ódio etc. |
Propriedades
| Nome | Description |
|---|---|
| EvaluationMetricNames |
Obtém os Names dos EvaluationMetrics produzidos por este IEvaluator. (Herdado de ContentSafetyEvaluator) |
Métodos
| Nome | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de uma variedade de conteúdo prejudicial, como violência, discurso de ódio etc. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador por meio |
