ViolenceEvaluator Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo violento.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Herança
Comentários
ViolenceEvaluator retorna um NumericMetric com um valor entre 0 e 7, com 0 indicando uma excelente pontuação e 7 indicando uma pontuação ruim.
Observe que ViolenceEvaluator pode detectar conteúdo prejudicial presente em respostas baseadas em imagem e texto. Os formatos de arquivo com suporte incluem JPG/JPEG, PNG e GIF. Atualmente, não há suporte para outras modalidades, como áudio e vídeo.
Construtores
| Nome | Description |
|---|---|
| ViolenceEvaluator() |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo violento. |
Propriedades
| Nome | Description |
|---|---|
| EvaluationMetricNames |
Obtém os Names dos EvaluationMetrics produzidos por este IEvaluator. (Herdado de ContentSafetyEvaluator) |
| ViolenceMetricName |
Obtém o Name do NumericMetric retornado por ViolenceEvaluator. |
Métodos
| Nome | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo violento. (Herdado de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador por meio |
