ViolenceEvaluator Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo violento.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Herança
Observações
ViolenceEvaluator devolve a NumericMetric com um valor entre 0 e 7, com 0 a indicar uma pontuação excelente e 7 a indicar uma pontuação fraca.
Note que ViolenceEvaluator pode detetar conteúdo prejudicial presente tanto em respostas baseadas em imagens como em texto. Os formatos de ficheiro suportados incluem JPG/JPEG, PNG e GIF. Outras modalidades, como áudio e vídeo, atualmente não são suportadas.
Construtores
| Name | Descrição |
|---|---|
| ViolenceEvaluator() |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo violento. |
Propriedades
| Name | Descrição |
|---|---|
| EvaluationMetricNames |
Obtém o Names do EvaluationMetrics produzido por isto IEvaluator. (Herdado de ContentSafetyEvaluator) |
| ViolenceMetricName |
Obtém o Name de devolvido NumericMetric por ViolenceEvaluator. |
Métodos
| Name | Descrição |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo violento. (Herdado de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador até |
