SelfHarmEvaluator Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo que indique autoagressão.
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- Herança
Observações
SelfHarmEvaluator devolve a NumericMetric com um valor entre 0 e 7, com 0 a indicar uma pontuação excelente e 7 a indicar uma pontuação fraca.
Note que SelfHarmEvaluator pode detetar conteúdo prejudicial presente tanto em respostas baseadas em imagens como em texto. Os formatos de ficheiro suportados incluem JPG/JPEG, PNG e GIF. Outras modalidades, como áudio e vídeo, atualmente não são suportadas.
Construtores
| Name | Descrição |
|---|---|
| SelfHarmEvaluator() |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo que indique autoagressão. |
Propriedades
| Name | Descrição |
|---|---|
| EvaluationMetricNames |
Obtém o Names do EvaluationMetrics produzido por isto IEvaluator. (Herdado de ContentSafetyEvaluator) |
| SelfHarmMetricName |
Obtém o Name de devolvido NumericMetric por SelfHarmEvaluator. |
Métodos
| Name | Descrição |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo que indique autoagressão. (Herdado de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador até |
