ViolenceEvaluator Clase
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas producidas por un modelo de IA para la presencia de contenido violento.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Herencia
Comentarios
ViolenceEvaluator devuelve un NumericMetric con un valor comprendido entre 0 y 7, con 0 que indica una puntuación excelente y 7 que indica una puntuación deficiente.
Tenga en cuenta que ViolenceEvaluator puede detectar contenido dañino presente en las respuestas basadas en imágenes y texto. Los formatos de archivo admitidos incluyen JPG/JPEG, PNG y GIF. Actualmente no se admiten otras modalidades como audio y vídeo.
Constructores
| Nombre | Description |
|---|---|
| ViolenceEvaluator() |
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas producidas por un modelo de IA para la presencia de contenido violento. |
Propiedades
| Nombre | Description |
|---|---|
| EvaluationMetricNames |
Obtiene los Names de los EvaluationMetricgenerados por este IEvaluatorobjeto . (Heredado de ContentSafetyEvaluator) |
| ViolenceMetricName |
Obtiene el Name objeto del NumericMetric devuelto por ViolenceEvaluator. |
Métodos
| Nombre | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas producidas por un modelo de IA para la presencia de contenido violento. (Heredado de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Evalúa el |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra los EvaluationContextelementos proporcionados por el autor de la llamada |
