ContentHarmEvaluator Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle d’IA pour la présence d’une variété de contenus nuisibles tels que la violence, le discours haineux, etc.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Héritage
- Dérivé
Remarques
ContentHarmEvaluator peut être utilisé pour évaluer les réponses pour toutes les métriques de préjudice au contenu prises en charge en une seule fois. Pour ce faire, omettez le metricNames paramètre.
ContentHarmEvaluatorsert également de classe de base pour HateAndUnfairnessEvaluator, ViolenceEvaluatorSelfHarmEvaluator et SexualEvaluator qui peut être utilisé pour évaluer les réponses d’une métrique de préjudice de contenu spécifique à la fois.
Constructeurs
| Nom | Description |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle d’IA pour la présence d’une variété de contenus nuisibles tels que la violence, le discours haineux, etc. |
Propriétés
| Nom | Description |
|---|---|
| EvaluationMetricNames |
Obtient les Names des EvaluationMetrics produites par ce IEvaluator. (Hérité de ContentSafetyEvaluator) |
Méthodes
| Nom | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle d’IA pour la présence d’une variété de contenus nuisibles tels que la violence, le discours haineux, etc. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Évalue le |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtre les EvaluationContexts fournis par l’appelant via |
