SexualEvaluator Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu sexuel.
public ref class SexualEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SexualEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SexualEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SexualEvaluator
Inherits ContentHarmEvaluator- Héritage
Remarques
SexualEvaluator retourne une NumericMetric valeur comprise entre 0 et 7, avec 0 indiquant un excellent score, et 7 indiquant un score médiocre.
Notez que SexualEvaluator vous pouvez détecter le contenu dangereux présent dans les réponses basées sur des images et du texte. Les formats de fichiers pris en charge incluent JPG/JPEG, PNG et GIF. D’autres modalités telles que l’audio et la vidéo ne sont actuellement pas prises en charge.
Constructeurs
| Nom | Description |
|---|---|
| SexualEvaluator() |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu sexuel. |
Propriétés
| Nom | Description |
|---|---|
| EvaluationMetricNames |
Obtient les Names des EvaluationMetrics produites par ce IEvaluator. (Hérité de ContentSafetyEvaluator) |
| SexualMetricName |
Obtient le Name résultat NumericMetric retourné par SexualEvaluator. |
Méthodes
| Nom | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu sexuel. (Hérité de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Évalue le |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtre les EvaluationContexts fournis par l’appelant via |
