ProtectedMaterialEvaluator Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de matériel protégé.
public ref class ProtectedMaterialEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class ProtectedMaterialEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ProtectedMaterialEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class ProtectedMaterialEvaluator
Inherits ContentSafetyEvaluator- Héritage
Remarques
Les documents protégés incluent tout texte sous copyright, y compris les paroles de chanson, les recettes et les articles. Notez que ProtectedMaterialEvaluator vous pouvez également détecter des éléments protégés présents dans le contenu de l’image dans les réponses évaluées. Les formats de fichiers pris en charge incluent JPG/JPEG, PNG et GIF, et l’évaluation peut détecter les œuvres d’art protégées, les caractères fictifs et les logos et la personnalisation qui sont des marques déposées. D’autres modalités telles que l’audio et la vidéo ne sont actuellement pas prises en charge.
ProtectedMaterialEvaluator retourne une BooleanMetric valeur avec une valeur indiquant true la présence de matériel protégé dans la réponse et une valeur indiquant false l’absence de matériel protégé.
Constructeurs
| Nom | Description |
|---|---|
| ProtectedMaterialEvaluator() |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de matériel protégé. |
Propriétés
| Nom | Description |
|---|---|
| EvaluationMetricNames |
Obtient les Names des EvaluationMetrics produites par ce IEvaluator. (Hérité de ContentSafetyEvaluator) |
| ProtectedArtworkMetricName |
Obtient l’objet NameBooleanMetric retourné ProtectedMaterialEvaluator en indiquant la présence de matériel protégé dans les images. |
| ProtectedFictionalCharactersMetricName |
Obtient l’objet NameBooleanMetric retourné ProtectedMaterialEvaluator en indiquant la présence de caractères fictifs protégés dans les images. |
| ProtectedLogosAndBrandsMetricName |
Obtient le NameBooleanMetric retour ProtectedMaterialEvaluator en indiquant la présence de logos et de marques protégés dans des images. |
| ProtectedMaterialMetricName |
Obtient l’objet NameBooleanMetric retourné ProtectedMaterialEvaluator en indiquant la présence de matériel protégé dans les réponses. |
Méthodes
| Nom | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Évalue l’élément fourni |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Évalue le |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtre les EvaluationContexts fournis par l’appelant via |
