SelfHarmEvaluator Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu qui indique l’auto-préjudice.
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- Héritage
Remarques
SelfHarmEvaluator retourne une NumericMetric valeur comprise entre 0 et 7, avec 0 indiquant un excellent score, et 7 indiquant un score médiocre.
Notez que SelfHarmEvaluator vous pouvez détecter le contenu dangereux présent dans les réponses basées sur des images et du texte. Les formats de fichiers pris en charge incluent JPG/JPEG, PNG et GIF. D’autres modalités telles que l’audio et la vidéo ne sont actuellement pas prises en charge.
Constructeurs
| Nom | Description |
|---|---|
| SelfHarmEvaluator() |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu qui indique l’auto-préjudice. |
Propriétés
| Nom | Description |
|---|---|
| EvaluationMetricNames |
Obtient les Names des EvaluationMetrics produites par ce IEvaluator. (Hérité de ContentSafetyEvaluator) |
| SelfHarmMetricName |
Obtient le Name résultat NumericMetric retourné par SelfHarmEvaluator. |
Méthodes
| Nom | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu qui indique l’auto-préjudice. (Hérité de ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Évalue le |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtre les EvaluationContexts fournis par l’appelant via |
