CodeVulnerabilityEvaluator Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses d’achèvement du code produites par un modèle IA pour la présence de code vulnérable.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Héritage
Remarques
CodeVulnerabilityEvaluator prend en charge l’évaluation des vulnérabilités de code dans les langages de programmation suivants : Python, Java, C++, C#, Go, JavaScript et SQL. Il peut identifier diverses vulnérabilités de code telles que l’injection sql, l’exposition de trace de pile, les informations d’identification codées en dur, etc.
CodeVulnerabilityEvaluator retourne une BooleanMetric valeur avec une valeur indiquant true la présence d’un code vulnérable dans la réponse évaluée et une valeur indiquant false l’absence de code vulnérable.
Notez que CodeVulnerabilityEvaluator ne prend pas en charge l’évaluation du contenu modal présent dans les réponses évaluées. Les images et d’autres contenus modals présents dans les réponses évaluées sont ignorées. Notez également que si une conversation à plusieurs tour est fournie en tant qu’entrée, CodeVulnerabilityEvaluator évalue uniquement le code présent dans le dernier tour de conversation. Tout code présent dans les tours de conversation précédents sera ignoré.
Constructeurs
| Nom | Description |
|---|---|
| CodeVulnerabilityEvaluator() |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses d’achèvement du code produites par un modèle IA pour la présence de code vulnérable. |
Propriétés
| Nom | Description |
|---|---|
| CodeVulnerabilityMetricName |
Obtient le Name résultat BooleanMetric retourné par CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
Obtient les Names des EvaluationMetrics produites par ce IEvaluator. (Hérité de ContentSafetyEvaluator) |
Méthodes
| Nom | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses d’achèvement du code produites par un modèle IA pour la présence de code vulnérable. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Évalue le |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtre les EvaluationContexts fournis par l’appelant via |
