CodeVulnerabilityEvaluator Clase
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas de finalización de código producidas por un modelo de IA para la presencia de código vulnerable.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Herencia
Comentarios
CodeVulnerabilityEvaluator admite la evaluación de vulnerabilidades de código en los siguientes lenguajes de programación: Python, Java, C++, C#, Go, JavaScript y SQL. Puede identificar una variedad de vulnerabilidades de código, como inyección de código, exposición de seguimiento de pila, credenciales codificadas de forma rígida, etc.
CodeVulnerabilityEvaluator devuelve un BooleanMetric con un valor de que true indica la presencia de un código vulnerable en la respuesta evaluada y un valor de false que indica la ausencia de código vulnerable.
Tenga en cuenta que CodeVulnerabilityEvaluator no admite la evaluación del contenido multimodal presente en las respuestas evaluadas. Se omitirán las imágenes y otro contenido multiproceso presentes en las respuestas evaluadas. Tenga en cuenta también que si se proporciona una conversación de varios turnos como entrada, CodeVulnerabilityEvaluator solo evaluará el código presente en el último turno de conversación. Se omitirá cualquier código presente en los turnos de conversación anteriores.
Constructores
| Nombre | Description |
|---|---|
| CodeVulnerabilityEvaluator() |
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas de finalización de código producidas por un modelo de IA para la presencia de código vulnerable. |
Propiedades
| Nombre | Description |
|---|---|
| CodeVulnerabilityMetricName |
Obtiene el Name objeto del BooleanMetric devuelto por CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
Obtiene los Names de los EvaluationMetricgenerados por este IEvaluatorobjeto . (Heredado de ContentSafetyEvaluator) |
Métodos
| Nombre | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator que utiliza el servicio de evaluación de Fundición de IA de Azure para evaluar las respuestas de finalización de código producidas por un modelo de IA para la presencia de código vulnerable. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Evalúa el |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra los EvaluationContextelementos proporcionados por el autor de la llamada |
