ViolenceEvaluator Klas
Definitie
Belangrijk
Bepaalde informatie heeft betrekking op een voorlopige productversie die aanzienlijk kan worden gewijzigd voordat deze wordt uitgebracht. Microsoft biedt geen enkele expliciete of impliciete garanties met betrekking tot de informatie die hier wordt verstrekt.
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van gewelddadige inhoud.
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- Overname
Opmerkingen
ViolenceEvaluator geeft als resultaat een NumericMetric waarde tussen 0 en 7, met 0 die een uitstekende score aangeeft en 7 die een slechte score aangeeft.
Houd er rekening mee dat ViolenceEvaluator schadelijke inhoud kan worden gedetecteerd die aanwezig is in reacties op afbeeldingen en tekst. Ondersteunde bestandsindelingen zijn JPG/JPEG, PNG en GIF. Andere modaliteiten, zoals audio en video, worden momenteel niet ondersteund.
Constructors
| Name | Description |
|---|---|
| ViolenceEvaluator() |
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van gewelddadige inhoud. |
Eigenschappen
| Name | Description |
|---|---|
| EvaluationMetricNames |
Haalt de Names van de EvaluationMetrics geproduceerd door deze IEvaluator. (Overgenomen van ContentSafetyEvaluator) |
| ViolenceMetricName |
Haalt de Name geretourneerde NumericMetric door ViolenceEvaluator. |
Methoden
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van gewelddadige inhoud. (Overgenomen van ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Evalueert de opgegeven |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtert de EvaluationContextdoor de beller geleverde s via |
