ContentHarmEvaluator Klas
Definitie
Belangrijk
Bepaalde informatie heeft betrekking op een voorlopige productversie die aanzienlijk kan worden gewijzigd voordat deze wordt uitgebracht. Microsoft biedt geen enkele expliciete of impliciete garanties met betrekking tot de informatie die hier wordt verstrekt.
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van een verscheidenheid aan schadelijke inhoud, zoals geweld, haatspraak, enzovoort.
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- Overname
- Afgeleid
Opmerkingen
ContentHarmEvaluator kan worden gebruikt om reacties te evalueren voor alle ondersteunde metrische gegevens over inhoudsschade. U kunt dit bereiken door de metricNames parameter weg te laten.
ContentHarmEvaluatorfungeert ook als basisklasse voor HateAndUnfairnessEvaluator, ViolenceEvaluatorSelfHarmEvaluator en SexualEvaluator die kan worden gebruikt om antwoorden te evalueren voor één specifieke metrische inhoudsschade tegelijk.
Constructors
| Name | Description |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van een verscheidenheid aan schadelijke inhoud, zoals geweld, haatspraak, enzovoort. |
Eigenschappen
| Name | Description |
|---|---|
| EvaluationMetricNames |
Haalt de Names van de EvaluationMetrics geproduceerd door deze IEvaluator. (Overgenomen van ContentSafetyEvaluator) |
Methoden
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Een IEvaluator die gebruikmaakt van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van een verscheidenheid aan schadelijke inhoud, zoals geweld, haatspraak, enzovoort. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Evalueert de opgegeven |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtert de EvaluationContextdoor de beller geleverde s via |
