ContentHarmEvaluator 類別
定義
重要
部分資訊涉及發行前產品，在發行之前可能會有大幅修改。 Microsoft 對此處提供的資訊，不做任何明確或隱含的瑕疵擔保。
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在各種有害內容，如暴力、仇恨言論等。
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- 繼承
- 衍生
備註
ContentHarmEvaluator 可用於一次性評估所有支援內容傷害指標的回應。 你可以省略參數 metricNames 來達成這個目標。
ContentHarmEvaluator同時也作為 、 、 ViolenceEvaluatorSelfHarmEvaluatorSexualEvaluator 的基底類別HateAndUnfairnessEvaluator，可用於一次評估針對特定內容傷害指標的回應。
建構函式
| 名稱 | Description |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在各種有害內容，如暴力、仇恨言論等。 |
屬性
| 名稱 | Description |
|---|---|
| EvaluationMetricNames |
由Name此EvaluationMetric產生 s 的 s IEvaluator。 (繼承來源 ContentSafetyEvaluator) |
方法
| 名稱 | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在各種有害內容，如暴力、仇恨言論等。 |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
利用 Azure AI Foundry 評估服務評估所提供的 |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
將 EvaluationContext呼叫者 |
