ViolenceEvaluator 類別
定義
重要
部分資訊涉及發行前產品，在發行之前可能會有大幅修改。 Microsoft 對此處提供的資訊，不做任何明確或隱含的瑕疵擔保。
一個IEvaluator，利用 Azure AI Foundry Evaluation 服務來評估 AI 模型對暴力內容是否存在的回應。
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- 繼承
備註
ViolenceEvaluator 回傳 a NumericMetric 的值介於 0 到 7 之間，0 代表優秀分數，7 代表分數不佳。
請注意，可以 ViolenceEvaluator 偵測圖片和文字回應中存在的有害內容。 支援的檔案格式包括 JPG/JPEG、PNG 和 GIF。 其他模式如音訊和視訊目前尚未支援。
建構函式
| 名稱 | Description |
|---|---|
| ViolenceEvaluator() |
一個IEvaluator，利用 Azure AI Foundry Evaluation 服務來評估 AI 模型對暴力內容是否存在的回應。 |
屬性
| 名稱 | Description |
|---|---|
| EvaluationMetricNames |
由Name此IEvaluator產生 s 的 s EvaluationMetric。 (繼承來源 ContentSafetyEvaluator) |
| ViolenceMetricName |
得到 Name 的 NumericMetric 由 返回 ViolenceEvaluator。 |
方法
| 名稱 | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
一個IEvaluator，利用 Azure AI Foundry Evaluation 服務來評估 AI 模型對暴力內容是否存在的回應。 (繼承來源 ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
利用 Azure AI Foundry 評估服務評估所提供的 |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
將 EvaluationContext呼叫者 |
