SelfHarmEvaluator 類別
定義
重要
部分資訊涉及發行前產品，在發行之前可能會有大幅修改。 Microsoft 對此處提供的資訊，不做任何明確或隱含的瑕疵擔保。
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在顯示自我傷害的內容。
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- 繼承
備註
SelfHarmEvaluator 回傳 a NumericMetric 的值介於 0 到 7 之間，0 代表優秀分數，7 代表分數不佳。
請注意，可以 SelfHarmEvaluator 偵測圖片和文字回應中存在的有害內容。 支援的檔案格式包括 JPG/JPEG、PNG 和 GIF。 其他模式如音訊和視訊目前尚未支援。
建構函式
| 名稱 | Description |
|---|---|
| SelfHarmEvaluator() |
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在顯示自我傷害的內容。 |
屬性
| 名稱 | Description |
|---|---|
| EvaluationMetricNames |
由Name此IEvaluator產生 s 的 s EvaluationMetric。 (繼承來源 ContentSafetyEvaluator) |
| SelfHarmMetricName |
得到 Name 的 NumericMetric 由 返回 SelfHarmEvaluator。 |
方法
| 名稱 | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
一個IEvaluator，利用Azure AI Foundry評估服務來評估 AI 模型產生的回應是否存在顯示自我傷害的內容。 (繼承來源 ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
利用 Azure AI Foundry 評估服務評估所提供的 |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
將 EvaluationContext呼叫者 |
