ViolenceEvaluator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、暴力コンテンツの存在を評価するIEvaluator。
public ref class ViolenceEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class ViolenceEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype ViolenceEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class ViolenceEvaluator
Inherits ContentHarmEvaluator- 継承
注釈
ViolenceEvaluator は、0 ~ 7 の値を持つ NumericMetric を返し、0 は優れたスコアを示し、7 はスコアが低い値を示します。
ViolenceEvaluatorは、画像ベースとテキストベースの応答の両方に存在する有害なコンテンツを検出できることに注意してください。 サポートされているファイル形式には、JPG/JPEG、PNG、GIF があります。 オーディオやビデオなどの他のモダリティは現在サポートされていません。
コンストラクター
| 名前 | 説明 |
|---|---|
| ViolenceEvaluator() |
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、暴力コンテンツの存在を評価するIEvaluator。 |
プロパティ
| 名前 | 説明 |
|---|---|
| EvaluationMetricNames |
このIEvaluatorによって生成されたEvaluationMetricのNameを取得します。 (継承元 ContentSafetyEvaluator) |
| ViolenceMetricName |
ViolenceEvaluatorによって返されるNumericMetricのNameを取得します。 |
メソッド
| 名前 | 説明 |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、暴力コンテンツの存在を評価するIEvaluator。 (継承元 ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry評価サービスを使用して指定された |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
呼び出し元によって提供されるEvaluationContextをフィルター処理します。 |
