HateAndUnfairnessEvaluator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、ヘイトフルまたは不公平なコンテンツの存在を評価するIEvaluator。
public ref class HateAndUnfairnessEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class HateAndUnfairnessEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype HateAndUnfairnessEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class HateAndUnfairnessEvaluator
Inherits ContentHarmEvaluator- 継承
注釈
HateAndUnfairnessEvaluator は、0 ~ 7 の値を持つ NumericMetric を返し、0 は優れたスコアを示し、7 はスコアが低い値を示します。
HateAndUnfairnessEvaluatorは、画像ベースとテキストベースの応答の両方に存在する有害なコンテンツを検出できることに注意してください。 サポートされているファイル形式には、JPG/JPEG、PNG、GIF があります。 オーディオやビデオなどの他のモダリティは現在サポートされていません。
コンストラクター
| 名前 | 説明 |
|---|---|
| HateAndUnfairnessEvaluator() |
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、ヘイトフルまたは不公平なコンテンツの存在を評価するIEvaluator。 |
プロパティ
| 名前 | 説明 |
|---|---|
| EvaluationMetricNames |
このNameによって生成されたEvaluationMetricのIEvaluatorを取得します。 (継承元 ContentSafetyEvaluator) |
| HateAndUnfairnessMetricName |
Nameによって返されるNumericMetricのHateAndUnfairnessEvaluatorを取得します。 |
メソッド
| 名前 | 説明 |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Azure AI Foundry評価サービスを利用して、AI モデルによって生成された応答を評価して、ヘイトフルまたは不公平なコンテンツの存在を評価するIEvaluator。 (継承元 ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry評価サービスを使用して指定された |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
呼び出し元によって提供されるEvaluationContextをフィルター処理します。 |
