ContentHarmEvaluator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
Azure AI Foundry評価サービスを利用して AI モデルによって生成された応答を評価し、暴力、ヘイト スピーチなど、さまざまな有害なコンテンツが存在することを評価する IEvaluator。
public ref class ContentHarmEvaluator : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic class ContentHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ContentHarmEvaluator = class
inherit ContentSafetyEvaluatorPublic Class ContentHarmEvaluator
Inherits ContentSafetyEvaluator- 継承
- 派生
注釈
ContentHarmEvaluator を使用すると、サポートされているすべてのコンテンツの損害メトリックに対する応答を一度に評価できます。 これを実現するには、 metricNames パラメーターを省略します。
ContentHarmEvaluator また、 HateAndUnfairnessEvaluator、 ViolenceEvaluator、 SelfHarmEvaluator 、 SexualEvaluator の基本クラスとしても機能します。これを使用して、一度に 1 つの特定のコンテンツ損害メトリックに対する応答を評価できます。
コンストラクター
| 名前 | 説明 |
|---|---|
| ContentHarmEvaluator(IDictionary<String,String>) |
Azure AI Foundry評価サービスを利用して AI モデルによって生成された応答を評価し、暴力、ヘイト スピーチなど、さまざまな有害なコンテンツが存在することを評価する IEvaluator。 |
プロパティ
| 名前 | 説明 |
|---|---|
| EvaluationMetricNames |
このNameによって生成されたEvaluationMetricのIEvaluatorを取得します。 (継承元 ContentSafetyEvaluator) |
メソッド
| 名前 | 説明 |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Azure AI Foundry評価サービスを利用して AI モデルによって生成された応答を評価し、暴力、ヘイト スピーチなど、さまざまな有害なコンテンツが存在することを評価する IEvaluator。 |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry評価サービスを使用して指定された |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
呼び出し元によって提供されるEvaluationContextをフィルター処理します。 |
