SelfHarmEvaluator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
Azure AI Foundry評価サービスを利用して、自傷行為を示すコンテンツの存在について AI モデルによって生成された応答を評価するIEvaluator。
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- 継承
注釈
SelfHarmEvaluator は、0 ~ 7 の値を持つ NumericMetric を返し、0 は優れたスコアを示し、7 はスコアが低い値を示します。
SelfHarmEvaluatorは、画像ベースとテキストベースの応答の両方に存在する有害なコンテンツを検出できることに注意してください。 サポートされているファイル形式には、JPG/JPEG、PNG、GIF があります。 オーディオやビデオなどの他のモダリティは現在サポートされていません。
コンストラクター
| 名前 | 説明 |
|---|---|
| SelfHarmEvaluator() |
Azure AI Foundry評価サービスを利用して、自傷行為を示すコンテンツの存在について AI モデルによって生成された応答を評価するIEvaluator。 |
プロパティ
| 名前 | 説明 |
|---|---|
| EvaluationMetricNames |
このIEvaluatorによって生成されたEvaluationMetricのNameを取得します。 (継承元 ContentSafetyEvaluator) |
| SelfHarmMetricName |
SelfHarmEvaluatorによって返されるNumericMetricのNameを取得します。 |
メソッド
| 名前 | 説明 |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Azure AI Foundry評価サービスを利用して、自傷行為を示すコンテンツの存在について AI モデルによって生成された応答を評価するIEvaluator。 (継承元 ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry評価サービスを使用して指定された |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
呼び出し元によって提供されるEvaluationContextをフィルター処理します。 |
