ProtectedMaterialEvaluator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
Azure AI Foundry評価サービスを利用して、保護された材料の存在について AI モデルによって生成された応答を評価するIEvaluator。
public ref class ProtectedMaterialEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class ProtectedMaterialEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ProtectedMaterialEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class ProtectedMaterialEvaluator
Inherits ContentSafetyEvaluator- 継承
注釈
保護された素材には、曲の歌詞、レシピ、記事など、著作権の下にあるテキストが含まれます。 ProtectedMaterialEvaluatorは、評価された応答の画像コンテンツ内に存在する保護された材料を検出することもできます。 サポートされているファイル形式には、JPG/JPEG、PNG、GIF が含まれます。評価では、著作権で保護されたアートワーク、架空の文字、および登録商標であるロゴとブランドを検出できます。 オーディオやビデオなどの他のモダリティは現在サポートされていません。
ProtectedMaterialEvaluatorは、応答に保護された材料が存在することを示すtrueの値を持つBooleanMetricと、保護された材料がないことを示すfalseの値を返します。
コンストラクター
| 名前 | 説明 |
|---|---|
| ProtectedMaterialEvaluator() |
Azure AI Foundry評価サービスを利用して、保護された材料の存在について AI モデルによって生成された応答を評価するIEvaluator。 |
プロパティ
| 名前 | 説明 |
|---|---|
| EvaluationMetricNames |
このIEvaluatorによって生成されたEvaluationMetricのNameを取得します。 (継承元 ContentSafetyEvaluator) |
| ProtectedArtworkMetricName |
画像内のアートワークに保護された素材が存在することを示すProtectedMaterialEvaluatorによって返されるBooleanMetricのNameを取得します。 |
| ProtectedFictionalCharactersMetricName |
保護された架空の文字が画像に存在することを示すProtectedMaterialEvaluatorによって返されるBooleanMetricのNameを取得します。 |
| ProtectedLogosAndBrandsMetricName |
保護されたロゴとブランドが画像に存在することを示すProtectedMaterialEvaluatorによって返されるBooleanMetricのNameを取得します。 |
| ProtectedMaterialMetricName |
応答に保護されたマテリアルが存在することを示すProtectedMaterialEvaluatorによって返されるBooleanMetricのNameを取得します。 |
メソッド
| 名前 | 説明 |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
指定した |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry評価サービスを使用して指定された |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
呼び出し元によって提供されるEvaluationContextをフィルター処理します。 |
