SelfHarmEvaluator Klasa
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji pod kątem obecności zawartości, która wskazuje na samookaleczenia.
public ref class SelfHarmEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentHarmEvaluatorpublic sealed class SelfHarmEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentHarmEvaluatortype SelfHarmEvaluator = class
inherit ContentHarmEvaluatorPublic NotInheritable Class SelfHarmEvaluator
Inherits ContentHarmEvaluator- Dziedziczenie
Uwagi
SelfHarmEvaluator Zwraca wartość NumericMetric z wartością z zakresu od 0 do 7, z wartością 0 wskazującą doskonały wynik i 7 wskazującą niską ocenę.
Należy pamiętać, że SelfHarmEvaluator może wykrywać szkodliwą zawartość zarówno w odpowiedziach na obraz, jak i tekst. Obsługiwane formaty plików to JPG/JPEG, PNG i GIF. Inne modalności, takie jak audio i wideo, nie są obecnie obsługiwane.
Konstruktory
| Nazwa | Opis |
|---|---|
| SelfHarmEvaluator() |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji pod kątem obecności zawartości, która wskazuje na samookaleczenia. |
Właściwości
| Nazwa | Opis |
|---|---|
| EvaluationMetricNames |
NamePobiera s z s wyprodukowanych EvaluationMetricprzez ten IEvaluatorelement . (Odziedziczone po ContentSafetyEvaluator) |
| SelfHarmMetricName |
Name Pobiera wartość zwracaną NumericMetric przez SelfHarmEvaluator. |
Metody
| Nazwa | Opis |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
IEvaluator, który wykorzystuje usługę oceny Azure AI Foundry do oceny odpowiedzi utworzonych przez model sztucznej inteligencji pod kątem obecności zawartości, która wskazuje na samookaleczenia. (Odziedziczone po ContentHarmEvaluator) |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Oblicza podaną |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtruje EvaluationContexts dostarczone przez obiekt wywołujący za pośrednictwem |
