Język

OnnxSessionOptions Klasa

Definicja

public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
Dziedziczenie
OnnxSessionOptions

Konstruktory

Nazwa Opis
OnnxSessionOptions()

Pola

Nazwa Opis
LogSeverityLevel

Poziom ważności dziennika dla dzienników sesji. Ustawienie domyślne = ORT_LOGGING_LEVEL_WARNING

Właściwości

Nazwa Opis
CreateSessionOptions
EnableCpuMemArena

Włącza alokator Arena dla alokacji pamięci procesora CPU. Wartość domyślna to true.

EnableMemoryPattern

Umożliwia użycie wzorców alokacji pamięci w pierwszym wywołaniu Run() dla kolejnych przebiegów. Default = true.

EnableProfiling

Umożliwia profilowanie wywołań InferenceSession.Run(). Wartość domyślna to false

ExecutionMode

Ustawia tryb wykonywania dla sesji. Wartość domyślna to ORT_SEQUENTIAL. Aby uzyskać więcej informacji, zobacz [ONNX_Runtime_Perf_Tuning.md].

GlobalInterOpNumThreads

Ustawia liczbę wątków używanych do równoległego wykonywania grafu (między węzłami) Jeśli sekwencyjne wykonanie jest włączone, ta wartość jest ignorowana Wartość 0 oznacza, że ORT wybierze wartość domyślną. Używane tylko wtedy, gdy PerSessionThreads ma wartość false.

GlobalIntraOpNumThreads

Ustawia liczbę wątków używanych do równoległego wykonywania w węzłach Wartość 0 oznacza, że funkcja ORT wybierze wartość domyślną. Używane tylko wtedy, gdy PerSessionThreads ma wartość false.

GraphOptimizationLevel

Ustawia poziom optymalizacji grafu dla sesji. Wartość domyślna to ORT_ENABLE_ALL.

InterOpNumThreads

Ustawia liczbę wątków używanych do równoległego wykonywania grafu (między węzłami) Jeśli sekwencyjne wykonanie jest włączone, ta wartość jest ignorowana Wartość 0 oznacza, że ORT wybierze wartość domyślną

IntraOpNumThreads

Ustawia liczbę wątków używanych do równoległego wykonywania w węzłach Wartość 0 oznacza, że ORT wybierze wartość domyślną

LogId

Identyfikator dziennika, który ma być używany dla sesji. Wartość domyślna to pusty ciąg.

LogVerbosityLevel

Poziom szczegółowości dziennika dla dzienników sesji. Wartość domyślna : 0. Prawidłowe wartości to >= 0. Ma to zastosowanie tylko wtedy, gdy wartość LogSeverityLevel jest ustawiona na ORT_LOGGING_LEVEL_VERBOSE.

OptimizedModelFilePath

Ustaw ścieżkę pliku, aby zapisać zoptymalizowany model po przekształceniach na poziomie grafu. Wartość domyślna jest pusta, co oznacza, że zapisywanie jest wyłączone.

PerSessionThreads

Na wątki sesji. Wartość domyślna to true. Jeśli wartość false powoduje, że wszystkie sesje w procesie używają globalnego modułu TP.

ProfileOutputPathPrefix

Prefiks ścieżki do użycia na potrzeby danych wyjściowych profilowania danych

Dotyczy