Sprache

OnnxSessionOptions Klasse

Definition

public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
Vererbung
OnnxSessionOptions

Konstruktoren

Name Beschreibung
OnnxSessionOptions()

Felder

Name Beschreibung
LogSeverityLevel

Protokollschweregrad für die Sitzungsprotokolle. Default = ORT_LOGGING_LEVEL_WARNING

Eigenschaften

Name Beschreibung
CreateSessionOptions
EnableCpuMemArena

Aktiviert den Arena-Allocator für die CPU-Speicherzuordnungen. Der Standardwert ist "True".

EnableMemoryPattern

Aktiviert die Verwendung der Speicherzuordnungsmuster im ersten Run()-Aufruf für nachfolgende Ausführungen. Standard = true.

EnableProfiling

Aktiviert die Profilerstellung von InferenceSession.Run()-Aufrufen. Die Standardeinstellung ist „false“.

ExecutionMode

Legt den Ausführungsmodus für die Sitzung fest. Der Standardwert ist auf ORT_SEQUENTIAL festgelegt. Weitere Informationen finden Sie unter [ONNX_Runtime_Perf_Tuning.md].

GlobalInterOpNumThreads

Legt die Anzahl der Threads fest, mit denen die Ausführung des Diagramms parallelisiert wird (über Knoten hinweg) Wenn die sequenzielle Ausführung aktiviert ist, wird dieser Wert ignoriert, bedeutet, dass ORT einen Standardwert auswählt. Wird nur verwendet, wenn PerSessionThreads "false" ist.

GlobalIntraOpNumThreads

Legt die Anzahl der Threads fest, die zum Parallelisieren der Ausführung innerhalb von Knoten A -Wert 0 verwendet werden, bedeutet, dass ORT einen Standardwert auswählt. Wird nur verwendet, wenn PerSessionThreads "false" ist.

GraphOptimizationLevel

Legt die Diagrammoptimierungsebene für die Sitzung fest. Der Standardwert ist auf ORT_ENABLE_ALL festgelegt.

InterOpNumThreads

Legt die Anzahl der Threads fest, mit denen die Ausführung des Diagramms parallelisiert wird (über Knoten hinweg) Wenn die sequenzielle Ausführung aktiviert ist, wird dieser Wert ignoriert: Der Wert 0 bedeutet, dass ORT eine Standardeinstellung auswählt.

IntraOpNumThreads

Legt die Anzahl der Threads fest, die zum Parallelisieren der Ausführung innerhalb von Knoten A -Wert 0 verwendet werden, bedeutet, dass ORT einen Standardwert auswählt

LogId

Protokoll-ID, die für die Sitzung verwendet werden soll. Der Standardwert ist eine leere Zeichenfolge.

LogVerbosityLevel

Protokoll-Ausführlichkeitsebene für die Sitzungsprotokolle. Standard = 0. Gültige Werte sind >=0. Dies wird nur wirksam, wenn der LogSeverityLevel auf ORT_LOGGING_LEVEL_VERBOSE festgelegt ist.

OptimizedModelFilePath

Legen Sie den Dateipfad fest, um ein optimiertes Modell nach Transformationen auf Diagrammebene zu speichern. Der Standardwert ist leer, was bedeutet, dass das Speichern deaktiviert ist.

PerSessionThreads

Pro Sitzungsthreads. Der Standardwert ist "True". Wenn "false" dies bewirkt, dass alle Sitzungen im Prozess ein globales TP verwenden.

ProfileOutputPathPrefix

Pfadpräfix für die Ausgabe von Profilerstellungsdaten

Gilt für: