OnnxSessionOptions Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
- Vererbung
-
OnnxSessionOptions
Konstruktoren
| Name | Beschreibung |
|---|---|
| OnnxSessionOptions() | |
Felder
| Name | Beschreibung |
|---|---|
| LogSeverityLevel |
Protokollschweregrad für die Sitzungsprotokolle. Default = ORT_LOGGING_LEVEL_WARNING |
Eigenschaften
| Name | Beschreibung |
|---|---|
| CreateSessionOptions | |
| EnableCpuMemArena |
Aktiviert den Arena-Allocator für die CPU-Speicherzuordnungen. Der Standardwert ist "True". |
| EnableMemoryPattern |
Aktiviert die Verwendung der Speicherzuordnungsmuster im ersten Run()-Aufruf für nachfolgende Ausführungen. Standard = true. |
| EnableProfiling |
Aktiviert die Profilerstellung von InferenceSession.Run()-Aufrufen. Die Standardeinstellung ist „false“. |
| ExecutionMode |
Legt den Ausführungsmodus für die Sitzung fest. Der Standardwert ist auf ORT_SEQUENTIAL festgelegt. Weitere Informationen finden Sie unter [ONNX_Runtime_Perf_Tuning.md]. |
| GlobalInterOpNumThreads |
Legt die Anzahl der Threads fest, mit denen die Ausführung des Diagramms parallelisiert wird (über Knoten hinweg) Wenn die sequenzielle Ausführung aktiviert ist, wird dieser Wert ignoriert, bedeutet, dass ORT einen Standardwert auswählt. Wird nur verwendet, wenn PerSessionThreads "false" ist. |
| GlobalIntraOpNumThreads |
Legt die Anzahl der Threads fest, die zum Parallelisieren der Ausführung innerhalb von Knoten A -Wert 0 verwendet werden, bedeutet, dass ORT einen Standardwert auswählt. Wird nur verwendet, wenn PerSessionThreads "false" ist. |
| GraphOptimizationLevel |
Legt die Diagrammoptimierungsebene für die Sitzung fest. Der Standardwert ist auf ORT_ENABLE_ALL festgelegt. |
| InterOpNumThreads |
Legt die Anzahl der Threads fest, mit denen die Ausführung des Diagramms parallelisiert wird (über Knoten hinweg) Wenn die sequenzielle Ausführung aktiviert ist, wird dieser Wert ignoriert: Der Wert 0 bedeutet, dass ORT eine Standardeinstellung auswählt. |
| IntraOpNumThreads |
Legt die Anzahl der Threads fest, die zum Parallelisieren der Ausführung innerhalb von Knoten A -Wert 0 verwendet werden, bedeutet, dass ORT einen Standardwert auswählt |
| LogId |
Protokoll-ID, die für die Sitzung verwendet werden soll. Der Standardwert ist eine leere Zeichenfolge. |
| LogVerbosityLevel |
Protokoll-Ausführlichkeitsebene für die Sitzungsprotokolle. Standard = 0. Gültige Werte sind >=0. Dies wird nur wirksam, wenn der LogSeverityLevel auf ORT_LOGGING_LEVEL_VERBOSE festgelegt ist. |
| OptimizedModelFilePath |
Legen Sie den Dateipfad fest, um ein optimiertes Modell nach Transformationen auf Diagrammebene zu speichern. Der Standardwert ist leer, was bedeutet, dass das Speichern deaktiviert ist. |
| PerSessionThreads |
Pro Sitzungsthreads. Der Standardwert ist "True". Wenn "false" dies bewirkt, dass alle Sitzungen im Prozess ein globales TP verwenden. |
| ProfileOutputPathPrefix |
Pfadpräfix für die Ausgabe von Profilerstellungsdaten |