Lingua

OnnxSessionOptions Classe

Definizione

public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
Ereditarietà
OnnxSessionOptions

Costruttori

Nome Descrizione
OnnxSessionOptions()

Campi

Nome Descrizione
LogSeverityLevel

Livello di gravità del log per i log di sessione. Valore predefinito = ORT_LOGGING_LEVEL_WARNING

Proprietà

Nome Descrizione
CreateSessionOptions
EnableCpuMemArena

Abilita l'allocatore Arena per le allocazioni di memoria della CPU. Il valore predefinito è vero.

EnableMemoryPattern

Abilita l'uso dei modelli di allocazione della memoria nella prima chiamata Run() per le esecuzioni successive. Valore predefinito = true.

EnableProfiling

Abilita la profilatura delle chiamate InferenceSession.Run(). Il valore predefinito è false.

ExecutionMode

Imposta la modalità di esecuzione per la sessione. Il valore predefinito è impostato su ORT_SEQUENTIAL. Per altri dettagli, vedere [ONNX_Runtime_Perf_Tuning.md].

GlobalInterOpNumThreads

Imposta il numero di thread usati per parallelizzare l'esecuzione del grafico (tra nodi) Se l'esecuzione sequenziale è abilitata, questo valore viene ignorato. Il valore 0 indica che ORT selezionerà un valore predefinito. Usato solo quando PerSessionThreads è false.

GlobalIntraOpNumThreads

Imposta il numero di thread usati per parallelizzare l'esecuzione all'interno dei nodi Un valore pari a 0 indica che ORT selezionerà un valore predefinito. Usato solo quando PerSessionThreads è false.

GraphOptimizationLevel

Imposta il livello di ottimizzazione del grafo per la sessione. Il valore predefinito è impostato su ORT_ENABLE_ALL.

InterOpNumThreads

Imposta il numero di thread usati per parallelizzare l'esecuzione del grafico (tra nodi) Se l'esecuzione sequenziale è abilitata, questo valore viene ignorato. Il valore 0 indica che ORT selezionerà un valore predefinito

IntraOpNumThreads

Imposta il numero di thread usati per parallelizzare l'esecuzione all'interno dei nodi Un valore pari a 0 indica che ORT selezionerà un valore predefinito

LogId

ID del log da usare per la sessione. Il valore predefinito è una stringa vuota.

LogVerbosityLevel

Livello di dettaglio log per i log di sessione. Valore predefinito = 0. I valori validi sono >=0. Ciò diventa effettivo solo quando LogSeverityLevel è impostato su ORT_LOGGING_LEVEL_VERBOSE.

OptimizedModelFilePath

Impostare filepath per salvare il modello ottimizzato dopo le trasformazioni a livello di grafo. Il valore predefinito è vuoto, che implica che il salvataggio sia disabilitato.

PerSessionThreads

Per thread di sessione. Il valore predefinito è vero. Se false, tutte le sessioni nel processo usano un tp globale.

ProfileOutputPathPrefix

Prefisso del percorso da usare per l'output dei dati di profilatura

Si applica a