Idioma

OnnxSessionOptions Classe

Definição

public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
Herança
OnnxSessionOptions

Construtores

Nome Description
OnnxSessionOptions()

Campos

Nome Description
LogSeverityLevel

Nível de Severidade do Log para os logs de sessão. Padrão = ORT_LOGGING_LEVEL_WARNING

Propriedades

Nome Description
CreateSessionOptions
EnableCpuMemArena

Habilita o alocador arena para as alocações de memória da CPU. O padrão é true.

EnableMemoryPattern

Habilita o uso dos padrões de alocação de memória na primeira chamada Executar() para execuções subsequentes. Predefinição = verdadeiro.

EnableProfiling

Habilita a criação de perfil de chamadas InferenceSession.Run(). O padrão é false

ExecutionMode

Define o modo de execução da sessão. O padrão é definido como ORT_SEQUENTIAL. Consulte [ONNX_Runtime_Perf_Tuning.md] para obter mais detalhes.

GlobalInterOpNumThreads

Define o número de threads usados para paralelizar a execução do grafo (entre nós) Se a execução sequencial estiver habilitada, esse valor será ignorado Um valor de 0 significa que ORT escolherá um padrão. Usado somente quando PerSessionThreads for falso.

GlobalIntraOpNumThreads

Define o número de threads usados para paralelizar a execução em nós Um valor de 0 significa que ORT escolherá um padrão. Usado somente quando PerSessionThreads for falso.

GraphOptimizationLevel

Define o nível de otimização do grafo para a sessão. O padrão é definido como ORT_ENABLE_ALL.

InterOpNumThreads

Define o número de threads usados para paralelizar a execução do grafo (entre nós) Se a execução sequencial estiver habilitada, esse valor será ignorado Um valor de 0 significa que ORT escolherá um padrão

IntraOpNumThreads

Define o número de threads usados para paralelizar a execução em nós Um valor de 0 significa que ORT escolherá um padrão

LogId

ID de log a ser usada para a sessão. O padrão é uma cadeia de caracteres vazia.

LogVerbosityLevel

Registrar o Nível de Verbosidade para os logs de sessão. Padrão = 0. Os valores válidos são >=0. Isso entra em vigor somente quando o LogSeverityLevel é definido como ORT_LOGGING_LEVEL_VERBOSE.

OptimizedModelFilePath

Defina o caminho do arquivo para salvar o modelo otimizado após transformações no nível do grafo. O padrão está vazio, o que implica que o salvamento está desabilitado.

PerSessionThreads

Por threads de sessão. O padrão é true. Se for falso, todas as sessões no processo usarão um TP global.

ProfileOutputPathPrefix

Prefixo de caminho a ser usado para a saída de dados de criação de perfil

Aplica-se a