OnnxSessionOptions Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
public sealed class OnnxSessionOptions
type OnnxSessionOptions = class
Public NotInheritable Class OnnxSessionOptions
- Herança
-
OnnxSessionOptions
Construtores
| Nome | Description |
|---|---|
| OnnxSessionOptions() | |
Campos
| Nome | Description |
|---|---|
| LogSeverityLevel |
Nível de Severidade do Log para os logs de sessão. Padrão = ORT_LOGGING_LEVEL_WARNING |
Propriedades
| Nome | Description |
|---|---|
| CreateSessionOptions | |
| EnableCpuMemArena |
Habilita o alocador arena para as alocações de memória da CPU. O padrão é true. |
| EnableMemoryPattern |
Habilita o uso dos padrões de alocação de memória na primeira chamada Executar() para execuções subsequentes. Predefinição = verdadeiro. |
| EnableProfiling |
Habilita a criação de perfil de chamadas InferenceSession.Run(). O padrão é false |
| ExecutionMode |
Define o modo de execução da sessão. O padrão é definido como ORT_SEQUENTIAL. Consulte [ONNX_Runtime_Perf_Tuning.md] para obter mais detalhes. |
| GlobalInterOpNumThreads |
Define o número de threads usados para paralelizar a execução do grafo (entre nós) Se a execução sequencial estiver habilitada, esse valor será ignorado Um valor de 0 significa que ORT escolherá um padrão. Usado somente quando PerSessionThreads for falso. |
| GlobalIntraOpNumThreads |
Define o número de threads usados para paralelizar a execução em nós Um valor de 0 significa que ORT escolherá um padrão. Usado somente quando PerSessionThreads for falso. |
| GraphOptimizationLevel |
Define o nível de otimização do grafo para a sessão. O padrão é definido como ORT_ENABLE_ALL. |
| InterOpNumThreads |
Define o número de threads usados para paralelizar a execução do grafo (entre nós) Se a execução sequencial estiver habilitada, esse valor será ignorado Um valor de 0 significa que ORT escolherá um padrão |
| IntraOpNumThreads |
Define o número de threads usados para paralelizar a execução em nós Um valor de 0 significa que ORT escolherá um padrão |
| LogId |
ID de log a ser usada para a sessão. O padrão é uma cadeia de caracteres vazia. |
| LogVerbosityLevel |
Registrar o Nível de Verbosidade para os logs de sessão. Padrão = 0. Os valores válidos são >=0. Isso entra em vigor somente quando o LogSeverityLevel é definido como ORT_LOGGING_LEVEL_VERBOSE. |
| OptimizedModelFilePath |
Defina o caminho do arquivo para salvar o modelo otimizado após transformações no nível do grafo. O padrão está vazio, o que implica que o salvamento está desabilitado. |
| PerSessionThreads |
Por threads de sessão. O padrão é true. Se for falso, todas as sessões no processo usarão um TP global. |
| ProfileOutputPathPrefix |
Prefixo de caminho a ser usado para a saída de dados de criação de perfil |