QATrainer.Options Classe

Taxa de desistência após funções de ativação em camadas FFN. Deve estar dentro de [0, 1).

Betas para o otimizador adam.

Otimizador Epsilon para Adam.

Nome da coluna Início do Índice de Resposta

Taxa de desistência para pesos de atenção. Deve estar dentro de [0, 1).

Número de exemplos a serem usados para treinamento em minilote.

O limite de recorte de gradientes. Deve estar dentro de [0, +Inf). 0 significa não recortar a norma.

Nome da coluna de contexto

Taxa de desistência para situações gerais. Deve estar dentro de [0, 1).

Se você deve usar a esistência dinâmica.

Se a normalização da camada deve ser aplicada antes de cada bloco do codificador.

A taxa de aprendizado final do agendador de decadência polinomial.

Se os parâmetros do codificador devem ser congelados.

Se os parâmetros do módulo de transferência devem ser congelados.

O nome da coluna do rótulo.

Se os parâmetros de norma de camada devem ser treinados.

Taxa de aprendizado para as primeiras épocas N; todas as épocas >N usando LR_N. Observação: isso pode ser interpretado de forma diferente dependendo do agendador.

Com que frequência registrar a perda em log.

Pare o treinamento ao atingir esse número de épocas.

Taxa de desistência nas camadas do pooler de modelos de linguagem mascarada. Deve estar dentro de [0, 1).

Nome da Coluna de Resposta para as respostas previstas

O nome da coluna Previsão.

Nome da coluna de pergunta

O nome da coluna Pontuar.

A primeira coluna de frase.

A segunda coluna de frase.

A taxa de aprendizado inicial para o agendador de decadência polinomial.

Tipo de tarefa, que está relacionado à cabeça do modelo.

Número das principais respostas previstas na tarefa de resposta a perguntas.

Nome da Coluna de Resposta para os dados de treinamento

O conjunto de validação usado durante o treinamento para melhorar a qualidade do modelo.

Proporção de etapas de aquecimento para o agendador de decadência polinomial.

Coefficiency de decadência de peso. Deve estar dentro de [0, +Inf).