Idioma

Model Classe

Definição

Representa um modelo usado durante a Tokenização (como BPE ou Word Piece ou Unigram).

public abstract class Model
type Model = class
Public MustInherit Class Model
Herança
Model
Derivado

Construtores

Nome Description
Model()

Representa um modelo usado durante a Tokenização (como BPE ou Word Piece ou Unigram).

Métodos

Nome Description
GetTrainer()

Obtém um objeto de treinador a ser usado no treinamento do modelo.

GetVocab()

Obtém os tokens de mapeamento de dicionário para Ids.

GetVocabSize()

Obtém o tamanho do dicionário que mapeia tokens para Ids.

IdToToken(Int32, Boolean)

Mapeie a ID tokenizada para o token.

Save(String, String)

Salve os dados do modelo no vocabulário e mescla arquivos.

Tokenize(String)

Tokenize uma cadeia de caracteres de sequência para uma lista de tokens.

TokenToId(String)

Mapeie o token para a ID tokenizada.

Aplica-se a