Lingua

WordPieceOptions Classe

Definizione

Opzioni per il tokenizer WordPiece.

public class WordPieceOptions
type WordPieceOptions = class
Public Class WordPieceOptions
Ereditarietà
WordPieceOptions
Derivato

Costruttori

Nome Descrizione
WordPieceOptions()

Opzioni per il tokenizer WordPiece.

Proprietà

Nome Descrizione
ContinuingSubwordPrefix

Ottiene o imposta il prefisso da utilizzare per le parole secondarie che non sono la prima parte di una parola.

MaxInputCharsPerWord

Ottiene o imposta il numero massimo di caratteri da considerare per una singola parola.

Normalizer

Ottiene o imposta l'oggetto per eseguire l'override Normalizer del normalizzatore predefinito, se necessario.

PreTokenizer

Ottiene o imposta l'oggetto per eseguire l'override PreTokenizer del normalizzatore predefinito, se necessario.

SpecialTokens

Ottiene o imposta i token speciali da utilizzare.

UnknownToken

Ottiene o imposta il token sconosciuto da usare.

Si applica a