Lingua

Tokenizer Classe

Definizione

Fornisce un'implementazione del tokenizer predefinita.

public class Tokenizer
type Tokenizer = class
Public Class Tokenizer
Ereditarietà
Tokenizer

Costruttori

Nome Descrizione
Tokenizer()

Fornisce un'implementazione del tokenizer predefinita.

Proprietà

Nome Descrizione
DefaultTokenizer

Ottiene l'implementazione predefinita TokenizerFunction .

Metodi

Nome Descrizione
DefaultTokenizerImpl(String, String)

Tokenizzatore semplice che interrompe gli spazi e la punteggiatura. L'unica normalizzazione eseguita è quella minuscola.

Si applica a