Språk

Tokenizer Klass

Definition

Tillhandahåller en standardimplementering av tokenizer.

public class Tokenizer
type Tokenizer = class
Public Class Tokenizer
Arv
Tokenizer

Konstruktorer

Name Description
Tokenizer()

Tillhandahåller en standardimplementering av tokenizer.

Egenskaper

Name Description
DefaultTokenizer

Får standardimplementationen TokenizerFunction .

Metoder

Name Description
DefaultTokenizerImpl(String, String)

Enkel tokenizer som bryter på blanksteg och skiljetecken. Den enda normaliseringen som görs är med gemener.

Gäller för