語言

Tokenizer 建構函式

定義

多載

名稱 Description
Tokenizer()

初始化 Tokenizer 類別的新執行個體。

Tokenizer(Model, PreTokenizer, Normalizer)

建立一個新的 Tokenizer 物件。

Tokenizer()

來源:
Tokenizer.cs
來源:
Tokenizer.cs
來源:
Tokenizer.cs

初始化 Tokenizer 類別的新執行個體。

protected Tokenizer();
Protected Sub New ()

適用於

Tokenizer(Model, PreTokenizer, Normalizer)

建立一個新的 Tokenizer 物件。

public Tokenizer(Microsoft.ML.Tokenizers.Model model, Microsoft.ML.Tokenizers.PreTokenizer? preTokenizer = default, Microsoft.ML.Tokenizers.Normalizer? normalizer = default);
new Microsoft.ML.Tokenizers.Tokenizer : Microsoft.ML.Tokenizers.Model * Microsoft.ML.Tokenizers.PreTokenizer * Microsoft.ML.Tokenizers.Normalizer -> Microsoft.ML.Tokenizers.Tokenizer
Public Sub New (model As Model, Optional preTokenizer As PreTokenizer = Nothing, Optional normalizer As Normalizer = Nothing)

參數

model
Model

分詞器所使用的模型。

preTokenizer
PreTokenizer

分詞器使用的可選預分詞器。 如果此參數為空,則會使用 WhiteSpace PreTokenizer。

normalizer
Normalizer

由分詞器使用的可選正規化器。

適用於