語言

BertOptions.IndividuallyTokenizeCjk 屬性

定義

會取得或設定一個值,指示是否將日韓漢字分成獨立的分子。

public bool IndividuallyTokenizeCjk { get; set; }
member this.IndividuallyTokenizeCjk : bool with get, set
Public Property IndividuallyTokenizeCjk As Boolean

屬性值

備註

這對於想要逐個標記化日韓角色很有用。 以下 Unicode 範圍被視為中日漢字元:- U+3400 - U+4DBF 中日韓統一漢字擴充 A。- U+4E00 - U+9FFF 基本日韓漢字集。 - U+F900 - U+FAFF 中日韓相容漢字。 - U+20000 - U+2A6DF 中日韓統一漢字擴展 B. - U+2A700 - U+2B73F 中日韓統一漢字擴展 C. - U+2B740 - U+2B81F 中日漢統一漢字擴展 D. - U+2B820 - U+2CEAF 中日韓統一漢字擴展 E. - U+2F800 - U+2FA1F 中日韓相容漢字補充。

適用於