BertOptions.IndividuallyTokenizeCjk 屬性
定義
重要
部分資訊涉及發行前產品,在發行之前可能會有大幅修改。 Microsoft 對此處提供的資訊,不做任何明確或隱含的瑕疵擔保。
會取得或設定一個值,指示是否將日韓漢字分成獨立的分子。
public bool IndividuallyTokenizeCjk { get; set; }
member this.IndividuallyTokenizeCjk : bool with get, set
Public Property IndividuallyTokenizeCjk As Boolean
屬性值
備註
這對於想要逐個標記化日韓角色很有用。 以下 Unicode 範圍被視為中日漢字元:- U+3400 - U+4DBF 中日韓統一漢字擴充 A。- U+4E00 - U+9FFF 基本日韓漢字集。 - U+F900 - U+FAFF 中日韓相容漢字。 - U+20000 - U+2A6DF 中日韓統一漢字擴展 B. - U+2A700 - U+2B73F 中日韓統一漢字擴展 C. - U+2B740 - U+2B81F 中日漢統一漢字擴展 D. - U+2B820 - U+2CEAF 中日韓統一漢字擴展 E. - U+2F800 - U+2FA1F 中日韓相容漢字補充。