BertTokenizer.SplitOnSpecialTokens Właściwość
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
Pobiera wartość wskazującą, czy tokenizator powinien podzielić się na specjalne tokeny, czy traktować tokeny specjalne jako zwykły tekst.
public bool SplitOnSpecialTokens { get; }
member this.SplitOnSpecialTokens : bool
Public ReadOnly Property SplitOnSpecialTokens As Boolean