Język

Tokenizer.DefaultTokenizerImpl(String, String) Metoda

Definicja

Prosty tokenizer, który przerywa spacje i znaki interpunkcyjne. Jedyną normalizacją jest używanie małych liter.

public static System.Collections.Generic.List<Microsoft.Bot.Builder.Dialogs.Choices.Token> DefaultTokenizerImpl(string text, string locale = default);
static member DefaultTokenizerImpl : string * string -> System.Collections.Generic.List<Microsoft.Bot.Builder.Dialogs.Choices.Token>
Public Shared Function DefaultTokenizerImpl (text As String, Optional locale As String = Nothing) As List(Of Token)

Parametry

text
String

Tekst wejściowy.

locale
String

Opcjonalnie, identyfikuje lokalizację tekstu wejściowego.

Zwraca

Lista żetonów.

Uwagi

Jest to dokładny port implementacji JavaScript algorytmu, z tą różnicą, że tutaj funkcje biblioteki .NET są używane zamiast funkcji kodu kodowego JavaScript.

Dotyczy