Język

WordPieceOptions Klasa

Definicja

Opcje tokenizatora programu WordPiece.

public class WordPieceOptions
type WordPieceOptions = class
Public Class WordPieceOptions
Dziedziczenie
WordPieceOptions
Pochodne

Konstruktory

Nazwa Opis
WordPieceOptions()

Opcje tokenizatora programu WordPiece.

Właściwości

Nazwa Opis
ContinuingSubwordPrefix

Pobiera lub ustawia prefiks do użycia dla wyrazów podrzędnych, które nie są pierwszą częścią słowa.

MaxInputCharsPerWord

Pobiera lub ustawia maksymalną liczbę znaków do rozważenia dla pojedynczego słowa.

Normalizer

Pobiera lub ustawia Normalizer wartość , aby zastąpić domyślny normalizator, jeśli jest to konieczne.

PreTokenizer

Pobiera lub ustawia PreTokenizer wartość , aby zastąpić domyślny normalizator, jeśli jest to konieczne.

SpecialTokens

Pobiera lub ustawia specjalne tokeny do użycia.

UnknownToken

Pobiera lub ustawia nieznany token do użycia.

Dotyczy