Język

BpeTrainer Klasa

Definicja

Trener Bpe odpowiedzialny za szkolenie modelu Bpe.

public sealed class BpeTrainer : Microsoft.ML.Tokenizers.Trainer
type BpeTrainer = class
    inherit Trainer
Public NotInheritable Class BpeTrainer
Inherits Trainer
Dziedziczenie
BpeTrainer

Konstruktory

Nazwa Opis
BpeTrainer()

Skonstruuj nowy obiekt BpeTrainer przy użyciu wartości domyślnych.

BpeTrainer(IEnumerable<AddedToken>, Int32, Int32, ReportProgress, Nullable<Int32>, HashSet<Char>, String, String)

Skonstruuj nowy obiekt BpeTrainer.

Właściwości

Nazwa Opis
ContinuingSubwordPrefix

Pobiera prefiks, który ma być używany dla każdego wyrazu podrzędnego, który nie jest początkiem słowa.

EndOfWordSuffix

Pobiera sufiks, który ma być używany dla każdego wyrazu podrzędnego, który jest końcem wyrazu.

InitialAlphabet

Pobiera listę znaków do uwzględnienia w początkowym alfabecie, nawet jeśli nie jest widoczna w zestawie danych trenowania. Jeśli ciągi zawierają więcej niż jeden znak, zachowana jest tylko pierwsza.

LimitAlphabet

Pobiera maksymalnie różne znaki, które mają być zachowywane w alfabetze.

MinFrequency

Pobiera minimalną częstotliwość, jaką powinna mieć para w celu scalenia.

Progress

Ustaw, kiedy trzeba zgłosić postęp podczas trenowania.

(Odziedziczone po Trainer)
SpecialTokens

Pobiera listę specjalnych tokenów, o których powinien wiedzieć model.

VocabSize

Pobiera rozmiar końcowego słownictwa, w tym wszystkie tokeny i alfabet.

Metody

Nazwa Opis
Feed(IEnumerable<String>, Func<String,IEnumerable<String>>)

Przetwórz sekwencje wejściowe i przekaż wynik do modelu.

Train(Model)

Przeprowadź rzeczywiste szkolenie i zaktualizuj model wejściowy przy użyciu nowego słownictwa i scala dane.

Dotyczy