Sprache

WordPieceTokenizer.Create Methode

Definition

Überlädt

Name Beschreibung
Create(Stream, WordPieceOptions)

Erstellen Sie eine neue instance der WordPieceTokenizer -Klasse.

Create(String, WordPieceOptions)

Erstellen Sie eine neue instance der WordPieceTokenizer -Klasse.

Create(Stream, WordPieceOptions)

Quelle:
WordPieceTokenizer.cs
Quelle:
WordPieceTokenizer.cs
Quelle:
WordPieceTokenizer.cs

Erstellen Sie eine neue instance der WordPieceTokenizer -Klasse.

public static Microsoft.ML.Tokenizers.WordPieceTokenizer Create(System.IO.Stream vocabStream, Microsoft.ML.Tokenizers.WordPieceOptions? options = default);
static member Create : System.IO.Stream * Microsoft.ML.Tokenizers.WordPieceOptions -> Microsoft.ML.Tokenizers.WordPieceTokenizer
Public Shared Function Create (vocabStream As Stream, Optional options As WordPieceOptions = Nothing) As WordPieceTokenizer

Parameter

vocabStream
Stream

Der Pfad zur WordPiece-Vocab-Datei.

options
WordPieceOptions

Die Optionen, die für den WordPiece-Tokenizer verwendet werden sollen.

Gibt zurück

Eine neue Instanz der WordPieceTokenizer-Klasse.

Hinweise

Wenn null PreTokenizer ist, wird der Leerzeichenvortokenizer verwendet. Stellen Sie beim Erstellen des Tokenizers sicher, dass der Vokabulardatenstrom von einem vertrauenswürdigen Anbieter stammt.

Gilt für:

Create(String, WordPieceOptions)

Quelle:
WordPieceTokenizer.cs
Quelle:
WordPieceTokenizer.cs
Quelle:
WordPieceTokenizer.cs

Erstellen Sie eine neue instance der WordPieceTokenizer -Klasse.

public static Microsoft.ML.Tokenizers.WordPieceTokenizer Create(string vocabFilePath, Microsoft.ML.Tokenizers.WordPieceOptions? options = default);
static member Create : string * Microsoft.ML.Tokenizers.WordPieceOptions -> Microsoft.ML.Tokenizers.WordPieceTokenizer
Public Shared Function Create (vocabFilePath As String, Optional options As WordPieceOptions = Nothing) As WordPieceTokenizer

Parameter

vocabFilePath
String

Der Pfad zur WordPiece-Vocab-Datei.

options
WordPieceOptions

Die Optionen, die für den WordPiece-Tokenizer verwendet werden sollen.

Gibt zurück

Eine neue Instanz der WordPieceTokenizer-Klasse.

Hinweise

Wenn null PreTokenizer ist, wird der Leerzeichenvortokenizer verwendet. Stellen Sie beim Erstellen des Tokenizers sicher, dass die Vokabulardatei von einem vertrauenswürdigen Anbieter stammt.

Gilt für: