RobertaPreTokenizer クラス

定義

重要

一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。

Roberta English トークナイザーの事前トークナイザー。

public sealed class RobertaPreTokenizer : Microsoft.ML.Tokenizers.PreTokenizer

type RobertaPreTokenizer = class
    inherit PreTokenizer

Public NotInheritable Class RobertaPreTokenizer
Inherits PreTokenizer

名前	説明
RobertaPreTokenizer()	Roberta English トークナイザーの事前トークナイザー。

名前	説明
Instance	Roberta pre-tokenizer のシングルトンインスタンスを取得します。.

名前	説明
Instance	Roberta pre-tokenizer のシングルトンインスタンスを取得します。.

名前	説明
PreTokenize(ReadOnlySpan<Char>)	`text`に対する相対トークンのオフセットと長さを取得します。
PreTokenize(String)	`text`に対する相対トークンのオフセットと長さを取得します。