Langue

EncodedToken Structure

Définition

Représentez le jeton généré à partir du processus de jeton contenant la sous-chaîne de jeton, l’ID associé à la sous-chaîne de jeton et le mappage de décalage à la chaîne d’origine.

public readonly struct EncodedToken : IEquatable<Microsoft.ML.Tokenizers.EncodedToken>
type EncodedToken = struct
Public Structure EncodedToken
Implements IEquatable(Of EncodedToken)
Héritage
EncodedToken
Implémente

Constructeurs

Nom Description
EncodedToken(Int32, String, Range)

Construisez un nouvel objet Token à l’aide de la valeur du jeton, de l’ID et du mappage de décalage à la chaîne d’origine.

Propriétés

Nom Description
Id

Obtient la valeur Id associée au jeton.

Offset

Obtient le mappage de décalage sur la chaîne d’origine.

Value

Obtient la valeur de chaîne de jeton.

Méthodes

Nom Description
Equals(EncodedToken)

Représentez le jeton généré à partir du processus de jeton contenant la sous-chaîne de jeton, l’ID associé à la sous-chaîne de jeton et le mappage de décalage à la chaîne d’origine.

S’applique à