TextFeaturizingEstimator クラス
定義
重要
一部の情報は、リリース前に大きく変更される可能性があるプレリリースされた製品に関するものです。 Microsoft は、ここに記載されている情報について、明示または黙示を問わず、一切保証しません。
テキスト ドキュメントのコレクションを数値特徴ベクトルに変換する推定器。 特徴ベクトルは、指定されたオプションに基づいて、単語や文字 n グラムの正規化された数です。
public sealed class TextFeaturizingEstimator : Microsoft.ML.IEstimator<Microsoft.ML.ITransformer>type TextFeaturizingEstimator = class
interface IEstimator<ITransformer>Public NotInheritable Class TextFeaturizingEstimator
Implements IEstimator(Of ITransformer)- 継承
-
TextFeaturizingEstimator
- 実装
注釈
エスティメーターの特性
| この推定器は、パラメーターをトレーニングするためにデータを確認する必要がありますか? | Yes. |
| 入力列のデータ型 | text |
| 出力列のデータ型 | Single のベクトル |
| ONNX にエクスポート可能 | No |
このエスティメーターは、ユーザーに以下を行うためのワンストップソリューションを提供します。
- 言語検出
- トークン化
- テキストの正規化
- 定義済みのストップワードとカスタムストップワードの削除
- Wordベースまたは文字ベースの Ngram 抽出と SkipGram 抽出 (詳細オプションを使用)
- TF、IDF、または TF-IDF
- L-p ベクター正規化
既定では、特徴は (単語/文字) n-gram/skip-gram で構成され、特徴の数はデータを分析することによって見つかったボキャブラリ サイズと等しくなります。 生成されたトークンを含む追加の列を出力するには、 OutputTokensColumnName を使用します。 特徴の数は、 TextFeaturizingEstimator.Optionsに保持する n グラムの最大数を選択して指定することもできます。ここで、推定器をさらに調整できます。
使用例へのリンクについては、「関連項目」セクションを参照してください。
メソッド
| 名前 | 説明 |
|---|---|
| Fit(IDataView) |
ITransformerをトレーニングして返します。 |
| GetOutputSchema(SchemaShape) |
トランスフォーマーによって生成されるスキーマの SchemaShape を返します。 パイプラインでのスキーマの伝達と検証に使用されます。 |
拡張メソッド
| 名前 | 説明 |
|---|---|
| AppendCacheCheckpoint<TTrans>(IEstimator<TTrans>, IHostEnvironment) |
推定チェーンに "キャッシュ チェックポイント" を追加します。 これにより、ダウンストリーム推定器がキャッシュされたデータに対してトレーニングされるようになります。 複数のデータを受け取るトレーナーの前にキャッシュ チェックポイントを設定すると便利です。 |
| WithOnFitDelegate<TTransformer>(IEstimator<TTransformer>, Action<TTransformer>) |
推定器が指定された場合は、 Fit(IDataView) が呼び出されるとデリゲートを呼び出すラップ オブジェクトを返します。 多くの場合、推定器が適合した内容に関する情報を返すことが重要です。そのため、 Fit(IDataView) メソッドは一般的な ITransformerではなく、明示的に型指定されたオブジェクトを返します。 ただし、同時に、 IEstimator<TTransformer> は多くのオブジェクトを含むパイプラインに形成されることが多いため、トランスフォーマーを取得する推定器がこのチェーンのどこかに埋もれている EstimatorChain<TLastTransformer> を使用して、推定器のチェーンを構築する必要がある場合があります。 このシナリオでは、このメソッドを使用して、fit が呼び出されると呼び出されるデリゲートをアタッチできます。 |