モデルの検証前または検証内で機能の正規化を実行しますか？

機械学習の一般的なグッドプラクティスは、予測変数の特徴の正規化またはデータの標準化を行うことです。つまり、データを中心に減算し、平均値を分散（または標準偏差）で割って正規化します。自己封じ込めと私の理解のために、これを行って主に2つのことを達成します。

1. 数値の安定性のために、余分な小さなモデルの重みを避けます。
2. 共役勾配などの最適化アルゴリズムの迅速な収束を確保し、1つの予測子次元の大きさが他の予測子次元よりも大きい場合、収束が遅くならないようにします。

通常、データはトレーニング、検証、テストセットに分割されます。文献では、通常、特徴の正規化を行うには、予測変数のセット全体の平均と分散（または標準偏差）を使用することがわかります。ここで見た大きな欠点は、それを行うと、実際にはトレーニング予測変数に将来の情報、つまり平均と分散に含まれる将来の情報が導入されることです。

したがって、トレーニングデータの正規化を行い、平均と分散を保存します。次に、トレーニング平均と分散を使用して、検証およびテストデータセットの予測変数に特徴の正規化を適用します。これに根本的な欠陥はありますか？誰もがより良い代替案を推奨できますか？

あなたのアプローチは完全に正しいです。多くの場合、データ変換は「前処理」として過小評価されますが、モデルのパフォーマンスを最適化するための変換は、モデル構築プロセスの一部として扱うことができるため、十分に強調することはできません。

推論：モデルは、一般的にモデルが構築された時点では利用できない未表示のデータに適用されます。検証プロセス（データ分割を含む）はこれをシミュレートします。そのため、モデルの品質（および一般化力）の適切な推定値を取得するには、正規化パラメーター（平均および分散）の計算をトレーニングセットに制限する必要があります。

なぜこれが常に文学で行われるわけではないのか推測することができます。1つの引数は、平均と分散の計算が小さなデータの変動にそれほど敏感ではないということです（ただし、これは基本サンプルサイズが十分に大きく、データが極端な外れ値なしでほぼ​​正規分布している場合にのみ当てはまります）。

機能の正規化とは、同じスケールで異なる機能を作成することです。スケーリングは、1つ以上のフィーチャが他のフィーチャよりもはるかに大きな値をとるときに必要な多くの余分な反復を回避することにより、勾配降下を高速化します（スケーリングなしでは、視覚化されるコスト関数は大きな非対称性を示します）。

テストデータが来るときに、トレーニングセットの平均値と変数を使用することは理にかなっていると思います。しかし、データサイズが非常に大きい場合、トレーニングセットと検証セットの両方をほぼ正規分布と見なすことができるため、平均値と変数をほぼ共有します。

あなたが説明した方法論は、他の人が言ったように健全です。トレーニングセットの機能で実行するのとまったく同じ変換をテストセットの機能で実行する必要があります。

機能を正規化するもう1つの理由は、特定の変数のスケールの違いに敏感な特定のプロセスのパフォーマンスを向上させることであると付け加える価値があると思います。たとえば、主成分分析（PCA）は分散の最大割合をキャプチャすることを目的としており、その結果、特徴の正規化が最初に実行されない場合、最大分散を示す変数により多くの重みを与えます。