データの正規化に関連する混乱

私は線形回帰モデルを学ぼうとしています。ただし、データの正規化に関して混乱しています。特徴/予測子をゼロ平均および単位分散に正規化しました。ターゲットについても同じようにする必要がありますか？もしそうなら、なぜですか？

regression multiple-regression normalization

なぜ機能/予測子を正規化したのですか？

— ピーターフロム-モニカの回復

ところで、「標準化」はそのためのより良い用語だと思います。

— Scortchi-モニカの回復

回答:

線形回帰でターゲットを正規化することは重要ではありません。線形回帰では、あなたのフィットは次の形式になります予測子が中央にある場合、定数項は常に平均になります。あなたは中央のであれば回帰を実行する前に、あなただけ取得します、しかし、すべてのあなたの他の係数は変更されません。

{\hat{y}}_{私} = a_{0} + a \cdot {バツ}_{私} 。

$\hat{y}_i = a_0 + a \cdot x_i.$

x_{i}

$x_i$

a_{0}

$a_0$

y_{i}

$y_i$

y_{i}

$y_i$

a_{0} = 0

$a_0 = 0$

（とはいえ、現在行っているように、予測子を正規化することは良い考えです。）

— ステファン・ウェイガー
ソース

なぜ予測子を正規化するのが良い考えなのですか？

— Scortchi-モニカの回復

a_{0}

$a_0$

@Scortchi予測子を正規化する必要はありませんが、回帰からの係数の解釈を容易にすることができます。正規化後、大きな係数は重要な予測子に対応します。また、正規化を行わないと、相互作用項の係数が非常に誤解を招く可能性があります。そうは言っても、正規化はモデルから得られる予測に影響を与えないので、正規化が重要なのは、回帰の係数を解釈する場合のみです。

— Stefan Wager 2013

@ user34790数学はpmean.com/10/LeastSquares.htmlで計算されています

— Stefan Wager

理論的には問題ないと思いますが、数値的には重要です。この答えを見てください。

https://stats.stackexchange.com/a/111997/57240

— アビナフ
ソース