標準化されたベータを元の変数に戻す

これはおそらく非常に単純な質問だと思いますが、検索した後、探している答えが見つかりません。

ベータのリッジ推定値を計算するために変数を標準化する必要がある（リッジ回帰）必要があるという問題があります。

次に、これらを元の変数スケールに戻す必要があります。

しかし、どうすればよいですか？

私は二変量のケースの式を見つけました

β^{*} = \hat{β} \frac{S_{x}}{S_{y}} .

$\beta^* = \hat\beta \frac{S_x}{S_y} \>.$

これは、D。グジャラート語、Basic Econometrics、175ページ、式（6.3.8）で与えられました。

ここで、は標準化された変数で実行された回帰からの推定量であり、は同じ推定量を元のスケールに変換して戻し、はの標本標準偏差、は標本標準偏差です。 $\beta^*$ $\hat\beta$ $S_y$ $S_x$

残念ながら、この本では、重回帰の類似の結果については説明していません。

また、私は二変量のケースを理解しているのかわかりませんか？単純な代数操作により、元のスケールでの式が得られます。 $\hat\beta$

\hat{β} = β^{*} \frac{S_{y}}{S_{x}}

$\hat\beta=\beta^* \frac{S_y}{S_x}$

既にによってデフレートされている変数で計算されたが、再度変換するためにによってデフレートするますか？（さらに、平均値が追加されないのはなぜですか？） $\hat\beta$ $S_x$ $S_x$

では、結果を理解できるように、多変量のケースでこれをどのように導関数を使用して理想的に説明することができますか？

— バズ
ソース

標準化された変数を使用する回帰モデルの場合、回帰直線には次の形式を想定します

E [Y] = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j},

$\mathbb E[Y] =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j},$

ここで、はj番目の（標準化された）リグレッサであり、からサンプル平均を差し引き、サンプル標準偏差除算することにより生成され： $z_{j}$ $x_j$ $\bar x_j$ $S_j$

z_{j} = \frac{x_{j} - {\bar{x}}_{j}}{S_{j}}

$z_j = \frac{x_j - \bar{x}_j}{S_j}$

標準化されたリグレッサを使用して回帰を実行すると、近似された回帰直線が得られます。

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} z_{j}

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}z_{j}$

ここで、標準化されていない予測子の回帰係数を見つけたいと思います。我々は持っています

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}})

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right)$

並べ替えて、この式は次のように書くことができます

\hat{Y} = ({\hat{β}}_{0} - \sum_{j = 1}^{k} {\hat{β}}_{j} \frac{{\bar{x}}_{j}}{S_{j}}) + \sum_{j = 1}^{k} (\frac{{\hat{β}}_{j}}{S_{j}}) x_{j}

$\hat Y = \left( \hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j} \right) + \sum_{j=1}^k \left(\frac{\hat \beta_j}{S_j}\right) x_j$

ご覧のように、非変換変数を使用した回帰の切片は、によって与えられます。番目の予測子の回帰係数はです。 $\hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j}$ $j$ $\frac{\hat \beta_j}{S_j}$

提示されたケースでは、予測変数のみが標準化されていると想定しました。応答変数も標準化する場合、共変量係数を元のスケールに変換し直すには、指定した参照からの式を使用します。我々は持っています：

\frac{E [Y] - \hat{y}}{S_{y}} = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j}

$\frac{\mathbb E[Y] - \hat y}{S_y} =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j}$

回帰を実行すると、当てはめられた回帰方程式が得られます

{\hat{Y}}_{s c a l e d} = \frac{{\hat{Y}}_{u n s c a l e d} - \bar{y}}{S_{y}} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}}),

$\hat Y_{scaled} = \frac{\hat Y_{unscaled} - \bar y}{S_y} = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right),$

ここで、近似値は標準化された応答のスケールにあります。それらをスケール解除し、変換されていないモデルの係数推定値を復元するには、方程式にを乗算し、標本平均を反対側に移動します。 $S_y$ $y$

{\hat{Y}}_{u n s c a l e d} = {\hat{β}}_{0} S_{y} + \bar{y} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{S_{y}}{S_{j}}) (x_{j} - {\bar{x}}_{j}) .

$\hat Y_{unscaled} = \hat \beta_0 S_y + \bar y +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{S_y}{S_j}\right) (x_j - \bar{x}_j).$

したがって、応答も予測子も標準化されていないモデルに対応する切片は、、対象のモデルの共変量係数は、各係数にを乗算することで取得できます。 $\hat \beta_0 S_y + \bar y - \sum_{j=1}^k \hat \beta_j \frac{S_y}{S_j}\bar x_j$ $S_y / S_j$

— フィリップ・バークハート
ソース