「統計学習の要素」の線形射影を理解する

第2章の「統計的学習の要素」（「線形モデルと最小二乗;ページ番号：12」）には、次のように書かれています。

（p + 1）次元の入出力空間では、（X、Y）は超平面を表します。定数がXに含まれている場合、超平面は原点を含み、部分空間です。そうでない場合は、Y軸を点（0、$\beta$）。

「定数が...の場合、（0、$\beta$） "。助けてください。超平面はY軸を（0、$\beta$）どちらの場合でも、それは正しいですか？

以下の答えは多少は役に立ちましたが、もっと具体的な答えを探しています。私はそれが$1$ に含まれています $X$、それは起源を含まないでしょう、しかしそれからどのように $(X,Y)$起源を含むでしょうか？それはの値に依存すべきではありません$\beta$？傍受する場合$\beta_0$ ではありません $0$、 $(X,Y)$ 私の理解では、起源を含めるべきではありませんか？

1入力ベクトルに定数を含めることは、バイアス（Y切片について考える）を含める一般的なトリックですが、式のすべての項を対称に保ちます。$\beta X$ の代わりに $\beta_0 + \beta X$ どこにでも。

これを行うと、超平面が正しい $Y = \beta X$ 原点はのベクトルなので、原点を含みます $0$ 値とそれを乗算 $\beta$ 価値を与える $0$。

ただし、入力ベクトルには常に最初の要素が $1$; したがって、それらには原点が含まれることはなく、寸法が1つ少ない小さな超平面に配置されます。

これを線で考えると視覚化できます $Y=mx+q$ 紙の上に（2次元）。バイアスを含める場合の対応する超平面$q$ あなたのベクトルは $X = [x, x_0=1]$ そしてあなたの係数 $\beta = [m, q]$。3次元では、これは原点を通る平面であり、平面をインターセプトします$x_0=1$ 入力を配置できるラインを作成します。

これを理解するのを助けるために、私は非常に単純なケースを視覚化しました。

1次元の問題（p = 1）があるため、単一の特徴（入力変数）があるとします。 $X_1$ 単一の出力変数を予測する $Y$。すでに切片を見つけたとしましょう$\beta_0 = 5$ と係数 $\beta_1 = 2$ 入力変数 $X_1$。

線形モデルは次のようになります。 $\hat{Y} = \beta_0 + \beta_1 \times X_1$。

したがって、明らかな表現は、この場合（2d）の（p + 1）次元空間の超平面（線）になります。

別の表現は、別の変数を追加することです $X_0$ これにより、次の方程式が導かれます。 $\hat{Y} = \beta_0 \times X_0 + \beta_1 \times X_1$。

実際には、 $X_0$定数と1に等しくなりますが、まだ固定されていないと仮定しましょう。その場合、次のように超平面を持つ3Dグラフをプロットできます。

最後に知っているのは $X_0 = 1$ 以前可能だったプロットに正確に対応する、この超平面からの唯一の有効な投影を赤い破線で強調表示できます。