関数

機能を考える

$r (x) = E (Y ∣ X = x)$ $r(x) = \mathbb{E}(Y \mid X = x)$

これは私が使っている教科書では回帰関数と呼ばれています。この関数と古典的な線形回帰モデルの関係を理解しようとしています。

したがって、私たちが書くことができるのは定理*であることを知っています

Y = r (X) + ϵ

$Y = r(X) + \epsilon$

いくつかの確率変数 st。 $\epsilon$ $\mathbb{E}(\epsilon) = 0$

ここで、

$Y = β_{0} + β_{1} X + ϵ$ $Y = \beta_0 + \beta_1 X + \epsilon$

これは、古典的な1次元回帰関数です（とが残差二乗和を最小化すると仮定）。 $\beta_0$ $\beta_1$

質問：では、が上記のように定義されている場合、 $Y$

r (X) = E (Y ∣ X) = (β_{0} + β_{1} X) ?

$r(X) = \mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X)?$

そして、これが関数が「回帰関数」と呼ばれる理由ですか？ $\mathbb{E}(Y \mid X)$

編集：私が利用している定理は次のとおりです（All of Statistics pg。89 から）：

回帰モデルは、

$Y = r (X) + ϵ$ $Y = r(X) + \epsilon$
ここで、です。この方法でいつでも回帰モデルを書き直すことができます。これを確認するには、を定義し、したがって定義します。さらに、。 $\mathbb{E}(\epsilon) = 0$ $\epsilon = Y - r(X)$ $Y = Y + r(X) - r(X) = r(X) + \epsilon$ $\mathbb{E}(\epsilon) = \mathbb{E}\mathbb{E}(\epsilon \mid X) = \mathbb{E}(\mathbb{E}(Y - r(X)) \mid X) = \mathbb{E}(\mathbb{E} ( Y \mid X) - r(X)) = \mathbb{E}(r(X) - r(X)) = 0$

regression linear-model

— ジョージ
ソース

この関係は、線形回帰モデルが、が観測されたいくつかのXの線形関数であるという主張とまったく同じです。当然のことながら、この主張は真実である必要はありませんが、への近似としては、より良くも悪くもなり得ます。「ほとんど無害な計量経済学」の「回帰を意味のあるものにする」と呼ばれる章は良い議論です。

r

$r$

r

$r$

— 共役

それともあなたが求めていたものを逃したのですか？

— 2016

関連の答えをチェック：stats.stackexchange.com/questions/173660/...

— ティム

質問の要約：

与えられた場合、は数学的な定理ですか？ $Y = \beta_0 + \beta_1 X + \varepsilon$ $r(X) = \mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X)$

はい、期待の基本的な特性によって：

\begin{aligned} E （ Y | バツ ） & = E （ β_{0} + β_{1} バツ + ε ） \\ = E （ β_{0} ） + E （ β_{1} バツ ） + E （ ε ） & （期待の直線性） \\ = β_{0} + β_{1} バツ + 0 & （それに注意 バツ ここで一定です \\ 私たちはそれに条件付けたからです。） \\ = β_{0} + β_{1} バツ \end{aligned}

$\begin{align} \operatorname{E}(Y\mid X) & = \operatorname{E}(\beta_0 + \beta_1 X + \varepsilon) \\[6pt] & = \operatorname{E}(\beta_0) + \operatorname{E}(\beta_1 X) + \operatorname{E}(\varepsilon) & & \text{(linearity of expectation)} \\[6pt] & = \beta_0 + \beta_1 X + 0 & & \text{(Noting that $X$ is constant here} \\[-2pt] & & & \quad \text{because we conditioned on it.)} \\[6pt] & = \beta_0 + \beta_1 X \end{align}$

回帰と呼ばれている回帰の歴史的な理由は、「平均への回帰」効果に気づくゴールトンに関係しています-最初は親の種子サイズと比較した子の種子サイズを含む植物の実験で。両方の変数の平均シードサイズによる関係は、勾配が未満になります（この勾配は、線形回帰と呼ばれるもので推定できます）。勾配が小さいほど、「回帰」効果が強くなります。この問題は、リンクトpdfのGaltonで、両親の平均身長と比較した（大人としての）子供の身長によって示されています（女性は、男性に匹敵するように一定の係数で拡大されています）。3〜5ページの図は、観察された内容の一部を示しています。 $1$ $8\%$

したがって、この「平均への回帰」のサイズを推定する試みは、線形回帰と呼ばれるようになったものによって得られます。もちろん、特別なことは何もありません。平均への回帰は、当初推測されていたような生物学的な「平凡へのドライブ」ではありませんが、基本的には相関関係と同じ意味での状況の数学のかなり単純な結果です。常にと間。 $-1$ $1$

— Glen_b-モニカの復活
ソース

\ qquadの粗い使用をMathJaxの「align」の適切な使用に加えて、他のいくつかのMathJaxの詳細に置き換えました。編集のピアレビューを待っています。

$\qquad$

— マイケルハーディ

@Michael私はalignを知っており、何度も使用していますが、この場合の編集の実際の利点は何ですか？中央ではなく左揃えにして、コメントが1行に収まるようにスペースを空けておき、MahJaxが残している重いテキストではなく、通常のマークアップの薄いテキストを使用するようにしました。現在の結果は、私が実際に求めていた外観とはもはや一致しないものです。「粗雑」ではなく、意図的に選択されました。私が必要とするよりも少ない労力で私が望んでいたことを達成する方法があれば、私はすべて耳を貸します。

— Glen_b-2016

はい、すべてのテイストが一致しているとは限りません

\dots

$\,\ldots\qquad$

— マイケルハーディ

設計どおりの外観は、記事や本にとって理想的だと思いますが、少なくともこのようなフォーラムで私が最良だと思うものを常に反映しているとは限りません。私はこの問題（および私が頻繁に回避しようとするサイトの外観の他の多くの側面）の趣味が標準と異なる可能性があることを認識しているので、そのままにしておきますが、続行することを約束しません他の方法を実行する方が簡単だと思われるときに、私がやりたいことを実行するように調整してください。

— Glen_b-モニカを復活させる

X

$X$

Y

$Y$

E (Y ∣ X) = (β_{0} + β_{1} X) + ϵ

$\mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X) + \epsilon$

β_{0}, β_{1}

$\beta_0, \beta_1$