回帰モデルのエラーを概念化する方法は？

私はデータ分析のクラスに参加していて、根強いアイデアが揺さぶられています。つまり、エラー（イプシロン）やその他の種類の分散は、グループ（サンプルまたは母集団全体）にのみ（そう考えると）適用されるという考えです。現在、回帰の仮定の1つは、分散が「すべての個人で同じ」であるということです。これは何となくショックです。常に一定であると想定されたのは、Xのすべての値にわたるYの分散であると常に思っていました。

私は教授と話をしました、彼は私たちに回帰を行うとき、私たちはモデルが真実であると仮定していると私に言いました。それが難しい部分だと思います。私にとって、エラー項（イプシロン）は常に、「私たちが知らない要素で、結果変数に影響を与える可能性のある要素に加えて、いくつかの測定エラー」のようなものを意味していました。クラスの教え方には、「その他」のようなものはありません。私たちのモデルは真実で完全であると想定されています。つまり、すべての残差は測定誤差の結果として考える必要があります（したがって、20回測定すると、20回測定すると同じ分散が生じることが予想されます）。

どこかおかしいと感じました。これについて専門家の意見を聞きたいのですが...概念的に言えば、エラーの用語が何であるかについて解釈の余地はありますか？

結果のy値に影響を与える個人の側面がある場合、それらの側面に到達する方法がいくつかあります（その場合、それらは予測子xの一部である必要があります）、またはこれに到達する方法はありません。情報。

この情報を取得する方法がなく、個人のy値を繰り返し測定する方法がない場合、それは本当に問題ではありません。yを繰り返し測定でき、データセットに一部の個人の繰り返し測定が実際に含まれている場合、統計理論は測定誤差/残差の独立性を想定しているため、手に潜在的な問題があります。

たとえば、フォームのモデルに適合させようとしていると仮定します。

$y=\beta_0+\beta_1 x$

個人ごとに

$yind=100+10x+z$

ここで、zは個人に依存し、通常は平均0と標準偏差10で分布します。個人の繰り返し測定ごとに、

$ymeas=100+10x+z+e$

$e$

これを次のようにモデル化してみることができます

$y=\beta_0+\beta_1 x+\epsilon$

$\epsilon$

$\sigma=\sqrt{10^2+0.1^2}=\sqrt{100.01}$

個人ごとに測定値が1つしかない限り、問題ありません。ただし、同じ個人に対して複数の測定がある場合、残差は独立しなくなります。

$\beta_0=100$$\beta_1=10$$\chi^2$

「エラー」は、「現在の情報では予測できない予測の一部」として最もよく説明されていると思います。母集団とサンプルの関係で考えようとすると、概念的な問題が発生します（とにかく私にとってはそうです）。また、エラーをある分布から引き出された「純粋にランダムな」ものと見なすのと同じです。予測と「予測可能性」の観点から考えることは、私にはずっと理にかなっています。

$p(e_{1},\dots,e_{n})$$E(\frac{1}{n}\sum_{i=1}^{n}e_{i}^2)=\sigma^2$$\sigma^2$$\sigma$

$n$

ここでは、単純な線形回帰を説明するための非常に有用なリンクです：http://www.dangoldstein.com/dsn/archives/2006/03/every_wonder_ho.html多分それは「エラー」という概念を把握することができます。

FD

教授のこれの定式化には同意しません。あなたが言うように、分散が各個人で同じであるという考えは、誤差項が測定誤差のみを表すことを意味します。これは通常、基本的な重回帰モデルの構築方法ではありません。また、あなたが言うように、分散はグループに対して定義されます（個々の被験者のグループであるか、測定のグループであるかにかかわらず）。繰り返し測定しない限り、個人レベルでは適用されません。

モデルは、予測子と相関する変数からの影響を誤差項に含めないようにする必要があります。誤差項は予測子から独立していると想定されています。いくつかの相関変数が省略されている場合、バイアスされた係数が表示されます（これは省略された変数のバイアスと呼ばれます）。