単純な線形回帰における切片と勾配の推定は独立していますか?


9

線形モデルを考える

yi=α+βxi+ϵi

そして、通常の最小二乗法を使用して、傾きと切片のとを推定します。数学的統計のこのリファレンスは、とが独立している(それらの定理の証明において)と述べています。α^β^α^β^

理由がわかりません。以来

α^=y¯β^x¯

これは、とが相関していることを意味しませんか?私はおそらくここで本当に明白な何かを見逃しているでしょう。α^β^

回答:


12

次のサブページで同じサイトに移動します。

https://onlinecourses.science.psu.edu/stat414/node/278

それらは、サンプル平均を中心としたリグレッサを使用した単純な線形回帰モデル指定していることがより明確にわかります。そして、これは彼らが後にとが独立していると言う理由を説明しています。 α^β^

中央に配置されていないリグレッサで係数が推定される場合、それらの共分散は次のようになります。

Cov(α^,β^)=σ2(x¯/Sxx),Sxx=(xi2x¯2)

したがって、を中心とするリグレッサを使用し、それをと呼ぶと、上記の共分散式は、中心となるリグレッサのサンプル平均、ゼロになります。それもゼロになり、係数推定器は独立します。x¯x~x¯~

この投稿には、単純な線形回帰OLS代数の詳細が含まれています。


代わりに使用を検討します。それ以外の場合、とを人口対応物で置き換える必要があると感じてい。それとも私は間違っていますか?Cov(α^,β^|X)Cov(α^,β^)x¯Sxx
Richard Hardy
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.