不適切な線形モデルはいつロバストに美しくなりますか?


9

質問:

  • 不適切な線形モデルは実際に使用されていますか、それとも科学雑誌で時々説明されているある種の好奇心ですか?もしそうなら、それらはどの領域で使用されていますか?
  • そのようなモデルの他の例はありますか?
  • 最後に、そのようなモデルのOLSから取得した標準誤差、値、R 2などは正しいのでしょうか、それとも何らかの方法で修正する必要がありますか?pR2

背景:不適切な線形モデルは、文献に随時説明されています。一般に、そのようなモデルは次のように説明できます。

y=a+biwixi+ε

回帰との違いは、はモデルで推定された係数ではなくwj

  • 各変数等しい(単位加重回帰)、wi=1
  • 相関に基づく(Dana and Dawes、2004)、wi=ρ(y,xi)
  • ランダムに選択された(Dawes、1979)、
  • 1y1y

Z

y=a+bv+ε

v=wix

参考文献:
Dawes、Robyn M.(1979)。意思決定における不適切な線形モデルの堅牢な美しさアメリカの心理学者、 34、571-582。

Graefe、A.(2015)。均等に重み付けされた予測子を使用して予測を改善します。Journal of Business Research、68(8)、1792-1799。

ウェイナー、ハワード(1976)。線形モデルの係数の推定:それは決して気にしないわけではありませんPsychological Bulletin 83(2)、213。

Dana、J.およびDawes、RM(2004)。社会科学予測のための回帰の単純な代替の優位性Journal of Educational and Behavioral Statistics、29(3)、317-331。


3
これらのモデルから得られた統計はどのような意味で「正しくない」のでしょうか?
whuber

1
wibywi

1
それは情報に基づくコメントではありませんでした-論文はまだ私の「読む」ための山にあります。私はただ疑問に思いました:-「なぜ「不適切」なのですか?」予測子が他の変数の線形結合であることは珍しいことではありません-複数の測定値の平均、主成分スコア、別の回帰からの予測、指数的に平滑化された時系列からのレベル、または十分に確立されたからの計算値またはアドホックインデックス。応答から重みを推定しないことは自由度を節約し、より小さなサンプルサイズでの過剰適合を回避するのに役立ちます。
Scortchi-モニカの回復

1
xiwixi

4
wi=ρ(y,xi)ρ

回答:


1

実際には、これは想定された共分散構造の組み合わせであるように思えます。言い換えれば、これはベイジアン事前モデリングの一種です。

|β^|<|β|R^2<R2

私の個人的な経験では、ベイズアプローチよりも優れたモデリングを使用することです。パラメータの変換、他の基準の使用、および/または非線形法の使用。つまり、問題の物理学と手法が適切に調査および調整されると、F統計、決定係数などが低下するのではなく、改善します。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.