2つの（調整された）r ^ 2の差のテスト

2つの回帰モデルがあり、1つは3つの変数、もう1つは4つの変数があるとします。それぞれが調整済みのr ^ 2を出力します。これを直接比較できます。

明らかに、調整されたr ^ 2が高いモデルのほうが適していますが、2つの調整されたr ^ 2の差をテストしてp値を取得する方法はありますか？

傾斜の違いをテストするためにチョウテストを実行できることは知っていますが、これは分散であるため、それを探しているとは思いません。

編集：1つのモデルに他のモデルの変数のサブセットが含まれているだけではありません。そうでない場合は、おそらく段階的回帰を使用します。

モデル1には、W、X、Y、Zの4つの変数があります。

モデル2では、W、X、および（Y + Z）/ 2の3つの変数があります。

YとZが概念的に類似している場合、モデルはこれらの2つの変数を一緒にグループ化してからモデルに入力することで、より適切な予測を行うことができるという考えです。

whuberが述べたように、これは実際にはネストされたモデルの場合であるため、尤度比検定を適用できます。指定するモデルがまだ明確ではないため、この例ではモデルを書き直します。

したがって、モデル1は次のようになります。

$Y = a_1 + B_{11}(X) + B_{12}(W) + B_{13}(Z) + e_1$

また、モデル2は次のようになります（2による除算は無視しますが、このアクションは質問に影響を与えません）。

$Y = a_2 + B_{21}(X) + B_{22}(W+Z) + e_2$

これは次のように書き換えることができます。

$Y = a_2 + B_{21}(X) + B_{22}(W) + B_{22}(Z)+ e_2$

したがって、モデル2は、とが等しいモデル1の特定のケースです。これら2つのモデル間の尤度比検定を使用して、モデル2と比較してモデル1の近似にp値を割り当てることができます。これを行うには、特にWとZの相関が非常に大きい場合に、十分な理由があります。 （多重共線性）。前に述べたように、2で割るかどうかはモデルの適合性をテストする上で重要ではありませんが、を解釈する方が簡単であれば、は必ず2つの変数。$B_{12}$$B_{13}$$\frac{W+Z}{2}$$W+Z$

モデル適合統計（bill_080で既に言及されているMallowのCPなど、他の例はAICおよびBICです）は、ネストされていないモデルを評価するために頻繁に使用されます。これらの統計は既知の分布（対数尤度のように、カイ2乗）に従っていないため、モデル間の統計の差にp値を与えることはできません。

MallowのCpを見てください。

マロウのCp

ここに関連する質問があります：

特定の基準に従って回帰を最適化する方法はありますか？

アンディW回答の設定を前提として、モデルを推定した場合

$Y = a_3 + B_{31}(X) + B_{32}(W+Z) + B_{33}(Z) + e_3$

関連付けられたテストは、モデル1がモデル2とは異なるというテストを提供します。理由は、がと違い（符号からの一部）であるためです。したがって、それらの差が有意でない場合、WとZをモデル（モデル1）に保持しても、1つの変数（モデル2）でそれらを組み合わせる場合と比較して、説明される分散の点で役立ちません。場合重要である、モデル1が優れています。 B 33 B 12 B 13 B $B_{33}$$B_{33}$$B_{12}$$B_{13}$$B_{33}$