Rの段階的回帰–クリティカルp値

step()段階的回帰のR の関数で使用される重要なp値は何ですか？0.15と仮定していますが、私の仮定は正しいですか？重要なp値を変更するにはどうすればよいですか？

r regression p-value stepwise-regression

— ジェイソン・サミュエルズ
ソース

Rの「ステップ」機能はAICベースです。

— マイケルM

段階的なモデル選択ルーチンをまったく使用しないことをお勧めします。その理由を理解するために、ここでの私の答えを読むのに役立つかもしれません：自動モデル選択のアルゴリズム。

— GUNG -復活モニカ

@MichaelMayerのコメントDescriptionに加えて、ヘルプページの一部に、?step全体として：AICによる式ベースのモデルを選択します。

— ステファンKolassa

他の質問に対するコメントで説明したように、stepp値ではなくAICを使用します。

ただし、一度に1つの変数に対して、AIC は 0.15（より正確には0.1573）のp値を使用することに対応します。

1つの変数が異なる2つのモデルを比較することを検討してください。モデル（小さいモデル）および（大きいモデル）を呼び出し、それぞれのそれぞれおよびます。 $\cal{M}_0$ $\cal{M}_1$ $\text{AIC}_0$ $\text{AIC}_1$

AIC基準を使用すると、場合、より大きなモデルを使用します。これは、ケース場合であろう。 $\text{AIC}_1<\text{AIC}_0$ $-2\log\cal{L_0}-(-2\log\cal{L_1})>2$

しかし、これは尤度比検定の統計値にすぎません。統計は、上側超える場合Wilksの定理から、我々はヌルを拒否するだろうの分位。我々はより小さなモデルと大きく間で選択するために仮説検定を使用するのであれば、我々はときより大きなモデルを選択。 $\alpha$ $\chi^2_1$ $-2\log\cal{L_0}-(-2\log\cal{L_1})>C_\alpha$

$2$ $\chi^2_1$ $1-0.843=0.157$ $15.7\%$

では、どのように変更しますか？

簡単です。kパラメーターをstep2から別のものに変更します。代わりに10％が必要ですか？2.7にする：

qchisq(0.10,1,lower.tail=FALSE)
[1] 2.705543

2.5％が必要ですか？セットk=5：

qchisq(0.025,1,lower.tail=FALSE)
[1] 5.023886

等々。

ただし、それはあなたの質問を解決しますが、他の質問に対するフランク・ハレルの答えに細心の注意を払い、ここで段階的回帰に関連する他の質問に関する非常に多くの統計学者からの応答を検索することをお勧めします通常、段階的な手順を避けるために一貫して。

— Glen_b -Reinstate Monica
ソース

いい説明。これが通常の回帰t検定のp値にほぼ当てはまるかどうか知っていますか？

— ベンオゴレク14

α = 0.05

$\alpha=0.05$

（ctd）... stepwiseの多数の深刻な問題。その他には、偏った推定値や非常に小さい標準誤差が含まれます。

— Glen_b -Reinstateモニカ

段階的なモデル選択の問題を一時的に脇に置いて、私はより小さいAIC => .1573 p値ルールを一般化することに興味があります。説明する尤度比のp値は問題ありませんが、Rのlmなどのルーチンでは、timate / std.errはt分布と比較されています。これは別のテストであり、.1573の結果がほぼ保持されるかどうか疑問に思っていました。

— ベンオゴレク14

ベン：はい、0.1573は漸近的です（通常に基づいています;ほぼ正しいだけです）。私はあなたがstepAICに対応するp値を計算できると思う

t

$t$ 、それはあなたの問題の自由度にのみ依存するためです（例えば、200 dfで0.1579だと思います）。その結果、希望するものをバックアウトできるはずです

k

$k$ 。@Nickそれが一番おもしろい。一見したところ、計算には直接的な関係はないと思います。計算量は同じですが、理由は異なります。

— グレン_b-モニカを復元14

上記のように、stepR の関数はAIC基準に基づいています。しかし、p値では、入るアルファと出るアルファを意味すると思います。あなたにできることはstepwise、Paul Rubinによって書かれたここで利用可能な関数を使うことです。ご覧のとおり、alpha.to.enterおよびalpha.to.leaveの引数は変更可能です。この関数はF検定または同等のt検定を使用してモデルを選択することに注意してください。さらに、引数を適切に定義すると、ステップワイズ回帰だけでなく、前方選択と後方消去も処理できます。

— スタット
ソース