「段階的回帰」はどのように機能しますか？

次のRコードを使用して、プロビットモデルを適合させました。

p1 <- glm(natijeh ~ ., family=binomial(probit), data=data1)
stepwise(p1, direction='backward/forward', criterion='BIC')

私は何をしstepwise、backward/forward正確に行い、変数をどのように選択するのか知りたいですか？

段階的選択の原則

1. 必要なすべての変数を使用してモデルを適合させます。これはあなたの現在の最高のモデルです。
2. あなたは一つの変数を削除（または現在の最良のモデルで使用されていない変数のうち、1を追加）、およびそれぞれのために、あなたは新しいモデルに合わせて、あなたはによると、各超えると、元のものとそれらを比較BIC（または任意のAICなどの他の基準）。別の「現在のベストモデル」を取得します。

BICの減少がなくなるまで2.を繰り返します。局所的な最小BICしかありません。つまり、変数のサブセットの可能なすべての選択肢の中から最適なモデルを取得できない場合があります。とにかく、通常はそれらが多すぎるため、これはあまり作業をせずに少し最適化する方法です。

ウィキペディアのステップワイズ回帰とモデル選択も参照してください。

ステップワイズ回帰は基本的に、指定された基準に基づいて一度に1つずつ共変量を追加/削除することにより、回帰モデルに適合します（上の例では、基準はBICに基づいています）。

forwardを指定することRで、最も単純なモデル（つまり、1つの共変量）から始めて、一度に1つの共変量を追加し、モデルのBICに改善をもたらすもののみを維持することを伝えます。

後方を指定することRで、完全なモデル（つまり、すべての共変量を含むモデル）から始めて、共変量を一度に1つずつ削除して、BICを改善することを伝えています。

ステップワイズ回帰は、最適なモデル選択手順ではないため、非常に危険な統計手順になる可能性があります。この方法では、多重比較などの問題から保護されないため、モデルの選択が非常に不十分になる可能性があります。