線形回帰の非線形性の正式なテストはありますか？

ロジスティック回帰にはBox-Tidwellがありますが、線形回帰ではそのようなことは何も知りません。私はこれをグラフィカルな機能として探すために部分残差プロットを使用しますが、正式なテストを見つけたいと思っています（正直に言うと、これの正式なテストを実行できるとは思えませんが、私は間違っている可能性があります）。

regression diagnostic

— user54285
ソース

関連：stats.stackexchange.com/questions/70009/…。

— StubbornAtom

モデル場合、正式なテストではありませんすべての対？これは、ANOVA F検定に似ています。

y = β_{0} + \sum_{j} β_{j} x_{j} + ε

$y=\beta_0+\sum_j\beta_jx_j+\varepsilon$

H_{0} : β_{j} = 0

$H_0:\beta_j=0$

j

$j$

H_{1} : not H_{0}

$H_1: \text{not }H_0$

— StubbornAtom

回答:

Box-Tidwellは、通常の最小二乗回帰モデル用に開発されました。

したがって、これにBox-Tidwellを使用する傾向がある場合は、それが実際に設計されています。

可能なアプローチはこれだけではありませんが、すでにおなじみのアプローチのように思えます。

ただし、正式なテストが適切であるとは確信していません（ほとんどの場合、使用されています）。これは通常、間違った質問に答えるものですが、これまで見てきた診断プロットは、役に立つ質問に答えるのに近づいています。[私は、回帰仮定の他の多くのテストについて同様の意見を持っています]

— Glen_b-モニカの復活
ソース

通常は別の仕様にしたほうがよいでしょうか。それはよい質問ですが、非常に具体的な場合を除いて、取り組むのが難しいものです。（Punは実際には意図されていませんが、ケースに当てはまるようです。）

— Nick Cox

@Glen_bあなたが言及する「間違った」および「役に立つ」質問を述べてもらえますか？ありがとう。

— rolando2

テストされている仮説は正確な線形性です-これはほとんど決して当てはまりません。拒絶に失敗した場合、私たちが学んだことは、サンプルが小さすぎて非線形性を検出できないことであり、その効果が小さいということではありませんでした。拒絶しても、それ以上の利益はありません。すでに知っていることを学びましたが、非線形性が小さい場合は、ほとんど影響がありません。このテストでは、非線形性が実際に重要であるかどうかはまだわかりません。私たちが知る必要があるのは、私たちの非線形性が私たちの推論に対してどの程度の違いをもたらすかです。

— Glen_b

問題の母集団全体を正常に処理するため、私が抱えている問題は、何千ものデータポイントがあることです。それらは残差の大きな塊のように見える傾向があるため、回帰のパターンを見分けるのは困難です。彼らはあなたがtext.booksで見るものをあまりよく表現していません。

— user54285

1.大きなサンプルの場合、それは（すぐに答えられる）質問（そのような状況で残差プロットの非線形性をどのように見るか）の基礎を形成します。理想的には、難しいサンプルプロットを追加します。2.関心のあるすべての母集団に適合している場合、テストの概念は枠を超えています（ランダムなサンプルはありません！）。あなたは文字通り推論したいすべてのものを持っています、ちょうどあなたが必要なものを計算してください。

— Glen_b

最良の正式なテストは、線形性の仮定を緩和し、非線形性を削除するとYの説明された変動が損なわれるかどうかを確認することから得られます。たとえば、回帰スプラインを使用してXを展開し、非線形コンポーネントをテストできます。私のRMSコースノートで詳細を説明します。

ただし、非線形性の可能性を考慮に入れたら、非線形項を削除して統計的推論を歪めます。回帰の実際の分子の自由度は、モデルを与える機会の数であり、非線形項を考慮する必要があります。したがって、全体として最良のアドバイスは、線形であることが知られていない効果を非線形にして、それを使って実行できるようにすることです。これにより、信頼区間カバレッジなどが保持されます。

— フランク・ハレル
ソース

（+1）リンクは現在、「ページが見つかりません」というエラーにつながります。

— COOLSerdash

「したがって、全体として最良のアドバイスは、線形であることが知られていない効果を非線形にして、それを使って実行できるようにすることです。これにより、信頼区間のカバレッジが維持されます。」あなたがそれをどのように行うかはわかりませんが、いずれにしても、私が作業している領域では、十分に発達した理論はありません（高度な統計分析の方法はほとんどありません）。

— user54285

リンクのURLが修正されました

— フランクハレル

非線形回帰（たとえば、GAMのようなスプラインモデル）を近似し、それをAICまたは尤度比検定を使用して線形モデルと比較します。これは、非線形性をテストするシンプルで直感的な方法です。テストが拒否した場合、またはAICがGAMを好む場合は、非線形性があると結論付けます。

— ゲームモデル
ソース

これは興味深い提案のgammodelですが、質問があります。私のモデルには多くの、たとえば30の予測子があります。AICがモデル全体について説明します。モデルの個々の変数のどれが実際に非線形であるかをどのようにして知ることができますか？

— user54285