ロジスティック回帰（Cox＆SnellまたはNagelkerke）について報告するのはどの擬似尺度ですか？

SPSSロジスティック回帰モデルの出力があります。出力は、モデルの適合のための2つの対策を報告し、Cox & SnellそしてNagelkerke。

それで、経験則として、これらの$R^²$測定値のどれがモデルに適合すると報告しますか？

または、これらの適合指数のどれがジャーナルで通常報告されますか？

---

ある程度の背景：回帰は、いくつかの環境変数（例：急峻さ、植生被覆など）から鳥（アカゲラ）の有無を予測しようとします。残念ながら、鳥はあまり頻繁に出現しなかったため（35ヒットから468ミス）、回帰のパフォーマンスはかなり低下しました。Cox＆Snellは.09、Nagelkerke、.23です。

主題は、環境科学または生態学です。

通常、をまったく報告しません。HosmerとLemeshowは、教科書のApplied Logistic Regression（2nd Ed。）で、その理由を説明しています。$R^2$

一般に、[メジャー]は、適合モデルの予測値と[ベースモデル]の予測値のさまざまな比較、データなしまたはインターセプトのみのモデルに基づいており、その結果、適合度を評価しません-フィット。適合の真の尺度は、適合モデルの観測値と予測値の比較に厳密に基づいたものであると考えています。$R^2$

[p。164.]

「擬似」統計であるさまざまなMLバージョンについては、「日常的に使用することはお勧めできません。直観的に説明するのは簡単ではありません」と述べていますが、ソフトウェアパッケージが報告します。$R^2$$R^2$

彼らはこの議論を次のように書き終えています。

... ロジスティック回帰の低い値は標準であり、線形回帰値を見ることに慣れている聴衆にそれらの値を報告するとき、これは問題を提示します。...したがって、[本文中の例を参照して議論する] 適合ロジスティックモデルの結果を使用して値を定期的に公開することはお勧めしません。ただし、これらは、競合モデルを評価するための統計としてモデル構築状態で役立つ場合があります。$R^2$$R^2$

[p。167.]

いくつかの大規模なロジスティックモデル（10万から30万のレコード、100から300の説明変数）での私の経験は、H＆Lが説明したとおりです。私のデータでは、最大約0.40の比較的高いを達成できました。これらは、3％〜15％の分類エラー率に対応しました（50％のホールドアウトデータセットを使用して確認されたように、バランスの取れた偽陰性と偽陽性）。H＆Lが示唆したように、私は（に精通していた洗練されたコンサルタント自身、クライアントdisabusing多くの時間を費やす必要があったに関する）、彼は分析に大事何に焦点を当ててもらう（分類エラーレート）。を参照せずに分析結果を説明することをお勧めします。これは、誤解を招く可能性があります。$R^2$$R^2$$R^2$$R^2$

両方のインデックスは関連の強さの尺度（つまり、LRテストのように予測子が結果に関連付けられているかどうか）であり、予測能力またはモデルのパフォーマンスを定量化するために使用できます。単一の予測子は結果に大きな影響を与える可能性がありますが、個々の応答を予測するのに必ずしもそれほど有用ではない可能性があるため、モデルのパフォーマンス全体を評価する必要があります（nullモデル）。Narikkerkeは、Srikantが言ったように、最大​​値が1.0であるため便利です。これは、尤度比から計算された正規化バージョンです。$R^2$$R^2$$R^2_{\text{LR}}=1-\exp(-\text{LR}/n)$、これは元々CoxとSnellによって提案された、全体的な関連性に関するWald統計と関連があります。予測能力のその他の指標は、ブリアスコア、C指標（一致確率またはROC面積）、またはサマーズDです。後者2は予測判別のより良い尺度を提供します。

ロジスティック回帰で行われた唯一の仮定は、線形性と加法性（+独立性）の仮定です。多くのグローバル適合度テスト（Hosmer＆Lemeshowテストのようなものですが、@ onestopへの私のコメントを参照）が提案されていますが、それらは一般に力に欠けています。モデルの適合性を評価するには、予測結果と観測結果（非線形性または相互作用など）の間のローカルまたはグローバルな逸脱を見つけるのに役立つ視覚的基準（層化推定、ノンパラメトリック平滑化）に依存する方が適切です。これについては、HarrellのRMS配布資料。関連するテーマ（キャリブレーションテスト）、Steyerberg（Clinical Prediction Models$\chi^2$、2009）は、観察された結果と予測された確率との間の一致を評価するための同じアプローチを指します：

キャリブレーションは適合度に関連しており、適合度は、特定のデータセットに適合するモデルの能力に関連しています。通常、予測モデルのあらゆる種類の適合性の欠如に対して優れた力を持つ単一の適合度テストはありません。適合の欠如の例は、見逃された非線形性、相互作用、または線形予測子と結果の間の不適切なリンク関数です。適合度は統計でテストできます 。（p。274）$\chi^2$

彼はまた、平滑化された観測結果と予測確率との絶対的な差を、視覚的に、またはいわゆるハレルのE統計に依存することを提案しています。

詳細については、Harrellの本Regression Modeling Strategies（pp。203-205、230-244、247-249）を参照してください。より最近の議論については、また見なさい

Steyerberg、EW、Vickers、AJ、Cook、NR、Gerds、T、Gonen、M、Obuchowski、N、Pencina、MJ、およびKattan、MW（2010）。予測モデルのパフォーマンスの評価、伝統的および新規の尺度のフレームワーク。疫学、21（1）、128-138。

ロジスティック回帰のあらゆる種類の尺度の主な問題は、既知のノイズ値を持つモデルを扱っていることだと思っていただろう。これは、ノイズレベルが通常不明として扱われる標準の線形回帰とは異なります。次のようにglm確率密度関数を書くことができます。$R^2$

$$f(y_i|\mu_i,\phi)=\exp\left(\frac{y_ib(\mu_i)-c(\mu_i)}{\phi}+d(y_i,\phi)\right)$$

ここで、は既知の関数であり、逆リンク関数。通常のGLM逸脱残差を次のように定義すると$b(.),\ c(.),\ d(.;.)$$\mu_i=g^{-1}(x_i^T\beta)$$g^{-1}(.)$

$$\begin{align} d_i^2 &= 2\phi\left(\log[f(y_i|\mu_i=y_i,\phi)]-\log[f(y_i|\mu_i=\hat{\mu}_i,\phi)]\right) \\ &= 2\phi \left[y_ib(y_i)-y_ib(\hat{\mu}_i)-c(y_i)+c(\hat{\mu}_i)\right] \end{align}$$ 我々が持っている（尤度比カイ二乗、介して）$\chi^2=\frac{1}{\phi}\sum_{i=1}^{N}d_i^2$

$$E\left(\sum_{i=1}^{N}d_i^2\right)=E(\phi\chi^2)\approx (N-p)\phi$$

どこの次元で。ロジスティック回帰の場合、既知のがあります。したがって、これを使用して、「許容可能」または「合理的」な一定レベルの残差を決定できます。これは通常、OLS回帰では実行できません（ノイズに関する事前情報がない場合）。つまり、各逸脱残差は約になると予想されます。多すぎると、重要な効果がモデルから欠落している可能性があります（適合不足）。多すぎると、モデルに冗長またはスプリアス効果が存在する可能性があります（過剰適合）。（これらはモデルの仕様不適合を意味する場合もあります）。$p$$\beta$$\phi=1$$1$$d_i^2\gg1$$d_i^2\ll1$

これは、疑似の問題は、項変動のレベルが予測可能であることを考慮に入れていないことを意味します（2項誤差構造が疑問視されていない場合）。したがってNagelkerkeの範囲であるにも関わらずに、それはまだ適切にスケーリングされていません。さらに、IDリンクと通常のエラーで「GLM」を適合させたときに通常のと等しくない場合、これらが疑似と呼ばれる理由がわかりません。たとえば、正規誤差の等価cox-snell R-2乗（分散のREML推定を使用）は、次の式で与えられます。$R^2$$0$$1$$R^2$$R^2$

$$R^2_{CS}=1-\exp\left(-\frac{N-p}{N}\cdot \frac{R^2_{OLS}}{1-R^2_{OLS}}\right)$$

これは確かに奇妙に見えます。

より良い「適合度」の尺度は、逸脱残差の合計だと思います。これは、主に目標を設定しているためです。$\chi^2$

Tue Tjurの短い論文「ロジスティック回帰モデルの決定係数-新しい提案：差別の係数」（2009年、 アメリカ統計学者）を見つけました。彼は長所と短所を強調する良い仕事をしている-もちろん、新しい定義を提供しています。とてもお勧めします（自分自身のお気に入りはありませんが）。

また、「どちらでもない」と言うつもりだったので、whuberの答えに賛成しました。

R ^ 2を批判するのと同様に、Hosmer＆Lemeshowはロジスティック回帰の適合度の代替尺度を提案しましたが、これは時には有用です。これは、予測された確率（または同等に線形予測子）に基づいて、データを（たとえば）等しいサイズ（または可能な限り近い）の10グループに分割し、各グループの肯定応答の観測数と期待数を比較することに基づいていますカイ二乗検定を実行します。この「Hosmer-Lemeshow適合度検定」は、ほとんどの統計ソフトウェアパッケージに実装されています。

Nagelkerkeは、モデルが完全に適合したときに1に達するため、Nagelkerkeを好むでしょう。読者に、モデルが完全な適合からどれだけ離れているかの感覚を与えます。Cox＆Shellはモデルの完全な適合のために1に達していないため、0.09の値を解釈するのは少し難しくなります。さまざまな種類の近似の説明については、Pseudo RSquaredの詳細については、このURLを参照してください。

疑似二乗の使用に反対する議論にもかかわらず、一部の人々はさまざまな理由で、少なくとも特定の時間にそれらを使用し続けたいと思うでしょう。私が読み物から内面化したのは（そして残念ながら、現時点では引用を提供できないことです）

• C＆SとNagの両方の場合。.5未満の場合、C＆Sがより適切なゲージになります。
  両方とも.5を超える場合、Nag。意志; そして
  、それらが.5にまたがる場合、パントします。

また、スコット・メナードが応用ロジスティック回帰分析（セージ）で言及した結果がしばしばこれらの2つの間にある式は、

[-2LL0 - (-2LL1)]/-2LL0.

これは、以下のチャートで「L」と示されています。