ロジスティック回帰を行う場合、不均衡なサンプルは重要ですか？

さて、20：1の経験則を考慮して、十分なサンプルがあると思います：合計7つの予測変数のかなり大きなサンプル（N = 374）。

私の問題は次のとおりです。使用する予測変数のセットが何であれ、100％の特異性と0％の感度よりも分類が良くなることはありません。満足のいくものではありませんが、候補予測変数のセット（これから逸脱することはできません）を考えると、これは実際には最良の結果になる可能性があります。

しかし、私はもっと良くできると思わずにはいられなかったので、従属変数のカテゴリはほぼ4：1の非常に不均一なバランスであることに気付きました。よりバランスのとれたサブサンプルで分類を改善できますか？

トレーニングセットのバランス

ロジスティック回帰モデルの場合、不均衡なトレーニングデータはモデルインターセプトの推定値のみに影響します（もちろん、これにより予測されるすべての確率がゆがみ、予測が損なわれます）。幸いなことに、インターセプトの修正は簡単です。0と1の真の割合を知っているか推測できる場合、およびトレーニングセットの割合を知っている場合は、レアイベントの修正をインターセプトに適用できます。詳細はKing and Zeng（2001） [ PDF ]にあります。

これらの「まれなイベントの修正」は、主に疫学で使用されるケースコントロール研究デザイン向けに設計されており、通常はバランスの取れた固定の0ケースと1ケースを選択してケースを選択し、結果のサンプル選択バイアスを修正する必要があります。実際、同じ方法で分類器をトレーニングすることができます。バランスのとれた適切なサンプルを選択してから、インターセプトを修正して、従属変数で選択した事実を考慮に入れて、ランダムサンプルが伝えることができるよりもまれなクラスについて詳しく学習します。

予測をする

関連するが明確なトピックについて：予測を行うためにインテリジェントにしきい値を設定する必要があることを忘れないでください。モデルの確率が0.5より大きい場合、常に1を予測するのが最善とは限りません。別のしきい値が優れている場合があります。このため、デフォルトの確率しきい値での予測成功だけでなく、分類器の受信者動作特性（ROC）曲線を調べる必要があります。

問題は、クラスがそれ自体不均衡であることではなく、その分布を適切に表すために少数派クラスに属する十分なパターンがない可能性があることです。これは、ロジスティック回帰だけでなく、あらゆる分類子で問題が発生する可能性があることを意味します（合成問題があり、真のモデルがあることがわかっている場合でも）。良いことは、より多くのデータが利用可能になると、「クラスの不均衡」問題が通常なくなることです。そうは言っても、4：1はそれほど不均衡ではありません。

バランスの取れたデータセットを使用する場合、重要なことは、クラスが等しく共通であると仮定すると、モデルの出力が事後確率の推定値になることを覚えておくことです。各クラスに属するパターンに異なる重みを付け、正しい動作クラスの頻度でテストセットのクロスエントロピーを最小化することで重みを選択します。

2つのサンプルの基礎となる分布について考えてください。小さいサンプルに大きなバイアスをかけることなく、両方のサブポピュレーションを測定するのに十分なサンプルがありますか？

詳しい説明はこちらをご覧ください。

https://statisticalhorizo​​ns.com/logistic-regression-for-rare-events