決定しきい値はロジスティック回帰のハイパーパラメーターですか？

（バイナリ）ロジスティック回帰からの予測クラスは、モデルによって生成されたクラスメンバーシップ確率のしきい値を使用して決定されます。私が理解しているように、通常はデフォルトで0.5が使用されます。

ただし、しきい値を変更すると、予測される分類が変更されます。これは、しきい値がハイパーパラメーターであることを意味しますか？その場合、（たとえば）scikit-learnのGridSearchCV方法を使用して（正則化パラメーターで行うようにC）しきい値のグリッドを簡単に検索できないのはなぜですか。

決定しきい値は、予測する正の数と予測する負の数の間のトレードオフを作成します。これは、トートロジー的に、決定しきい値を大きくすると、予測する正の数が減少し、負の数が増加するためです。予測します。

決定閾値があるではない、それは変更されませんので、モデルチューニングの意味でのハイパーパラメータの柔軟性モデルのを。

決定しきい値のコンテキストでの「調整」という言葉についての考え方は、ハイパーパラメーターの調整方法とは異なります。変更$C$や他のモデルのハイパーパラメータは変更したモデルを（たとえば、ロジスティック回帰係数は異なります）、しきい値の調整は2つのことしか行えません：TPをFNに、FPをTNにトレードオフします。ただし、これは係数を変更しないため、モデルは同じままです。（ランダムフォレストなど、係数を持たないモデルにも同じことが言えます。しきい値を変更しても、ツリーについては何も変わりません。）狭い意味で、エラー間の最適なトレードオフを見つけることは正しいことです。は「チューニング」ですが、しきい値の変更はによって最適化された方法で他のモデルハイパーパラメーターにリンクされると考えるのは間違っていますGridSearchCV。

別の言い方をすれば、決定のしきい値を変更すると、必要な誤検知と誤検知の数に関する選択が反映されます。決定しきい値を-1のような完全に信じがたい値に設定したと仮定してください。すべての確率は負ではないため、このしきい値を使用すると、すべての観測について「正」を予測できます。ある特定の観点からは、これは素晴らしいことです。なぜなら、偽陰性率は0.0だからです。ただし、誤検知率も1.0の極値であるため、その意味で、-1でのしきい値の選択はひどいです。

もちろん、理想は、TPRが1.0、FPRが0.0、FNRが0.0であることです。しかし、これは通常、実世界のアプリケーションでは不可能であるため、質問は「どれだけのFPRに対してどれだけのFPRを受け入れますか？」になります。そして、これがroc曲線の動機です。

ただし、しきい値を変更すると、予測される分類が変更されます。これは、しきい値がハイパーパラメーターであることを意味しますか？

うん、そうだね、ちょっと。これは決定ルールのハイパーパラメーターですが、基礎となる回帰ではありません。

その場合、（たとえば）scikit-learnのGridSearchCVメソッドを使用して（正則化パラメーターCに対して行うように）しきい値のグリッドを簡単に検索できないのはなぜですか。

これは、sklearnの設計エラーです。ほとんどの分類シナリオのベストプラクティスは、これらの確率の品質の尺度（ロジスティック回帰のログ損失など）を使用して、基礎となるモデル（確率を予測する）を適合させることです。その後、これらの確率に関する決定しきい値を調整して、分類ルールのビジネス目標を最適化する必要があります。ライブラリを使用すると、品質の尺度に基づいて意思決定のしきい値を簡単に最適化できるはずですが、それがうまくいくとは思いません。

これは、sklearnが間違えた場所の1つだと思います。ライブラリには、predictでしきい値を設定するすべての分類モデルに関するメソッドが含まれてい0.5ます。この方法は役に立たないため、これを呼び出さないことを強く推奨します。sklearnがより良いワークフローを促進していないのは残念です。