どちらがより正確なglmまたはglmnetですか?


10

R glmとglmnetは異なるアルゴリズムを使用します。

両方を使用すると、推定された係数間に重要な違いがあることに気づきました。

どちらがより正確であるか、そして解決/精度のトレードオフの時間に興味があります。

具体的には、glmnet stでlambda = 0を設定した場合について言及しています。これは、glmと同じことを推定しています。


1
lambda = 0のときのパフォーマンスと精度の違いについて質問しています。この2つは理論的には同じである必要があります。それを質問に追加する必要があると思います。
smci 2014年

回答:


14

Glmnetはエラスティックネット回帰用です。これにより、推定された係数のサイズにペナルティが課せられます(L1ペナルティとL2ペナルティの混合により)。モデルの係数を小さく保ちながら、モデル全体のデータの分散をできるだけ多く説明しようとします。これらのスライドは理解に役立つと思いました。

Glmはペナルティ用語を使用しません。

私が理解しているように、エラスティックネットでは、推定量の分散の減少と引き換えにいくらかのバイアスを受け入れる可能性があるという効果。したがって、どちらが最善であるかは、バイアスと分散の観点から「最善」をどのように定義するかに依存する必要があります。(たとえば、観察と比較して多くの機能がある場合、glmnetには利点があることを知っています)


リンクが壊れているようです
ndoogan 2013

リンクは現在機能しています
smci '10年

さて、あなたはglmnetが何をするかを説明しているだけです-しかし、OPはglmnetでlambda = 0を設定したときの状況を参照していました。 glmnetで使用される循環座標降下フィッティング法に関連する違い)。
Tom Wenseleers、
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.