尾根回帰の結果を理解する


9

リッジ回帰は初めてです。線形リッジ回帰を適用すると、次の結果が得られました。

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0 

質問:

  • ゼロを取得しても大丈夫GCVですか?
  • 正確にはどういう意味ですか?
  • モデルに問題はありますか?
  • の値をどのように見つけることができますか?R2myridge

ラムダをラムダに変更します。指定したシーケンスは無視されたと思います。

回答:


20

ペナルティパッケージまたはglmnetパッケージの方が良いかもしれません。どちらも投げ縄または弾性ネットを実装しているため、投げ縄(機能選択)とリッジ回帰(共線変数の処理)のプロパティを組み合わせています。ペナルティも尾根をします。これら2つのパッケージはlm.ridge()MASSパッケージよりもはるかに完全に機能しています。

とにかく、ペナルティがゼロであることを意味するため、最小二乗推定値は、GCV(一般化された交差検証)スコアが最も低いという意味で最適です。ただし、十分に大きなペナルティを許可していない可能性があります。言い換えると、最小二乗推定値は、調べた値の小さなセットに最適でした。リッジパス(関数としての係数の値)をプロットし、トレースが安定しているかどうかを確認します。安定していない場合は、評価される値の範囲を増やします。λ λ λλ=0λλλ


5

GCVが0になるのは、次を使用したためです。

myridge = lm.ridge(Y〜MA + SA + LKA + CB + LTB、TEMP、ラムダ = SEQ(0,0.1,0.001))

の代わりに

myridge = lm.ridge(y〜ma + sa + lka + cb + ltb、temp、lambda = seq(0,0.1,0.001))

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.