Larsアルゴリズムを変更してLassoを生成する方法を理解しようとしています。私はLARSを理解していますが、Tibshiraniらによる論文からLassoの修正を見ることができません。特に、ゼロ以外の座標の符号が現在の相関の符号と一致しなければならないという符号条件がなぜなのかわかりません。誰かがこれで私を助けてくれますか?元のL-1ノルム問題、つまり投げ縄でKKT条件を使用した数学的証明を探していると思います。どうもありがとう!
Larsアルゴリズムを変更してLassoを生成する方法を理解しようとしています。私はLARSを理解していますが、Tibshiraniらによる論文からLassoの修正を見ることができません。特に、ゼロ以外の座標の符号が現在の相関の符号と一致しなければならないという符号条件がなぜなのかわかりません。誰かがこれで私を助けてくれますか?元のL-1ノルム問題、つまり投げ縄でKKT条件を使用した数学的証明を探していると思います。どうもありがとう!
回答:
LET (サイズN × P標準入力の意味セット)、Y(サイズN × 1)応答、中心β(サイズP × 1)回帰ウェイトとλ > 0 L 1ノルムpenalisation係数。
LASSO問題は、β ∗を書き込み ます
すべての値についてこれを解くと、いわゆるLASSO正則化パスβ ∗(λ )が得られます。
ペナルティ係数固定値(つまり、アクティブな予測子の固定数= LARSアルゴリズムの固定ステップ)については、β ∗が満たされることを示すことができます(この回答のように、KKT定常条件を単に書き出す)
アクティブ予測子の集合を表します。
なぜなら正でなければならない(それはpenalisation係数である)、それの符号ことは明らかであるβ *(任意の非ゼロ従って活性予測の重み)のそれと同じであるべきであるX T(Y - X β ∗)= X T a rすなわち現在の回帰残差との相関。