LASSOの前提


17

LASSO回帰シナリオで

y=Xβ+ϵ

LASSOの推定値は、次の最適化問題によって与えられます

minβ||yXβ||+τ||β||1

\ epsilonに関する分布の仮定はありϵますか?

OLSシナリオでは、ϵは独立しており、正規分布していると予想されます。

LASSO回帰で残差を分析することは意味がありますか?

LASSO推定値は、\ beta_jの独立した二重指数事前分布の下で事後モードとして取得できることを知っていますβj。しかし、標準の「仮定検査フェーズ」は見つかりませんでした。

前もって感謝します (:

回答:


16

私はLASSOの専門家ではありませんが、ここに私の見解を示します。

最初に、OLSは、非依存性と正常性の違反に対して非常に堅牢であることに注意してください。その後、定理7と、上記のRobust Regression and Lasso(X. Huan、C。Caramanis、S。Mannor の記事)の議論から判断すると、LASSO回帰では\ varepsilon_iの分布ではなく、εi、ただし(y_i、x_i)の共同分布では(yi,xi)。定理は(yi,xi)がサンプルであるという仮定に依存しているため、これは通常のOLSの仮定に匹敵します。しかし、LASSOはそれほど制限的ではなく、yiが線形モデルから生成されることを制約しません。

要約すると、最初の質問に対する答えはノーです。には分布の仮定はありません。すべての分布の仮定はます。さらに、LASSOでは条件付き分布について何も仮定されていないため、それらはより弱くなります。y X y | X ε(y,X)(y|X)

そうは言っても、2番目の質問に対する答えもノーです。以来どんな役割を果たしていない、それは彼らにあなたがOLSでそれらを分析する方法(正規のテスト、不均一、ダービン・ワトソン、など)を分析するために、任意の意味がありません。ただし、モデルの適合度をコンテキストで分析する必要があります。ε

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.