線形回帰を正則化しましたが、今はどうですか？

LASSOを使用して線形回帰モデルの回帰パラメーターを推定し、交差検証を使用していくつかの変数をゼロに送信しました。これで、最終的なモデルが得られました。正則化はアクティブな変数にバイアスを引き起こすことが知られていますが、偽の変数を取り除くために支払うことは良い代償です。元の変数の5分の1のみを含む最終モデルを取得したら、どうすればよいですか？チャンプのように、残りの変数のバイアスに対処する必要がありますか、それとも先に進むための賢い方法がありますか？

一般的なアプローチの1つは、LASSOによって選択された変数のみを使用して、（正規化なしで）回帰をやり直すことです。

これは「選択後推論」と呼ばれます。リー他を参照。結果の推定値のp値と信頼区間を見つけるための2016。

このモデルを構築する目的は何でしょうか。より良い予測パフォーマンスを得ようとしていますか？または、統計的に有意な線形モデルが必要です。これら2つの目標は必ずしも一致していません。

機械学習の観点からは、自分が過剰適合または過小適合であることを常に知りたいと思っています。すでにフィッティングが不足している場合、正則化はそれをさらに悪化させます。