ランダムフォレストでのLASSOの使用

次のプロセスを使用してランダムフォレストを作成します。

• 情報ゲインを使用して分割を決定し、データとフィーチャのランダムサンプルでツリーを構築します
• リーフノードが定義済みの深さを超えている場合、または任意の分割の結果、リーフカウントが定義済みの最小値よりも少ない場合、リーフノードを終了します。
• 各ツリーにクラスラベルを割り当てるのではなく、リーフノードのクラスの割合を割り当てます
• 事前定義された数が構築された後、ツリーの構築を停止します

これは、2つの方法で従来のランダムフォレストプロセスに対抗します。1つは、クラスラベルではなく比率を割り当てる枝刈りされたツリーを使用します。2つ目は、停止基準は、アウトオブバッグエラーの推定値ではなく、事前に決定されたツリー数です。

私の質問はこれです：

N個のツリーを出力する上記のプロセスの場合、ロジスティック回帰とLASSO選択を使用してモデルを近似できますか？誰もがランダムフォレスト分類器をフィッティングし、ロジスティックLASSOで後処理した経験がありますか？

ISLEフレームワークでは、分類問題ではなく、回帰問題の後処理ステップとしてLASSOを使用することに言及しています。さらに、「ランダムな森のなげなわ」をグーグルで検索しても、役に立つ結果は得られません。

これは、勾配ツリーのブーストに似ています。ブースティングのアイデアは、モデルのクラスの最適な線形結合を見つけることです。ツリーをデータに適合させる場合、結果変数を最もよく説明するツリーを見つけようとします。代わりにブースティングを使用する場合、ツリーの最適な線形結合を見つけようとします。

ただし、ブーストを使用すると、ランダムツリーのコレクションがないため、もう少し効率的ですが、まだ十分に予測できない例で機能する新しいツリーを構築しようとします。

詳細については、統計学習の要素の第10章を読むことをお勧めします：http : //statweb.stanford.edu/~tibs/ElemStatLearn/

これはあなたの質問に対する完全な答えではありませんが、役に立つと思います。