タグ付けされた質問 「bagging」

バギングは、N個の異なるブートストラップサンプルでN人の学習者を作成し、それらの予測の平均を取るプロセスです。 私の質問は次のとおりです。なぜ他のタイプのサンプリングを使用しないのですか？ブートストラップサンプルを使用する理由

10 bagging 

少し混乱しています。私はこの論文を読んでいて、バギング手法は分散を大幅に減らし、バイアスをわずかに増やすだけだと説明しました。どうして分散が小さくなるのかわかりませんでした。私は分散とバイアスが何であるかを知っています。バイアスとは、モデルがデータを学習できないことです。分散は、過適合に似ています。バギングによって分散がどのように減少するかはわかりません。

9 variance  bias  bagging 

勾配ブースティングツリーとランダムフォレストに基づいています。GBDTとRFは、バイアスと分散に取り組むために異なる戦略を使用しています。 私の質問は、複数のGBDTをトレーニングし、それらの予測を最終結果として組み合わせるために、データセットを（置き換えて）リサンプリングできるということです。 GBDTを基本学習者として使用してランダムフォレストを構築するのと同じです アイデアは、GBDTがデータセットをオーバーフィットする可能性があることです（完全に成長する決定木と同様、低バイアス、高分散）。バギング手法を使用することでこの問題も軽減でき、パフォーマンスを向上させたいと思います。 なにか提案を？

8 random-forest  cart  boosting  bagging  gradient 

木の「袋詰め」アンサンブルでの剪定は不要であると主張するいくつかの投稿と論文を見つけました（1を参照）。 ただし、アンサンブル内の個々のツリーに対してプルーニング（たとえば、OOBサンプルを使用）を実行することは、必ずしも（または少なくともいくつかの既知のケースでは）損傷を与えるのでしょうか。 ありがとう！

8 bootstrap  cart  bagging