タグ付けされた質問 「adaboost」

GBMとAdaboostの違いを理解しようとしています。 これらは私がこれまでに理解したことです： 前のモデルのエラーから学習し、最終的にモデルの加重和を作成するブースティングアルゴリズムがあります。 GBMとAdaboostは、損失関数を除いてかなり似ています。 しかし、それでも私はそれらの間の違いのアイデアをつかむことは困難です。誰かが直感的な説明をくれますか？

48 boosting  gbm  adaboost 

「弱い学習者」という語句の意味を教えてください。それは弱い仮説であると思われますか？弱い学習者と弱い分類器の関係について混乱しています。両方とも同じですか、それとも何らかの違いがありますか？ AdaBoostのアルゴリズムでは、T=10。それはどういう意味ですか？なぜ選択するのT=10ですか？

34 classification  svm  terminology  adaboost  pac-learning 

（経験的または理論的に）比較して議論する論文またはテキストを探しています。 Random ForestsやAdaBoost、およびGentleBoost などのブースティングおよび決定木アルゴリズムが決定木に適用されます。 と 以下のような深い学習法制限付きボルツマンマシン、階層一時記憶、畳み込みニューラルネットワークなど、 より具体的には、MLメソッドのこれら2つのブロックを速度、精度、または収束の観点から議論または比較するテキストを知っている人はいますか？また、2番目のブロックのモデルまたはメソッドの違い（長所と短所など）を説明または要約するテキストを探しています。 このような比較に直接対処するポインタまたは回答をいただければ幸いです。

18 machine-learning  deep-learning  cart  rbm  adaboost 

仕事で繰り返し言及されているAdaBoost分類器のことを聞いたように、私はそれがどのように機能し、いつそれを使用したいのかについて、より良い感覚を得たいと思いました。私は先に進み、Googleで見つけた多くの論文とチュートリアルを読みましたが、分類器にはまだ理解できない問題があります： 私が見たほとんどのチュートリアルは、AdaBoostが多くの分類子の最適な重み付き組み合わせを見つけることについて語っています。これは私には理にかなっています。意味をなさないのは、AdaBoostが1人の弱い学習者しか受け入れないような実装（つまり、MALLET）です。これはどういう意味がありますか？AdaBoostに提供される分類器が1つだけの場合、重み1で同じ分類器を返すだけではいけませんか？最初の分類子から新しい分類子を生成する方法は？ AdaBoostを実際に使用したいのはいつですか？私はそれが最高のすぐに使える分類器の1つになるはずだと読んだことがありますが、MaxEnt分類器をブーストしようとすると、70％以上のfスコアを得ていたので、AdaBoostはそれを殺し、f-代わりに非常に高い再現率と非常に低い精度で15％のようなスコア。だから今私は混乱しています。AdaBoostをいつ使用したいのですか？可能であれば、厳密に統計的な答えではなく、より直感的な答えを探しています。

14 machine-learning  boosting  adaboost 

Adaboostは、多くの弱い学習者を組み合わせて強い学習者を形成する集団法です。私が読んだアダブーストのすべての例は、意思決定の切り株/木を弱学習者として使用しています。アダブーストで別の弱学習器を使用できますか？たとえば、ロジスティック回帰モデルを後押しするためにadaboost（通常は後押し）を実装する方法は？ 分類ツリーとロジスティック回帰の主な違いの1つは、前者がクラス（-1,1）を出力するのに対し、ロジスティック回帰は確率を出力することです。1つのアイデアは、一連の機能から最適な機能Xを選択し、しきい値（0.5？）を取得して確率をクラスに変換し、次に重み付きロジスティック回帰を使用して次の機能などを見つけることです。 しかし、確率を出力する決定の切り株とは異なるさまざまな弱学習器を後押しする一般的なアルゴリズムが存在すると想像します。Logitboostが私の質問への答えだと信じていましたが、「Additive Logistic Regression」の論文を読もうとすると、途中で行き詰まりました。

11 logistic  adaboost 

4つの可能なイベントの頻度の1つのサンプルがあるとします。 Event1 - 5 E2 - 1 E3 - 0 E4 - 12 そして、私は自分のイベントの発生が予想される確率を持っています： p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 4つのイベントの観測頻度の合計（18）を使用して、イベントの予想頻度を計算できますか？ expectedE1 - 18 * 0.2 = 3.6 expectedE2 - 18 * 0.1 = 1.8 expectedE1 - 18 * 0.1 = 1.8 expectedE1 - …

9 r  statistical-significance  chi-squared  multivariate-analysis  exponential  joint-distribution  statistical-significance  self-study  standard-deviation  probability  normal-distribution  spss  interpretation  assumptions  cox-model  reporting  cox-model  statistical-significance  reliability  method-comparison  classification  boosting  ensemble  adaboost  confidence-interval  cross-validation  prediction  prediction-interval  regression  machine-learning  svm  regularization  regression  sampling  survey  probit  matlab  feature-selection  information-theory  mutual-information  time-series  forecasting  simulation  classification  boosting  ensemble  adaboost  normal-distribution  multivariate-analysis  covariance  gini  clustering  text-mining  distance-functions  information-retrieval  similarities  regression  logistic  stata  group-differences  r  anova  confidence-interval  repeated-measures  r  logistic  lme4-nlme  inference  fiducial  kalman-filter  classification  discriminant-analysis  linear-algebra  computing  statistical-significance  time-series  panel-data  missing-data  uncertainty  probability  multivariate-analysis  r  classification  spss  k-means  discriminant-analysis  poisson-distribution  average  r  random-forest  importance  probability  conditional-probability  distributions  standard-deviation  time-series  machine-learning  online  forecasting  r  pca  dataset  data-visualization  bayes  distributions  mathematical-statistics  degrees-of-freedom