ディープラーニングとデシジョンツリーおよびブースティング手法


18

(経験的または理論的に)比較して議論する論文またはテキストを探しています。

より具体的には、MLメソッドのこれら2つのブロックを速度、精度、または収束の観点から議論または比較するテキストを知っている人はいますか?また、2番目のブロックのモデルまたはメソッドの違い(長所と短所など)を説明または要約するテキストを探しています。

このような比較に直接対処するポインタまたは回答をいただければ幸いです。

回答:


1

調べているデータの種類について、より具体的に説明できますか?これにより、どのタイプのアルゴリズムが最速で収束するかがある程度決まります。

ブースティングは実際には単なるメソッドのコレクションであるため、ブースティングとDLのようなメソッドを比較する方法もわかりません。ブースティングで使用している他のアルゴリズムは何ですか?

一般的に、DL技術は、エンコーダー/デコーダーのレイヤーとして説明できます。教師なし事前トレーニングは、最初に信号をエンコードし、信号をデコードしてから再構築エラーを測定することにより各レイヤーを事前トレーニングすることで機能します。その後、チューニングを使用してパフォーマンスを向上させることができます(たとえば、ノイズを除去するスタックオートエンコーダーを使用する場合、逆伝播を使用できます)。

DL理論の良い出発点は次のとおりです。

http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.73.795&rep=rep1&type=pdf

これらと同様に:

http://portal.acm.org/citation.cfm?id=1756025

(申し訳ありませんが、スパムフィルターシステムのために最後のリンクを削除する必要がありました)

RBMに関する情報は含めませんでしたが、それらは密接に関連しています(ただし、最初は理解するのが少し難しくなります)。


@f(x)に感謝します。(2Dまたは3D)ピクセルセグメントまたはパッチの分類に興味がありますが、元の質問をできるだけ一般的にしたかったのです。さまざまな方法がさまざまなタイプのデータセットで最適に機能する場合、これらの違いに対処するディスカッションに興味があります。
アメリオバスケスレイナ

1
一般的に、画像処理の観点では、DLメソッドは特徴抽出機能として機能し、SVMと組み合わせて分類を行うことができます。これらの方法は通常、SIFT、SURF、HOGなどの手作業によるアプローチに匹敵します。DLメソッドは、ゲーテッドCRBMとISAを使用したビデオに拡張されています。手作りの方法には、HOG / HOF、HOG3d、およびeSURFが含まれます(優れた比較については、Wang et al。2009を参照してください)。
user5268

1

いい質問です!適応ブースティングとディープラーニングの両方は、確率的学習ネットワークとして分類できます。違いは、「ディープラーニング」には特に1つ以上の「ニューラルネットワーク」が関係するのに対し、「ブースティング」は「メタ学習アルゴリズム」であり、弱学習器と呼ばれる1つ以上の学習ネットワークを必要とすることです。ニューラルネットワーク、決定木など)。ブースティングアルゴリズムは、1つ以上の弱学習器ネットワークを使用して、いわゆる「強学習器」を形成します。これにより、学習ネットワークの結果全体(つまり、MicrosoftのViolaおよびJones Face Detector、OpenCV)を大幅に「強化」できます。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.