回帰の制限付きボルツマンマシン？

RBMに関して以前に尋ねた質問をフォローしています。それらについて記述している多くの文献がありますが、実際に回帰について言及しているものはありません（ラベル付きデータによる分類でさえも）。ラベルのないデータのみに使用されているように感じます。回帰を処理するためのリソースはありますか？または、隠しレイヤーの上に別のレイヤーを追加し、CDアルゴリズムを上下に実行するのと同じくらい簡単ですか？事前に感謝します。

ラベルのないデータについては正しいです。RBMは生成モデルであり、教師なし学習者として最も一般的に使用されます。

Deep Belief Networkの構築に使用する場合、最も一般的な手順は、新しいRBMを1つずつ積み重ねるときに1つずつ単純にトレーニングすることです。ですから、対照的な相違は、私があなたが意味すると思う意味で上下していません。以前の最上位RBMの非表示層を新しい最上位RBMの入力として使用して、一度に1つのRBMのみを処理します。このすべての後、RBM重みのスタックを標準のフィードフォワードニューラルネットワークの初期重みとして扱い、ラベル付きデータと逆伝播を使用してトレーニングするか、ウェイクスリープアルゴリズムを使用するなど、よりエキゾチックなことを行うことができます。この最後の手順までラベル付きデータを使用していないことに注意してください。これは、これらのタイプのモデルの利点の1つです。

一方、分類にRBMを使用する方法はいくつかあります。

• RBMまたは複数のRBMのスタックをトレーニングします。最上位の非表示レイヤーを、他の教師付き学習者への入力として使用します。
• 各クラスのRBMを学習させ、非正規化エネルギーを識別分類器への入力として使用します。
• P（X、Y）のジョイント密度モデルになるようにRBMをトレーニングします。次に、入力xが与えられたら、エネルギー関数を最小化するクラスyを選択します（定数Zはすべてのクラスで同じであるため、上記のように正規化は問題になりません）。
• 訓練差別RBMを

Geoff Hintonによる技術レポート「制限付きボルツマンマシンのトレーニングの実践ガイド」を読むことを強くお勧めします。これらの問題のいくつかをより詳細に説明し、非常に貴重なヒントを提供し、関連する多くの論文を引用し、他の混乱を解決するのに役立つかもしれません。

実装（http://code.google.com/p/matrbm/）をご覧ください。検討に値する分類rmb fit関数があります。また、分類と回帰のためのDBNとRMBのより良い実装を見つけたら教えてください。

Restricted Boltzman Machine（RBM）のようなニューラルネットワークをテストする方法の1つは、それらを新しいデータセット、またはより一般的にはデータセット全体のサブセットに適用し、それらのパフォーマンスを確認することだと思います。クロス検証でモデルをテストすることもできます。人気のあるオープンソースの機械学習（ML）ソフトウェアツールキットを使用しました。このツールキットはインストールと使用が簡単で、多くのタイプのMLアルゴリズムをモデルの回帰統計（http：// www。 cs.waikato.ac.nz/ml/weka/）。データをフォーマットするのが難しい場合、それは価値がないかもしれませんが、プログラムの実行の基本を除いて、多くの介入なしで迅速な分析を提供するかもしれません（通常、例えば「csv to arff convert online」をグーグルで検索できますがワンステップのフォーマット用）。