回答:
このリンクは、深い学習文学の驚くべき量が含まれています。ここに要約します(初心者が理想的にすべき順序で)-注:これらのリソースはすべて、主にpythonを使用しています。
1)まず、機械学習の基本的な知識が必要です。Caltechのデータからの学習は、ネットで利用可能なすべての機械学習コースにとって理想的であることがわかりました。
アンドリュー・ウのコーセラはもちろん、あまりにもかなり良いです。
2)ニューラルネットワークの場合、誰もがより良いよりも、それを説明していないDr.Patrickウィンストン。割り当ては、より良い理解のために試してみたことがなければなりません。それらはpythonにあります。
3)ニューラルネットワークの理解を深めるために、Michael Nielsenのコースを完了する必要があります(Alexeyの提案どおり)。それはかなり基本的ですが、動作します。
4)ディープニューラルネットワークの場合、およびGPUでより高速に実装するには、Theano、Caffe、Pybrain、Torchなど、複数のフレームワークが利用可能です。これらのうちTheanoは、ユーザーがカスタムNNを作成できるようにする、より優れた低レベル機能を提供します。それはpythonライブラリであるため、numpy、scikit-learn、matplotlib、scipyを一緒に使用できることは大きなプラスです。深い学習チュートリアルリサ・ラボによって書かれたがtheanoをよりよく理解するために試してみたことがなければなりません。
5)畳み込みニューラルネットワークについては、andrej karpathyのチュートリアルに従ってください。
6)教師なし学習については、こちらとこちらをご覧ください。
7)ディープラーニングとNLPの共通点については、リチャードソッチャーのクラスに従ってください。
8)LSTMについては、Hochreiter、S.、&Schmidhuber、J.(1997)をお読みください。長期短期記憶。神経計算、9(8)、1735-1780およびGraves、Alex。リカレントニューラルネットワークによる教師付きシーケンスラベリング。巻 385.スプリンガー、2012年。
主題は新しいので、ほとんどの知恵は論文に散らばっていますが、最近の2冊の本があります。
また、実用的な資料:http : //deeplearning.net/tutorial/
Michael Nielsenによるニューラルネットワークとディープラーニング。本はまだ進行中ですが、非常に興味深く、有望に見えます。そして、それは無料です!リンクはこちら:http : //neuralnetworksanddeeplearning.com/
これまでにたった5つの章があり、それらのほとんどは通常のニューラルネットワークについて話していますが、それでも見てみる価値があります。
更新:本は完成しました!
主な参考文献:
深層学習に関するコース:
NLP指向:
ビジョン指向:
ツールキット固有のチュートリアル:
また、NLPとディープラーニングの共通点に関するリチャードソッチャーの最近の博士論文:自然言語処理とコンピュータービジョンのための再帰的ディープラーニングもあります。
バックプロパゲーションアルゴリズムの派生を理解するために、私はRyan Harrisのユーチューブビデオをお勧めします。2つ目のビデオもあります。