ニューラルネットワークの使用を開始する方法

私はニューラルネットワークを初めて使用しますが、それらの理解に非常に興味があります。しかし、始めるのは簡単ではありません。
誰かが良い本や他の種類のリソースを推薦できますか？必読はありますか？
どんな種類のヒントにも感謝しています。

ニューラルネットワークはしばらく前から存在しており、長年にわたって劇的に変化しました。ウェブ上でただ動き回るだけなら、「ニューラルネットワーク」とは逆伝播でトレーニングされたマルチレイヤーフィードフォワードネットワークを意味するという印象を受けるかもしれません。または、めったに使用されず、奇妙に名付けられた多数のモデルのいずれかに出くわし、ニューラルネットワークは研究プロジェクトというよりは動物園であると結論付けるかもしれません。または、それらが目新しさであること。または...

続けられた。明確な説明が必要な場合は、Geoffrey Hintonを聞いてください。彼は永遠に存在し、（したがって？）彼が取り組んでいたすべての異種モデルを1つのまとまりのある直感的な（そして時には理論的な）歴史的物語に織り込む素晴らしい仕事をしています。彼のホームページには、彼が行ったGoogle Tech TalksおよびVideolectures.netの講義へのリンクがあります（RBMおよびディープラーニングなど）。

私が見ている方法から、ここに、ニューラルネットワークの発端から最先端までを理解するための歴史的かつ教育的なロードマップがあります。

• パーセプトロン
  • わかりやすい
  • 厳しく制限されている
• バックプロパゲーションによって訓練された多層
  • これらを学ぶための多くのリソース
  • 通常、SVMと同様にしないでください
• ボルツマンマシン
  • 「エネルギー」の観点からリカレントネットワークの安定性について興味深い考え方
  • 「エネルギー」を使用したリカレントネットワークのわかりやすい（ただしあまり実用的ではない）例が必要な場合は、ホップフィールドネットワークを見てください。
  • 理論的には興味深いが、実際には役に立たない（大陸移動とほぼ同じ速度で訓練する）
• 制限付きボルツマンマシン
  • 有用！
  • ボルツマンマシンの理論から構築
  • ウェブ上のいくつかの良い紹介
• 深い信念ネットワーク
  • 私が知る限り、これは半教師あり学習を行うための多層RBMのクラスです。
  • いくつかのリソース

これらの講義を見て、これを読み物として使うことを強く勧めます。これらの講義は、一般的にAndrew Ngによる機械学習に関するもので、ニューラルネットワークについて長々と語り、初心者がアクセスしやすいように努力しています。

私の意見では、これらは非常に良い本です。

• R.ロハス：ニューラルネットワーク
• CM Bishop：パターン認識のためのニューラルネットワーク

これらの本にはいくつかの類似点があります。それらは両方とも約500ページの長さであり、1995年からかなり古くなっています。それにもかかわらず、非常に有用なままです。両方の本は、ニューラルネットワークとは何かを説明することから、ゼロから始まります。明確な説明、優れた例、および理解しやすいグラフを提供します。彼らは、ニューラルネットワークのトレーニングの問題を、多くの形や形で、そして何ができて何ができないかについて、非常に詳細に説明しています。2冊の本はお互いを非常にうまく補完します。1冊の本では理解できないものに対して、1冊は他の本で見つける傾向があります。

Rojasには、私が特に気に入っているセクションがあります。これは、マトリックス形式で多くのレイヤーに逆伝搬を実装することです。また、ファジーロジックに関する複雑なセクションと、複雑性理論に関するセクションもあります。しかし、ビショップには他にもたくさんのすばらしいセクションがあります。

ロハスは、最もアクセスしやすいと言えます。ビショップはより数学的で、おそらくより洗練されています。両方の本で、数学は主に線形代数と複数の変数の関数の計算（部分微分など）です。これらの主題についての知識がなければ、おそらくこれらの本のいずれも非常に明るくなるとは思わないでしょう。

最初にロハスを読むことをお勧めします。

どちらの本も明らかにアルゴリズムについて多くのことを述べていますが、どちらもコードの特定の実装について多くを述べていません。

私にとって、これらの本は背景を提供してくれるので、オンラインコース（コースラのヒントンなど）が理解しやすくなります。本はまた、オンラインで行うことができるよりもはるかに多くの地面をカバーし、はるかに詳細に。

これがお役に立てば幸いです。本に関するご質問には喜んでお答えします。

他の人が指摘しているように、オンラインには多くの（良い）リソースがあり、私はそれらのいくつかを個人的に行っています：

• NgのCourseraのMLクラスの紹介
• Courseraのヒントンのニューラルネットワーククラス
• NGのディープラーニングチュートリアル
• 元の並列分散処理の関連する章を読む

これらの説明は、層（合計と非線形性を合わせたもの）が基本単位である古典的な扱いにほとんど従っているという事実に注意を喚起したいと思います。torch-nnやtensorflowなどのほとんどのライブラリに実装されている、より一般的で柔軟な処理は、高度なモジュール性を実現するために自動微分を備えた計算グラフを使用するようになりました。概念的には、よりシンプルで解放的です。この治療には、優れたスタンフォードCS231nオープンコースを強くお勧めします。

厳密な学習理論的治療については、Anthony and BartlettのNeural Networksに相談してください。

より統計的な観点から治療が必要な場合は、ブライアンリプリーの「パターン認識とニューラルネットワーク」をご覧ください。この本は入門書ではなく、統計的な背景を前提としています。

http://www.stats.ox.ac.uk/~ripley/PRbook/

ニューラルネットワークの分野で学習プロセスをサポートするWebアプリケーションを作成しました。

https://blueneurons.ch/nn

設定（アーキテクチャ、アクティベーション機能、トレーニング設定）をいじって、設定が予測にどのように影響するかを観察できます。すべてのデータセットには、採用可能な事前構成値があります。独自のデータセットを作成することもできます。

実装された要素の説明と説明：

ユーザーガイド