人工ニューラルネットワークについて学ぶための良いリソースは何ですか?[閉まっている]


109

私は人工神経回路網に本当に興味がありますが、出発点を探しています。

どのようなリソースがあり、どのような最初のプロジェクトが適切ですか?


私は仮定しています、人工ニューラルネットワーク?どの領域に興味がありますか(手書き、分類、ロジックに何を適用しますか)?
バイアス

おそらく、論理:私は迷路のロボットかそのようなものについて考えていて、さまざまなアルゴリズムを試していましたが、ネットワークがどちらが最良であるかを決定するような方法でやっていました
cbrulak

3
ニューラルネットワークに関するGeoffrey Hintonのコースラには、本当に素晴らしいコースがあります。それは基本から始まり、最先端のアプローチで終わります。
アルファ2013

4
Andrew NgによるコースMachine Learningは、より高度なニューラルネットワークと理論的側面に取り組むGeoffrey Hintonのコースを始める前に、私が初心者におすすめするコースです。
15年

回答:


17

ニューラルネットプログラミングの例をいくつか示します。 http://www.codeproject.com/KB/recipes/neural_dot_net.aspx

ここから読み始めることができます: http //web.archive.org/web/20071025010456/http //www.geocities.com/CapeCanaveral/Lab/3765/neural.html

私は自分の側でそれについてのコースを訪問し、いくつかの文学を通して働きました。


2
Geocitiesは数日前にダウンしましたが、web.archive.org / web / 20071025010456 / http://www.geocities.com/…(少なくとも今のところ...)にアーカイブバージョンがあります。
web / 20071025010456 / http://www.geocities.com/…

33

まず第一に、人工ニューラルネットワークは脳と関係があるが、生物学的ニューロンのネットワークとの類似点を渡すという概念を放棄します。生物学の学習は、ニューラルネットワークを効果的に適用するのに役立ちません。線形代数、微積分、確率論の学習は可能です。少なくとも、関数の基本的な微分、連鎖規則、偏微分(勾配、ヤコビアンとヘッセ行列)の概念、および行列の乗算と対角化について理解する必要があります。

ネットワークをトレーニングするときに実際に行っていることは、大規模な多次元関数を最適化しているため(ネットワーク内の各重みに関するエラー測定値を最小化しているため)、非線形数値最適化の手法を調査すると有益な場合があります。これは、ニューラルネットワークの外の大規模な文献ベースで広く研究されている問題であり、数値最適化に関する講義ノートがWebで利用可能です。はじめに、ほとんどの人は単純な勾配降下法を使用しますが、これは次のような微妙な方法よりもはるかに遅く、効果が低くなる可能性があります

基本的なアイデアを理解したら、隠しレイヤーでさまざまな「つぶし」機能を試し、さまざまな種類の正則化とさまざまな調整を加えて、学習をより速く進めることができます。「ベストプラクティス」の包括的なリストについては、このペーパーを参照してください。

この主題に関する最高の本の1つは、Chris Bishopのパターン認識のためニューラルネットワークです。この段階ではかなり古くなっていますが、それでも優れたリソースであり、使用済みのコピーをオンラインで約30ドルで見つけることができます。彼の新しい本のニューラルネットワークの章、パターン認識と機械学習も非常に包括的です。特に優れた実装中心のチュートリアルについては、畳み込みネットワークと呼ばれる巧妙な種類のネットワークを実装する、 CodeProject.comのこちらのチュートリアルを参照してください。これは、視覚パターンの分類を学習するのに優れた方法で接続を制限します。

サポートベクターマシンやその他のカーネルメソッドは、何をしているのか知らずにそれらを適用でき、許容できる結果が得られることが多いため、非常に人気があります。一方、ニューラルネットワークは、多くの問題、特にコンピュータービジョンなどのドメインでの大規模な問題には依然として適していますが、慎重な調整を必要とする巨大な最適化問題です。


いい視点ね。ニューロンは、ロジスティック回帰から生じる単なるロジスティック単位です。次に、マルチフェーズ多重回帰ユニットが作成され、ニューラルネットワークと「似ている」ため、ニューラルネットワークと呼ばれます。脳などに触発されたものではありません。
ozgur

実際の神経科学を研究することは、この分野の研究に役立たないだろうと言うのは本当に正しくありません。ジェフ・ホーキンスと彼の研究は、HTMに関する彼の研究に神経生物学に関するより多くの知識を組み込むことを試みました。HTMはかなりうまくいきます。結局、実際の生物学的な例を模倣する新しいネットワークトポロジーと相互作用技術を研究しようとする場合、神経生物学の研究が役立つかもしれません。自分で研究するのではなく、単に他の人がすでに研究したことを単に使用するつもりなら、そうです、そうです、神経科学の研究は無意味かもしれません。
SmugDoodleBug 2017年


11

ニューラルネットワークは、最近では一種のデクラスです。サポートベクターマシンカーネルメソッドは、より多くのクラスの問題よりも逆伝播の方が適しています。ニューラルネットワークと遺伝的アルゴリズムは、現代の機械学習についてあまり知らない人々の想像力を捉えますが、最先端ではありません。

AIと機械学習について詳しく知りたい場合は、Peter NorvigのArtificial Intelligence:A Modern Approachを読むことをお勧めします。これは、AIと多くの最新テクノロジーに関する広範な調査です。また、歴史や古い手法についても取り上げ、AIと機械学習の基礎をより完全に理解できるようにします。

ただし、ニューラルネットワークは非常に簡単です。特に、適切な逆伝播ではなく、遺伝的アルゴリズムを使用して重みを決定する場合。


1
ニューラルネットワークは、逆伝播だけで構成されているわけではありません。他にもたくさんのネットワークがあります-連想メモリ、Kohonen SOFM、適応型レゾナンスベースのネットワークなど... MLPとバックプロパゲーションは最も人気のあるネットワークですが、最もパフォーマンスは高くありません...
lmsasu

3
「ニューラルネットワークは、最近のデクラスのようなものです。」多層NNおよびアドホックアーキテクチャNNをトレーニングするための「ディープラーニング」技術は、現在MLで最もホットなものの1つであるようです。多くの中のほんの一例、googleresearch.blogspot.co.uk / 2015/03 /…
John Donn

5

私は、dwfがクリスビショップによるパターン認識のためニューラルネットワークを推奨することを2番目に紹介します。しかし、それはおそらくスターターテキストではありません。Norvigまたはオンラインチュートリアル(Matlabのコード付き!)は、おそらくより穏やかな導入でしょう。

良いスタータープロジェクトはOCR(光学式文字認識)です。テキストのページをスキャンし、ネットワークを介して各文字をフィードして、分類を実行できます。(もちろん、最初にネットワークをトレーニングする必要があります!)。



4

どこから始めたらよいかお勧めします。私は、Amazonで優れたレビューがあり、「認知およびコンピュータサイエンスの最も重要なトピックの1つへのアクセスしやすい紹介」であると主張する、Kevin Gurneyによる神経回路網入門を購入しまし。個人的には、この本を最初からお勧めすることはしません。理解できるのは約10%ですが、それは私だけかもしれません(英語は私の母国語ではありません)。このスレッドから他のオプションを調べます。


3

http://www.ai-junkie.com/ann/evolved/nnt1.htmlは、多層伝播パーセプトロンの明確な紹介ですが、逆伝播アルゴリズムについては説明していません

また、一般的なAIに関する多くの記事を提供し、ニューラルネットワークに関する優れたテキストが含まれているgeneration5.orgもご覧ください。


2

あなたがお金を費やすことを気にしないなら、脳理論とニューラルネットワークのハンドブックは非常に良いです。多くの分野の研究をカバーする287の記事が含まれています。それは序論と理論から始まり、次にあなたの興味を最もよくカバーするために記事を通してパスをハイライトします。

最初のプロジェクトに関しては、コホーネンマップ分類に興味深いものです。音楽コレクションの隠れた関係を見つけたり、スマートロボットを構築したり、Netflix賞を解決したりできます。


1

私が良い出発点は常にウィキペディアだと思います。そこには、ニューラルネットを使用するドキュメントやプロジェクトへの便利なリンクもあります。






1

生物学を勉強することは良い出発点ではないと言った他の人々にも同意します...生物学には無関係な情報がたくさんあるからです。ニューロンがその機能を再現するためにどのように機能するかを理解する必要はありません。そのアクションをシミュレートするだけで済みます。Ray Kurzweilによる "How To Create A Mind"をお勧めします-これは、計算モデルに関連する生物学の側面に入ります(しきい値に達したときに複数の入力を組み合わせて発火して疑似ニューロンを作成する)が、次のような関係のないものは無視しますニューロンが実際にどのようにthouse入力を追加するか。(たとえば、しきい値と比較するために+と不等式を使用します)

また、本は「心の創造」についての本ではなく、階層的なパターン認識/新皮質にのみ焦点を当てていることも指摘しておきます。一般的なテーマは1980年代から話題になっているので、少し古い日付の同じ情報が含まれている古い本がたくさんあります。たとえば、ビジョンシステムは多層パターン認識機能であると述べた古いドキュメントを読んだことがあります。これは新皮質全体に当てはまると彼は主張する。また、彼の「予測」を細かく見てください-彼のハードウェアの見積もりはおそらくかなり正確ですが、彼は単純なタスクがどれほど複雑になる可能性があるかを過小評価していると思います(例:車の運転)。確かに、彼は多くの進歩を遂げてきました(そしてその一部でした)が、彼はまだ楽観的すぎると思います。AIカーが90%の時間を正常に1マイル走行できることは、人間ができる99.9 +%と比べて大きな違いがあります。少なくとも20年間AIが本当に私を運転してくれるとは思っていません...(実際にコースで「トレーニング」する必要があるBMWのトラック車は、実際に同じようにプレイしていないため、数えませんゲーム)

AIとは何か、どのようにモデル化できるかについての基本的な考えがすでにある場合は、より技術的なものにスキップすることをお勧めします。


0

実際のシミュレーターでのいくつかのニューラルネットワーク概念のアプリケーションについてすばやく学習したい場合は、http: //grey.colorado.edu/CompCogNeuro/indexにある「Computational Cognitive Neuroscience」と呼ばれる優れたオンラインブック(現在のwiki)があります。 php / CCNBook /メイン

この本は学校で教科書として使用されており、個々のニューロンから高次のエグゼクティブ機能まで、さまざまな脳領域を紹介しています。

さらに、各セクションには、すでにダウンしている宿題「プロジェクト」が追加されています。ダウンロードして、手順に従って、この章で説明したすべてをシミュレートするだけです。彼らが使用するソフトウェアであるEmergentは、少し洗練されていますが、信じられないほど堅牢です。これは、10年以上の作業の成果であると私は信じています。

私はこの前学期の学部のクラスでそれを通過しました、そしてそれは素晴らしかったです。すべてを段階的に説明します

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.