私は人工神経回路網に本当に興味がありますが、出発点を探しています。
どのようなリソースがあり、どのような最初のプロジェクトが適切ですか?
私は人工神経回路網に本当に興味がありますが、出発点を探しています。
どのようなリソースがあり、どのような最初のプロジェクトが適切ですか?
回答:
ニューラルネットプログラミングの例をいくつか示します。 http://www.codeproject.com/KB/recipes/neural_dot_net.aspx
ここから読み始めることができます: http //web.archive.org/web/20071025010456/http //www.geocities.com/CapeCanaveral/Lab/3765/neural.html
私は自分の側でそれについてのコースを訪問し、いくつかの文学を通して働きました。
まず第一に、人工ニューラルネットワークは脳と関係があるが、生物学的ニューロンのネットワークとの類似点を渡すという概念を放棄します。生物学の学習は、ニューラルネットワークを効果的に適用するのに役立ちません。線形代数、微積分、確率論の学習は可能です。少なくとも、関数の基本的な微分、連鎖規則、偏微分(勾配、ヤコビアンとヘッセ行列)の概念、および行列の乗算と対角化について理解する必要があります。
ネットワークをトレーニングするときに実際に行っていることは、大規模な多次元関数を最適化しているため(ネットワーク内の各重みに関するエラー測定値を最小化しているため)、非線形数値最適化の手法を調査すると有益な場合があります。これは、ニューラルネットワークの外の大規模な文献ベースで広く研究されている問題であり、数値最適化に関する講義ノートがWebで利用可能です。はじめに、ほとんどの人は単純な勾配降下法を使用しますが、これは次のような微妙な方法よりもはるかに遅く、効果が低くなる可能性があります
基本的なアイデアを理解したら、隠しレイヤーでさまざまな「つぶし」機能を試し、さまざまな種類の正則化とさまざまな調整を加えて、学習をより速く進めることができます。「ベストプラクティス」の包括的なリストについては、このペーパーを参照してください。
この主題に関する最高の本の1つは、Chris Bishopのパターン認識のためのニューラルネットワークです。この段階ではかなり古くなっていますが、それでも優れたリソースであり、使用済みのコピーをオンラインで約30ドルで見つけることができます。彼の新しい本のニューラルネットワークの章、パターン認識と機械学習も非常に包括的です。特に優れた実装中心のチュートリアルについては、畳み込みネットワークと呼ばれる巧妙な種類のネットワークを実装する、 CodeProject.comのこちらのチュートリアルを参照してください。これは、視覚パターンの分類を学習するのに優れた方法で接続を制限します。
サポートベクターマシンやその他のカーネルメソッドは、何をしているのか知らずにそれらを適用でき、許容できる結果が得られることが多いため、非常に人気があります。一方、ニューラルネットワークは、多くの問題、特にコンピュータービジョンなどのドメインでの大規模な問題には依然として適していますが、慎重な調整を必要とする巨大な最適化問題です。
Code Projectの Anoop Madhusudananによるこの優れたシリーズを強くお勧めします。
彼は、それらを理解しやすい方法で理解するための基礎を説明し、ライブラリを使用して独自のライブラリを作成する方法を示しますbrainnet
。
ニューラルネットワークは、最近では一種のデクラスです。サポートベクターマシンとカーネルメソッドは、より多くのクラスの問題よりも逆伝播の方が適しています。ニューラルネットワークと遺伝的アルゴリズムは、現代の機械学習についてあまり知らない人々の想像力を捉えますが、最先端ではありません。
AIと機械学習について詳しく知りたい場合は、Peter NorvigのArtificial Intelligence:A Modern Approachを読むことをお勧めします。これは、AIと多くの最新テクノロジーに関する広範な調査です。また、歴史や古い手法についても取り上げ、AIと機械学習の基礎をより完全に理解できるようにします。
ただし、ニューラルネットワークは非常に簡単です。特に、適切な逆伝播ではなく、遺伝的アルゴリズムを使用して重みを決定する場合。
ラウル・ロハスの本はとても良いスタートです(無料でもあります)。また、ヘイキンの本の第3版は、ボリュームはありますが、非常によく説明されています。
http://www.ai-junkie.com/ann/evolved/nnt1.htmlは、多層伝播パーセプトロンの明確な紹介ですが、逆伝播アルゴリズムについては説明していません
また、一般的なAIに関する多くの記事を提供し、ニューラルネットワークに関する優れたテキストが含まれているgeneration5.orgもご覧ください。
あなたがお金を費やすことを気にしないなら、脳理論とニューラルネットワークのハンドブックは非常に良いです。多くの分野の研究をカバーする287の記事が含まれています。それは序論と理論から始まり、次にあなたの興味を最もよくカバーするために記事を通してパスをハイライトします。
最初のプロジェクトに関しては、コホーネンマップは分類に興味深いものです。音楽コレクションの隠れた関係を見つけたり、スマートロボットを構築したり、Netflix賞を解決したりできます。
私の研究中に使用された2冊の本:
FausettのFundamentals of Neural Networksは、簡単でわかりやすい入門用の教科書でした。
教科書「計算知能」は非常に役に立った。
Programming Collective Intelligenceは、検索およびランキングアルゴリズムのコンテキストでこれについて説明します。また、ここ(ch.4)で使用可能なコードでは、本で説明されている概念がPythonの例で示されています。
生物学を勉強することは良い出発点ではないと言った他の人々にも同意します...生物学には無関係な情報がたくさんあるからです。ニューロンがその機能を再現するためにどのように機能するかを理解する必要はありません。そのアクションをシミュレートするだけで済みます。Ray Kurzweilによる "How To Create A Mind"をお勧めします-これは、計算モデルに関連する生物学の側面に入ります(しきい値に達したときに複数の入力を組み合わせて発火して疑似ニューロンを作成する)が、次のような関係のないものは無視しますニューロンが実際にどのようにthouse入力を追加するか。(たとえば、しきい値と比較するために+と不等式を使用します)
また、本は「心の創造」についての本ではなく、階層的なパターン認識/新皮質にのみ焦点を当てていることも指摘しておきます。一般的なテーマは1980年代から話題になっているので、少し古い日付の同じ情報が含まれている古い本がたくさんあります。たとえば、ビジョンシステムは多層パターン認識機能であると述べた古いドキュメントを読んだことがあります。これは新皮質全体に当てはまると彼は主張する。また、彼の「予測」を細かく見てください-彼のハードウェアの見積もりはおそらくかなり正確ですが、彼は単純なタスクがどれほど複雑になる可能性があるかを過小評価していると思います(例:車の運転)。確かに、彼は多くの進歩を遂げてきました(そしてその一部でした)が、彼はまだ楽観的すぎると思います。AIカーが90%の時間を正常に1マイル走行できることは、人間ができる99.9 +%と比べて大きな違いがあります。少なくとも20年間AIが本当に私を運転してくれるとは思っていません...(実際にコースで「トレーニング」する必要があるBMWのトラック車は、実際に同じようにプレイしていないため、数えませんゲーム)
AIとは何か、どのようにモデル化できるかについての基本的な考えがすでにある場合は、より技術的なものにスキップすることをお勧めします。
実際のシミュレーターでのいくつかのニューラルネットワーク概念のアプリケーションについてすばやく学習したい場合は、http: //grey.colorado.edu/CompCogNeuro/indexにある「Computational Cognitive Neuroscience」と呼ばれる優れたオンラインブック(現在のwiki)があります。 php / CCNBook /メイン
この本は学校で教科書として使用されており、個々のニューロンから高次のエグゼクティブ機能まで、さまざまな脳領域を紹介しています。
さらに、各セクションには、すでにダウンしている宿題「プロジェクト」が追加されています。ダウンロードして、手順に従って、この章で説明したすべてをシミュレートするだけです。彼らが使用するソフトウェアであるEmergentは、少し洗練されていますが、信じられないほど堅牢です。これは、10年以上の作業の成果であると私は信じています。
私はこの前学期の学部のクラスでそれを通過しました、そしてそれは素晴らしかったです。すべてを段階的に説明します