「ニューラルネットワークは、人間の脳をモデル化するための最良の近似である」と何度も聞いていますが、ニューラルネットワークは脳をモデルにしたものであることがよく知られています。
私はこのモデルが単純化されたと強く疑っていますが、どれくらいですか?
バニラNNは人間の脳について知っているものとどれくらい違いますか?知っていますか?
「ニューラルネットワークは、人間の脳をモデル化するための最良の近似である」と何度も聞いていますが、ニューラルネットワークは脳をモデルにしたものであることがよく知られています。
私はこのモデルが単純化されたと強く疑っていますが、どれくらいですか?
バニラNNは人間の脳について知っているものとどれくらい違いますか?知っていますか?
回答:
人工ニューラルネットワーク(ANN)と生物ニューラルネットワーク(BNN)の違いは、探しているものによって異なります。私たちは皆、ANNが生物学的なものに触発されていることを知っています。
構造的な違い:
一般に、ニューラルネットワークは4つのコンポーネントで構成されています。
人工ニューラルネットワークの場合、初期状態と重みはランダムに割り当てられます。以下のためにしばらくニューロンとの接続の構造との間の接続の生物学的ニューラルネットワークの強みがランダムとして開始されません。初期状態は遺伝的に派生しており、進化の副産物です。
BNNでは、脳内の無数のニューロン間の相互接続から学習が行われます。これらの相互接続は、脳が新しい刺激を経験すると構成を変更します。変更は、既存の接続、古い未使用のものの除去の強化、新しい接続につながります。
ANNは固定トポロジを使用してゼロからトレーニングされます(BNNの場合はトポロジの変更を覚えておいてください)、これは解決される問題に依存します。現在のメカニズムはANNのトポロジを変更せず、重みはランダムに初期化され、最適化アルゴリズムを介して調整されます。
もう1つの対照は、ネットワーク内のニューロンの数です。典型的なANNは、数百または数千のニューロンで構成されています。人間の脳の生物の神経回路網は数十億から成ります。この数は動物ごとに異なります。
詳細はこちらとこちらをご覧ください。
それらはもう近くではなく、もうありません!
[人工]ニューラルネットは、以前に脳のニューロン間で観察された接続に漠然と触発されました。当初は、おそらく生物学的脳を近似するためにANNを開発する意図がありました。ただし、さまざまなタスクでのアプリケーションを見る現代の作業ANNは、動物の脳の機能モデルを提供するようには設計されていません。私の知る限り、例えばCNNやRNNモデルのつながりと重みの分布を調べて、生物学的な脳で何か新しいものを見つけたと主張する研究はありません。
人工神経回路網が脳の神経構造に触発されているという一般的な声明は、部分的にしか真実ではありません。
ノーベルト・ウィーナー、クロード・シャノン、ジョン・フォン・ノイマンなどが、その後電子脳と呼ばれるものを開発することにより、実用的なAIへの道を歩み始めたことは事実です。それも本当です
しかし、それは類似性の範囲です。MLP(多層パーセプトロン)やRNN(リカレントニューラルネットワーク)などの人工ネットワークの細胞は、脳ネットワークの細胞とは異なります。
パーセプトロンは、活性化するものの配列を最初に突き刺すソフトウェアであり、ニューロンの配列ではありませんでした。James Wattの遠心調速機がGaussによって数学的にモデル化されて以来、工学で一般的に使用されていた勾配を含む基本的なフィードバックの適用でした。何世紀にもわたって使用されてきた原理である逐次近似は、減衰マトリックスを増分的に更新するために採用されました。行列は、出力を生成するために同一のアクティベーション関数の配列を供給するベクトルで乗算されました。それでおしまい。
多層トポロジへの2番目の次元の投影は、ヤコビアンを使用して補正信号を生成できることにより可能になりました。パーセプトロンとネットワーク全体が満足のいく動作に収束します。パーセプトロンのシーケンスでは、各要素はレイヤーと呼ばれます。フィードバックメカニズムは、逆伝播と呼ばれるようになりました。
ネットワークを修正するために使用される数学は、地形の勾配を使用して水を見つける脱水盲人のようなものであるため、勾配降下と呼ばれ、それを行う問題も同様です。彼は新鮮な水を見つける前に局所的な最小値(低点)を見つけ、水分補給ではなく死に収束するかもしれません。
新しいトポロジは、CNNファミリのトポロジを作成するためにデジタル画像の復元、メールの並べ替え、およびグラフィックスアプリケーションで使用される既存の畳み込み作業の追加と、最適化基準の作成を結合するための1年目の化学からの化学平衡のようなものの巧妙な使用ですトポロジのGANファミリ。
Deepは、ほとんどのAIコンテキストにおける多数の単なる同義語です。高レベルのトポロジ(ベクトル行列積、アクティベーション、および畳み込み以上)の複雑さを推測する場合があります。
神経科学者が数十年前に哺乳類の脳組織で発見したものとこれらの深いネットワークがどれほど異なるかを認識している人々によって活発な研究が進行中です。そして、脳内の学習回路と神経化学がゲノムの観点から調査されているため、今日、より多くの差別化要因が発見されています。
[1]トポロジは皮肉にもアーキテクチャのサブセット(建物設計、ネットワークプロビジョニング、WWW分析、およびセマンティックネットワークの分野)ですが、同時に、トポロジはアーキテクチャよりもはるかにAIの根本的な中心です。制御システムの数学と効果的な実現
[2]化学の役割は、生態系と脳のレベルで複雑な方法で学習をリンクし、DNA情報の伝播に関連する社会的および生殖行動を学習するために不可欠かもしれません。さらに、長期および短期の学習では、脳の学習も2つの異なる機能に分割されます。
[3]生体ニューロンの活性化に対する入力信号のタイミングの影響はある程度理解されていますが、ニューロンの出力よりもはるかに影響が大きい場合があります。それはplacityと化学にも影響を与える可能性があり、オルガネラがその役割を果たす可能性があります。
概要
機械学習ライブラリが行うことは、バービー人形とケン人形が実際のカップルをシミュレートするのと同じくらい人間の脳をシミュレートすることです。
それにもかかわらず、ディープラーニングの分野では注目すべきことが起きており、自動運転車が私たちの生涯で完全に自動運転になっても驚かないでしょう。学生にも開発者になることはお勧めしません。コンピューターはおそらく人間よりもはるかに優れたコードを作成し、桁違いに速く、おそらくすぐに。一部のタスクは生物学が進化した種類のものではなく、コンピューターはほんの数十年の研究で人間の能力を超え、最終的には人間のパフォーマンスを数桁上回ります。