人工ニューラルネットワークと生物学的ニューラルネットワークはどのように類似しており、異なっていますか?


16

「ニューラルネットワークは、人間の脳をモデル化するための最良の近似である」と何度も聞いていますが、ニューラルネットワークは脳をモデルにしたものであることがよく知られています。

私はこのモデルが単純化されたと強く疑っていますが、どれくらいですか?

バニラNNは人間の脳について知っているものとどれくらい違いますか?知っていますか?


1
いい質問ですね。言うことができるものの多くは、ここで言われてpsychology.stackexchange.com/questions/7880/...
アンドリュー・バトラー

1
これはai.SEで回答された質問であるべきだと思いました。また、私は興味があります!
アンドレアスStorvik Strauman

人工ニューロンと生体ニューロンは非常に似ています。それらの接続の形状もかなり似ていますが、生物学的ニューロンは相互作用に多くの合併症がありますが、それらはほとんど知られていないようです。ただし、これらのニューロンの使用法は大きく異なります。つまり、それらがネットワークに結合されて使用される理由です。ANNは、関数を近似し、それによって問題を解決するために使用されます。神だけが、なぜBNNが存在するのか、そもそもBNNの目的は何かを知っています。そうではなく、非常に興味深い質問、私は思う...
Evgeniy

回答:


10

人工ニューラルネットワーク(ANN)と生物ニューラルネットワーク(BNN)の違いは、探しているものによって異なります。私たちは皆、ANNが生物学的なものに触発されていることを知っています。
構造的な違い: 一般に、ニューラルネットワークは4つのコンポーネントで構成されています。
enter image description here

  • ニューロン
  • トポロジ:ニューロン間の接続パス
  • 重り
  • 学習アルゴリズム

人工ニューラルネットワークの場合、初期状態と重みはランダムに割り当てられます。以下のためにしばらくニューロンとの接続の構造との間の接続の生物学的ニューラルネットワークの強みがランダムとして開始されません。初期状態は遺伝的に派生しており、進化の副産物です
BNNでは、脳内の無数のニューロン間の相互接続から学習が行われます。これらの相互接続は、脳が新しい刺激を経験すると構成を変更します。変更は、既存の接続、古い未使用のものの除去の強化、新しい接続につながります
ANNは固定トポロジを使用してゼロからトレーニングされます(BNNの場合はトポロジの変更を覚えておいてください)、これは解決される問題に依存します。現在のメカニズムはANNのトポロジを変更せず、重みはランダムに初期化され、最適化アルゴリズムを介して調整されます。

もう1つの対照は、ネットワーク内のニューロンの数です。典型的なANNは、数百または数千のニューロンで構成されています。人間の脳の生物​​の神経回路網は数十億から成ります。この数は動物ごとに異なります。
詳細はこちらこちらをご覧ください


1
接続強度は遺伝的に導出されていますか?確かですか?
DuttaA

2
最初に、新生児のつながりの強さは遺伝的に決定されます。その後、それらは主に外部刺激に基づいて変化します。
ウグネス

2
人工ニューラルネットワークは固定トポロジに制限されません(NEAT、TWEANNなどを参照)
アンドリューバトラー

1
画像認識用のANNには、間違いなく数千個以上のニューロンがあります。おそらく何百万人。
-maaartinus

私は、今日見つかった一般的なANNに基づいて、最高のANN​​を考慮せずに回答を書きました。テクノロジーの改善により、ANNも改善されています。BNNに近づきます。AndrewButlerとmaaartinusに感謝します。
ウグネス

5

それらはもう近くではなく、もうありません!

[人工]ニューラルネットは、以前に脳のニューロン間で観察れた接続に漠然と触発されました。当初は、おそらく生物学的脳を近似するためにANNを開発する意図がありました。ただし、さまざまなタスクでのアプリケーションを見る現代の作業ANNは、動物の脳の機能モデルを提供するようには設計されていません。私の知る限り、例えばCNNやRNNモデルのつながりと重みの分布を調べて、生物学的な脳で何か新しいものを見つけたと主張する研究はありません。


笑。同意する。彼らが共通しているのはこれです。それらは最も抽象的な意味での回路です。他にも一つあるかもしれません。自然はたくさんのものを試し、私たちは現れました。その後、たくさんのものを試し、XNNが出現しました(XはA、C、またはNのいずれかです)。両方のネットは、多数の障害の結果です。
-FauChristian

3

人工神経回路網が脳の神経構造に触発されているという一般的な声明は、部分的にしか真実ではありません。

ノーベルト・ウィーナー、クロード・シャノン、ジョン・フォン・ノイマンなどが、その後電子脳と呼ばれるものを開発することにより、実用的なAIへの道を歩み始めたことは事実です。それも本当です

  • 人工ネットワークにはアクティベーションと呼ばれる機能があり、
  • 生体ニューロンのような多対多の関係で配線されている
  • 最適な動作を学習するように設計されていますが、

しかし、それは類似性の範囲です。MLP(多層パーセプトロン)やRNN(リカレントニューラルネットワーク)などの人工ネットワークの細胞は、脳ネットワークの細胞とは異なります。

パーセプトロンは、活性化するものの配列を最初に突き刺すソフトウェアであり、ニューロンの配列ではありませんでした。James Wattの遠心調速機がGaussによって数学的にモデル化されて以来、工学で一般的に使用されていた勾配を含む基本的なフィードバックの適用でした。何世紀にもわたって使用されてきた原理である逐次近似は、減衰マトリックスを増分的に更新するために採用されました。行列は、出力を生成するために同一のアクティベーション関数の配列を供給するベクトルで乗算されました。それでおしまい。

多層トポロジへの2番目の次元の投影は、ヤコビアンを使用して補正信号を生成できることにより可能になりました。パーセプトロンとネットワーク全体が満足のいく動作に収束します。パーセプトロンのシーケンスでは、各要素はレイヤーと呼ばれます。フィードバックメカニズムは、逆伝播と呼ばれるようになりました。

ネットワークを修正するために使用される数学は、地形の勾配を使用して水を見つける脱水盲人のようなものであるため、勾配降下と呼ばれ、それを行う問題も同様です。彼は新鮮な水を見つける前に局所的な最小値(低点)を見つけ、水分補給ではなく死に収束するかもしれません。

新しいトポロジは、CNNファミリのトポロジを作成するためにデジタル画像の復元、メールの並べ替え、およびグラフィックスアプリケーションで使用される既存の畳み込み作業の追加と、最適化基準の作成を結合するための1年目の化学からの化学平衡のようなものの巧妙な使用ですトポロジのGANファミリ。

Deepは、ほとんどのAIコンテキストにおける多数の単なる同義語です。高レベルのトポロジ(ベクトル行列積、アクティベーション、および畳み込み以上)の複雑さを推測する場合があります。

神経科学者が数十年前に哺乳類の脳組織で発見したものとこれらの深いネットワークがどれほど異なるかを認識している人々によって活発な研究が進行中です。そして、脳内の学習回路と神経化学がゲノムの観点から調査されているため、今日、より多くの差別化要因が発見されています。

  • 神経可塑性...樹状突起と公理の成長、死、リダイレクト、およびその他のモーフィングによる回路トポロジの変化
  • トポロジの複雑さ...多数の公理は相互作用せずに交差し、意図的にクロストーク(独立)から保護されます。これは、それらを接続させるのが不利になるためです[注1]
  • 化学シグナル伝達...哺乳類の脳には、回路に局所的な影響を与える神経伝達物質および神経調節化合物が多数あります[注2]
  • オルガネラ...生細胞には多くの下位構造があり、いくつかのタイプはニューロンの信号伝達と複雑な関係があることが知られています
  • まったく異なる形の活性化...一般的な人工ニューラルネットの活性化は、範囲とドメインの両方で順序スカラーを使用した単純な関数です...哺乳類のニューロンは、入力信号の振幅と相対的な時間的近接の両方の関数として動作します[注3]

[1]トポロジは皮肉にもアーキテクチャのサブセット(建物設計、ネットワークプロビジョニング、WWW分析、およびセマンティックネットワークの分野)ですが、同時に、トポロジはアーキテクチャよりもはるかにAIの根本的な中心です。制御システムの数学と効果的な実現

[2]化学の役割は、生態系と脳のレベルで複雑な方法で学習をリンクし、DNA情報の伝播に関連する社会的および生殖行動を学習するために不可欠かもしれません。さらに、長期および短期の学習では、脳の学習も2つの異なる機能に分割されます。

[3]生体ニューロンの活性化に対する入力信号のタイミングの影響はある程度理解されていますが、ニューロンの出力よりもはるかに影響が大きい場合があります。それはplacityと化学にも影響を与える可能性があり、オルガネラがその役割を果たす可能性があります。

概要

機械学習ライブラリが行うことは、バービー人形とケン人形が実際のカップルをシミュレートするのと同じくらい人間の脳をシミュレートすることです。

それにもかかわらず、ディープラーニングの分野では注目すべきことが起きており、自動運転車が私たちの生涯で完全に自動運転になっても驚かないでしょう。学生にも開発者になることはお勧めしません。コンピューターはおそらく人間よりもはるかに優れたコードを作成し、桁違いに速く、おそらくすぐに。一部のタスクは生物学が進化した種類のものではなく、コンピューターはほんの数十年の研究で人間の能力を超え、最終的には人間のパフォーマンスを数桁上回ります。


車の運転とコンピューターのプログラミングには大きな違いがあります。車を運転することは明確に定義されたタスクなので、それを関数近似問題として表現する方法があるかもしれません。それがニューラルネットワークが鳴り響く理由です。入力に基づいて車のコントロールを使用する機能は存在し近似。コンピューターのプログラミングは実際にはタスクではありませんが、状況を考えながら行う一連の決定です。トラブルを問題に変えることは芸術です。
エフゲニー
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.