ニューラルネットを行列として表すことは有益ですか?


9

ニューラルネットワークは有向重み付きグラフです。これらは(スパース)行列で表すことができます。そうすることで、ネットワークのいくつかのエレガントなプロパティを公開できます。

この手法はニューラルネットワークを調べるのに役立ちますか?


これは相互検証されたSE用です。
フランクダーノンコート16

こんにちは。以下の回答は役に立ちましたか?はいの場合は、1つを受け入れることを検討してください:)
Dawny33

回答:


4

大きなANNの場合、実際には「スパースマトリックス形式」に相当するものが使用されます。

与えられた別の回答で述べられていることとは対照的に、ANNをグラフと見なすことは、実際にはあまり購入しません。2つの理由があります。

  1. 逆伝播アルゴリズムは、行列演算の観点から便利に定義できます。このページは、読みやすく包括的な説明を提供します。

  2. すべての実数値行列はグラフとして表すことができますが、その逆は明らかに当てはまりません。したがって、ANNをグラフデータ構造の特殊なケースと見なすことができるのは事実ですが、その特殊化を行列形式で明示的にする方が効率的です。


4

それはあなたが扱っているニューラルネットワークのタイプに依存します。

中規模のニューラルネットの場合、行列アプローチは、迅速な計算やエラーの逆伝播を行うための非常に優れた方法です。一部のニューラルネットのスパースアーキテクチャを理解するためにスパースマトリックスを利用することもできます。

ただし、非常に大規模なニューラルネットの場合、行列計算を使用すると計算量が非常に多くなります。したがって、目的やアーキテクチャに応じて、グラフベースのストアなどの関連メソッドが使用されます。


1

行列表現は、シリコンでニューラルネットワークを実装するのに役立ちます。

しかし、経験的にニューラルネットワークを調べるには、シナプスの重みの値を画像またはビデオとして視覚化するのが良い場合があります。JasonYosinskiによる畳み込みニューラルネットワーク調査。ネットワークには、肩を検出するだけの「フィルター」があるようです。肩のパターンを認識したときにだけ開くロックのようなものです。ここに画像の説明を入力してください

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.