ニューラルネットワークの重みから何を学ぶことができますか？

私はニューラルネットワークに非常に慣れていないため、いくつかのことを理解しようとしています。したがって、100個の入力、200個のノードを持つ非表示層、および32個の出力を持つニューラルネットワークに遭遇したとします。また、ニューラルネットワークのこの特定のインスタンスの「発見者」であるあなたが、個々のニューロンの重みを読み取ることができるとしましょう。その機能について何を理解できますか？

1）ニューラルネットワーク内に含まれているアルゴリズムまたはロジックを特定できますか？すべての可能な入力をフィードし、それが生成する出力を調査する以外は。

2）ニューラルネットワークの接続に関する情報が提供された場合（ネットワークが完全に接続されていない可能性があります）、上記の質問を解決する方が簡単でしょうか？

場合によります。ニューラルネットワークの重みは、いくつかの洞察を得るためにグラフ化または視覚化できます。これは、ニューラルネットワークが視覚処理で機能する場合に特に役立ちます。ニューラルネットワークへの低レベルの入力を「導出」して、ニューラルネットワークの重みを逆方向に処理することにより、高レベルの特定のニューロンを「発火」させることができます。特定のニューロンを最大限に興奮させるパターン、および結果のグラフ化。これの良い例は、猫や人間の顔などの高レベルのパターンを見つけるために自己組織化した、自己訓練された視覚ネットワークにおけるGoogleによる最近の画期的な結果です。[1]、[2]、[3]

これは「特徴検出」とも呼ばれ、ノーベル賞を受賞した研究（1981 Hubel / Weisel）により、実際の脳ニューロンがさまざまな程度で同様に機能することが示されています。この領域では、生物学的システムと人工システムの両方で活発な研究が行われています。

ニューラルネットの重みを分析する別の方法は、ニューラルネットワークに影響を与える要因（入力）と影響を与えない要因を結論付けることです。たとえば、ニューラルネットが株価の予測に使用され、GDP、金価格、DJIA（インデックス）、金利など、さまざまな経済変数に関連するさまざまな入力があるとします。ネットワークが（成功！）何かを予測するようにトレーニングされた後（将来の価格など）、入力変数のそれぞれが最終的な予測にどの程度の影響を与えるかを決定できます。

また、入力と出力の間の基本的な負または正の相関を決定することもできます。このように、ニューラルネットワークは、因子分析などの統計的手法と非常によく似た方法で使用できます。

したがって、答えは「絶対にあります」ですが、ニューラルネットワークの「アルゴリズム」を、アルゴリズムの典型的な表現、つまりコード以外のグラフィカルな表現または「人間が読める」表現を介して明らかにするさまざまな方法があるという意味でのみです。しかし、人間が読める方法でニューラルネットワークの重みを表現し、新しい有用な表現を見つけることは、活発な研究分野です。

[1] Googleは仮想脳テクノロジーを活用してテクノロジーレビューを実施

[2] Googleの人工脳が有線の猫の動画を見つけることを学ぶ

[3] 猫を識別するコンピュータはいくつですか？16,000 NYT

ニューラルネットワーク内に含まれているアルゴリズムまたはロジックを特定できますか？すべての可能な入力をフィードし、それが生成する出力を調査する以外は。

いいえ、意味がないと思います。これは、コンピュータプログラムの目的を評価するために、コンピュータプログラムの各バイトのビットを調べるのと同じです。意味が必要それを決定ですが、それを得るには、入力と出力を調べるか、実際のオペコードを評価あります。

個々のニューロンの重みには意味がありません。それらの重みが答えに組み合わされたときにのみ、それらが意味を持つようになります。

おそらく、全体的な構造とニューロン構造の相対的な重みのパターンを観察することで、ニューラルネットのトレーニング方法を確認できます。