ディープラーニング：どの変数が重要であるかを知るにはどうすればよいですか？

ニューラルネットワークの用語（y =重み* x +バイアス）の観点から、どの変数が他の変数よりも重要であるかをどのようにして知ることができますか？

10個の入力を持つニューラルネットワーク、20個のノードを持つ1つの隠れ層、1つのノードを持つ1つの出力層があります。どの入力変数が他の変数よりも影響力があるかを知る方法がわかりません。私が考えているのは、入力が重要な場合、最初のレイヤーへの重みの高い接続がありますが、重みは正または負になる可能性があるということです。したがって、入力の重みの絶対値を取得し、それらを合計することができます。より重要な入力は、より高い合計を持ちます。

したがって、たとえば、髪の長さが入力の1つである場合、次のレイヤーの各ノードに1つの接続、つまり20の接続（したがって20の重み）が必要です。各重量の絶対値を取り、それらを合計することはできますか？

あなたが説明することは、実際、ニューラルネット入力の重要性を定量化する1つの標準的な方法です。ただし、これが機能するためには、入力変数を何らかの方法で正規化する必要があることに注意してください。そうしないと、値が大きくなる傾向がある入力変数に対応する重みが比例して小さくなります。たとえば、変数の平均を減算し、標準偏差で除算するなど、さまざまな正規化スキームがあります。変数がそもそも正規化されていない場合は、変数の標準偏差を掛けるなど、重要度の計算で重み自体の修正を実行できます。

。$I_i = \sigma_i\sum\limits_{j = 1}^{n_\text{hidden}}\left|w_{ij}\right|$

ここで標準偏差であるI、番目の入力I IれるI番目の入力の重要性、wはI jが接続重みであり、I番目に入力jの第一層に隠れノード番目、及びnは隠されたが数であります最初の層の隠されたノードの。$\sigma_i$$i$$I_i$$i$$w_{ij}$$i$$j$$n_\text{hidden}$

別の手法は、問題の入力に関してニューラルネットマッピングの導関数を使用し、入力全体で平均化することです。

$I_i = \sigma_i\left\langle\left|\frac{dy}{dx_i}\right|\right\rangle$

ここで、はi番目の入力、yは出力であり、期待値は入力xのベクトルに関して取得されます。$x_i$$i$$y$$\mathbf{x}$

やや強引だが効果的なソリューション：

入力機能の1つに定数を使用して、入力を「ドロップ」してみてください。次に、考えられる各ケースについてネットワークをトレーニングし、精度がどのように低下​​するかを確認します。重要な入力は、全体の精度に最大の利点を提供します。

$10$$5$

浅いネットワークの場合、これは変数の重要度を定義する例を示します。

本当に深いネットワークの場合、人々は変数の重要性についてあまり語らない。入力は画像のピクセルなどの生レベルの特徴であるためです。

これについて見つけアイブそのほとんどが精巧に上場されているこのサイトより具体的にあなたが見ることができ、この。線形モデルのみについて話す場合、重みを正規化して解釈可能にする必要がありますが、これでも上記のリンクで誤解を招く可能性があります。入力の重要性（Garson、Gedeon、Milne）を解釈するために重みの複雑な関数を作成しようとした人もいますが、これでも誤解を招く可能性があります。一般的に、結果を一粒の塩で解釈することをお勧めします。

@rhadarの答えに同意しますが、その入力の平均値を使用して定数を使用する代わりにそれを追加し、ネットワークを再訓練することを忘れないでください。

PS：申し訳ありませんが、リンクを投稿したりコメントを投稿したりすることはできません。

あなたが持っていることを考えると：

1. 分類タスク
2. 訓練されたモデル
3. 正規化された機能（0〜1）

誰もが試しましたか：

1. バイアスをゼロにする
2. 毎回、1つのホットベクトルをフィーチャとして渡します。1つを除くすべてのフィーチャはゼロです。
3. 出力を調べます。

その場合、この出力はネットワーク内のこの1信号のパスの出力も表すため、出力はフィーチャの「重要性」を指定する数値になると思います。

これは、迷路内で電球を1つだけ照明し、出口から出る光を測定するようなものです。