たたみ込み層の複数のフィルターは、トレーニング中に同じパラメーターを学習しませんか?


11

私が学んだことに基づいて、CNNのConv Layerで複数のフィルターを使用して、さまざまな特徴検出器を学習します。しかし、これらのフィルターは同様に適用される(つまり、スライドして入力の領域に乗算する)ため、トレーニング中に同じパラメーターを学習するだけではないでしょうか。したがって、複数のフィルターを使用すると冗長になりますか?

回答:


6

私はこの事実を理解するのと同じように混乱しました。初心者には混乱が生じます。これは、この本では、フィルターが異なることを明示的に述べていないためです。

これらのフィルターは同様に適用されるため

フィルターは同様に適用されますが、行列のセルの値は他のフィルターとは異なります。そのため、画像からさまざまな特徴を抽出します。

彼らはトレーニング中に同じパラメータを学ぶだけではないでしょうか

いいえ、現在フィルターが異なるため、同じパラメーターを学習しません。したがって、複数のフィルターの使用は冗長ではありません。


答えてくれてありがとう。正確に何が違うのですか?トレーニング中に異なるパラメーターを確実に学習させるにはどうすればよいですか?初期値ですか?
cjbayron

1
各セルの値が異なると、値が異なります。傾斜線を検出する人もいれば、45度の曲線を検出する人もいるので、すべて異なります。
アイアンマン2018年

1
はい、値が異なるとフィルターが異なる機能を検出することを理解しています。しかし、これらのフィルターはトレーニング中にどのように異なる学習を行うのでしょうか?
cjbayron

3
フィルターがすべて同じで始まる場合、それらはそのままです。ランダムな初期化は、彼らが別の方法で開始し、そこから別のことを学ぶことを意味します。詳細については、ニューラルネットワークで対称性の破れを調べてください。
アーロン

4

私はこの質問への答えを見つけました:https : //www.quora.com/Why-does-each-filter-learn-different-features-in-a-convolutional-neural-network

ここで言う:「...(最適化)アルゴリズムは、2つのフィルターの重みとバイアスが類似している場合、損失が減少しないことを検出します。そのため、損失を減らすために、いずれかのフィルター(重みとバイアス)を最終的に変更します。新機能を学ぶ。」

回答ありがとうございます。感謝します :)

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.