たたみ込みの仕組みは理解していますが、1Dたたみ込みが2Dデータにどのように適用されるのかわかりません。
この例では、2Dデータの2Dたたみ込みを確認できます。しかし、1Dコンボリューションだったらどうなるでしょうか?同じようにスライドする1Dカーネルだけですか?そして、ストライドが2だったとしたら?
ありがとうございました!
たたみ込みの仕組みは理解していますが、1Dたたみ込みが2Dデータにどのように適用されるのかわかりません。
この例では、2Dデータの2Dたたみ込みを確認できます。しかし、1Dコンボリューションだったらどうなるでしょうか?同じようにスライドする1Dカーネルだけですか?そして、ストライドが2だったとしたら?
ありがとうございました!
回答:
ましょうベクター(例えば、単語ベクトル)のシーケンスです。たたみ込み層を適用することは、すべてのnグラムに同じ重み行列を適用することと同じです。ここで、はフィルターの高さです。たとえば、場合、次のように視覚化できます。
もう少し数学的な説明については、Ji Young Lee、Franck Dernoncourtをチェックしてください 。「リカレントおよび畳み込みニューラルネットワークを使用した逐次的なショートテキスト分類」。NAACL 2016。セクション2.1.2:
1Dたたみ込みは、フィルター次元でのダウンサンプリングとアップサンプリングのたたみ込みネットワークで使用されます。たたみ込みネットワークは、ネットワークを通過するときにこれらのフィルターマップを構築します。これらを3番目の次元と考えることができます。フィルターマップディメンションの通常のベースケースのサイズは3です。これは、RGBイメージがネットワークを通過することが多いためです。
これらの1Dたたみ込みは、ダウンサンプリング、いくつかの操作の実行、および同じ次元へのアップサンプリングに役立ちます。これは、パフォーマンス上の理由から非常に役立ちます。
本当に直感的に理解するには、以下を読むことをお勧めします。
ネットワーク内ネットワーク-http://arxiv.org/abs/1312.4400
畳み込みをさらに深くする-https ://www.google.com/url? sa= t& source= web& rct= j& url= http://www.cs.unc.edu/~wliu/papers/GoogLeNet.pdf&ved=0ahUKEwi89oeuxqnLAhXhuIMKHZrTCe0QFggkMAE&usg=AFQjCnGenEnc rrECNQ72wI3PH1Qw&sig2 = VhjfaMvuskNIDVKhFfNiqQ