CNNで完全に接続されたレイヤーは何をしますか?


19

畳み込み層とプーリング層は理解していますが、CNNで完全に接続された層の理由はわかりません。前のレイヤーが出力レイヤーに直接接続されていないのはなぜですか?

回答:


31

畳み込み層からの出力は、データの高レベルの特徴を表しています。その出力は平坦化されて出力層に接続されますが、完全に接続された層を追加することは、これらの機能の非線形の組み合わせを学習する(通常)安価な方法です。

本質的に、畳み込み層は意味のある低次元のやや不変の特徴空間を提供し、完全に接続された層はその空間で(おそらく非線形)関数を学習しています。

注:FCレイヤーからConvレイヤーへの変換は簡単です。このページで説明しているように、これらの上位FCレイヤーをConvレイヤーに変換すると便利です。


ジェームズ、答えてくれてありがとう。それで、逆伝播で接続されたレイヤー間の重みを学習しています、それは正しいですか?
ジェフ

はい、エラーは完全に接続された層を介して畳み込み層とプーリング層に逆伝播します。
jamesmf

OK。したがって、fc層の目的は非線形PCAのように考えることができ、「良い」特徴を修正し、重みの完全なセットを学習することで他の特徴を減らします。
ジェフ

1
ほとんどの場合、機能を非線形に組み合わせることができます。すべての機能は優れている場合がありますが(「死んだ」機能がない場合)、これらの機能の組み合わせはさらに優れている場合があります。
jamesmf

@jamesmf:デッド機能とは何ですか?そして、あなたが話している機能の組み合わせは何ですか?非線形結合とはどういう意味ですか?cnnで完全に接続されたレイヤーの使用は必須ですか?または、精度に悪影響を与えずに置き換えることができますか?事前に感謝します。私が尋ねた質問について直観を与えることができれば感謝します。
リカ

4

私がすることで、この答えを見つけ アニル・シャルマQuoraの役に立ちます。

ネットワーク全体(分類用)を2つの部分に分割できます。

  • 特徴抽出:SVMなどの従来の分類アルゴリズムでは、分類を機能させるためにデータから特徴を抽出していました。畳み込み層は、特徴抽出の同じ目的を果たしています。CNNはデータのより適切な表現をキャプチャするため、機能エンジニアリングを行う必要はありません。

  • 分類:特徴抽出後、データをさまざまなクラスに分類する必要があります。これは、完全に接続された(FC)ニューラルネットワークを使用して行うことができます。完全に接続されたレイヤーの代わりに、SVMのような従来の分類器も使用できます。しかし、通常、FCレイヤーを追加して、モデルをエンドツーエンドでトレーニング可能にします。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.