ニューラルネットワークでのボトルネックレイヤーの意味


14

私はFaceNetの論文を読んでいて、導入部の3番目の段落で次のように述べています。

ディープネットワークに基づく以前の顔認識アプローチは、一連の既知の顔IDでトレーニングされた分類レイヤーを使用し、中間のボトルネックレイヤーを、トレーニングで使用されるIDセットを超えて認識を一般化するために使用される表現として採用します。

中間のボトルネックレイヤーとは何を意味しているのでしょうか。


1
計算回数を減らし、前のレイヤーの変換を行うために使用されます。
kxm silence 2017

回答:


16

ボトルネックレイヤーは、前のレイヤーと比較してノードが少ないレイヤーです。これを使用して、次元を削減した入力の表現を取得できます。この例として、非線形次元削減のためのボトルネックレイヤーを備えたオートエンコーダーの使用があります。

見積もりについての私の理解は、以前のアプローチではディープネットワークを使用して顔を分類していることです。次に、このネットワークの最初のいくつかのレイヤーを、入力からいくつかの中間レイヤー(たとえば、ノードを含む番目のレイヤー)まで取ります。このサブネットワークは、入力空間から次元のベクトル空間へのマッピングを実装します。番目の層は、ボトルネック層であるので、内のノードの活性化のベクトル番目の層は、入力の低次元の表現を与えます。元のネットワークは、訓練されていない新しいIDを分類するために使用することはできません。しかし、n k n k k k k k kknknkkkkthレイヤーは、一般的に顔の良い表現を提供します。したがって、新しいアイデンティティを学習するために、新しい分類子レイヤーを番目のレイヤーの上に積み上げてトレーニングすることができます。または、新しいトレーニングデータをサブネットワークを介してフィードして番目のレイヤーから表現を取得し、これらの表現を他の分類器にフィードすることができます。kk

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.