ディープニューラルネットワークの最小層数


15

どの時点で多層ニューラルネットワークをディープニューラルネットワークとして分類し始めるか、または別の方法で「ディープニューラルネットワークの最小層数は?」


隠れた層の1つは深いネットワークです
ヒュー

回答:


19

「ディープ」はマーケティング用語です。したがって、多層ニューラルネットワークをマーケティングする必要があるときにいつでも使用できます。


15

「ディープ」
初期のディープニューラルネットワークの1つには、密に接続された3つの隠れ層があります(Hinton et al。(2006))。

ここに画像の説明を入力してください

「非常に深い」
2014年、「非常に深い」VGGネットワ​​ークがSimonyan等になりました。(2014) 16以上の隠れ層で構成されています。

ここに画像の説明を入力してください

「非常に深い」
2016年に「非常に深い」残留ネットワークHeら。(2016) 50から1,000以上の隠れ層で構成されています。 ここに画像の説明を入力してください


11

文献によると、

Schmidhuber、J。(2015)。「ニューラルネットワークの深層学習:概要」。ニューラルネットワーク。61:85–117。arXiv:1404.7828読み放題。doi:10.1016 / j.neunet.2014.09.003。

https://en.wikipedia.org/wiki/Deep_learning

と言われている

浅い学習と深い学習を分ける深さのしきい値について普遍的に合意されたものはありませんが、この分野のほとんどの研究者は、深層学習には複数の非線形層があり(CAP> 2)、シュミットフーバーはCAP> 10を非常に深い学習であると考えています

入力から出力への一連の変換は、クレジット割り当てパスまたはCAPです。フィードフォワードニューラルネットワークの場合、CAPの深さ、つまりネットワークの深さは、隠れ層の数に1を加えたものです。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.