どの時点で多層ニューラルネットワークをディープニューラルネットワークとして分類し始めるか、または別の方法で「ディープニューラルネットワークの最小層数は?」
どの時点で多層ニューラルネットワークをディープニューラルネットワークとして分類し始めるか、または別の方法で「ディープニューラルネットワークの最小層数は?」
回答:
「ディープ」はマーケティング用語です。したがって、多層ニューラルネットワークをマーケティングする必要があるときにいつでも使用できます。
「ディープ」
初期のディープニューラルネットワークの1つには、密に接続された3つの隠れ層があります(Hinton et al。(2006))。
「非常に深い」
2014年、「非常に深い」VGGネットワークがSimonyan等になりました。(2014) 16以上の隠れ層で構成されています。
「非常に深い」
2016年に「非常に深い」残留ネットワークHeら。(2016) 50から1,000以上の隠れ層で構成されています。
文献によると、
Schmidhuber、J。(2015)。「ニューラルネットワークの深層学習:概要」。ニューラルネットワーク。61:85–117。arXiv:1404.7828読み放題。doi:10.1016 / j.neunet.2014.09.003。
https://en.wikipedia.org/wiki/Deep_learning
と言われている
浅い学習と深い学習を分ける深さのしきい値について普遍的に合意されたものはありませんが、この分野のほとんどの研究者は、深層学習には複数の非線形層があり(CAP> 2)、シュミットフーバーはCAP> 10を非常に深い学習であると考えています
入力から出力への一連の変換は、クレジット割り当てパスまたはCAPです。フィードフォワードニューラルネットワークの場合、CAPの深さ、つまりネットワークの深さは、隠れ層の数に1を加えたものです。