1
CNNの逆伝播
次のCNNがあります。 サイズ5x5の入力画像から始めます 次に、2x2カーネルとストライド= 1を使用して畳み込みを適用し、サイズ4x4の機能マップを作成します。 次に、ストライド= 2の2x2最大プーリングを適用します。これにより、機能マップがサイズ2x2に縮小されます。 次に、ロジスティックシグモイドを適用します。 次に、2つのニューロンを持つ1つの完全に接続されたレイヤー。 そして出力層。 簡単にするために、フォワードパスを既に完了し、δH1= 0.25とδH2= -0.15を計算したと 仮定します。 したがって、完全なフォワードパスと部分的に完了したバックワードパスの後、ネットワークは次のようになります。 次に、非線形層（ロジスティックシグモイド）のデルタを計算します。 δ11=(0.25∗0.61+−0.15∗0.02)∗0.58∗(1−0.58)=0.0364182δ12=(0.25∗0.82+−0.15∗−0.50)∗0.57∗(1−0.57)=0.068628δ21=(0.25∗0.96+−0.15∗0.23)∗0.65∗(1−0.65)=0.04675125δ22= （0.25 ∗ − 1.00 + − 0.15 ∗ 0.17 ）∗ 0.55 ∗ （1 − 0.55 ）= − 0.06818625δ11=（0.25∗0.61+−0.15∗0.02）∗0.58∗（1−0.58）=0.0364182δ12=（0.25∗0.82+−0.15∗−0.50）∗0.57∗（1−0.57）=0.068628δ21=（0.25∗0.96+−0.15∗0.23）∗0.65∗（1−0.65）=0.04675125δ22=（0.25∗−1.00+−0.15∗0.17）∗0.55∗（1−0.55）=−0.06818625 \begin{align} &\delta_{11}=(0.25 * 0.61 + -0.15 * 0.02) * 0.58 * (1 - 0.58) = 0.0364182\\ …