バックプロパゲーションアルゴリズムを使用してニューラルネットワークのエラーを導出する方法

Andrew Ngによるこのビデオから5:00頃

ここに画像の説明を入力してください

とはどのように導出されますか？実際、はどういう意味ですか？はyと比較して取得されますが、非表示レイヤーの出力ではそのような比較はできませんよね？ $\delta_3$ $\delta_2$ $\delta_3$ $\delta_4$

machine-learning neural-networks backpropagation

— qed
ソース

ビデオリンクが機能していません。更新するか、コースへのリンクを提供してください。ありがとう。

— MadHatter 2017年

に関するあなたの質問に答えますが、あなたの質問がより大きな質問のサブ質問であることを思い出してください。 $\delta_i^{(l)}$

\nabla_{i j}^{(l)} = \sum_{k} θ_{k i}^{(l + 1)} δ_{k}^{(l + 1)} * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \sum_k \theta_{ki}^{(l+1)}\delta_k^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

ニューラルネットワークのステップに関する注意：

ステップ1：順方向伝搬（計算） $a_{i}^{(l)}$
ステップ2a：逆伝播：エラー計算 $\delta_{i}^{(l)}$
ステップ2b：後方伝播：勾配の計算、Jの（）エラー使用と、 $\nabla_{ij}^{(l)}$ $\Theta$ $\delta_{i}^{(l+1)}$ $a_{i}^{(l)}$
ステップ3：勾配降下：勾配を使用して新しいを計算する $\theta_{ij}^{(l)}$ $\nabla_{ij}^{(l)}$

まず、理解するためにどのようなある $\delta_i^{(l)}$ 、彼らは何を表しているかと、なぜアンドリューNGそれが彼らの話を、私たちは、これらすべての計算を行う理由アンドリューが実際にそのpointandでやっているかを理解する必要があります。彼は、勾配を計算していますの $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$ 勾配降下アルゴリズムで使用されます。

勾配は次のように定義されます。

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

この式を直接解決することはできないため、2つのマジックトリックを使用して変更し、実際に計算できる式に到達します。この最終的に使用可能な式は次のとおりです。

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

この結果に到達するための最初のマジックトリックは、を使用しての勾配を書き込めることです。 $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$ $\delta_i^{(l)}$

付（Lのみインデックスに）定義された方法：

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

δ_{i}^{(L)}

$\delta_i^{(L)}$

δ_{私}^{（ L ）} = \frac{\partial C}{\partial z_{私}^{（ l ）}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

次に、他のインデックスを定義するために、と間の関係を使用して、SECOND MAGIC TRICK、 $\delta_i^{(l)}$ $\delta_i^{(l+1)}$

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

そして、私が言ったように、すべての用語を知っている式をようやく書くことができます：

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1 ）}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

最初のマジックトリックのデモンストレーション： $\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

以下を定義しました：

\nabla_{私 j}^{（ l ）} = \frac{\partial C}{\partial θ_{私 j}^{（ l ）}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

より高い次元のチェーンルール（チェーンルールのこのプロパティを実際に読み取る必要があります）を使用すると、次のように記述できます。

\nabla_{私 j}^{（ l ）} = \underset{k}{Σ} \frac{\partial C}{\partial z_{k}^{（ l ）}} * \frac{\partial z_{k}^{（ l ）}}{\partial θ_{私 j}^{（ l ）}}

$\nabla_{ij}^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l)}} * \dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}}$

ただし、次のように：

z_{k}^{(l)} = \sum_{m} θ_{k m}^{(l)} * a_{m}^{(l - 1)}

$z_k^{(l)} = \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

次に、次のように書きます。

\frac{\partial z_{k}^{(l)}}{\partial θ_{i j}^{(l)}} = \frac{\partial}{\partial θ_{i j}^{(l)}} \sum_{m} θ_{k m}^{(l)} * a_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial}{\partial \theta_{ij}^{(l)}} \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

微分の線形性 [（u + v） '= u' + v ']のため、次のように書くことができます。

\frac{\partial z_{k}^{(l)}}{\partial θ_{i j}^{(l)}} = \sum_{m} \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \sum_m\dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)}$

有する：

i f k, m \neq i, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)} = 0

$if k,m \neq i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = 0$

i f k, m = i, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)} = \frac{\partial θ_{i j}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} = a_{j}^{(l - 1)}

$if k,m = i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)}$

次に、k = iの場合（そうでない場合、明らかにゼロに等しくなります）：

\frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}} = \frac{\partial θ_{i j}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} + \sum_{m \neq j} \frac{\partial θ_{i m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} = a_{j}^{(l - 1)} + 0

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} + \sum_{m \neq j}\dfrac {\partial\theta_{im}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)} + 0$

\frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}} = a_{j}^{(l - 1)}

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = a_j^{(l-1)}$

$\nabla_{ij}^{(l)}$

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}} * \frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * \dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}}$

これは次と同等です：

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * a_j^{(l-1)}$

または：

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

δ^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a^{(l)} (1 - a^{(l)}))

$\delta^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a^{(l)}(1-a^{(l)}))$

私たちが提起したことを覚えておいてください：

δ^{(l)} = \frac{\partial C}{\partial z^{(l)}} a n d δ_{i}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta^{(l)} = \dfrac {\partial C} {\partial z^{(l)}} \ \ \ and \ \ \ \delta_i^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

繰り返しますが、より高い次元のチェーンルールにより、次のように記述できます。

δ_{i}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l + 1)}} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l+1)}} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

$\dfrac {\partial C} {\partial z_k^{(l+1)}}$ $\delta_k^{(l+1)}$

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

z_{k}^{(l + 1)} = \sum_{j} θ_{k j}^{(l + 1)} * a_{j}^{(l)} = \sum_{j} θ_{k j}^{(l + 1)} * g (z_{j}^{(l)})

$z_k^{(l+1)} = \sum_j \theta_{kj}^{(l+1)} * a_j^{(l)} = \sum_j \theta_{kj}^{(l+1)} * g(z_j^{(l)})$

$z_k^{(i)}$

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \frac{\partial \sum_{j} θ_{k j}^{(l)} * g (z_{j}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\partial \sum_j \theta_{kj}^{(l)} * g(z_j^{(l)}) }{\partial z_i^{(l)}}$

導出の線形性のため、次のように書くことができます。

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \sum_{j} θ_{k j}^{(l)} * \frac{\partial g (z_{j}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \sum_j \theta_{kj}^{(l)} * \dfrac {\partial g(z_j^{(l)}) }{\partial z_i^{(l)}}$

$\neq$ $\dfrac {\partial \theta_{kj}^{(l)} * g(z_j^{(l)})} {\partial z_i^{(l)}} = 0$

結果として：

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \frac{θ_{k i}^{(l)} * \partial g (z_{i}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\theta_{ki}^{(l)} * \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

その後：

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l)} * \frac{\partial g (z_{i}^{(l)})}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * \dfrac { \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

g '（z）= g（z）（1-g（z））なので、次のようになります。

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l)} * g (z_{i}^{(l)}) (1 - g (z_{i}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * g(z_i^{(l)})(1-g(z_i^{(l)})$

$g(z_i^{(l)} = a_i^{(l)}$

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l + 1)} * a_{i}^{(l)} (1 - a_{i}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l+1)} * a_i^{(l)}(1-a_i^{(l)})$

そして最後に、ベクトル化された表記を使用します。

\nabla_{i j}^{(l)} = [θ^{(l + 1)^{T}} δ^{(l + 1)} * (a_{i}^{(l)} (1 - a_{i}^{(l)}))] * [a_{j}^{(l - 1)}]

$\nabla_{ij}^{(l)} = [\theta^{(l+1)^T}\delta^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)}))] * [a_j^{(l-1)}]$

— tmangin
ソース

お返事ありがとうございます。私はあなたに賛成票を投じました！回答にたどり着くために参照したソースを引用して

— いただけませ

δ_{j}^{(i)}

$\delta_j^{(i)}$

δ_{j}^{(i)} = \frac{\partial C}{\partial Z_{j}^{(l)}}

$\delta_j^{(i)}=\frac{\partial C}{\partial Z_j^{(l)}}$

δ_{i}^{(L)}

$\delta_i^{(L)}$

δ_{i}^{(L)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

勾配を計算するbackpropベクトル表記を読むことを強くお勧めします。

— CKM 2017年

あなたの最終的な使用可能な式は、Andrew Ngが持っていたものではありません。そのため、証明に従うのは本当にイライラします。彼は∇（l）ij =θ（l）Tδ（l + 1）。 1）Tδ（l + 1）

— Aziz Javed 2017

この計算は役立ちます。この結果とAndrewの結果との唯一の違いは、シータの定義によるものです。アンドリューの定義では、z（l + 1）= theta（l）* a（l）です。この計算では、z（l + 1）= theta（l + 1）* a（l）です。したがって、実際には違いはありません。

— 清の歌
ソース