RNNで時系列に逆伝播するのはなぜですか？

リカレントニューラルネットワークでは、通常、いくつかのタイムステップを順方向に伝播し、ネットワークを「展開」してから、入力シーケンス全体に逆方向に伝播します。

シーケンスの個々のステップごとに重みを更新しないのはなぜですか？（切り捨ての長さ1を使用するのと同じで、展開するものは何もありません）これにより、消失勾配の問題が完全に排除され、アルゴリズムが大幅に簡素化され、おそらくローカルミニマムで動けなくなる可能性が低くなり、最も重要なことにはうまく機能するようです。この方法でモデルをトレーニングしてテキストを生成しましたが、結果はBPTTトレーニングモデルで見た結果に匹敵するようでした。混乱しているのは、これまで見たRNNに関するすべてのチュートリアルが、BPTTを使用するように言っているからです。まるで適切な学習に必要であるかのように、そうではありません。

更新：回答を追加しました

編集：2つの方法を比較するときに大きな間違いを犯し、答えを変更する必要があります。現在のタイムステップに戻るだけで、実際の学習が早くなります。クイックアップデートは、最も基本的なパターンを非常にすばやく学習します。しかし、より大きなデータセットとより長いトレーニング時間では、BPTTが実際にトップになります。私はほんの数エポックで小さなサンプルをテストしていましたが、レースに勝ち始めた人が勝者になると思いました。しかし、これは興味深い発見に私を導きました。単一のタイムステップだけを伝播してトレーニングを開始し、次にBPTTに変更し、伝播する範囲をゆっくりと増加させると、収束が速くなります。

RNNはディープニューラルネットワーク（DNN）であり、各レイヤーは新しい入力を取得できますが、同じパラメーターを持ちます。BPTは、このようなネットワークでのBack Propagationの凝った言葉であり、それ自体はGradient Descentの凝った言葉です。

言うRNN出力すなわちY Tの各ステップとにおける E R R O 、R T = （Y T - Y T ）2$\hat{y}_t$

$$\begin{equation} error_t=(y_t-\hat{y}_t)^2 \end{equation}$$

重みを学習するには、「パラメーターの変更が損失関数にどの程度影響するか」という質問に答える関数の勾配が必要です。そして、次のように指定された方向にパラメーターを移動します。

$$\begin{equation} \nabla error_t=-2(y_t-\hat{y}_t)\nabla \hat{y}_t \end{equation}$$

つまり、各レイヤーで予測がどれほど優れているかについてフィードバックを得るDNNがあります。パラメーターの変更はDNNのすべてのレイヤー（タイムステップ）を変更するため、すべてのレイヤーが今後の出力に貢献するため、これを考慮する必要があります。

単純な1ニューロン1層ネットワークを使用して、これを半明示的に確認します。

$$\begin{align*} \hat{y}_{t+1} =& f(a+bx_t+c\hat{y}_t)\\ \frac{\partial}{\partial a}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot c\cdot \frac{\partial}{\partial a}\hat{y}_{t} \\ \frac{\partial}{\partial b}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (x_t+c\cdot\frac{\partial}{\partial b}\hat{y}_{t})\\ \frac{\partial}{\partial c}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (\hat{y}_t+c\cdot\frac{\partial}{\partial c}\hat{y}_{t})\\ \iff\\ \nabla \hat{y}_{t+1} =& f'(a+bx_t+c\hat{y}_t)\cdot \left(\begin{bmatrix}0\\x_t\\\hat{y}_t \end{bmatrix} + c \mathbin{\color{red}{\nabla \hat{y}_{t}}} \right) \end{align*}$$

学習率1つのトレーニングステップがある： [ 〜A 〜B 〜C ] ← [ B C ] + δ （Y T - Y T）∇ Y$\delta$

$$\begin{equation} \begin{bmatrix}\tilde{a}\\\tilde{b}\\\tilde{c}\end{bmatrix} \leftarrow \begin{bmatrix}a\\b\\c\end{bmatrix} + \delta (y_{t}-\hat{y}_{t})\nabla \hat{y}_t \end{equation}$$

$\nabla \hat{y}_{t+1}$$\nabla \hat{y}_{t}$$t$

$$\begin{equation} error=\sum_t(y_t-\hat{y}_t)^2 \end{equation}$$

おそらく、各ステップは集約に十分な粗雑な方向性に貢献するでしょうか？これはあなたの結果を説明するかもしれませんが、私はあなたの方法/損失関数についてもっと聞いてみたいです！また、2つのタイムステップでウィンドウ化されたANNとの比較にも興味があります。

edit4：コメントを読んだ後、あなたのアーキテクチャはRNNではないようです。

$h_t$

モデル：ステートレス-各ステップで再構築された非表示の状態 edit2：DNNに参照を追加edit3：gradstepと表記法を修正edit5：回答/明確化後のモデルの解釈を修正

$$\frac{dF(g(x), h(x), m(x))}{dx} = \frac{\partial F}{\partial g}\frac{dg}{dx} + \frac{\partial F}{\partial h}\frac{dh}{dx} + \frac{\partial F}{\partial m}\frac{dm}{dx}$$

$t$$H_t$$\theta$$x_t$$H_{t-1}$$H_t$$t$$L$$\theta$

$\theta$$x_t$$\nabla_\theta a(x_t, \theta)$$\theta$$H_{t-1}$$\theta$$\nabla_\theta H_{t-1}$の関数でした、$x_{t-1}$、 $\theta$ そして $H_{t-2}$。だが$H_{t-2}$ の関数でもありました $\theta$。等々。