Kerasでの多対一および多対多のLSTMの例

私はLSTMと、それらをKerasで構築する方法を理解しようとしています。私は、RNNを実行するために主に4つのモードがあることを発見しました（図の4つの正しいモード）

画像ソース：Andrej Karpathy

さて、それぞれのミニマルなコードスニペットがKerasでどのように見えるのかと思います。だから何かのような

model = Sequential()
model.add(LSTM(128, input_shape=(timesteps, data_dim)))
model.add(Dense(1))

4つのタスクのそれぞれについて、少しの説明があるかもしれません。

そう：

1. 1対1：Denseシーケンスを処理していないため、レイヤーを使用できます。

   model.add(Dense(output_size, input_shape=input_shape))

2. 1対多：このオプションはサポートされていません。モデルのチェーンはで簡単ではないKerasため、次のバージョンが最も簡単です。

   model.add(RepeatVector(number_of_times, input_shape=input_shape))
   model.add(LSTM(output_size, return_sequences=True))

3. 多対1：実際、コードスニペットは（ほぼ）このアプローチの例です。

   model = Sequential()
   model.add(LSTM(1, input_shape=(timesteps, data_dim)))

4. 多対多：これは、入力と出力の長さが繰り返しステップの数と一致する場合に最も簡単なスニペットです。

   model = Sequential()
   model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))

5. ステップ数が入力/出力長と異なる場合の多対多：これはKerasでは非常に困難です。それをコーディングする簡単なコードスニペットはありません。

編集：広告5

私の最近のアプリケーションの1つで、4番目の画像の多対多に似たものを実装しました。次のアーキテクチャのネットワークが必要な場合（入力が出力より長い場合）：

                                        O O O
                                        | | |
                                  O O O O O O
                                  | | | | | | 
                                  O O O O O O

これは次の方法で実現できます。

    model = Sequential()
    model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))
    model.add(Lambda(lambda x: x[:, -N:, :]

Nカバーしたい最後のステップの数はどこですか（画像N = 3）。

この時点から：

                                        O O O
                                        | | |
                                  O O O O O O
                                  | | | 
                                  O O O 

適切なサイズに調整するために、ベクトルなどNを使用して長さの人工的なパディングシーケンスと同じくらい簡単0です。

@MarcinMożejkoによる素晴らしい答え

私は考えNR.5に以下を追加します（長さアウト/内の別の持つ多くの多くの）：

A）バニラLSTMとして

model = Sequential()
model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES)))
model.add(Dense(N_OUTPUTS))

B）エンコーダー/デコーダーLSTMとして

model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES))  
model.add(RepeatVector(N_OUTPUTS))
model.add(LSTM(N_BLOCKS, return_sequences=True))  
model.add(TimeDistributed(Dense(1)))
model.add(Activation('linear'))