LSTMユニットとセルの理解

私はしばらくの間LSTMを研究してきました。私はすべてがどのように機能するかを高いレベルで理解しています。ただし、Tensorflowを使用して実装する場合、BasicLSTMCellには多数のユニット（つまりnum_units）パラメーターが必要であることに気付きました。

LSTMのこの非常に徹底的な説明から、単一のLSTMユニットが次のいずれかであることがわかりました。

これは実際にはGRUユニットです。

のパラメーターnum_unitsは、BasicLSTMCellレイヤー内で相互に接続するこれらの数を参照していると想定しています。

それは疑問を残します-この文脈での「セル」とは何ですか？「セル」は、通常のフィードフォワードニューラルネットワークのレイヤーと同等ですか？

残念ながら用語は一貫していません。num_unitsTensorFlowでは、隠れ状態の数、つまり指定した方程式のの次元です。$h_t$

また、https : //github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/api_docs/python/functions_and_classes/shard9/tf.nn.rnn_cell.RNNCell.mdから：

このパッケージのセルの定義は、文献で使用されている定義とは異なります。文献では、セルは単一のスカラー出力を持つオブジェクトを指します。このパッケージの定義は、このようなユニットの水平配列を指します。

「LSTMレイヤー」はおそらくより明示的です、例：

def lstm_layer(tparams, state_below, options, prefix='lstm', mask=None):
    nsteps = state_below.shape[0]
    if state_below.ndim == 3:
        n_samples = state_below.shape[1]
    else:
        n_samples = 1

    assert mask is not None
    […]

ほとんどのLSTM / RNNダイアグラムは、非表示のセルのみを表示しますが、それらのセルの単位は表示しません。したがって、混乱。各非表示レイヤーには、タイムステップの数と同じ数の非表示セルがあります。さらに、次の図のように、各非表示セルは複数の非表示ユニットで構成されています。したがって、RNNの隠れ層マトリックスの次元は（タイムステップの数、隠れユニットの数）です。

問題はこの回答で回答したものとほぼ同じですが、この問題をグラフで説明したいと思います。これは、今日、seq2seqモデルで少し混乱しました（@Franck Dernoncourtの回答のおかげで）。この単純なエンコーダー図では：

$h_i$

私の意見では、セルは、隠れノードなどのノードを意味します。これは、隠れノードとも呼ばれ、多層LSTMモデルでは、セルの数はtime_steps * num_layersで計算でき、num_unitsはtime_stepsに等しくなります

Kerasの単位は、出力空間の次元であり、ネットワークが繰り返し発生する遅延（time_step）の長さと同じです。

keras.layers.LSTM(units, activation='tanh', ....)

https://keras.io/layers/recurrent/