特定のMLE（マルコフ連鎖）の対数尤度の計算

私は現在、マルコフチェーンを使用しており、いくつかのソース（つまり、aからbへの遷移の数をaから他のノードへの全体的な遷移の数で割ったもの）によって提案された遷移確率を使用して最尤推定を計算しました。

次に、MLEの対数尤度を計算します。

ましょうマルコフ連鎖の経路であるとletパスを観察する確率である場合 IS真のパラメーター値（別名尤度関数）条件付き確率の定義を使用すると、 P θ（X 1、。。。、X T）θ $\{ X_i \}_{i=1}^{T}$$P_{\theta}(X_1, ..., X_T)$$\theta$$\theta$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

これはマルコフ連鎖であるため、であることがこれを簡素化します$P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

これと同じロジックを回繰り返すと、$T$

$$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$$

ここで、はプロセスの初期状態として解釈されます。右側の項は、遷移行列の単なる要素です。あなたが要求した対数尤度だったので、最終的な答えは次のとおりです：$X_0$

$${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$$

これは単一のマルコフチェーンの可能性です。データセットに複数の（独立した）マルコフチェーンが含まれている場合、完全な可能性はこの形式の項の合計になります。