カルマンフィルターの尤度が、より滑らかな結果ではなくフィルター結果を使用して計算されるのはなぜですか？

カルマンフィルターを非常に標準的な方法で使用しています。システムは、状態方程式および観測方程式ます。$x_{t+1}=Fx_{t}+v_{t+1}$$y_{t}=Hx_{t}+Az_{t}+w_{t}$

教科書は、カルマンフィルターを適用し、「一歩先の予測」（または「フィルターされた推定」）を取得した後、それらを使用して尤度関数を計算する必要があることを教えています。$\hat{x}_{t|t-1}$

$f_{y_{t}|\mathcal{I}_{t-1},z_{t}}\left(y_{t}|\mathcal{I}_{t-1},z_{t}\right)=\det\left[2\pi\left(HP_{t|t-1}H^{\prime}+R\right)\right]^{-\frac{1}{2}}\exp\left\{ -\frac{1}{2}\left(y_{t}-H\hat{x}_{t|t-1}-Az_{t}\right)^{\prime}\left(HP_{t|t-1}H^{\prime}+R\right)^{-1}\left(y_{t}-H\hat{x}_{t|t-1}-Az_{t}\right)\right\}$

私の質問は、「平滑化された推定」\ hat {x} _ {t | T}ではなく、「フィルターされた推定」\ hat {x} _ {t | t-1}を使用して尤度関数が計算されるのはなぜですか？ありません\帽子{X} _ {T | T}状態ベクトルのより良い推定？$\hat{x}_{t|t-1}$$\hat{x}_{t|T}$$\hat{x}_{t|T}$

質問に答えるには、平滑化密度を使用できます。しかし、そうする必要はありません。Jarle Tuftoの答えには、使用している分解があります。しかし、他にもあります。

カルマン再帰の使用

ここでは、可能性を

$$f(y_1, \ldots, y_n) = f(y_1)\prod_{i=2}^nf(y_i|y_1, \ldots, y_{i-1}).$$

ただし、平均と分散は、常に一般的に確率分布を完全に定義するわけではありません。以下は、フィルター分布から条件付き尤度への分解に使用する分解です。：f （y i | y 1、… 、y i − 1$f(x_{i-1}|y_1,\ldots,y_{i-1})$$f(y_i|y_1,\ldots,y_{i-1})$

$$f(y_i|y_1, \ldots, y_{i-1}) = \iint f(y_i|x_i)f(x_i|x_{i-1})f(x_{i-1}|y_1, \ldots, y_{i-1})dx_{i} dx_{i-1} \tag{1}.$$

ここで、 は状態遷移密度...モデルの一部であり、は観測密度...モデルの一部です。あなたの質問では、これらをそれぞれおよびます。同じことです。f （y i | x i）x t + 1 = F x t + v t + 1 y t = H x t + A z t + w $f(x_i|x_{i-1})$$f(y_i|x_i)$$x_{t+1}=Fx_{t}+v_{t+1}$$y_{t}=Hx_{t}+Az_{t}+w_{t}$

1ステップ先の状態予測分布を取得すると、それは。再度統合すると、（1）が完全に取得されます。あなたはあなたの質問にその密度を完全に書き留めます、そしてそれは同じことです。$\int f(x_i|x_{i-1})f(x_{i-1}|y_1, \ldots, y_{i-1}) dx_{i-1}$

ここでは、確率分布の分解とモデルに関する仮定のみを使用しています。この尤度計算は正確な計算です。これをより良くも悪くもするために使用できる裁量はありません。

EMアルゴリズムの使用

私の知る限り、このような状態空間モデルで直接尤度を評価する方法は他にありません。ただし、別の関数を評価することで、最尤推定を行うことができます。EMアルゴリズムを使用できます。期待ステップ（E-Step） ここでf （y 1、… 、y n、x 1、… 、x n

$$\int f(x_1, \ldots, x_n|y_1,\ldots y_n) \log f(y_1,\ldots,y_n,x_1, \ldots,x_n) dx_{1:n} = E_{smooth}[\log f(y_1,\ldots,y_n,x_1, \ldots,x_n)].$$ $f(y_1,\ldots,y_n,x_1, \ldots,x_n)$は「完全なデータ」の可能性であり、関節平滑化密度に関してはそのログの期待値をとっています。よく起こるのは、この完全なデータ尤度のログをとっているため、項が合計に分割され、期待演算子の線形性のために、限界平滑化分布（1あなたはあなたの質問で言及します）。

他のもの

私は、EMが可能性を最大化するための「より安定した」方法であると読んだことがありますが、この点について十分に議論されたことはありません。これについてはこれ以上詳しく調べません。これらのアルゴリズムはどちらも、ローカル/グローバル最大値の試練を回避しません。私は個人的にカルマンを習慣より頻繁に使う傾向があります。

状態の平滑化された推定は、通常、フィルター処理よりも分散が小さいのは事実です。そのため、これについてある程度の直感があっても、実際には状態を使用していません。最大化しようとしている可能性は、州の関数ではありません。

一般に、積の規則により、正確な尤度は 状態空間モデルの仮定から、過去の観測を条件とする各の期待値ベクトルと分散行列は、として表すことができます 、 y i E （y i | y 1、… 、y i − 1

$$f(y_1,\dots,y_n)=f(y_1)\prod_{i=2}^n f(y_i|y_1,\dots,y_{i-1}).$$ $y_i$ $$\begin{align} E(y_i|y_1,\dots,y_{i-1}) &= E(Hx_{t}+Az_{t}+w_{t}|y_1,\dots,y_{i-1}) \\&= HE(x_{t}|y_1,\dots,y_{i-1})+Az_{t}+Ew_{t} \\&= H\hat x_{t|t-1}+Az_{t}, \end{align}$$ $$\begin{align} \mathrm{Var}(y_i|y_1,\dots,y_{i-1}) &= \mathrm{Var}(Hx_{t}+Az_{t}+w_{t}|y_1,\dots,y_{i-1}) \\&= H\mathrm{Var}(x_{t}|y_1,\dots,y_{i-1})H'+ \mathrm{Var}w_t \\&= HP_{t|t-1}H'+R. \end{align}$$ したがって、これにより、平滑化された推定値を計算せずに正確な可能性が得られます。

もちろん、実際には未知の状態のより良い推定である平滑化推定を使用できますが、これは尤度関数を与えません。実際には、の観測値を使用して独自の期待値を推定するため、結果の推定値にバイアスが生じる可能性があります。 $y_i$

平滑化分布が（通常）使用されない「理由」についてのより良い答えは効率です。原則として、次のように、リーブワンアウトの意味で（平滑化）限界尤度を計算するのは簡単です。観測値jを削除し、残りのデータに対してカルマンスムージングを実行します。次に、見えないy（j）の可能性を評価します。すべてのjについてこれを繰り返します。対数尤度を合計します。これの高速バージョンは、保持されたサンプルの（ランダム化された）ブロック（kフォールドCVなど）で機能します。このスキームでは、必要に応じて測定の更新を任意にスキップできるカルマンフィルター/スムーザーのより一般的な実装が必要です。逆方向/スムージングパスは、測定値（RTSアルゴリズム）にアクセスせず、同じままです。

時系列が「十分に長い」場合、フィルタリングの可能性が最初の過渡現象を「焼き尽くす」ため、これを行うことによる有益な利点はほとんどありません。ただし、データセットが短い場合は、より高価な平滑化の可能性が価値があります。固定ラグスムーザーが中間のソリューションになる可能性があります。