ハミルトンからのARMA（p、q）の状態空間表現

私はハミルトンの第13章を読んでおり、彼はARMA（p、q）に対して次の状態空間表現を持っています。ましょう次のように.ThenはARMA（P、Q）プロセスである： \ {整列} y_tを開始- \ MU＆= \ phi_1（Y_ {T-1} - \ MU） + \ phi_2（y_ {t-2}-\ mu）+ ... + \ phi_3（y_ {t-3}-\ mu）\\＆+ \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +。 .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}。\ end {aligned} 次に、状態方程式を次のように定義します。$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

そして観測方程式は次のようになります：

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

この場合、$\xi_t$が何であるかわかりません。彼のAR（p）表現では$\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$および彼のMA（1）表現では、それは$\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$です。

誰かがこれをもう少しよく説明してくれませんか？

ハミルトンはこれが本の正しい表現であることを示していますが、このアプローチは少し直観に反しているように見えるかもしれません。したがって、最初に彼のモデリングの選択を動機付ける高レベルの答えを与えてから、彼の派生について少し詳しく説明します。

動機：

第13章を読むことで明らかになるように、動的モデルを状態空間形式で書く方法はたくさんあります。したがって、ハミルトンがこの特定の表現を選択した理由を尋ねる必要があります。その理由は、この表現は状態ベクトルの次元を低く保つためです。直感的には、ARMA（、）の状態ベクトルは少なくとも次元である必要があると考えるでしょう（少なくとも私はそう思います）。結局のところ、言うを観察しただけでは、値を推測することはできません。それでも彼は、次元空間の状態ベクトルをままにする巧妙な方法で状態空間表現を定義できることを示しています$p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$。状態の次元を低く保つことは、計算の実装にとって重要かもしれません。彼の状態空間表現もARMAプロセスの優れた解釈を提供していることがわかります。観測されていない状態はAR（）ですが、MA（）の部分は測定エラーが原因で発生します。$p$$q$

導出：

次に、派生について説明します。まず、ラグ演算子表記を使用して、ARMA（p、q）は次のように定義されます： 我々はせのために、およびのためにと我々省略ので、少なくともある。したがって、私たちが示す必要があるのは、彼の状態方程式と観測方程式が上記の方程式を暗示することだけです。状態ベクトルを とすると、状態方程式。方程式から

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$単にエントリ移動に 1つ前の期間と廃棄で状態ベクトルで。したがって、定義する最初の方程式が関連します。： の第2の要素のでの最初の要素であるとの第三の要素ありますの最初の要素$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$ラグ演算子表記を使用してラグ多項式を左側に移動すると、これを書き換えることができます Hの式13.1.24）：（ したがって、非表示状態は自己回帰プロセスに従います。同様に、観測方程式は または これは、これまでのところARMAにはあまり似ていませんが、いい部分：最後の方程式に： $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ しかし、（1周期遅れた）状態方程式から、ます！したがって、上記は これは、表示する必要があったものです。したがって、状態観測システムはARMA（p、q）を正しく表します。私は本当にハミルトンを言い換えただけですが、とにかくこれが役に立つことを願っています。$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

これは上記と同じですが、より短く、より簡潔な答えを提供したいと思いました。繰り返しますが、これは因果的なARMA（、）プロセスのハミルトンの表現です。ここで、です。この番号は、状態ベクトルの次元であり、の行数を作成するために必要です状態は、観測行列の列数と一致します。つまり、インデックスが大きすぎる場合は常に係数をゼロに設定する必要があります。$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. 観測方程式

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. 状態方程式

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$