指数関数的に減衰する共分散関数を使用したガウス（Ornstein Uhlenbeck）プロセスのシミュレーション

ガウス過程、平均0と共分散関数。 $e_i(t)$ $1\leq t \leq T$ $\gamma(s,t)=\exp(-|t-s|)$

共分散行列の平方根の計算を含まない、これを行う効率的な方法はありますか？または、誰でもこれを行うためのパッケージを推奨できますか？ $T \times T$ R

— user603
ソース

これは定常的なプロセスです（OUプロセスの単純なバージョンに近く見えます）。均一にサンプリングされていますか？

— 枢機卿

Rパッケージがmvtnorm有するrmvnorm(n, mean, sigma)場合sigma、共分散行列です。ただし、サンプリング/選択したの共分散行列を自分で作成する必要があります。

t

$t$

— jbowman

@jbおそらくは巨大です。それ以外の場合、OPは行列の分解（これはで暗黙的に行われます）を回避するよう求めません。

T

$T$ rmvnorm

— whuber

@cardinal同意します、これはOrnstein-Uhlenbeck Gaussianプロセスです。（「Ornstein Uhlenbeck」キーワードを質問および/またはタイトルに編集できればすばらしいでしょう。この質問には、より多くのトラフィックが必要です）

— redmoskito 2014

回答:

はい。 非常に効率的な（線形時間）アルゴリズムがあり、その直感は、均一にサンプリングされたケースから直接得られます。

私たちはのパーティションがあるとするように、。 $[0,T]$ $0=t_0 < t_1 < t_2 < \cdots < t_n = T$

均一にサンプリングされたケース

この場合、ここでです。ましょう時間で離散的にサンプリングされたプロセスの値を表す。 $t_i = i \Delta$ $\Delta = T/n$ $X_i := X(t_i)$ $t_i$

、相関関係持つAR（1）プロセスを形成していることが簡単にわかります。したがって、パーティションのサンプルパスを次のように生成できますここであるIIDと。 $X_i$ $\rho = \exp(-\Delta)$ $\{X_t\}$

X_{i + 1} = ρ X_{i} + \sqrt{1 - ρ^{2}} Z_{i + 1},

$X_{i+1} = \rho X_i + \sqrt{1-\rho^2} Z_{i+1} \>,$

Z_{i}

$Z_i$

N (0, 1)

$\mathcal N(0,1)$

X_{0} = Z_{0}

$X_0 = Z_0$

一般的なケース

次に、一般的なパーティションに対してこれを行うことが可能であると想像するかもしれません。特に、およびます。我々は持っているそして我々はそれを推測するかもしれないので、 $\Delta_i = t_{i+1} - t_i$ $\rho_i = \exp(-\Delta_i)$

γ (t_{i}, t_{i + 1}) = ρ_{i},

$\gamma(t_i,t_{i+1}) = \rho_i \>,$

X_{i + 1} = ρ_{i} X_{i} + \sqrt{1 - ρ_{i}^{2}} Z_{i + 1} .

$X_{i+1} = \rho_i X_i + \sqrt{1-\rho_i^2} Z_{i+1} \>.$

実際、なので、少なくとも隣接する項との相関関係は正しいです。 $\mathbb E X_{i+1} X_i = \rho_i$

結果は、条件付き期待値のタワープロパティを介して伸縮することになります。つまり、および製品の望遠鏡次のように

E X_{i} X_{i - ℓ} = E (E (X_{i} X_{i - ℓ} ∣ X_{i - 1})) = ρ_{i - 1} E X_{i - 1} X_{i - ℓ} = \dots = \prod_{k = 1}^{ℓ} ρ_{i - k},

$\newcommand{\e}{\mathbb E} \e X_i X_{i-\ell} = \e( \e(X_i X_{i-\ell} \mid X_{i-1} )) = \rho_{i-1} \mathbb E X_{i-1} X_{i-\ell} = \cdots = \prod_{k=1}^\ell \rho_{i-k} \>,$

\prod_{k = 1}^{ℓ} ρ_{i - k} = \exp (- \sum_{k = 1}^{ℓ} Δ_{i - k}) = \exp (t_{i - ℓ} - t_{i}) = γ (t_{i - ℓ}, t_{i}) .

$\prod_{k=1}^\ell \rho_{i-k} = \exp\Big(-\sum_{k=1}^\ell \Delta_{i-k}\Big) = \exp(t_{i-\ell} - t_i) = \gamma(t_{i-\ell},t_i) \>.$

これは結果を証明します。したがって、プロセスは、iidランダム変数のシーケンスから任意のパーティションで時間で生成できます。ここで、はパーティションのサイズです。 $\mathcal N(0,1)$ $O(n)$ $n$

注意：これは、正確な有限次元分布を使用して、目的のプロセスのサンプルバージョンを提供するという点で、正確なサンプリング手法です。これは、より一般的なSDEのオイラー（およびその他の）離散化スキームとは対照的です。これは、離散化による近似が原因でバイアスが発生します。

— 枢機卿
ソース

もう少しだけ。（1）連続時間プロセスがどのように見えるかを理解するには、が小さく、たとえば未満になるように、および選択する必要があります。（2）時系列ベクトルの逆共分散（精度）行列は、コレスキールートと同様に、3対角行列です。

n

$n$

T

$T$

Δ

$\Delta$

0.1

$0.1$

— イヴ

@Yves：コメントありがとうございます。明確にするために、私が概説した手順は、対応するパーティションでサンプリングされた連続時間プロセスを正確に実現したものです。特に、より一般的なSDEへの典型的なオイラースキーム近似のような離散化エラーはありません。答えの構成で示されている逆コレスキーは、対角線上にのみ非ゼロ項があり、非対角線上にあるので、三重対角線よりも少し単純です。

— 枢機卿

正解です。これは、任意のスケール持つ一般的なOUプロセスに一般化されますか？それはそうかもしれないようです。

γ (t_{i}, t_{j}) = \exp (α | t_{i} - t_{j} |)

$\gamma(t_i, t_j) = \exp(\alpha \; |t_i - t_j|)$

— redmoskito 2014

不完全なコレスキー分解またはその他の行列分解手法によって分解された共分散行列を計算します。分解された行列はTxMである必要があります。ここで、MはTの一部にすぎません。

http://en.wikipedia.org/wiki/Incomplete_Cholesky_factorization

— スティーブン
ソース

ここでコレスキー分解の明示的な形を与えることができますか？枢機卿の答えは、あなたが考えれば、を歴史の関数として表現することによって、それを達成したと思います。

X_{i}

$X_i$

— StasK、2012年

アルゴリズムが長すぎて要約できません。あなたがここに優れた説明を見つけることができます：カーネルICA、20ページの注意をこのアルゴリズムであることを、不完全な、それは全体の分解ではなく、近似値を計算しないという意味（それゆえ、それははるかに高速です）。このアルゴリズムのコードをKMBOXツールボックスで公開しました。ここからダウンロードできます：km_kernel_icd。

— Steven