ガンマ周辺分布と AR（1）係数を使用してマルコフ連鎖を作成する方法

8

合成時系列を生成したい。時系列は、ガンマ周辺分布と AR（1）パラメーターを持つマルコフ連鎖である必要があります。AR（1）モデルのノイズ項としてガンマ分布を使用するだけでこれを実行できますか、それともより高度なアプローチを使用する必要がありますか？ $\rho$

— 水文学者
ソース

AR（1）プロセスの定義を明確にすることができます。これは、タイトルに記載されている一般的な1次マルコフですか、それとも特定の形式の遷移を持つ1次マルコフですか？最初のケースでは、は1次の自己相関と見なされます。

ρ

$\rho$

— イブ

イヴありがとう。あなたと他のコメントのおかげで、私は問題の完全な解決策を持っていると思います。完全なソリューションを明日投稿する時間があるので、明日投稿します！

— 水文学者2017年

1

この質問がstats.stackexchange.com/q/180109/10479の重複であり、私自身の回答は@Glen_bの回答と多くの共通点があることに気づきました。ごめんなさい。

— イヴ

3

確かにそうだと思うかもしれませんが（最初は私もそうでした）、ただし、AR（1）プロセスには新しいパラメーターがあるでしょう。形状とスケールについては、ます。書き込み。 $a$ $s$ $g_t\sim \Gamma(a,s)$ $\tilde{g}_t=g_t-E(g_t)$

次に、AR（1）はg_tで、はとしても記述できますおよび思い出してください。AR（1）プロセスのプロパティによって、およびシステムを解く2つのパラメーターのガンマ分布の最初の2つのモーメントの方程式を解くと、、および新しい形状パラメーターが得られます。 $g_t$ $y_t=\rho y_{t-1}+g_t$

y_{t} = E (g_{t}) + ρ y_{t - 1} + {\tilde{g}}_{t}

$y_t=E(g_t)+\rho y_{t-1}+\tilde{g}_t$

E (g_{t}) = a s

$E(g_t)=as$

V a r (g_{t}) = a s^{2}

$Var(g_t)=as^2$

E (y_{t}) = \frac{a s}{1 - ρ}

$E(y_t)=\frac{as}{1-\rho}$

V a r (y_{t}) = \frac{a s^{2}}{1 - ρ^{2}}

$Var(y_t)=\frac{as^2}{1-\rho^2}$

y_{t}

$y_t$

a_{y} = E (y_{t})^{2} / V a r (y_{t})

$a_y=E(y_t)^2/Var(y_t)$

s_{y} = V a r (y_{t}) / E (y_{t})

$s_y=Var(y_t)/E(y_t)$

ただし、が実際にことを示していないため、この引数は不完全です。基本的に、表現をて、がこのような投稿を私が読んだこと（他の最近の回答も参照）は、これがガンマ変数ではないことを示唆しています。 $y_t$ $\Gamma$ $MA(\infty)$

y_{t} = \frac{a s}{1 - ρ} + \sum_{j = 0}^{\infty} ρ^{j} {\tilde{g}}_{t},

$y_t=\frac{as}{1-\rho}+\sum_{j=0}^\infty\rho^j\tilde{g}_t,$

y_{t}

$y_t$

そうは言っても、少しのシミュレーションは、このアプローチがかなり良い近似をもたらすことを示唆しています。

n <- 50000

shape.u <- 2
scale.u <- 1
u <- rgamma(n,shape=shape.u,scale=scale.u)

rho <- 0.75
y <- arima.sim(n=n, list(ar=rho), innov = u)
hist(y, col="lightblue", freq = F, breaks = 40)

(Theoretical.mean <- shape.u*scale.u/(1-rho))
mean(y)
(Theoretical.Variance <- shape.u*scale.u^2/(1-rho^2))
var(y)

shape.y <- Theoretical.mean^2/Theoretical.Variance
scale.y <- Theoretical.Variance/Theoretical.mean

grid <- seq(0,15,0.05)  
lines(grid,dgamma(grid,shape=shape.y,scale=scale.y))

— クリストフ・ハンク
ソース

@christophhankありがとう-これは本当に便利です。その間に他の誰かがチップを入れるかどうかを確認します！

— 水文学者

ありがとう。プロットはplot(grid,dgamma(grid,shape=shape.y,scale=scale.y), lwd=2, col="red", type = "l")、lines(density(y), type="l", col="lightblue", lwd=2)実際には、nからのカーネル密度推定densityが大丈夫であるはずの非常に大きなであっても、不一致があることを示唆しています。

— クリストフハンク

1

、ラプラス変換定常分布を満たすの。がシフトしたガンマに従う場合、はガンマ分布に従いません。は、確率質量が0の混合分布が必要です。

y_{t} = ρ y_{t - 1} + ε_{t}

$y_t = \rho y_{t-1} + \varepsilon_t$

ψ (s) := E [e^{- s y}]

$\psi(s) := \text{E}[e^{-sy}]$

ψ (s) / ψ (ρ s) = E [e^{- s ε}]

$\psi(s) / \psi(\rho s) = \text{E}[e^{-s \varepsilon}]$

ε_{t}

$\varepsilon_t$

y_{t}

$y_t$

ε

$\varepsilon$

— イブ

私の推測よりも多くのドメイン知識をここで見るのは素晴らしいことです-私はそれに応じて私の答えを調整しました。

— Christoph Hanck 2017年

3

これで、私が提起したこの質問への回答が得られましたが、それがさらなる質問につながります。

したがって、最初の解決策は次のとおりです。

静止マルコフ連鎖のため周辺分布の確率密度関数における次式で与えられます。 $\Gamma[\alpha, p]$ $P_t$ $x$

$f_{P_t}[x] = \frac{x^{p-1}\exp[-x/\alpha]}{\alpha^p\Gamma[p]} \quad x \geq 0$

次に、$ P_t = uが指定されたでのの条件付き確率密度分布は次のとおりです。 $P_{t+1}$ $x$

$f_{P_{t+1}|P_t}[x|u]=\frac{1}{\alpha(1-\rho)\rho^{(p-1)/2}}\left[\frac{x}{u}\right]^{(p-1)/2}\exp\left[-\frac{x+\rho u}{\alpha(1-\rho)}\right]I_{p-1}\left[\frac{2\sqrt{\rho x u}}{\alpha(1-\rho)}\right]$

ここで、は変更されたベッセル関数を示します。これにより、マルコフ連鎖にガンマ周辺分布、およびがであるAR相関構造が提供されます。 $I_\nu$ $\rho(1)$ $\rho$

この詳細については、1986年にJournal of Hydrologyに掲載されたDavid Warren著の優れた論文「ガンマ分布の流入を伴う非季節性線形貯水池における流出のゆがみ」（Volume 85、pp127-137; http：// www.sciencedirect.com/science/article/pii/0022169486900806#）。

これは私の最初の質問に答えるので素晴らしいですが、このPDFで表現したいシステムでは、合成シリーズを生成する必要があります。分布の形状とスケールパラメータが大きい場合、これは簡単です。ただし、パラメーターを小さくしたい場合は、適切な特性を持つシリーズを生成できません。私はこれを行うためにMATLABを使用しており、コードは次のとおりです：

% specify parameters for distribution
p = 0.05;
a = 0.5;

% generate first value
u = gamrnd(p,a);

$ keep a version of the margins pdf
x = 0.00001:0.00001:6;

f = (x.^(p-1)).*(exp(-x./a))./((a.^p).*gamma(p));

% specify the correlation structure
rho = 0.5;

% store the first value
input(1,1) = u;

% generate 999 other cvalues using the conditional distribution
for i = 2:1:999

    i
    z = (2./(a.*(1-rho))).*sqrt(rho.*x.*u);

    PDF = (1./a).*(1./(1-rho)).*(rho.^(-(p-1)./2)).*((x./u).^((p-1)./2)).*...
           exp(-(x+rho.*u)./(a.*(1-rho))).*besseli(p-1,z);

    ycdf = cumsum(PDF,'omitnan')/sum(PDF,'omitnan');

    rn = rand;
    u = x(find(ycdf>rn,1));
    input(i,1) = u;

end

ガンマ分布パラメータにはるかに大きな数を使用すると、限界がその場で出てきますが、小さな値を使用する必要があります。どうすればこれを行うことができますか？

— 水文学者
ソース

条件付き分布ではなく、確率過程の表現を使用できます。ショットノイズプロセスを使用した任意のガンママージンを持つ1次マルコフチェーンのシミュレーションの例については、私の回答stats.stackexchange.com/a/289326/10479を参照してください。

— Yvesは

@Yvesありがとうございます。周辺分布を使用する理由は、入力分布に関して出力系列の特定のプロパティ（分散、歪度、尖度）を導出できるためですが、条件付き分布からランダム入力を生成するのに苦労しています。私があなたのショットノイズモデルに従っていた場合、流出の派生統計は同じままですか？

— 水文学者2017

ショットノイズ（SN）の条件付き分布は、鞍点近似が提案されているため（クローズドフォームでは利用できない場合があります（ショットノイズと予測を使用したGoogle検索））。通常、このような近似は非常に優れています。SN表現には、引用した記事のように流入と流出は含まれませんが、指数ジャンプは、蒸発などによる連続的な損失のバランスをとる流入と見なすことができます。

— Yvesは、

2

ガンママージンを含む一次マルコフプロセスを取得する方法はいくつかあります。このトピックに関する非常に優れた参考資料は、GK Grunwald、RJ Hyndman、およびLM Tedeskoによる論文です： AR（1）モデルの統合ビュー。

ご覧のとおり、古典的な「イノベーション形式」は、マルコフ遷移を指定する最も簡単な方法ではありません、がランダムと見なされない限り。適切に選択された分布を使用します。ベータ版とガンマ版では、ガンママージンを取得できます。 $y_t = \phi y_{t-1} + \varepsilon_t$ $p(y_t \, \vert \, y_{t-1})$ $\phi$ $\phi$ $\varepsilon_t$

ガンママージンのある有名な連続時間AR（1）プロセスは、指数関数ステップを含むショットノイズプロセスであり、水文学やポアソンプロセスに関連して広く使用されています。これは離散時間サンプリングでも使用でき、革新のために混合タイプの分布を持つランダム係数AR（1）として表示されます。

— イヴ
ソース

2

コピュラに触発されたアイデアは、ガウスAR（1）プロセスを変換することです。たとえば、ここで、はで、、その結果の周辺分布新しいプロセスにここで、でありますガンマ分布の変位値関数とは、累積標準正規密度関数です。

x_{t} = ϕ_{1} x_{t - 1} + w_{t}

$x_t = \phi_1 x_{t-1} + w_t$

w_{t}

$w_t$

N (0, σ_{w}^{2})

$N(0,\sigma_w^2)$

σ_{w}^{2} = 1 - ϕ^{2}

$\sigma_w^2=1-\phi^2$

x_{t} \sim N (0, 1)

$x_t\sim N(0,1)$

y_{t} = F^{- 1} (Φ (x_{t}); a, s))

$y_t=F^{-1}(\Phi(x_t); a, s))$

F^{- 1}

$F^{-1}$

Φ

$\Phi$

結果のプロセスはマルコフプロパティがありますが、次のシミュレーションに示すように、部分自己相関関数は1より大きいラグに対してカットオフしないため、AR（1）にはなりません。 $y_t$

phi <- .5
x <- arima.sim(model=list(ar=phi),n=1e+6,sd=sqrt(1-phi^2))
y <- qgamma(pnorm(x), shape=.1)
par(mfrow=c(2,1))
acf(y)
pacf(y)

代わりに、適切な係数を使用してをAR（p）にする場合、おそらくをほぼAR（1）にすることができます。つまり、のパックが十分に小さくなるように次数と選択します。すべてのラグが1より大きい場合。ただし、プロセスはMarkovプロパティがなくなります。 $x_t$ $y_t$ $p$ $\phi_1,\dots,\phi_p$ $y_t$ $y_t$

— ジャール・タフト
ソース

すべてのコメントをありがとう-彼らは非常に感謝しています。あなたの思いやりのある投稿の結果として、私は解決策があると思います。タイプできるようになったら投稿します...

— 水文学者

系列は確かに1次のマルコフ連鎖であり、ガンママージンがあります（適切に開始された場合）。それは単に古典的なイノベーションの形をとらないだけです。私の目には、心配ではありません。理論上のPACFに標準の公式を使用すると、正規性の仮定に依存するため、誤解を招きます。

y_{t}

$y_t$

— イヴ

1

@Yvesいいえ、pacfの通常の定義は正規性を想定しておらず、上記で定義されたを含むすべての共分散定常プロセスに適用されます。

y_{t}

$y_t$

— Jarle Tufto 2017年

@JarleTufto +1そうそう、あなたは正しい。しかし、私はまだプロセスがマルコフであると信じています：サンプル PACFのプロパティは、プロットで指摘した問題を説明できますか？

y_{t}

$y_t$

— イブ

1

@JarleTufto私は古典的であるがかなり微妙な落とし穴に惹かれました：とは（）条件付き相関はありませんが、部分的な相関があります。したがって、ラグ2のPACFはゼロ以外にすることができます。

y_{t}

$y_t$

y_{t - 2}

$y_{t-2}$

y_{t - 1}

$y_{t - 1}$

— Yves