相互共分散行列がゼロでないかどうかをテストするにはどうすればよいですか？

私の研究の背景：

ギブスサンプリングでは、（対象の変数）とをそれぞれとからサンプリングします。ここで、とは次元のランダムベクトルです。通常、プロセスは2つの段階に分かれています。 $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

すべてのサンプルを破棄するバーンイン期間。サンプルをおよびます。 $X_1\sim X_t$ $Y_1\sim Y_t$
「バーンイン後」の期間。サンプルを平均化し、最終的な望ましい結果としてをします。 $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

ただし、「アフターバーンイン」シーケンスのサンプルは独立して配布されません。したがって、最終結果の分散を調べたい場合は、 $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

ここで、という用語は、交差共分散行列で、すべての適用されます。 $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $k\times k$ $(i,j)$ $i<j$

たとえば、私は持っています

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

次に、共分散行列を推定できます $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

次に、結果の推定値が大幅にゼロ以外であるかどうかに興味があるので、それを分散推定値に含める必要があります。 $\operatorname{Var}[\bar{X}]$

だからここに私の質問があります：

からをサンプリングします。以来、変化している、と思うと同じ分布からではないので、はと同じではありません。このステートメントは正しいですか？ $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
（シーケンス内の隣接サンプル）を推定するのに十分なデータがあるとすると、共分散行列が有意であるかどうかをテストする方法はありますか非ゼロ行列？大まかに言えば、最終的な分散推定に含める必要があるいくつかの有意な相互共分散行列に導く指標に興味があります。 $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

— トムホール
ソース

実際、これはかなり良い質問のように見えます。他の人が私よりも良い答えを出すのに適していると思うので、まもなく適格になったときにこれを奨励します（報奨金を置く）。[短い答え：1.これらの2つの共分散は異なります。2. 連続する変量が相関しているかどうかをテストする必要はありません（ほとんどの場合を除き、アルゴリズムは従属変量を生成することによって機能します）。良い回答が表示されないこれらの短いコメントを完全な回答に拡張します

— Glen_b -Reinstate Monica

あなたの質問はあなたのタイトルの質問よりもはるかに広いようです。具体的にはタイトルの質問に対処します。サンプルの共分散行列が対角であるかどうかをテストできる、球度のバートレットのテストがあります。おそらく、それを相互共分散シナリオに適合させる必要があります（「共分散行列」は実際には実際には共分散行列ではなく、相互共分散行列です。これは、X_tとX_ {の両方の完全共分散行列の非対角ブロックですt + 1}を合わせて）。@Glen_bにCCします。

— amoebaは、モニカを2016

共分散は幾何学的に多かれ少なかれ減衰する傾向があることを追加します（離れるにつれて、ますます）。時間的に離れた値は相関が非常に低くなる（ゼロではないがほとんど無視できる）傾向がありますが、接近している値は非常に依存する場合があります。

— Glen_b-2016

@Tom 1.それでも、定常系列では、非常に離れたラグ（4は遠くない！）で、ACFはどうなりますか？ 2.任意の時系列については言えない、MCMCから生成された値がどのように機能するかについて知っています...それらはマルコビアンです。私の以前のコメントでは、最も近いラグが幾何学的減衰を示す必要があるとは主張していません（たとえば、ラグ4で3よりも高い相関を示すことが不可能であるとは言いませんでした）。（特定の条件が満たされている場合）遠くに移動しても、ACFで幾何学的減衰が発生する傾向があります。

$\quad$

— Glen_b-2016

サンプリング期間が非常に短く、相互共分散の非常に正確な推定値がない場合は、相互共分散項の推定値の標準誤差が大きいという事実に対処する必要があるかもしれません。私の現在の理解があれば、相関をテストすることへの私の反対を再確認するつもりです。ゼロ相関と非ゼロ相関の仮説検定では、ここでは問題に対処しません。

— Glen_b-2016

からをサンプリングします。以来、変化している、と思うと [...]同じ分布からではありません $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

あなたはここで条件付きと無条件の分布を混乱させています。次のコメントも参照してください。およびで条件付き、。しかし、ギブスサンプラーを構築する全体のポイントは、と定常分布からサンプリングすることです。非常に大雑把に言えば、チェーンを十分に長く実行し、が定常分布に従うようにする場合、次には、の無条件分布も不変であることを意味します。つまり、 $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$

t \to \infty

$t \to \infty$ と定常分布に収束、、とは漸近的に（同じ！）定常分布から引き出されます。一方、以前と同様に、およびを条件にすると、大きさに関係なく、これは保持されなくなります。

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

[...]したがって、はと同じではありません。このステートメントは正しいですか？ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

はい、これは正しいです。ただし、つまりとは同じ定常分布を持っています。これは混乱するかもしれませんが、我慢してください。を定義します。反復置換により、であることを示すことができ法線の（無限）合計は依然として正常であるため、そして。明らかに、と $X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ 相関関係はありますが、同じ分布からも得られます（）。同様の状況が当てはまります。 $Y_{t+1} \sim Y_{t}$ $X_t$

（シーケンス内の隣接サンプル）を推定するのに十分なデータがあるとすると、共分散行列が有意であるかどうかをテストする方法はありますか非ゼロ行列？大まかに言えば、最終的な分散推定に含める必要があるいくつかの有意な相互共分散行列に導く指標に興味があります。 $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

ええと、無限に多くの観察があった場合、それらはすべて最終的に重要になります。明らかに、これを実際に行うことはできませんが、いくつかの条件の後に拡張を「切り捨てる」方法があります。ここで受け入れられた優れた答えを参照してください。基本的に、減衰し、計算できる最初の共分散行列に重みを割り当てるカーネルを定義します。原則的にを選択したい場合は、文献を少し掘り下げる必要がありますが、私がリンクした投稿では、それを正確に行うための参考資料がいくつか提供されています。 $k(\cdot)$ $0$ $l_T$ $l_T$

— エレミアスK
ソース