共分散の平方根/精度行列の意味

8

たとえば、は、共分散確率変数です。定義により、共分散行列のエントリは共分散です：また、精度エントリは次の条件を満たすことが知られています：ここで、右側はと他のすべての変数を条件とする共分散です。 $X \in \mathbb{R}^n$ $\Sigma \in \mathbb{R}^{n\times n}$

Σ_{i j} = C o v (X_{i}, X_{j}) .

$\Sigma_{ij} = Cov( X_i,X_j).$

Σ^{- 1}

$\Sigma^{-1}$

Σ_{i j}^{- 1} = C o v (X_{i}, X_{j} | {X_{k}}_{k = 1}^{n} ∖ X_{i}, X_{j}}),

$\Sigma^{-1}_{ij} = Cov(X_i,X_j| \{X_k\}_{k=1}^n \backslash X_i,X_j\}),$

X_{i}

$X_i$

X_{j}

$X_j$

または平方根のエントリに対する統計的解釈はありますか？正方行列平方根とは、ような行列を意味します。上記の行列の固有値分解は、私が見る限り、そのようなエントリごとの解釈を与えません。 $\Sigma$ $\Sigma^{-1}$ $A$ $M$ $M^tM = A$

— イエール・ダオン
ソース

1

@kjetilbhalvorsenが説明を追加しました。しかし、ラフの下でいくつかの詳細を一掃しました。条件付けられる値は何ですか？指定されていないため、すべての値で平均化する必要があります。

— Yair Daon 2017年

1

私がstats.stackexchange.com/questions/71260/…で回帰、相関、および条件付き分布について与えたアカウントは、逆共分散行列の2つの異なる平方根の明示的な幾何学的構成を提供します。これらの幾何学的なアイデアは、より高い次元に一般化され、少なくとも2つの異なるよく知られた統計的解釈（つまり、PCAと重回帰）を提供します。

— whuber

1

Iは行列平方根書き込むとしてのように書かれているコレスキー分解と一致するように、 lowtri（下三角）です。したがって、をランダムなベクトルとするおよび。ここで、を期待ゼロと単位共分散行列を持つランダムベクトルとします。 $\Sigma$ $\Sigma=A A^T$ $\Sigma = L L^T$ $L$ $X$ $\DeclareMathOperator{\E}{\mathbb{E}} \DeclareMathOperator{\Cov}{\mathbb{Cov}}\DeclareMathOperator{\Var}{\mathbb{Var}} \E X=\mu$ $\Var X =\Sigma$ $Z$

（スカラーの場合を除いて）無限に多くの行列平方根があることに注意してください。我々が許可すればのいずれかであるように、我々は他のすべてを見つけることができここで、任意の直交行列であり、すなわち、。これは平方根の単一自由度として知られています。 $A$ $A \mathcal{O}$ $\mathcal{O}$ $\mathcal{O} \mathcal{O}^T = \mathcal{O}^T \mathcal{O} =I$

特定の行列の平方根を見てみましょう。

最初に対称平方根。スペクトル分解を使用して、を記述します。次に、、これは PCA（主成分分析）として解釈できます。 $\Sigma = U \Lambda U^T = U\Lambda^{1/2}(U\Lambda^{1/2})^T$ $\Sigma^{1/2}=U\Lambda^{1/2}$ $\Sigma$
コレスキー分解とはlowtriです。はとして表すことができます。乗算してスカラー方程式を取得すると、三角システムが得られます。これは、時系列の場合、MA（移動平均）表現として解釈できます。 $\Sigma=L L^T$ $L$ $X$ $X=\mu + L Z$ $Z$
一般的なケース、上記を使用して、これをを回転した後のMA表現として解釈できます。 $A= L \mathcal{O}$ $Z$

— kjetil b halvorsen
ソース

スペクトル分解による+1 Re平方根計算。も確認しました。しかし、これはあなたが言及したものとは異なりますが、どちらも有効です、それは本当ですか？

Σ^{1 / 2} = U Λ^{1 / 2} U^{T}

$\Sigma^{1/2}=U\Lambda^{1/2}U^{T}$

— NULL

0

あなたが言うように、nxn行列は多くの平方根を持つことができます。ただし、共分散行列は正の半定行列である必要があり、正の半定行列には正の半定値である平方根が1つしかありません。「マトリックスの平方根」というタイトルのウィキペディアの記事をご覧ください。

— マイケル・R・チェニック
ソース

3

対称平方根は求めませんでした。たとえば、この質問にはコレスキー分解で十分です。

— Yair Daon 2017年

1

共分散行列の項が負になることはあり得ないとは言いませんでした。私は、共分散行列が少なくとも正の半定値であるという別の特性について話しています。

— Michael R. Chernick

0

上で説明したのと同じ理由で、精度行列内のゼロの位置を推定することに人々が関心を持つ場合があります。場合あなたの平方根行列、すなわち、次にノードに対してしたがって、推定された平方根行列の列間の内積を見ると、条件付きで独立した2つのノードがどれだけ近いかに似た数字が得られると思います。ただのアイデア。 $M$ $M'M = \Sigma^{-1}$ $i \neq j$

Σ_{i, j}^{- 1} = 0 ⟺ M_{i}^{'} M_{j} = 0

$\Sigma^{-1}_{i,j} = 0 \iff M_i'M_j = 0$

共分散行列の平方根、つまりスケールです。標準の法線ランダムベクトルをシミュレートしてから、平方根行列を事前に乗算することを想像しています。この行列が下三角である場合、私は常に小さな乗算と加算をすべて実行することを想像します。

また、平方根行列の特定の要素が共分散行列の個々の要素の平方根にすぎない場合も考えられます。しかし、これはそれほど興味深いことではないので、あなたはすでにこれについて考えていると思います。

— テイラー
ソース