サンプル相関とサンプル標準偏差（と呼ぶ）は、正の真の相関を持つ二変量正規、をシミュレートすると正の相関があるように見えます（と間の真の相関が負の場合は負の相関があるようです）負）。これはやや直観に反することがわかりました。非常にヒューリスティックに、がXの1 SDの増加に対するYの予想される増加（SD（Y）の単位）を表すという事実を反映していると思いますが大きくなると推定すると、はYの変化を反映します。 Xのより大きな変更に関連付けられています。$r$$X$$s_X$$X$$Y$$X$$Y$$r$$s_X$$r$

しかし、私はかどうかを知りたいのため（少なくともX及びYは、正常と大きいnの二変量である場合について）一般的に成り立ちます。まかせ表す真SD、我々が持っています：$Cov(r, s_x) >0$$r>0$$\sigma$

$$Cov(r, s_X) = E [ r s_X] - \rho \sigma_x$$

$$\approx E \Bigg[ \frac{\widehat{Cov}(X,Y)}{s_Y} \Bigg] - \frac{Cov(X,Y)}{\sigma_Y}$$

最初の項でテイラー展開を使用してみましたが、それはにため、行き止まりです。何か案は？$Cov(\widehat{Cov}(X,Y), s_Y)$

編集

たぶん、より良い方向は、であることを示すことを試みることですここで、は、X上のYのOLS係数です。それから、、これは望ましい結果を意味します。以来ほとんどのサンプル手段の違いのようなものです、多分私達は通常のRV用のサンプル平均と分散の既知の独立性のようなものを使用して元の結果を得ることができますか？$Cov(\widehat{\beta}, s_X)=0$$\widehat{\beta}$$\widehat{\beta} = r \frac{s_Y}{s_X}$$\widehat{\beta}$

TL; dr

は、混合された4次モーメントの特別な条件が満たされた場合のみ、サンプル共分散の非対角要素は、通常、対角要素と相関します。場合二変量ガウス分布である、これらの条件は、ときにのみ保持無関係である。$E(XY^3) - E(XY)E(Y^2) = 0$$(X,Y)$$X$$Y$

細部

限界分布をサンプル共分散（CLTにより、多変量正規になる）で調べ、デルタ法を適用することにより、ここに示すことができる漸近的な結果があります。これは残念ながら、サンプルの共分散分布の導出を迂回する必要があることを意味します。オンラインで適切な参照を見つけることができないためです。あるいは、正規性を仮定しても構わない場合は、ウィシャート分布の共分散の知識があれば、セクション2に直接スキップできます。$\sqrt n$$^1$

1サンプルの共分散の漸近分布

LET二変量分布からIIDサンプルである有限の4次モーメントと、およびlet 一般性を失わずに、煩わしい追加の簿記を避けるために、と仮定します 。 $V_1, \dotsc, V_n$$V_i = \begin{pmatrix} X_i \\ Y_i \end{pmatrix}$

$$\text{Cov}(V_i) = \begin{pmatrix} \sigma^2 & \rho \sigma \tau \\ \rho \sigma \tau & \tau^2 \end{pmatrix} = \Sigma.$$ $E(V_i) = \mathbf{0}$

次に、期待値の線形性と大きな数の弱い法則により、サンプルの共分散 は不偏で一貫しています、そして実際には

$$S_n = \frac{1}{n-1} \sum_{i=1}^n (V_i - \bar V_n) (V_i - \bar V_n)^T = \frac{1}{n-1}\sum_{i=1} V_i V_i^T - \frac{n}{n-1} \bar V_n \bar V_n^T$$ $\Sigma$ $$\sqrt{n} (S_n - \Sigma) \rightarrow_d N(0, \Lambda).$$

したがって、演習は決定に移ります $\Lambda$。対称行列の場合$\mathbf{A} = \begin{pmatrix} a & b \\ b & c \end{pmatrix}$、させて $\tilde{\mathbf{A}} = (a, b, c)^T$上三角の「ベクトル化」である。ここで、主要な項（散布図行列）に入る平均の単一要素を考えます。$S_n$：

$$\tilde Z_i = \widetilde{V_i V_i^T} = \begin{pmatrix} X_i^2 \\ X_i Y_i \\ Y_i^2 \end{pmatrix}.$$ 明らかにゼロ平均の仮定により、すでに $E(Z_i) = \tilde \Sigma$ そしての力を考慮することによって $X$ そして $Y$ に現れる $\tilde{Z}_i \tilde{Z}_i^T$ 私たちはただ書くことができます $$\text{Cov}(\tilde Z_i) = E(\tilde Z_i \tilde Z_i^T) - E(\tilde Z_i) E(\tilde Z_i)^T = \begin{pmatrix} \kappa_{40} \sigma^4 & \kappa_{31} \sigma^2 \tau & \kappa_{22} \sigma^2 \tau^2 \\ \kappa_{31} \sigma^2 \tau & \kappa_{22} \sigma^2 \tau^2 & \kappa_{13} \sigma \tau^3 \\ \kappa_{22} \sigma^2 \tau^2 & \kappa_{13} \sigma \tau^3 & \kappa_{04} \tau^4 \end{pmatrix} - \tilde \Sigma \tilde \Sigma^T.$$

ここに

$$\kappa_{ij} = E \left[ \left( \frac{X_i}{\sigma} \right)^i \left( \frac{Y_i}{\tau} \right)^j \right]$$ を示します $ij$混合された標準化されたモーメント（平均についてですが、最初は平均ゼロと仮定しました）。

あるいは、因数分解があります

$$\text{Cov}(\tilde Z_i) = D(\sigma, \tau) [ K - R(\rho) R(\rho)^T ] D(\sigma, \tau), \quad (1)$$ どこ $D(\sigma, \tau) = \text{diag}(\sigma^2, \sigma \tau, \tau^2)$、 $R(\rho) = (1, \rho, 1)^T$ そして $$K = \begin{pmatrix} \kappa_{04} & \kappa_{31} & \kappa_{22} \\ \kappa_{31} & \kappa_{22} & \kappa_{13} \\ \kappa_{22} & \kappa_{13} & \kappa_{04} \end{pmatrix}.$$

したがって、 $Z_{11}$ そして $Z_{12}$の標本分散を表す $X$ との共分散 $X,Y$ 相関しない限り $\rho = \kappa_{31}$。いつ$V_i$ 多変量正規です。これは次の場合にのみ発生します $\rho = 0$。

2相関係数

今、変革を考えて $g(x, y, z) = (x, \frac{y}{\sqrt{z}\sqrt{x}})$ オン $\tilde{S_n}$。これは、サンプル相関係数の2変量分布とxのサンプル分散を提供します。デルタ法と漸近正規性$S_n$、

$$\sqrt{n}( g(\tilde{S_n}) - (\rho, \sigma^2)^T ) \rightarrow N(0, \mathbf{J}(\tilde \Sigma)^T \tilde \Lambda \mathbf{J}(\tilde \Sigma)),$$ どこ $\mathbf{J}(\tilde \Sigma) = [\nabla g_1^T, \nabla g_2^T]^T$ のヤコビアンです $g$。

私は（おそらくあなたは私の代数をチェックしたいと思うかもしれませんが…） $g$ です

$$\nabla g_2 (\sigma^2, \rho \sigma \tau, \tau^2) = \left( -\frac{\rho}{2\sigma^2}, \frac{1}{\sigma \tau}, -\frac{\rho}{2 \tau^2} \right)^T,$$
そう $$J(\sigma, \rho, \tau) = \begin{pmatrix} 1 & -\frac{\rho}{2\sigma^2} \\ 0 & \frac{1}{\sigma \tau} \\ 0 & -\frac{\rho}{2 \tau^2} \end{pmatrix}.$$

式（1）の因数分解とすべてまとめると、

$$J(\sigma, \rho, \tau)^T D(\sigma, \tau) [ K - R(\rho) R(\rho)^T ] D(\sigma, \tau) J(\sigma, \rho, \tau).$$

使いやすい数字を差し込む、と言う$\sigma = \tau = 1$ そして $\rho = .5$、私たちは

$$J(\sigma, \rho, \tau)^T D(\sigma, \tau) [ K - R(\rho) R(\rho)^T ] D(\sigma, \tau)J(\sigma, \rho, \tau) = \begin{pmatrix} -1/4 & 1 & -1/4 \\ 1 & 0 & 0 \end{pmatrix} \mathbf I \Omega \mathbf I \begin{pmatrix} -1/4 & 1 \\ 1 & 0 \\ -1/4 & 0 \end{pmatrix} = \mathbf{Q},$$ どこ $\Omega = K - R(\rho) R(\rho)^T$一般的に、いくつかの密な行列です。Mathematicaの厚意により、この製品を$K$ と以下に再カウント $Q_{12}$ $$n \times Q_{12} = n \times \text{Cov}(r, s^2_x) = \kappa_{31} -\frac{\kappa_{04} + \kappa_{22}}{4} \quad (2)$$ これは混合モーメントに関しては不透明な表現ですが、一般的にはゼロになるとは思えません。

3通常のケースに特化

イッサリスの定理は、ガウスの混合モーメントを導き出す方法を提供します。再び仮定$\sigma = \tau = 1$ そして $\rho = .5$、私たちは持っているだろう $\kappa_{31} = 3/2, \kappa_{04} = 3, \kappa_{22} = 3/2$したがって、 $Q_{12} = 3/2 - (3 + 3/2)/4 = 3/8 > 0$、あなたが観察するように。

4シミュレーションと例

シミュレーション検証式（1）を以下に示します。ために$n=100$ そして $n=1000$ （それぞれ赤と青で）多変量正規からのiid観測、私はの共分散を導きます $\sqrt{n} \tilde S_n$ブートストラップによって。間の共分散$S_{xy}$ そして $S_{xx}$ y軸にプロットされます $\rho$ 異なる $-.9$ に $.9$。式（1）からの理論値と、2変量ガウスの4次モーメントに関する事実を使用すると、黒い破線でプロットされます。

楽しい練習は、任意の値のコピュラの家族を見つけることを試みることです $\rho$ レンダリングする $\text{Cov}(S_{xy}, S_{xx}) = 0$...

library(mvtnorm)
library(tidyverse)
library(boot)
params = expand.grid(sx = 1, sy = 1, n = c(100, 1000), rho = seq(-.9, .9, by = .1), replicate = 1:10) %>% mutate(k04 = 3*sx^4, k31 = 3*sx*rho*sx*sy, q12 = k31 - rho*sx*sy)

Sn_tilde = function(dat, idx){
    Sn = cov(dat[idx,,drop =FALSE])*sqrt(length(idx))
    Sn[upper.tri(Sn, diag = TRUE)]
}

out = params %>% group_by_all() %>% do({
    x = with(., rmvnorm(n = .$n, sigma = matrix(c(sx^2, rho*sx*sy,
                                            rho*sx*sy, sy^2), nrow = 2)))
colnames(x) = c('X', 'Y')
b = boot(x, Sn_tilde, R = 500)
cov_Sn = cov(b$t)
    rownames(cov_Sn) = colnames(cov_Sn) = c('Sxx', 'Sxy', 'Syy')
    as_tibble(cov_Sn, rownames = 'j')
})


ggplot(filter(out,  j == 'Sxx'), aes(x = rho, y = Sxy, color = factor(n))) + geom_point(size = .5, alpha = .5) + geom_smooth(method = 'lm') + geom_line(data = filter(params, replicate == 1, n == 100), aes(y = q12), lty = 2, color = 'black') + theme_minimal() + ylab('Cov(Sxy, Sxx)')

---

$^1$ これは、確率と数学的統計に関するMichael Perlmanの講義ノートを多用しています。これは、電子的に利用できるようにして、私の消耗品が消耗したときに交換できるようにしたいです...

編集：この答えは正しくありません。記録のためにここに残した方が良いのか、それとも単に削除した方が良いのかわかりません。

はい、XとYの分布に関係なく、漸近的に保持されます。テイラー展開で私は正しい軌道に乗っていました。

それは共同配布に依存します。あなたが言及した例では、二変量（ゼロ平均）正規分布は、$\rho, \sigma_x, \sigma_y$。したがって、これら3つのパラメーターの値のすべての可能な組み合わせを持つことができます。つまり、$\rho$ そして、標準偏差を確立することができます。

他の二変量分布の場合、相関係数は基本的に標準偏差の関数である可能性があり（基本的には両方がより原始的なパラメーターの関数になります）、その場合、単調関係が存在するかどうかを調べることができます。