ランダムウォークが相互相関しているのはなぜですか？

平均して、ピアソン相関係数の絶対値は、ウォークの長さに関係なく、任意のペアの独立したランダムウォークに近い定数であることがわかりました。0.560.42

誰かがこの現象を説明できますか？

ランダムなシーケンスのように、歩行の長さが長くなるにつれて相関が小さくなると予想しました。

私の実験では、ステップ平均0とステップ標準偏差1のランダムガウスウォークを使用しました。

更新：

データをセンタリングするのを忘れていたので、0.56代わりにでした0.42。

相関を計算するPythonスクリプトは次のとおりです。

import numpy as np
from itertools import combinations, accumulate
import random

def compute(length, count, seed, center=True):
    random.seed(seed)
    basis = []
    for _i in range(count):
        walk = np.array(list(accumulate( random.gauss(0, 1) for _j in range(length) )))
        if center:
            walk -= np.mean(walk)
        basis.append(walk / np.sqrt(np.dot(walk, walk)))
    return np.mean([ abs(np.dot(x, y)) for x, y in combinations(basis, 2) ])

print(compute(10000, 1000, 123))

独立したプロセスは相関していません！場合とYは、tは独立したランダムウォークのとおりです。$X_t$$Y_t$

• 時間通りに無条件の相関係数は存在しません。（については話さないでください。）$\operatorname{Corr}(X, Y)$
• 任意の時間について、Corr （X t、Y t）は実際に0です。$t$$\operatorname{Corr}(X_t, Y_t)$
• しかし、時系列平均に基づくサンプル統計は、何にも収束しません！長期間にわたる複数の観測値の平均に基づいて計算したサンプル相関係数は無意味です。

直感的に、あなたは（間違って）推測するかもしれません：

1. 2つのプロセスと{ Y t }の独立性は、それらの相関がゼロであることを意味します。（2つのランダムウォークの場合、Corr （X 、Y ）は存在しません。）$\{X_t\}$$\{Y_t\}$$\operatorname{Corr}(X, Y)$
2. 時系列、サンプル相関ρ X Y（時系列を用いて算出し、すなわち相関係数などのサンプル統計^ μ X = 1$\hat{\rho}_{XY}$）集団相関係数に収束するρXYとしてT→∞。$\hat{\mu_X} = \frac{1}{T} \sum_{\tau = 1}^T X_\tau$$\rho_{XY}$$T \rightarrow \infty$

問題は、これらのステートメントのどちらもランダムウォークに当てはまらないことです！（これらは、より適切に動作するプロセスに当てはまります。）

非定常プロセスの場合：

• 特定の2つの特定の時点でのプロセスと{ Y t }の相関関係について話すことができます（たとえば、Corr （X 2、Y 3）は完全に賢明なステートメントです）。$\{X_t\}$$\{Y_t\}$$\operatorname{Corr}(X_2, Y_3)$
• しかし、2つのシリーズの相関関係を時間通りに無条件に話すのは意味がありません！は明確な意味はありません。$\operatorname{Corr}(X, Y)$

ランダムウォークの場合の問題は？

1. ランダムウォークの場合、E [ X ]などの無条件の人口モーメント（つまり、時間依存しない）は存在しません。（いくつかの緩い意味では、それらは無限である。）同様に、無条件相関係数ρ X Y二つの独立したランダムウォークの間はゼロではありません。実際には存在しません！$t$$\operatorname{E}[X]$$\rho_{XY}$
2. エルゴード定理の仮定は適用されず、さまざまな時系列平均（例：）していないとして、何に向かって収束T→∞。 $\frac{1}{T} \sum_\tau X_\tau$$T \rightarrow \infty$
   • 定常シーケンスの場合、時系列平均は最終的には無条件の平均に収束します。しかし、非定常シーケンスの場合、時間通りに無条件であるという意味はありません！

時間の経過に伴う2つの独立したランダムウォーク（、X 2など、およびY 1、Y 2など）のさまざまな観測値があり、サンプル相関係数を計算すると、数値が得られます。− 1と1の間。ただし、人口相関係数の近似値ではありません（存在しません）。$X_1$$X_2$$Y_1$$Y_2$$-1$$1$

代わりに（からの時系列平均値を用いて計算し、T = 1とT = T（）内の値をとる基本的にランダムな変数になるだろう[ - 1 、1 ]）は、2つの特定のパスを反映します偶然にかかったランダムウォーク（つまり、サンプル空間Ωから引き出されたドローωで定義されたパス）。$\hat{\rho}_{XY}(T)$$t=1$$t=T$$[-1, 1]$$\omega$$\Omega$

• とY tの両方が偶然同じ方向にふらついた場合、偽の正の関係が検出されます。$X_t$$Y_t$
• 場合とYのtは異なる方向にさまよっ、あなたは偽の負の関係を検出します。$X_t$$Y_t$
• 場合とYのtは互いに十分に渡ってさまように起こった、あなたはゼロに近い関係を検出します。$X_t$$Y_t$

これについては、Googleの用語で確認できますspurious regression random walk。

ランダムウォークは静止していないと、時間にわたり平均を取っあなたが描くIIDを取ることによって得るだろうかに収束しないωをサンプルスペース内からΩ。上記のコメントで述べたように、最初に違い取ることができるΔ X T = X Tを - X T - 1とランダムウォークのために、そのプロセス{ Δ X tは }静止しているが。$t$$\omega$$\Omega$$\Delta x_t = x_t - x_{t-1}$$\{\Delta x_t\}$

全体像：

経時的な複数の観測は、サンプル空間からの複数の描画と同じではありません！

離散時刻ことリコール確率過程 時間（両方の関数であるT ∈ N）とサンプル空間Ω。$\{ X_t \}$$t \in \mathbb{N}$$\Omega$

時間平均がサンプル空間Ωの期待値に収束するためには、定常性とエルゴード性が必要です。これは、多くの時系列分析の中心的な問題です。そして、ランダムウォークは定常的なプロセスではありません。$t$$\Omega$

WHuberの答えへの接続：

時間tで平均を取るように強制する代わりに、複数のシミュレーションで平均を取ることができる（つまり、から複数のドローを取る）場合、多くの問題が消えます。$\Omega$$t$

あなたはもちろん定義できρ X Y（T ）上で計算標本相関係数としてX 1 ... X T及びY 1 ... Y Tとこれも確率的なプロセスであろう。$\hat{\rho}_{XY}(t)$$X_1\ldots X_t$$Y_1 \ldots Y_t$

ランダム変数を次のように定義できます。$Z_t$

$$Z_t = |\hat{\rho}_{XY}(t)|$$

始まる2つのランダムウォークについてとN（0 、1 ）刻み、それを見つけるのは簡単だEは、[ Zが10000 ]シミュレーションにより（すなわち、複数から引く取っΩ。）$0$$\mathcal{N}(0,1)$$E[Z_{10000}]$$\Omega$

以下では、サンプルピアソン相関係数の10,000計算のシミュレーションを実行しました。毎回：

• シミュレートされた2万の長ランダムウォーク（正規分布の増分から引くと）。$\mathcal{N}(0,1)$
• それらの間のサンプル相関係数を計算しました。

以下は、計算された10000個の相関係数の経験的分布を示すヒストグラムです。

あなたは明らかにランダム変数ことを観察することができρ X Y（10000 ）区間内のすべての場所にすることができ、[ - 1 、1 ]。XとYの 2つの固定パスの場合、時系列の長さが増加してもサンプル相関係数は何にも収束しません。$\hat{\rho}_{XY}(10000)$$[-1, 1]$$X$$Y$

一方、特定の時間（例えば。のために）、サンプルの相関係数はランダム変数である有限平均等...私は絶対値を取り、すべてのシミュレーション上の平均値を計算した場合は、約.42を計算します。なぜあなたがこれをしたいのか、なぜこれがまったく意味があるのか​​分かりませんが、もちろんできます。$t=10,000$

コード：

for i=1:10000 
  X = randn(10000,2); 
  Y = cumsum(X); 
  z(i) = corr(Y(:,1), Y(:,2));
end;
histogram(z,20);
mean(abs(z))

正確な結果を得るために必要な数学は厄介ですが、予想される2乗相関係数の正確な値を比較的簡単に導き出すことができます。それは近い値理由を説明するのに役立ちます現れて、なぜ長増加し続けるnはランダムウォークのは、物事を変更しません。$1/2$$n$

標準用語について混乱する可能性があります。質問で言及されている絶対相関と、それを構成する統計（分散および共分散）は、ランダムウォークの実現の任意のペアに適用できる式です。この質問は、多くの独立した実現を見たときに何が起こるかに関するものです。そのためには、ランダムウォークプロセスに期待する必要があります。

---

（編集）

先に進む前に、グラフィカルな洞察を皆さんと共有したいと思います。 一対の独立したランダムウォークは、2次元のランダムウォークです。我々は、それぞれの手順では、そのパスをプロットすることができる（XはT、YのT）するX T + 1、Y T Yの値は標準偏差を等しく、最小二乗の適合重畳$(X,Y)$$(X_t,Y_t)$。このパスが下に向かう場合（通常のXY軸にプロットされた左から右）、相関の絶対値を調べるために、すべてのY値を否定しましょう。軸上のプロット散歩を与えるように寸法Xをし、$X_{t+1},Y_{t+1}$$Y$$X$$Y$$Y$とます。これらの線の勾配は相関係数の絶対値であり、常に0と1の間にあります。$X$$0$$1$

この図は、それぞれ長さ960のそのような歩行を示しています（標準の標準の違いを使用）。小さな白丸が出発点を示します。暗い円は最終的な場所を示します。$15$$960$

これらの斜面はかなり大きくなる傾向があります。この多くの点の完全にランダムな散布図は、常にゼロに非常に近い勾配を持ちます。ここで出現するパターンを説明する必要がある場合、ほとんどの2Dランダムウォークは、ある場所から別の場所に徐々に移行すると言えます。 （ただし、これらは必ずしも開始位置と終了位置ではありません！）約半分の時間で、その移行は対角線方向に発生し、それに応じて勾配が大きくなります。

この投稿の残りの部分では、この状況の分析をスケッチします。

---

ランダムウォークは、（W 1、W 2、… 、W n）の部分和のシーケンスです。ここで、W $(X_i)$$(W_1, W_2, \ldots, W_n)$$W_i$は、独立に分布するゼロ平均変数です。彼らの共通の分散が可能ましょう。$\sigma^2$

実現ような歩行の、x n）では、「分散」は、これがデータセットであるかのように計算されます。$x = (x_1, \ldots, x_n)$

$$\operatorname{V}(x) = \frac{1}{n}\sum (x_i-\bar x)^2.$$

この値を計算する良い方法は、すべての平方差の平均の半分を取ることです。

$$\operatorname{V}(x) = \frac{1}{n(n-1)}\sum_{j \gt i} (x_j-x_i)^2.$$

がランダムウォークXの結果として表示される場合$x$$X$のステップ、この期待は$n$

$$\mathbb{E}(\operatorname{V}(X)) = \frac{1}{n(n-1)}\sum_{j \gt i} \mathbb{E}(X_j-X_i)^2.$$

違いはiid変数の合計です。

$$X_j - X_i = W_{i+1} + W_{i+2} + \cdots + W_j.$$

広場を展開し、期待をかけます。ので、独立しており、ゼロ手段を有する、すべての交差項の期待値はゼロです。W kのような用語のみが残り、その期待値は$W_k$$W_k$。かくして$\sigma^2$

$$\mathbb{E}((W_{i+1} + W_{i+2} + \cdots + W_j^2)) = (j-i)\sigma^2.$$

それは簡単に続きます

$$\mathbb{E}(\operatorname{V}(X)) = \frac{1}{n(n-1)}\sum_{j \gt i} (j-i)\sigma^2 = \frac{n+1}{6}\sigma^2.$$

2つの独立した実現とyの間の共分散$x$$y$再びランダム変数ではなくデータセットの意味で-は同じ手法で計算できます（ただし、より多くの代数的作業が必要です; 4倍の合計が含まれます）。その結果、予想される共分散の二乗は

$$\mathbb{E}(\operatorname{C}(X,Y)^2) = \frac{3n^6-2n^5-3n^2+2n}{480n^2(n-1)^2}\sigma^4.$$

その結果、XステップとYの間の2乗相関係数の期待値は、nステップで取り出されます。$X$$Y$$n$

$$\rho^2(n) = \frac{\mathbb{E}(\operatorname{C}(X,Y)^2)}{\mathbb{E}(\operatorname{V}(X))^2} = \frac{3}{40}\frac{3n^3-2n^2+3n-2}{n^3-n}.$$

これは一定ではありませんが、制限値に急速に近づきます。したがって、その平方根は約0.47であり、予想されるρの絶対値に近似します$9/40$$0.47$（そして過小評価します）。$\rho(n)$

---

計算エラーを犯したと確信していますが、シミュレーションは漸近精度を裏付けています。ヒストグラムを示す以下の結果でのための1000の破線の青い線は、式の値を表示しながら、シミュレーション毎に、垂直赤い線は、手段を示します。明らかに間違っていますが、漸近的には正しいです。明らかに全体の分布ρ 2（nが）のような限界に近づいている、Nが増加します。同様に、|の分布 ρ （n ）| （これは関心のある量です）が限界に近づきます。$\rho^2(n)$$1000$$\rho^2(n)$$n$$|\rho(n)|$

これは、R図を生成するコードです。

f <- function(n){
  m <- (2 - 3* n + 2* n^2 -3 * n^3)/(n - n^3) * 3/40 
}
n.sim <- 1e4
par(mfrow=c(1,4))
for (n in c(3, 10, 30, 100)) {
  u <- matrix(rnorm(n*n.sim), nrow=n)
  v <- matrix(rnorm(n*n.sim), nrow=n)
  x <- apply(u, 2, cumsum)
  y <- apply(v, 2, cumsum)
  sim <- rep(NA_real_, n.sim)
  for (i in 1:n.sim)
    sim[i] <- cor(x[,i], y[,i])^2
  z <- signif(sqrt(n.sim)*(mean(sim) - f(n)) / sd(sim), 3)
  hist(sim,xlab="rho(n)^2", main=paste("n =", n), sub=paste("Z =", z))
  abline(v=mean(sim), lwd=2, col="Red")
  abline(v=f(n), col="Blue", lwd=2, lty=3)
}