高速無相関化のために、三重対角近似共分散行列を計算する方法は？

与えられたデータ行列 $X$ たとえば1000000観測 $\times$ 100個の機能、三重対角近似を構築する高速な方法はありますか $A \approx cov(X)$？
次に、ファクタリングできます$A = L L^T$、 $L$ 以外はすべて0 $L_{i\ i-1}$ そして $L_{i i}$、および解決することにより高速無相関化（ホワイトニング）を行います $L x = x_{white}$。（「速い」とは$O( size\ X )$。）

（追加、明確化しようとしている）：私は、フルよりも速くて汚れたホワイトナーを探しています $cov(X)$対角線より優れています。と言う$X$ です $N$ データポイント $\times Nf$ 機能、たとえば1000000$\times$ 100、特徴0-平均。

1）ビルド $Fullcov = X^T X$、コレスキーはそれを $L L^T$、 解決する $L x = x_{white}$ 新しい白くする $x$s。これは、特徴の数が2次である。

2）対角線： $x_{white} = x / \sigma(x)$ 相互相関を完全に無視します。

一つは、可能性の三重対角行列を取得します$Fullcov$ 三重対角線以外のすべてのエントリをゼロにするか、そもそもそれらを累積しないことによって。そしてここで沈み始めます：より良い近似、おそらく階層的、ブロック対角→三重対角があるはずです？

1）速い近似がありますか $cov(X)$？
いいえ（whuber）、すべてを見る必要があります${N \choose 2}$ ペア（または構造、またはサンプルを持っている）。

2）与えられた $cov(X)$、どれくらい速く新しいものを白くすることができますか $x$s？
さて、因数分解$cov = L L^T$、 $L$ 下三角、一度、次に解く $L x = x_{white}$ かなり速いです。たとえば、scipy.linalg.solve_triangularはLapackを使用します。
さらに高速なwhiten（）を探していましたが、まだ探していました。

単なるコンピューティングどんなイベントでも始めるために必要となるであろう共分散行列をすることは、$O((Nf)^2)$ そう、漸近的に $N$を選択しても何も得られません $O(Nf)$ ホワイトニングのアルゴリズム。

変数が時系列を形成したり、さまざまな場所での空間確率過程の実現を形成する場合など、変数に追加の構造がある場合は近似があります。これらは、同じタイムラグで区切られたペア間など、変数のペア間の共分散を他の変数のペア間の共分散に関連付けることができるという仮定に効果的に依存しています。これは、たとえば、プロセスが定常的または本質的に定常的であると仮定する従来の理由です。計算は$O(Nflog(Nf)$そのような場合（たとえば、Yao＆Journel 1998のように高速フーリエ変換を使用）。そのようなモデルがないと、すべてのペアワイズ共分散の計算をどのようにして回避できるかわかりません。

気まぐれで、私はOPで言及されているサイズとほぼ同じデータセットの共分散行列を（Rで）計算してみることにしました。

z <- rnorm(1e8)
dim(z) <- c(1e6, 100)
vcv <- cov(z)

Windows XP 32ビットを実行しているかなり一般的なラップトップで、これは合計で1分もかかりませんでした。z行列を計算するよりも、最初に生成するほうがおそらく時間がかかりましたvcv。また、Rはそのままの状態で行列演算用に特に最適化されていません。

この結果を考えると、速度はそれほど重要ですか？N >> pの場合、近似を計算するのにかかる時間は、実際の共分散行列を取得するよりもはるかに短いとは限りません。