小さなノルム調整の固有ベクトル

ゆっくりと変化するデータセットがあり、その共分散行列の固有ベクトル/固有値を追跡する必要があります。

私はを使用してきましたがscipy.linalg.eigh、高すぎるため、すでに少しだけ正しくない分解が既に存在しているという事実を使用していません。

誰もがこの問題に対処するためのより良いアプローチを提案できますか？

単純なアプローチは、あなたの行列の固有値ソリューションを使用することで行列するための反復固有値の最初の推測として、。フルスペクトルが必要な場合はQRを使用し、それ以外の場合はパワーメソッドを使用します。ただし、これは完全に堅牢なアプローチではありません。特に、条件が不十分な場合（2）の場合、行列の固有値は必ずしも近くの行列に近いとは限らないためです（1 ）。$A(t)$$A(t + \delta t)$

部分空間追跡法の方が明らかに便利です（3）。（4）からの抜粋：

極値（最大または最小）の固有ペア（固有値と固有ベクトル）の反復計算は、1966年まで遡ることができます[72]。1980年にThompsonは、サンプルの共分散行列の最小固有値に対応する固有ベクトルを推定するためのLMSタイプの適応アルゴリズムを提案し、Pisarenkoの調和推定器と組み合わせた角度/周波数の適応追跡アルゴリズムを提供しました[14]。Sarkar et al。[73]共役勾配アルゴリズムを使用して、ゆっくり変化する信号の共分散行列の最小固有値に対応する極値固有ベクトルの変動を追跡し、トンプソンのLMSタイプアルゴリズムよりもはるかに速い収束を証明しました。これらの方法は、限られたアプリケーションで単一の極値と固有ベクトルを追跡するためにのみ使用されました。しかし、後にそれらは固有部分空間追跡と更新方法のために拡張されました。Comon and Golub [6]は、1990年に、極端で特異な値と特異なベクトルを追跡するためのLanczos法を提案しました。$Ax = kx$ [74]。

[6]：Comon、P.＆Golub、GH（1990）。信号処理でいくつかの極端な特異値とベクトルを追跡します。IEEEの処理（pp。1327–1343）。

[14]：Thompson、PA（1980）。不偏周波数のための適応スペクトル分析技術

[72]：Bradbury、WW、＆Fletcher、R.（1966）。固有問題の解のための新しい反復法。数値数学、9（9）、259–266。

[73]：Sarkar、TK、Dianat、SA、Chen、H。、およびBrule、JD（1986）。共役勾配法による適応スペクトル推定 IEEE Transactions on Acoustic、Speech、and Signal Processing、34（2）、272–284。

[74]：Golub、GH、＆Van Load、CF（1989）。行列計算（第2版）。ボルチモア：ジョンホプキンス大学出版局。

また、を使用した場合に解決しなければならないものなど、対称行列の解scipy.linalg.eighはいくぶん安価であることにも言及する必要があります。少数の固有値のみに関心がある場合は、メソッドの速度も向上する可能性があります。このような状況では、Arnoldiメソッドがよく使用されます。

時間依存の共分散行列の固有分解を更新するための特別な手法が存在します。「以前の」固有値分解（たとえば、ある初期時間）が与えられると、これらの再帰的アルゴリズムは、スペクトル更新の複雑さを（本質的には新しい固有分解のコスト）から下げます。ここで、は行列のサイズ、は更新のランクです。O（N 3）O（k N 2）N $t^0$$\mathcal{O}(N^3)$$\mathcal{O}(k N^2)$$N$$k$

関連する参照をいくつか示します。

一次摂動に基づくデータ共分散行列の適応固有分解 （Champagne、IEEE TSP 42（10）1994）

共分散行列の固有値分解を再帰的に更新する（Yu、IEEE TSP、39（5）1991）

高次元のオンライン主成分分析：どのアルゴリズムを選択するか？（カルドとデグラス）

特異値分解を更新するための安定した高速アルゴリズム（GuとEisenstadt、1994）