特異値分解のアルゴリズムに関する最新技術は何ですか?


12

私は可能な限りシンプルなパッケージである程度の線形代数機能を提供するためにヘッダーのみのマトリックスライブラリに取り組んでおり、現在の最先端が何であるかを調査しようとしています:SVDの計算複雑なマトリックス。

私は、2相分解、2重対角化とそれに続く特異値計算を行っています。今、私はbidiagonalization(私はLAPACKは同様にこれを使用すると信じて)、と私は考えるために世帯主の方法を使用していることについての、現在につれて良いとして(誰かがを知っているしない限り、そのためのアルゴリズム...) 。 O(N2)

特異値の計算は私のリストの次にあり、私はこれを行うための一般的なアルゴリズムが何であるかについてのループからやや外れています。ここで、研究は複雑性との直交性を保証する逆反復法に向かっていることを読みました。私はそれまたは他の進歩について聞いてみたいです。O(N)


ヘッダーのみのマトリックスlib(.h以外)のドキュメントはありますか?また、タグ「svd」を追加してください。
デニス

回答:


7

「ランダム化されたアルゴリズム」は最近、部分的なsvdsで非常に人気があります。ヘッダーのみの実装は、http//code.google.com/p/redsvd/からダウンロードできます。

現在のメソッドのレビューは、http//arxiv.org/abs/0909.4061にあります。

完全なsvdsについて、Householderよりもうまくやれるかどうかはわかりません。


それは非常に興味深いように思えますが、私はその調査論文を見てみる必要があります、ありがとう!
-gct

OPは、密行列のアルゴリズムに関心があります。ランダム化されたアルゴリズムは、それらがまったく機能していれば、その設定で競争力があるとは思いません。
フェデリコポロニ

この投稿は、ランダム化された方法は、密行列にうまく動作示さresearch.facebook.com/blog/294071574113354/fast-randomized-svd
dranxo

@dranxoその投稿には精度の比較はまったくなく、タイミングの結果はあまり細心の注意を払っていません。また、ランダム化アルゴリズムは、射影+小規模問題の正確な解決に基づいています。これは、とにかく結果として生じる小規模の問題のために、OPが「標準メソッド」の実装を必要とすることを意味します。
フェデリコポロニ

けっこうだ。これらの方法がスパース行列でのみ機能すると考える理由を少し混乱させていますが。ジョエル・トロップの論文の要約をすぐにご覧ください:「密な入力行列の場合、ランダム化アルゴリズムには、古典的なアルゴリズムのO(mnk)とは対照的にO(mn log(k))浮動小数点演算(フロップ)が必要です。」arxiv.org/pdf/0909.4061v2.pdf
dranxo

4

ON

(詳細を書き出す時間がないので、コメントをいくつか書きたかったのですが、コメントボックスではかなり大きくなりました。)

LDLうんDうん

一方、アルゴリズムの「特異値」部分は、(シフトされた)微分商差(dqd(s))アルゴリズムに由来します。これは、フェルナンド、パーレットデメル、カハンによる以前の研究の集大成です(インスピレーション付き)ハインツ・ルティスハウザーから)。

ご存知かもしれませんが、SVDメソッドは通常、特異値が2重対角行列から取得される前に最初に2重対角分解を開始します。残念ながら、フロントエンドの両対角分解の現在の最良の方法についてはあまり更新されていません。最後に確認しましたが、通常の方法は、列ピボットを使用したQR分解から開始し、次に直交変換を三角因子に適切に適用して、最終的に2重対角分解を取得することです。

私は細部にまでこだわっていることを理解しています。ライブラリにアクセスしたら、この答えをさらに具体化してみます...


行列を双対角形にし、列、行を実行し、対角線を下に繰り返します。givensまたはhouseerを使用して、対角線まで列をゼロにし、行を超対角線まで同じようにします。
アダムW

うんAVうんうん=VV=

0

PROPACKおよびnu-TRLanライブラリがあります。

http://soi.stanford.edu/~rmunk/PROPACK/

http://crd-legacy.lbl.gov/~kewu/trlan/


2
ここで、ポスターはライブラリーではなくアルゴリズムを求めています。代わりに、これらのライブラリで使用されているアルゴリズム、それらの計算の複雑さ、およびこれらのライブラリが最新技術である理由についてお話いただけますか?
ジェフオックスベリー
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.