希薄で非常に悪条件なシステムの解決

私はAx = bを解こうとしています。ここで、Aは複雑で、スパースで、非対称で、非常に悪条件（条件番号〜1E + 20）の正方形または長方形の行列です。LAPACKのZGELSSでシステムを正確に解くことができました。しかし、私のシステムの自由度が高くなると、スパース性が活用されないため、ZGELSSを使用してPCでシステムを解くのに長い時間がかかります。最近、同じシステムでSuperLU（Harwell-Boeingストレージを使用）を試しましたが、条件番号> 1E + 12で結果が不正確でした（これがピボットの数値的な問題かどうかはわかりません）。

すでに開発されたソルバーを使用する傾向があります。私が言及したシステムをすばやく（つまり、スパース性を活用して）確実に（条件数を考慮して）解決できる堅牢なソルバーはありますか？

ZGELSSを使用してこの問題を解決する場合、切り捨てられた特異値分解を使用して、この非常に悪条件の問題を正則化します。このライブラリルーチンは最小二乗解を見つけるのではなく、を最小化する解のバランスをとることを理解することが重要です最小化に対して。 $Ax=b$$\| x \|$$\| Ax-b \|$

ZGELSSに渡されるパラメーターRCONDを使用して、どの特異値を含め、解の計算から除外するかを指定できます。RCOND * S（1）（S（1）は最大の特異値）未満の特異値は無視されます。ZGELSSでRCONDパラメータをどのように設定したかについてはまだ説明していません。、行列または右側のの係数のノイズレベルについては何もわかっていないため、使用したかどうかはわかりません適切な量​​の正則化。 $A$$b$

ZGELSSで得られる正則化された解に満足しているように見えるため、切り捨てられたSVD法によって正則化が行われたようです（最小二乗解の中で最小の解を見つけ、を最小化します RCOND * S（1）よりも大きい特異値に関連付けられた特異ベクトルにまたがる解の空間上のは、問題ありません。 $\| x \|$$\| Ax-b \|$

あなたの質問は、「この大規模でスパースで条件の悪い線形最小二乗問題に対する正則化された最小二乗解を効率的に取得するにはどうすればよいですか？」として再定式化できます。

私の推奨は、反復法（CGLSやLSQRなど）を使用して、明示的に正則化された最小二乗問題を最小化することです。

$\min \| Ax-b \|^{2} + \alpha^{2} \| x \|^{2}$

ここで、正規化パラメーターは、減衰最小二乗問題が適切に調整され、結果の正規化された解に満足するように調整されます。 $\alpha$

ジェド・ブラウンはすでに質問へのコメントでこれを指摘していますが、条件数が大きい場合、通常の倍精度で実行できることはほとんどありません。ほとんどの場合、1桁の精度は得られないでしょう。解、さらに悪いことに、解ベクトルに対応する残差を正確に評価できないので、それを知ることさえできません。言い換えれば、どの線形ソルバーを選択するかという問題ではありません。そのような行列に対して有用な何かを行う線形ソルバーはありません。

このような状況は通常、不適切な基準を選択したために発生します。たとえば、ガラーキン法の基礎として関数を選択した場合、このような悪条件の行列が得られます。（これにより、悪条件で悪名高い悪名高いヒルベルト行列が生成されます。）このような場合の解決策は、どのソルバーが線形システムを解くことができるかを尋ねるのではなく、使用できるより良い基底があるかどうかを尋ねることです。同じことをすることをお勧めします。これらの種類の行列で終わらないように問題を再構成することを考えてください。$1,x,x^2,x^3,...$

悪条件の問題を解決する最も簡単な/最速の方法は、（ブルートフォースによって）計算の精度を上げることです。別の（まだ可能ではない）方法は、問題を再定式化することです。

4倍精度（10進34桁）を使用する必要がある場合があります。（条件番号のため）20桁がコースで失われる場合でも、14桁の正しい数字が得られます。

興味があれば、MATLABで4倍精度スパースソルバーも利用できるようになりました。

（私は上記のツールボックスの作者です）。